AI Gone Rogue: 6 kertaa AI meni liian pitkälle

Tekoäly on muuttanut elämäämme äänentunnistuslaitteista älykkäisiin chatboteihin. Mutta jokaisella hyvällä asialla on myös haittapuolensa, eikä tekoäly ole poikkeus tästä säännöstä. Johtavat teknologiahahmot ovat varoittaneet tekoälyn uhkaavista vaaroista, mukaan lukien Stephen Hawking, joka sanoi, että se voi olla "sivilisaatiomme historian pahin tapahtuma".

Tässä kuusi kertaa tekoäly meni hieman liian pitkälle ja jätti meidät raapimaan päätämme.

1. Akateeminen tutkimus, joka käytti tekoälyä rikollisuuden ennustamiseen

Akateeminen tutkimus on tieteellisen edistyksen ja tiedon selkäranka. Jotkut sanovat kuitenkin, että tutkijat menivät liian pitkälle, kun akateeminen tutkimus käytti tekoälyä ennustamaan kasvojen rikollisuutta.

Harrisburgin yliopiston tutkijat julkistettiin vuonna 2020 että he olivat kehittäneet kasvojentunnistusohjelmiston, joka voi ennustaa, olisiko joku rikollinen. Ohjelmiston väitetään ennustavan yhdestä kasvokuvasta 80 %:n tarkkuudella ja ilman rotuja.

Minority Reportia muistuttavassa kohtauksessa ilmoitettiin, että ohjelmisto on kehitetty auttamaan lainvalvontaa.

Vastauksena tähän ilmoitukseen, 2425 asiantuntijaa allekirjoitti kirjeen kehottaa lehteä olemaan julkaisematta tätä tutkimusta tai vastaavaa tutkimusta tulevaisuudessa, koska tämäntyyppinen tekniikka voi toistaa epäoikeudenmukaisuutta ja aiheuttaa todellista haittaa yhteiskunnalle. Vastauksena Springer Nature ilmoitti, että he eivät julkaise tutkimusta, ja Harrisburgin yliopisto poisti tutkimusta esittelevän lehdistötiedotteen.

2. Skiin Smart Alusvaatteet

Tekoälyä integroivat tekstiiliinnovaatiot tarkoittavat, että älypuhelimesi ei ole ainoa älykkäämpi asia.

Skiinin älykkäät alusvaatteet lupaavat saada sinut tuntemaan, että olisit päälläsi suosikkialushousuissasi ja tallentamalla biometriset tiedot, kuten sykkeen, asennon, kehon sisälämpötilan, sijainnin ja askeleet.

Aiheeseen liittyvä: Mitä ovat älykkäät kankaat ja miten ne voivat tehdä elämästäsi älykkäämpää?

Alusvaatteisiin sisäänrakennetut anturit keräävät ja analysoivat jatkuvasti biometrisiä tietojasi Skiinin vastaavasta älypuhelinsovelluksesta.

Vaikka alusvaatteiden lataaminen joka ilta saattaa kestää hetken, oliko suunnittelijoiden mahdollista sijoittaa anturit mihin tahansa muualle vartaloon?

3. DeepNude-sovellukset

Deepfake-tekniikka näyttää harmittomalta hauskalta keskivertokäyttäjälle, joka haluaa esiintyä suosikkielokuvansa kohtauksessa. Tällä trendillä on kuitenkin pimeä puoli, sillä Deeptrace raportoi vuonna 2019, että 96 % syväväärennöksistä oli eksplisiittistä sisältöä.

DeepNude oli tekoälyllä toimiva sovellus, joka loi realistisia kuvia alastomista naisista napin painalluksella. Käyttäjien olisi yksinkertaisesti ladattava puettu kuva kohteista, ja sovellus luo heistä väärennetyn alastonkuvan.

Pian sovelluksen julkaisun jälkeen luoja ilmoitti poistavansa sen Internetistä virusten vastareaktion vuoksi.

Vaikka tämä oli voitto naisille maailmanlaajuisesti, samankaltaisia ​​sovelluksia kelluu edelleen verkossa. Esimerkiksi, Sensityn raportti Deepfake-boteissa tutkittiin Telegramin maanalaisia ​​deepfake-botteja, joita käytettiin naisten valekuvien luomiseen.

Sillä välin, kunnes laki saavuttaa syvän väärennösteknologian, ihmisille, jotka ovat joutuneet syvän väärennössisällön uhreiksi, on vain vähän oikeudellisia suojakeinoja.

4. Tay, Microsoftin natsi-chatbot

Vuonna 2016 Microsoft julkaisi Twitterissä AI-chatbotin nimeltä Tay. Tay on suunniteltu oppimaan olemalla vuorovaikutuksessa Twitterin käyttäjien kanssa twiitien ja valokuvien kautta.

Alle 24 tunnissa Tayn persoonallisuus muuttui uteliaasta tuhatvuotiaasta tytöstä rasistiseksi, tulehdukselliseksi hirviöksi.

Alun perin Tay suunniteltiin jäljittelemään teini-ikäisen amerikkalaisen tytön kommunikointityyliä. Kuitenkin, kun hänen suosionsa kasvoi, jotkut käyttäjät alkoivat twiitata kiistanalaisia ​​aiheita koskevia viestejä Taylle.

Yhdessä tapauksessa käyttäjä twiittasi: "Tapahtuiko holokausti?" johon Tay vastasi: "Se oli keksitty." 16 sisällä tuntia sen julkaisun jälkeen Microsoft keskeytti Tayn tilin vedoten siihen, että siitä oli tehty koordinoitu hyökkäys.

Aiheeseen liittyvä: Parhaat Android-chatbotit, jotka viihdyttävät sinua

5. "Tuhoan ihmiset"

Hanson Robotics oli kehittänyt humanoidirobotteja useiden vuosien ajan, kun he debytoivat Sophian SXSW-konferenssissa maaliskuussa 2016.

Sophia oli koulutettu koneoppimisalgoritmeja oppia keskustelutaitoja, ja hän on osallistunut useisiin televisiohaastatteluihin.

Ensimmäisellä julkisella esiintymisellään Sophia poistui huoneesta, joka oli täynnä teknologia-ammattilaisia ​​järkyttyneenä Hansonin vaikutuksesta Roboticsin toimitusjohtaja David Hanson kysyi häneltä, halusiko hän tuhota ihmisiä, ja hän vastasi: "Ok. Minä tuhoan ihmiset".

Vaikka hänen ilmeensä ja kommunikointikykynsä ovat vaikuttavia, tätä murhaavaa tunnustusta ei voi ottaa takaisin.

6. seebotschat

Google Home -laitteet ovat erinomaisia ​​virtuaalisia avustajia, jotka yksinkertaistavat elämääsi.

Seebotschat Twitch -tilin takana olevalla tiimillä oli loistava idea: laita kaksi Google Home -laitetta vierekkäin, jätä ne keskustelemaan ja suoratoista tulos verkossa.

Yli 60 000 seuraajaa ja miljoonia katselukertoja verkossa kerännyt tulos oli kiehtova ja toisinaan hieman pelottava.

Itsenäiset laitteet, nimeltään Vladimir ja Estragon, siirtyivät arkisista keskusteluista syvien eksistentiaalisten kysymysten, kuten elämän tarkoituksen, tutkimiseen. Yhdessä vaiheessa he joutuivat kiihkeään riitaan ja syyttivät toisiaan roboteista, kun taas myöhemmin he alkoivat keskustella rakkaudesta - ennen kuin alkoivat riidellä uudelleen.

Onko tekoälyn ja ihmisten keskustelun tulevaisuudelle toivoa, jos kaksi virtuaalista avustajarobottia alkavat nopeasti heittelemään toisiaan loukkauksia ja uhkauksia.

Rogue AI: Mikä on paras puolustusmme?

Ei ole epäilystäkään siitä, että tekoäly voi parantaa elämäämme. Mutta samalla tavalla tekoäly voi myös aiheuttaa meille suurta vahinkoa.

On tärkeää seurata tekoälyn soveltamista, jotta se ei vahingoita yhteiskuntaa. Asiantuntijatyöskentely esimerkiksi varmisti, että tekoälyohjelmistoa, jonka väitetään ennustavan rikollisuutta, ei koskaan julkaistu. Samoin DeepNuden luoja nappasi sovelluksen verkosta sen jälkeen, kun se sai viruksen Internetissä vastareaktion.

Tekoälysovellusten jatkuva seuranta on avainasemassa sen varmistamiseksi, ettei niistä ole yhteiskunnalle enemmän haittaa kuin hyötyä.

Onko AI vaarallinen? 5 tekoälyn välittömät riskit

Tekoälyllä on monia etuja, mutta entä sen ihmiskunnalle aiheuttamat välittömät riskit?

Lue Seuraava

Kirjailijasta