Tekoälyn sisällöntunnistimet eivät toimi, ja se on iso ongelma

Tekoäly (AI) muuttaa kokonaisia ​​osia yhteiskuntamme, halusimme sitä tai emme, mukaan lukien World Wide Web.

ChatGPT: n kaltaiset ohjelmistot ovat kaikkien Internet-yhteyden omaavien saatavilla, joten tekoälyn luoman sisällön erottaminen ihmisen luomasta sisällöstä on yhä vaikeampaa. Onneksi meillä on AI-sisällöntunnistimet, eikö niin?

Toimivatko tekoälyn sisällöntunnistimet?

AI-sisällöntunnistimet ovat erikoistyökaluja, jotka määrittävät, onko jokin tietokoneohjelma vai ihminen kirjoittanut. Jos Googletat vain sanat "AI content detector", näet ilmaisimia on kymmeniä siellä kaikki väittävät pystyvänsä luotettavasti erottamaan ihmisen ja ei-inhimillisen tekstin.

Niiden toimintatapa on melko yksinkertainen: liität kirjoituksen, ja työkalu kertoo, onko se tekoälyn luoma vai ei. Teknisemmin sanottuna käyttämällä luonnollisen kielen käsittelytekniikoiden ja koneen yhdistelmää oppimisalgoritmit, tekoälysisällöntunnistimet etsivät malleja ja ennustettavuutta ja soittavat puheluita niiden perusteella että.

Tämä kuulostaa hyvältä paperilla, mutta jos olet joskus käyttänyt tekoälyn tunnistustyökalua, tiedät varsin hyvin, että ne ovat lievästi sanottuna osumia. Useimmiten ne havaitsevat ihmisten kirjoittaman sisällön tekoälynä tai ihmisten luoman tekstin tekoälyn luomana. Itse asiassa jotkut ovat kiusallisen huonoja siinä, mitä heidän pitäisi tehdä.

Kuinka tarkkoja tekoälyn sisällöntunnistimet ovat?

Jos olet Yhdysvalloissa, ensimmäinen Google-hakutulos "AI content detector" on writer.com (aiemmin Qordoba; tämä on AI-sisältöalusta, jolla on myös oma ilmaisin). Mutta kun liität osan tästä satunnaisesta Associated Press artikkelissa työkaluun, se väittää, että on erittäin hyvä mahdollisuus, että se on tekoälyn luoma.

Joten writer.com on käsittänyt asian väärin.

Ollakseni rehellinen, muut AI-sisällönilmaisimet ovat tuskin parempia. Ne eivät ainoastaan ​​tuota vääriä positiivisia tuloksia, vaan myös merkitsevät tekoälyn sisällön ihmiseksi. Ja vaikka he eivät tekisikään, pienet muokkaukset tekoälyn luomaan tekstiin riittää selviämään loistavasti.

Helmikuussa 2023 Wollongongin yliopiston lehtori Armin Alimardani ja UNSW Sydneyn apulaisprofessori Emma A. Jane testasi useita suosittuja tekoälysisällönilmaisimia ja totesi, että mikään niistä ei ole luotettava. Heidän analyysissaan, joka julkaistiin vuonna Keskustelu, Alimardani ja Jane päättelivät, että tämä tekstigeneraattoreiden ja ilmaisimien välinen tekoälyn "asekilpailu" tulee olemaan merkittävä haaste tulevaisuudessa, erityisesti opettajille.

Mutta ei vain kasvattajilla ja opettajilla ole syytä huoleen: kaikilla on syytä huoleen. Kun tekoälyn luomasta tekstistä tulee kaikkialla, pystymme erottamaan sen, mikä on "todellista" ja mikä ei, eli itse asiassa havaitseminen, kun jotain on kirjoittanut tekoäly, tulee vaikeammaksi. Tällä on valtava vaikutus käytännöllisesti katsoen kaikkiin toimialoihin ja yhteiskunnan alueisiin, jopa henkilökohtaisiin suhteisiin.

Tekoälyn vaikutukset kyberturvallisuuteen ja yksityisyyteen

Se, että ei ole olemassa luotettavia mekanismeja sen määrittämiseksi, onko jokin ohjelmisto vai ihminen luonut, vaikuttaa vakavasti kyberturvallisuuteen ja yksityisyyteen.

Uhkanäyttelijät ovat jo käyttämällä ChatGPT: tä haittaohjelmien kirjoittamiseen, luoda tietojenkalasteluviestejä, kirjoittaa roskapostia, luoda huijaussivustoja ja paljon muuta. Ja vaikka on tapoja puolustautua sitä vastaan, on varmasti huolestuttavaa, ettei ole olemassa ohjelmistoa, joka pystyisi luotettavasti erottamaan orgaanisen ja bot-sisällön.

Myös valeuutiset ovat jo valtava ongelma. Kun kuvassa on generatiivinen tekoäly, disinformaatioagentit voivat skaalata toimintaansa ennennäkemättömällä tavalla. Tavallinen ihminen ei sitä vastoin voi tietää, onko hänen verkossa lukemansa ohjelmiston tai ihmisen luoma.

Yksityisyys on täysin eri asia. Otetaan esimerkiksi ChatGPT. Se oli syötti yli 300 miljardia sanaa ennen sen käynnistämistä. Tämä sisältö poimittiin kirjoista, blogi- ja keskustelupalstaviesteistä, artikkeleista ja sosiaalisessa mediassa. Se kerättiin ilman kenenkään suostumusta ja ilmeisesti täysin piittaamatta yksityisyydestä ja tekijänoikeussuojasta.

Sitten on myös kysymys vääristä positiivisista tuloksista. Jos sisältö merkitään vahingossa tekoälyn luomaksi, eikö se voisi johtaa sensuuriin, joka on joka tapauksessa valtava ongelma? Puhumattakaan vahingoista, joita syytetään tekoälyn luoman tekstin käyttämisestä, joka voi vahingoittaa mainetta sekä verkossa että tosielämässä.

Jos generatiivisen tekoälyn ja sisällönilmaisimien välillä todellakin käydään asevarustelua, edellinen voittaa. Mikä pahinta, ratkaisua ei näytä olevan. Meillä on kaikki puolileivotut tuotteemme, jotka eivät edes toimi puolet ajasta tai jotka voidaan huijata erittäin helposti.

Tekoälysisällön tunnistaminen: mahdollisia ratkaisuja

Se, että meillä ei tällä hetkellä näytä olevan todellisia vastauksia tähän ongelmaan, ei tarkoita, että meillä ei olisi niitä tulevaisuudessa. Itse asiassa on jo olemassa useita vakavia ehdotuksia, jotka voisivat toimia. Vesileima on yksi.

Mitä tulee tekoäly- ja syväkielimalleihin, vesileima tarkoittaa eräänlaisen salaisen koodin upottamista tekoälyn luomaan tekstiin (esim. sanakuvio, välimerkkityyli). Tällainen vesileima olisi paljaalla silmällä näkymätön, joten lähes mahdotonta poistaa, mutta erikoisohjelmistot pystyisivät havaitsemaan sen.

Itse asiassa jo vuonna 2022 Marylandin yliopisto tutkijat kehittivät uuden vesileimamenetelmän keinotekoisille hermoverkoille. Johtava tutkija Tom Goldstein sanoi tuolloin, että hänen tiiminsä oli onnistunut "todistamaan matemaattisesti", ettei heidän vesileimaansa voida poistaa kokonaan.

Toistaiseksi tavallinen ihminen voi luottaa vaistoonsa ja maalaisjärkeensä. Jos lukemassasi sisällössä on jotain epäselvää – jos se tuntuu luonnottomalta, toistuvalta, mielikuvitukselliselta tai banaalilta – se on saattanut olla ohjelmiston luoma. Tietenkin sinun tulee myös tarkistaa kaikki verkossa näkemäsi tiedot, tarkistaa lähde ja pysyä poissa hämäriltä verkkosivustoilta.

Tekoälyvallankumous on käynnissä

Jotkut väittävät, että viides teollinen vallankumous on jo täällä, kun tekoäly on keskeisellä sijalla siinä, mitä kuvataan digitaalisen ja fyysisen lähentymisenä. Olipa näin todella tai ei, voimme vain sopeutua.

Hyvä uutinen on, että kyberturvallisuusteollisuus sopeutuu tähän uuteen todellisuuteen ja ottaa käyttöön uusia puolustusstrategioita, joissa tekoäly ja koneoppiminen ovat eturintamassa.