Tekoälyllä (AI) on potentiaalia muuttaa yhteiskuntamme luonnetta. Ja jos tällä hetkellä käytettävissämme olevat tekoälytyökalut ovat osoitus siitä, mitä on tulossa, meillä on paljon odotettavaa.
Meillä on myös paljon varauksen aihetta. Nimittäin kyberrikollisten ja muiden uhkatoimijoiden tekemä tekoälyn aseistaminen. Tämä ei ole teoreettinen huolenaihe, eivätkä edes tekoälykuvageneraattorit ole immuuneja väärinkäytöksille.
Mitä ovat AI-kuvageneraattorit? Miten ne toimivat?
Jos olet joskus käyttänyt tekoälykuvageneraattoria, sinulla on melko hyvä käsitys siitä, mistä niissä on kyse. Vaikka et olisi koskaan käyttänyt sellaista, olet todennäköisesti törmännyt tekoälyn luomiin kuviin sosiaalisessa mediassa ja muualla. Nykyään suosittu ohjelmisto toimii hyvin yksinkertaisella periaatteella: käyttäjä kirjoittaa tekstiä, ja tekoäly luo sen perusteella kuvan.
Se, mitä konepellin alla tapahtuu, on paljon monimutkaisempaa. Tekoäly on parantunut paljon viime vuosina, ja useimmat tekstistä kuvaksi generaattorit nykyään ovat niin sanottuja diffuusiomalleja. Tämä tarkoittaa, että heitä "koulutetaan" pitkän ajanjakson aikana valtavalla määrällä tekstiä ja kuvia, mikä tekee heidän luomuksistaan niin vaikuttavia ja hämmästyttävän realistisia.
Näistä tekoälytyökaluista tekee vieläkin vaikuttavampia se, että ne eivät vain muokkaa olemassa olevia kuvia tai yhdistä tuhansia kuvia yhdeksi, vaan myös luovat uusia, alkuperäisiä kuvia tyhjästä. Mitä enemmän ihmiset käyttävät näitä tekstistä kuvaksi generaattoreita, sitä enemmän tietoa heille syötetään ja sitä parempia heidän luomuksistaan tulee.
Jotkut tunnetuimmista AI-kuvageneraattorit ovat Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor ja Craiyon. Uusia ilmestyy vasemmalle ja oikealle, ja teknologiajätit – Google mukaan lukien – julkaisevat omiaan, joten voimme vain arvailla, mitä tulevaisuus tuo tullessaan.
4 tapaa, joilla uhkanäyttelijät aseistavat tekoälykuvageneraattoreita
Kuten melkein kaikki tekniikka, ilkeät toimijat voivat väärinkäyttää tekoälykuvageneraattoreita. Itse asiassa niitä käytetään jo kaikenlaisiin ilkeisiin tarkoituksiin. Mutta millaisia huijauksia ja kyberhyökkäyksiä rikollinen voi suorittaa tekoälykuvageneraattoreiden avulla?
1. Social Engineering
Yksi ilmeinen asia, jota uhkatoimijat voivat tehdä tekoälykuvageneraattoreiden kanssa, on osallistua sosiaaliseen suunnitteluun; esimerkiksi luoda väärennettyjä sosiaalisen median profiileja. Jotkut näistä ohjelmista voivat luoda uskomattoman realistisia kuvia, jotka näyttävät aivan kuin aidot valokuvat oikeista ihmisistä, ja huijari voi käyttää näitä väärennettyjä sosiaalisen median profiileja monnikalastukseen.
Toisin kuin oikeiden ihmisten kuvia, tekoälyn luomia kuvia ei voida löytää käänteisellä kuvahaulla, eikä kyberrikollisen tarvitse työskennellä rajoitettu määrä valokuvia kohdemaansa – tekoälyn avulla he voivat luoda niin monta kuin haluavat ja rakentaa vakuuttavan verkkoidentiteetin naarmu.
Mutta on tosielämän esimerkkejä uhkatekijöistä, jotka käyttävät tekoälykuvageneraattoreita ihmisten huijaamiseen. Huhtikuussa 2022 TechTalks Bloggaaja Ben Dickinson sai lakitoimistolta sähköpostin, jossa hän väitti käyttäneensä kuvaa ilman lupaa. Asianajajat lähettivät sähköpostitse DMCA: n tekijänoikeusloukkausilmoituksen, jossa hän kertoi Dickinsonille, että hänen on linkitettävä takaisin heidän asiakkaansa tai poistettava kuva.
Dickinson googletti asianajotoimistoa ja löysi virallisen verkkosivuston. Se kaikki vaikutti täysin oikeutetulta; sivustolla oli jopa valokuvia 18 asianajajasta sekä heidän elämäkerransa ja valtakirjansa. Mutta mikään niistä ei ollut todellista. Valokuvat ovat kaikki tekoälyn luomia, ja oletetut tekijänoikeusloukkausilmoitukset lähetettiin joku haluaa kiristää käänteisiä linkkejä pahaa-aavistamattomilta bloggaajilta osana epäeettistä, mustaa hattu SEO (hakukoneoptimointi) strategia.
2. Hyväntekeväisyyshuijaukset
Kun tuhoisat maanjäristykset iskivät Turkkiin ja Syyriaan helmikuussa 2023, miljoonat ihmiset ympäri maailmaa ilmaisivat solidaarisuuttaan uhreille lahjoittamalla vaatteita, ruokaa ja rahaa.
Sivulta saadun raportin mukaan BBC, huijarit käyttivät tätä hyväkseen luoden realistisia kuvia ja pyytäen lahjoituksia tekoälyllä. Yksi huijari näytti tekoälyn luomia kuvia raunioista TikTok Livessä ja pyysi katsojiltaan lahjoituksia. Toinen julkaisi tekoälyn luoman kuvan kreikkalaisesta palomiehestä, joka pelasti loukkaantuneen lapsen raunioista, ja pyysi seuraajiltaan lahjoituksia Bitcoinina.
Voidaan vain kuvitella, minkä tyyppisiä hyväntekeväisyyshuijauksia rikolliset ajavat tekoälyn avulla tulevaisuudessa, mutta on turvallista olettaa, että he tulevat vain paremmin käyttämään tätä ohjelmistoa väärin.
3. Syväväärennöksiä ja disinformaatiota
Hallitukset, aktivistiryhmät ja ajatushautomot ovat varoittaneet jo pitkään syväväärennösten vaarat. Tekoälykuvageneraattorit lisäävät tähän ongelmaan toisen komponentin, koska heidän luomuksensa ovat realistisia. Itse asiassa Isossa-Britanniassa on jopa komediaohjelma nimeltä Deep Fake Neighbor Wars, joka löytää huumoria epätodennäköisistä julkkispareista. Mikä estäisi disinformaatioagenttia luomasta väärennettyä kuvaa ja mainostamasta sitä sosiaalisessa mediassa botien avulla?
Tällä voi olla tosielämän seurauksia, kuten melkein tapahtui maaliskuussa 2022, kun netissä levitettiin valevideota, jossa Ukrainan presidentti Volodymyr Zelensky käski ukrainalaisia antautua. NPR. Mutta tämä on vain yksi esimerkki, koska mahdollisuudet ovat lähes rajattomat, ja on olemassa lukemattomia tapoja a uhkatekijä voi vahingoittaa jonkun mainetta, mainostaa väärää kertomusta tai levittää valeuutisia avulla AI: sta.
4. Mainospetos
TrendMicro Tutkijat havaitsivat vuonna 2022, että huijarit käyttivät tekoälyn luomaa sisältöä harhaanjohtavien mainosten luomiseen ja hämärien tuotteiden mainostamiseen. He loivat kuvia, jotka ehdottivat suosittujen julkkisten käyttävän tiettyjä tuotteita, ja toteuttivat mainoskampanjoita näiden kuvien perusteella.
Esimerkiksi yhdessä "taloudellisen neuvonnan mahdollisuuden" mainoksessa oli miljardööri Elon Musk, Teslan perustaja ja toimitusjohtaja. Musk ei tietenkään koskaan kannattanut kyseistä tuotetta, mutta esillä oleva tekoälyn luoma materiaali sai sen näyttämään siltä, oletettavasti houkuttelemalla pahaa-aavistamattomat katsojat napsauttamaan mainoksia.
Tekoäly ja kyberturvallisuus: monimutkainen ongelma, joka meidän on ratkaistava
Jatkossa hallituksen sääntelijöiden ja kyberturvallisuusasiantuntijoiden on todennäköisesti tehtävä yhteistyötä torjuakseen tekoälyllä toimivan kyberrikollisuuden nousevaa uhkaa. Mutta kuinka voimme säännellä tekoälyä ja suojella tavallisia ihmisiä tukahduttamatta innovaatioita ja rajoittamatta digitaalisia vapauksia? Tämä kysymys on suuri tulevina vuosina.
Ennen kuin saat vastauksen, tee kaikkesi suojellaksesi itseäsi: tarkasta huolellisesti kaikki verkossa näkemäsi tiedot, vältä varjoisia verkkosivustoja, käytä turvallisia ohjelmistoja, pidä laitteesi ajan tasalla ja opi käyttämään tekoälyä etu.