Valheelliset kuvat Trumpin pidätyksestä saivat ihmiset uskomaan, että se todella tapahtui.
Jos olet aktiivinen Twitterissä, olet ehkä nähnyt järkyttäviä kuvia Yhdysvaltain entisestä presidentistä Donald Trumpista, jonka poliisit pidättivät, kamppailevat heidän kanssaan ja jopa pakenevat heitä. Kävi ilmi, että mikään näistä ei ollut totta. Mutta kuinka tämä kaikki tapahtui?
Donald Trumpin pidätys, jota ei koskaan tapahtunut
Yhdysvaltain entinen presidentti kertoi oletetun vuodon virkamiehensä kautta Totuus Sosiaalinen kahva maaliskuun 18. päivänä. Viesti kertoi, että hän odotti pidätystä seuraavan viikon tiistaina "vanhoista ja täysin kumottuista" häntä vastaan esitetyistä syytteistä. Ei kestänyt kauan, kun kuvia Trumpin pidätyksestä alkoi ilmestyä kaikkialle Internetiin.
Kuvissa näkyi kuvamateriaali Trumpin pidätyksestä lainvalvontaviranomaisen toimesta.
Kuvat on luotu tekoälyllä
Kuvat eivät kuitenkaan olleet aitoja. Ne olivat syväväärennöksiä, joista tehtiin Midjourney, tekoälykuvageneraattori
. Midjourney käyttää syväoppimisalgoritmia luodakseen kuvia tyhjästä tekstikehotteiden avulla. Tässä tapauksessa tekstikehotteet olivat muunnelmia Trumpin pidätyksestä.Deepfake-tekniikka on ollut olemassa jo jonkin aikaa, ja siitä on tulossa yhä kehittyneempiä. Tekoälyn luomat kuvat olivat ennen helposti tunnistettavissa: niistä puuttui yksityiskohtia ja realistisuutta. Kuitenkin, Midjourneyn uusin julkaisu (v5) korjasi suurimman osan näistä ongelmista, ja se oli itse asiassa versio, jota käytettiin Trumpin pidätysten väärennösten luomiseen.
Miten kuvat levisivät
Tutkiva toimittaja Eliot Higgins loi ensimmäiset versiot Trumpin pidätysten syväväärennöksistä visualisoidakseen, miltä Trumpin pidätys näyttäisi. Hän julkaisi ne Twitter-tililleen. Vaikka hänen kuvatekstinsä oli alusta alkaen selvää, että kuvat olivat väärennettyjä, ei kestänyt kauan, ennen kuin viesti levisi virukseen.
Kun kuvat levisivät sosiaalisessa mediassa, monet ihmiset uskoivat sen olevan totta. Trumpin viesti Truth Socialissa sai ihmiset jo epäluuloisiksi, ja realistiset kuvat vain ruokkivat tulta. Kesti hetken ennen kuin kävi selväksi, että valokuvat olivat väärennettyjä ja pidätystarina oli ollut huijausta.
Sosiaalisen median viestit, jotka "raportoivat" väärennetystä pidätyksestä, on poistettu tai niissä on väärää tietoa. Rangaistuksena Midjourney myös kielsi Higginsin palvelimeltaan kuukaudeksi Washington Post.
Deepfakesin aikakausi vaatii valppautta
Trumpin pidätyksen syväväärennökset korostavat tekoälytekniikan hälyttävää edistystä. Väärennettyjä kuvia voidaan nyt luoda uskomattoman helposti ja ne näyttävät niin realistisilta, että on vaikea erottaa mikä on totta ja mikä ei. Valppaus on nyt kriittisempi kuin koskaan verkkosisällön suhteen.