Microsoft jakaa Deepfake Detection Tool -työkalua

Ottaen huomioon, kuinka syväpetokset ovat sekä potentiaalisesti tuhoavia jonkun maineelle että hyvin vaikeasti havaittavissa oikein tehdessään, ne ovat suuri turvallisuusongelma. Nyt Microsoft pyrkii pysäyttämään syväväärennökset julkaisemalla työkalun, joka voi tunnistaa ne.

Syvennysten aiheuttama uhka on niin merkittävä, että se aiheutti Facebook kieltää kaiken syväväärennetyn sisällön. Suurin este on kuitenkin se, kuinka syväväärennökset saatetaan näyttämään vakuuttavilta; sellaisenaan syvän väärennöksen löytäminen ja vahvistaminen on hyvin vaikeaa.

Facebook kieltää väärennökset ja valokuvapajat

Facebook kieltää syväpetokset ja Photoshopped-valokuvat. Ajatuksena on poistaa manipuloitu media, joka on suunniteltu käyttäjien pettämiseksi.

Kuten on raportoitu Microsoft ongelmista, yritys haluaa muuttaa sitä uudella työkalullaan. Sitä kutsutaan Microsoft Video Authenticatoriksi, ja se analysoi videoita etsimään syväväärennöksestä jäljelle jääneitä "saumoja". Nämä saumat ovat näkymättömiä ihmissilmille, mutta tietokone voi havaita ne käyttämällä ruutukohtaista analyysiä.

Microsoft Video Authenticator ei ole julkinen julkaisu, jotta haitalliset tekijät eivät voi muuttaa tekniikkaa. Sen sijaan Microsoft jakaa järjestelmään uutisia ja poliittisia järjestöjä. Tällä tavoin nämä organisaatiot voivat käyttää työkalua erottaakseen todellisen väärennöksestä.

Microsoft on kuitenkin ilmoittanut toisesta tekniikasta tunnistaa väärennökset. Yritys ehdottaa järjestelmää, jossa sisällöntuottajat voivat merkitä videonsa ainutlaatuisella "allekirjoituksella". Jos videota muokataan, se luo eri allekirjoituksen kuin alkuperäinen, mikä tunnistaa a syvä väärennös.

Teoksen Deep Fakes and the Infocalypse kirjoittaja Nina Schick sanoi seuraavat:

Ainoa todella laajamittainen käyttö, jonka olemme tähän mennessä nähneet, on ei-yksimielinen naisiin kohdistuva pornografia. Mutta synteettisen median odotetaan yleistyvän noin kolmesta viiteen vuoteen, joten meidän on kehitettävä näitä työkaluja eteenpäin. Kuitenkin, kun tunnistusominaisuudet paranevat, myös sähköntuotantokyky paranee - se ei ole koskaan Microsoft voi julkaista yhden työkalun, joka tunnistaa kaikenlaisen videon manipulointi.

Deepfakes ovat merkittävä ongelma median uskottavuudelle, ja yritykset tarvitsevat keinon kerro mitä todellista fiktiosta. Microsoft on julkaissut työkalun muokattujen videoiden havaitsemiseksi. Vielä ei kuitenkaan ole nähtävissä, riittääkö työkalu pysymään mukana syvähaitettujen kehittäjien kanssa.

Jos et ole varma syväfakeista ja miksi sillä on merkitystä, kannattaa ehdottomasti käyttää jonkin aikaa oppia niistä. Syväväärennöksistä on tulossa tämän vuosikymmenen vastaava "Photoshopping" -kuvia, ja ne voivat vahingoittaa väärinkäyttäjiä.

Deepfakes Explained: Tekoäly, joka tekee väärennetyistä videoista liian vakuuttavia

Tekoälyn tuottamat väärennetyt videot heikentävät täysin ymmärrystämme maailman tapahtumista. Näin syväväärennökset voivat muuttaa kaikkea.

Kirjailijasta