Mikä on PhotoDNA ja miten se toimii?

Internet on helpottanut monia asioita ystävien ja perheen kanssa pitämisestä, työpaikan saamisesta ja jopa etätyöstä. Tämän yhdistetyn tietokonejärjestelmän edut ovat valtavat, mutta on myös haittapuoli.

Toisin kuin kansallisvaltiot, Internet on maailmanlaajuinen verkko, jota yksikään hallitus tai viranomainen ei voi hallita. Näin ollen laiton materiaali päätyy verkkoon, ja on uskomattoman vaikeaa estää lapsia kärsimästä ja ottaa kiinni syyllisiä.

Microsoftin yhdessä kehittämä PhotoDNA-tekniikka on kuitenkin askel kohti turvallisemman online-tilan luomista lapsille ja aikuisille.

Mikä on PhotoDNA?

PhotoDNA on kuvien tunnistustyökalu, joka kehitettiin ensimmäisen kerran vuonna 2009. Vaikka palvelu on ensisijaisesti Microsoftin tukema, sen on kehittänyt yhdessä Dartmouth Collegessa työskentelevä professori Hany Farid, joka on digitaalisten valokuva-analyysien asiantuntija. PhotoDNA: n tarkoituksena on tunnistaa laittomat kuvat, mukaan lukien lasten seksuaalista hyväksikäyttöä koskeva materiaali, joka tunnetaan yleisesti nimellä CSAM.

Kun älypuhelimet, digitaalikamerat ja nopea internet ovat yleistyneet, samoin kuin verkossa löydetty CSAM-määrä. Yrittäessään tunnistaa ja poistaa nämä kuvat muun laittoman materiaalin ohella PhotoDNA -tietokanta sisältää miljoonia merkintöjä tunnetuista väärinkäytöksistä.

Microsoft ylläpitää järjestelmää, ja tietokantaa ylläpitää Yhdysvalloissa sijaitseva National Center for Missing & Exploited Children (NCMEC), joka on lasten hyväksikäytön estämiseen tähtäävä organisaatio. Kuvat siirtyvät tietokantaan, kun ne on raportoitu NCMEC: lle.

Vaikka PhotoDNA ei ole ainoa palvelu tunnetun CSAM-haun etsimiseen, se on yksi yleisimmistä menetelmistä, mukaan lukien monet digitaaliset palvelut, kuten Reddit, Twitter ja useimmat Googlen omistamat tuotteet.

PhotoDNA oli fyysisesti perustettava paikan päällä alkuaikoina, mutta Microsoft käyttää nyt pilvipohjaista PhotoDNA Cloud -palvelua. Tämän ansiosta pienet organisaatiot, joilla ei ole laajaa infrastruktuuria, voivat suorittaa CSAM -tunnistuksen.

Miten PhotoDNA toimii?

Kun Internetin käyttäjät tai lainvalvontaviranomaiset kohtaavat väärinkäytöksiä, niistä ilmoitetaan NCMEC: lle CyberTipline. Nämä on luetteloitu, ja tiedot jaetaan lainvalvontaviranomaisille, jos ne eivät jo olleet sitä. Kuvat ladataan PhotoDNA: han, joka sitten luo hajautuksen tai digitaalisen allekirjoituksen jokaiselle yksittäiselle kuvalle.

Tämän ainutlaatuisen arvon saavuttamiseksi valokuva muunnetaan mustavalkoiseksi ja jaetaan neliöiksi, ja ohjelmisto analysoi tuloksena olevan varjostuksen. Ainutlaatuinen tiiviste lisätään PhotoDNA: n tietokantaan, jaetaan fyysisten asennusten ja PhotoDNA Cloudin välillä.

Ohjelmistotoimittajat, lainvalvontaviranomaiset ja muut luotetut organisaatiot voivat ottaa PhotoDNA -skannauksen käyttöön tuotteissaan, pilviohjelmistoissaan tai muissa tallennusvälineissä. Järjestelmä skannaa jokaisen kuvan, muuntaa sen hajautusarvoksi ja vertaa sitä CSAM -tietokannan tiivisteisiin.

Jos osuma löytyy, asiasta vastaava organisaatio saa hälytyksen ja tiedot välitetään lainvalvontaviranomaisille syytteeseenpanoa varten. Kuvat poistetaan palvelusta ja käyttäjän tili lopetetaan.

Tärkeää on, että valokuviesi tietoja ei tallenneta, palvelu on täysin automatisoitu ilman ihmisen osallistumista, etkä voi luoda kuvaa hajautusarvosta.

Vuodesta 2015 lähtien organisaatiot ovat voineet käyttää PhotoDNA: ta myös videoiden analysointiin.

Elokuussa 2021 Apple katkaisi askeleen useimpien muiden Big Tech -yritysten kanssa ja ilmoitti käyttävänsä omia palvelu skannaamaan käyttäjän iPhonet CSAM: n varalta.

Ymmärrettävästi nämä suunnitelmat saivat huomattavaa vastusta, koska ne näyttivät rikkovan yrityksen yksityisyyttä suojelevaa asennetta, ja monet ihmiset olivat huolissaan siitä, että skannaus sisältäisi vähitellen muita kuin CSAM-tiedostoja, mikä johtaisi lopulta lain takaporttiin täytäntöönpanoa.

Käyttääkö PhotoDNA kasvojen tunnistusta?

Nykyään tunnemme tarpeeksi algoritmeja. Nämä koodatut ohjeet näyttävät meille osuvia ja mielenkiintoisia viestejä sosiaalisen median syötteissämme, tukevat kasvojentunnistusjärjestelmiä ja jopa päättävät, saammeko meille tarjouksen työhaastattelusta vai pääsemmekö yliopistoon.

Saatat ajatella, että algoritmit olisivat PhotoDNA: n ytimessä, mutta kuvan havaitsemisen automatisointi tällä tavalla olisi erittäin ongelmallista. Esimerkiksi se olisi uskomattoman invasiivista, loukkaisi yksityisyyttämme, ja puhumattakaan siitä, että algoritmit eivät ole aina oikein.

Esimerkiksi Googlella on ollut hyvin dokumentoituja ongelmia kasvojentunnistusohjelmistonsa kanssa. Kun Google Kuvat julkaistiin ensimmäisen kerran, se luokitteli loukkaavasti mustat ihmiset gorilloiksi. Maaliskuussa 2017 edustajainhuoneen valvontakomitea kuuli, että jotkut kasvojentunnistusalgoritmit olivat väärässä 15 prosenttia ajasta ja todennäköisemmin tunnistivat mustia ihmisiä väärin.

Nämä koneoppimisalgoritmien tyypit ovat yhä yleisempiä, mutta niiden asianmukainen seuranta voi olla haastavaa. Käytännössä ohjelmisto tekee omat päätöksensä, ja sinun on käännettävä, miten se pääsi tiettyyn tulokseen.

On ymmärrettävää, että kun otetaan huomioon PhotoDNA: n etsimä sisältö, väärän tunnistamisen vaikutus voi olla katastrofaalinen. Onneksi järjestelmä ei luota kasvojentunnistukseen ja voi löytää vain ennalta tunnistettuja kuvia, joissa on tunnettu hajautus.

Käyttääkö Facebook PhotoDNA: ta?

Maailman suurimpien ja suosituimpien sosiaalisten verkostojen omistajana ja ylläpitäjänä Facebook käsittelee päivittäin paljon käyttäjien luomaa sisältöä. Vaikka luotettavia, nykyisiä arvioita on vaikea löytää, analyysi vuonna 2013 ehdotti, että Facebookiin ladataan päivittäin noin 350 miljoonaa kuvaa.

Tämä on todennäköisesti paljon korkeampi nyt, kun enemmän ihmisiä on liittynyt palveluun, yritys toimii useita verkkoihin (mukaan lukien Instagram ja WhatsApp), ja meillä on helpompi käyttää älypuhelimien kameroita ja luotettava Internet. Kun otetaan huomioon rooli yhteiskunnassa, Facebookin on vähennettävä ja poistettava CSAM -sisältöä ja muuta laitonta materiaalia.

Onneksi yritys otti tämän huomioon jo varhain ja otti käyttöön Microsoftin PhotoDNA -palvelun vuonna 2011. Yli kymmenen vuotta sitten julkaistun ilmoituksen jälkeen on ollut vähän tietoa siitä, kuinka tehokas tämä on ollut. Kuitenkin, 91 prosenttia kaikista CSAM -raporteista vuonna 2018 tuli Facebookista ja Facebook Messengeristä.

Tekeekö PhotoDNA Internetistä turvallisemman?

Microsoftin kehittämä palvelu on epäilemättä välttämätön työkalu. PhotoDNA: lla on keskeinen rooli näiden kuvien leviämisen estämisessä ja se voi jopa auttaa riskiryhmään kuuluvia lapsia.

Järjestelmän suurin virhe on kuitenkin se, että se voi etsiä vain ennalta tunnistettuja kuvia. Jos PhotoDNA: lle ei ole tallennettu tiivistettä, se ei pysty tunnistamaan väärinkäytöksiä.

On paljon helpompaa ottaa ja ladata korkean resoluution hyväksikäyttökuvia verkossa, ja väärinkäyttäjät ovat yhä useammin turvallisempiin alustoihin, kuten Dark Webiin ja salattuihin viestisovelluksiin laitonta materiaalia. Jos et ole törmännyt Dark Webiin aiemmin, kannattaa lukea Internetin piilotettuun puoleen liittyvistä riskeistä.

Onko Dark Web laiton?

Rikolliset toimet löytyvät pimeän verkon kautta, mutta onko todella laitonta mennä pimeään verkkoon?

Lue seuraava

Kirjailijasta