Miksi Apple luopui valokuvaskannaustoiminnostaan?

Elokuussa 2021 Apple paljasti aikovansa skannata iPhonesta kuvia lasten seksuaalisesta hyväksikäytöstä. Muutto herätti suosionosoituksia lastensuojeluryhmiltä, ​​mutta herätti yksityisyyden ja turvallisuuden asiantuntijoiden huolta siitä, että ominaisuutta voitaisiin käyttää väärin.

Apple aikoi alun perin sisällyttää CSAM -skannaustekniikan iOS 15: een; sen sijaan se on viivästyttänyt loputtomasti ominaisuuden käyttöönottoa pyytääkseen palautetta ennen sen täydellistä julkaisua.

Joten miksi CSAM -tunnistusominaisuudesta tuli kiivaan keskustelun aihe, ja mikä sai Applen lykkäämään käyttöönottoaan?

Mitä Applen valokuvaskannaustoiminto tekee?

Apple ilmoitti ottavansa käyttöön valokuvaskannaustoiminnon toivoakseen torjua lasten seksuaalista hyväksikäyttöä. Kaikki Applen käyttäjien laitteissa olevat valokuvat skannataan pedofilia -sisällön varalta Applen luoman "NueralHash" -algoritmin avulla.

Lisäksi kaikissa lasten käyttämissä Apple -laitteissa olisi turvaominaisuus, joka toimii automaattisesti sumentaa aikuisten kuvia, jos lapsi saa ne, ja käyttäjää varoitetaan kahdesti, jos he yrittävät avata niitä.

Aikuisille suunnatulle sisällölle altistumisen minimoinnin lisäksi, jos vanhemmat rekisteröivät lastensa omistamat laitteet lisää turvallisuutta, vanhemmille ilmoitetaan, jos lapsi saa selvää sisältöä keneltäkään verkossa.

Lue lisää: Mitä sinun tarvitsee tietää Applen lastensuojelusta

Mitä tulee aikuisiin, jotka käyttävät Siriä etsimään kaikkea lasten seksuaalisuutta, Siri ei tee tätä hakua ja ehdottaa muita vaihtoehtoja.

Tiedot mistä tahansa laitteesta, joka sisältää 10 tai useampia kuvia, jotka algoritmit pitävät epäilyttävinä, puretaan ja tarkastetaan ihmisten toimesta.

Jos nämä valokuvat tai muut laitteessa olevat kuvat vastaavat jotain tarjoamasta tietokannasta Kadonnut ja hyväksikäytettyjen lasten kansallinen keskus, siitä ilmoitetaan viranomaisille ja käyttäjän tili jäädytetään.

Tärkeimmät huolenaiheet valokuvaskannaustoiminnosta

CSAM -tunnistusominaisuus olisi otettu käyttöön iOS 15: n julkaisun yhteydessä syyskuussa 2021, mutta edessä laajalle levinneisyydelle, Apple päätti käyttää enemmän aikaa palautteen keräämiseen ja parannusten tekemiseen ominaisuus. Täällä on Applen koko lausunto viiveestä:

"Viime kuussa julkistimme suunnitelmia ominaisuuksista, joiden tarkoituksena on suojella lapsia saalistajilta käyttää viestintätyökaluja rekrytoida ja hyödyntää niitä ja rajoittaa lasten seksuaalisen hyväksikäytön leviämistä Materiaali.

Asiakkaiden, asianajoryhmien, tutkijoiden ja muiden palautteen perusteella olemme päättäneet ottaa lisää aikaa tulevina kuukausina kerätä tietoa ja tehdä parannuksia ennen kuin julkistamme nämä kriittisen tärkeät lastensuojelut ominaisuudet".

Lähes puolet Applen valokuvaskannaustoimintoon liittyvistä huolenaiheista koskee yksityisyyttä; muut argumentit sisältävät algoritmien todennäköisen epätarkkuuden ja järjestelmän tai sen porsaanreikien mahdollisen väärinkäytön.

Jaetaan se neljään osaan.

Mahdollinen väärinkäyttö

Tieto tieto siitä, että kaikki materiaalit, jotka vastaavat lapsipornografiaa tai tunnettuja kuvia lasten seksuaalisesta hyväksikäytöstä, saavat laitteen "epäilyttävään" luetteloon, voivat saada tietoverkkorikolliset liikkeelle.

He voivat tarkoituksellisesti pommittaa ihmistä sopimattomalla sisällöllä iMessagen, WhatsAppin tai muiden keinojen kautta ja saada kyseisen henkilön tilin jäädytettäväksi.

Apple on vakuuttanut, että käyttäjät voivat valittaa, jos heidän tilinsä on jäädytetty väärinkäsityksen vuoksi.

Sisäpiirin väärinkäyttö

Vaikka tämä ominaisuus on suunniteltu hyväntahtoiseen tarkoitukseen, se voi muuttua totaaliseksi katastrofiksi tietyille ihmisille, jos heidän laitteensa ovat ovat sukulaiset, jotka ovat kiinnostuneita viestinnän seuraamisesta, heidän tietoonsa tai ilman niitä.

Vaikka näin ei tapahdu, Apple on luonut takaoven, jotta käyttäjien tiedot ovat saatavilla päivän päätteeksi. Nyt on kyse motivaatiosta ja päättäväisyydestä, että ihmiset pääsevät muiden ihmisten henkilökohtaisiin tietoihin.

Aiheeseen liittyviä: Mikä on takaovi ja mitä se tekee?

Se ei ainoastaan ​​helpota yksityisyyden merkittävää loukkaamista, vaan myös tasoittaa tietä väärinkäytöksille, myrkyllisyydelle tai valvonnalle sukulaisia, huoltajia, ystäviä, rakastajia, hoitajia ja entisiä tunkeutumaan edelleen jonkun henkilökohtaiseen tilaan tai rajoittamaan heidän vapaus.

Toisaalta sen on tarkoitus torjua lasten seksuaalista hyväksikäyttöä; toisaalta sitä voidaan käyttää jatkamaan muunlaista väärinkäyttöä.

Hallituksen valvonta

Apple on aina pitänyt itseään kilpailijoitaan tietoisempana brändinä. Mutta nyt se saattaa olla tulossa liukkaalle rinteelle, jonka on täytettävä loputtomat läpinäkyvyysvaatimukset hallitusten käyttäjätietoja.

Järjestelmää, jonka se on luonut pedofilialaisen sisällön havaitsemiseksi, voidaan käyttää kaikenlaisen sisällön havaitsemiseen puhelimissa. Tämä tarkoittaa sitä, että hallitukset, joilla on kultti -mentaliteetti, voivat seurata käyttäjiä henkilökohtaisemmin, jos he saavat sen käsiinsä.

Tukahduttava tai ei, hallituksen osallistuminen päivittäiseen ja henkilökohtaiseen elämääsi voi olla ahdistavaa ja loukata yksityisyyttäsi. Ajatus siitä, että sinun on huolehdittava tällaisista hyökkäyksistä vain, jos olet tehnyt jotain väärin, on virheellinen ajattelu, eikä se näe edellä mainittua liukasta rinteitä.

Väärät hälytykset

Yksi suurimmista huolenaiheista käyttää algoritmeja kuvien yhdistämiseen tietokantaan on vääriä hälytyksiä. Hajautusalgoritmit voivat erehdyksessä tunnistaa kaksi kuvaa osumiksi, vaikka ne eivät olisikaan samat. Nämä virheet, joita kutsutaan "törmäyksiksi", ovat erityisen hälyttäviä lasten seksuaalisen hyväksikäytön sisällön yhteydessä.

Tutkijat löysivät useita yhteentörmäyksiä "NeuralHashissa" sen jälkeen, kun Apple ilmoitti käyttävänsä algoritmia kuvien skannaamiseen. Apple vastasi vääriä hälytyksiä koskeviin kyselyihin huomauttamalla, että lopulta ihminen tarkistaa tuloksen, joten ihmisten ei tarvitse huolehtia siitä.

Onko Applen CSAM -tauko pysyvä?

Applen ehdottamassa ominaisuudessa on monia etuja ja haittoja. Jokainen niistä on aito ja kestää painoa. On edelleen epäselvää, mitä erityisiä muutoksia Apple voisi tehdä CSAM-skannausominaisuuteen kriitikkojensa tyydyttämiseksi.

Se voi rajoittaa skannauksen jaettuihin iCloud -albumeihin sen sijaan, että se ottaisi käyttäjien laitteet mukaan. On hyvin epätodennäköistä, että Apple hylkää nämä suunnitelmat kokonaan, koska yhtiö ei yleensä ole taipuvainen antamaan periksi suunnitelmistaan.

On kuitenkin selvää, että laajalle levinnyt vastaisku ja Applen pidättäminen suunnitelmistaan ​​on se yritysten olisi sisällytettävä tutkimusyhteisö alusta alkaen, erityisesti testaamattomien osalta tekniikkaa.

Internet -turvallisuus: 50+ vinkkiä lastesi turvaamiseen verkossa

Lapset ovat ensisijaisia ​​kohteita online -saalistajille ja verkkokiusaamisille. Nämä kätevät vinkit voivat opettaa vanhemmille, kuinka he voivat pitää turvassa verkossa.

Lue seuraava

Kirjailijasta