Twitter paljastaa, että tekoälyn rajaus on vähentynyt rodun ja sukupuolen puolueellisuuden vuoksi

Ensimmäisen kerran kuulimme ajatuksen, että Twitterin kuvankatkaisualgoritmilla voi olla joitain harhoja, syyskuussa 2020. Salausinsinööri Tony Arcieri latasi kaksi kuvaa, joissa oli senaatin enemmistön johtaja Mitch McConnell ja entinen presidentti Barack Obama, ja tekoäly leikattiin McConnellin kasvoille molemmilla kerroilla.

Kun kiista lopulta saavutti ihmiset Twitterissä, yritys lupasi analysoida malliaan. Lopuksi saamme lukea nämä havainnot.

Twitter jakaa algoritmianalyysinsa tulokset

Toukokuun alussa Twitter julkaisi lopulta täysikokoiset kuvien esikatselut mobiiliaikatauluillaan. Viesti Twitter-blogiin on paljastanut, että sovellus kiristää kuvan rajausalgoritmiaan sen jälkeen, kun analyysi osoitti, että sillä oli rodusta ja sukupuolesta johtuvia puolueita.

Alusta alkoi käyttää salitude-algoritmia kuviensa rajaamiseen vuonna 2018. Twitter sanoo, että salitudimallit koulutetaan ihmisen silmänseurantatietoihin, joita sitten käytetään algoritmi sen arvioimiseksi, mitkä aiheet / elementit kuvassa sen mielestä todennäköisesti ovat tärkeimmät useimmille ihmiset.

Tällöin algoritmi keksiä salitudipisteet kaikille kuvan osille, ennen kuin valitsi pisteen, jolla on korkeimmat pisteet, sadon keskikohdaksi.

Suoritettuaan kvantitatiivisen testin mahdollisten ennakkoluulojen tarkistamiseksi joukkue havaitsi, että salitude-algoritmi näytti suosivan naisia ​​miehiin ja valkoisia yksilöitä mustiin.

Twitter testasi myös "miehen katse" -algoritmin, mutta mitään todisteita esineellistämisestä ei löytynyt.

Vaikka salitude-algoritmi muutettaisiin vastaamaan täydellistä tasa-arvoa rodun ja sukupuolen alaryhmissä, olemme [Twitter] huolissamme automatisoidun algoritmin edustava haitta, kun ihmiset eivät saa edustaa itseään haluamallaan tavalla foorumi. Salaattisuudella on myös muita potentiaalisia haittoja, jotka eivät kuulu tämän analyysin piiriin, mukaan lukien herkkyys kulttuurivivahteisiin.

Harkitessaan kompromisseja automaattisen rajauksen nopeuden ja johdonmukaisuuden sekä sen riskien välillä, Twitter sanoo tiiminsä ymmärtäneen, että kuvan rajaaminen on ihmisten paras päätös - ei algoritmeja.

Liittyvät: Teknologiasuuntaukset, jotka muuttavat jo tulevaisuutta

Twitter poistaa automaattisen kuvan rajauksen

Twitter ei enää käytä salitude-algoritmia, ja näyttää nyt normaalit kuvasuhteen valokuvat kokonaisuudessaan sekä iOS: ssä että Androidissa. Kun luot twiittiä, huomaat, että uusi päivitys sisältää myös todellisen esikatselun ladatuista kuvista, jotta tiedät, miltä kaikki näyttää julkaistuna.

Jos olet kiinnostunut lukemaan tutkimuksen akateemista paperia, löydät sen arXiv.org. Löydät myös Twitterin koodin analyysia varten GitHub.

Kuinka ladata ja katsella 4K-kuvia Twitterissä

Twitter-sovelluksen avulla voit nyt ladata ja katsella kuvia 4K-muodossa. Näin muutat asetuksiasi.

Lue seuraava

Kirjailijasta