Twitter-käyttäjät löytävät potentiaalisen rodullisen ennakkoluulon automaattisen rajauksen algoritmissa

Twitter yrittää selvittää, miksi sen valokuvien esikatseluominaisuudessa on merkkejä rodullisesta puolueellisuudesta. Useat käyttäjät havaitsivat, että mustat kasvot rajautuivat todennäköisemmin valokuvien esikatseluista verrattuna valkoisiin kasvoihin.

Vika Twitterin algoritmissa

Kun näet kuvan Twitterissä, se on vain esikatselu, sinun täytyy napsauttaa sitä nähdäksesi koko kuvan. Twitter käyttää algoritmia valokuvien rajaamiseen sanelemalla, mitä näet kuvien esikatseluissa.

Vuonna 2018 Twitter ilmoitti älykkäästä automaattisen rajauksen ominaisuudestaan Twitter-blogi. Tämä ominaisuus käyttää "salaatiota" hioakseen valokuvien näkyvimpiä osia, ja se sitten rajaa valokuvien esikatselut vastaavasti.

Twitter-käyttäjät havaitsivat, että alustan hermoverkolla voi olla rodullinen puolueellisuus. Yksi käyttäjä lähetti kuvan Yhdysvaltain senaattorista Mitch McConnellista entisen presidentin Barack Obaman rinnalle.

Kuvan esikatselu rajaa räikeästi Obaman kasvot, vaikka hänen kasvonsa olisikin sijoitettu kuvan yläosaan. Kun sama käyttäjä yritti kääntää kuvan värejä, Obaman kasvot näkyivät lopulta kuvan esikatselussa.

Muut käyttäjät alkoivat suorittaa omia kokeitaan. Kerta toisensa jälkeen käyttäjät havaitsivat, että algoritmi näytti suosivan jatkuvasti valkoisia kasvoja mustien kasvojen sijaan.

Twitter-viestintäryhmän jäsen Liz Kelley lähetti twiitin vastauksena Twitter-käyttäjien havaintoihin. Hän totesi, että vaikka Twitter-tiimi testasi jo algoritmia ennakkoluulojen suhteen, sen olisi tutkittava tarkemmin.

Kaikki nämä löydöt perustuivat käyttäjän twiittiin, joka koski a Zoomauspuheluongelma. Zoom ei jatkuvasti tunnistanut mustan ystävänsä kasvoja, kun hän yritti käyttää virtuaalista taustaa. Kun käyttäjä kääntyi Twitterin puoleen lähettääkseen kuvakaappauksia ongelmasta, Twitter rajasi mustan ystävänsä kuvan esikatselusta.

Biasin poistaminen Twitteristä

Vaikka kaikki nämä kokeet ovat epävirallisia, ne näyttävät tuovan esiin todellisen ongelman. Twitterin on ehdottomasti tarkasteltava tarkemmin sen automaattista rajausominaisuutta ja katsottava, onko sillä juurtunut rodullinen puolueellisuus.

Twitterin automaattisen rajauksen algoritmi ei kuitenkaan ole ainoa arvosteltu Twitter-ominaisuus. Loppujen lopuksi monet käyttäjät eivät myöskään ole faneja alustan algoritmille, joka järjestää syötteesi automaattisesti.

Kuinka (ja miksi) poistaa algoritmiset syötteet Twitterissä, Instagramissa ja Facebookissa

Algoritmisyötteet palvelevat vain sosiaalisia verkostoja. Näin vaihdetaan kronologisiin syötteisiin Twitterissä, Instagramissa ja Facebookissa.

Kirjailijasta