Rasszista algoritmus miatt magyarázkodhat a Twitter
Bocsánatot kért a Twitter, miután kiderült, hogy az oldal képkivágó algoritmusa jobban szereti a fehér arcokat mutogatni a színes bőrűeknél.
Az algoritmusnak az lenne a dolga, hogy a nagy képek legfontosabb részét, mondjuk a rajtuk szereplők arcát kiválassza és körbevágja, és csak azt mutassa a feedben. Ennek az lenne a célja, hogy több képet is meg lehessen osztani egy posztban és a nagy képek ne foglaljanak túl nagy helyet. A hétvégén viszont több felhasználó is jelezte, hogy
ha egy fekete és egy fehér arc között kell választania, az algoritmus rendszeresen a fehéret választja. Az egyik felhasználó például egy olyan kísérletről írt, amelyben Barack Obama volt amerikai elnök és MItch McConnell republikánus szenátor képét rakta egymás mellé, hogy megnézze, a Twitter melyik portrét rakja ki a bejegyzésbe. Az eredmény: bármilyen konfigurációban rakta egymás mellé a két képet, az algoritmus mindig a fehér McConnell arcát rakta a bejegyzésbe.
Trying a horrible experiment...
— Tony “Abolish (Pol)ICE” Arcieri 🦀 (@bascule) September 19, 2020
Which will the Twitter algorithm pick: Mitch McConnell or Barack Obama? pic.twitter.com/bR1GRyCkia
A kísérletet több felhasználó is megismételte stock fotókkal, saját képekkel, és mindenki arra jutott, hogy ha választani kell, a Twitter nem mutatja a fekete arcokat. Sőt, mindez nemcsak emberek arcánál működik, de például a Simpsons rajzfilm karaktereinél, sőt, kutyáknál is.
I tried it with dogs. Let's see. pic.twitter.com/xktmrNPtid
— - M A R K - (@MarkEMarkAU) September 20, 2020
A Twitter is beismerte, hogy még dolgozniuk kell az algoritmuson. A cég szóvivője azt nyilatkozta, hogy tesztelték korábban a programot és arra jutottak, hogy a képkivágó algoritmusnak nincsenek faji, nemi vagy egyéb "előítéletei". A Twitter tovább fejleszti majd a programot, amelynek kódját nyitottá is teszi majd, hogy azt bárki ellenőrizhesse és tesztelhesse.(Guardian)