Megrendezték a világ első szépségversenyét, amin egy algoritmus volt a zsűri. A programot azért tervezték, hogy a versenyzőkben csak olyan általános jegyeket vizsgáljon, mint az arc szimmetriája vagy a ráncok elhelyezkedése, hogy megtalálja az alapvető emberi szépségre leginkább hasonlító indulókat.

A Beauty.AI nevű versenyre több mint 6000 ember küldött be képet a világ 100 országából, majd az algoritmus kiválasztott 44 győztest.

Aztán derült ki, hogy a robot

nem nagyon szerette a sötét bőrű versenyzőket.

A 44 győztes túlnyomó többsége fehér, van néhány ázsiai, és egy sötét bőrű.

A szervezők szerint a nevezők többsége fehér, de a győztesek között sokkal magasabb volt a fehérek aránya, mint a nevezők között.

Nem ez az első eset, hogy valószínűleg nem direkt leprogramozott pontatlanságok miatt egy-egy algoritmus rasszista lett, A Microsoft Tay nevű chatbotja például pár óra alatt elkezdett neonáci nézeteket terjeszteni a Twitteren, olyanokat posztolt, mint hogy a holokauszt nem történt meg, hogy utálja a feministákat, és minden feminista a pokolra jut, vagy hogy Hitler semmi rosszat nem tett. Tay esetében a hiba az volt, hogy az algoritmus nem tudott elég pontosan különbséget tenni az általa megfigyelt posztok tartalmában, és mivel csak egy megadott korosztály beszédmintáinak utánzása volt a feladata, könnyen átverhették a trollok.

A szépségversenyt zsűriző robotnál inkább az volt a hiba forrása, hogy a minta, amin tesztelték, nem tartalmazott elég színes bőrű alanyt ahhoz, hogy a robot megtanulja a sötét bőr alatt is megfelelően látni, amire beprogramozták.

Más szakértők viszont arra hívták fel a figyelmet, hogy már rengeteg ehhez hasonló arcfelismerő program működik a világon, és ha azok is tartalmazzák a szépségversenyes robot nem eléggé letesztelt kódjait, akkor ennek komoly következménye lehet a sötét bőrű emberekre az élet más területein is. (Guardian)