Itt a legfejlettebb MI: az Amazon arcfelismerő szoftvere bűnözőként azonosított 28 kongresszusi képviselőt

Igen vicces eredménnyel járt egy igen komoly tiltakozó akció: az American Civil Liberties Union (ACLU) nevű jogvédő szervezet által szervezett kísérlet során az Amazonnak az amerikai rendőrség és más hatóságok által is használt arcfelismerő rendszere az Egyesült Államok Kongresszusának 28 tagját azonosította bűnözőként.

Az egész kísérlet kiváltó oka az volt, hogy az ACLU és más jogvédő szervezetek hónapok óta támadják az Amazont amiatt, hogy a cég kormányszerveknek is hozzáférést ad a Rekognition nevű arcfelismerő programjához. A jogvédők konkrétan azért tiltakoznak, mert a Rekognitiont Oregon és Florida államban élesben használják a rendvédelmi szervek, márpedig az ACLU szerint a program hátrányosan különbözteti meg a bevándorlókat és színesbőrűeket.

Első hallásra képteleségnek is tűnhet, hogy egy felhőalapú képelemző és -összehasonlító szoftver hogyan lehetne rasszista vagy bőrszín alapon válogató a szó bármilyen értelmében, de a jogvédők éppen ennek a demonstrálására szervezték meg a kísérletet. Ami annyit jelentett, hogy 12 dollár 33 centért hozzáférést vásároltak a programhoz, majd összeeresztették a Kongresszus két háza összesen 535 tagjának a fényképeit egy 25 ezer letartóztatott rendőrségi fotóit tartalmazó adatbázissal. Az eredmény az lett, hogy a rendszer 28 képviselőnél jelezte, hogy legalább 80 százalékos valószínűséggel megegyeznek a letartóztatottak valamelyikével. Az ACLU azt tartotta ebben aggasztónak, hogy 28 érintett képviselő 39 százaléka volt afroamerikai vagy latino, miközben a Kongresszus tagjainak csak 20 százaléka vallja magát e két csoport tagjának. Vagyis a szoftver sokkal nagyobb eséllyel találta gyanúsnak a színesbőrűeket.

Az ACLU szerint a szoftver ráerősít arra a gyakorlatra, hogy az amerikai rendőrök eleve nagyobb eséllyel szállnak rá a nem fehérekre.

Az Amazon erre azzal reagált, hogy a 80 százalékos valószínűség túl alacsony, ők azt csak tárgyak azonosításához javasolják, és a rendvédelmi szerveknek pedig azt ajánlják, hogy 95 százalékos valószínűségre kalibrálják be a rendszert.

(via Reuters)

Népszerű
Uralkodj magadon!
Új kommentelési szabályok vannak 2016. január 21-től. Itt olvashatod el, hogy mik azok, és itt azt, hogy miért vezettük be őket.