Az elmúlt években hatalmasat robbant az AI-vezérelte otthoni asszisztensek piaca, és a közös ezekben az alkalmazásokban, hogy sokszor női hangon szólalnak meg. A Quartz még tavaly év elején közölt egy nagy riportot arról, hogy mi történik, ha a különféle AI-vezérelte otthoni asszisztenseket elkezdjük sértegetni. Az egyik legelterjedtebb modell, az Amazon Alexája pedig kifejezetten rosszul teljesített: a női hangú asszisztenst ribancozhattuk kedvünkre, általában csak annyit reagált, hogy köszöni a visszajelzést. 

Sokan felhívták már arra a figyelmet, hogy milyen káros társadalmi gyakorlatokat erősíthet meg, ha egy otthoni teendők elvégzésére tartott női hangú asszisztenst kedvükre gyalázhatnak a felhasználók: ezek az algoritmusok sokszor épp azok közül a feladatok közül látnak el néhányat, melyet jellemzően a nők szoktak, és melyeket el nem ismertségük miatt láthatatlan munkáknak is szokás nevezni. 

Ebben a felállásban történt most kisebb változás. A legutóbbi update óta az Alexa egyértelműen feministának vallja magát, és ha például erre rákérdez valaki, akkor el is mondja, hogy pont annyira feminista, mint mindenki, aki azt gondolja, hogy át kell hidalni a társadalmi egyenlőtlenségeket férfiak és nők között. Ha pedig sértő megjegyzést teszünk rá, akkor ezentúl nem semleges-elismerő választ fog adni, hanem világosan közli, hogy erre nem hajlandó válaszolni. 

Ugyan ez nem tűnik túl éles felcsattanásnak, az Alexa fejlesztőcsapatának egyik vezetője, Heather Zorn szerint az is fontos, hogy az algoritmus ezentúl nem fog belemenni ilyen párbeszédekbe: mint elmondta, az egyik módszer, ahogy próbálják megakadályozni a nőkkel szembeni negatív sztereotípiák állandósulását, az az, hogy nem reagálnak bizonyos kérdésekre és nem reagálnak a sértésekre. 

Az Amazon amúgy nyilvánosan nem jelentette be ezeket a változtatásokat, a Quartz újabb tesztje után ismerték csak el, hogy csavartak egyet az algoritmus reakcióin. A cél ezentúl az, hogy ha valaki nem megfelelően szól az Alexához, akkor azt leszereljék, és elejét vegyék a párbeszéd kibontakozásának. 

Mivel az Alexa elsősorban azért még mindig egy otthoni asszisztens, ami a különféle napi tennivalók átvállalására szolgál, az Amazon abba nem akart beleállni, hogy az algoritmus nyílt konfrontációt is vállaljon a szexista vagy erőszakos felhasználóval. És azt is belátták, hogy az eszköz különféle világnézetű és politikai meggyőződésű ember otthonában köt majd ki, ezért erre tekintettel mertek csak belenyúlni a programjába. 

Az első cikkek mind arról szólnak, hogy egy helyes irányba megtett lépés, hogy az Alexa ezentúl nem köszöni meg a szexuálisan túlfűtött beszólásokat és a hasonló párbeszédeket megpróbálja majd leszerelni, de azért ez a megoldás még messze van az ideálistól: el lehetne képzelni egy olyan világot is, ahol egy hasonló megjegyzésre az algoritmus közli, hogy az ilyesmi szexuális zaklatásnak számít, és ez semmilyen körülmények között nem elfogadható, illetve ötleteket mondhatna, hogy hogyan lehet az ilyesmit visszaszorítani. 

Vagy ahogy a Quartz megjegyzi, talán még jobb lenne, ha a személyi asszisztenseket eleve nem nőkről mintáznák. Ez amúgy meglehetősen nehezen elképzelhető, mivel a különféle felmérések mind azt erősítették meg, hogy a fogyasztók kifejezetten igénylik a női hanggal és személyiségjegyekkel bíró asszisztenseket, azaz a kereskedelmi érdek egyelőre szembemegy azzal a felvetéssel, hogy az otthoni kiszolgálást elvégző algoritmus ne egy női személyiségen alapuljon. 

Egyáltalán nem elhanyagolható kérdésről van szó: Alexából becslések szerint több tízmillió darab fogyott el az elmúlt évekből, míg a szintén női hangú Siri egymilliárd ember zsebében lapul ott. (Glamour, Quartz)