Gyakorlati kísérletben (.pdf) bizonyították a Carnegie Mellon Egyetem kutatói az egyre jobban elterjedő arcfelismerő rendszerek egyik súlyos és alapvető hibáját. A korábbi elméleti kutatásokra - a Google, az Open AI és a Penn State Egyetem is publikált már a témában - alapozó kísérletben kinyomtattak egy színes szemüvegkeretet - aminek az előállítási költsége mindössze hatvan forint volt - amivel aztán simán átverték nemcsak a már használatban levő arcfelismerő szoftvereket, hanem azt a saját, rendkívül fejlett rendszerüket is, amit külön ehhez a teszthez készítettek.

A szemüvegkeret az arcfelismerő szoftverek egy már feltárt hibáját használta ki a megtévesztéshez. Ezek a szoftverek neurális hálózati modellben tanulják meg az arcok azonosítását - több millió arcképet táplálnak beléjük, ezeket tanulmányozva tanulja meg a rendszer, hogy mi az az arc, és hogy hogyan lehet azonosítani.

Az azonosításban a szoftverek nagyban támaszkodnak bizonyos karakteres jegyekre, például a szemöldök, vagy az orr formájára. A kinyomtatott szemüvegkereten híres emberek arcképéről vettek kölcsön elemeket - a foltszerű festésű, de amúgy rikító sárga keret készítésekor negyven híres ember arcát használták fel. Ezért is eshetett meg, hogy a digitális teszteken, amikor a szemüveget csak ráfotoshopolták egy arcképre, a gép száz százalékos biztonsággal azonosította rosszul az arcképeket - a konkrét esetben egy negyvenes kutatónőt John Malkovich színészként. A valós kísérleteknél már nem volt ennyire biztos a gép a dolgában, de általábanmég így is rossz döntéseket hozott. Egy fiatal, borostás férfit például 87,87 százalékos biztonsággal azonosított Milla Jovovich színésznőként.

A kísérlet nem önmagában való szórakozás volt, hanem arra a nagyon is valós veszélyre hívta fel a figyelmet, hogy az egyre gyakrabban azonosításra használt arcmással nagyon is könnyű visszaélni. (Via Quartz)