Emlékeznek még, amikor 2017-ben Mark Zuckerberg még az automata moderációban látta a megoldást a Facebook egyik legkomolyabb problémájára, mármint arra, hogy kétmilliárd aktív felhasználó tartalmainak folyamatos ellenőrzése emberi erővel gyakorlatilag lehetetlen? Hat nappal a christchurchi mészárlás után, amit az elkövető élőben közvetített a Facebookon, a Facebook fedhetetlenségért felelős vezetője (head of integrity), Guy Rosen nyilvánosan beismerte, hogy az AI-moderáció számára is megoldhatatlan feladat a hasonló tartalmak kiszűrése.

A Facebook elvben kiemelt figyelmet szentel az élő, vagy éppen csak befejeződött élő közvetítések moderációjára. Így például ha valaki azzal jelent fel egy ilyen tartalmat, hogy azon öngyilkosság látható, azt szinte azonnal eltávolítják. A christchurchi mészárlás élő közvetítését először annak lezárulta után 12 perccel jelentették a moderátoroknak. De nem öngyilkosságként - hiszen nem is az volt -, így hátrább sorolódott az ellenőrzése a prioritáslistán.

Rosen egy blogposztban most azt is leírta, miért lehetetlen mesterséges intelligenciával kiszűrni a hasonló tartalmakat. Ehhez ugyanis "több ezer" hasonló videót kéne mutatni a gépnek, "ami elég bonyolult, mert az ilyen esetek hál' Istennek elég ritkák". Megfelelő okítás hiányában pedig könnyen előfordulhatna, hogy az AI egy csomó, megjelenésében nagyon hasonló, de teljesen ártalmatlan videót is kiszűrne, hiszen a Facebookon millió számra osztanak meg lövöldözős játékokból vágott videókat, élő közvetítéseket.

Ez már csak azért is probléma volna, mert az AI által kiszűrt videókat a moderátoroknak is át kell nézniük, így nekik több ezer irreleváns videó között kéne megtalálniuk a valóban eltávolítandó videókat. Ez ráadásul még abban is hátráltatná őket, hogy adott esetben riaszthassák a hatóságokat.

Christchurch esetén a Facebook egy másik problémával is szembesült. Az eredeti videó eltávolítása után 1,5 milliószor töltötték fel újra, a kísérletek ötöde sikeres is volt. Rosen szerint ezért részben a média is felelős, mert tucatnyi tévé és hírszájt is feltöltötte a videót, de a fő ok az volt, hogy valakik szervezetten igyekeztek minél több emberhez eljuttatni a videót. (Via The Guardian)