Azzal, hogy hogyan hathat felhasználói mentális egészségére a Facebook, mi is számos alkalommal foglalkoztunk és a hasonló beszámolókkal tele a világsajtó is. Arról viszont kevesebb szó szokott esni, hogy vannak, akiket a Facebookra felkerülő káros tartalmak ennél is közvetlenebbül érintenek: azokat az embereket, akik moderátorként dolgozva nap mint nap kell szembenézzenek a közösségi oldalra feltett mocsokkal. 

Ebbe a világba nyújt betekintést két német dokumentumfilmes, Hans Block és Moritz Riesewieck filmje, a Tisztogatók, amit a következő héten négy alkalommal is vetítenek itthon a Budapesti Nemzetközi Dokumentumfilm Fesztivál keretében. 

A 2018-as dokumentumfilmet a a kritikák nevezték noir thrillernek is, ami persze egészen addig tűnik csak pontos leírásnak, amíg nem gondolsz bele abba, hogy itt hús-vér embereket látsz a vásznon. 

A Facebook szabályozása az elmúlt évek egyik legfontosabb közpolitikai kérdésévé nőtte ki magát. Érthető okokból, a legutóbb közölt adatok szerint az oldalt havonta 2,27 milliárd ember használja, akik aztán percenként 510 ezer kommentet és 136 ezer fotót töltenek fel. Ebből az adatmennyiségből kell kiszednie a Facebooknak azokat, melyek nem férnek össze az oldal alapelveivel. 

Melyekről amúgy lehet tudni, hogy nem állnak túl erős lábakon: a New York Times decemberben szivárogtatta ki a Facebook belső moderációs irányelveit, melyet az oldal által megbízott vállalatoknál dolgozó 15 ezer embernek küldtek ki. Az 1400 oldalas dokumentum tanulmányozása után a lap arra jutott, hogy az irányelvek hemzsegnek a hibáktól és a résektől, egy rakás helyzetben nem alkalmazhatóak megfelelően. 

Ugyanez a tapasztalat szembejön a Tisztogatókban is, amely több irányból mutatja be a Facebook jelenlegi moderálási módszereinek fenntarthatatlanságát. Egyrészt ott vannak a moderátorok, akik a legnagyobb titoktartás közepette végeznek hihetetlen lélekölő munkát. Másrészt pedig ott vannak a társadalmi hatások, azaz az a probléma, hogy a közösségi oldalra felkerülő tartalmak moderálásával megbízott embereknek kell döntenie olyan kényes, sokszor nehezen megítélhető politikai kérdésekben, melyeknek akár komoly hatása is lehet egy tőlük távoli, számukra teljesen idegen világban.

Azt lehet tudni, hogy a Facebook főleg alvállalkozóknak szervezi ki a moderálást. A közösségi oldal magyar felületét például Berlinből moderálja egy kisebb csapat. Egyikük tavaly részletesen is elmesélte nekünk, hogy miből áll a munkája. De a magyarországi viszonyokkal foglalkozó csapat csak a jéghegy csúcsát jelenti: a Facebook moderációját intéző 15 ezer ember döntő többsége távoli, szegényebb országokban dolgozik, jóval rosszabb munkakörülmények között. 

Block és Riesewieck filmje a Fülöp-szigeteki moderátorokra koncentrál, mivel a feltételezések szerint a Facebook moderációjának egy nagyon jelentős részét az itt élők végzik. Ezek azok az emberek, akikre senki nem gondol, pedig munkájukkal nap mint nap találkozunk: rajtuk múlik, hogy a hírfolyamunkat nem öntik el az erőszakos, véres vagy pornográf tartalmak.

A Facebook tartalomszűrésének egy részét algoritmusok végzik, de a technológia még nem tart ott, hogy tökéletes bizonyossággal kiszűrjék a szabályokkal nem összeférő tartalmakat. Így az óriási adatmennyiségre embereket kell ráengedni: az egyik manilai moderátor például arról beszél, hogy napi 25 ezer képről kell eldöntenie, hogy maradhat vagy törlődjön. 

A képek és videók döntő többsége pedig okkal kerül a moderátorok elé: lefejezéstől öngyilkosságig, gyerekpornótól nemi szervekig váltogatják egymást a cenzúrázandó tartalmak. Nem véletlen, hogy a moderátorok arról beszélnek, ezt a munkát nehéz ép ésszel végezni. 

A Tisztogatók így épp azért lesz zavarba ejtő élmény, mert azok az emberek kapnak arcot és hangot, akik a világ másik felén gyomlálják ki a szemetet a mi hírfeedünkből. (Igaz, arcot nem mindenki kapott. Akiket még kötött a titoktartási szerződésük, azok arc nélkül mesélik el élményeiket.) A film egy pontján például egy negyvenes-ötvenes éveiben járó nő szenvtelen arccal mondja el, hogy a fotón látható férfit életlen késsel fejezhették le, mert mint mondja, egyértelműen erre utalnak a vágásnyomok a testén. Soha korábban nem foglalkozott ilyesmivel, a moderálás közben elé kerülő felvételek tették hozzáértővé. 

Nem meglepő módon a moderátori posztokon hatalmas a fluktuáció, sokan pár hónap után otthagyják a rendívül megterhelő munkát. Az elmúlt időszakban már gyakoribbá váltak azok a hangok, melyek szerint a Facebook nem óvja eléggé moderátorait a lelki sérülésektől, de közben meg a másik irányból a kormányok épp azt követelik a vállalattól, hogy tegyen többet a hamis hírek és a gyűlöletbeszéd terjesztése ellen.

A lelkileg meggyötört és kiégett moderátorok tehát csak az egyik oldalát jelentik a Tisztogatókban bemutatott problémának. Közben ugyanis ezek a borzasztó körülmények között dolgozó emberek hivatottak sokszor dönteni politikailag kényes kérdésekről. 

A filmben számos példa felmerül erre a problémára: elfér-e például a Facebookon egy tengerbe fulladt menekült gyerek fotója? És ha a képet egy művész készítette? Honnan lehet tudni, hogy a közel-keleti fegyvereseket mutató fotón terroristákat látni vagy pedig szabadságukért harcoló helyieket? 

Ezek nem csak absztrakt felvetések, hanem olyan kérdések, melyekről a Facebook névtelen moderátorainak nap mint nap kell döntést hozniuk. Legtöbbször úgy, hogy alig tudnak valamit a helyi kontextusról, nincsenek tisztában a történelmi előzményekről, és hogy általában nyolc másodpercük van dönteni egy képről. 

Ennek a feladatnak a lehetetlenségéről nemcsak maguk a moderátorok beszélnek a filmben, hanem a techvállalatok egykori munkavállalói, akik közelről nézték végig, hogyan nőnek ekkorára ezek a platformok, és hogyan lehet például a Facebook eszköze egy népirtásnak. 

A film egy pontján a Google etikus designjáért felelős egykori vezetője, Tristan Harris arról beszél, hogy egyszerűen nem igaz az, hogy van az emberi természet, mint olyan, és mellé pedig vannak a semleges technológiai eszközök. Ezeknek a platformoknak ugyanis Harris szerint igenis vannak céljai: hogy a lehető legtöbb reakciót és interakciót vonzzák be. Azt pedig jól megtanulták, hogy a felháborodásnál és dühnél kevés jobb módszer van erre. 

A Tisztogatók akkor is nagyon nyomasztó film lenne, ha a készítői nem tettek volna meg eleve mindent a nyomasztó hatásért: az üres, sötét irodákban felvett monológok, a bejátszott tartalmak, melyeket a moderátoroknak cenzúrázniuk kell, legalább annyira kellemetlen látványt nyújtanak, mint azok a felvételek a filmben, amikor a nagy techvállalatok vezetői a szenátusi meghallgatásukon tárják szét kezeiket, hogy ők mindent megpróbáltak.