Pár napja jelent meg egy cikk a New York Timesban arról, hogy a YouTube gyerekeknek szánt applikációján időnként kifejezetten ijesztő tartalmak is átcsúsznak, a frászt hozva a gyanútlanul videókat néző páréves gyerekekre. 

Nem egyszerűen klasszikus szörnyfilmekről vagy egyéb jól ismert ijesztgetési formákról van szó, hanem egy egészen sajátos műfajról: ismert rajzfilmek nagyon bizarr, sokszor szürreális és zavarba ejtő eltorzításairól, melyekben erőszakos jelenetek, villódzó hang- és képhatások és teljesen megmagyarázhatatlan jelenetek váltják egymást. A cikk példaként a Nickelodeonon futó PAW Patrol című sorozat egy ilyen átalakított verzióját idézte fel: 

link Forrás

Az eredeti sorozat részeiben egy iskolás fiú pár kutyabarát segítségével segít a környékükön felmerülő problémák megoldásában, nagyjából azon a szinten, ami egy 4-5 éves gyereknek simán eladható. Ebben a verzióban viszont tűzesetek, vonatsín alá szoruló kislány, halálsikolyok, össze-vissza ugráló képek váltják egymást. 

A Google 2015-ben dobta piacra a YouTube Kids nevű alkalmazását, aminek az lenne a lényege, hogy az ezen keresztül videókat fogyasztó gyerekek elé csak koruknak megfelelő tartalmak kerüljenek. Az alkalmazás indítása óta visszatérő probléma, hogy rosszindulatú szereplők olyan tartalmakat állítottak elő, melyek képesek voltak átverni a YouTube Kids szűrőalgoritmusát, bejutva így a zárt gyerekbirodalomba, de az utóbbi fél évben ez a jelenség látványosan felerősödött: egyre több szülő panaszkodott arra, hogy gyerekük olyan rajzfilmekbe futott bele, melyen jól ismert mesekarakterek keverednek mindenféle súlyosan erőszakos, gyomorforgató jelenetbe. 

A YouTube álláspontja szerint létező, de nagyon elhanyagolható jelenségről van szó, ami ellen viszont így is a lehető legkomolyabban fellépnek. 

Ez csak a felszín

Vannak viszont, akik szerint a probléma sokkal komolyabb annál, mint amit a YouTube bevall belőle, sőt, még a New York Times cikke is csak a felszínt kapargatta. A techkérdésekkel sokat foglalkozó James Bridle a Mediumra írta meg, hogy mit gondol erről a jelenségről, és a cikke egészen felkavaró olvasmány lett: ahogy haladsz benne előre, egyre kevésbé érted a világot, ami körbevesz. 

Amit fontos már most hangsúlyozni, hogy itt nem egyszerű techszkepticizmusról van szó, Bridle maga például lelkes híve az internetnek, rengeteg időt töltött online az elmúlt évtizedekben, úgy érzi, hogy rengeteget tudott meg a világról az internetnek köszönhetően. Ezzel együtt is nagyon zavarba jön mostanában attól a kérdéstől, hogy ha lenne gyereke, engedné-e neki, hogy internetezzen. Miközben semmiképp sem akarná korlátozni majd a gyerekeit abban, hogy az internet révén felfedezzenek dolgokat, mint ahogy ő tette, szerinte azt is látni kell, hogy ez az internet már nem az, amit még ő megismert. 

És közben azt is látni, hogy csavarodik rá egyre több kisgyerek a YouTube-ra: szín- és számtanuló videók, versikék és mondókák milliói érhetőek el, és egyre több az olyan gyerek, aki ezeken keresztül sajátít el alapvető készségeket. 

Ezért is érdemel komolyabb figyelmet, hogy akadnak bőven, akik komoly energiákat ölnek abba, hogy kisgyerekeket megijesztő, esetleg akár traumatizáló videókat gyártsanak le, melyek aztán különféle algoritmusok révén komoly sebességgel képesek terjedni. 

A probléma megértéséhez fontos azt is kiemelni, hogy a YouTube gyerekek látogatta világa egy egészen bizarr univerzum, ami sokkal nagyobbra nőtt, mint amire gondolni szoktunk: jól jelzi ezt a Bridle által is említett Kinder-tojás kicsomagolására létrehozott csatornák létezése. Az ilyen kicsomagolóvideókon egy kezet látni, amint szép lassan kibont Kinder-tojásokat. Az egyik legnagyobb erre specializálódott csatornának ma 3,7 millió feliratkozója van, videóikat pedig több mint hatmilliárd (!!!) alkalommal nézték meg. Ezek egészen döbbenetes számok, Justin Bieber videóit például 10 milliárd alkalommal tekintették meg eddig. 

A műfaj már magyarul is megjelent, visszafogottabb számokkal, de azért ez a videó például összeszedett 80 ezer megtekintést:

link Forrás

Ezen a nemzetközi versenyzőn pedig 852 millió (!) megtekintés van:

link Forrás

Hasonlóan durva megtekintési számokat tudnak hozni a különféle mondókavideók: az erre szakosodott Little Baby Bum a YouTube hetedik legnépszerűbb csatornája, 515 videóval szedtek össze 11,5 millió feliratkozót és 13 milliárd megtekintést. 

Bridle többször hangsúlyozza, hogy a számokat mindig érdemes fenntartásokkal kezelni, tele a YouTube botokkal, melyek megtekintéseket és kommenteket hoznak, de ezzel együtt is, az bátran állítható, hogy rengeteg valódi néző is van ezek mögött a videók mögött. Nem véletlen, hogy a mondókavideók és hasonló tartalmak hatalmas piaccá nőtték ki magukat, melyek komoly bevételt is hozhatnak a készítőknek, ami persze rengeteg csalót is bevonzott. 

A legegyszerűbb módszerük, hogy egyszerűen fogják a népszerű tartalmakat, lelopják azokat, és újra megosztják őket saját csatornáikon. Ezzel a videók lekerülnek a hivatalos, jóváhagyott csatornákról, ezzel elérve azt, hogy a videóra rátaláló gyerekek többé nem egy ellenőrzött, koruknak megfelelő online térben mozognak, hanem az ajánlott videók között egyre bizarrabb dolgok ugorhatnak fel a számukra. 

Abban, hogy a gyerekek rátaláljanak ezekre a lelopott, nem ellenőrzött tartalmakra, nagy szerepe van annak, hogy ha egy bizonyos tartalomtípus népszerű lesz, megjelennek azok a tartalomgyártók, akik ezrével kezdik el készíteni a hasonló címmel és tagekkel ellátott videókat, minden létező kombinációban. Jól meg lehet ezt figyelni a Bridle által bemutatott példákon, ahol sokszor egyetlen címbe van bezsúfolva minden: mondókák, meglepetés-tojások, egy ismert rajzfilm neve rengeteg különféle verzióban vegyítve egymással. 

Erre a típusra egy példa a Finger Family videók, melyek sikere után olyan mértékben szaporodtak el az utánzatok, hogy ma már minimum 17 millió-féle Finger Family verzió van az interneten. Értelemszerűen ennek csak nagyon apró töredékét gyártották az eredeti csatorna alkotói, a videók döntő többsége utánzat, amik népszerű kulcsszavak és címkék alapján burjánzanak. 

Bridle szerint már az is meglehetősen problematikus, hogy nem nagyon tudjuk, miféle algoritmusok révén terjednek az amúgy ártalmatlan másolatok, milyen mechanizmusok dolgoznak a háttérben, melyek révén milliószám termelődnek újra a gyerekek figyelmét behúzni próbáló videók. 

A nagyipari tempóban termelő Videogyan 3D Rhymes — Nursery Rhymes & Baby Songs csatornának például közel ötmillió feliratkozója van, úgy, hogy közben fogalmunk sincs, ki vagy mi állítja elő ezeket a videókat, ahogy azt sem lehet tudni, hogy a sokmilliós nézettségükből mennyi a valódi megtekintés, és mennyi a szintén algoritmusok által kitermelt kattintás. 

De eddig még csak a megtekintésekre utazó csalókról beszéltünk, melyek algoritmusokkal felszerelkezve tömegesen gyártanak újra már sikeres videókat. Az igazán súlyos dolgok viszont csak ezután következnek. 

link Forrás

Bridle a mélyvíz felé a a címében más népszerű videókra utaló 'Wrong Heads Disney Wrong Ears Wrong Legs Kids Learn Colors Finger Family 2017 Nursery Rhymes' videóval indul el, amit nyilvánvalóan algoritmus hozhatott létre, és a  BABYFUN TV csatornán található meg, rengeteg hasonló videóval együtt. Ez a videó maga meglehetősen ártalmatlan, még ha a Grúból érkező Agnes keserves sírása kellemetlen érzéseket is kelthet a nézőben. 

Ami itt igazán érdekes, az maga a jelenség: több ezer hasonló csatornán több ezer hasonló videó készül, folyamatosan termelődnek az újabb nehezen megmagyarázható jelenetek, melyek aztán a népszerű keresőszavak bevetése miatt simán felbukkannak az ajánlott videók között. 

És ugyanide keverednek el a nyilvánvalóan ártó szándékkal készült verziók is: a YouTube egyik legnépszerűbb gyerekmese-sorozata a Peppa Pig, ennek kezdtek el felbukkanni a különféle mutánsverziói. Van egy rész például, amiben Peppa elmegy  a fogorvoshoz. Az eredeti részben minden remekül megy, a kedves fogorvos segít a fájós fogú malacon. De ha rákeresel arra, hogy "Peppa Pig dentist", akkor már az első oldalon felbukkan egy videó, ami mindenben az eredeti verzió elemeit hozza, csak a sztori más: a fogorvos itt gyakorlatilag megkínozza a malacot:

link Forrás

Felkavaró Peppa-videókkal amúgy tele a YouTube, van olyan verzió például, ahol a malac saját apját eszi meg, egy másikban pedig hígítót iszik. De ezekről lehet tudni, hogy 4chanos trollok csinálták, nincs ebben sok újdonság a Narancs, tetves és dugó vagy a Happy Tree Friends világához képest. Ami viszont a fenti videót zavarba ejtőbbé teszi, hogy csak pillanatra töri meg az amúgy eredeti Peppa-epizódot a kínzással, és Bridle egyszerűen nem tudja eldönteni, hogy trollok szórakoznak-e itt, vagy valami más mechanizmus mozog a háttérben. 

Persze a trollok által készített verziókkal is bőven van gond, hiszen pontosan lehet tudni, hogy sok gyerek téved oda ezekre a változatokra. De Bridle szerint ennél is hangsúlyosabb probléma, hogy ezek a verziók hogyan keverednek össze algoritmusokkal, és hogy egyáltalán mennyire lehet még nyomon követni, hogy hogyan születnek ezek a tartalmak. 

link Forrás

Azt is látni, hogy viszonylag kevés kattintás után nagyon erőszakos és felkavaró tartalmakhoz lehet eljutni, az itt felemlegetett videóknál jóval erőszakosabb és szexuálisan explicitebb tartalmak rejlenek ennek a spirálnak a végén. 

A köztes szinten pedig ott vannak azok a zavarba ejtő videók, melyekről nem is nagyon tudod megmondani, mit látsz: ennek a videónak a címében például az összes kötelező elem felbukkan, ismerős szereplőkkel van tele, és miközben alighanem nehezen tudnád megmondani, hogy mi történik benne, azt azért ki mernéd jelenteni, hogy nem szívesen mutatnád meg ezt egy négyéves gyereknek: 

link Forrás

És nem egy egyedi jelenségről van szó, hanem hetente száz számra készülő új videókról, egy rakás csatornán: 

És ebben a videóban például mi történik?

link Forrás

Egy lehetséges magyarázat a rengeteg gagyin animált mondókás és egyéb mesevideóra, hogy a 3D-animáció terepén belül gyerekvideókat még mindig olcsóbb gyártani, hiszen a fogyasztóknak jóval alacsonyabb igényeik vannak, ez pedig jó kísérletezési lehetőséget jelent arra, hogy egy potenciálisan jól jövedelmező piacra próbáljon meg betörni valaki. Az algoritmusok generálta címek, tartalmak és megtekintések pedig még olcsóbbá és könnyebbé teszik ezt az egészet. 

Ez megmagyarázhatja a rengeteg ártalmatlan, teljesen zagyva mutációt, melyek milliószám öntik el a YouTube-ot, de nem magyarázza az erőszakos, durva videókat. 

És a legzavarbaejtőbb alműfajról még nem is beszéltünk: az élőszereplős videókról, melyekben szintén gyerekek körében népszerű elemek keverednek szimpla horrorfogásokkal:

link Forrás

link Forrás

Abban semmi újdonság nincs, hogy ha valahol az algoritmus révén történő tartalomgyártás összeakad egy ranking-rendszerrel, elszabadul a pokol. A YouTube virális tartalmaira ráakaszkodó videókra sem most csodálkozott rá először a világ. De itt arról van szó, hogy pár éves gyerekeket céloznak kifejezetten agresszív, erőszakos és pornográf tartalmakkal. És egyelőre fogalmunk sincs, hogyan lehetne fellépni ezek ellen: a videómegosztóra olyan ütemben készülnek az új tartalmak, amit ember már biztos nem tud kordában tartani. Bridle szerint itt lenne az ideje, hogy a Youtube-ot tulajdonló Google elkezdjen foglalkozni ezzel a problémával.