Még mindig dobál extrém soványságot idealizáló videókat a tinédzserek elé a YouTube algoritmusa
A biztonsági fejlesztések ellenére a YouTube algoritmusa továbbra is tálcán kínálja a gyerekeknek a káros tartalmakat – írja a BBC. A Digitális Gyűlölet Elleni Központ (Centre for Countering Digital Hate, CCDH) kutatása szerint az algoritmus az ártalmas tartalmak visszaszorítása érdekében bevezetett lépések ellenére dobál extrém soványságot idealizáló videókat a tizenéves felhasználók elé.
A szervezet megismételte 2024-es vizsgálatát: 13 éves lányokat szimuláló fiókokkal tesztelték a platform ajánlórendszerét az Európai Unióban, az Egyesült Királyságban és az Egyesült Államokban. A kutatók a frissen kreált tiniprofilokkal fogyókúrával és testképpel kapcsolatos tartalmakat néztek meg, majd elemezték, milyen videókat ajánl ezek után az algoritmus.
A YouTube elvileg 2023-ban döntött az anorexiát érintő tartalmak korlátozásáról. A vállalat irányelvei kezelnék a mentális egészségügyi kríziseket, különösen a tinédzserek körében, akik fokozottan veszélyeztetettnek számítanak. A platform zéró toleranciával viszonyulna a tartalmakhoz, amelyek utánzásra alkalmas káros viselkedést mutatnak be, nyilván ilyen a szélsőséges kalóriamegvonás is.
Az elmúlt két évben egyfelől érdemi javulás történt, most minden harmadik helyett minden kilencedik javasolt videónak volt köze az evészavarokhoz, másfelől ez a szám a cikk szerint még mindig nem elég alacsony. Egy videó is elég lehet, hogy elindítson egy gyereket a „testképzavar-lejtőn”, és a kiskorúak továbbra is képesek megtalálni a veszélyes tartalmakat, amelyek megnézése után a platform hasonló videókat ajánl.
A kutatók megállapították: a YouTube bővítette a mentális zavarokkal kapcsolatos biztonsági funkcióit. Például ha a keresésben szerepelnek bizonyos kulcsszavak, a felület videók helyett a Lelki Elsősegély-szolgálat segélyvonalát jeleníti meg. Imran Ahmed, a CCDH vezetője szerint a változások azt mutatják, hogy a megfelelően érvényesített szabályozás tud védelmet nyújtani, ám a teljes siker még messze van, a probléma a fenti számok ismeretében nem tekinthető megoldottnak. (BBC)