„Képei és személyes adatai kiszivárogtak. Beszéljünk róla!” - ilyen üzeneteket kaptak dél-koreai egyetemi hallgatók a Telegram üzenetküldő alkalmazásban. A chatszobákba belépve pedig megjelent egy teljesen átlagos, valahonnan lelopott fotó róluk, majd annak egy olyan változata, amit deepfake technológiával meztelen testre szerkesztettek rá, mintha pornográf képről lenne szó. Egy dél-koreai újságíró feltárta, hogy koránt sem csak főiskolások érintettek, hanem közép- és általános iskolások is. A dél-koreai cikk alapján a BBC számolt be az ügyről.

„Képei és személyes adatai kiszivárogtak. Beszéljünk róla!”

A dél-koreai újságíró, Ko Narin a közösségi médiában keresgélt, amikor belebotlott több tucat chatcsoportban a Telegramon, ahol felhasználók osztottak meg nőkről, lányokról készült fényképeket, és AI szoftvereket használtak arra, hogy azokból másodpercek alatt hamis pornográf képeket készítsenek.

A fenti üzenetet kapta meg szombat este Heejin, egy főiskolás lány is, akinek nevét a cikk szerzője megváltoztatta. Amikor Heejin belépett a Telegram csoportba, hogy elolvassa az üzenetet, rögtön megjelent magáról egy kép, amit néhány évvel ezelőtt, még iskolás korában készítettek róla. A következő kép viszont már ugyanennek a fotónak a szerkesztett változata volt: a képen meztelen volt, méghozzá nagyon élethűen.

Heejin megrémült, ezért nem reagált semmit az üzenetre, de a képek továbbra is záporoztak. A fotókon szexuális aktusok közben szerepelt.

Heejin teljesen lefagyott a történtek miatt, de miután meglátta Ko Narin dél-koreai újságíró erről szóló cikkét, amiből kiderült, hogy koránt sincs egyedül, még inkább elkezdett szorongani, mert attól fél, hogy még többen láthatták a fotókat, mint eredetileg gondolta. Heejin eleinte magát okolta. „Nem tudtam megállni, hogy ne azon gondolkodjak, hogy ez azért történt, mert feltöltöttem a fényképeimet a közösségi médiába. Jobban kellett volna vigyáznom?”

Az újságíró nyomozásából kiderült, hogy volt olyan chatszoba, ahol az adminisztrátor azt kérte a tagoktól, hogy fejenként négy képet küldjenek lányismerőseikről, megosztva a nevüket, életkorukat és lakóhelyüket.

Azóta számos nő és tinédzser az ország különböző részein eltávolította fényképeit a közösségi médiából vagy teljesen deaktiválta fiókjait, félve attól, hogy ők is célpontokká válnak.

„Frusztráltak és dühösek vagyunk, hogy nekünk kell cenzúráznunk a viselkedésünket és a közösségi média használatát, amikor semmi rosszat nem tettünk” - mondta egy egyetemista, Ah-eun, akinek a társai estek a deepfake áldozatául.

Ah-eun elmondása szerint az egyik áldozatnak azt mondták a rendőrségen, hogy ne is próbálkozzon feljelentéssel, mert túl nehéz lenne elkapni a tettest, és egyébként is ez „nem is igazán bűncselekmény”, mivel „a fotók hamisak”. Ez jól mutatja, hogy nem csak a rendőrség teljesen felkészületlen a deepfake-kel elkövetett bűncselekményekkel kapcsolatban, de azt is, hogy mekkora problémát vet fel a Telegram titkosított üzenetküldő, ahol nem lehet visszakövetni a felhasználókat. Az alkalmazásban a felhasználók gyakran anonimak, a chatcsoportokat lehet titkosítani, és a beszélgetések tartalma nyom nélkül törölhető.

Nem véletlen, hogy Franciaországban néhány héttel ezelőtt letartóztatták a Telegram kitalálóját és tulajdonosát, Pavel Durovot, akivel szemben a párizsi ügyészség indított vizsgálatot

• szervezett bűnözői csoportok által folytatott tiltott tranzakciókat lehetővé tévő online platform működtetése,
• a hatóságokkal való együttműködés megtagadása,
• gyermekekről készült szexuális tartalmú képek szervezett terjesztésében való bűnrészesség miatt.

Országos botrány

„Minden percben többen töltöttek fel fényképeket a lányokról, akiket ismertek, és kérték, hogy alakítsák át őket deepfake-ekké” - mondta a botrányt kirobbantó újságíró a chatszobákról a BBC-nek.

Ko Narin felfedezte, hogy ezek a csoportok nemcsak az egyetemi hallgatókat célozzák. Volt olyan chatszoba, amely kifejezetten középiskoláknak és még általános iskolásoknak szólt. Mitöbb, volt olyan diák, akiről annyi kép készült, ha egy saját chatszobát hoztak neki létre. Ezeket gyakran „megalázó szobaként” emlegették, a belépési feltételeik pedig több esetben nagyon szigorúak voltak.

Az újságírót az is megdöbbentette, hogy mennyire szisztematikus és szervezett volt az egész folyamat. A legrémisztőbb szerinte viszont az a chatszoba volt, ahova általános iskolás gyerekekről töltöttek fel képeket, és ennek több min 2000 tagja volt.

Ko erről szóló cikke a Hankyoreh nevű újságban jelent meg és sokkolta Dél-Koreát. A cikk hatására női aktivisták is elkezdték átkutatni a Telegramot, aminek eredményeként több mint 500 iskolát és egyetemet azonosítottak be, ahol terjesztettek ilyen képeket. Az, hogy ez összesen hány diákot érint, még nem tudni, de valószínűsíthetően sokan vannak 16 év alatt, ami Dél-Koreában a beleegyezés korhatára. Az elkövetők nagy része pedig maga is tinédzser.

A cikk megjelenése után, hétfőn a rendőrség bejelentette, hogy fontolóra veszik a Telegram vizsgálatának megkezdését a fenn említett francia eljárás mintájára.

A női jogi aktivisták viszont azzal vádolják a dél-koreai hatóságokat, hogy túl régóta hagyják folyni a Telegramon megvalósuló szexuális zaklatást, mivel Dél-Korea már korábban is szembesült ezzel a válsággal. 2019-ben kiderült, hogy egy szexhálózat a Telegramot használta arra, hogy nőket és gyerekeket kényszerítsen arra, hogy készítsenek és osszanak meg szexuálisan explicit képeket magukról. Annak idején a dél-koreai rendőrség kérte a Telegramot, hogy információk átadásával segítsék a nyomozást, de az alkalmazás üzemeltetői ignorálták a kérésüket. Bár a hálózatot működtető elkövetőt 40 év börtönre ítélték, az alkalmazás ellen semmilyen szankciót nem hoztak.