• A deepfake-et nemcsak vicces képekhez, hanem pornóhoz és politikai vagy háborús hírek hamisításához, választások befolyásolásához is lehet használni. Egyre több terület van, ahová beférkőznek az ilyen típusú tartalmak.
• Hamis felvételek eddig is voltak, de egyáltalán nem mindegy, milyen bonyolult azokat elkészíteni, és mennyire tömeges az elterjedésük.
• Szeptemberben kiskorú lányok tucatjairól kezdtek meztelen fotók keringeni egy spanyol kisvárosban: a 30 ezres lakosságú Almendralejo öt középiskolájából négyben adták egymásnak kézről kézre a gyerekek az osztálytársaikról készült pornográf tartalmakat. A képekről végül kiderült, hogy egy Clothoff nevű mesterséges intelligenciával generálták őket, ami kifejezetten erre való.
• A közösségi médiában kalandozó kiskorúaknak fontos lenne megtanítani, hogy még Mark Zuckerberg sem a barátjuk.

A manipulált felvételek nem újkeletűek, az viszont igen, hogy már nemcsak hírességek, hanem egyszerű felhasználók, köztük kiskorúak is gyakran válnak a deepfake pornó áldozatává. A spanyol El País riportja szerint a konkrét ügyben több mint húsz 12 és 17 év közötti lány érintett, ennyi esetről sikerült tudomást szerezni. A mesterséges intelligencia által készített képek és videók ismérve, hogy másodpercek alatt, egészen hétköznapi eszközökkel, végtelen számban lehet előállítani őket. Az áldozatok pedig, ha valahogy rá is bukkannak egy őket ábrázoló álpornófelvételre, érthető módon nem biztos, hogy szeretnék világgá kürtölni a létezését.

Maga a deepfake elnevezés a Redditnek köszönhető, a deep learning (mély tanulás) és a fake (ál-, hamis) szavak összemosásával. A Motherboard már öt éve írt azokról a Deepfake Reddit-felhasználókról, akik vallásos hevülettel hamisítják hírességek arcát pornófelvételekre. Meggyőző álvideók készültek Gal Gadot, Maisie Williams és Taylor Swift főszereplésével, bonyolult CGI-technológia helyett egyszerű algoritmusok, nyilvánosan elérhető képek, videók és mezei laptopok segítségével. A deepfake azóta köznév lett, ma már tényleg bárki készíthet hasonló felvételeket tetszőleges szereplőkkel, akár teljesen ingyen.