Felfüggesztené a politikus képek generálását a legnagyobb képgeneráló AI

A legismertebb képgeneráló mesterséges intelligencia, a Midjourney vezérigazgatója, David Holz a Bloombergnek szombaton arról beszélt, mérlegelik, hogy az előttünk álló amerikai választási kampányban felfüggesztik a politikusokat ábrázoló képek generálását. A cél, hogy ezzel elejét vegyék az olyan manipulatív fake news-kampányoknak, amiket nem valódi, generált fotókra építenek.

A terv az, hogy a tiltást az ismertebb politikusokra, elsősorban Donald Trumpra és Joe Bidenre, terjesztik ki, és nagyjából egy évig lenne érvényben. A dolog még nem dőlt el, mert Holz például maga is elárulta, hogy szeret trumpos képeket generálni, de egyetért vele, hogy egy kampányban ez azért sok kalamajkát tudna okozni.

A bejelentés egyik közvetlen előzménye, még ha nem is feltétlenül kötődik a döntéshoz, hogy Taylor Swiftről deep fake pornóképek lepték el nemrég a Twittert. Abból elég nagy botrány lett, miután az „eredeti” poszt több mint 45 millió megtekintést, 24 ezer újraposztolást és több százezer lájkot generált, és 17 órán át zavartalanul látható volt, mire felfüggesztették. A Twitter az eset kivizsgálását ígérte.

Nem valószínű egyébként, hogy önmagában a képgenerálásra vonatkozó korlátozás képes lehet megakadályozni azt, hogy a mesterséges intelligenciák segítségével választási kampányok manipulálhatóak legyenek: és nem csak hangminták másolására vagy manipulálására érdemes gondolni; ahogy az MIT vonatkozó kutatása is szól róla, a mesterséges intelligenciák alkalmasak lehetnek „önálló” politikai termékek, akciók megtervezésére és legenerálására is. (Guardian)