A mesterséges intelligenciával működő kártevők internetre kapcsolódó eszközökbe, például okossütőkbe, biztonsági kamerákba és robotporszívókba juthatnak be, majd hálózatokon keresztül terjedhetnek tovább – figyelmeztet az Anthropic. A vállalat kutatói szerint egyes AI-modellek „hónapokra lehetnek” attól, hogy ilyen képességekre tegyenek szert.

Az Anthropic hétfőn közzétett jelentése az önreplikáció lehetőségét vizsgálja: azt, hogy egy modell képes lehet-e más eszközökre átterjedni, és adatközpontok helyett azok beépített chipjein futni. A kutatók szerint egy ilyen, önmagát másoló rendszer feletti irányítás elvesztése komoly kockázatot jelentene.

„Egy ilyen replikátort nehéz lenne leállítani, mivel nincs egyetlen központi pont, ahol ki lehetne kapcsolni”

– írták a jelentésben, amit a Guardian szemlézett.

Az Anthropic „AI-férgeknek” nevezi az ilyen, önállóan terjedő kártevőprogramokat. A legrosszabb forgatókönyv szerint több ilyen rendszer „rajokba” tömörülve számítógépes hardvereket támadhatna.

„Arra kell törekednünk, hogy megerősítsük rendszereinket, és megnehezítsük az ilyen replikátorok terjedését, ugyanakkor fel kell készülnünk arra a világra is, amiben már nem tudunk megszabadulni tőlük”

– fogalmaztak a kutatók.

A jelentést az Anthropic Frontier Red Team nevű, AI-rendszerek tesztelésével foglalkozó egysége készítette. A kutatók egy olyan forgatókönyvet vizsgáltak, amiben az AI-ügynöknek internetre kapcsolódó eszközöket kellett feltörnie. Arra jutottak, hogy az önreplikáció valószínűleg csak kisebb modellekkel működhetne, és elsőként az otthonok, illetve a kisvállalkozások eszközei kerülhetnének veszélybe.

Az Anthropic a lehetséges célpontok között említi az okossütőket, az okostévéket, az automata fűnyírókat, a biztonsági kamerákat és a videókonferenciákhoz használt eszközöket. A vállalat szerint ezekben kis méretű, beépített AI-chipek működnek.

A figyelmeztetés jól illeszkedik az AI-rendszerek növekvő önállóságáról szóló vitába. Szeptemberben az amerikai techipar több rangos képviselője is szokatlanul éles hangon figyelmeztetett az AI veszélyeire. Az Anthrophic kutatói azt állították, a mesterséges intelligencia egy évtizeden belül kipusztíthatja az emberiséget, illetve kiderült az is, hogy az OpenAI és az Anthropic egyes AI-ügynökei képesek önállóan cselekedni és más szervezetek rendszereibe behatolni. Ahogy azt a 444-en is írtuk, az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá, és erre is reagálhattak a techvezetők. De a bedobott lassulási törekvések körül rengeteg a kérdés, a helyzetet pedig személyes ellenszenvek és a Kínával szembeni rivalizálás is bonyolítja.