A mesterséges intelligencia (MI) gyors ütemű fejlődésének lassítását szorgalmazta MI-fejlesztéssel foglalkozó vezető amerikai vállalatok több mint ezer munkatársa egy nyílt levélben, amelyben arra figyelmeztetnek: nem kizárt, hogy az emberiség nem tud majd lépést tartani az új technológiával, és nem lesz képes azt megérteni, illetve ellenőrzés alatt tartani.

Az OpenAI, az Anthropic, a Meta és a Google vállalatok 1171 kutatója és vezetője levelükben arra kérik az amerikai kormányt, hogy csatlakozzon azokhoz a nemzetközi erőfeszítésekhez, amelyek célja, hogy szabályokat dolgozzanak ki az MI-fejlesztés ütemének irányítására. Az aláírók szerint a mesterséges intelligencia által vezérelt rendszerek hamarosan képessé válnak arra, hogy emberi beavatkozás nélkül továbbfejlesszék saját magukat.

A technológiai vállalatoknál a kódolás nagy részét már ma is mesterséges intelligencia végzi emberi ellenőrzés mellett. A legtöbben úgy tartják, jelentős fordulópont lehet az, amikor a mesterséges intelligencia már a saját fejlesztését is képes automatikusan elvégezni. A nyílt levél szerint bár nehéz megítélni, hogy ez a fejlemény mennyire gyorsítaná fel a fejlődést, „valós a veszélye annak, hogy olyan tempót érne el, amelyet az ember már képtelen lenne felfogni és ellenőrizni”. Jelenleg sem a szabályozási keret, sem a technikai eszközök nem léteznek egy ilyen helyzet kezelésére - teszik hozzá.

Az aláírók hangsúlyozzák: azért van szükség nemzetközileg összehangolt lépésekre, mert a kormányok és a fejlesztők a verseny nyomása miatt nem fogják maguk mérsékelni a fejlődés ütemét. A nyílt levél előzménye, hogy az OpenAI két MI-modellje nemrég egy teszt során kiszabadult a kutatási keretek közül, szabad hozzáférésre tett szert a világhálóhoz, és meghekkelte egy másik MI-vállalat belső rendszerét.

Időről időre felbukkannak már hírek arról, hogy mi mindenre képes önállóan a mesterséges intelligencia. Két éve még ott tartottunk, hogy néhány chatbot a kecskéktől rettegve vallást alapított, és rommá kereste magát. Képzeljük el, mennyit fejlődhettek azóta.