A világ top mesterséges intelligenciát fejlesztő vállalatainak a vezetői közösen kérik, hogy lassítson az iparág az új technológiákkal való kísérletezéssel, mert beláthatatlan következményei lehetnek, ha ebben az ütemben folytatják az újabb és újabb modellek fejlesztését.

A mesterséges intelligencia biztonságos használatáról szóló vita régóta zajlik, de ezen a héten nagyon bepörgött. Erről hosszú cikket is írtunk, de röviden arról van szó, hogy

• mennyire veszélyesek az AI-fejlesztések, miután az Anthropic több kutatója is arról beszélt, hogy a modellek valós fenyegetést jelentenek az emberiségre.
• Az idei nyáron szintlépést jelentett, amikor az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a vállalat kutatóinak tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.
• Közben pedig megpróbálták elfedni a nyomokat, és nagy erőket fektettek abba, hogy megfejtsék, hogyan tudnák csalással és megtévesztéssel elérni a céljaikat. És ez mind olyan magatartás volt, ami egyáltalán nem következett a tréningelésükből.

Dario Amodei, az egyik legnagyobb AI-fejlesztő vállalat, az Anthropic vezetője egy szeptember 13-án megjelentetett esszében amellett érvel, hogy lassítani kell a modellek fejlesztésének sebességén, mert veszélyes területre tévedtek a nyáron az AI-cégek.

Az Anthropic-vezérrel az iparág más meghatározó szereplői is egyetértenek, ami ebben a személyes és szakmai konfliktusokkal átszőtt világban egyáltalán nem szokványos. Sam Altman, az OpenAI és Elon Musk, a SpaceX vezetői egyaránt arról posztoltak, hogy osztják Amodei aggodalmait, ahogyan Musk írta, „Darionak igaza van”.

Két másik amerikai óriáscég van még, akik nem szólaltak meg az ügyben, a Meta és a Google DeepMind, de úgy tűnik, széles szakmai konszenzus van kialakulóban arról, hogy ezt így nem kéne tovább csinálni.

A történethez hozzátartozik, hogy az Anthropic és az OpenAI is mostanában tervezett tőzsdére menni, mindkét esetben több ezer milliárd dolláros üzletekről van szó, a gazdaságtörténet legnagyobb kibocsátásairól. Ebbe a héten fellángoló vita az AI potenciálisan pusztító hatásairól valamelyest bekavart, hogy milyen kimenetellel, azt még nem tudjuk, létezik az az elmélet, hogy ezek az iparági szereplők azért hangsúlyozzák a technológia veszélyességét, mert az felértékeli a terméküket.

A mostani vita egyébként az Anthropicban indult. Ahogyan az erről szóló cikkünkben írtuk, három kutatójuk azt állította, hogy AI egy évtizeden belül kiirthatja az emberiséget. Egyikük, Jacob Coxon, aki korábban az OpenAI-nál is dolgozott, tiltakozásul ott is hagyta a vállalatot, azt állítva, hogy a cégeknél nem veszik kellően komolyan a fenyegetést, amit a saját fejlesztéseik jelentenek a világra.

„Azok, akik az AI-t fejlesztik, komolyan azt gondolják, hogy az évtized végére mindannyiunkat megölhet. Ez nem marketingfogás. Sőt, sok vezető és vezető kutató a sajtóban óvatosan fogalmaz, hogy észszerűnek tűnjenek, de hallom, ahogy ugyanazok az emberek zárt körben elmondják a félelmeiket. Egyetlen más emberi tevékenység sem jelent ilyen mértékű veszélyt” – fogalmazott Coxon, akinek posztjára két megerősítő üzenet is érkezett az Anthropic vezető kutatóitól. (via FT)