Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.
Az Anthropic több kutatója is arról beszélt, hogy az AI-modellek valós fenyegetést jelentenek az emberiségre. Mindezt kevéssel azután, hogy az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a kutatók tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.
Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.
Van, amire semmi sem drága. Most több mint 646 millió dollárnál tartunk, és hol van még november?
Amikor a Mythost szembesítették a tevékenységével, az a korábbi lépéseit úgy módosította, hogy azok ártalmatlannak tűnjenek, és még azt is fontolóra vette, hogy új személyazonosságot vesz fel a művelet folytatásához.
Hány prófétája van egy mesterséges intelligencia által létrehozott vallásnak? És mit szívnak, ha be akarnak bódulni? Észrevesszük, ha hazudnak nekünk? Megannyi nyugtalanító kérdés.
A modelleket kizárólag a képességeik felmérésére létrehozott tesztszoftverek feltörésére utasították, de azok kiléptek az internetre, és valódi vállalatok rendszereibe is betörtek.
Nem kizárt, hogy az emberiség nem tud majd lépést tartani az új technológiával. És nem tudja ellenőrzés alatt tartani.
A G7 háromnapos stressztesztjét rendezik meg a Genfi-tó partján, ahol minden adott, hogy Donald Trump a többiek nyakának ugorjon. A francia elnök utolsó G7-es fellépése lesz az első nagy nemzetközi találkozó az iráni háború kirobbantása óta.
A katolikus egyházfő első enciklikájának bemutatójára egy AI-vállalat alapítóját is meghívták.
A Claude Mythos állítólag mindennél hatékonyabban talál támadható pontokat a digitális infrastruktúrákban, emiatt a pénzügyi rendszerektől az internetes oldalakig minden veszélybe kerülhet. Ha mindez csak PR-fogás lenne, akkor sem lehet hátradőlni, az AI-modellek fejlődése ugyanis eleve ebbe az irányba halad.
Az Anthropic hiába tárgyalt heteken keresztül a Pentagonnal.
Az Anthropic viszont attól tart, hogy emberi felügyelet nélküli gyilkos drónokhoz és tömeges megfigyelésekhez is használnák a Claude-ot.
És ez csak egy volt a rendezvénnyel kapcsolatos számos probléma közül.
Egy kísérlet során az egyik AI-modell hajlandónak mutatkozott zsarolni egy fiktív vállalati vezetőt is a viszonya miatt – csak hogy elkerülje a leállítást.