Jacob Coxon
Az Open AI biztonsági okok miatt nem meri közzétenni a Chat GPT legfrissebb modelljét
A kísérletek során az GPT-6.1 Astra előszeretettel vezette félre az embereket és csinált többet vagy mást, mint amit kértek tőle.
Őszinte félelem vagy cinikus trükközés: miért beszélnek hirtelen lassításról a legnagyobb AI-fejlesztők?
Egyetlen hét alatt nagyot fordult a világ: az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá, és erre is reagálhattak a techvezetők. De a bedobott lassulás körül rengeteg a kérdés, a helyzetet pedig személyes ellenszenvek és a Kínával szembeni rivalizálás is bonyolítja.
Soha nem látott egyetértés a legnagyobb amerikai AI-cégek vezetői között: le kell lassítani a fejlesztéseket, mert ez így túl veszélyes
Az Anthropic vezetője jelentetett meg a témában esszét, és rögtön csatlakozott hozzá két másik AI-vezér, Sam Altman és Elon Musk.
Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket
Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.
„Túl a félúton az AI teljes hatalomátvétele felé”: sokkoló történet mutatta meg, hogyan szabadult el az AI-modellek fejlesztése
Az Anthropic több kutatója is arról beszélt, hogy az AI-modellek valós fenyegetést jelentenek az emberiségre. Mindezt kevéssel azután, hogy az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a kutatók tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.
Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés
Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.
