anthropic
„A világnak el kell fogadnia”, hogy az AI előnyei érdekében „néhány rossz dolog is történik”
Ez a mondat Sam Altman, az OpenAI vezérigazgatója száját hagyta el.
Felmondott az OpenAI egyik biztonsági vezetője, szerinte súlyos bajok vannak a cég belső kultúrájával
David Robinson szerint egyik AI-fejlesztő cég sem elég óvatos, új szabályok vagy törvény helyett elsősorban a működési kultúrán kéne változtatni.
Trump átnevezte a mesterséges intelligenciát, de továbbra sem szabályozza rendesen
Szuperintelligens döntés! Az amerikai elnök techcézárok gyűrűjében beszélt az új szabályozásról, amely csak „erkölcsileg kötelező”.
Az Open AI biztonsági okok miatt nem meri közzétenni a Chat GPT legfrissebb modelljét
A kísérletek során az GPT-6.1 Astra előszeretettel vezette félre az embereket és csinált többet vagy mást, mint amit kértek tőle.
A nagy AI-cégek figyelmeztették a világ vezetői hatalmait, milyen veszélyeket rejtenek a fejlesztéseik az emberiségre
Az ENSZ Biztonsági Tanácsában is elhangzott, hogy a veszélyek valósak és közvetlenek, ezért egyetlen ország sem képes önállóan kezelni azokat.
Őszinte félelem vagy cinikus trükközés: miért beszélnek hirtelen lassításról a legnagyobb AI-fejlesztők?
Egyetlen hét alatt nagyot fordult a világ: az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá, és erre is reagálhattak a techvezetők. De a bedobott lassulás körül rengeteg a kérdés, a helyzetet pedig személyes ellenszenvek és a Kínával szembeni rivalizálás is bonyolítja.
Az OpenAI vezetője szerint igazuk van azoknak, akik félnek a mesterséges intelligenciától, de mégis bíznunk kell az ilyen cégekben
Mindeközben Kína is úgy érezte, itt az ideje beleszólni az AI-témába.
Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint
Jack Clark szerint ideje lehet jogszabályban előírni, hogy a mesterségesintelligencia-rendszereket le lehessen állítani, és a vészleállító működését külső szereplő is ellenőrizhesse.
Trump szerint „negatív erők” keltik a feszültséget a mesterséges intelligenciával kapcsolatban, a lényeg, hogy „aki az AI-ban nyer, az nyer”
Bepörgött a mesterséges intelligencia biztonságos használatáról szóló vita, a vezető amerikai AI-cégek fejei javasolják, hogy lassítani kéne a fejlesztések ütemén. Írországi golfpályájáról megszólalt most a téma egyik kiváló szakértője, az Egyesült Államok elnöke.
Soha nem látott egyetértés a legnagyobb amerikai AI-cégek vezetői között: le kell lassítani a fejlesztéseket, mert ez így túl veszélyes
Az Anthropic vezetője jelentetett meg a témában esszét, és rögtön csatlakozott hozzá két másik AI-vezér, Sam Altman és Elon Musk.
Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket
Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.
„Túl a félúton az AI teljes hatalomátvétele felé”: sokkoló történet mutatta meg, hogyan szabadult el az AI-modellek fejlesztése
Az Anthropic több kutatója is arról beszélt, hogy az AI-modellek valós fenyegetést jelentenek az emberiségre. Mindezt kevéssel azután, hogy az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a kutatók tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.
Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés
Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.
Már most 40 százalékkal többet adakoztak nagyvállalatok az amerikai félidős választásokra, mint a teljes 2024-es elnökválasztási ciklusban
Van, amire semmi sem drága. Most több mint 646 millió dollárnál tartunk, és hol van még november?
Az Anthropic mesterséges intelligenciája álprofilokkal, embereket megtévesztve próbálta meghackelni a GitHubot
Amikor a Mythost szembesítették a tevékenységével, az a korábbi lépéseit úgy módosította, hogy azok ártalmatlannak tűnjenek, és még azt is fontolóra vette, hogy új személyazonosságot vesz fel a művelet folytatásához.
