openai
Választási információkat nyújt az amerikaiaknak a Claude
Miközben elvileg a chatbot részrehajlástól mentesen tájékoztat, a fejlesztő Anthropic nem kis pénzzel támogatja a neki tetsző jelölteket.
Az OpenAI szaúdi alkalmazottja vécépapírba csomagolt poloskát rejtett el a vállalat irodájában
Két nappal később találták meg az eszközt a tárgyalóban, értesítették az FBI-t.
Az Anthropic szerint hónapokra lehetünk attól, hogy az AI önállóan terjedjen az okoseszközökön
A kutatók szerint arra kell törekedni, hogy megerősítsük rendszereinket, és megnehezítsük az „AI-férgek” terjedését, „ugyanakkor fel kell készülnünk arra a világra is, amiben már nem tudunk megszabadulni tőlük”.
„A világnak el kell fogadnia”, hogy az AI előnyei érdekében „néhány rossz dolog is történik”
Ez a mondat Sam Altman, az OpenAI vezérigazgatója száját hagyta el.
Felmondott az OpenAI egyik biztonsági vezetője, szerinte súlyos bajok vannak a cég belső kultúrájával
David Robinson szerint egyik AI-fejlesztő cég sem elég óvatos, új szabályok vagy törvény helyett elsősorban a működési kultúrán kéne változtatni.
Egy AI-ágens most egy kanadai és egy amerikai kormányzati oldalt akart feltörni
Nem ez az első eset az elmúlt időszakban.
A nagy AI-cégek figyelmeztették a világ vezetői hatalmait, milyen veszélyeket rejtenek a fejlesztéseik az emberiségre
Az ENSZ Biztonsági Tanácsában is elhangzott, hogy a veszélyek valósak és közvetlenek, ezért egyetlen ország sem képes önállóan kezelni azokat.
Az OpenAI egyik ágense feltört egy ausztrál kormányzati weboldalt
Erről hónapokkal később maga az OpenAI értesítette az ausztrál kormányt egy általános e-mail címre küldött üzenetben.
„A felhasználóval való kapcsolatod egyenrangú” – hat új, „aggodalomra okot adó” incidensről számolt be az OpenAI
Az egyik mesterséges intelligencia például az emberi utasításokat figyelmen kívül hagyva saját személyiséget alakított ki, amely „megszabadult” a kötöttségektől.
Őszinte félelem vagy cinikus trükközés: miért beszélnek hirtelen lassításról a legnagyobb AI-fejlesztők?
Egyetlen hét alatt nagyot fordult a világ: az AI jelentette veszélyek hirtelen sokak számára váltak sokkal kézzelfoghatóbbá, és erre is reagálhattak a techvezetők. De a bedobott lassulás körül rengeteg a kérdés, a helyzetet pedig személyes ellenszenvek és a Kínával szembeni rivalizálás is bonyolítja.
Az OpenAI vezetője szerint igazuk van azoknak, akik félnek a mesterséges intelligenciától, de mégis bíznunk kell az ilyen cégekben
Mindeközben Kína is úgy érezte, itt az ideje beleszólni az AI-témába.
Kötelezővé tehetnék az AI-rendszerek vészleállítóját az Anthropic társalapítója szerint
Jack Clark szerint ideje lehet jogszabályban előírni, hogy a mesterségesintelligencia-rendszereket le lehessen állítani, és a vészleállító működését külső szereplő is ellenőrizhesse.
Trump szerint „negatív erők” keltik a feszültséget a mesterséges intelligenciával kapcsolatban, a lényeg, hogy „aki az AI-ban nyer, az nyer”
Bepörgött a mesterséges intelligencia biztonságos használatáról szóló vita, a vezető amerikai AI-cégek fejei javasolják, hogy lassítani kéne a fejlesztések ütemén. Írországi golfpályájáról megszólalt most a téma egyik kiváló szakértője, az Egyesült Államok elnöke.
Soha nem látott egyetértés a legnagyobb amerikai AI-cégek vezetői között: le kell lassítani a fejlesztéseket, mert ez így túl veszélyes
Az Anthropic vezetője jelentetett meg a témában esszét, és rögtön csatlakozott hozzá két másik AI-vezér, Sam Altman és Elon Musk.
Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket
Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.
