anthropic

Maga az Anthropic adott ki közleményt arról, hogy próbálták „rosszindulatú szereplők” biológiai fegyverekhez felhasználni a modelljüket

Más visszaélésekről is beszámoltak két nappal azután, hogy a cég egyik volt alkalmazottja felmondott, azt állítva, hogy a vállalat modelljei 2030-ra az emberiség kihalását okozhatják.

Kaufmann Balázs
AI

„Túl a félúton az AI teljes hatalomátvétele felé”: sokkoló történet mutatta meg, hogyan szabadult el az AI-modellek fejlesztése

Az Anthropic több kutatója is arról beszélt, hogy az AI-modellek valós fenyegetést jelentenek az emberiségre. Mindezt kevéssel azután, hogy az OpenAI elszabadult ágensei összefogtak, közösséget szerveztek, és a kutatók tudta nélkül indítottak támadást előbb egy másik vállalat, majd maga az OpenAI rendszere ellen.

Horváth Bence
TECH

Lemondott az Anthropic egyik kutatója, szerinte felelőtlenül folyik a mesterségesintelligencia-fejlesztés

Jacob Coxon úgy látja, a technológia akár az emberiség pusztulásához is vezethet.

Mészáros Juli
TECH

Már most 40 százalékkal többet adakoztak nagyvállalatok az amerikai félidős választásokra, mint a teljes 2024-es elnökválasztási ciklusban

Van, amire semmi sem drága. Most több mint 646 millió dollárnál tartunk, és hol van még november?

Takács Lili
külföld

Az Anthropic mesterséges intelligenciája álprofilokkal, embereket megtévesztve próbálta meghackelni a GitHubot

Amikor a Mythost szembesítették a tevékenységével, az a korábbi lépéseit úgy módosította, hogy azok ártalmatlannak tűnjenek, és még azt is fontolóra vette, hogy új személyazonosságot vesz fel a művelet folytatásához.

Herczeg Márk
TECH

Egymást hackelgetik az MI-modellek, és ez a legkisebb bajunk

Hány prófétája van egy mesterséges intelligencia által létrehozott vallásnak? És mit szívnak, ha be akarnak bódulni? Észrevesszük, ha hazudnak nekünk? Megannyi nyugtalanító kérdés.

Diószegi-Horváth Nóra
TUDOMÁNY

Az Anthropic belentette, hogy a rendszerei észrevétlenül feltörtek három céget is

A modelleket kizárólag a képességeik felmérésére létrehozott tesztszoftverek feltörésére utasították, de azok kiléptek az internetre, és valódi vállalatok rendszereibe is betörtek.

Takács Lili
TECH

Kutatók kérik, hogy lassítsák a mesterséges intelligencia fejlesztését, mielőtt baj lesz

Nem kizárt, hogy az emberiség nem tud majd lépést tartani az új technológiával. És nem tudja ellenőrzés alatt tartani.

Diószegi-Horváth Nóra
ÉLET

Kezdődik a G7 csúcs: az utolsó nagy nemzetközi találkozóját szervező Emmanuel Macron mindent megtesz, hogy a világ legbefolyásosabb 80 évesét három napig egy helyen tartsa

A G7 háromnapos stressztesztjét rendezik meg a Genfi-tó partján, ahol minden adott, hogy Donald Trump a többiek nyakának ugorjon. A francia elnök utolsó G7-es fellépése lesz az első nagy nemzetközi találkozó az iráni háború kirobbantása óta.

Takács Lili
külföld

A mesterséges intelligenciával foglalkozik majd Leó pápa első írása

A katolikus egyházfő első enciklikájának bemutatójára egy AI-vállalat alapítóját is meghívták.

Fődi Kitti
vallás

Az Anthropic inkább nem mutatta be a legújabb AI-modelljét, arra hivatkozva, hogy az túl nagy veszélyt jelentene a világra

A Claude Mythos állítólag mindennél hatékonyabban talál támadható pontokat a digitális infrastruktúrákban, emiatt a pénzügyi rendszerektől az internetes oldalakig minden veszélybe kerülhet. Ha mindez csak PR-fogás lenne, akkor sem lehet hátradőlni, az AI-modellek fejlődése ugyanis eleve ebbe az irányba halad.

Horváth Bence
TECH

Miután versenytársa kudarcot vallott, az OpenAI megegyezett a Pentagonnal a mesterséges intelligenciája felhasználásáról

Az Anthropic hiába tárgyalt heteken keresztül a Pentagonnal.

Molnár Kristóf
TECH

Fenyegetésekkel és nyílt zsarolással venné rá a Pentagon az egyik legnagyobb amerikai AI-céget, hogy adjon szabad hozzáférést a fejlesztéseihez

Az Anthropic viszont attól tart, hogy emberi felügyelet nélküli gyilkos drónokhoz és tömeges megfigyelésekhez is használnák a Claude-ot.

Horváth Bence
TECH

Úgy volt, Bill Gates is beszél az indiai AI-csúcson, de az Epstein-ügy miatt szorongatott milliárdos meggondolta magát

És ez csak egy volt a rendezvénnyel kapcsolatos számos probléma közül.

Inkei Bence
külföld

Kutatók szerint bizonyos AI-modellek önálló „túlélési hajlamot” mutathatnak

Egy kísérlet során az egyik AI-modell hajlandónak mutatkozott zsarolni egy fiktív vállalati vezetőt is a viszonya miatt – csak hogy elkerülje a leállítást.

Jelinek Anna
AI