Kanada kormánya kész szabályozni a mesterségesintelligencia-alapú chatbotokat, amennyiben a technológiai vállalatok nem tudják bizonyítani, hogy megfelelő biztosítékokkal védik a kanadai felhasználókat – írja a Politico.

Evan Solomon mesterséges intelligenciáért felelős miniszter azt mondta, az OpenAI „kudarca”, hogy nem jelentették a 18 éves felhasználót, aki tömeges lövöldözést hajtott végre egy iskolában a kanadai Brit Columbiában.

Jesse Van Rootselaar tavaly júniusban, több napon keresztül, fegyveres erőszakkal kapcsolatos forgatókönyveket írt le a ChatGPT használata során, mondták az ügyet ismerő források. Bejegyzéseit egy automatizált ellenőrző rendszer jelölte meg, ami aggodalmat keltett az OpenAI alkalmazottaiban. A vállalaton belül mintegy egy tucat munkatárs vitatta meg, szükséges-e lépéseket tenni Van Rootselaar posztjai miatt. Egyes alkalmazottak úgy értelmezték az írásait, mint amik valós, fizikai erőszak lehetőségére utalhatnak, és arra ösztönözték a vezetést, hogy értesítsék a kanadai hatóságokat. Az OpenAI vezetése végül úgy döntött, nem veszi fel a kapcsolatot a hatóságokkal.

„Nyilvánvalóan mulasztás történt. Ez egy borzalmas tragédia. Mélyen megráztak bennünket azok a jelentések, amik szerint lehetőség lett volna az ügyet jelenteni bűnüldöző szervek felé. Biztosítani akarjuk, hogy ha bármely vállalatnak van lehetősége erre, akkor éljen vele”

– mondta Solomon. Az OpenAI szakpolitikai vezetője, Chan Park, valamint a cég további hat képviselője kedden Ottawában találkozott a kormány képviselőivel. A megbeszélést a miniszterek később „csalódást keltőnek” nevezték.

Sean Fraser igazságügyi miniszter kijelentette: elvárja, hogy az OpenAI érdemi biztonsági intézkedéseket tegyen. „Ha ezek nem érkeznek meg nagyon rövid időn belül, a kormány lépéseket tesz” – mondta. „A bizalmat ki kell érdemelni. Valóban látnunk kell, milyen változtatások várhatók a vállalat részéről.”

Az OpenAI közölte, hogy megerősítette biztonsági intézkedéseit, és módosította irányelveit arra vonatkozóan, mikor kell értesíteni a rendőrséget erőszakos cselekményekkel kapcsolatos ügyekben.

„A miniszterek ugyanakkor hangsúlyozták, hogy a kanadaiak további konkrét lépéseket várnak – és ezt az üzenetet világosan és egyértelműen megértettük. Vállaltuk, hogy a következő napokban tájékoztatást adunk a további intézkedésekről, miközben továbbra is támogatjuk a bűnüldöző szerveket, és együttműködünk a kormánnyal a mesterséges intelligencia biztonságának javításán.”

A 18 éves Jesse Van Rootselaart február 10-én nyitott tüzet a Brit Columbia tartomány Tumbler Ridge-i iskolájában nyolc ember életét kioltva. A rendőrség közölte, hogy Jesse Van Rootselaart a helyszínen holtan találták, magával is végzett. Van Rootselaar a lövöldözés előtt már ismert volt a helyi rendőrség számára. A hatóságok több alkalommal is felkeresték lakóhelyén mentális egészséggel kapcsolatos ügyek miatt, és ideiglenesen fegyvereket is elszállítottak az ingatlanból.