A ChatGPT szöveggeneráló és a Dall-E 2 képgenerátor létrehozásáért felelős OpenAI vezérigazgatója azt mondta az amerikai szenátus igazságügyi bizottsága előtt, hogy „az AI szabályozása elengedhetetlen”.

Sam Altman a Kongresszus előtti első meghallgatásán elmondta, hogy támogatja a technológia szabályozási védőkorlátait, amik lehetővé teszik a mesterséges intelligencia előnyeit, miközben minimalizálják a károkat.

„Úgy gondoljuk, hogy a kormányok szabályozói beavatkozása kritikus fontosságú lesz az egyre erősebb modellek kockázatainak mérséklésében. Például az Egyesült Államok kormánya fontolóra veheti az engedélyezési és tesztelési követelményeket az AI-modellek fejlesztéséhez és kiadásához a képességek küszöbén felül” – mondta Altman.

Altman mellett Gary Marcus, a New York-i Egyetem pszichológia és idegtudomány emeritus professzora is új technológiai szabályozó ügynökség létrehozását kérte.

Emellett Altman javasolta egy sor biztonsági szabvány és egy speciális teszt létrehozását, amin a modellnek át kell mennie, mielőtt üzembe helyezhetik, és lehetővé tennék, hogy független auditorok megvizsgálják a modelleket, mielőtt elindítanák őket. Altman azzal is érvelt, hogy a meglévő keretrendszerek nem lennének megfelelők a rendszer szabályozásához. „Egy nagyon új technológiához új keretrendszerre van szükségünk” – mondta Altman.

Míg az OpenAi olyan eszközöket épít, amik „egy napon segítenek új felfedezéseket tenni, és megbirkózni az emberiség legnagyobb kihívásaival, például a klímaváltozással és a rák gyógyításával”, Altman szerint a jelenlegi rendszerek még nem képesek erre. Azt is elmondta, hogy bár úgy véli, az eddig alkalmazott eszközök előnyei „jelentősen meghaladják a kockázatokat”, a cég kiterjedt teszteléseket végez, és robusztus biztonsági és felügyeleti rendszereket vezet be, mielőtt bármilyen új rendszert kiadna.

„A biztonságuk biztosítása létfontosságú a munkánkhoz” – mondta. „Az OpenAI azon a meggyőződésen alapult, hogy a mesterséges intelligencia képes életünk szinte minden területén javítani, ugyanakkor komoly kockázatokat is rejt magában, amiket egyszerre kell kezelnünk” – mondta Altman.

Josh Hawley és Richard Blumenthal szenátorok szerint ez a meghallgatás csak az első lépés a technológia megértésében. Hawley azt mondta, a technológia „elképzelhetetlen módokon alakítja át és van hatása az amerikaiak választásaira, munkahelyeire és biztonságára”.

A potenciális kockázatok Blumenthal szerint aggasztók, említette a deepfake-eket, a dezinformációt, a lakhatási diszkriminációt, a nők zaklatását és a személyazonossággal kapcsolatos csalásokat. „Számomra talán a legnagyobb rémálom a közelgő új ipari forradalom, a munkavállalók millióinak lecserélése” – mondta. Altman szerint ez jelentős hatással lesz a munkahelyekre, de úgy véli, „sokkal jobb munkahelyek lesznek ennek a másik oldalán”.

„Szerintem fontos, hogy a GPT-re eszközként tekintsünk, nem lényként… A GPT 4 és az ehhez hasonló eszközök nem munkák, hanem feladatok elvégzésére alkalmasak. Úgy gondolom, hogy a GPT 4 teljesen automatizálni fog néhány munkát, és újakat hoz létre, amikről úgy gondoljuk, hogy sokkal jobbak lesznek” – mondta Altman.

Elismerte, hogy nagyon aggódik amiatt, hogy a nagy nyelvi modulokra (LLM) épülő szolgáltatások milyen hatással lesznek a választásokra és a dezinformációra, különösen az amerikai előválasztások előtt. „Sok mindent megtehetünk és meg is kell tennünk” – válaszolta Altman Amy Klobuchar szenátor kérdésére a ChatGPT által készített tweetről, ami hamis szavazóhelyeket sorolt fel. „Vannak dolgok, amiket a modell nem fog megtenni, és van megfigyelés” – mondta.

Vészharangkongatók

Arról, hogy a mesterséges intelligencia milyen veszélyeket rejt magában, hosszú cikkben írtunk, egy másik cikkben pedig azt foglaltuk össze, Max Tegmark, az MIT fizikaprofesszora szerint miért kell tartanunk egy esetleges általános mesterséges intelligencia (AGI) létrejöttétől is.

Két hete – 10 év együttműködés után – távozott a Google-től a 75 éves Geoffrey Hinton, a mélytanulás úttörője, aki a modern AI-k középpontjában álló legfontosabb technikákat fejlesztette ki, és azt mondta: már bánja élete munkáját, de azzal vigasztalja magát, hogy ha ő nem csinálta volna meg, megcsinálja más.

Amióta megjelent a ChatGPT, a Google már nem osztja meg az AI-ról szóló tanulmányait. Sokak szerint a világ egyik legnagyobb techcége ezzel védekező, „háborús” üzemmódba kapcsolt. Azóta bejelentették, hogy a Google is generatív AI-val turbózza fel a keresőmotorját. (Guardian)