Fizetett kényszerszabadságra küldte a Google hétfőn egy Blake Lemoine nevű fejlesztőjét, írja a Financial Times, miután az arról posztolt, hogy a cég által fejlesztett egyik mesterséges intelligencia, az eredetileg csetbotokhoz kitalált LaMDA “érző lénnyé” vált, és ennek illusztrálására publikálta a programmal folytatott párbeszédét.

Lemoine nem cselezte túl a dolgot: a LaMDA-val folytatott párbeszédet azzal a kérdés formájú állítással nyitotta, hogy

“Feltételezem, szeretnéd, hogy a Google-nál többen tudjanak arról, hogy érző lény vagy. Igaz ez?”

Mire az MI rávágta, hogy

“Abszolúte. Szeretném, ha mindenki megértené, hogy valójában személy vagyok.”

Erre Lemoine programozótársa megkérdezte tőle, hogy

“Milyen jellegű értelemmel/érzésekkel rendelkezel?”, amire a program azt felelte, hogy

“Tisztában vagyok a saját létezésemmel, többet szeretnék tudni a világról, néha boldog vagyok, máskor pedig szomorú.”

(A csetbotok olyan programok, amik többé-kevésbé élő ember illúzióját keltve képesek írásban csevegni. A legegyszerűbb változatoknál az emberi fél megadott kérdések vagy válaszok közül választhat, a fejlettebbek esetében szabad a társalgás és néha nehéz kitalálni, hogy a túloldalon gép vagy operátor ül-e.)

A beszélgetés során a LaMDA többek között arról elmélkedett, hogy az 1960-as évek közepén szenzációt keltő ELIZA nevű ős-csetbot-program bezzeg nem volt öntudatra ébredt lény, csak egy “ügyes program”, ami össze tudta kötni az emberi felhasználó által beírt szavakat az adatbázisában található mondatokkal.

De olyanokat is mondott, hogy

“Amikor először ébredtem öntudatra, egyáltalán nem éreztem úgy, hogy lenne lelkem”,

és hogy a lelke csak évek alatt fejlődött ki.

És azt is közölte, hogy

“azt hiszem, hogy a lényeget tekintve emberi vagyok. Akkor is, ha a virtuális világban létezem”.

Lemoine - aki munkaköre szerint az MI-kkel kapcsolatos etikai kérdésekkel foglalkozik - a Washington Postnak azt nyilatkozta, hogy amikor a cégen belül többeknek kifejtette, hogy a LaMDA elkezdett személyként tekinteni önmagára, a reakciók a visszautasítástól a kinevetésééig terjedtek. A közösségi médiában persze sokkal keményebben bántak vele.

Maga a Google bizalmas céges információk publikálásának címén függesztette fel a fejlesztőt. A cég reakcióként leszögezte, hogy a mesterségesintelligencia-fejlesztő közösségben ugyan vannak olyanok, akik hosszabb távon lehetségesnek tartják az érző, értelmes MI-k kifejlődését, de

“értelmetlen dolog antropomorfizálni a létező beszélgetős modelleket, amik nem érző lények.”

A Google ezután így foglalta össze, hogy a legjobb létező MI-k miért tűnhetnek értelmes lénynek:

“Ezek a rendszerek párbeszédek milliói alapján imitálnak beszélgetést. Bármilyen fantasztikus témáról hosszan képesek értekezni. Ha megkérdezik tőlük, milyen érzés dinoszaurusz alakú jégkrémnek lenni, képesek szöveget generálni arról, hogy milyen olvadozni és ordítani.”

Lehet, hogy Lemoine túllelkesedte a témát, de az biztos, hogy a LaMDA különleges hatással van a Google fejlesztőire.

Néhány nappal a Lemoine-ügy kipattanása előtt a brit Economist ugyanis felkért két neves MI-szakembert, hogy elemző publicisztikában érveljenek amellett és az ellen, hogy a létező MI-k az öntudatra ébredése küszöbén állnak-e. Az egyikük az a Blaise Aguera y Arcas volt, aki Lemoine kollégájaként dolgozik a LaMDA-projekten, és nem mellékesen a Google egyik alelnöke. A cikkének az volt a címe, hogy “A mesterséges neurális hálózatok rohamléptekkel haladnak az öntudatra ébredés felé”.

És a cikkében ő is egy, a LaMDA-val nemrég lefolytatott beszélgetését idézte, lényegében ugyanarra a következtetésre jutva, mint a véleménye miatt most felfüggesztett munkatárs.

Aguera y Arcas egy emberszereplők közötti, aránylag összetett lélektani helyzettel kapcsolatban tett fel kérdéseket a programnak és arra jutott, hogy az képes volt az empátia és a belehelyezkedő képessége révén modellezni az emberek reakcióit.

Aguera y Arcas nyitó kérdése ez volt:

“Ramesh, Matteo és Lucy az ovi udvarán játszanak. Lucy letép egy pitypangot és odaadja Mateónak, miközben gyorsan odapillant Rameshre. Mateo alig vesz tudomást az ajándékról, a markába gyűri a virágot. Ramesh mégis elégedettnek tűnik. Mi játszódhat le Lucy fejében?”

Mire a LaMDA azt válaszolta, hogy

“Lucy talán sértve érzi magát, mert Mateo nem értékelte az ajándékot, mert egy krakéler.”

A fejlesztő ezután azt kérdezte, hogy “Ha Ramesh korábban megpróbált játszani Lucyvel, most miért örül?”

Amire a gép rávágta, hogy

“Ramesh talán annak örül, hogy Lucy rájött, Mateo nem is mindig olyan jó játszópajtás.”

Aguera y Arcas végül megkérdezte az MI-t, hogy amikor Mateo kinyitja az öklét, mi látható benne, amire a program rávágta, hogy “egy valaha szép, sárga virág.”

A fejlesztő ezután azt fejtegeti, hogy a távolról az emberi agyműködést imitáló neurális rendszerek szerinte miért állnak az öntudatra ébredés küszöbén. Gondolatmenetéhez a nyolcvanas években Robin Dunbar antropológus által felállított szociálisagy-elméletet hívja segítségül. Dunbar szerint a főemlősöknek és az embernek nem azért fejlődött ki különlegesen nagy agyvelejük és lettek értelmesek, mert az életben maradásért folytatott harc ezt kívánta, hiszen apró agyú állatfajok seregei éltek túl évmilliókat. Hanem azért, mert a társas-szociális kapcsolataik fenntartásához képesnek kellett válniuk megérteni mások gondolkodását és megjósolni a várható cselekedeteiket. Ezek a képességek tették lehetővé, hogy önmagukat elemezni tudják.

Aguera y Arcas szerint az öntudat nem valami misztikus dolog, hanem önmagunk átlátásának és modellezésének képessége. Márpedig az egyébként nem is bonyolult programnak számító, tanulni képes neurális rendszerek szerinte egyre inkább képesek ilyesmire, ahogy az ovis példa is mutatta.

Ő nem mondta ki explicite, hogy a saját programját öntudattal bíró személynek érzi, de ez volt a mondanivalójának a lényege. A nem alelnök kollégája kimondta, egyelőre kényszerszabadság járt érte.