Az elmúlt hónapokban sokak számára vált egyszeriben kézzelfoghatóvá, mennyire veszélyes lehet a mesterséges intelligencia. Az iparág vezető szereplői maguk is arról beszélnek, hogy akár néhány hónapon belül olyan fordulat állhat be, ami visszafordíthatatlan katasztrófához vezet. Ez a fajta figyelmeztetés önmagában is szokatlan: ritkán fordul elő, hogy egy technológia legnagyobb haszonélvezői saját fejlesztésük legsötétebb következményeire hívják fel a figyelmet. Éppen ezért indokolt komolyan venni ezeket a hangokat, még akkor is, ha az AI jelentette veszélyek pontos mibenléte és az elhárításuk előfeltételei korántsem magától értetődőek.

Laikusként nehéz elképzelni, az AI-hoz kapcsolódó katasztrófa-szcenáriókat. Maga a szakirodalom többféle forgatókönyvvel dolgozik, és ezekhez egymástól jelentősen eltérő valószínűségeket rendel. Miközben a nyilvánosságba jutó, látványos történetek jellemzően a sci-fi-k világát idéző, ítéletnapi narratívákra fókuszálnak (pl. gépi öntudatra ébredés és az emberiség feletti totális AI-kontroll), a tudományos igényű elemzésekben – melyekről újabban a legjelentősebb fórumokon is írnak (pl. Science vagy Nature) – ennél sokkal földhözragadtabb, ugyanakkor nem kevésbé aggasztó forgatókönyvek állnak előtérben. Érdemes ezekből néhányat sorra venni, mielőtt az AI-fenyegetés mögött meghúzódó, általánosabb kérdésekre rátérnénk.

A kevésbé látványos, ám valószínűbb veszélyek

Az AI mindenekelőtt a munkaerőpiacon idézhet elő válságot. Az automatizáció és az egyre önállóbban működő AI-ágensek elterjedése jelentősen növelheti a munkanélküliséget és az egyenlőtlenséget, egyes szektorokban akár recessziót is okozhat. Mindez könnyen társadalmi elégedetlenséghez és konfliktusokhoz vezethet. Ehhez szorosan kapcsolódik a hatalomkoncentráció veszélye: az AI-hoz szükséges tőke és adatkoncentráció az egyenlőtlenség egy új dimenzióját nyitja meg, amely mentén a kizsákmányolás új formákat ölthet. Azok, akik az AI-erőforrások felett rendelkeznek, minden korábbinál hatékonyabb megfigyelési eszközökhöz jutnak, és olyan hatalmat gyakorolhatnak, amivel szemben az egyes emberek politikai szerveződési és ellenállási képessége minimális.

Legalább ilyen súlyos az információs és tudásrendszerek összeomlásának veszélye. A deepfake-ek, a nagy nyelvi modellek által generált politikai és kereskedelmi tartalmak, valamint az AI-eszközökkel előállított propaganda együttesen a közös valóság megrendülésének lehetőségét hordozzák magukban. Ennek egyenes következménye az intézményekbe és a szakértelembe vetett bizalom megroppanása, végső soron pedig egyfajta információs káosz. Ahogy a közös valóság elvész, úgy a polarizációban politikailag érdekelt szereplők újabb és újabb eszközöket kapnak a feszültség szítására. Ez pedig az extrém álláspontok felerősödését és a politikai erőszak esélyének növekedését vonja maga után. Mindeközben az algoritmizált döntéshozatal a kormányzás szintjén is válságot okozhat: az AI-torzítások szakpolitikai szinten való megjelenése hitelvesztéshez, végső soron legitimációs válsághoz vezethet. És végül ott van persze az is, amiről a közelmúltban a sajtó is a legtöbbet cikkezett: az AI feletti kontroll elvesztése, az AI-ágensek elszabadulása. Ennek következményei annál is inkább beláthatatlanok, mert életünk egyre nagyobb mértékben függ a digitális infrastruktúrától.

E szcenáriók bármelyike önmagában is elegendő indokot szolgáltatna arra, hogy az önpusztító, az emberiségre nézve valódi veszélypotenciállal bíró AI-fejlesztésekkel kapcsolatban jóval óvatosabbak legyünk. Hiába tűnik azonban ez biztonsági szempontból magától értetődőnek, a modernizációt hajtó funkcionális-instrumentális racionalitás miatt összességében mégis valószínűtlen, hogy ez a fajta óvatosság a közeljövőben érvényre jutna.

Racionalitás és értékvákuum

Ahhoz, hogy megértsük az AI-problematikát, valójában a racionalitás kérdésével kell szembenéznünk, annak nem csupán technológiai, hanem társadalmi és politikai vonatkozásait is szem előtt tartva. Az AI-problémát ma jellemzően technológiai fenyegetésként keretezzük, noha valójában egzisztenciális, társadalmi és értékkérdésről van szó. Ha úgy tetszik az AI-fenyegetése elsősorban a kollektív cselekvés és a politikai kontroll szintjén vethető fel. Az AI nem természeti jelenség, vagy egy véletlen, előre nem látható csoda, hanem az ember által létrehozott lehetőség és veszélyforrás. Így a kérdés sem az, hogy milyen félelmetes veszélypotenciálokat rejt magában ez az új technológia, hanem az, hogy miért nem képes a civilizációnk kollektíven fellépni egy nyilvánvaló, önmaga által épp létrehozott fenyegetéssel szemben?

Ha alaposabban szemügyre vesszük a fentebb vázolt válságforgatókönyveket, jól látható, hogy egyik sem kitüntetetten technikai jellegű. Sokkal inkább olyan, már korábban is létező, összetett problémákat erősít fel az AI, amelyekkel amúgy is küzdünk. E problémák jórészt gazdasági és hatalmi struktúráink, intézményeink válságtüneteiként írhatók le. Az AI csupán annyit tesz, hogy kiélezi a modernitás régóta velünk élő paradoxonjait. Vagyis amikor az AI-fenyegetéséről beszélünk, többnyire olyan társadalmi, gazdasági és politikai válságokról van szó, amiket az AI csupán láthatóvá tett azáltal, hogy negatív következményeiket az extrémitásig viszi el.

Ebből a perspektívából felmerül ugyanakkor a kérdés: miért nem tudunk semmit sem kezdeni ezekkel a régóta húzódó gazdasági és politikai válságokkal? A válasz igazán nyugtalanító: azért, mert e társadalmi válságok mélyén a modernitás értékválsága húzódik meg. A modernitásnak ugyanis nincs válasza arra a kérdésre, hogy a materiális felhalmozás és technikai fejlődésként felfogott haladás eszméje helyett milyen alternatív, kollektív értékeket fogadhatnánk el. Ahogy Habermas megfogalmazza: a 20. század végére „kimerültek a felvilágosodás utópikus energiái”. Globális civilizációnk nem képes olyan értékminimumot kijelölni, aminek talaján állva a természetpusztítás, a kizsákmányolás és az önveszélyeztető technológiai fejlesztések – és korántsem csak az AI, gondoljunk csak a fosszilis vagy a nukleáris energiához köthető paradoxonokra – korlátok közé lennének szoríthatók.

Nem tudjuk megmondani, mire hivatkozva lehetne korlátozni a felhalmozás és a technológiai fejlődés ideálját. Éppen ezért, jobb híján, szabadjára engedjük ezeket a dinamikákat. Az eddigi stratégiánk mindössze annyi volt, hogy megpróbálunk nem odanézni a negatív következményekre, egyúttal minél távolabb próbáljuk tartani azokat magunktól és társadalmunktól. Mindaddig, amíg közvetlenül nem minket érint a probléma, ez a stratégia akár működhet is. Az AI esetében azonban ennek nyilvánvaló korlátjai vannak. Az AI ugyanis a közös globális élet egy olyan területét, a digitális szférát érinti, amitől kevés kivétellel mindannyian függünk.

A hallgatólagos közmegegyezés az AI-jal kapcsolatban eddig ugyanaz volt, mint minden korábbi technológiai fejlesztéssel kapcsolatban: minél gyorsabban, minél szélesebb körben, minél jobban piacosítva kell haladni előre, és eközben lehetőleg nem odanézni arra, milyen negatív következményekkel jár a felpörgetett technológiai fejlődés. Ebben a strukturális térben kellene értékalapon határokat húzni.

Még csak arról sincs szó, hogy feltétlenül fel kellene függeszteni magát a technológiát, csupán annyira lenne szükség, hogy a jelenlegi AI-teljesítménynél egy időre megálljunk. Így is nagy a hozzáadott érték, és nincs semmilyen nyomás, ami indokolná a rohamtempójú fejlesztést. A megállás mellett ugyanakkor számos érv felhozható. Okkal félünk ugyanis a technológia következményeitől: attól, hogy a munkaerőpiac, a közös tudásunk, a hatalommegosztási intézményeink, a politikai kultúránk, sőt akár a teljes egzisztenciális berendezkedésünk kerül veszélybe, ha tovább haladunk a technológiai innováció jelenlegi útján.

Ám egyelőre nem látszik, hogy az immár az AI-fejlesztők által is egyre gyakrabban hangoztatott aggodalmak elegendőek lennének ahhoz, hogy megálljanak az AI-fejlesztések. Nemhogy az egyik vagy másik érték, legyen az tudás, demokrácia vagy egyenlőség, hanem a létezés veszélybe kerülésének perspektívája sem elég riasztó ahhoz, hogy átfogó szabályozás lépjen érvénybe.

A kollektív irracionalitás racionális gyökerei

Ennek a kollektív szinten irracionális magatartásnak megvannak a maga racionálisnak tűnő gyökerei: ezek a piaci érdek és a hatalmi dominancia szempontjai. Nem lehet megállítani az AI-fejlesztéseket egyfelől azért, mert ez a technológiai cégek által felfújt tőzsdei buborék kipukkanásával járna. Másfelől nem lehet megállítani a fejlesztéseket a „hidegháborús” logika miatt sem: ez ugyanis a vélt geopolitikai dominancia rivális nagyhatalmaknak történő átengedésével lenne egyenértékű. A piac és a geopolitika logikája ebben az értelemben ugyanabba az irányba mutat, és együttesen zárják ki azt a lehetőséget, hogy bármelyik szereplő egyoldalúan lassítson.

Bár nehéz elképzelni a kiutat ebből a csapdahelyzetből, az első lépés mindenképp a helyes diagnózis megalkotása. Az AI jelentette fenyegetés elsősorban nem technikai jellegű probléma, hanem ugyanolyan társadalmi-politikai válság, mint a kapitalizmus és a nemzetközi kapcsolatok jól ismert válságai. Ugyanazok a strukturális kényszerpályák, amelyek korábban is a kizsákmányolás, a piaci válságok, az extrém vagyoni polarizáció és a birodalmi-hatalmi rivalizálás irányába lökték a társadalmakat, ma is működnek – csak éppen egy olyan technológiát mozgatva, ami minden korábbinál gyorsabban képes minden korábbinál nagyobb pusztításra.

Ha ezt a diagnózist elfogadjuk, akkor kezdhetünk hozzá bármiféle cselekvési terv felvázolásához. A civil társadalom, a polgári engedetlenség és – ahol csak lehetséges – a politikai képviselet szintjén kell egyesíteni azokat az erőket, amelyek a hagyományos politikai törésvonalak helyett az egzisztenciális érdekek mentén szerveződnek és hajlandóak konfrontálódni.

A nehézséget az okozza, hogy hiába minden riogatás az AI veszélyeiről, könnyen lehet, hogy valójában nem áll rendelkezésre elegendő idő egy széleskörű társadalmi-politikai összefogás megszervezéséhez. Még akkor sem, ha az ilyen irányú kritikára nyitott, már létező baloldali és zöld szerveződések félre tudnák tenni belső értékkülönbségeiket és érdekellentéteiket – ami önmagában is nehéz feladat. A társadalmi szintű tanulási és szerveződési folyamatok dinamikája ugyanis sokkal lassabb, mint amilyen ütemben a technológiai fejlesztés elszabadulni látszik. Ez még akkor is igaz, ha ugyanazok a technológiák, amelyek civilizációs veszélyeket hordoznak magukban, egyúttal az adaptív képességeinket is javítják.

Mindez alighanem azt jelenti, hogy egy olyan politikai képviselet megteremtésének reális lehetősége, ami határt próbál szabni a fékevesztett, funkcionális-instrumentális-technológiai racionalizálódásnak az élet elemi feltételeinek nevében, valójában csak egy részleges civilizációs összeomlást követően nyílhat meg igazán. Meglehet, ekkorra már sok mindenhez késő lesz. Ettől függetlenül a fenti szempontok képviselete egyaránt fontos e képzelt, disztópikus jövőben, és ma is, amikor még van valamekkora mozgásterünk.

Sik Domonkos
(filozófus, szociológus)