Az AI-alapú megfigyelőállam komoly kihívója lehet annak a világrendnek, amit 350 éve ismerünk

A mesterséges intelligenciától való félelem hosszú évtizedek óta foglalkoztatja a sci-fi rajongók fantáziáját. Ezek a disztópikus víziók legtöbbször egy olyan világot írnak le, ahol az AI-k túlnőnek az emberi intelligencián, önálló erőre tesznek szert, és szép lassan kiszorítják az embert az élet minden területéről. 

A hasonló felvetések sokáig csak az örökké közelgő jövőbe voltak kivetítve, de az elmúlt évek látványos fejlesztései és a sokak szerint küszöbön álló AI-forradalom miatt egyre inkább a jelenünkről kezdtek el szólni. Ám úgy fest, hogy az AI-k megérkezésével első körben nem a technológiai szingularitás miatt kell majd aggódnunk, hanem hogy mi lesz abból, ha a politika és az AI egymásra talál. 

Az állam, amely mindent lát

Erre a folyamatra a legelőrehaladottabb példákat Kínában látni, ahol az elmúlt pár évben rohamléptekkel haladtak a totális megfigyelőállam kiépítése felé. Kína nagyvárosait elárasztották a térfigyelő kamerák, egyes becslések szerint 200 milliót telepítettek eddig belőlük, és a felvételeket már rég nem rendőrök, hanem szoftverek pásztázzák folyamatosan. 

A kínai sajtóból pedig folyamatosan érkeznek a sikertörténetek, hogy az arcfelismerős szoftverekkel dolgozó AI-rendszerek hogyan szúrtak ki keresett bűnözőket tömött sörfesztiválon vagy koncerten, hogy egy arcfelismerő eszközzel ellátott szemüveget viselő rendőr hogyan szúrt ki egy heroincsempészt egy pályaudvaron. Arról viszont már jóval kevesebb szó esik a helyi lapokban, hogy a technológiát hogyan lehet a politikailag másképp gondolkodók, a vallási vagy etnikai kisebbségi csoportokhoz tartozók ellen fordítani, ahogy történik például ez az ujgurok esetében

A kínai modell egyelőre döcög: nem alakult még ki országos hálózat, az egyes városokban eltérő színvonalú technológiák működnek, még csak alakul a központi adatbázis. Hasonló a helyzet a sokat emlegetett társadalmi minősítési rendszerrel, amely a tervek szerint éveken belül mindenkit számon fog majd tartani, aszerint, hogy mennyire jó polgár. És akinek nem lesz elég magas a pontszáma, az bizonyos szolgáltatásokhoz, például repülő- vagy vonatjegyekhez, hitelekhez vagy iskolákhoz nem férhet majd hozzá. Azt pedig, hogy ki a jó polgár, majd az állam határozza meg, kérdés mi alapján: lehet, csak az adófizetési morált ellenőrzik, de szempont lehet az is, hogy ki milyen újságokat olvas, miről beszélget online az ismerőseivel. 

Az elképzelésről részletesen is írtunk, és ugyan az eddigi legalaposabb elemzés szerint a kínai társadalmi kreditrendszer egyelőre inkább különféle meglehetősen nyersen kidolgozott technológiák lazán összekötött rendszere, semmint egy jól integrált és szofisztikált eszköz, a jövőbeni lehetséges irányokat mégis világosan kijelöli. Arról nem is beszélve, hogy a múlt század totalitárius rendszereinek történetéből tudhatjuk, hogy a megfigyeltség félelme milyen könnyen vezethet öncenzúrához: a puszta gondolat, hogy a rendszer állandóan láthatja, mit csinálsz, mit kommunikálsz, vagy mire keresel rá, már elég lehet ahhoz, hogy máshogy kezdj el viselkedni. 

Nem Kína belügye

Arról, hogy pontosan hol tart a kínai modell kiépítése, nem sokat tudni, annyi biztos, hogy Kína 2017-es belföldi védelmi költségvetése legalább 196 milliárd dollár volt, több mint 12 százalékkal több, mint egy évvel korábban. És azt is tudni, hogy Hszi Csin-ping deklarált célja, hogy Kínát 2030-ra a világ vezető AI-hatalmává tegye, óriási pénzek mozdultak meg az országban azért, hogy ez valósággá váljon. 

Ezzel párhuzamosan látni azt is, hogy Peking nemcsak saját használatra fejleszti az AI-technológiákat és a mesterséges intelligenciára épülő biztonsági rendszereket, hanem a technológia exportja is megindult. Az internetet cenzúrázó Nagy Tűzfal iránt már érdeklődtek Thaiföldről és Vietnamból, és lehet tudni, hogy kínai szakértők adtak már tanácsot Srí Lanka-i cenzoroknak, Etiópia, Malajzia, Irán, Oroszország, Zambia és Zimbabwe pedig megfigyelő- vagy cenzoreszközöket kapott. A Foreign Policy épp a napokban foglalta össze, hogy milyen államközi szerződések keretében terjednek a kínai megfigyelőeszközök számos, egyre inkább kínai érdekkörbe kerülő afrikai országban. 

Repülőtér Kínában, az utasok folyamatos ellenőrzésévelFotó: EyePress News

Nem véletlen, hogy sokan már egy új világrend eljövetelét látják mindebben:  Nicholas Wright brit neurológus és AI-kutató a Foreign Affairs legutóbbi számában írt arról, hogy a mesterséges intelligenciára épített megfigyelőállamok nyomán egy olyan új politikai berendezkedés születhet meg, amely reális kihívója lehet a nyugati liberális demokráciáknak. Wright ezt az új rendszert digitális autoritarizmusnak nevezi, és a lényege, hogy az állampolgárok állandó és totális megfigyelése révén egy egészen újfajta államberendezkedés jöhet létre. 

Wright szerint, szemben a XX. század tekintélyuralmi rendszereivel, a digitális autoritarizmus azért lehet sikeres, mert egyszerre valósulhat meg benne az állampolgárok hatékony kontrollja és a gazdasági növekedés fenntartása. Mind a kettőhöz a technológiai újítások szolgáltathatnak eszközöket. Miközben a mindent behálózó térfigyelő-kamerákra, az arcfelismerős szoftverekre és az üzeneteinket, valamint ismerőseink üzeneteit állandóan monitorozó rendszerekre épülő, AI-alapú technológia a történelemben példanélküli ellenőrzési lehetőséget ad az állam kezébe, addig a gazdaság hatékony központi tervezése a gépi tanulásos technológiák révén akár valósággá is válhat. 

Visszajön a központi tervezés? 

Az, hogy lehetséges-e a gazdasági erőforrásokat előzetes számítások mentén hatékonyan felhasználni, a XX. század első felének fontos gazdaságelméleti vitája volt. A szocialista kalkulációs vitaként ismert összecsapás évtizedeken át foglalkoztatta a nyugati közgazdászokat, akik akkor még keveset tudtak arról, hogy a Szovjetunió gazdasági erősödése mögött milyen mértékű manipuláció és mennyire súlyos emberáldozatok vannak. 

Ahogy a század második felére egyre inkább fény derült ezekre, párhuzamosan úgy vált egyre elfogadottabbá az a meggyőződés, hogy a központi tervezés sosem tud annyira hatékony lenni, mintha a piac szabad mozgására bízzuk a gazdasági erőforrások elosztását. A neoliberális közgazdaságtan ideológiai alapjává tette ezt, és ugyan zajlottak közben kísérletek a világban, de a más iskolákból érkező közgazdászok is általában egyetértettek abban, hogy a gazdaság hatékony megtervezéséhez olyan mennyiségű adatot kéne folyamatosan ismerni, valós időben feldolgozni, ami technológiailag egyszerűen kivitelezhetetlen. 

És ez az a tényező, ami elkezdett megváltozni. Nem baloldali közgazdászok állítják ezt, hanem például a világ egyik leggazdagabb embere, az Alibabát vezető Jack Ma, aki szerint a big data-alapú eszközök lassan olyan mértékű adatkinyerést és feldolgozást tettek lehetővé, amellyel gyakorlatilag valós időben lehet látni és tervezni a gazdaság működését. 

Arról korábban részletesen is írtunk, hogy hogyan vált mára az adat a legfontosabb nyersanyaggá, és hogy az erre épülő iparágak hogyan alakították át a kapitalizmus működését. És ugyanezek a változások tehetik lehetővé azt is, hogy a központi tervezés valósággá váljon. Azzal, hogy lassan minden használati tárgyunk kapcsolódik majd az internethez, hogy a gyárakban és üzemekben az Ipar 4.0 forradalma után a termelési lánc fizikai termelőeszközei között állandó online kapcsolat lesz, mely során a gyártósor egyes eszközei, a szállítás és tárolás felületei és az értékesítő egységek között folyamatos kommunikáció alakul ki, vagy azzal, hogy vásárlásaink, kereséseink és üzenetváltásaink állandóan nyomot hagynak maguk után, a tervezhetőség egy olyan új formája jelenhet meg, melynek valódi jelentőségét talán még fel sem tudjuk mérni. 

Fotó: Ng Han Guan/AP

És éppen e keresleti és kínálati igényekre azonnal reagáló, rendkívül flexibilis és személyre szabott tervezett gazdaságban lehet meglátni az egyik lehetőségét annak, amiért a digitális tekintélyuralmi rendszer erős kihívója lehet a liberális demokráciáknak. Főleg, mert ezek a demokráciák éppen egy sor gazdasági kihívással kellett szembenézzenek 2008 után. Nem véletlen, hogy az egyik legelterjedtebb elképzelés éppen a nyugati gazdaságok problémáiból vezeti le a populista mozgalmak megerősödését. 

Ehhez szorosan kapcsolódik az a globális vagyoni átrendeződés, amely az elmúlt évtizedben végbement: előrejelzések szerint 2022-re a Kína, Oroszország és Szaúd-Arábia fémjelezte nem demokratikus országok gazdagabbak lesznek a hidegháborút megnyerő nyugati demokratikus országoknál. Egy nemrég megjelent elemzés szerint 2022-re 1,5 milliárd ember fog érett gazdasági alapokon álló autokráciában élni, míg 1995-ben mindössze 34 millió ember mondhatta el ezt magáról. Azaz a tekintélyuralmi államok gazdasági alapon lettek a liberális demokráciák kihívói. 

Ez különösen igaz lehet, ha a nyugati államok nem tudnak kezdeni valamit azokkal az egyenlőtlenségi problémákkal, melyek előrejelzések szerint a technológiai változások során csak súlyosbodni fognak. Mint a kínai Google egykori igazgatója, Kai-Fu Lee írja a New York Timesban megjelent véleménycikkében, az AI-robbanás nyomán két trend feszül majd egymásnak. 

Egyrészt lesznek vállalatok, melyek óriásit fognak szakítani a mesterséges intelligencia alkalmazásán. A fuvarozástól a pénzügyeken át a teljesen robotizált gyártósorokig lesznek cégek, melyek hatalmas profitra tehetnek majd szert. Lee saját befektetési alapja például nemrég invesztált egy olyan pénzügyi vállalatba, amely a tervek szerint évi 30 millió hitelkérelmet bírálna majd el bármiféle emberi munkaerő alkalmazása nélkül. 

Ezzel párhuzamosan viszont rengetegen fogják elveszíteni a munkájukat, és egyelőre nem nagyon tudni, mi lesz velük. Azt például elég pontosan látni, hogy az emberek közel sem tudnak olyan könnyedén munkatípusok között váltani, mint ahogy azt közgazdászok szeretik feltételezni, és arról is nagy elméleti viták zajlanak jelenleg, hogy egyáltalán milyen munkatípusokra lesz szükség a robotforradalom beállta után. 

Globális egyenlőtlenségek és AI-nacionalizmus

Gyakran visszatérő felvetés, hogy az AI-alapú ipari változások komoly gazdasági növekedést hozhatnak magukkal, és ebből, valamint a sikeres AI-cégekre kivetett adókból finanszírozni lehet majd a munkájukat elveszítő tömegeknek támogatást nyújtó jóléti programokat. Ezzel azonban az a probléma, hogy jelen állás szerint az AI-forradalom mindössze pár ország számára jelent majd igazi gazdasági sikert, jelenleg szinte minden jelentős fejlesztés az Egyesült Államokba és Kínába koncentrálódik.

Ez annyira így van, hogy Angela Merkel nemrég maga ismerte el, hogy Németország (és az egész EU) aggasztóan le van maradva ezen a téren. És hiába szoktunk hozzá ahhoz, hogy a technológiai innovációk évszázadokon át Európából érkeztek, most egyáltalán nem ez a helyzet. Az AI-fejlesztések terén tapasztalható globális egyenlőtlenség pedig szorosan összefügg azzal, ahogy Kína egyre nagyobb befolyásra törekszik a világ számos részén. (A kínai geopolitikai törekvésekről nemrég részletesen is írtunk.)

Az utóbbi hetekben sokat idézték a fiatal AI-fejlesztő, Ian Hogarth elemzését, melyben arról írt, hogy következik az AI-nacionalizmus kora. Hogarth az elmúlt évek technológiai és gazdasági fejleményeit végignézve arra jutott, hogy egy élesedő fegyverkezési verseny hajnalán járunk. A fegyverkezési versenyt egyrészt szó szerint kell érteni, hiszen egyre nagyobb jelentősége lesz a különféle mesterséges intelligencia-alapú eszközöknek a hadiiparban, másrészt viszont olyannyira meg fog nőni e technológia szerepe a gazdaságban, hogy az AI-val kapcsolatos politikai döntések a legfontosabb kormányzati intézkedésekké válhatnak. 

Hogarth arra számít, hogy ennek következtében egy sor olyan változás indul meg, melyek alapvetően alakíthatják majd át a globális világrendet: az AI terén fejlett államok egyre inkább protekcionista politikát folytathatnak majd, egyre gyakrabban fordul majd elő, hogy külföldi felvásárlásokat és befektetéseket fognak megakadályozni, hogy megvédjék az egyre kritikusabbá váló techszektorukat, miközben nagyon komoly verseny indulhat el a legtehetségesebb mérnökökért. 

Ennek nagy jelentőse lehet majd, hiszen az AI olyan technológia, amely az életünk minden területét áthathatja. Elég megnézni annak a száz start-upnak a listáját, melyek decemberben 11 milliárd dollárt szedtek össze a mesterséges intelligenciával foglalkozó vállalkozások legnagyobb amerikai expóján: több mint 25 területről érkezve, a pénzügyi szolgáltatásoktól kezdve az önvezető autókon át a gyógyszeriparig, az oktatástól a logisztikáig fedtek le iparágakat. 

Hogarth konklúziója, hogy aki elsőnek lesz képes uralni ezt a technológiát, az hatalmas versenyelőnyre tehet szert: egyrészt gazdaságilag, másrészt pedig technológiailag is, hiszen egy előrehaladott AI-rendszer alighanem egy sor további tudományos felfedezés és fejlesztés felé nyithatja meg az utat. Épp ezért, a következő évek és évtizedek egy új típusú fegyverkezési versenyről szólhatnak majd, melyben a nagyhatalmak technológiai fejlesztések kiszervezésével gyűjthetnek maguk mellé országokat. 

Az eddig említett felvetések persze mind spekulációk, nyilván senki nem látja előre, hogyan fog festeni a világunk 15 év múlva. Ugyanakkor látványos, hogy mennyire elfogadott lett az a meggyőződés, hogy az elsősorban Kína által képviselt, AI-technológiára épített megfigyelőállam esélyes kihívója lehet annak a világrendnek, amit 350 éve ismerünk

A felmerülő kételyeken túl, melyekre csak évek, évtizedek múlva fogjuk tudni a választ (például valóban tud-e stabil és kiszámítható gazdasági modellt kínálni a digitális autoritarizmus, vagy az egész egy óriási blöff csupán), sok múlhat azon is, hogy a nyugati liberális demokráciák milyen válaszokat tudnak adni azokra a válságokra, melyekkel szembe kell nézzenek. 

A gazdasági és politikai problémák sorában talán most még nem ez tűnik a legfontosabbnak, de lényeges lehet, hogy ezek a társadalmak mit tudnak majd kezdeni az új technológiákkal: tudják-e biztosítani, hogy mindenki szabadon rendelkezhessen az általa előállított adatok sorsa fölött, tudják-e biztosítani, hogy az életünket alapvetően átalakító új eszközökhöz mindenki hozzáférhessen, és főleg, tudnak és akarnak-e valamit kezdeni a gigantikussá váló techmonopóliumokkal. Ez utóbbi kihívás közel sem magától értetődő, és épp az élesedő nemzetközi verseny mutatja meg, miért: Mark Zuckerberg az amerikai szenátusi meghallgatásán például pont azzal érvelt a gigantikussá hízó Facebook feldarabolása ellen, hogy azzal csak a kínai vállalatokat erősítenék. 

Mindenesetre az egyik első lépés a bizalom helyreállítása kéne legyen: a digitális kapitalizmus rövid eddigi története ugyanis bőven szolgáltatott olyan példákat, melyek a bizalom aláásására voltak alkalmasak. Emberek millióinak indokolatlan megfigyelése, a munka és a magánélet minden másodpercét behálózó technológiák burjánzásának engedélyezése, az óriásmonopóliumok létrejötte, a technológiai változásokkal összefüggő vagyoni egyenlőtlenségek növekedése mind olyan irány, amely épp e társadalmak alapértékeit kezdte ki. Nem tudni előre, hogy mennyire lehet életképes a Kína által diktált új digitális világrend, de az biztos, hogy jóval könnyebben terjedhet majd a világban, ha a liberális demokráciák nem találnak megoldásokat ezekre a problémákra.