Isaac Asimov amerikai sci-fi-író 1955-ben az „elektronikus demokráciáról” írt egy novellát, amiben kiválasztottak egy átlagembert, akinek a társadalom képviselőjeként egy számítógép, a Multivac kérdéseire kellett válaszolnia. A gép a kapott adatok alapján kiszámolta, hogyan alakulna egy választás, amit így meg sem kellett tartani, hiszen a gép már lemodellezte. Erre a történetre hasonlít az, ami napjainkban Kínában történik.

Sokan – például Yuval Harari izraeli történész a Homo Deus című könyvében – amellett érvelnek, hogy a Nyugat nem pusztán a több szabadságjognak köszönhette a szocialista érdekszféra fölötti győzelmet, hanem azzal is, hogy az ezzel járó szabadságnak köszönhetően, a decentralizáltabb rendszerekben könnyebben, jobban, pontosabban áramolhattak az információk, ami technológiai és gazdasági fölényhez vezetett. Most viszont, az intelligens algoritmusok korában a dataista forradalomnak hála az egész emberiségre leselkedhet valamiféle, minden eddiginél több adattal kalkuláló, a demokratikus társadalmaknál hatékonyabb, digitális totalitárius rendszer veszélye. Nicholas Wright brit neurológus és AI-kutató nemrég arról írt, hogy a XX. század tekintélyuralmi rendszereivel szemben az új, digitális autoritarizmus azért lehet sikeres, mert egyszerre valósulhat meg benne az állampolgárok hatékony kontrollja és a gazdasági növekedés fenntartása.

A lazább rendszer még alaposabb megfigyeléshez vezetett

Minden autokráciában alapvető probléma, hogy hogyan lehet megtudni, mi történik a társadalom alacsonyabb szintjein. Hogyan lehet kormányozni egy országot, ahol a Föld minden ötödik embere él egy rohamosan növekvő és egyre komplexebbé váló gazdaságban és társadalomban, ha tilos a nyilvános vita és a civil aktivizmus, és nincsenek választói visszajelzések sem? Hogyan gyűjtenek elég információt a döntéshozatalhoz, ha a kormány nem vonja be a döntésbe polgárokat, és hogyan szerzi meg a közvélemény bizalmát anélkül, hogy minden ajtó elé rendőröket kelljen állítania?

Hu Csin-tao, Kína előző vezetője, aki 2002 és 2012 között volt a Kínai Kommunista Párt főtitkára, ezt azzal próbálta megoldani, hogy lazított a diktatúrán, kisebb mértékben megengedte a demokratizálódást, és így az alsóbb osztályok sérelmei eljutottak az uralkodó osztályig.Ezzel szemben Hszi Csin-ping jelenlegi elnök megfordította a folyamatot. Nem a demokratizálással akarja megérteni, mi folyik az 1,4 milliárd fős országban, hanem a minél hatékonyabb megfigyelések kombinációjával: intelligens algoritmusokkal és big datával monitorozzák az emberek életét minden pillanatban.

Az MIT Technology Review cikke szerint az elmúlt években a demokratikus országokban látott viharos változások a kínai politikai elit szemében igazolják a szavazók kizárását. Úgy vélik, a Brexit, Trump megválasztása, Duterte ámokfutása vagy az európai szélsőjobboldal felemelkedése a demokráciával szükségszerűen együtt járó problémák, főleg ami a populizmust, az instabilitást és a bizonytalan, személyre szabott vezetést illeti.

Amióta Hszi Csin-ping 2012-ben főtitkár lett, ambiciózus technológiai célokat tűzött az országa elé, például hogy 2030-ra a világ vezető AI-nagyhatalma legyen. Emellett meghirdette a „kiberszuverenitást”, aminek a jegyében felpörgették a cenzúrát, illetve igyekeznek teljes ellenőrzés alá vonni a belföldi internetet. Májusban a Kínai Tudományos Akadémiával való találkozóján azt mondta, a technológia kulcsfontosságú „a szocialista és modernizált nemzet építésének nagy céljában”, amikor pedig januárban televíziós beszédet mondott, a könyvespolcain nagy klasszikusok (például Karl Marxtól a Tőke) mellett olyan új művek is voltak, mint a mesterséges intelligenciáról szóló The Master Algorithm és az Augmented: Life in the Smart Lane.

Martin Chorzempa, a washingtoni Peterson Institute for International Economics munkatársa szerint egyetlen kormány sem használja ki annyira az adatokat a döntéshozatalban, mint a kínai, és egyes külföldi megfigyelők távolról nézve kísértésbe eshetnek: vajon ez az adatközpontú kormányzás életképes alternatívát kínál az eddigi, egyre inkább diszfunkcionálisnak tűnő választási modellekkel szemben?

Ha gyanús vagy, nem utazhatsz

A kínai vezetők régóta meg akarták érinteni a közvéleményt, méghozzá anélkül, hogy ki kelljen nyitniuk az ajtót a nyilvános viták előtt, amik a hatóságok kritikáját is magával vonná. Kínában már a császárság óta hagyománya volt annak, hogy a vidékiek elutaztak Pekingbe, hogy ott, az uralkodó városában szónokoljanak a helyi visszaélésekről, hátha ott segítségre lelnek. Hu Csin-tao elnökségének végén, a diktatúra lazulásának hála megjelentek a blogok, a tényfeltáró újságok, az emberi jogokkal foglalkozó jogászok, és nyilvános viták indultak a hatalom visszaéléseiről. Amerikai hírszerzők szerint Hszi első ciklusának elején az elnök napi összefoglalókat kapott arról, hogy a közösségi médiában milyen közügyek miatt volt felháborodás.

Az elmúlt években újra és újra tüntetők mentek Pekingbe, hogy felhívják a figyelmet olyan botrányokra, mint amilyen a helyi hatóságok illegális földfoglalása vagy a szennyezett tejporok miatti tömeges rosszullétek. Az utóbbi időben viszont a rendőrök egyre inkább akadályozzák, hogy a tüntetők elérjék Pekinget. Vonatjegyvásárláshoz  személyi igazolvány kell, így a „bajkeverőket”, akik már tüntettek korábban, nem engedik utazni. 2017 februárjában a kínai bíróságok csak az online tanúsított magatartásuk miatt 6,1 millió embert tiltottak el attól, hogy a következő négy évben repülőjegyet vásároljanak.

Halló, halló, figyelem! Aki rossz lesz, megverem!

A kínai vezetés állítólag már az 1980-as évek közepén felfigyelt arra, milyen lehetőségek vannak az életszínvonal emelésére és az állampolgárok kontrollálására az információtechnológiában. A folyamat aztán az AI-kutatás és a mostani, nagyon gyors processzorok megjelenésével felgyorsult, bár egyelőre nem tudni olyan mestertervről, ami összehangolná a technológiát és a kormányzást, viszont több kezdeményezés is azt célozza, hogy az emberekről és a cégekről kapott adatokat felhasználva javítsák a döntéshozatali mechanizmusokat, és a viselkedést büntetéssel vagy ösztönzéssel befolyásoló rendszereket hozzanak létre. Ilyen kísérlet folyik az államtanács 2014-es – a tervek szerint 2020-ra teljes gőzzel működő – „szociális kreditrendszerével”, ami gyakorlatilag a megbízhatóságuk alapján értékeli az állampolgárokat. De a hasonló, helyi, magáncégek bevonásával tesztelt „szociális hitelrendszerek”,  a 2016-os kiberbiztonsági törvény, az „okosvárosok” tervei, illetve a Kína legnyugatibb és legnagyobb tartományában, Hszincsiangban (Xinjiang) élő ujgurok technológiai eszközökkel folyó „átnevelése” is kijelöli az utat.

Ezek közül az intézkedések közül talán a szociális hitelrendszer a legfontosabb, aminek az egyik alapja a feketelistázás. Az elmúlt 5 évben Kínában a bírósági rendszer listákat készített azokról az emberekről, akik nem fizettek be bírságokat vagy nem tettek eleget egyes ítéleteknek. Az új szabályok szerint ezeket a feketelistákat különböző cégekkel és kormányzati szervezetekkel osztják meg, és aki a listán találja magát, az nem tud kölcsönt felvenni, repülőgépekre jegyet venni vagy jobb szállodákban megszállni. Hsziangjang (Xiangyang) városában a térfigyelő kamerák arcfelismerő szoftverre vannak kötve, és egy kijelzőn a piros lámpánál átsétáló állampolgárok fotóit mutatják névvel és a személyi igazolványuk számával. A nemzeti közlekedési társaságok is készítenek feketelistákat: többek között olyan utasokat büntetnek a jegyvásárlástól való 6-12 hónapos eltiltással, akik elállják a vonat ajtaját vagy verekedésbe keverednek az utazás során. Az év elején pedig a pekingi kormány egy sor feketelistát tett közzé olyan „tisztességtelen” vállalkozásokról, amiket eltiltottak attól, hogy a jövőben a kormánnyal szerződhessenek vagy földtámogatást kapjanak.

Néhány helyi kormányzat már pontrendszerrel kísérletezik, bár az még nem világos, kiterjesztik-e a rendszert az egész országra. A Foreign Policy írt az egyik északi városról, Rongcsengről (Rongcheng), ami mind a 740 ezer lakosnak pontokat oszt ki. Mindenki 1000 ponttal kezd, és aki jótékonykodik vagy állami díjat nyer, az pontokat kap, míg aki megsérti a közlekedési rendet, az pontokat veszít. Akinek sok pontja van, azt a városháza példaképként mutatja be, de még fontosabb, hogy másoknál olcsóbban vásárolhat dolgokat (például télen a fűtéshez szükséges kellékeket), vagy jobb feltételekkel kaphat hitelt, míg akinek kevés a pontja, az eleshet a banki kölcsönöktől vagy az állami munkáktól. Hasonló kreditrendszerek az Egyesült Államokban is vannak, például akinek rossz a fizetési hajlandósága, nehezebben kaphat hitelt, míg aki súlyos bűncselekményt követ el, attól egy időre elvehetik a választójogát. Csakhogy ezek független rendszerek, nincs köztük olyan kapcsolat, mint a minden cselekvést egyetlen politikai rendszerben értékelő rongcsengi társadalomszervezés esetében.

Az ilyen rendszerekkel az egyik legnagyobb probléma, hogy mivel Kínában nincs független igazságszolgáltatás, az állampolgárok nem igazán tudnak panasszal élni, ha hamis vagy pontatlan váddal értékelik őket rosszul. (Többen például mindenféle értesítés nélkül kerültek bírósági döntéssel utazási feketelistára.) Az aktivistákat és a tényfeltáró újságírókat jelentések szerint más rendszerben figyelik meg, mint a többieket, ahogy a drogelvonóra jelentkezőket is más rendszerben monitorozzák. Az utóbbiakat elvileg 5-7 év után törölni kellene a listáról, de ezt a hatóságok rendszeresen nem teszik meg, és szinte lehetetlen elérni, hogy az ember neve egyáltalán valaha lekerüljön a feketelistáról.

Totális megfigyeléssel a totális elnyomásért

Nem tudhatjuk, hogy a rongcsengihez hasonló kísérletek mennyire ígéretesek, mert a hivatalos statisztikákat áthatja az adatok szisztematikus meghamisítása, legyen szó akár a GDP-növekedés mértékéről, akár a vízenergia-felhasználási adatokról. A kínai kormány ritkán hozza nyilvánosságra az olyan adatokat, amikkel a kívülállók értékelhetnék a megfigyelő rendszereket. Nem lehet tudni, mennyire megbízhatók az egyre több helyen alkalmazott, illetve rendőrök szemüvegébe telepített arcfelismerő szoftverek, arról meg pláne nem tudhatunk semmit, hogy a kormány hogyan használja fel az összegyűjtött információkat és paramétereket az állampolgárok jövőbeni viselkedésének az irányítására. A rendőrségi algoritmusok, amik megjósolják, mennyire valószínű, hogy valaki visszaesővé válik, nem nyilvánosak, ahogy azt sem árulják el, nőtt vagy csökkent-e a bűnözés. (Borge Bakken, az Ausztrál Nemzeti Egyetem kutatójának becslése szerint a hivatalos bűnözési adatokat annyira kozmetikázzák, hogy az összes bűncselekménynek csak a 2,5 százalékát említik.)

Xiao Qiang, a Kaliforniai Egyetem kommunikációval foglalkozó professzora Kína adatközpontú kormányzásáról azt írta, hogy az egy „digitális totalitárius állam”, míg Richard McGregor, a The Party: The Secret World of China’s Communist Rulers szerzője szerint „az internet Kínában olyan, mint egy valós idejű, magánkézben lévő, digitális hírszerző szolgálat”. Erre a legjobb példa a muszlim ujgurok elleni hadjárat: ahogy han kínaiak költöztek egyre nagyobb számban Hszincsiang tartományba, úgy csökkentek az ott élő ujgurok munkavállalási és vallásgyakorlási lehetőségei. A konfliktus a két népcsoport közötti erőszakhoz vezetett, de a kormány reakciója nem a nyilvános vita vagy a vélemények és szakpolitikai tanácsok kikérése volt, hanem az, hogy magáncégeket bízott meg azzal, hogy gyűjtsön adatot, és vessen be algoritmusokat, amikkel meg lehet határozni, legközelebb ki követhet el erőszakot. Nem elszámoltatható a cég, nem nyilvános, hogy ezek a számítások hogyan épülnek fel vagy súlyozódnak, és még a helyi állampolgárok sem tudják, mi a pontosan elvárt viselkedés.

A tartományban a hatóságok az elmúlt két évben elképesztő mértékben beleásták magukat az állampolgárok magánéletébe. Olyan ellenőrzőpontok ezreit telepítették utakra, mecsetek bejáratához és bevásárlóközpontok elé, amiken csak arcfelismerés, ujjlenyomatvétel és személyiigazolvány-vizsgálat után haladhatnak át. Az ujguroknak kötelező letölteniük az okostelefonjaikra olyan kormányzati appokat, amik lehallgatják a hívásaikat, és elmentik a szöveges üzeneteiket meg a böngészési előzményeiket. A rendőrök rendszeresen beállítanak az otthonaikba, hogy felmérjék, hányan laknak a háztartásban, milyen a viszonyuk a szomszédokkal, naponta hányszor imádkoznak, utaztak-e külföldre, és milyen könyveket olvasnak. Ezek az adatok többek között a banki nyilvántartásokkal együtt bekerülnek a központi biztonsági rendszerbe, és bár annak működéséről nem lehet tudni semmit, sokan úgy vélik, „rossz pontokat” lehet gyűjteni azzal, ha az ember bizonyos mecsetekbe jár, sok könyve van, nagyobb mennyiségű gázolajat vesz, vagy külföldről hívják, írnak neki. Aki az értékelő rendszer szerint gyanússá válik, azt a rendőrök bármiféle formális vád nélkül letartóztathatják, és átnevelő táborba vihetik.

A következmények brutálisak: a már 2013-ban is elszigetelt, de akkor még éjszakánként pezsgő Kasgar városa mára gyakorlatilag üres lett, mivel Hszincsiang tartományban az ujgurok több mint 10 százalékát szögesdróttal körülvett koncentrációs táborokba vitték. Az ENSZ szerint akár egymillió ujgur is lehet titkos táborokban, amikben a fogva tartottakat hazafiságra nevelik, és a vallási meggyőződéseiktől akarják megfosztani őket. (A hatóságok újabban olyan biztonsági őröket toboroznak, akik a hamvasztást felügyelnék, ami azt jelzi, hogy a kormány megpróbál fellépni a hagyományos muszlim temetkezési gyakorlat ellen.)

Bár Kína más részein messze nem akkora az elnyomás, mint Hszincsiangban, sok helyen így is komoly elégedetlenséget szított, hogy a kormány túlságosan beleássa magát az emberek magánéletébe. Egy internetes cég például kénytelen volt leállítani az online adását, amin térfigyelő kamerák felvételeit mutatták, akkora felháborodást keltett ez az internetezőkben. A kreditrendszer is sokszor nyilvános elégedetlenséget szít, nemrég abból lett botrány, hogy egy diákot nem vettek fel az egyetemre, mert az apja rajta volt egy hitelminősítői feketelistán, pedig a hivatalos szabályok szerint ez nem volt kizáró ok, de az új rendszert támogatni igyekvő intézmény dolgozói annyira meg akartak felelni a kormánynak, hogy az előírtnál is komolyabban vették a feketelistázást. Sanghajban pedig idén olyan szabályozás született, ami könnyebbé teszi a kreditrendszerben megjelenő hibás információk vitatását. (MIT Technology Review, Foreign Policy)