A nyolcvanas-kilencvenes években a terjedőfélben lévő internet még az eljövendő szabadság ígéretét hordozta: sorra születtek a kiáltványok és szövegek egy tech-utópiáról, melyben az internet révén az emberek végre láncaikat levetve, szabadon és boldogan élhetnek majd.

2018-ban látni, hogy ez nem így történt: az internet ugyan nagyon sok területen hasznossá vált az életünkben, sok új lehetőséget teremtett, átalakította a kommunikációs szokásainkat és a gondolkodásunkat, és volt, ahol valóban pozitív irányban segítette elő a társadalmi változásokat, de legalább ennyi példa akad ma már arra is, hogy a fokozódó ellenőrzés és elnyomás eszköze lett, mely mögött soha korábban nem tapasztalt hatalmú óriásvállalatok nőttek ki, melyek szükség esetén simán együttműködnek autoriter rezsimekkel is.

Ezekkel a folyamatokkal párhuzamosan átalakult az internet jövőjéről szóló gondolkodás:

a korábbi utópikus képzeletet sokaknál felváltotta egy disztópikus vízió, ami mellett a Black Mirror epizódjai naiv és téttelen képzelődésnek tűnnek csupán.

A változást az okozta, hogy az internet lassan az életünk minden területére beszivárgott: okostelefonjaink állandóan a zsebünkben kísérnek minket mindenhova, egyre több háztartási eszközünk kapcsolódik össze egy hálózatban, alig van már olyan vásárlás, navigáció, keresés, amit ne a neten keresztül intéznénk, közben pedig folyamatosan ontjuk magunkból és magunkról az adatokat. Nemrég részletesen is írtunk arról, hogy mára az adat lett a legértékesebb nyersanyag, ami hatja előre az óriásmonopóliumok létrejöttét.

Ez a rengeteg személyes adat nemcsak a vállalatok, de a kormányok érdeklődését is felkeltette. Az igény persze nem új: Michel Foucault életművéből például elég pontosan látni, hogy modernitás kezdete óta a kormányok célja az lett, hogy az egyáltalán nem költséghatékony nyílt erőszak helyett finomabb módszerekkel, adminisztratív-szabályzó-bürokratikus eszközökkel tartsák fenn a termelési viszonyok szempontjából legkedvezőbb társadalmi rendet.

Ennek az igénynek sokáig a technológiai lehetőségek szabtak leginkább határt: az állampolgárok részletes lajstromba vétele, az életük minél több területének ellenőrzése, számontartása és számonkérése hihetetlen erőforrást igényel, diktatúrák is csak óriási besúgóhálózat fenntartása révén tudtak hatékonnyá válni ezen a területen.

Ebben hozott komoly változást két tényező: egyrészt, hogy az emberek soha korábban nem tapasztalt mértékben termelik magukról az adatokat, másrészt, hogy a különféle bigdata- és AI-eszközök révén a rengeteg adat feldolgozása egyre könnyebbé válik.

Kína mutatja az utat a világnak

Ez pedig lehetőséget teremt az adatokhoz hozzáférő kormányoknak, hogy minél korábbinál pontosabb képet kapjanak az állampolgáraik életéről. Mit szeretnek, mit olvasnak, hova terveznek utazni, kikkel tartják a kapcsolatot, mire költik a félretett pénzüket, mivel ütik el üres óráikat esténként, és így tovább a végtelenségig.

Az adatokhoz való kormányzati hozzáférés persze közel sem magától értetődő adottság, nem véletlen, hogy ennek érdemi kihasználása először éppen egy olyan országban történt, ahol a világátlagnál sokkal erőteljesebb az állami kontroll az internet felett: Kínában.

A kísérleti kínai modell pedig egy tökéletes megfigyelőállam lehetőségét vázolja fel, amihez képest már nemcsak a Black Mirror, de az 1984 világa sem tűnik annyira vészesnek.

Az utóbbi időben számos beszámoló született arról, hogy Kínában hogyan kezdték el kategorizálni az állampolgárokat részben a származásuk, részben az online tanúsított életük alapján. És aki a rossz kategóriába esik, annak hirtelen nagyon szűkké válnak a lehetőségei: aki a hatalom szemében gyanús lesz, az ugyanis ezentúl nemcsak besúgókra és lehallgatásra számíthat, hanem arra, hogy lépten-nyomon rendőrségi ellenőrzésekbe fog botlani, az arcát ismerni fogják a mindent behálózó térfigyelőkamerák, és bizonyos szolgáltatásokra, például repülőjegy vásárlására, bizonyos üzletek látogatására, lakásbérlésre vagy munkahelyi jelentkezésre egyszerűen nem lesz jogosult.

A New York Times nemrég közölt részletes cikket az új típusú megfigyelőállamról, melyben a kínaiak számon vannak tartva aszerint, hogy mennyire megbízható polgárai az államnak. A modell az elmúlt években Kína északnyugati részén kezdett kialakulni, és elsősorban az ujgur lakosságot sújtja: a Kínai Kommunista Párt szemében mindig veszélyes szeparatista kisebbségként kezelt közösség tapasztalhatta meg elsőnek, milyen az, ha egy autoriter állam a legfejlettebb technológiát állítja az elnyomás szolgálatába.

A régióban mára minden autó GPS-jeladóval van felszerelve, az összes ujgur állampolgár DNS-mintáját begyűjtötte az állam, nincs mobiltelefon kormányzati kémprogram nélkül, az interneten a nem kormány által felügyelt kommunikációs csatornák elérhetetlenek, sőt, ha egy ujgur állampolgár vásárol egy konyhakést, személyes adatai a kés pengéjén lévő QR-kódba kerülnek. Akikkel pedig a hatalom szerint baj van, azok államilag kötelezően előírt "továbbképzésre" kell menjenek, ami egy átnevelő- és egy munkatábor elegyében történik.

Mennyire vagy jó polgár?

Az ujgurok elleni növekvő elnyomás a leglátványosabb, de messze nem a legfontosabb frontja a kínai modellnek: a háttérben közben ugyanis

épül a rendszer, melyben a tervek szerint 2020-tól minden kínai állampolgárt számon tartanának.

Ennek a modellnek a lényege egy olyan új minősítési rendszer, amiben mindenki pontokat kapna aszerint, hogy mennyire jó állampolgár.

Kicsit hasonló szisztéma, mint ahogy a hitelminősítők dolgoznak évtizedek a nyugati országokban, de nemcsak kölcsön felvétele előtt, hanem a társadalmi élet minden szintjén releváns lenne ez az érték: továbbtanulásnál, munkahelyi jelentkezésnél, lakásbérlésnél, házasságnál, egészségügyi ellátásnál és így tovább.

És olyan tényezőket vehetne figyelembe a rendszer, minthogy miket szoktál vásárolni magadnak, mivel töltöd a szabadidődet, kikkel barátkozol, mennyi időt töltesz online játékokkal vagy videók nézésével. A tervek szerint mind az 1,3 milliárd kínai állampolgárnak lenne ez alapján egy megbízhatósági pontja. A rendszerhez jelenleg önkéntesen lehet csatlakozni, de a kormányzati elképzelés szerint 2020-tól kötelező lesz, és nemcsak személyek, de vállalatok is folyamatosan értékelve lesznek aszerint, hogy mennyire jó és hasznos tagjai a társadalomnak.

Arról, hogy a technológia hogyan alakítja át radikálisan az életünket és a megbízhatóságról vallott gondolatainkat, Rachel Botsman tavaly írt egy könyvet, a kínai állampolgári pontrendszerről szóló fejezete pedig a Wiredben is megjelent. Botsman részlétesen ír arról, hogy a legnagyobb kínai techvállalatok, azaz a Tencent és az Alibaba hogyan szálltak be a rendszer fejlesztésébe, és hogy jelenleg párhuzamos tesztmodellek futnak, melyekből majd kirajzolódik a nemzeti értékelési modell 2020-ra.

Az algoritmusok titkosak, de azt például lehet tudni, hogy az Alibaba-féle rendszer több tényezőt vesz figyelembe az értékeléskor. Egyrészt az állampolgár hiteltörténetét, azaz hogy mennyire rendszeresen fizette be a számláit, továbbá azt, hogy mennyire tesz eleget a szerződéses kötelezettségeinek. Ezek még nem sokban különböznek egy átlagos hitelminősítési eljárástól. De a rendszer ezen kívül számba veszi a polgár viselkedését is: a vásárlási szokásoktól kezdve az interneten eltöltött időig minden számíthat. Egy további kategória pedig a személyközi kapcsolatok alapján értékel: kikkel barátkozunk, ők mennyire megbízható emberek, milyen közös tevékenységeink vannak, ezek mind számíthatnak, valamint persze az is, hogy ők hogyan viselkednek online.

A rendszerben plusz pontot ér, ha pozitív energiákat osztunk meg az interneten barátainkkal, legyen az egy kedves üzenet vagy egy kormánybarát megjegyzés.

Az Alibaba azt állítja, az internetre kitett negatív hangvételű posztok egyelőre nem befolyásolják a pontszámot. Ezt persze nem tudni, hiszen az algoritmus titkos, másrészt viszont ez bármikor megváltozhat, ha valóban egy kötelező nemzeti program alapja lesz majd egyszer a modell. Ahogy a cikk is fogalmaz, politikailag érzékeny tartalmakat megosztani Kínában eddig sem volt bölcs dolog, de egy sokkal kifinomultabb és az élet minden szintjén sokkal jobban átszövő rendszer bontakozik ki épp a szemünk előtt.

Az értékelőrendszer persze nemcsak büntet, hanem jutalmaz is: ha elég jó polgár vagy az állam szemében, különféle bónuszokban részesülhetsz, hozzáférhetsz olyan állami szolgáltatásokhoz, melyekhez a kevésbé simulékony polgártársak nem. A kísérleti modellekben például különféle hitelkeretekhez férhetnek hozzá a más-más pontkategóriába eső polgárok. Ha pedig igazán jól teljesítesz, soron kívül jelentkezhetsz be szállodákba vagy használhatod a pekingi reptér VIP-váróját. Ha még több pontot szerzel, különleges engedélyek nélkül utazhatsz külföldre, a csúcson lévőknek pedig a vízumkérelmük is felgyorsul.

Nem véletlen, hogy a tesztverzió is százezrével vonzza a kínaiakat: sokan mindenféle kormányzati nyomasztás nélkül, csak a társadalmi előrelépés reményében vetik alá magukat a megfigyelésnek. És az előnyöket hosszan lehetne még sorolni: van olyan elit társkeresőoldal, ahova például csak egy bizonyos pontszám fölött lehet regisztrálni.

A rendszer logikájából fakad, hogy nem csak magadra kell figyelned, de a körülötted lévő emberekre is: ismerőseid pontjai is hatással vannak a tiedre, így az sem lényegtelen számodra, hogy ők hogyan viselkednek. Ráadásul a program tudatosan épít azokra a pontszerző-játékos elemekre, melyekről pontosan lehet tudni, mennyire addiktívak: játszva lehet bárki jó állampolgár.

A programnak persze csak a pozitív oldalát hangsúlyozzák a fejlesztők, de közben látni, hogy bőven van benne tér a büntetésre: a rosszabb pontszámokkal lassabb internet, letiltott szolgáltatások, ellehetetlenülő külföldi utazások, drágább biztosítások járhatnak majd, ahogy szintén vannak arról tervek, hogy egyes munkakörökben, például a bíróságokon vagy a médiában nem lehet majd alkalmazni nem elég magas pontszámú embereket.

És az első büntetések már elkezdődtek: 2017 februárjában a kínai bíróságok összesen 6,1 millió embert tiltottak el attól, hogy a következő négy évben repülőjegyet vásároljanak, csak az online tanúsított magatartásuk miatt.

A kínai kormány szerint a rendszer egyszerűen megbízhatóbbá teszi az embereket, ennek révén visszaszorulhat a korrupció, ráadásul mivel Kínában sosem alakult ki a nyugati világhoz hasonló hitelrendszer, most ennek a modellnek révén lehetőség lesz ezt bepótolni, megbízható adósokat terelve a piacra, ez pedig a kínai gazdaság versenyképességén is javít majd.

Tanul a világ is

Könnyű a kínai modellt egy távoli, autoriter állam elnyomó megoldásának tekinteni, csak közben elég pontosan lehet tudni arról, hogy a totális megfigyelésre való törekvés nem idegen a fejlett, nyugati országoktól sem. Edward Snowdennek hála tudni, hogy NSA és a GCHQ mennyire részletesen követte nyomon az amerikai és a brit polgárok minden lépését, és sokan számolnak azzal, hogy ezek a trendek csak erősödni fognak.

A német Handelsblatt épp a napokban írt arról, hogy nem túl látványosan ugyan, de egy hasonló modell egyes elemei már Németországban is megjelentek. Mint a cikkből kiderült, a német igazságügyi minisztérium tanácsadó testülete éppen egy jelentés összeállításán dolgozik, ami az állampolgári értékelési rendszerekről szól majd.

Gerd Gigerenzer, a berlini Max Planck Intézet kutatója vezeti ezt a testületet, és szerinte bármennyire is orwell-i hangulata van a kínai modellnek, valójában Európában is látni ennek csíráit. Németországban például ott van az általános hitelminősítő rendszer, a Schufa, amit egy magánvállalat vezet, és ami a német lakosság több mint háromnegyedének hitelképességét minősíti. Ha valaki lakást venne ki vagy pénzt kérne kölcsön, szüksége lesz egy Schufa-értékre, melybe a földrajzi szempontok, például a szomszédaid hitelképessége épp úgy beleszámít, mint a személyes törlesztési történeted.

Az egészségbiztosítás terén olcsóbb ajánlatokat kapsz, ha ritkábban vagy beteg, és még jobb szerződést tesznek eléd, ha vállalod, hogy a testmozgásodat követő alkalmazásod adatait megosztod a szolgáltatóval. Egyre több internetes szolgáltatás alapja az értékelési rendszer, az Amazontól az Airbnb-ig személyes pontszámot kapsz, akár fogyasztó, akár szolgáltató vagy.

Gigerenzer szerint abba az irányba megy a világ, hogy alig marad szegmense az életünknek, amely ne lenne transzparens és sokak számára hozzáférhető és értékelhető, az igazi kérdés pedig az, hogy mit tudunk kezdeni azzal, ha ezt a rengeteg adatot egyetlen pontozási rendszerben összesítik.

Az internettel ugyanis egyre inkább odalett annak lehetősége, hogy életünk bizonyos oldalát titokban tartsuk. Gigerenzer az egykori Google-vezér, Eric Shmidt 2009-es szavait idézte fel, mely szerint ha azt akarjuk, hogy valamilyen lépésünkről ne tudjon senki, akkor talán első körben nem is kéne azt megtennünk.

A német kormánynak is bedolgozó szakértő szerint fontos látni, hogy a mesterséges intelligencia még nem tart ott, hogy a való világ minden bizonytalanságával érdemben tudjon megküzdeni. Példaként a COMPAS névre keresztelt algoritmust hozza fel, mely az Egyesült Államokban a bírók munkáját hivatott volna könnyebbé tenni: egy titkos algoritmus ugyanis megjósolta, hogy egyes bűnelkövetők előéletük alapján mekkora eséllyel követnének el újra bűncselekményt. De mint később kiderült, az algoritmus az esetek harmadában tévedett, ráadásul elfogult volt a nem fehér vádlottakkal szemben.

Gigerenzer szerint ez a téma fontos részét kéne képezze a koalíciós tárgyalásoknak is, mert miközben a digitális technológia jövőre gyakorolt hatása visszatérő felvetés, a társadalmi és pszichológiai dimenziókról alig esik szó. Abban bízik, hogy amikor beterjesztik jelentésüket, nagyobb társadalmi párbeszéd is indul majd a kérdésről.

Azé az adat, aki megtermeli?

És pont ez a társadalmi párbeszéd és abból fakadó kontroll az, ami Kínában elképzelhetetlen lenne, az európai országokban viszont még érdemben alakíthatja az általunk termelt adatok sorsát.

Az Európai Unió májusban fogja életbe léptetni az új adatvédelmi rendeletét (GDPR), ami az elmúlt 20 év legkomolyabb változtatása lesz ezen a téren, és amitől támogatói globális hatásokat is várnak. A GDPR ugyanis jóval szigorúbban fogja szabályozni, hogy az EU-s állampolgárok adatait hogyan lehet begyűjteni, tárolni és feldolgozni, az EU-n kívülről érkező IT-vállalatoknak pedig muszáj lesz ehhez alkalmazkodniuk, ha hozzáférést akarnak ehhez az 500 milliós fejlett piachoz.

Ez persze csak egyetlen lépés a jó irányba, emellett számos változtatásra szükség lesz, ha el akarjuk kerülni a felvillantott disztópikus jövőt. Sokkal komolyabban kéne oktatni a digitális jogokat, hogy minél több ember lehessen tisztában azzal, ahogy online és offline élete ma összeér, és kölcsönösen befolyásolják egymást. Átláthatóvá kell tenni a különféle pontozó és értékelő algoritmusokat (ahogy Németországban idén komoly kampány is indult a Schufa-algoritmus felfedéséért). Nem szabad engedni, hogy az adatok feldolgozását láthatatlan erők végezzék, minden adatkezelő számon kérhető és ellenőrizhető kell legyen.

És így tovább: azt aligha lehet már visszafordítani, hogy életünk egyre több területe kerüljön az online ellenőrzés és az adatfelhalmozás fennhatósága alá, de az adatok feletti demokratikus kontrollért még van értelme küzdeni.