Harari: Fordulóponthoz értünk, a jelentősebb történelmi folyamatok már nem csak emberi intelligencia döntéseiből következnek

Yuval Noah Harari maga is meglepődött, amikor a 2016-os Homo Deus – A holnap rövid története című könyve után AI-szakértőként vált világhírűvé, hiszen az izraeli történész szakterülete a középkori és kora újkori hadtörténelem volt, és nem is értett annyira a számítástechnikához, amennyire akár egy átlagos informatikus. Van viszont egy olyan képessége, amivel elérte, hogy világszerte tízmilliók olvassák a könyveit tinédzserektől a világ leggazdagabb embereiig: van egy metanarratívája, azaz egy átfogó története az emberiségről, amit olyan egyszerűen tud elmesélni, hogy azt lehetőleg mindenki megértse.

Az alarmista brand

A 2014-es Sapiens – Az emberiség rövid története volt az első pop-science-bestsellere. Az még az emberi gondolkodás történetét írta le, végignézve, hogy a tudomány mai állása szerint hogyan alakult ki az ember, hogyan igázta le a Földet, és az emberek közötti kommunikáció hogyan vezetett el oda, hogy a környezetünk egyre több területét meg tudjuk változtatni, sőt a biotechnológiának köszönhetően nem sokára talán már a fajunkat is tetszés szerint átalakíthatjuk. Itt meg sem állt, a 2016-os Homo Deusban rengeteg közelmúltbeli gyakorlati példát említve már arról írt, hogy a minket körülvevő információs technológia olyan gyorsan fejlődik, hogy ha nem vigyázunk – sőt, valószínűleg még akkor is, ha nagyon odafigyelünk –, a fejünkre nő, majd akarva-akaratlanul elpusztít minket.

Ehhez képest a 2018-as 21 lecke a 21. századra már nem hozott újdonságot: abban az emberi képzelet által létrehozott konstrukciókat szedte szét a pénztől az államon át a szerelmen keresztül a tudományokig, a végén gyakorlatilag arra jutva, hogy ha minden kötél szakad, akkor meditáljunk sokat. Harari 2000-ben, Oxfordban kezdte el a rendszeres vipasszana meditációt, azóta napi 2 órát meditál, és évente elvonul a külvilágtól legalább 30 napra, sőt asszisztál is meditációhoz. Harari szerint néhai tanítója, S. N. Goenka nélkül nem tudta volna megírni a könyveit, amikhez szüksége volt „a 15 évig tartó vipasszana-gyakorlás eredményeként kialakult összpontosításra, békére és éleslátásra”. (Harari sikerében talán az sem elhanyagolható tényező, hogy az imidzse elég karakteres: a Tel-Avivben élő – az izraeli vezetéssel szemben kritikus – történész-futurológus meditál, ateista, vegán, homoszexuális, 2021 óta nem használ okostelefont, és egy barátom, aki élőben is beszélt vele, azt mondta róla, a Skynet első kiborgját körülbelül ilyennek képzelné el.)

Az elmúlt években a korábbi műveit képregényesítették, illetve kiskamaszoknak is megírta az emberiség történelmét. A Yahav Harari Group – amit a férje vezet – a „Harari márkának” ezeket a termékeit fogalmazza, sőt filmeket és dokumentumfilmeket is fognak terjeszteni. Mióta Harari világsztár lett, az elmúlt évtized technológiai fejlődése csak még aktuálisabbá tette azokat a kérdéseket, amiket a műveiben felvetett. 2019-ben létrehozta a Sapienship nevű céget, aminek a fő küldetése nyilvános párbeszédet kezdeményezni a legfontosabb globális kihívások lehetséges megoldásairól.

Harainak az utóbbi négy évben fel szokták emlegetni, mekkorát tévedett, amikor a Homo Deus fülszövegében azt írta: „Legyőztük a pusztító éhínséget. Megfékeztük a gyilkos járványokat. Véget vetettünk az öldöklő háborúknak.” Ezek valóban túl merész állítások voltak a Covid-19-járvány és az orosz–ukrán háború előtt, de a legfontosabb tételét, miszerint az egyre több előállított információval az emberiség olyan messzire jutott, hogy az lassan már a létét is veszélyezteti, még az őt politikaigiccs-szerzőként lesajnálók sem szokták tudni megnyugtatóan cáfolni. Harari nem egyedüliként kongatja a vészharangot, még sok évtizedes távlatban sem. A Midjourney, a ChatGPT és a többi, az internetes platformokat és a munkahelyeket is ellepő AI-alkalmazások megjelenése óta a mesterségesintelligencia-kutatás számos szaktekintélye figyelmeztetett a túlzásba vitt robotizáció veszélyeire, és az AI politikai kockázatairól legutóbb Davosban is szó volt.

Harari most hosszabb kihagyás után az eddigi legátfogóbb könyvével tért vissza. A Nexus – Az információs hálózatok története a kőkorszaktól az MI-ig 350 oldalon (ha nem számítjuk a maradék 65 oldalon felsorolt 690 hivatkozást) meséli el újra az emberiség történetét, méghozzá ezúttal az információáramlás különböző módjaira fókuszálva.

Igazság és rend

Harari szerint az emberiség azért emelkedett ki az állatvilágból, mert az egyedei a többi állatfaj egyedeinél nagyobb számban tudnak rugalmasan együttműködni, és a társadalom közös mítoszokkal és történetekkel tartja magát hosszabb távon is egyben. A könyv első felében nagyrészt lineárisan haladva a történelem információs hálózatait és a nagy – sokszor évszázadokig is elhúzódó – fordulópontokat hasonlítja össze, állandóan kitekintve az elmúlt évek információtechnológiai problémáira. (Harari eléggé leegyszerűsítve mesél el komplex történelmi eseményeket, így ezek néha sántítanak, de érdemes mindent az információterjedéssel kapcsolatos társadalmi problémák felől nézni, mert a múltbeli történetek funkciója leginkább az, hogy rávilágítson az előttünk álló problémákra.)

Az ókorban az írás feltalálása új helyzetet hozott: azonnal megteremtette a bürokráciát, ami szó szerint azt jelenti, hogy az íróasztal (bureau) uralma. Így aztán, amikor valaki leigázott egy várost, az irattárat azért is gyújthatta fel, hogy maga mellé állítsa az eladósodott köznépet, aminek a tartozásairól az irattárakban őrizték a dokumentumokat. A bürokrácia az információt úgy igyekszik eltárolni, hogy fiókokra osztja a társadalmat, és tudja, melyik információt hol kell keresnie. Ezért vannak külön tanszékek az egyetemeken és ezért vannak külön tudományágak is. Ez a specializáció segíti a magasabb technológiai színvonal elérését, viszont, mivel az egyes tudományágak a saját részterületükre összepontosítanak, meg is nehezíti a kollektív cselekvést például egy világjárvány esetén, ami egyszerre történelmi, biológiai és matematikai esemény is.

A bürokrácia egyfajta rendet kényszerít rá a társadalomra, függetlenül attól, hogy az a rend az igazságot részesíti-e előnyben. (Már a legrégebbi fennmaradt írásokban, a mezopotámiai könyvelésekben is követtek el számítási hibákat a tartozások összeadásakor.) Harari a bürokrácia valóságtorzító hatására többek között azt az esetet hozza fel, amiről Alekszandr Szolzsenyicin írt A Gulag-szigetvilágban. Amikor az 1930-as évekbeli nagy terror idején a Moszkvai terület egyik járási pártkonferenciáján a Sztálin iránti szeretetet tapssal kellett kinyilvánítani, mindenki tudta, hogy titokban megfigyelik őket (még a megfigyelők is egymást), ezért percekig tapsoltak, mert senki sem merte elsőként abbahagyni az éljenzést. Végül 11 percnyi éljenzés után a papírgyár igazgatója az életét kockáztatva abbahagyta a tapsolást, és leült, amire mindenki rögtön ugyanígy tett. Az igazgatót még aznap elhurcolták 10 évre a Gulagra. Csakhogy ez az elbaszott lojalitáspróba nem azt mutatta meg, ki nem hűséges Sztálinhoz, hanem azt, hogy ki hajlandó abszurditásig hosszan tapsolni. Mindenkire ráerőltettek egyfajta rendet, bizonyos viselkedésre kényszerítve őket, ami lojalitás helyett szervilizmust, képmutatást és cinizmust szült.

A történelemből megtanulhattuk, hogy az információ naiv szemlélete nem helytálló: attól, hogy több információ áll rendelkezésre, még nem fog automatikusan győzni az igazság, azaz a jó. Így például a szabad és demokratikus vita sem feltétlenül a többség szerint jobb jelölt győzelmét hozza el, hanem azét, aki hatékonyabban – akár hazugságok árán – tud meggyőzni több embert, hogy szavazzon rá. A demokratikus kultúra ereje a Harari-féle információelméleti szempontból leginkább az önhelyesbítő mechanizmusokból, a fékek és ellensúlyok rendszeréből és az önkorrekcióra való hajlamból és képességből fakad.

Hosszan ír például a zsidó és a keresztény vallás fejlődéséről: miután a vallási előírások rendszerét a Bibliában kanonizálták, azt hitték, ezzel mindig mindenki számára világos lesz, mit szabad és mit nem. Csakhogy, mivel korábbi korok szövegeit gyűjtötték össze, a világ pedig állandóan változik, hamar viták támadtak a leírt kifejezések értelméről. A zsidók ezért néhány évszázad után megírták a Biblia szövegét magyarázó Misnát, de mivel ebből is vita lett, újabb pár évszázaddal később megszületett az azt magyarázó Talmud. „Az álom, hogy a gyarló emberi intézmény megkerülhető a szent könyv technológiájával, sosem vált valóra. Minden újabb próbálkozás csak növelte a rabbinikus intézmény hatalmát. A »bízz a tévedhetetlen könyvben« jelszóból »bízz a könyvet értelmező emberekben« lett. A judaizmusra sokkal nagyobb hatással volt a Talmud, mint a Biblia, és a Talmud értelmezéséről folytatott rabbinikus viták sokkal fontosabbak lettek magánál a Talmudnál” – írja Harari. Amíg a bibliai időkben az számított jellegzetes zsidó jelenetnek, hogy egy vérfoltos köntöst viselő pap bárányt áldoz Jehova oltárán, addig ma az, hogy egy csapat rabbi valamilyen szöveg értelmezésén vitatkozik.

A katolikus egyház évszázadokon át részben úgy tudta a tekintélyét fenntartani, hogy a nála lévő szent és változtathatatlan szövegre hivatkozva azt állította, nála van az egyetemes igazság. Ezzel szemben a tudományos élet azzal vívta ki a tekintélyt, hogy beismerte: nem tévedhetetlen, a tudományos módszertan viszont segíti az állandó önkorrekciót. Természetesen a tudósok között is vannak óriási viták, némelyiküknek évtizedekbe telik, amíg a tudósok többségével elfogadtatják forradalmi nézeteiket, de az empirikus igazolás, a megerősítő kísérletek idővel eldöntik ezeket a vitákat.

A totális diktatúra korlátai és a korlátlan totális diktatúra

A boszorkányüldözés nem a sötét középkorban, hanem a könyvnyomtatásnak köszönhetően a kora újkorban juthatott csúcsra, miután megjelent a Malleus maleficarum. A hisztériakeltő babonás könyv, amire hivatkozva a boszorkányok világ-összeesküvését leleplező inkvizítorok tízezrével irtottak ki komplett családokat (sokszor a vagyonukért), a kor bestsellere lett: a Boszorkányok pörölye 1486 és 1600 között 28 kiadást ért meg, és a katolikusok meg a protestánsok is elfogadták a sátánizmussal kapcsolatos hiteles információforrásként és a keresztényvédelem útmutatójaként. Ezzel szemben Kopernikusz tudományos alapművét, Az égi pályák körforgásairól-t 1543-ban 400, majd 1566-ban újabb 400 példányban nyomták ki, és csak 1617-ben jelent meg a harmadik kiadás.

Harari a boszorkányüldözéssel párhuzamba állítja a sztálini kuláküldözéseket: amikor a központ önkényesen eldöntötte, ki a kulák, kvóták alapján kellett megnevezni őket, és gyakran véletlenszerűen sorsolták ki, ki lesz a nép ellenségének titulálva. Egyszerű parasztokat végeztek ki, és a gyerekeik mint kulákleszármazottak páriaként nőttek fel, pedig a több tízezer agyonlőtt és több millió elüldözött ember között alig akadtak kulákok. De mivel a központ és a propaganda szerint az áldozatok kulákok voltak, a kulákság interszubjektív valósággá vált: olyasmivé, amit rengetegen érzékeltek, pedig az egészet mítoszteremtők alkották, és mindenhol jelen lévő bürokraták vezették be.

A több információ a diktatúrákban sokszor inkább az elnyomást fokozta. A Római Birodalomban például hiába lett volna igény a totális diktatúrára: mivel egy távoli gyarmatot hónapokba telt elérni, az ott élők élvezhettek bizonyos fokú autonómiát, és amíg befizették az adót és nagyon nem rendetlenkedtek, békén hagyták őket. Ezzel szemben Kínában a Csin-dinasztia (i. e. 221-206) igyekezett teljes kontrollt gyakorolni az alattvalói felett, ami olyan költséges volt, hogy a gazdaság összeomlott, és a felkelések elsöpörték az uralkodócsaládot. A gőzgép, a távíró, a rádió, a telefon, az autó és a többi technológia megjelenésével a központosítás és az elnyomás is hatékonyabbá vált – de ekkor még mindig biológiai és társadalmi korlátokkal rendelkező emberek döntöttek az információs csomópontokban.

Harari szerint adott történelmi korok politikai rendszerei az elérhető technológia függvényei voltak, nem véletlen, hogy az utóbbi pár száz év előtt sehol sem alakultak ki demokráciák, a mai fogalmaink szerint az ókori Athénban sem. A könyv egyik legjobb sztorija egy román számítógéptudósé, Gheorghe Iosifescué, aki az 1970-es években, az első számítógépek bevezetésének idején a saját bőrén érezte, mennyire nyugtalanítja a vezetést az új információs technológia. Egy napon, 1976-ban Iosifescu bement a kormányzati Centrul de Calculban (Számítási Központ) lévő irodájába, és egy gyűrött öltönyös idegen ült az asztala mellett. Iosifescu köszönt és bemutatkozott, de a fickó meg sem szólalt, így a tudós leült a géphez, és nekiállt dolgozni. Később is próbált szóba elegyedni az idegennel – aki nyilvánvalóan a Securitate ügynöke volt –, de az csak feszülten figyelte minden mozdulatát, és néha jegyzetelt. A nap végén, amikor Iosifescu hazaindult, a férfi is köszönés nélkül távozott. Másnap az egész megismétlődött, és ez így ment egészen Nicolae Ceaușescu 1989-es bukásáig. De hiába ültek 13 évig egy asztalnál, Iosifescu még az ügynök nevét sem tudta meg soha.

Csakhogy a rezsim nem tudott mind a 20 millió románra ráállítani egy-egy securitatést. Ha a 40 ezer hivatásos ügynök és a Securitate 400 ezer civil besúgója elő is tudott volna állítani elegendő jelentést minden egyes napon, az akkori technológia mellett a csomópontokban ülő emberek még mindig nem bírtak volna minden adatot átvizsgálni. Ez a helyzet mára gyökeresen megváltozott a kiépült óriási számítástechnikai kapacitásoknak, a mindenhol jelen lévő kameráknak és érzékelőknek, a gigantikus adatbázisoknak (a közösségi médiától kezdve a kínai rezsim profilgyűjteményeiig), de legfőképpen az egyre fejlettebb mesterséges intelligenciáknak hála. Néhány évtizeddel ezelőtt az emberekről tárolt adatokat még embereknek kellett értékelniük, mára viszont az algoritmusok nagyobb adatbázisokban képesek az embereknél jóval gyorsabban és pontosabban eligazodni, illetve olyan mintákat is észre tudnak venni, amikre az emberi agy a sokkal korlátozottabb számítási kapacitásaival képtelen lenne.

Harai a megfigyelési kapitalizmus és a társadalmi kreditrendszer lehetséges nyomasztó következményeire is kitér, emlékeztetve arra, hogy a Föld lakosságának többsége ma is diktatúrákban él. Azt írja:

„Az elkövetkező években nagyon sok ember élhet olyan totális megfigyelőrezsimekben, amelyekhez képest Ceaușescu Romániája libertariánus utópiának tűnik.”

Ember a gép fölött