Fölösleges a Skynetre várni, már most is a mesterséges intelligencia irányítja az életünket
Fontos dokumentumfilm jelent meg a Netflixen, a klímaváltozásról több ünnepelt filmet is forgató Jeff Orlowski The Social Dilemma című filmjét adta ki a szolgáltató. A The Social Dilemma a megfigyelési kapitalizmusról, vagy más néven adatkapitalizmusról szól, a Google, a Facebook, az Uber, a Twitter, a Pinterest, az Instagram és más nagy techcégek korábbi vezetői és dolgozói mondják el benne azt, hogy miért rettentően káros és veszélyes az a rendszer, amiben ma a közösségi média működik.
Azoknak, akik hallották már a megfigyelési kapitalizmus szókapcsolatot, és tudják is, hogy mit jelöl, a The Social Dilemma nem fog sok újat mondani, mégis mindenkinek megéri megnézni a filmet, aki egy kicsit is törődik az emberiség jövőjével, ugyanis
ennél érthetőbben és hatásosabban még senki és semmi nem foglalta össze, mi fenyeget bennünket a telefonunk és a számítógépünk képernyője mögül.
Az alaphelyzet egyszerű: a közösségi média és a tágabb értelemben vett internet rengeteg, ingyenesnek gondolt szolgáltatásáért nem mi, azaz a felhasználók fizetünk, hanem a hirdetők. A rendszert ezért a hirdetők igényeihez igazítják a techcégek, a hirdetők célja pedig, hogy mi minél több reklámot nézzünk meg és minél többet vásároljunk internetezés közben. Hogy ezt elérjék, a techcégek tömérdek adatot gyűjtenek rólunk, tudni akarják, hol vagyunk, mit csinálunk, kivel vagyunk, milyen a hangulatunk, milyen az egészségi állapotunk. Mindezt azért, hogy minél pontosabban tudják célozni a hirdetők reklámjait. Nem is feltétlenül olyan reklámokat, amik hasznosak lehetnek nekünk, hanem olyanokat, amiket a lehető legnagyobb eséllyel nézünk meg és/vagy kattintunk rájuk, ezért fizetnek ugyanis a hirdetők. A rólunk összegyűjtött információt az adatkapitalisták a viselkedésünk befolyásolására használják, elvégre reklámokat akarnak nézetni velünk most és a jövőben.
A közösségimédia-oldalakat éppen ezért három irányelv mentén tervezik:
hogy minél nehezebb legyen elszakadni tőlük, és minél hosszabb ideig tapasszák a képernyőhöz a felhasználókat,
hogy mind több és több felhasználót érjenek el, azaz folyamatosan növelni tudják a gyűjtött adatok és a potenciális reklámnézők mennyiségét,
és hogy minél több reklámot és fogyasztásra ösztönző tartalmat helyezzenek a felhasználók elé.
A nyár elején a 444-en is megjelent erről egy hosszabb cikk, amiben a téma 2019-es sikerkönyvét, a The Age of Surveillance Capitalism-ot is bemutattuk. A könyv szerzője, az amerikai Shoshana Zuboff harvardi professzor egyébként a The Social Dilemma egyik beszélő feje is. Amiben a dokumentumfilm újat mutat, az az érzékletessége. A Szilícium-völgy bennfentesei mellett egyetemi kutatók és más szakértők is megszólalnak, és mindannyian lényegre törő és erős példákkal támasztják alá a mondandójukat, ráadásul a dokumentumfilm felvillant néhány momentumot egy kitalált család életéből is, modellezve, mennyire káros is a közösségi média jelenlegi formája az emberi agyra és az emberi kapcsolatokra.
„Olyan világot teremtettünk, amiben az online kapcsolatok lettek a fontosak, főleg a fiatalabbak között, és még ebben a világban is, amikor létrejön egy kapcsolat, azt egy megbúvó harmadik fél fizeti, aki a kapcsolat manipulálásért fizet.
Felnőtt egy globális generáció, melynek tagjai abban nevelkedtek, hogy a kommunikáció és az egész kultúra értelme a manipuláció”
- mondja Jaron Lanier a nagy sikerű Miért töröld magad azonnal a közösségi oldalakról? című könyv szerzője a filmben arról, hogy a techcégek algoritmusai már az emberek közötti kapcsolatokat is kihasználják annak érdekében, hogy a kapcsolat résztvevői minél több időt töltsenek online, ezáltal minél több reklámbevételt termeljenek a cégnek.
„A figyelmünk az, amit bányásznak” - mondja Justin Rosenstein, a Google és a Fecebook korábbi mérnöke. „Több profitot hozunk egy vállalatnak, ha tovább bámuljuk a képernyőt, bámuljuk a reklámokat, mintha ezt az időt tényleg fontos dolgokkal töltenénk. Ennek látjuk a következményeit, a vállalatok egyre erősebb mesterséges intelligenciát használnak arra, hogy becsapjanak bennünket, és rájöjjenek, hogyan tereljék a figyelmüket arra, amire ők akarják, ahelyett, ami fontosabb lenne a saját céljaink, értékeink, az életünk szempontjából.”
A filmben legtöbbet megszólaló ex-Google-fejlesztő Tristan Harris pedig többek közt azt magyarázza el, miért nem szabad félvállról venni ezt a fenyegetést. A bűvészeket hozza példaként, mint olyan embereket, akik már a pszichológusok előtt megértették az emberi agy bizonyos gyengeségeit, és megtanulták kihasználni ezeket. Szerinte soha nem szabad elfelejtenünk, hogy a mobiljainkon futó appokat a bűvészeknél is sokkal képezettebb fejlesztők százai tervezik, viszont a céljuk nekik is éppen az, ami a bűvészeké: hogy kihasználják az emberi agy gyengeségeit. Harris azt mondja, alapvető hiba azt a pontot keresni, amikor a mesterséges intelligencia okosabbá válik az embereknél. A történelem fordulópontja ugyanis nem ez, hanem az, ami már sokkal hamarabb eljön:
amikor a mesterséges intelligencia megtanulja kihasználni az emberi gyengeségeket.
Márpedig a nagy techvállalatok jelenleg éppen erre trenírozzák az algoritmusaikat.
A film több megszólalója szerint már most is algoritmusok, vagy ha úgy tetszik, mesterséges intelligencia irányítja a világot, a Google, a Facebook, az Amazon, a Microsoft és a többi nagy techcég központjaiban óriási termek vannak, tele hatalmas számítógépekkel, amiken különböző, egyszerűbb és bonyolultabb algoritmusok futnak. Sandy Parakilas, az Uber korábbi és az Apple jelenlegi fejlesztője szerint a nagy cégeknél már most is csak egy maroknyi ember van, aki még mindig tudja, hogy egy algoritmus pontosan mikor, mit és miért csinál. Márpedig, ha innen nézzük, akkor fölösleges a Terminator Skynetjére várni, már most sincs igazából érdemi emberi ellenőrzés afölött, hogy az algoritmusok hogyan alakítják az életünket.
Azaz persze azt lehet tudni, hogy ezek az algoritmusok mire törekednek, hiszen az alapvető céljaikat emberek határozták meg, de hogy ezeket a célokat hogyan érik el, azt már ők maguk tanulják meg. Ezek az alapvető célok pedig a felhasználói figyelem maximális lekötése, a reklámköltések maximalizálása és a növekedés voltak, az algoritmusok pedig remekül megtanulták, hogyan érhetik el ezeket a leghatékonyabban. Egyre jobban tudják, hogyan lehet befolyásolni és átverni az emberi agyat a megadott célok érdekében.
Sokan mégis azt mondják, nincs nagy probléma a techcégekkel, csak ok nélkül károg néhány ember, ahogy a könyvnyomtatás, a rádió vagy a tévé megjelenésekor is károgtak néhányan, idővel majd megtanul ezzel a rendszerrel is együtt élni az emberiség. Tristan Harris szerint azonban a jelenlegi helyzet merőben új kihívást hozott. Szerinte korábban az emberiség többnyire szerszámokat állított elő, amikkel elősegítette a saját céljainak elérését. Harris azokat az eszközök tekinti szerszámnak, amik használatáról az ember maga dönt, és a használaton kívüli időben békésen porosodnak a sarokban. A közösségi média azonban nem ilyen. A telefont nem lehet csak úgy a sarokba tenni, a közösségimédia-platformok úgy vannak megtervezve ehhez értő emberek által, hogy függőséget okozzanak. Ráadásul ezek a platformok azt sem viselik el, ha esetleg mégis sikerül leszakadnunk róluk, ezekben az esetekben külön értesítéseket generálnak, például arról, hogy egy ismerősünk, aki rég nem posztolt, most végre kitett valamit. Vagy esetleg megpróbálnak rávenni egy másik, számunkra fontos felhasználót, hogy lépjen velünk online kapcsolatba. A közösségi média tehát nem szerszám, ami egy alapvető emberi cél elérését könnyíti meg, hanem
megvannak a saját, a használóktól független céljai, amiket éppen a használók manipulálásán keresztül igyekszik elérni.
A másik dolog, amiért valószínűleg nem fogunk tudni csak úgy magunktól alkalmazkodni ehhez a helyzethez, az az egészen borzasztó erőfölény, amiben a rólunk mindent tudó algoritmusok vannak velünk szemben. Míg az utóbbi években konkrétan a világon semmi nem fejlődött olyan gyorsan, mint a számítógépek adatfeldolgozási képessége, az emberi agy nagyjából ugyanaz a hardver maradt, ami több ezer éve is volt, és nem sok esély van arra, hogy az elkövetkező években ezt a hátrányt a saját erőnkből ledolgozzuk.
A káros hatás pedig világosan látszik, például azon, hogyan rontja a fiatalok mentális egészségét a közösségi média. Míg 2010-11-ig nagyjából állandó volt az önmaguknak ártani próbáló, és kórházi kezelésbe vett amerikai tinédzserlányok száma, a közösségimédia-appok mobilos elterjedése után hirtelen meredeken emelkedni kezdett ez a szám. Az idősebb tinédzserek körében 62, a fiatalabbak körében pedig 189 százalékkal nőtt csak 2009 és 2015 között. Ugyanígy ugrásszerűen megnőtt a politikai megosztottság is. Soha nem láttak ekkora veszélyt egymásban a két nagy amerikai párt szavazói, és itt is 2010 után kezdett el villámgyorsan romlani a helyzet.
Az erősödő politikai megosztottság alapvető oka, hogy a közösségimédia-oldalak, különösen a Facebook, személyre szabja a felhasználók hírfolyamát aszerint, hogy kiből milyen tartalmakkal tudja a legmélyebb és leghosszabban tartó figyelmet kicsikarni. Így pedig erodálódik, majd megszűnik a közös valóságészlelés, az emberek egyre kevésbé tudnak vitatkozni, egyre kevésbé tudnak konstruktívan részt venni a közéletben, hiszen megszűnik a közös alap, amiből egy építő jellegű vita egyáltalán kiindulhatna.
Ugyanerre vezethető vissza az álhírek terjedése is, amik a Twitteren például hatszor gyorsabban terjednek a valós híreknél egy, a filmben idézett kutatás szerint. Ennek oka, hogy a hamis információ nagyobb figyelmet generál, több reakciót vált ki az emberekből, így pedig több pénzt hoz a cégeknek, mint a valós hírek gyors terjesztése.
Mindennek ellenére a film megszólalói nem technológiapesszimisták, azt mondják, még van lehetőségünk jobbá tenni a rendszert. Az mindenki szerint evidens, hogy a techcégek piacát sokkal szigorúbban kellene szabályozni mind kereskedelmi, mint adatvédelmi szempontból, és sokkal nagyobb felelősséget is kell vállalniuk a közösségimédia-cégeknek. „Ha már a Facebook átveszi a politikai reklámköltéseket, figyeljen a választások tisztaságára is, és ha a Youtube átveszi a gyerekek szombat reggeli szórakoztatását, akkor vállaljon felelősséget a mentális egészségükért is” – mondta Harris egy, a filmben is bemutatott amerikai szenátusi meghallgatásán. Szerinte azért nehéz megfelelően megítélni a helyzetet, mert a technológiai vívmányok egészen csodálatos dolgokat is hoztak és hoznak az életünkbe, az utópia egyszerre van jelen a disztópiával.
„Nem a maga a technológia jelenti a veszélyt, hanem az, hogy a technológia fel tudja erősíteni a legrosszabb oldalunkat. Ez a legrosszabb oldalunk az, ami veszélyes.”
Viszont abban is egyetértenek a film szakértői, hogy ha változtatni akarunk a rendszeren, gyorsan kell cselekedni. Jaron Lanier szerint, ha minden marad így, ahogy van, akkor 20 év múlva az emberiség helyzete kilátástalanná válik, leépítjük a demokráciát és a világkereskedelmet, elveszítjük a harcot a klímaváltozással szemben, és a társadalmunk totális káoszba süllyed.
(A címlapi kép illusztráció a filmből.)