Eljött az idő, amikor az online tevékenységed alapján pontozzák, mennyire vagy megbízható állampolgár

A 2018-as választás titkos története 84 színes oldalon.
Megveszem

Egy Los Angelesben élő modell, Kaylen Ward a Twitteren gyűjtött az ausztráliai bozóttüzek károsultjainak, és azt mondta, 1 millió dollár jött össze. (Összehasonlításképp: a világ leggazdagabb embere, Jeff Bezos 690 ezer dollárt ajánlott fel).

Wardnak a kampánya elején három Instagram-oldala is volt, ezek közül egyikkel sem vett részt a gyűjtésben. Ennek ellenére az Instagram mindhárom fiókot lekapcsolta, mondván, a Twitteren való viselkedése megsértette az Instagram szexuálisan szuggesztív tartalmi irányelveit.

Ward, a „meztelen filantróp” ugyanis a Twitteren meztelen képet ajánlott fel azoknak, akik bizonyítani tudták, hogy adakoztak az ausztrál vörös keresztnek vagy a koalakórháznak. Ez az akció egyébként nem is ütközött a Twitter szolgáltatási feltételeibe.

Tehát egy internetes cég megtagadott egy szolgáltatást valakitől, akiről úgy vélte, hogy máshol nem viselkedett megfelelően.

Aznap, amikor Ward elindította a kampányát, cikkek jelentek meg az Airbnb új „jellemvonás-elemző” algoritmusairól, amik a felhasználói adatállományok alapján eldöntik, hogy a felhasználók jól vagy rosszul viselkedtek-e, és adnak nekik egy pontszámot, majd „megjelölik és kivizsgálják a gyanús tevékenységeket, még mielőtt megtörténnének”.

Az Airbnb olyan algoritmusokat szabadalmaztatott, amik feltérképezik a felhasználók tulajdonságait a közösségi médiában. A szokásos hitelképességi és személyazonossági ellenőrzésekkel szemben olyan tulajdonságokat is vizsgálnak, mint a „lelkiismeret és nyitottság”, és ezt „biztonságos harmadik fél adatbázisaként” írja le. Például az olyan vonásokat, mint a „neurotikusság és a bűncselekményekben való részvétel” meg a „nárcizmus, machiavellizmus vagy pszichopátia” „megbízhatatlannak tekintik”.

Az algoritmusok megjelölik azokat, akik a közösségi médiában „hamis” profilokat hoznak létre, és azokat is, akik valótlan adatokat adtak meg. Sőt a szabadalom azt is sugallja, hogy a felhasználók rossz pontszámot kapnak, ha a hozzájuk kapcsolódó kulcsszavak, képek vagy videók drogokkal vagy alkohollal, gyűlöletweboldalakkal vagy -szervezetekkel, illetve szexmunkával kapcsolatosak. Azt is írják, hogy a „pornográfiában részt vevőket” és a „negatív nyelvű online tartalmak ” szerzőit le fogják pontozni.

Az Engadget érdeklődött erről az Airbnb-nél, ami azt állította, hogy „nem feltétlenül hajtja végre” a szabadalmi bejelentések egészét vagy egyes részeit. Amikor viszont arról érdeklődtek, hogy a felhasználókat az oldalon kívüli internetes tevékenységük alapján profilozzák, és hogy megtagadhatják a szolgáltatást azoktól, akik legális szexmunkások, először off-record akartak beszélni telefonon, de ebbe nem mentek bele. Végül egy szóvivő emailben közölte: a szállásokon nem engedik a szexmunkát, eltávolítják azokat a fiókokat, amik szerintük szexkereskedelemmel vagy gyerekek kizsákmányolásával kapcsolatosak, és a hatóságokkal is felveszik a kapcsolatot, függetlenül attól, hogy ilyesmi a valóságban is történik-e az Airbnb-szállásokon.

Úgy tűnik, a cég nem akarja bevallani, hogy válogatás nélkül megkülönbözteti a szexmunkásokat, pedig dokumentáltan ezt teszi. Cadence Lux pornósztár Airbnb-profilját pár hete törölték, majd amikor újat akart nyitni a saját, hivatalos nevén, az Airbnb tudta, ki ő, és nem hagyták, hogy regisztráljon, mondván, a vele kapcsolatos információ „olyan tevékenységekhez kötődik, amik kockázatot jelentenek az Airbnb közösségére nézve”. Tehát egyből meggyanúsították, vagyis pont azt tették, amit hivatalosan tagadtak egy lapnak, amikor a pornószínészek megfigyelésével kapcsolatban kérdezték őket.

A Bloomberg írt arról, hogy a Trooly nevű szilícium-völgyi startup 2015-ben kezdett az Airbnb-vel dolgozni, két évre rá az Airbnb megvette a Trooly szellemi tulajdonát és fejlesztőcsapatát, így kerültek hozzá a vitatott szabadalmak. A Trooly egyik alapítója 2016-ban azt mondta, a felhasználókról „nyilvános, törvényesen elérhető digitális lábnyomok” alapján gyűjtenek adatot. Azt mondta, egy egyénről vagy cégről nagyon kevés bemeneti információ felhasználásával kb. 30 alatt kapnak egy eredménykártyát, ami ellenőrzi az információk hitelességét, releváns és komoly szociális vagy antiszociális előzetes magatartást keres, majd előrejelző modellek sorozatát futtatja le a digitális lábnyomon, hogy megállapítsa, mennyire hajlamos a jövőben az egyén vagy cég a jövőbeli szociális vagy antiszociális viselkedésre.

Cadence Lux természetesen csak szállást keresett, ráadásul teljesen legális a foglalkozása az Egyesült Államokban. Az Engadget újságírójának egyik meleg barátját, aki szexmunkás és melegjogi aktivista, két évvel azután, hogy az Airbnb elkezdett a Troolyval dolgozni, kitiltották az Airbnb-ről, pedig az azt megelőző három évben a szállásadóktól mindig jó értékeléseket kapott, és sosem dolgozott szexmunkásként Airbnb-ben. A cég nem is reagált az erről szóló megkeresésekre. Az Observer nemrég egyenesen azzal a címmel írt a témában, hogy: „A szexmunkások a tömeges megfigyelés és az óriástechcégek elleni küzdelem frontvonalában vannak”

A leghíresebb szociális kreditrendszer Kínában működik. 2018-ban írtunk arról, hogy az ottani rendszer lényege, hogy mind az 1,4 milliárd állampolgárnak elkészül egy személyes adatlapja, rajta meghatározott számú kreditponttal. A lista élén levőknek könnyű az élete, olcsó hitelhez, jó munkahelyekhez jutnak, és a gyerekeik jó oktatást kaphatnak, de akik veszít a pontjaiból, az súlyos korlátozásokkal nézhet szembe, még mozogni sem tud szabadon, és sok mindenhez nem jut hozzá, amihez egy rendes állampolgár igen. A technológiát az ujgurok elleni fellépés során is bevetették.

Az olyan eszközök, mint a PredPol, mesterséges intelligenciával próbálják különböző adatokra (például etnikum, digitális lábnyom, bűnözési statisztikák) alapozva előrejelezni, hogy hol és mikor történhet bűncselekmény. De az ilyen prediktív rendszabályozás tartósítja a diszkriminációt.

Ha ezt ötvözzük azzal, hogy olyan magáncégek, mint az Instagram, a Facebook, a YouTube vagy az Airbnb, maguk döntheti el, milyen magatartás szükséges a szolgáltatásuk igénybevételéhez, hamar eljuthatunk oda, hogy történelmileg kirekesztett emberek nagy csoportjaitól tagadhatják meg a részvételt gazdasági, politikai, kulturális és társadalmi tevékenységekben. Az AP nemrég arról írt, hogy aktivistákat, szexuális terapeutákat, bántalmazottakat, művészeket és szexoktatókat is igazságtalanul cenzúráz a Facebook és az Instagram, a szilícium-völgyi cég szabadon dönthet arról, mi fér bele a szólásszabadságba és az önkifejezésbe.