Egy SKYNET nevű algoritmus adhat tippeket az amerikai hadseregnek, hogy kiket kell megölni

„Skynet, a gépeket irányító komputer két Terminátort küldött vissza az időben. A feladatuk: megölni John Connor-t, az ellenállók vezérét. A fiamat.”

Biztos nagy rajongója volt valaki az amerikai Nemzetbiztonsági Hivatalnál (NSA) a Terminátor filmeknek, és ezért nevezte el valamikor 2012 előtt SKYNET-nek a programot, amin dolgozott.

A SKYNET alapja egy mintafelismerésre képes algoritmus, ami a mobiltelefonos adatok alapján próbálja kiszúrni a terrorszervezetek futárjait.

Egyelőre nem fog atomháborút kirobbantani, vagy Terminátorokat küldözgetni a jövőből. Az viszont elképzelhető, hogy a program eredményei közvetve befolyásolják, kit drónoznak le Pakisztánban vagy Jemenben, vagy Szomáliában.

És ha ez önmagában nem lenne elég nyomasztó, akkor még ott van az is, hogy szakértők szerint az elején rosszul képezték ki a gépet a terroristák azonosítására, és ezért ártatlanokat is alkaidásnak nyilvánít.

Nem számít, hogy drón vagy furkósbot

Háborús övezeten kívül az első amerikai dróntámadás 2002-ben történt Jemenben. Egy dzsip hat al-kaidás utasát rakétázták le a sivatagban. Azóta több ezer embert ölt meg így az amerikai hadsereg és a CIA. Elsősorban Irakban, Afganisztánban, Pakisztánban, Szomáliában és Jemenben.

Ahol "_"hivatalosan"_" is háború van, mint Irak vagy Afganisztán, ott inkább a hadsereg drónjai repkednek, ahol nincs, ott a CIA aktív.

Az amerikai drónprogram nagyon sok szempontból ellentmondásos. Az biztos, hogy a világ egy részén gyűlölik érte az Egyesült Államokat. Illetve kicsit félrevezető azt gondolni, hogy a gyűlölet a drónoknak szól.

Az amerikaiak általuk veszélyesnek gondolt embereket ölnek idegen országokban. Nem az számít, hogy drónnal, tankkal, puskával vagy furkósbottal nyírják ki őket. Az számít, hogy a többi ember elhiszi-e nekik, hogy a célpont megérdemelte, és hogy sikerül-e civil áldozatok nélkül megoldani a dolgot.

Mindkét szempontból vannak problémák.

2002 óta a dróntámadások civil áldozatainak számát a legóvatosabb becslések is száz fölé teszik. Ráadásul az amerikai a statisztikáikban minden 18-49 éves férfit automatikusan terroristának számolnak, aki egy dróntámadás helyszínén hal meg.

Hogy megérdemlik-e, akiket kilőnek, azt képtelenség eldönteni, mert gyakorlatilag az elejétől a végégig titkos a folyamat. Nem lehet pontosan tudni, hogy milyen indokok alapján kerül valaki a halállistára.

Az biztos, hogy a mobiltelefonok metaadatait is használják. Például, hogy merre jár készülék, hogy kikkel beszélnek róla. Az adatokat, amiket az amerikai nemzetbiztonság gyakorlatilag mindenkiről tud, ahogy a Snowden-féle megfigyelési botrányból kiderült.

Embereket ölünk a metadatok alapján

- ezt Michael Hayden, az NSA volt főnöke mondta 2014-ben


.

És itt jön be a képbe a SKYNET.

Megtanítalak rá, hogy ki a terrorista

2015. májusában jelent meg két titkos katonai összefoglaló a SKYNET programról. (I - II) Ezek leírják, hogy működik ez az önálló tanulásra és mintafelismerésre képes számítógépes program.

Nagyon leegyszerűsítve arról van szó, hogy van pár terrorista futár, akit már ismernek, figyelnek egy ideje. Az általuk használt telefonok metaadatai is megvannak.

Tudják, hogy mikor, merre jártak, kikkel beszéltek, milyen hosszú ideig maradtak egy helyen. Hogy milyen gyakran kapcsolták ki a telefonjukat, cseréltek SIM-kártyát. Hogy milyen hosszú hívásaik voltak, hogy általában ők tárcsáztak, vagy őket hívták. Szóval megdöbbentően sok mindent tudtak róluk.

És ezeknek az embereknek minden lehetséges adatát beöntötték egy gépbe, és azt mondták a programnak, hogy keressen hasonlóságokat a futárok között. És aztán nézze meg az összes pakisztáni mobil-előfizető összes adatát, és szóljon, ha valakit valamiért a futárokhoz hasonlónak gondol.

A gép pedig pontosan ezt csinálta.

A tesztekben a SKYNET hét ismert futár adatai közül mindig hat alapján tanulhatott, és utána 100 ezer civil közé rejtve találta meg a hetediket, és sosem nézett futárnak senkit, aki nem volt az.

Illetve majdnem sosem.

Megesküdött, hogy "bip-bip", de lehet, hogy tévedett

Az arstechnikán jelent meg pár napja egy vitatott cikk, ami többek között azt állítja, hogy rossz a SKYNET matekja, és így ártatlan emberek is veszélybe kerülhetnek. Azt írják, hogy túl kicsit a minta, amiből a program építkezik, és rosszul adtak meg bizonyos paramétereket. Hogy tudományosan nem elég megbízhatóak az eredmények, amiket a SKYNET kiad.

Az egyik dolog, amit kiemeltek, hogy a titkos katonai doksik között van egy rész, ahol a SKYNET al-kaidás futárnak minősíti az Al-Jazeera arab hírtelevízió pakisztáni irodavezetőjét.

Ez elég jól megmutatja, hogy milyen iszonyú bonyolult és veszélyes műfajról van szó.

Lehet, hogy SKYNET kitűnően működik, a pakisztáni újságíró bizonyos szempontból pont úgy viselkedik, mint egy terrorfutár, de közben mégsem az, hanem csak a munkáját végezte. Miután a dokumentumok nyilvánosságra kerültek

szerencsétlen csávónak hosszú cikkben kellett kétségbeesetten magyarázkodnia, hogy ő bizony nem terrorista, hiába állítja róla ezt egy nagyon fejlett algoritmus.

Senkit sem fognak csak azért ártatlanul ledrónozni, mert a SKYNET ott vesz észre valamilyen összefüggést, ahol valójában nincs. Ez is csak egy indikátor lesz másik öt (vagy akárhány) dologgal együtt.

  • Ahmad Afganisztánban él.
  • Ahmad azt írta a Twitteren, hogy "Halál Amerikára".
  • Ahmadnak van puskája.
  • Ahmadot a héten is látták lőszert vásárolni.
  • Ahmad háza az út mellett van, ahol egy hónapja lelőttek egy amerikai katonát.
  • Ahmad találkozott valakivel, aki a SKYNET szerint terrorfutár.
  • ...

Egy bíróság csak ezek alapján aligha találná Ahmadot terroristának. Pont az az egyik probléma ezekkel a dróntámadásokkal, hogy nem bírósági eljárások, jogerős ítéletek után történnek. Nincs jogállami eljárás, nincsenek beépített garanciák, vagy semmiképpen sem olyanok, amihez a nyugati  világ hozzászokott.

Azok hiányában viszont ez a SKYNET momentán sokkal fenyegetőbb, mint amelyik az első Terminátort küldte vissza 1984-be.

(The Intercept, Ars Techinca, The Escapist, Guardian)