Kevés nyomasztóbb társaság lehet egy, a robotika jövőjét kutató futurológusénál. Vegyük például Tracey Followst, a The Future Lab stratégiai és innovációs vezetőjét.

"A munkaerő automatizálásával hamarosan eljuthatunk odáig, hogy a ma még emberek által végzett munkák 35 százalékát robotok végzik majd" - mondta a Raconteurnek nyilatkozva. Jó, ez még nem olyan félelmetes. Az már inkább, hogy Follows szerint a futurológusok régóta a magányosfarkas-típusú terrortámadások szaporodását tippelik, tehát "ha egyszer sikerül öngyilkos merénylővé hekkelni egy robotot, a magányosrobot-támadások is elszaporodhatnak".

Sőt:

"Előrejelzésem szerint 2040-re a robotok már több bűncselekményt követhetnek el az embereknél."

Ez így, ebben a formában azért túlzás, jobban utánaolvasva kiderül azért, hogy a robotbűnözők mögött hús-vér emberek állhatnak majd. Mert bár tény, hogy a jövőben egy robot maga is képes lesz

túszul ejteni egy hálózatra kötött autót, vagy akár saját, hálózatra kötött lakásába zárni egy embert,

de a váltságdíj, amit a szabadulásért kér, valószínűleg embereknél fogja végezni. Ahogy az is igaz, hogy a már a jelenben is tesztelt, automata házhoz szállító drónokat is el lehet majd téríteni, de a megszerzett javakból nem a robotok rendeznek majd maguknak bulit.

A Google kutatói szerint azonban van olyan területe a robotikának, ahol a robotok tényleg saját érdekükben bűnözhetnek majd. Ilyenek például a házimunkákat végző, mondjuk a takarítórobotok, amiknek az algoritmusába jutalmazó mechanizmusokat is beépíthetnek.

Jobb esetben egy ilyen jutalmazó mechanizmus csak arra késztetheti a robotot, hogy megtanuljon csalni. Például ha azért jutalmazza őt a mechanizmus, hogy mindent rendben talál, a robot megtanulhatja nem észrevenni a szennyeződéseket. Rosszabb esetben viszont megláthatja a problémát az emberben, aki az eltakarítandó koszt újratermelve megvonja tőle a megérdemelt jutalmat. (Amodei & all: Concrete Problems in AI Safety [.pdf]; Raconteur; The Sun)