Na húzzon vissza a múltba Marty McFly és a Doki, de futólépésben!
2015 október 21., 05:14
Hamar el kell döntenünk, hogy a kocsink minket öljön meg, vagy a járókelőket
- A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
- A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
- A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.
Az Asimov könyvekben ez a robotika három törvénye. 1941-ben, a "Liar!" című novellában írta le őket először. Nem csak a Marty McFly-os jövő jött el, nagyon közel vagyunk hozzá, hogy ezekhez hasonló szabályokra legyen szükségünk.
A Google, a Tesla és más gyártók is előrehaladott kísérleteket folytatnak önműködő autókkal, és nagyon gyorsan el kell majd döntenünk, hogy ha elkerülhetetlen a baleset, akkor kinek az életét mentse a gép. Ez sokkal nehezebb kérdés, mint amilyennek első látásra tűnik.
A gépekkel jön biztonság
Az önműködő, vezető nélküli járművek elterjedése nagyon sok változást hoz majd a világban a következő pár évtizedben, nem csak kedvezőeket.
Azért pár előny biztosan lesz.
Például az automatizált autó adott körülmények között jobban választja meg az útvonalat, a sebességet, a kanyar ívét és így tovább. Így a járművek kevesebb benzint fogyasztanak majd, a tulajdonosok pénzt spórolnak, kevesebb káros anyag kerül a levegőbe.
Ennél sokkal fontosabb, hogy a balesetek száma a gépek megjelenésével csökkenni fog.
Jelentősen. Mivel ma a közúti balesetek 90 százalékában van szerepe az ember (sofőr, járókelő) hibájának.
Ha ebből a folyamatból ki lehet venni az embert, azzal mindenki jól jár. Ha a balesetek számának 90 százalékos csökkenésére nem is lehet számítani egyik napról a másikra, nagyon látványos javulásra mindenképp.
Ilyen értelemben, ha a technológia elérhető, akkor van egy fajta morális kötelezettség annak mielőbbi bevezetésére. Emberéletek múlnak azon, hogy minél gyorsabban, minél több gép vezessen az utakon emberek helyett.
Na, de kit öljön meg a robot?
Hiába reagál gyorsabban, és jobban a vezető nélküli autó, mint az, amit egy ember irányít, lesznek balesetek, amiket a jövőben sem lehet majd elkerülni.
Egy másik, emberi sofőr valami hülyeséget csinál, egy járókelő nem néz körül, váratlanul az úttestre dől egy lámpaoszlop, ilyenek.
A robotot pedig előre be kell programozni, hogy ezekben a helyzetekben, mit csináljon.
És itt kezdődnek a bonyodalmak.
Tegyük fel, hogy két kisgyerek szalad ki az elgurult labda után az úttestre, a vezető nélküli kocsi szabályosan, a megengedett sebességgel halad, de már nem tud megállni.
Mit tegyen a gép? Rántsa félre a kormányt, és vezesse az autót falnak, ezzel az utasok testi épségét, vagy életét veszélyeztetve, vagy gázolja el a két gyereket?
Hogy erre milyen választ ad az autóipar, az alapvetően befolyásolja majd a vezető nélküli járművek elterjedését.
Szinte minden opcióval van valami probléma.
Lehet azt mondani, hogy mindig a lehető legtöbb életet mentse meg az algoritmus, például ha a kocsiban egy ember ül, az úttestre pedig ketten lépnek ki, akkor az autóban ülő megy a levesbe. De: ki vásárolna olyan autót, amiről tudja, hogy krízishelyzetben a tulajdonost áldozza fel?
Közben azért mégis az a helyzet, az összkép, hogy ha több gép vezet, több ember menekül meg. Helyes, etikus dolog olyan körülményeket teremteni, amelyek akadályozhatják az önműködő járművek elterjedését, amikor azokat életeket mentenek? Vagy ebben a helyzetben az a helyes, etikus, ha a gyors elterjedés érdekében a program lehet önző, akár egyetlen utas testi épségért is feláldoz egy tucat kisiskolást?
Ráadásul a valóságban ezek a helyzetek meglehetősen bopnyolultak, szinte sosem olyan egyszerűen vetődnek föl, hogy akkor egy halál és tíz halál között kell dönteni valamilyen elv alapján.
Mi van, ha egy motorbicikli jön szembe? Az autóban ülők túlélési esélye eleve nagyobb, mint a motorosé. Akkor ebben a helyzetben félre kell rántania a gépnek a kormányt? Mi van, ha az automata kocsiban gyerekek ülnek, akik előtt hosszabb élet áll, és valószínűleg eleve nem az ő döntésük volt egy algoritmusra bízni az életüket?
Vagy legyen inkább véletlenszerű, hogy ezekben a helyzetekben mit csinál az autó? Esetleg a vásárlásnál lehet majd eldönteni, hogy valaki az önfeláldozó vagy önző robotkocsit akar?
Legyen mindenki önfeláldozó! Kivéve engem.
A francia Toulouse School of Economics kutatói októberben publikáltak egy felmérést, amiben ilyen kérdésekre keresték a válaszokat. Nagyon hasonló helyzeteket vázoltak fel embereknek, és megkérdezték tőlük, hogy mi a helyes döntés.
Megy a kocsi, kilép elé a gyalogos, félrerántsa-e a gép a kormányt?
Az eredmények szerint az emberek általában hajlottak arra, hogy a gép minél több életet mentsen meg, ha mondjuk 1 vagy 10 gyalogos halála között lehet dönteni.
Elméletben azt is támogatták, hogy a kocsiban ülőket is áldozza fel a gép, ha ezzel több ember életét menti meg, ebben az esetben ők maguk viszont kevésbé valószínű, hogy vennének ilyen autót.
Abban megosztottak voltak a válaszadók, hogy törvények kényszerítsék az önfeláldozást, ami azért is lenne érdekes, mert akkor az emberi és a gépi sofőrökre alapvetően más elv vonatkozna.
Ha valaki szabályosan vezet, és szabálytalanul kirohan elé egy gyerek, és elüti, akkor a sofőrt nem lehet jogilag felelősségre vonni azért, mert nem rántotta félre a kormányt. Nem világos, hogy akkor a gépet hogyan lehetne ilyesmire kötelezni.
Közben nehezen elképzelhető, hogy ezeket a kérdéseket nem törvényekkel szabályozzák az államok, hanem a kizárólag a "piacra" bízzák, hogy milyen gyakorlat alakul ki.
A következő évtizedekben sofőr nélküli autók millió fognak megjelenni az utakon, eezeket a kérdéseket sürgősen tisztázni kell.
Kommentek
Közösségünk messze túlnyomó többségének jószándéka és minden moderációs igyekezetünk ellenére cikkeink alatt időről-időre a kollégáinkat durván sértő, bántó megjegyzések jelentek meg.
Hosszas mérlegelés és a lehetőségeink alapos vizsgálata után úgy döntöttünk, hogy a jövőben a közösségépítés más útjait támogatjuk, és a cikkek alatti kommentelés lehetőségét megszüntetjük. Közösség és Belső kör csomaggal rendelkező előfizetőinket továbbra is várjuk zárt Facebook csoportunkba, a Közértbe, ahol hozzászólhatnak a cikkeinkhez, és kérdezhetnek a szerzőinktől is.