Jó hír: hihetetlen ütemben fejlődik a mesterséges intelligencia. A deep learning elvén működő, a maguktól tanuló és fejlődő neurális hálózatok csodákra képesek, az algoritmusok el tudnak vezetni egy autót, felismerik az emberi arcot, sőt az arckifejezéseket, és az az idő sincs messze, hogy elvégezzenek egy műtétet.

Rossz hír: fogalmunk sincs, hogy az általunk létrehozott és szabadjára eresztett gépi értelem, már ha értelemnek nevezhető egyáltalán, milyen megfontolások mentén működik, és miért jut azokra a döntésekre, amelyeket végül meghoz.

A híres szilícium-völgybeli kutatóintézet, a PARC (korábban: Xerox PARC) most azon dolgozik, hogy az amerikai hadügy kutatóintézete, a DARPA által szponzorált projekt keretében kifaggassa a mesterséges intelligenciát, és valahogy rávegye: legyen szíves emberi nyelven, érthetően elmagyarázni, hogy mi az istent művel, és miért.

A projekt vezetője, Mark Stefik szerint a folyamat ahhoz hasonlít, mintha egy idegen lénnyel próbálna kommunikálni az ember: „másfajta értelemről van szó”, mint a miénk, mondta a kutató a Financial Timesnak. A mesterséges intelligencia szerinte olyan, mint egy fekete doboz – nem tudni, milyen információk alapján hozza meg a döntéseit, ezért megbízhatatlan. Megesik, hogy az önvezető autók nem ismernek fel egy másik járművet, ezért karamboloznak, és az ilyen melléfogás nemcsak a közutakon elfogadhatatlan, hanem az olyan kritikus alkalmazások esetében is, mint a hadsereg harcászatai rendszerei vagy a haditengerészet robotirányítású hajói. De még az orvosok is azt állítják, hogy a mostaninál gyakrabban támaszkodnának a mesterséges intelligencia javaslataira, ha tudnák, milyen úton-módon, mely információk alapján születtek ezek a javaslatok.

A PARC szerint az ember és gép közötti kommunikáció megkönnyítésére az lehet a megoldás, hogy a mesterséges intelligenciát használó rendszereket ugyanúgy tanítják, mint a humán diákokat: először az egyszerű fogalmakkal ismertetik meg őket, és csak aztán térnek rá a mélyebb szintű tudás kiépítésére. A projekt 2021-ig folytatódik, utána, ha minden jól megy, eredményeit át lehet ültetni a gyakorlatba, ami különösen azért fontos, mert idővel egyre több olyan munkahely jön létre, ahol egymás mellett dolgoznak az emberek és a gépek. Az pedig kifejezetten üdvözítő lenne, ha a munkatársak képesek lennének megérteni egymást. (Financial Times)