Mesterséges intelligencia hallucinációival volt tele a mesterséges intelligencia előnyeiről szóló KPMG-jelentés

A KPMG októberben írt egy jelentést arról, hogy hogyan használják a vállalatok a mesterséges intelligenciát világszerte. Ebben esettanulmányok is szerepeltek, amikról kiderültek, hogy nem csupán eltúlozták a technológia elterjedtségét, hanem egyszerűen hamisak, AI találta ki őket.

„A kiválóság újradefiniálása az ágensi AI korában” című jelentés számos hamis állítást fogalmazott meg az AI használatával kapcsolatban olyan szervezeteknél, mint a svájci UBS bank, az Egyesült Királyság Nemzeti Egészségügyi Szolgálata (NHS), valamint a Svájci Szövetségi Vasutak (SBB) és a Transport for London tömegközlekedési vállalatok.

A pontatlanságokat a GPTZero kutatócsoport azonosította AI-hallucinációkként, amelyeket a Financial Times is megerősített. Miután felhívták a figyelmet a problémára, az UBS közölte, hogy megkéri a KPMG-t a hamis állítások eltávolítására, a Big Four könyvvizsgáló cég pedig csütörtökön letörölte a jelentést egyes weboldalairól.

A KPMG-jelentés azt állította, hogy a globális vagyonkezelő UBS „AI-ágenseket integrál a befektetési tanácsadás, a kockázatkezelés és a megfelelőség-ellenőrzés területén”. A KPMG így fogalmazott: „Ezek az ágensek a Microsofttal közösen kifejlesztett, moduláris platformon belül működnek, lehetővé téve a személyre szabott, hatékony és a szabályoknak megfelelő pénzügyi folyamatokat.” A bank szóvivője az FT-nek elmondta, hogy az állítások „tényszerűen hibásak”.

A tanulmány emellett azt is állította, hogy a Svájci Szövetségi Vasutak olyan AI-ágenseket kínál, amelyek „segítenek a felhasználóknak az utazások megtervezésében, lefoglalásában és optimalizálásában a preferenciák, a valós idejű körülmények és a szén-dioxid-kibocsátás alapján, így az SBB-t holisztikus mobilitási koordinátorrá alakítják”. A vasúttársaság szóvivője megerősítette, hogy az állítás „nem pontos”.

A KPMG tanulmánya azt is állította, hogy a Transport for London AI-ágenseket használ „a torlódások előrejelzésére és kezelésére, az ingázók tájékoztatásának személyre szabására, valamint a multimodális közlekedés koordinálására”. A közlekedési vállalat szóvivője szerint az állítás „megtévesztő”.

A KPMG azon állítása, miszerint az NHS Greater Manchester AI-ágenseket használ a kórházi újrafelvételek előrejelzésére, a betegek osztályozására és a beutalók automatizálására, „nem igazán vág egybe” azzal a sajtóközleménnyel, amelyen a jelek szerint alapult – mondta egy szóvivő. A lábjegyzetekből kiderül, hogy az állítás egy tüdőrák elleni küzdelemre tervezett AI-eszközről szóló közleményből származik. Ebben szó sincs arról, hogy ágensi AI (agentic AI) végezne ilyen feladatokat.

A KPMG International szóvivője kijelentette, hogy a cég „komolyan veszi a publikált tartalmak pontosságát és integritását”, és eltávolította a jelentést a weboldalakról, miközben vizsgálja a jelentés megjelentetésének körülményeit.

„Elvárjuk minden munkatársunktól, hogy kövessék a mesterséges intelligencia felelősségteljes használatára vonatkozó irányelveinket, beleértve az emberi felügyeletet a tartalom érvényesítésére és a független források ellenőrzésére” – mondta.

Edward Tian, a GPTZero vezérigazgatója szerint a Big Four hibáktól hemzsegő kiadványai „megmérgezik az információk forrását”. A KPMG megállapításaira a GPTZero kutatása szerint már több szakmai kiadvány, valamint egy nagy cseh napilap is hivatkozott. Mivel a nagy tanácsadó cégeket, mint a KPMG és az EY, rendkívül hitelesnek tekintik, a téves információkra való támaszkodásuk „növeli a másodlagos hallucinációk kockázatát” – tette hozzá Tian.

A tanácsadó cégek jelenleg intenzíven reklámozzák szolgáltatásaikat a vállalati ügyfelek körében mint az AI-bevezetés szakértői, beleértve a technológia felelősségteljes használatát és a hibák elkerülését szolgáló belső szabályzatok kialakítását. Az elmúlt néhány évben több száz „szakmai vitaindító” anyagot adtak ki az AI-ről, hogy ügyfeleket vonzzanak.