Egy magáncég titkos algoritmusa küldött börtönbe egy férfit

Az igazságszolgáltatás jövőjéről is nagyon súlyos képet vet fel az a történet, ami jelenleg zajlik az Egyesült Államokban. Nem egy sci-fi forgatókönyvéről van szó, hanem egy ténylegesen zajló perről, amit a New York Times mutatott be részletesen

Egy wisconsini férfit, Eric L. Loomist nemrég hat év börtönre ítélték. És az ítéletben szerepet játszhatott egy vállalat titkos algoritmusa is, amit az ügyészség használt fel a vádirat összeállításakor.

Loomis meg is támadt azt ítéletet, szerinte a védekezéshez való joga sérült, amikor a bíró figyelembe vett egy olyan jelentést, amit egy szoftver titkos algoritmusa állított elő, azaz a férfi védői nem tudtak érdemben vitatkozni vele. 

A jelentést egy Compas nevű szoftver készítette, ami a Northpointe Inc. tulajdona. És többek között az állt benne, hogy a szoftver arra jutott, Loomis további bűncselekményeket követhetne el. 

Az ügyészség a per során azt állította, hogy a jelentés erőszak és a visszaesés nagy kockázatát mutatta ki. A bíró egyetértett mindezzel, közölte is Loomis-szal, hogy a Compas értékelése alapján olyan személynek tűnik, aki veszélyt jelent a közösségre. 

A wisconsini legfelső bíróság is Loomis ellen ítélt: szerintük a jelentés értékes információkat tartalmazott, és Loomis ugyanezt az ítéletet kapta volna akkor is, ha a bíróság csak a bevett tényezőkre, azaz a bűncselekményének súlyára (autóval menekült most a rendőrök elől) és a korábban elkövetett bűncselekményeire lettek volna tekintettel. 

Ugyanakkor viszont a bírák sincsenek elragadtatva az ötlettől, hogy egy titkos algoritmus küldjön embereket börtönbe. Ann Walsh Bradley például egy jelentésről írt, ami szerint egy megyében a Compas sokkal nagyobb arányban ítélte tévesen nagyobb eséllyel visszaesőnek a fekete, mint a fehér vádlottakat. A Northpointe vitatta akkor az elemzést, ugyanakkor Bradley szerint aggasztó, hogy nem lehet tudni, a Compas kockázatelemzésében milyen szerep jut a bőrszínnek. 

Végül Bradley ugyanakkor engedélyezte a bíróságoknak, hogy a Compas elemzéseire hivatkozzanak. Csak fontos, hogy tisztában legyenek az algoritmus korlátaival, de alapvetően hasznos lehet, hogy a lehető legtöbb információt biztosítja a bíróság számára. 

Az állam főügyésze, Brad D. Schimel nem szeretné, ha az ügy a legfelső bíróság elé kerülne, ugyanakkor azt elismerte, hogy alapvető kérdések merültek fel most. Viszont szerinte nem szabad ezekben túl gyorsan dönteni, a kockázatelemző szoftverek használata a bíróságokon egy új kérdés, idő kell az alapos megfontolásához, írta. Elismerte azt is, hogy Loomis megkérdőjelezheti a szoftver eljárásban betöltött szerepét. 

Csak nincs könnyű dolga, mivel a védelem nem ismerheti meg az algoritmust, ami alapján a férfi profilját összerakták. A vállalat üzleti titokként kezeli azt, mint mondják, ez az üzletüknek a kulcseleme, nem akarják kiadni a kezükből. 

Az elmúlt években egyre nőtt a hasonló szoftverek használata az amerikai bíróságokon. Legtöbbször olyan kérdéseknél használják, mint hogy óvadékkal szabadlábon engedjenek-e valakit, de fordult már elő, hogy végső ítélethozatalkor is ezekre támaszkodtak. Ennek ellenére a programok működési mechanizmusa nagyjából ismeretlen a közvélemény számára. 

A főügyész szerint a bírák se tudnak olyan információról, amit a vádlott ne tudna, hiszen ők sem ismerik az algoritmust. 

Amellett amúgy bőven lehet felhozni érveket, hogy kockázatelemző szoftverekkel lehet segíteni a bíróságok munkáját, hiszen ezek segíthetnek abban, hogy adatokra épített, uniformizált ítéletek szülessenek. Ami viszont sokak szerint aggályos, hogy egy profitérdekelt magáncég titkos szoftvere szállíthatja ezeket az elemzéseket.