A Facebook vizsgálatot rendelt el, a Twitter pedig már teljesen le is tiltotta felületéről a Predictim névre keresztelt kaliforniai alkalmazást, amivel a bébiszittert kereső szülők ellenőrizhették a jelentkezők múltját az interneten fellelhető információk alapján.

Az alkalmazás egytől ötig pontozta a bébiszittereket a közösségi oldalakon mutatott viselkedésük alapján, többek között erőszakos vagy kábítószerekkel összefüggő posztok után kutatva. 

A Predictim tevékenységére a hónap elején derült fény, akkor a Facebook vissza is vonta az alkalmazás hozzáférését egyes személyes adatokhoz. Most pedig azt vizsgálják, hogy végleg letiltsák-e az alkalmazást a felületükről. 

Sal Parsa, a Predictim alapítója szerint mindenki azzal kezdi, hogy megnézni a leendő munkavállalóját a Facebookon és rákeres a Google segítségével, ők most csak automatizálták ezt a folyamatot a bébiszitterek esetében. 

A Facebook szerint viszont ezzel a tevékenységgel a vállalat megsértette az üzletszabályzatukat. Mint kiderült, nemrég a Twitter teljesen kitiltotta oldaláról az alkalmazás algoritmusát, így az már Twitter-posztok között nem tud keresni múltbeli kihágások után. 

A Kaliforniai Egyetem egy programjából kinőtt alkalmazás a hétvégén lett híres, amikor a Washington Post részletes cikkben mutatta be az alkalmazást. A cikkben szakértők arról is beszéltek, hogy az algoritmus milyen könnyen tévedhet, hiszen egyes posztok mögött nem ismerheti fel a tényleges szándékot, így pedig embereket tudtukon kívül rekeszthet ki a munkaerőpiacról, egy olyan dologért, amit meg sem tettek. 

A bébiszitternek jelentkező tinédzserek esetében különösen igaz, hogy kommunikációjuk tele van belső poénokkal és szarkasztikus megjegyzésekkel, melyeket viszont könnyen valami komoly fenyegetésként detektálhat egy algoritmus. 

A Predictim állítása szerint rendszerükbe volt beépítve emberi ellenőrző szint is, azaz a megjelölt posztokat egy ember is értékeli, és ezért szerintük el tudják kerülni az ilyen félreértéseket. 

A vállalkozás 25 dollárt kért egy jelentkező átvilágításáért a szülőktől, de ha több jelentkező is akadt, adtak kedvezményt. A vállalat ezen kívül állítólag tárgyalásokat folytatott nagy "shared economy" vállalatokkal, hogy többek között sofőrök és lakáskiadók átvilágítását is ellássák. (BBC)