Un sistem automat de recunoaștere facială a dus la arestarea unui bărbat nevinovat

Se pare că frica cea mai mare a celor care se împotrivesc sistemelor de recunoaștere facială s-a adeverit. Un sistem automat de recunoaștere facială a dus la arestarea pe nedrept a lui Robert Williams, rezident din Detroit, SUA. Forțele de ordine au folosit un software dezvoltat de DataWorks Plus, pentru a găsi un infractor pe baza unei înregistrări de la o cameră de supraveghere. Folosind datele din baza de date a poliției precum fotografia din permisul de conducere, sistemul l-a identificat pe Roberts. Totuși, acesta nu era la locul crimei la momentul respectiv.

Poliția a folosit un software de recunoaștere facială și un expert pentru a confirma identitatea suspectului

Arestul nu a fost făcut în totalitate pe baza sistemului automat. Software-ul DataWorks doar a sugerat că Williams ar putea fi cel din filmare. Aceste informații au fost furnizate unui consultant în securitate contractat, care a confirmat că cele două imagini descriu aceeași persoană. Totuși, consultantul nu l-a văzut niciodată pe Robert Williams și nici nu știa alte informații despre acesta.

Poliția a făcut totuși arestul. S-a dovedit ulterior că Robert Williams nu era însă în apropierea locului crimei. Totuși, ACLU (Uniunea Americană pentru Libertăți Civile), cheamă în instanță Poliția din Detroit pentru arest pe nedrept în cazul lui Williams. Asociația spune că sistemul dezvoltat de DataWorks în primul rând nu poate să facă deosebirea între diferiți oameni de culoare. De asemenea, ofițerii de poliție se bazează prea mult pe un sistem automat, crezând că acesta le poate oferi direct suspectul.

Sistemele automate ar putea să ne îngrădească libertățile civile?

Robert Williams a declarat că nu și-ar dori ca un astfel de sistem să fie adoptat la scară largă nici dacă ar fi complet precis. Acesta spune că nu și-ar dori ca fiicele sale să se afle într-o bază de date care să poată fi accesate de guvern în cazul în care se află la un protest care este împotriva guvernului. Având în vedere ultimele evenimente din SUA, probabil că mulți dintre protestatari ar fi împotriva unui astfel de sistem automatizat.

Acesta este primul caz în care un sistem automat de recunoaștere facială a dus la o arestare pe nedrept.

sursa: Engadget