Uniunea Europeană reglementează dur folosirea tehnologiilor AI, dar lasă portițe pentru supravegherea de către poliție

Uniunea Europeană a publicat un nou cadru legislativ pentru reglementarea folosirii tehnologiilor de inteligență artificială în cele 27 de state membre ale blocului comunitar.

Proiectul legislativ, care cel mai probabil va avea nevoie de mai mulți ani pentru a fi pus în aplicare, trecând mai întâi prin numeroase revizii, constituie totuși cel mai ambițios set de reglementări pe subiectul AI, propuse până acum la nivel global.

Reglementările acoperă o gamă largă de aplicații, de la software-ul sisteme de condus autonom, până la algoritmii folosiți pentru a examina candidații la locuri de muncă. La nivel fundamental, problema ține de faptul că națiunile lumii se confruntă tot mai mult cu ramificațiile etice ale folosirii tehnologiilor de inteligență artificială, afectând diverse aspecte ale vieții cotidiene.

Similar cu legislația UE privind confidențialitatea datelor, GDPR, regulamentul oferă blocului comunitar posibilitatea de a amenda companiile care încalcă regulile sale cu până la 6% din veniturile realizate la nivel global pe durata anului în curs. Totuși, astfel de pedepse sunt extrem de rare și aplicate doar în situații cu totul excepționale, cu efecte resimțite la scară largă.

„Este o propunere importantă a acestei comisii. Este primul nostru cadru juridic cu privire la inteligența artificială ”, a declarat comisarul european Margrethe Vestager în timpul unei conferințe de presă. „Astăzi ne propunem să facem Europa de clasă mondială în dezvoltarea inteligenței artificiale sigure, de încredere și centrate pe om. Și, desigur, utilizarea acestuia. ”

Printre interdicțiile discutate se numără folosirea în timp real a „sistemelor de identificare biometrică la distanță în spații accesibile publicului cu scopul aplicării legii”, care ar include recunoașterea facială.

Regulamentul prevede însă și numeroase excepții de la interdicțiile discutate, cum ar fi lăsarea poliției să utilizeze astfel de sisteme pentru a găsi „autorul sau suspectul” oricărei fapte penale care are o condamnare de minimum trei ani. Utilizarea tehnologiei, precum și recunoașterea facială în aceste cazuri, ar trebui să fie aprobată de justiție sau de organisme similare. Problema este că această cerință doar mută responsabilitatea în sfera entităților administrate de Uniunea Europeană,  care pot folosi privilegiile acordate în mod discreționar, cu minime verificări din partea organismelor internaționale.

„Există prea multe excepții și sunt destul de arbitrare”, a declarat Alexandra Geese, un europarlamentar german cu privire la regulament. „Nu văd rostul de a spune că nu dorim folosirea sistemelor de autentificare bitometrică, doar pentru ca apoi să acordăm diverse excepții acolo unde contează”.

Faptul că interdicția menționează doar identificarea biometrică „în timp real” constituie o lacună substanțială, care lasă deschisă posibilitatea folosirii software-ului de recunoaștere facială pentru analizarea imaginilor obținute anterior. Spre exemplu, sub acest set de reguli poliția europeană poate folosi servicii precum controversatul Clearview AI, care avut deja o adoptare rapidă în SUA .

Totuși, printre interdicțiile enunțate în mod explicit se numără utilizarea tehnologiei AI compilarea unui scor de credit social, după modelul Chinei, cu perspectiva folosirii acestuia cu scopul de a penaliza anumite comportamente sociale și a manipula comportamentul oamenilor folosind indicii subliminale.