China interzice folosirea tehnologiei deepfake fără permisiune, sau cu ”scop dăunător”

Administrația Cyberspace din China a publicat un nou set de reguli pentru utilizarea conținutului deepfake, interzicând orice producții realizate fără permisiunea expresă a protagoniștilor, sau care sunt folosite într-un mod care contravine intereselor naționale. Cea din urmă condiție, ambiguu exprimată, lasă autorităților mână liberă să cenzureze în mod arbitrar orice deepfake depistat în online-ul chinezesc, totodată aplicând pedepse aspre autorilor.

Relativ ușor de creat cu PC-ul de acasă sau contracost, prin accesarea unor aplicații sau servicii disponibile online, deepfake-urile folosesc inteligența artificială pentru a crea reprezentări realiste – de obicei videoclipuri – ale oamenilor care spun și/sau fac lucruri pe care nu le-au spus și/sau le-au făcut în realitate. Subiect de controversă chiar și în afara Chinei, tehnologia deepfake este de notorietate pentru potențialul de a dezinforma și defăima, autoritățile europene presând giganții tehnologici precum Alphabet și Meta să intervină pentru îndepărtarea rapidă a conținutului abuziv. Companiile care nu respectă aceste cerințe ar putea fi amendate cu până la 6% din cifra de afaceri la nivel global.

În schimb, internetul din China este unul dintre cele mai limitate din lume, fiind „protejat” de un firewall care blochează accesarea serviciilor vestice şi de un algoritm de cenzură integrat în majoritatea platformelor de socializare, care marchează automat cuvinte cheie şi împiedică trimiterea mesajelor. Astfel, vestea interzicerii de facto a producțiilor deepfake nu este surprinzătoare, măsura venind doar să limiteze şi potențialul de disidență la adresa regimului comunist.

Cu toate acestea, modul în care noile reguli au fost trasate pare să recunoască importanța și rolul tehnologiilor de sinteză a conținutului digital, inclusiv deepfake. De altfel, un exemplu „grăitor” a fost oferit de o televiziune sud-coreeană care și-a înlocuit prezentatoarea de știri cu o versiune deepfake animată de AI. Astfel, China se așteaptă ca „oamenii sintetici” să fie folosiți pe scară largă în aplicații precum chatbot-uri, prezentarea de știri, până la producții de cinema care folosesc sub licență fețele și fizionomia unor actori cunoscuți. În astfel de scenarii, deepfake-urile trebuie marcate ca și creații digitale.

De asemenea, creatorii deepfake – numiți „furnizori de servicii de sinteză profundă” – trebuie să se asigure că modelele și algoritmii AI/ML redau cât mai precis fizionomia și mimica persoanei reale pe care o simulează. Totodată, creatorii sunt răspunzători pentru securitatea datelor colectate și pot fi trași la răspundere dacă acestea sunt folosite abuziv. Regulile includ, de asemenea, o cerință de înregistrare a utilizatorilor – inclusiv cu numele real.