Înregistrările care conțin voci simulate de AI vor avea o amprentă ”invizibilă”

După ce recent, un serviciu de sinteză vocală care permitea imitarea oricărei voci a fost deturnat pentru răspândirea mesaje rasiste și homofobe, tehnologiile AI de generare a vocilor vor fi limitate prin aplicarea unei amprente digitale, asigurând diferențierea oricărei voci simulate de cea originală.

În timp ce discursul generat de AI poate fi folosit în tot felul de scopuri legitime, de la dublarea filmelor în limba nativă a spectatorilor, până la traducerea replicilor din filme folosind chiar vocea actorilor reali (cu permisiunea lor, desigur). Problemele apar atunci când sintetiza vocală realizată prin imitarea vocii unei anume persoane este folosită în scopuri rău intenționate, cum ar fi pentru falsificarea unor declarații sau opinii ale politicienilor și celebrităților.

Înainte de a fi prea târziu, creatorii acestor tehnologii se arată dispuși să accepte introducerea unui sistem de amprentare a producțiilor digitale, însemnând că orice înregistrare conținând voci sintetizate de AI va avea un ”watermark” invizibil, care să permită diferențierea de producțiile complet autentice fără implicarea unui expert în identificarea reperelor indicative pentru sinteză vocală. Esențial pentru succesul serviciilor care oferă sinteză vocală, calitatea înregistrărilor nu va fi afectată în mod perceptibil prin introducerea amprentării digitale.

Din păcate, soluția propusă nu este automat aplicabilă pentru autorii motivați să falsifice în mod credibil vocea anumitor persoane (ex. actori statali, servicii clandestine care-și oferă serviciile în scopul discreditării anumitor persoane, sau dezinformare la scară largă).

O altă problemă cu sistemul de watermarking este că indicatorii pot fi cu ușurință „pierduți” prin recomprimarea fișierului audio folosind un codec de calitate inferioară. Spre exemplu, pentru imitarea unei convorbiri telefonice interceptate. Astfel, este puțin probabil ca industria să ofere un „antidot” cu adevărat eficient împotriva dezinformării digitale, fie că este realizată prin falsificarea conținutului video, a coloanei sonore, sau ambele.