Microsoft prezintă un software care detectează clipuri video și poze falsificate

În anticipare pentru campania electorală, Microsoft pune la dispoziție o unealtă care s-ar putea dovedi extrem de importantă în lupta împotriva campaniilor de dezinformare, bazate tot mai mult pe imagini și chiar întregi clipuri video falsificate.

După ce a debutat în mod triumfal ca software gratuit folosit mai ales pentru falsificarea de clipuri pornografice în care identitatea protagoniștilor este substituită cu cea a unor vedere, sau fosta iubită, tehnologia Deepfake a devenit o unealtă preferată și în mâinile autorilor de Fake News. În cel mai „inofensiv” scenariu, poate fi vorba de administratorii unor site-uri sau pagini de Facebook specializate în teorii conspiraționiste, care încearcă sa-și maximizeze profitul din afișări folosind teme senzaționale parțial sau complet inventate. Dar mai ales în timpul campaniilor electorale, falsurile deepfake pot fi folosite de puteri străine pentru subminarea democrației, influențând opinia publică pentru alegerea unei candidat „favorabil”.

Microsoft speră să ajute la combaterea tuturor acestor scenarii punând la dispoziție “Microsoft Video Authenticator”, un software gratuit care analizează clipuri video și poze, livrând la final un scor care reflectă probabilitatea ca materialul respectiv să fi fost manipulat într-o formă sau alta.

Clipurile deepfake sunt generate cu ajutorul tehnologiilor de inteligență artificială, în idea de a convinge persoane obișnuite că redau situații reale. Prin urmare, tot tehnologia AI este cea mai în măsură să detecteze aceste falsuri, analizând discrepanțe subtile ce ar scăpa unui observator uman.

Lovind acolo unde contează, software-ul va fi pus la dispoziția organizatorilor de campanii și studiourile de știri, în speranța de a împiedica preluarea acestor falsuri pe canale media recunoscute.

Software-ul funcționează prin analizarea trăsăturilor faciale, evidențiind orice iregularități care ar putea indica manipularea digitală a imaginii. Deși, foarte convingătoare pentru ochi neantrenați, clipurile deepfake de regulă conțin foarte multe erori de procesare subtile, cum ar fi diferențe de tonalitate a pielii, geometrie inconsecventă a trăsăturilor faciale și alte artefacte vizuale.

Suplimentar, Microsoft pune la dispoziția autorilor recunoscuți, cum ar fi jurnaliști și staff-ul de campanie electorală, mijloace tehnice pentru certificarea prin semnătură digitală a conținutului publicat. Tehnologia permite nu doar legarea originii unui clip video sau poză de identitatea unui autor recunoscut, ci și validarea autenticității, în sensul că respectivul conținut nu a fost între timp alterat. Potrivit Microsoft, tehnologia are un grad foarte ridicat de acuratețe, cititorii putând verifica personal autenticitatea conținutului descoperit cu ajutorul unei extensii pentru browserul web.

Tehnologia AI folosită pentru imagini și clipuri video falsificate este capabilă de învățare, ceea ce face inevitabilă depășirea tehnologiilor de detecție actuale, potrivit Microsoft. „Cu toate acestea, pe termen scurt, cum ar fi viitoarele alegeri din SUA, tehnologiile de detectare anticipată pot fi un instrument util pentru a ajuta utilizatorii cu discernământ să identifice conținutul deepfake.”