Google va apela la tehnologii de inteligenţă artificială pentru a detecta clipuri YouTube care promovează conţinut extremist

Google a detaliat o nouă strategie în patru paşi pentru problema răspândirii conţinutului de tip extremist în reţeaua YouTube. Planul mizează pe îmbunătăţirea şi folosirea mai intensivă a tehnologiilor AI şi recenzii făcute de utilizatori, scurtând astfel fereastra de timp în care conţinutul YouTube nepotrivit se poate propaga nedetectat printre milioanele de clipuri inofensive încărcate de utilizatori.

Deşi promite creşterea ratei de detecţie, folosirea tehnologiilor de inteligenţă artificială nu este perfectă, inspectarea clipurilor problematice fiind în continuare necesară pentru deosebirea discursurilor religioase şi postări care aduc informaţii utile de clipurile care folosesc propaganda agresivă sau redau acte de violenţă.

Venind ca o reacţie la iniţiativa Uniunii Europene pentru introducerea unor legi mai stricte care să oblige companiile la o gestionare responsabilă a conţinutului de tip extremist, planul presupune lărgirea echipei de experţi independenţi responsabil cu verificarea conţinutului YouTube şi extinderea eforturilor de contra-radicalizare. Potrivit companiei, raportările făcute de utilizatori sunt corecte în proporţie de peste 90%, având o contribuţie decisivă în identificarea surselor problematice de conţinut.

În viitor, clipurile problematice, dar care nu încalcă în mod flagrant regulile de postare YouTube, vor fi evidenţiate cu mesaje de avertizare interstiţiale şi nu vor putea fi monetizate, comentate sau recomandate de utilizatori. Google speră ca prin această metodă să reducă vizibilitatea acestor clipuri la căutări, fără a îngrădi libertatea de exprimare prin cenzură directă.

O altă metodă de contra-radicalizare este promovarea clipurilor YouTube care vorbesc împotriva urii şi radicalizării, oferind exemple concrete care demontează retorica folosită de grupurile teroriste în mesaje de recrutare. Abordarea foloseşte puterea mesajelor publicitare personalizate pentru a direcţiona potenţialii recruţi spre clipuri informative. Inserate în pagini web, bannerele cu reclame par să aibă un succes nesperat de bun, generând vizionări însumând peste jumătate de milion de minute pentru clipurile YouTube informative.