YouTube va putea bloca postarea de comentarii, dacă algoritmii AI detectează formulări ofensatoare

Curând, YouTube va putea opri comentarii ofensatoare blocând direct postarea acestora, dacă analiza în timp real făcută cu ajutorul algoritmilor AI identifică cuvinte sau expresii nepotrivite.

„Pentru a încuraja conversații respectuoase pe YouTube, lansăm o  nouă funcție care îi va avertiza pe utilizatori atunci când comentariul lor poate fi ofensator pentru ceilalți, oferindu-le opțiunea de a reflecta înainte de a posta”, precizează Google într-o postare pe blog-ul YouTube.

YouTube te va avertiza înainte să postezi comentarii ofensatoare

Având de negociat un veritabil teren minat, aflat chiar la granița dintre moderare rezonabilă a libertății de exprimare și cenzură, YouTube va sugera în primă fază utilizatorului să reconsidere conținutul mesajului. Dacă prima varianță eșuează, utilizatorul alegând să posteze mesajul în forma inițială, comentariile suspectate de încălcări ale regulilor de postare vor fi aduse în atenția echipelor de moderatori, care vor stabili eventuala eliminare forțată și sancționarea autorului.

Important de știut, comentariile care declanșează avertismentul nu vor fi în mod obligatoriu eliminate dacă sunt postate, moderatorii YouTube stabilind ulterior ce e de făcut.

Responsabil cu identificarea permanentă a postărilor potențial jignitoare, învățând din ceea ce a fost raportat în mod repetat de utilizatori, sistemul AI își va îmbunătăți eficacitatea în mod constant. În funcție de rezultatele obținute, probabil că YouTube se va baza tot mai puțin pe echipele de moderatori.

Potrivit statisticilor oficiale, de la începutul anului 2019 și până în prezent, numărul de comentarii eliminate zilnic de YouTube pentru incitare la ură și alte mesaje ofensatoare s-a înmulțit cu 46. Între iulie și septembrie 2020, din 1,8 milioane de canale eliminate în total, mai mult de 54.000 canale au fost eliminate strict pe criteriul hate speech – de trei ori mai mult decât în perioada similară a anului 2019.