Jurnaliștii „virtuali” Microsoft au confundat o artistă mulatră cu colega ei de trupă

Microsoft a anunțat de curând că a renunțat la o parte din echipa editorială de pe MSN.com. În locul jurnaliștilor adună și publica știri algoritmi AI, „jurnaliștii virtuali” ai Microsoft. Cum niciun sistem automat nu este perfect, acesta deja a început să publice materiale eronate. O știre despre Jade Thirwall, membră a grupului muzical Little Mix, afișa pe MSN o fotografie cu colega ei de trupă, Leigh-Anne Pinnock.

Jurnaliștii virtuali au selectat greșit poza

Se pare că algoritmul AI care a găsit și publicat informațiile nu a putut să recunoască corect diferențele dintre cele două membre ale grupului Little Mix. Cele două artiste sunt mulatre, iar algoritmul ar fi putut să găsească destule asemănări între cele două pentru a folosi o fotografie cu Pinnock mai relevantă decât cele în care apărea Thirwall. De altfel, nu este tocmai clar cum caută algoritmul fotografii pentru ilustrare.

Eroarea ar putea fi și de partea serviciului de fotografii care furnizează acest conținut. Dacă fotografia era marcată cu numele greșit, „jurnaliștii virtuali” nu ar fi putut să facă diferența. Totuși, această situație demonstrează nevoia unor persoane reale care să verifice conținutul înainte publicare. Sistemele automate nu pot verifica la fel de bine informațiile, întrucât se bazează foarte mult pe alte date introduse la un moment dat de oameni. Acestea pot fi astfel eronat introduse.

Situația este și mai tensionată din cauza protestelor la nivel mondial din ultima vreme. Cele două artiste sunt mulatre, iar Jade Thirwall a publicat pe contul său de Instagram o critică la adresa MSN:

„@MSN Dacă tot copiezi articole de la alte publicații, ar trebui să te asiguri că folosești o imagine cu membrul mulatru corect din grup. Aceste lucruri se întâmplă lui @leighannepinnock și mie TOT TIMPUL și devine deja o glumă proastă. Mă simt ofensată că nu ați putut face diferența dintre cele două femei de culoare ale unui grup de patru… FACEȚI TREABĂ MAI BUNĂ!”

Astfel de erori au mai apărut și în alte situații, chiar și cu materiale realizate de angajați „reali”. De exemplu, la începutul anului, după accidentul în care Kobe Bryant și fiica sa Brianna și-au pierdut viața, BBC a rulat o știre în care apăreau imagini cu LeBron James. Televiziunea de stat britanică a retras materialele și și-a cerut scuze la momentul respectiv.

Microsoft a concediat în luna mai peste 70 de jurnaliști care se ocupau cu selectarea materialelor care apar pe MSN.com. 50 dintre ei din SUA și 27 din Marea Britanie.

(via The Verge)