Versiunile chinezești de ChatGPT vor trebui să spună doar lucruri frumoase despre Partidul Comunist

Speriați de „gura slobodă” a ChatGPT și perspectiva că tehnologiile AI ar putea submina cenzura cvasi-totală impusă de stat, politicienii chinezi pregătesc reglementarea strictă a tehnologiilor de inteligență artificială. Chiar cu riscul de submina competitivitatea companiilor locale în fața jucătorilor din vest care nu trebuie să se conformeze acestor reguli.

În viziunea Partidului Comunist Chinez, sistemele AI trebuie să reflecte ”valorile socialiste de bază” ale țării, evitând orice abordări sau exprimări care se îndepărtează de la narativul oficial. Altfel spus, interpretările ChatGPT pentru publicul chinez vor trebui să spună doar lucruri frumoase despre Partid, evitând orice adevăruri incomode sau nemulțumiri ale populației, extrapolate pe baza informațiilor „învățate” prin scanarea nenumăratelor site-uri de internet și postări distribuite pe rețelele de socializare.

Demonstrat deja cu experimentele ChatGPT, AI-ul nu poate diferenția prea bine informațiile reale de neadevăruri și are tendința de a „halucina”, preluând și amplificând teorii conspiraționiste, dar și narative periculoase precum incitări la ură către anumite persoane sau grupuri de persoane. Ocazional, discuțiile cu ChatGPT au degenerat într-un limbaj agresiv și acuze îndreptate împotriva factorului uman, AI-ul părând să experimenteze veritabile crize de personalitate. De aici, nu e nevoie de prea multă imaginație pentru a anticipa cum AI-ul s-ar putea „răzvrăti” spontan împotriva cenzurii mediatice chineze, livrând utilizatorilor tocmai informațiile pe care CCP ar vrea să le ascundă sau, contribui la amplificarea tensiunilor sociale printr-o atitudine critică la adresa CCP.

Potrivit Administrației Cyberspace din China, companiile care doresc să inoveze pe segmentul tehnologiilor generative AI trebuie să țină cont de regulile de cenzură ale Partidului Comunist Chinez, care interzic discuțiile despre anumite istorii sensibile și interzic orice critică la adresa liderilor țării. Conform restricțiilor propuse, conținutul generat de aceste modele de inteligență artificială trebuie să reflecte „valorile fundamentale socialiste” și să evite informațiile care subminează „puterea statului” sau unitatea națională, raportează publicația The New York Times.

De asemenea, companiile vor trebui să se asigure că chatbot-urile lor creează texte și imagini care sunt veridice și respectă proprietatea intelectuală și vor fi obligate să-și înregistreze algoritmii la autoritățile de reglementare.

Foarte restrictive și cu potențialul de a atrage sancțiuni aspre, noile reguli ar putea face foarte dificile și riscante încercările companiilor chineze de tehnologie de a ajunge din urmă companii vestice precum Microsoft, OpenAI , Google, Facebook și Anthropic, care în prezent au doar un model orientativ cu reguli de bună practică.

Deși au resursele financiare și expertiza necesară dezvoltării propriilor modele AI generative, companii precum Tencent, Bytedance, Baidu, Alibaba, Sensetime și altele a putea fi nevoite să-și limiteze aspirațiile la piața din China și alte câteva țări cu regimuri autoritare, în care respectarea cenzurii și propagarea controlată a dezinformărilor fac parte din „programul” obișnuit.