OpenAI lansează detectorul de AI, pentru a verifica dacă textele sunt scrise cu AI-ul său, ChatGPT

După ce Universitatea Stanford a anunțat că are o soluție pentru a detecta texte scrise de modele lingvistice AI, precum ChatGPT, și OpenAI, compania care a creat respectivul AI, a lansat o unealtă similară. Se pare însă că aceasta este o versiune timpurie, care nu funcționează foarte bine la început, în ciuda faptului că ar trebui să detecteze texte scrise pe baza algoritmelor sale.

Creatorul AI-ului încearcă să ofere soluții pentru detectarea textului scris cu ChatGPT

Pe site-ul OpenAI există acum o nouă unealtă numită „AI Text Classfier”. Aceasta permite utilizatorilor să introducă text într-o căsuță, care este apoi analizată și clasificată. Pentru a funcționa corect, clasificatorul necesită text de 1.000 de caractere, sau aproximativ 150-250 de cuvinte. De asemenea, momentan funcționează doar în limba engleză, întrucât pe astfel de texte a fost antrenat până în prezent.

Rezultatele analizerlor sunt încadrate în categorii precum „very unlikely” (foarte improbabil), „unlikely” (improbabil), „unclear” (neclar), „possible” (posibil) și „likely” (probabil), în raport cu faptul că sunt sau nu scrise de AI. Astfel, dacă primești pe un text analizat clasificarea likely, cel mai probabil, acel text a fost scris de AI, în timp ce „very unlikely” ar trebui să fie un text 100% scris de o persoană reală.

OpenAI spune însă că momentan a reușit să atingă un procent de 26% corect pentru texte scrise de AI, în timp ce a clasificat texte scrise de oameni drept scrise de AI în 9% din cazuri. Desigur, acest proces de clasificare va fi dezvoltat permanent și va putea fi îmbunătățit cu cât mai mulți oameni îl folosesc și îl „antrenează” astfel pentru a putea găsi șabloane pe care AI-ul le folosește în compunerea de texte.

De asemenea, compania îi avertizează pe cei care vor dori să folosească AI Text Classifier pentru a verifica texte. Acesta ar trebui să fie doar un punct de pornire pentru o investigație de plagiat, și nu ar trebui dat un verdict doar pe baza acestei analize. De asemenea, menționează din nou să fie folosit doar pentru limba engleză. Mai mult, nu este bun pentru a fi folosit în corectarea unor teste ale căror răspunsuri sunt unice, și nu interpretabile. Un exemplu fiind înșiruirea primelor 1.000 de numere prime, care sunt întotdeauna aceleași, deci și un AI și un om ar putea oferi un răspuns identic.

sursa: OpenAI