Cercetătorii Stanford au dezvoltat DetectGPT, un software care poate identifica texte scrise de ChatGPT

Acum că ChatGPT este „la liber” pentru toată lumea, încep să apară tot felul de îngrijorări în legătură cu felul în care publicul larg îl va folosi. În special școlile și universitățile sunt îngrijorate că elevii vor aduce teme și proiecte texte scrise de AI, fără să mai depună munca necesară pentru a căuta și scrie singuri informațiile, care fac parte din procesul de învățare. Universitatea Stanford are însă o soluție, DetectGPT un „detector de AI”, care permite scanarea textului și identificarea pasajelor scrise cu ajutorul unui AI de tip ChatGPT.

ChatGPT va fi mai greu de folosit pentru a realiza rapid lucrări pentru școală

Cercetătorii de la Stanford spun că au descoperit o metodă prin care software-ul lor poate detecta rapid dacă un text este scris de AI. Se pare că există un șablon pe care ChatGPT și alte modele lingvistice de acest gen îl folosesc, care se concentrează pe anumite regiuni în zona curburii negative a curbei logaritmice în funcțiile lor de probabilități. Probabil că acest pasaj sună puțin ca o limbă extraterestră pentru mulți, însă astfel de AI-uri folosesc probabilități pentru a genera conținut în format text sau imagini.

Soluția DetectGPT nu folosește astfel metode AI de „antrenare”, pentru a putea detecta textul scris de AI. Aceasta este o soluție universală care poate astfel să identifice textele direct, folosind orice text și fără să fi văzut astfel de texte în trecut. De aceea, DetectGPT este numită o soluție „zero-shot”, care pare să funcționeze cu o acuratețe foarte mare. Mai mult, din acest motiv, software-ul dezvoltat la Standford nu funcționează doar pentru ChatGPT, ci și pentru alte modele lingvistice similare, sau diverse versiuni modificate ale AI-ului de la OpenAI.

Cu siguranță, acesta va fi folosit pentru a verifica lucrările studenților de la Stanford, însă DetectGPT ar putea deveni o unealtă foarte bună și în multe alte domenii, unde cunoștințele reale ale celor care depun diverse lucrări sunt foarte importante. Admiterile în unități de învățământ, interviuri pentru locuri de muncă și alte astfel de situații ar putea beneficia de pe urma unui detector de AI.

sursa: Neowin