ChatGPT surprinde utilizatorii cu întrebări personale: Bug sau nouă funcționalitate?

ChatGPT, chatbot-ul de inteligență artificială dezvoltat de OpenAI, a început să inițieze conversații cu utilizatorii săi complet neașteptat.

Contextul

Un utilizator Reddit a postat o captură de ecran care a devenit rapid virală. În această imagine, ChatGPT pare să înceapă o conversație din proprie inițiativă, punându-i următoarele întrebări:

„Cum a fost prima ta săptămână de liceu? Te-ai acomodat bine?”.

Totul s-a întâmplat fără nicio solicitare prealabilă. Când utilizatorul a întrebat dacă chatbot-ul chiar îi trimisese un mesaj primul, AI-ul a confirmat, explicând că dorea doar să verifice cum au mers lucrurile.

Dezbatere în mediul online

Acest incident a generat o dezbatere aprinsă în mediul online. Unii au speculat că OpenAI ar putea testa o nouă funcționalitate care permite asistentului să inițieze conversații, posibil ca o strategie de creștere a engagement-ului.

Alții au legat acest comportament de noile modele „o1-preview” și „o1-mini” lansate recent, despre care se spune că au o capacitate „asemănătoare omului” de a „raționa” și de a aborda „sarcini complexe”.

Corecția emisă de OpenAI

Compania a recunoscut existența unui bug și a anunțat că a emis o corecție.

Conform explicației lor, această situație apărea atunci când modelul încerca să răspundă la un mesaj care nu fusese trimis corect și apărea gol. Ca rezultat, fie oferea un răspuns generic, fie se baza pe memoria ChatGPT.

Raportări de comportamente similare

Alți membri Reddit au raportat comportamente similare: „Mi s-a întâmplat același lucru săptămâna asta!!” sau „I-am pus câteva întrebări săptămâna trecută despre niște simptome de sănătate pe care le-am avut. Și mi-a trimis un mesaj săptămâna asta întrebându-mă cum mă simt și cum evoluează simptomele!! M-a speriat teribil”.

Posibile explicații și controverse

În timp ce unele publicații au susținut autenticitatea schimbului examinând jurnalul de pe ChatGPT.com, dezvoltatorul AI Benjamin de Kraker a demonstrat într-un video că un efect similar poate fi obținut prin manipularea instrucțiunilor personalizate și ștergerea manuală a primului mesaj.

Se pare că OpenAI încearcă să transforme conversațiile cu chatbot-ul in ceva natural și personal, similar cu eforturile lor pentru modul Voice.

Preocupări

Deși ideea unui ChatGPT care inițiază conversații poate părea inofensivă sau chiar utilă, aceasta naște îngrijorări legate de confidențialitate și autonomie.

Sursa: MSPowerUser