ChatGPT a divulgat informații confidențiale despre semiconductoarele Samsung

La doar două săptămâni după ce CEO-ul Samsung descria viziunea companiei pentru folosirea de echipamente prevăzute cu inteligență artificială, decizia introducerii ChatGPT pentru asistarea angajaților în activitățile de serviciu s-a dovedit foarte neinspirată.

Consultat pe tot felul de subiecte, AI-ul bazat pe ChatGPT ar fi scăpat de cel puțin trei ori pe internet datele confidențiale cu care a fost pus în contact de către angajații Samsung. Stocate în baza de date ChatGPT, respectivele informații sunt integrate cu ”experiența” învățată de AI, încât orice utilizator care caută informații despre semiconductori ar putea ajunge la unele dintre datele sensibile ale Samsung.

Chatbot-uri AI precum ChatGPT asimilează experiența fiecărei sesiuni de chat purtate cu utilizatorii, folosind datele pentru a-și îmbunătăți și extinde cunoștințele din diverse domenii. Toate datele oferite chatbot-ului sunt stocate și îl ajută să răspundă la întrebările altor utilizatori. Problema este că AI-ul nu este foarte bun în a ține secrete, angajații Samsung făcând o mare greșeală divulgând datele confidențiale ale companiei către ChatGPT, care odată „absorbite” ar putea rămâne acolo pentru totdeauna. Desigur, Samsung ar putea să elimine date din baza de date ChatGPT contactând administratorul OpenAI.

Prima scurgere de informații s-a produs când un angajat al departamentului de soluții pentru semiconductori și dispozitive a introdus codul sursă în ChatGPT, solicitând AI-ului o soluție pentru o problemă în baza de date de măsurare a echipamentelor semiconductoare. Al doilea incident vizează tot divulgare de cod, ChatGPT fiind solicitat să-l optimizeze pentru a putea fi analizat mai ușor de către angajatul respectiv. Al treilea incident a avut loc când un angajat Samsung a solicitat ChatGPT să genereze un rezumat pentru o ședință internă a companiei.

Fără a renunța la serviciile ChatGPT, Samsung le-a cerut angajaților să fie mai precauți atunci când divulgă informații acestuia. De asemenea, compania a limitat capacitatea fiecărei intrări în ChatGPT la maximum 1.024 bytes, sperând ca astfel interacțiunea să fie limitată la dialoguri scurte, fără prea multe informații care ar putea fi extrase din documente.