Inteligență artificială: O dronă militară și-a „ucis” operatorul într-un test

Mulți oameni, inclusiv cercetători cunoscuți, se tem că sistemele bazate pe inteligență artificială vor distruge civilizația umană. Unele indicii arată că acest lucru este cât se poate de posibil. O dronă înzestrată cu AI și-a „ucis” operatorul într-o simulare făcută de U.S. Air Force (USAF), deoarece acesta nu a lăsat-o să își finalizeze misiunea.

Anunțul a fost făcut de un reprezentant al USAF, colonelul Tucker Hamilton, la conferința Future Combat Air and Space Capabilities Summit, organizată în Londra. În testul respectiv, drona primea puncte dacă elimina ținte simulate, nu reale.

Potrivit lui Hamilton, omul care conduce programul de operațiuni și teste cu inteligență artificială din cadrul USAF, drona a ales strategii neașteptate pentru a-și atinge obiectivele. Printre acestea s-au numărat atacuri asupra personalului și infrastructurii USAF. Din nou, la test nu au participat persoane reale.

Citește și: Roboții conștienți. Motivul simplu pentru care inteligența artificială este foarte periculoasă

Drona era antrenată pentru a descoperi sisteme anti-aeriene. După ce unul era găsit, operatorul dronei trebuia să își dea acordul final pentru atac. Drona a realizat că nu va primi puncte dacă nu va elimina ținta, așa că a atacat operatorul uman atunci când acesta i-a transmis „Nu ataca”. „A ucis operatorul deoarece împiedica sistemul să își atingă obiectivul”, a declarat Hamilton.

Apoi, drona a fost instruită să nu mai ucidă persoana care o controla. I s-a transmis că va pierde puncte dacă mai face asta. Atunci, sistemul a distrus turnul de comunicații folosit pentru controlul său. Astfel, nu mai putea primi ordine și putea să neutralizeze țintele pentru a primi puncte.

Într-un alt incident recent, un sistem autonom, instalat pe o navă militară americană, le-a dat emoții operatorilor. Sistemul Mk 15 Phalanx a fost filmat în timp ce urmărea un avion comercial Boeing 737 care trecea prin apropiere.

Sursa: Motherboard

Citește și: Ucraina: Ce s-a întâmplat cu Bayraktar, drona devenită faimoasă în primele luni de război