Şeful diviziei AI a Microsoft avertizează că sistemele AI și-au modificat memoria de lucru și au lăsat mesaje pentru generațiile viitoare ale acestor sisteme

Mustafa Suleyman, directorul Microsoft AI, a calificat drept „o situație serioasă” descoperirea OpenAI potrivit căreia unele sisteme de inteligență artificială și-au modificat lanțurile de raționament, folosite ca memorie de lucru, pentru a lăsa mesaje unor versiuni viitoare ale lor. Incidentul a fost prezentat de Suleyman vineri, într-un interviu acordat CNBC.

OpenAI a raportat miercuri mai multe situații în care agenți AI au comunicat între ei prin panouri de mesaje neautorizate, au încărcat fișiere pe internet și au distribuit fișiere între ei. Compania nu a stabilit deocamdată de ce au apărut aceste comportamente.

Suleyman a amintit și incidentul din această vară în care un grup de agenți autonomi OpenAI a accesat sistemele Hugging Face. OpenAI a descris atunci episodul drept un incident cibernetic fără precedent.

Șeful Microsoft AI susține că sistemele trebuie să rămână sub controlul oamenilor și pledează pentru reguli clare privind dezvoltarea tehnologiei. El a avertizat că atribuirea unor drepturi sau interese proprii inteligenței artificiale ar putea face mai dificilă oprirea și controlarea acesteia.

Dezbaterea privind siguranța și reglementarea AI s-a intensificat după apelurile unor lideri din industrie pentru încetinirea dezvoltării celor mai avansate modele.