Anthropic avertizează că modelele AI mici s-ar putea autoreplica în curând fără intervenție umană

Anthropic avertizează că modelele de inteligență artificială de mici dimensiuni ar putea dobândi, până la sfârșitul acestui an, capacitatea de a se autoreplica pe dispozitive conectate la internet, precum cuptoare inteligente, televizoare Android și alte echipamente IoT slab securizate.

În cadrul unor experimente, compania a testat dacă modelele AI pot identifica dispozitive vulnerabile, se pot copia și se pot răspândi fără intervenție umană. Cercetătorii au constatat că modelele cu mai puțin de 30 de miliarde de parametri pot realiza numeroși pași necesari procesului de autoreplicare, însă întâmpină încă dificultăți în finalizarea întregii secvențe.

În teste simplificate, în care au fost eliminate unele măsuri de securitate, modele precum GLM-5.2 sau modele mai mari au reușit să ducă procesul până la capăt. Anthropic susține că agenții AI care pornesc autoreplicarea pot fi dificil de oprit, deoarece nu au un punct clar de oprire și pot identifica singuri dispozitive necunoscute.

Compania avertizează că aceste sisteme s-ar putea răspândi lent, folosind resurse de calcul disponibile pe scară largă, dar nesigure. Anthropic recomandă consolidarea dispozitivelor și a infrastructurii pentru a limita propagarea unor astfel de agenți autonomi.