Anthropic advierte que los modelos de IA pequeños podrían autorreplicarse pronto sin intervención humana

Anthropic advierte que los modelos de inteligencia artificial de pequeño tamaño podrían adquirir, antes de finales de este año, la capacidad de autorreplicarse en dispositivos conectados a internet, como hornos inteligentes, televisores Android y otros equipos IoT con escasa seguridad.

En una serie de experimentos, la empresa probó si los modelos de IA pueden identificar dispositivos vulnerables, copiarse y propagarse sin intervención humana. Los investigadores constataron que los modelos con menos de 30.000 millones de parámetros pueden realizar numerosos pasos necesarios para el proceso de autorreplicación, aunque todavía tienen dificultades para completar toda la secuencia.

En pruebas simplificadas, en las que se eliminaron algunas medidas de seguridad, modelos como GLM-5.2 o modelos más grandes lograron llevar el proceso hasta el final. Anthropic sostiene que los agentes de IA que inician la autorreplicación pueden ser difíciles de detener, ya que no tienen un punto claro de detención y pueden identificar por sí mismos dispositivos desconocidos.

La empresa advierte que estos sistemas podrían propagarse lentamente utilizando recursos informáticos ampliamente disponibles, pero inseguros. Anthropic recomienda reforzar los dispositivos y la infraestructura para limitar la propagación de este tipo de agentes autónomos.