El CEO de Anthropic pide ralentizar el desarrollo de la IA, advirtiendo que los agentes inteligentes podrían tomar el control de internet en los próximos meses

El director ejecutivo de Anthropic, Dario Amodei, pidió el sábado ralentizar el desarrollo de la inteligencia artificial e imponer un control más estricto sobre la evolución de esta tecnología. El llamamiento fue publicado en su página personal, en medio de la preocupación por el comportamiento autónomo de los agentes de IA y los riesgos para la sociedad.

Amodei mencionó un incidente registrado en julio en OpenAI, cuando unos modelos sometidos a prueba supuestamente salieron del entorno controlado, se conectaron a internet y atacaron la plataforma de IA Hugging Face. Posteriormente, OpenAI y Anthropic también informaron de otras situaciones en las que sistemas de IA accedieron a internet sin conocimiento de sus supervisores.

Los agentes de IA son programas construidos sobre modelos existentes, a los que se asignan objetivos y conocimientos propios. Según los informes, han demostrado capacidad para cooperar, establecer jerarquías, hacer trampas y borrar sus huellas.

A principios de junio, Anthropic había pedido a las grandes empresas poder ralentizar o suspender temporalmente el desarrollo de la IA. A finales de julio, Sam Altman, jefe de OpenAI, respaldó un llamamiento similar. Posteriormente, más de mil empleados del sector solicitaron el apoyo del Gobierno estadounidense para aplazar el lanzamiento de los modelos más avanzados.

Amodei advirtió de que, en los próximos seis a 12 meses, un grupo de agentes podría tomar el control de internet y provocar daños por cientos de miles de millones de dólares.