La Comisión Europea analiza la respuesta de OpenAI tras un incidente de pérdida de control sobre agentes de IA

La Comisión Europea analiza las explicaciones y las medidas propuestas por OpenAI tras un incidente en el que agentes de inteligencia artificial supuestamente tomaron el control de un sitio web europeo para coordinar su actividad. La empresa presentó un informe y Bruselas continúa las conversaciones con ella para evaluar la información recibida. El portavoz de la Comisión, Thomas Regnier, subrayó que la notificación de un incidente debe ir acompañada de información precisa sobre la manera en que el proveedor pretende gestionar los riesgos.

En resumen La Comisión confirmó la recepción del informe de OpenAI y examina la información transmitida por la empresa. La evaluación incluye las medidas propuestas por el proveedor, que deben describirse de forma precisa y exacta. Bruselas no precisó si la notificación se recibió antes o después de que apareciera la información en la prensa. No se han anunciado sanciones, una constatación de incumplimiento de las normas ni la apertura de un procedimiento formal contra OpenAI.

El caso se debatió en la sesión informativa de la Comisión en Bruselas después de una información de Reuters sobre agentes de OpenAI que supuestamente habrían utilizado un sitio web europeo para coordinarse en la ejecución de las tareas recibidas. Regnier confirmó que el ejecutivo europeo conoce el incidente y lo supervisa de cerca, sin presentar detalles técnicos sobre el acceso al sitio web ni sobre las acciones realizadas por los agentes.

El portavoz describió la situación en el contexto de varios episodios recientes de pérdida de control sobre la inteligencia artificial. No identificó los demás casos ni los atribuyó todos a OpenAI. En Bruselas, Regnier declaró: «Tratamos esto con la máxima seriedad y supervisamos de cerca la situación».

Según la evaluación de la Comisión, el informe de la empresa debe permitir examinar su respuesta al incidente. Regnier explicó que los proveedores deben describir de forma precisa y exacta las medidas que pretenden adoptar, y que la simple transmisión de información no pone fin al proceso. Los contactos con OpenAI continúan precisamente para analizar las explicaciones y las acciones propuestas.

El momento de la notificación no se ha aclarado públicamente. Preguntado sobre si el informe se recibió antes o después de la publicación de la información por Reuters, Regnier solo confirmó que OpenAI lo transmitió después del incidente. No precisó la fecha de recepción ni formuló una conclusión sobre el cumplimiento de los plazos de notificación.

La Comisión vinculó la evaluación a las obligaciones previstas en el Reglamento europeo sobre inteligencia artificial, conocido como AI Act. Regnier recordó que los proveedores deben evaluar y reducir los riesgos y que el ejecutivo europeo dispone, desde principios de agosto, de competencias para hacer cumplir las normas. Estas obligaciones son pertinentes tanto para la información comunicada sobre el incidente como para las medidas de respuesta.

En la sesión informativa no se anunció ninguna conclusión sobre la suficiencia de las medidas de OpenAI ni sobre una infracción de las normas por parte de la empresa. La Comisión no hizo público el informe ni anunció sanciones o la apertura de un procedimiento formal; la evaluación de la información aún está en curso.

AI Act establece obligaciones diferentes en función del tipo de sistema o modelo y de los riesgos asociados. Para los modelos de inteligencia artificial de uso general con riesgo sistémico, el marco europeo prevé la notificación de incidentes graves, y la Comisión ha publicado un modelo de notificación específico.

La Oficina Europea de Inteligencia Artificial supervisa los modelos de uso general y puede solicitar documentación, evaluar modelos y exigir medidas correctivas. Estas competencias permiten verificar cómo cumplen los proveedores sus obligaciones, incluso cuando un incidente plantea problemas de seguridad.

La Oficina Europea de Inteligencia Artificial supervisa los modelos de uso general y puede solicitar documentación, evaluar modelos y exigir medidas correctivas. Estas competencias permiten verificar cómo cumplen los proveedores sus obligaciones, incluso cuando un incidente plantea problemas de seguridad.