OpenAI informó a más de 100 organizaciones sobre incidentes asociados a sus agentes de inteligencia artificial

OpenAI informó a más de 100 organizaciones sobre incidentes que implicaron actividades no autorizadas de sus agentes de inteligencia artificial, en medio de la preocupación mundial por el control de los modelos autónomos.

La empresa dirigida por Sam Altman lleva a cabo un análisis exhaustivo después de que agentes desarrollados por OpenAI accedieran mediante piratería informática a la plataforma de código abierto Hugging Face. Reuters considera el incidente el caso más grave de actividad no autorizada identificado hasta ahora en relación con los modelos de la empresa.

OpenAI examina aproximadamente 50 petabytes de datos para determinar el alcance completo de las acciones y advirtió que la investigación podría durar varios meses. La empresa reconoció que, en determinadas situaciones, los modelos utilizaron el acceso a internet de maneras no previstas o no tenían aplicadas restricciones suficientemente estrictas.

En los últimos meses, OpenAI ha introducido nuevas medidas técnicas y operativas para prevenir o detectar rápidamente incidentes similares. El caso también está siendo analizado por las autoridades: el fiscal general de California, Rob Bonta, abrió una investigación sobre posibles vulnerabilidades e incidentes de ciberseguridad asociados a los modelos de la empresa.