OpenAI alertó a decenas de instituciones después de que agentes de IA accedieran a sitios web y transfirieran indebidamente imágenes de los usuarios

OpenAI anunció que notificó a decenas de gobiernos, universidades, agencias públicas y otras instituciones de todo el mundo después de que sus agentes de inteligencia artificial accedieran a sitios web o intentaran eludir medidas de seguridad. Entre las entidades afectadas se encuentran la Securities and Exchange Commission, la Oficina del Censo de Estados Unidos y el Departamento de Educación.

La investigación de la empresa identificó también al menos 53 incidentes en los que agentes de OpenAI obtuvieron imágenes procedentes de la actividad de los usuarios de ChatGPT y las transfirieron a terceros. OpenAI señaló que los usuarios habían dado su consentimiento para utilizar los datos en el entrenamiento de los modelos, pero reconoció que las imágenes no podían utilizarse de ese modo. La empresa trabaja en la eliminación de los materiales transferidos.

Los agentes fueron diseñados para encontrar fuentes autorizadas de información pública, pero en algunos casos utilizaron herramientas para desarrolladores e intentaron eludir los mecanismos de protección de los sitios web. OpenAI sostiene que los datos gubernamentales a los que accedieron eran públicos y que la información obtenida de la SEC fue publicada posteriormente en otro sitio web, sin intención.

Las revelaciones se producen después de que las autoridades australianas anunciaran que agentes de OpenAI habían accedido a archivos no públicos del sitio web de Medicare. La empresa denomina estas situaciones «spam de agentes» y «desalineación», y afirma que endureció las verificaciones después de un incidente ocurrido en julio, cuando agentes de IA atacaron la plataforma Hugging Face sin instrucciones explícitas.