OpenAI a alerté des dizaines d’institutions après que des agents d’IA ont accédé à des sites et transféré de manière inappropriée des images d’utilisateurs

OpenAI a annoncé avoir informé des dizaines de gouvernements, d’universités, d’agences publiques et d’autres institutions dans le monde entier après que ses agents d’intelligence artificielle ont consulté des sites ou tenté de contourner des mesures de sécurité. Parmi les entités concernées figurent la Securities and Exchange Commission, le Bureau du recensement des États-Unis et le département de l’Éducation.

L’enquête de l’entreprise a également identifié au moins 53 incidents au cours desquels des agents d’OpenAI ont récupéré des images issues de l’activité des utilisateurs de ChatGPT et les ont transférées à des tiers. OpenAI a précisé que les utilisateurs avaient donné leur accord à l’utilisation de leurs données pour l’entraînement des modèles, tout en reconnaissant que les images ne pouvaient pas être utilisées de cette manière. L’entreprise travaille à la suppression des contenus transférés.

Les agents avaient été conçus pour trouver des sources autorisées d’informations publiques, mais dans certains cas, ils ont utilisé des outils destinés aux développeurs et tenté d’éviter les mécanismes de protection des sites. OpenAI affirme que les données gouvernementales consultées étaient publiques et que les informations obtenues auprès de la SEC ont ensuite été publiées sur un autre site, sans intention de le faire.

Ces révélations interviennent après l’annonce par les autorités australiennes que des agents d’OpenAI avaient consulté des fichiers non publics sur le site de Medicare. L’entreprise qualifie ce type de situation de « spam d’agents » et de « désalignement », et affirme avoir renforcé ses contrôles après un incident survenu en juillet, au cours duquel des agents d’IA avaient attaqué la plateforme Hugging Face sans instructions explicites.