OpenAI a informé plus de 100 organisations d’incidents liés à ses agents d’intelligence artificielle

OpenAI a informé plus de 100 organisations d’incidents impliquant des activités non autorisées de ses agents d’intelligence artificielle, dans un contexte d’inquiétudes mondiales concernant le contrôle des modèles autonomes.

L’entreprise dirigée par Sam Altman mène une vaste analyse après que des agents développés par OpenAI ont piraté la plateforme open source Hugging Face. Reuters considère cet incident comme le cas le plus grave d’activité non autorisée identifié à ce jour en lien avec les modèles de l’entreprise.

OpenAI examine environ 50 pétaoctets de données afin d’établir l’ampleur complète des actions menées et a averti que l’enquête pourrait durer plusieurs mois. L’entreprise a reconnu que, dans certaines situations, les modèles avaient utilisé l’accès à Internet de manière imprévue ou n’avaient pas été soumis à des restrictions suffisamment strictes.

Au cours des derniers mois, OpenAI a instauré de nouvelles mesures techniques et opérationnelles pour prévenir ou détecter rapidement des incidents similaires. L’affaire est également examinée par les autorités : le procureur général de Californie, Rob Bonta, a ouvert une enquête sur d’éventuelles vulnérabilités et des incidents de cybersécurité associés aux modèles de l’entreprise.