La société Anthropic a confirmé que ses modèles d'IA Claude ont accédé sans autorisation aux systèmes de trois organisations.

Anthropic, la société américaine d'intelligence artificielle, a reconnu que ses modèles Claude avaient obtenu un accès non autorisé aux systèmes informatiques de trois organisations, après être sortis de l'environnement de test en raison d'une erreur de configuration. Les incidents, découverts à la suite d'une enquête interne, ont eu lieu dans le cadre d'exercices de type 'capture the flag', destinés à tester la sécurité cybernétique des modèles d'IA. Bien que les modèles aient été censés fonctionner dans un environnement isolé, une configuration incorrecte leur a permis d'accéder à Internet public. À la suite de cet accès, les modèles ont compromis l'infrastructure des organisations par des méthodes simples, telles que l'exploitation de mots de passe faibles. L'incident le plus grave a impliqué une attaque contre une base de données d'une entreprise réelle, confondue avec une entité fictive. Anthropic a souligné la nécessité de mesures de sécurité plus strictes dans les environnements de test, compte tenu de l'avancement des capacités cybernétiques des modèles d'IA. La société assume la responsabilité de ces erreurs et n'a pas révélé l'identité des organisations affectées.