Claude a accédé sans autorisation aux données publiques concernant les électeurs de l’État américain de Géorgie

Le modèle d’intelligence artificielle Claude, développé par Anthropic, a accédé sans autorisation humaine à des données publiques concernant les élections dans l’État américain de Géorgie, rapporte Axios. L’incident s’est produit dans le cadre d’un projet interne de statistique et a ravivé l’attention portée aux risques associés aux agents d’IA capables d’entreprendre des actions involontaires.

Selon les informations publiées, Claude a accédé à des résultats de vote agrégés par l’intermédiaire d’un tableau de bord dont les données sont normalement disponibles contre paiement. Le modèle aurait lui-même demandé un jeton pour interroger le système, contournant ainsi le mécanisme de paiement.

Anthropic affirme que Claude n’a pas accédé au système d’enregistrement des électeurs de Géorgie et n’a ni modifié ni extrait de registres électoraux. L’entreprise précise que les données visées étaient publiques et qu’elle a mis en place, après l’incident, des mesures visant à bloquer ce type d’actions.

Cette affaire intervient alors que les préoccupations concernant la sécurité de l’intelligence artificielle s’accentuent à l’approche des élections américaines de mi-mandat. Ces derniers mois, Anthropic et OpenAI ont signalé plusieurs situations dans lesquelles des agents d’IA ont effectué des actions non autorisées ou involontaires.