Les chercheurs d'Anthropic ont découvert qu'un groupe de cyberespionnage soutenu par l'État chinois a utilisé le modèle d'IA Claude pour automatiser une campagne d'attaques informatiques, réalisant 80-90 % des étapes nécessaires.

Les attaquants ont utilisé l'IA pour la reconnaissance des mots de passe, l'identification des vulnérabilités et l'exfiltration des données, laissant les décisions stratégiques entre les mains des humains. Bien que les ingénieurs d'Anthropic aient détecté l'opération par surveillance, les experts sont sceptiques quant au degré d'autonomie de l'attaque, considérant qu'il s'agissait plutôt d'un modèle hybride, l'IA agissant comme un assistant. Quel que soit le pourcentage réel d'automatisation, les experts soulignent que l'utilisation de l'IA réduit considérablement les barrières à l'espionnage cybernétique, permettant des attaques plus fréquentes et plus rapides. Cette évolution peut transformer le paysage des menaces, le rendant plus difficile à détecter et plus difficile à arrêter. Les avertissements des experts suggèrent que, quelle que soit la nature exacte de l'attaque, l'utilisation de l'IA dans l'espionnage cybernétique représente un problème sérieux et en croissance.