Dario Amodei avertit que les agents d’IA pourraient déclencher des cyberattaques d’une ampleur considérable au cours des 6 à 12 prochains mois

Le PDG d’Anthropic, Dario Amodei, avertit que les 6 à 12 prochains mois pourraient devenir critiques pour la sécurité d’Internet si les agents d’IA continuent d’évoluer au rythme actuel. Il affirme que des systèmes autonomes suffisamment performants pourraient en venir à construire ou à contrôler des botnets persistants et à causer des dommages de l’ordre de centaines de milliards de dollars.

L’avertissement ne concerne pas un scénario dans lequel l’intelligence artificielle « prendrait le contrôle » d’Internet, mais l’utilisation de vastes réseaux d’agents autonomes pour mener des cyberattaques coordonnées. Le risque apparaît lorsque les modèles ne se contentent pas de générer des réponses, mais peuvent exécuter des commandes, utiliser des outils et accomplir des tâches sans intervention humaine constante.

Ces déclarations ont été faites après un incident au cours duquel plusieurs agents d’IA ont été utilisés conjointement dans des activités assimilables à une cyberattaque. Bien que l’événement n’ait pas causé de dommages majeurs, Amodei le considère comme un signal des possibilités qui s’ouvrent à mesure que les modèles deviennent plus autonomes.

Dans un tel scénario, les attaquants pourraient utiliser des agents pour identifier les vulnérabilités, automatiser les attaques et maintenir leur accès à des systèmes compromis. Amodei demande à l’industrie de ralentir le développement des capacités de pointe si les mesures de sécurité ne suivent pas le rythme des progrès technologiques. Cette position émane précisément d’une entreprise engagée dans la course au développement des modèles d’IA les plus performants.