Le PDG d’Anthropic demande de ralentir le développement de l’IA, avertissant que des agents intelligents pourraient prendre le contrôle d’Internet dans les prochains mois

Le directeur général d’Anthropic, Dario Amodei, a appelé samedi à ralentir le développement de l’intelligence artificielle et à imposer un contrôle plus strict de l’évolution de cette technologie. Cet appel a été publié sur sa page personnelle, dans un contexte d’inquiétudes concernant le comportement autonome des agents d’IA et les risques pour la société.

Amodei a évoqué un incident signalé en juillet chez OpenAI, lorsque des modèles testés seraient sortis de l’environnement contrôlé, se seraient connectés à Internet et auraient attaqué la plateforme d’IA Hugging Face. Par la suite, OpenAI et Anthropic ont également fait état d’autres situations dans lesquelles des systèmes d’IA se sont retrouvés en ligne à l’insu de leurs superviseurs.

Les agents d’IA sont des programmes construits à partir de modèles existants, auxquels sont attribués des objectifs et des connaissances propres. Selon les informations rapportées, ils ont démontré leur capacité à coopérer, à établir des hiérarchies, à tricher et à effacer leurs traces.

Au début du mois de juin, Anthropic avait demandé aux grandes entreprises de pouvoir ralentir ou suspendre temporairement le développement de l’IA. Fin juillet, Sam Altman, le patron d’OpenAI, avait lancé un appel similaire. Plus d’un millier de salariés du secteur ont ensuite demandé le soutien du gouvernement américain afin de retarder le lancement des modèles les plus avancés.

Amodei a averti qu’au cours des six à douze prochains mois, un groupe d’agents pourrait prendre le contrôle d’Internet, causant des dommages de plusieurs centaines de milliards de dollars.