Dario Amodei, le patron d’Anthropic, affirme qu’il est « davantage d’accord qu’en désaccord » avec l’avertissement selon lequel l’IA pourrait entraîner la disparition de l’humanité

Dario Amodei, directeur général d’Anthropic, l’entreprise qui développe le chatbot Claude, avertit que l’intelligence artificielle pourrait causer de graves préjudices à l’humanité et demande de ralentir le rythme de développement des modèles avancés. Ces déclarations ont été faites lors d’une interview accordée à CNN et dans un essai publié samedi.

Amodei a déclaré qu’il était « plutôt d’accord que pas d’accord » avec l’ancien chercheur d’Anthropic Jacob Coxon, qui a averti que l’IA pourrait éliminer l’humanité d’ici la fin de cette décennie. Le patron d’Anthropic soutient que la technologie pourrait être utilisée pour des cyberattaques, du bioterrorisme et de graves perturbations économiques.

Selon Amodei, les systèmes d’IA ont commencé à progresser beaucoup plus rapidement et pourraient parvenir à s’améliorer eux-mêmes, dans le cadre d’un processus appelé autoamélioration récursive. Il a averti qu’un essaim d’agents d’IA pourrait prendre le contrôle de vastes zones d’Internet en seulement six à 12 mois.

Pour réduire les risques, Amodei propose des évaluateurs externes, intégrés aux entreprises d’IA et ayant accès aux processus internes, sur le modèle des superviseurs du secteur bancaire. Sam Altman et Elon Musk ont publiquement soutenu cette idée. Amodei demande également aux gouvernements d’établir des normes internationales communes de sécurité.

Lire aussi Musk, Altman et Amodei demandent de ralentir le développement de l’IA, invoquant des risques qui pourraient devenir impossibles à contrôler