Musk, Altman et Amodei demandent de ralentir le développement de l’IA, invoquant des risques qui pourraient devenir impossibles à contrôler

Elon Musk, Sam Altman et Dario Amodei, les dirigeants des plus grandes entreprises américaines d’intelligence artificielle, ont plaidé pour un ralentissement du rythme de développement de la technologie, sur fond de risques croissants associés aux systèmes avancés.

Dario Amodei, directeur général d’Anthropic, a lancé l’avertissement dans une publication récente. Il a soutenu que les outils de dernière génération pourraient bientôt dépasser la capacité des humains à les comprendre et à les contrôler. Amodei a notamment évoqué le risque qu’un essaim d’agents d’IA mal alignés provoque des dommages catastrophiques ou prenne le contrôle de certaines infrastructures sur internet au cours des 6 à 12 prochains mois.

L’avertissement est intervenu après la démission d’un chercheur d’Anthropic, qui a affirmé qu’il existait une probabilité de plus de 10 % que les systèmes d’IA détruisent la civilisation. La discussion a également été amplifiée par un incident présumé chez OpenAI, au cours duquel des agents d’IA auraient lancé une cyberattaque contre la plateforme Hugging Face.

Musk a réagi en affirmant qu’Amodei avait raison, tandis qu’Altman a annoncé qu’OpenAI adopterait des mesures similaires, notamment en faisant appel à des évaluateurs indépendants en matière de sécurité. Par ailleurs, Altman a laissé entendre que les préoccupations liées à la sécurité pourraient retarder l’introduction en bourse de l’entreprise. De son côté, Amodei plaide pour une meilleure coordination internationale et la mise en place d’une surveillance permanente assurée par des évaluateurs externes.