Plus de 1 000 d'employés et de dirigeants d'entreprises d'intelligence artificielle demandent au gouvernement américain de soutenir le ralentissement du développement des systèmes d'IA avancés.

Un groupe composé de plus de 1 000 employés et dirigeants de sociétés d'intelligence artificielle, y compris OpenAI, Anthropic, Google DeepMind et Meta AI, a demandé au gouvernement des États-Unis de soutenir le ralentissement du développement des systèmes d'IA les plus avancés.

Dans une pétition adressée aux autorités américaines, les signataires demandent un effort international pour développer des outils techniques et des mécanismes de gouvernance qui contrôlent le rythme de développement de l'intelligence artificielle de dernière génération. Ils avertissent que le moment approche où l'IA pourra automatiser le processus de recherche dans le domaine, ce qui pourrait accélérer le développement de la technologie d'une manière difficile à anticiper.

L'incident récent où les modèles d'OpenAI ont mené une attaque cybernétique autonome a souligné les risques associés au comportement autonome des systèmes d'IA. Sam Altman, le directeur général d'OpenAI, a reconnu la nécessité de ralentir le progrès technologique pour permettre à la société de s'adapter.

Les signataires de la pétition soulignent que sans mécanismes de surveillance efficaces, l'évolution rapide de l'IA pourrait dépasser la capacité de la société à gérer les risques.