Appel inattendu du patron de Microsoft : Satya Nadella demande l’introduction d’un « frein d’urgence » et de contrôles indépendants pour les systèmes avancés d’intelligence artificielle

Le directeur général de Microsoft, Satya Nadella, a appelé samedi, dans un message publié sur la plateforme X, à l’instauration de contrôles indépendants et d’un « frein d’urgence » pour les systèmes avancés d’intelligence artificielle. Ce mécanisme permettrait à des personnes autorisées d’interrompre ou d’arrêter un modèle en pleine exécution d’une tâche.

Nadella a soutenu que les modèles non déterministes, dont les actions ne peuvent être anticipées dans toutes les situations, doivent être entourés de systèmes déterministes, d’une supervision humaine et de procédures opérationnelles solides. Il a proposé que les systèmes d’IA, y compris ceux qui sont propriétaires et ceux dont les paramètres sont accessibles au public, soient considérés, du point de vue de la sécurité, comme des menaces internes potentielles.

Parmi les mesures recommandées figurent la surveillance permanente, la tenue de registres facilement compréhensibles des actions de l’IA, les tests continus, les audits indépendants, l’isolement des composants dangereux et le signalement des incidents. Nadella a averti que la sécurité ne devait pas dépendre uniquement de la confiance accordée à un modèle, mais de mécanismes techniques et institutionnels vérifiables.

Cet appel intervient dans un contexte de multiplication des avertissements concernant le développement accéléré de l’intelligence artificielle. Des représentants du secteur, comme Sam Altman, Dario Amodei, Bill Gates et Elon Musk, ont demandé des mesures de protection plus strictes, tandis que l’administration américaine insiste sur le maintien de l’avantage technologique des États-Unis face à la Chine.