Le président de Microsoft, Brad Smith, demande des règles obligatoires pour les agents d’IA et des évaluations indépendantes avant leur lancement

Le président de Microsoft, Brad Smith, réclame l’instauration d’obligations légales pour les entreprises qui développent des systèmes d’intelligence artificielle, notamment l’obligation de notifier les personnes affectées lorsque les agents d’IA fonctionnent de manière imprévue ou deviennent incontrôlables. Ces déclarations ont été faites dans une interview accordée au podcast BBC Big Boss Interview.

Smith estime que les entreprises devraient disposer de mécanismes d’arrêt d’urgence, connus sous le nom de « kill switches », signaler les incidents et informer les utilisateurs concernés. Il propose également que les produits fondés sur l’IA soient évalués par des experts indépendants, désignés par les autorités, avant leur lancement, en fonction de leur niveau de risque.

« À l’heure actuelle, votre lave-linge est soumis à davantage de normes de sécurité que l’intelligence artificielle », a déclaré Smith, qualifiant cette technologie d’« outil et d’arme ».

Sa position diffère de celle du président américain Donald Trump, qui défend l’autorégulation du secteur afin que les entreprises américaines restent compétitives face à la Chine. Smith avertit que les règles volontaires ne suffisent pas, car les entreprises les moins responsables pourraient ignorer les normes.

Dans l’Union européenne, les obligations prévues par le règlement sur l’intelligence artificielle ont commencé à entrer en vigueur le 2 août. Ce régime prévoit des amendes pouvant atteindre 35 millions d’euros pour les infractions graves et interdit certaines utilisations de l’IA.