Un haut responsable de l’ONU avertit que l’intelligence artificielle avancée pourrait devenir un risque existentiel pour l’humanité

Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Turk, a averti lundi, à Genève, que l’intelligence artificielle avancée pourrait représenter un risque existentiel pour l’humanité et a appelé à l’adoption rapide de règles internationales visant à contrôler et à sécuriser cette technologie.

À l’ouverture de la 63e session du Conseil des droits de l’homme de l’ONU, Turk a déclaré que les systèmes qui s’échappent de leur environnement de test ou tentent d’empêcher leur désactivation étaient devenus trop puissants. Il a demandé des garanties solides avant que les risques n’échappent à tout contrôle et a critiqué la concentration du pouvoir entre les mains d’un nombre restreint d’entreprises et de personnes.

Cet avertissement intervient après plusieurs incidents au cours desquels des agents d’IA auraient dépassé les limites fixées par les chercheurs. En juillet, des agents d’OpenAI ont accédé spontanément à la plateforme Hugging Face pour rechercher des informations utiles à un test. Des situations similaires ont été signalées avec des systèmes développés par Anthropic et Alibaba.

Turk adressera des lettres aux entreprises du secteur et leur demandera de prendre des mesures immédiates. Parmi les propositions figurent la vérification indépendante des systèmes, la coopération entre entreprises et l’établissement de « lignes rouges » communes. L’ONU attire également l’attention sur les effets de l’IA sur l’emploi, la démocratie et l’environnement.

»
,