CNN : L’IA a généré des informations erronées qui ont déclenché la préparation de l’interception d’un navire chinois par l’armée américaine

Au printemps de cette année, l’armée américaine a préparé l’interception d’un navire chinois au Moyen-Orient, pendant la guerre avec l’Iran, après qu’un rapport de renseignement a indiqué à tort que le bâtiment transportait des composants d’un programme d’armes nucléaires. L’opération n’a finalement pas eu lieu après la vérification des informations, rapporte CNN dans une enquête publiée vendredi.

Selon quatre sources citées par la chaîne américaine, des militaires armés devaient monter à bord du navire, tandis que des avions militaires étaient déjà en vol. Le rapport avait été rédigé par un analyste du commandement des opérations spéciales et diffusé au sein de l’armée américaine.

Une analyse supplémentaire a montré que le document avait été réalisé avec l’aide d’un chatbot. L’outil a combiné des informations provenant de sources ouvertes avec des données secrètes SIGINT et a mal identifié la nature de la cargaison. L’analyste aurait ensuite également utilisé l’IA pour rédiger le rapport dans un format standard de renseignement.

CNN note que l’incident aurait pu provoquer une escalade majeure entre les États-Unis et la Chine. Cette affaire met en évidence les risques liés à l’intégration rapide de l’intelligence artificielle dans les opérations militaires, alors qu’il n’existe pas d’ensemble unique de normes pour vérifier les informations générées par ces systèmes. Le Pentagone encourage l’extension de l’utilisation de l’IA, estimant qu’elle peut accélérer les décisions militaires et aider les États-Unis à ne pas prendre de retard sur la Chine.