CNN: L’IA ha generato informazioni errate che hanno innescato la preparazione dell’intercettazione di una nave cinese da parte dell’esercito statunitense

In primavera, durante la guerra con l’Iran, l’esercito statunitense ha preparato l’intercettazione di una nave cinese in Medio Oriente, dopo che un rapporto di intelligence aveva indicato erroneamente che l’imbarcazione trasportava componenti di un programma di armi nucleari. L’operazione non ha avuto luogo dopo la verifica delle informazioni, riferisce la CNN in un’inchiesta pubblicata venerdì.

Secondo quattro fonti citate dall’emittente statunitense, militari armati avrebbero dovuto salire a bordo della nave, mentre alcuni aerei militari erano già in volo. Il rapporto era stato redatto da un analista del comando per le operazioni speciali e diffuso all’interno dell’esercito statunitense.

Un’analisi supplementare ha rilevato che il documento era stato realizzato con l’aiuto di un chatbot. Lo strumento aveva combinato informazioni provenienti da fonti aperte con dati segreti SIGINT e aveva identificato erroneamente la natura del carico. Successivamente, l’analista avrebbe utilizzato l’IA anche per redigere il rapporto in formato standard di intelligence.

La CNN osserva che l’incidente avrebbe potuto provocare una grave escalation tra Stati Uniti e Cina. Il caso evidenzia i rischi della rapida integrazione dell’intelligenza artificiale nelle operazioni militari, in assenza di un unico insieme di standard per la verifica delle informazioni generate da questi sistemi. Il Pentagono promuove un maggiore utilizzo dell’IA, sostenendo che questa può accelerare le decisioni militari e aiutare gli Stati Uniti a non rimanere indietro rispetto alla Cina.