CNN: KI generierte fehlerhafte Informationen, die die Vorbereitung des Abfangens eines chinesischen Schiffes durch das US-Militär auslösten

Das US-Militär bereitete im Frühjahr dieses Jahres während des Krieges mit dem Iran das Abfangen eines chinesischen Schiffs im Nahen Osten vor, nachdem ein Geheimdienstbericht fälschlicherweise angegeben hatte, dass das Schiff Komponenten eines Atomwaffenprogramms transportierte. Die Operation fand nach einer Überprüfung der Informationen nicht statt, berichtet CNN in einer am Freitag veröffentlichten Untersuchung.

Nach Angaben von vier von dem US-Sender zitierten Quellen sollten bewaffnete Soldaten an Bord des Schiffs gehen, während sich Militärflugzeuge bereits in der Luft befanden. Der Bericht war von einem Analysten des Kommandos für Spezialoperationen erstellt und innerhalb der US-Armee verbreitet worden.

Eine zusätzliche Analyse ergab, dass das Dokument mithilfe eines Chatbots erstellt worden war. Das Tool kombinierte Informationen aus offenen Quellen mit geheimen SIGINT-Daten und identifizierte die Art der Ladung fälschlicherweise. Der Analyst soll anschließend auch KI für die Ausarbeitung des Berichts im standardisierten Format für Geheimdienstberichte verwendet haben.

CNN weist darauf hin, dass der Vorfall eine erhebliche Eskalation zwischen den Vereinigten Staaten und China hätte auslösen können. Der Fall verdeutlicht die Risiken der raschen Integration künstlicher Intelligenz in militärische Operationen, da es keine einheitlichen Standards für die Überprüfung der von diesen Systemen erzeugten Informationen gibt. Das Pentagon setzt sich für eine Ausweitung des KI-Einsatzes ein und argumentiert, dass dieser militärische Entscheidungen beschleunigen und den USA helfen könne, gegenüber China nicht ins Hintertreffen zu geraten.