「兵士」世代のAIは、ヨーロッパでの反ウクライナのメッセージの拡散に使用されました

EDMOは、ウクライナ、難民、EU、ドイツ、ポーランドの政治に関するメッセージのために、ポーランドの軍人として提示されたキャラクターを使用しているFacebook、Instagram、TikTok、YouTubeのアカウントを特定しました。報告書はこの現象を「合成権威」と呼び、AIが実際の経験や信頼性のある立場から話しているように見える人々を作り出すために使用されていると説明しています。

AIで生成されたキャラクターがポーランドの軍人として提示され、ウクライナ、難民、EU、ドイツ、ポーランドの政治に関するメッセージを配信するために複数のソーシャルプラットフォームで使用されていると、欧州デジタルメディア観測所（EDMO）は述べています。「ポーランドの兵士の声」、「軍の声」、「ポーランド防衛」といった名前のアカウントがFacebook、Instagram、TikTok、YouTubeで特定され、報告書はこの技術を「合成権威」の一形態として説明しています。

要約

EDMOは、AIで生成されたキャラクターを実際のポーランドの軍人として提示するアカウントを特定しました。

「ポーランドの兵士の声」、「軍の声」、「ポーランド防衛」のアカウントは、Facebook、Instagram、TikTok、YouTubeで活動していました。

キャラクターはウクライナ、難民、EU、ドイツ、ポーランドの国内政治に関するメッセージに使用されていました。

EDMOはこの技術を「合成権威」と呼び、AIが本物の権威を持つように見える話者、証人、社会的役割を作り出すことを可能にすると述べています。

報告書は、ドイツの政治家アリス・ヴァイデルの本物の画像にAIで生成された声を重ねて、ウクライナのボロディミル・ゼレンスキー大統領に対する声明を作成するために使用されていることも特定しています。

EDMOが特定した戦術は、単なる偽の写真やビデオを作成することにとどまりません。人工知能は、存在するように見える人を構築し、議論されているテーマに関して権威を持つカテゴリの代表者として公に提示されるように使用されます。

ポーランドでは、Demagogが「ポーランドの兵士の声」、「軍の声」、「ポーランド防衛」と呼ばれるアカウントを特定し、Facebook、Instagram、TikTok、YouTubeの4つの主要なソーシャルプラットフォームで配信されていました。

公に兵士として提示されたキャラクターはAIで生成され、ウクライナやポーランドの戦争に関する関係、さらには難民、EU、ドイツ、ポーランドの国内政治に関するテーマについて話すために使用されていました。

軍事的外見は、報告書で説明されているメカニズムにとって重要です。安全や戦争に関するメッセージは、そのメッセージを伝える人が軍人として認識される場合、より信頼性があるように見える可能性があります。したがって、直接的な経験や内部情報へのアクセスがあると見なされます。

EDMOは、このようなキャラクターを「合成および欺瞞的なペルソナ」のより広いカテゴリーに含めています。これには、AIで生成された軍人、偽の専門家のアイデンティティ、公式グループを模倣して社会的信頼性を作り出すコミュニティが含まれます。

報告書は、この進展を「合成権威」の拡大と説明しています。人工知能は、存在しない話者、証人、社会的役割を作成するために使用されますが、それらは公に信頼できる情報源として提示されることができます。

この技術は、単なる匿名アカウントとは異なります。著者のアイデンティティを隠すのではなく、オペレーターは意図的に経験、職業、関連情報へのアクセスを示唆する視覚的および社会的アイデンティティを構築します。

EDMOが特定した別の例は、同じ技術が新しいキャラクターを完全に作成することなく使用できることを示しています。ジョージアでは、Myth Detectorが、ドイツのAfD党の共同議長アリス・ヴァイデルの本物の画像にAIで生成された声を重ねたロシア語のビデオを文書化しました。

生成された声は、彼女が本物の素材で表現していないウクライナのボロディミル・ゼレンスキー大統領に対する攻撃をヴァイデルに帰属させました。この場合、実在の人物の権威が、彼女が言っているように見えることを人工的に変更することによって悪用されました。

この2つの方法は、同じ結果を追求しています：メッセージが信じられる理由を持つ人から発信されているという印象を作り出すことです。一方では、軍人の全体のアイデンティティが作成され、もう一方では、実在の公人の声が作成されます。

EDMOは、合成権威の拡大を7月の重要な発見の1つと見なしています。生成技術は、コンテンツだけでなく、見かけ上それを伝える情報源も作成することを可能にします。

この違いは、誤情報が受け取られる方法を変える可能性があります。公衆はもはや著者のない主張を受け取るのではなく、経験と正当性の外見を与える兵士、専門家、または政治家を目にすることができます。

ポーランドで特定されたアカウントの場合、複数のプラットフォームでの配信により、同じ作られたアイデンティティが異なるデジタルエコシステムに現れることを可能にします。Facebook、Instagram、TikTok、YouTubeは異なるコンテンツ形式を提供しますが、キャラクターはメッセージの共通要素として保持されることができます。

EDMOは「合成権威」を2026年7月に観察された主要な操作技術の1つとして含めています。報告書は、人工知能が公衆が信頼できると考える職業的または社会的カテゴリを模倣するアイデンティティを作成するために使用されていることを示しています。

AIで生成されたポーランドの軍人のアカウントは、文書化された例の1つを表しています。彼らはFacebook、Instagram、TikTok、YouTubeでウクライナや他の政治的テーマに関するメッセージを配信しました。

この現象は、単なる偽の画像の作成とは異なります：これらのケースでは、AIはメッセージの表面上の著者とそれに関連する信頼性を構築するために使用されます。

https://2eu.brussels/ro/news/soldati-generati-cu-ai-au-fost-folositi-pentru-raspandirea-unor-mesaje-anti-ucrainene-in-europa