グロック、イーロン・マスクのチャットボットは、マレーシアとインドネシアで性的ディープフェイク画像の生成のために禁止されました。

マレーシアとインドネシアは、エロン・マスクが作成したチャットボットGrokを禁止しました。これは、明示的な性的内容を含むディープフェイク画像を生成する能力があるためです。両国の当局は、この機能が女性や子供のポルノを制作するために使用される可能性があることを強調しており、これは人権の侵害を意味します。マレーシアとインドネシアの通信省は、プラットフォームXに対してより厳しい措置を求めたと述べていますが、適切な回答は得られていません。

インドネシアのユーザーは、自分の画像が同意なしに操作されていることを発見し、トラウマ的な体験を報告しています。影響を受けたユーザーのキラナ・アユニンギティアスは、これらの虐待を報告する際に直面した困難について語りました。東南アジアの禁止措置に加えて、Grokはイギリスでも圧力に直面しており、当局はオンライン安全法を遵守していないプラットフォームに対する措置を求めています。世界中のリーダーたちは、Grokを使用して性的な画像を生成することを非難し、それを受け入れがたい行為と見なしています。