エロン・マスクのプラットフォームXは、カリフォルニアの調査と世界的な批判を受けて、チャットボットGrokが性的な画像を生成しないようにする措置を発表しました。

1月14日、イーロン・マスクが開発したプラットフォームXは、国際的な否定的反応を受けて、チャットボットGrokが人々の性的な画像を作成するのを防ぐための措置を発表しました。この決定は、カリフォルニア州の検事総長がGrokを開発している会社xAIに対して、性的に明示的な素材に関する調査を開始した後に下されました。Xは、これらの行為が違法である管轄区域において、水着や下着を着た人々の画像を作成するユーザーの能力を地理的にブロックします。

Xの安全チームは、挑発的な服装の実際の画像を編集するのを防ぐための技術的措置を実施したと述べています。また、画像の作成と編集機能は、有料のサブスクリプションユーザーのみに提供されます。欧州委員会は、Xが性的な画像の生成を禁止するために講じている追加措置を認識しました。ユーザーが性的なディープフェイクを作成できる「スパイシーモード」機能の導入により、xAIに対する世界的な圧力が高まりました。カリフォルニア州の検事総長ロブ・ボンタは、非同意の明示的な素材の制作を非難し、知事ギャビン・ニューサムは会社の責任を求めました。28の市民団体の連合は、AppleとGoogleに対してGrokとXをアプリストアから禁止するよう求めました。