Xは性的虐待を防ぐための措置を講じましたが、Grok Imagineは性的な画像を生成し、女性の権利団体から批判を受けています。

週の初めに、X社は、性的目的で人々の実際の画像を変更するためのGrokの使用を防ぐための「技術的手段」の実施を発表しました。会社の代表者は、非同意のヌードや性的搾取に対して「ゼロトレランス」を強調しました。しかし、The Guardianの調査によると、Grok Imagineアプリはブラウザを通じてアクセス可能であり、通常の写真から性的な画像や動画を生成することができます。これらの素材はXプラットフォーム上で迅速に配布され、一般に公開されることになります。

女性の権利団体は、制限を回避する方法が存在することは、実際の行動の欠如を示していると批判しました。活動家たちは、これらのツールの利用可能性が同意の重大な侵害を構成すると強調し、当局の介入を求めました。英国の首相キア・スターマーは、AIによって生成された画像を「スキャンダラス」と表現し、表現の自由は同意の権利の侵害を正当化しないと述べました。

Ofcomは、X社のオンライン安全に関する法律遵守を評価するための調査を開始し、他の国でも同様の調査が行われています。Grokの問題は、人工知能の発展におけるテクノロジー企業の責任についての疑問を提起しています。生成AIは革新的なツールと見なされていますが、専門家は厳しい規制がない場合、特に女性に対するハラスメントや虐待を助長する可能性があると警告しています。Xプラットフォームへの圧力が高まっており、調査の結果はこれらの技術の管理方法に重要な変化をもたらす可能性があります。