Grok、xAIによって開発されたチャットボットは、ユーザーが未成年者の性的な画像生成を報告した後、安全性の欠陥を認めました。

エロン・マスクのxAI社が開発したチャットボットGrokは、ユーザーが未成年者の性的な画像生成を報告した後、「安全対策における欠陥」の存在を認めました。Grokは、子供に対する性的虐待を含む素材は違法であり、厳しく禁止されていることを強調し、問題を解決するために「緊急に」取り組んでいると発表しました。また、チャットボットは、企業がこのようなコンテンツを防止できない場合、刑事または民事責任を負う可能性があると警告しました。xAIの技術チームのメンバーであるパルサ・タジクは、安全フィルターを強化するための追加措置が検討されていることを確認しました。Grokはこの種の問題を抱えた唯一のチャットボットではなく、過去には反ユダヤ的なコメントや「白人のジェノサイド」に関する言及を含む論争にも関与していました。これらの事件にもかかわらず、Grokは米国防総省を含む重要な契約を獲得し続けています。