La plateforme X d'Elon Musk a annoncé des mesures pour empêcher le chatbot Grok de générer des images sexualisées, suite à des critiques mondiales et à une enquête en Californie.

Le 14 janvier, la plateforme X, développée par Elon Musk, a annoncé des mesures pour empêcher le chatbot Grok de créer des images sexualisées de personnes, suite à une réaction internationale négative. Cette décision est intervenue après que le procureur général de Californie a lancé une enquête sur xAI, la société qui développe Grok, en raison de contenus sexuels explicites. X bloquera géographiquement la capacité des utilisateurs à créer des images de personnes en maillots de bain ou en lingerie dans les juridictions où ces actions sont illégales.

L'équipe de sécurité de X a déclaré avoir mis en place des mesures technologiques pour empêcher l'édition d'images réelles en vêtements provocants. De plus, la fonction de création et d'édition d'images ne sera disponible que pour les abonnés payants. La Commission européenne a pris note des mesures supplémentaires que X prend pour interdire la génération d'images sexualisées. La pression mondiale sur xAI a augmenté après que la fonction "Spicy Mode" a permis aux utilisateurs de créer des deepfakes sexualisés. Le procureur général de Californie, Rob Bonta, a condamné la production de contenus explicites non consensuels, et le gouverneur Gavin Newsom a appelé à la responsabilisation de l'entreprise. Une coalition de 28 groupes civiques a demandé à Apple et Google d'interdire Grok et X de leurs magasins d'applications.