La piattaforma X di Elon Musk ha annunciato misure per prevenire che il chatbot Grok generi immagini sessualizzate, a seguito di critiche globali e di un'indagine in California.

Il 14 gennaio, la piattaforma X, sviluppata da Elon Musk, ha annunciato misure per impedire al chatbot Grok di creare immagini sessualizzate di persone, a seguito di una reazione internazionale negativa. Questa decisione è arrivata dopo che il procuratore generale della California ha avviato un'indagine su xAI, l'azienda che sviluppa Grok, a causa di materiali sessualmente espliciti. X bloccherà geograficamente la capacità degli utenti di creare immagini di persone in costumi da bagno o lingerie nelle giurisdizioni dove queste azioni sono illegali.

Il team di sicurezza di X ha dichiarato di aver implementato misure tecnologiche per impedire la modifica di immagini reali in abbigliamento provocante. Inoltre, la funzione di creazione e modifica delle immagini sarà disponibile solo per gli abbonati paganti. La Commissione Europea ha preso atto delle misure aggiuntive che X sta adottando per vietare la generazione di immagini sessualizzate. La pressione globale su xAI è aumentata dopo che la funzione "Spicy Mode" ha permesso agli utenti di creare deepfake sessualizzati. Il procuratore generale della California, Rob Bonta, ha condannato la produzione di materiali espliciti non consensuali, e il governatore Gavin Newsom ha chiesto la responsabilizzazione dell'azienda. Una coalizione di 28 gruppi civici ha chiesto ad Apple e Google di vietare Grok e X dai loro negozi di applicazioni.