X ha implementato misure per prevenire gli abusi sessuali, ma Grok Imagine può generare immagini sessualizzate, attirando critiche da parte delle organizzazioni per i diritti delle donne.

All'inizio della settimana, la compagnia X ha annunciato l'implementazione di 'strumenti tecnologici' per prevenire l'uso di Grok nella modifica delle immagini reali delle persone a scopo sessuale. I rappresentanti della compagnia hanno sottolineato la 'tolleranza zero' nei confronti della nudità non consensuale e dello sfruttamento sessuale. Tuttavia, un'inchiesta di The Guardian ha rivelato che l'applicazione Grok Imagine rimane accessibile tramite browser, consentendo la generazione di immagini e video sessualizzati da fotografie comuni. Questi materiali possono essere rapidamente distribuiti sulla piattaforma X, diventando accessibili al pubblico.

Le organizzazioni per i diritti delle donne hanno criticato la compagnia, affermando che l'esistenza di un metodo per eludere le restrizioni dimostra la mancanza di azione reale. Gli attivisti hanno richiesto l'intervento delle autorità, sottolineando che la disponibilità di questi strumenti costituisce una grave violazione del consenso. Il primo ministro britannico Keir Starmer ha descritto le immagini generate dall'AI come 'scandalose', affermando che la libertà di espressione non giustifica la violazione del diritto al consenso.

Ofcom ha avviato un'indagine per valutare la conformità di X con la legislazione sulla sicurezza online, e indagini simili si stanno svolgendo in altri paesi. Il problema Grok solleva interrogativi sulla responsabilità delle aziende tecnologiche nel contesto dello sviluppo dell'intelligenza artificiale. Sebbene l'AI generativa sia vista come uno strumento innovativo, gli esperti avvertono che senza regolamentazioni rigorose, essa può facilitare il molestare e l'abuso, in particolare contro le donne. La pressione sulla piattaforma X sta aumentando, e le conclusioni delle indagini potrebbero portare a cambiamenti significativi nel modo in cui queste tecnologie vengono gestite.