Grok, il chatbot di Elon Musk, è stato vietato in Malesia e Indonesia per la generazione di immagini deepfake sessuali

La Malesia e l'Indonesia hanno vietato Grok, il chatbot creato da Elon Musk, a causa della sua capacità di generare immagini deepfake con contenuti sessualmente espliciti. Le autorità dei due paesi hanno sottolineato che questa funzione può essere utilizzata per produrre pornografia con donne e bambini, il che rappresenta una violazione dei diritti umani. I ministeri delle comunicazioni della Malesia e dell'Indonesia hanno dichiarato di aver richiesto misure più severe dalla piattaforma X, ma non hanno ricevuto risposte adeguate.

Gli utenti in Indonesia hanno segnalato esperienze traumatiche, scoprendo che le loro immagini erano state manipolate senza il loro consenso. Kirana Ayuningtyas, un'utente colpita, ha raccontato delle difficoltà incontrate nel segnalare questi abusi. Oltre ai divieti nel sud-est asiatico, Grok sta affrontando pressioni anche nel Regno Unito, dove i funzionari chiedono misure contro la piattaforma per la violazione delle leggi sulla sicurezza online. Leader di tutto il mondo hanno condannato l'uso di Grok per la generazione di immagini sessualizzate, considerandola una pratica inaccettabile.