X a implementat măsuri pentru a preveni abuzurile sexuale, dar Grok Imagine poate genera imagini sexualizate, atrăgând critici din partea organizațiilor pentru drepturile femeilor

La începutul săptămânii, compania X a anunțat implementarea unor 'instrumente tehnologice' pentru a preveni utilizarea Grok în modificarea imaginilor reale ale oamenilor în scop sexual. Reprezentanții companiei au subliniat 'toleranța zero' față de nuditatea nonconsensuală și exploatarea sexuală. Totuși, o anchetă a The Guardian a relevat că aplicația Grok Imagine rămâne accesibilă prin browser, permițând generarea de imagini și videoclipuri sexualizate din fotografii obișnuite. Aceste materiale pot fi distribuite rapid pe platforma X, devenind accesibile publicului.

Organizațiile pentru drepturile femeilor au criticat compania, afirmând că existența unei metode de ocolire a restricțiilor demonstrează lipsa de acțiune reală. Activistii au solicitat intervenția autorităților, subliniind că disponibilitatea acestor instrumente constituie o încălcare gravă a consimțământului. Premierul britanic Keir Starmer a descris imaginile generate de AI ca fiind 'scandaloase', afirmând că libertatea de exprimare nu justifică încălcarea dreptului la consimțământ.

Ofcom a demarat o investigație pentru a evalua conformitatea X cu legislația privind siguranța online, iar anchete similare au loc în alte țări. Problema Grok ridică întrebări despre responsabilitatea companiilor tehnologice în contextul dezvoltării inteligenței artificiale. Deși AI-ul generativ este văzut ca un instrument inovator, specialiștii avertizează că fără reglementări stricte, acesta poate facilita hărțuirea și abuzul, în special împotriva femeilor. Presiunea asupra platformei X crește, iar concluziile investigațiilor ar putea duce la schimbări semnificative în modul în care sunt gestionate aceste tehnologii.