X intézkedéseket hozott a szexuális visszaélések megelőzésére, de a Grok Imagine szexuálisan provokatív képeket generál, ami kritikákat vonz a női jogi szervezetek részéről.

A hét elején az X cég bejelentette, hogy 'technológiai eszközöket' vezet be a Grok használatának megakadályozására, amely a valós emberek képeinek szexuális célú módosítására irányul. A cég képviselői hangsúlyozták a 'nulla tolerancia' elvét a nem konszenzusos meztelenséggel és a szexuális kihasználással szemben. Ennek ellenére a The Guardian nyomozása feltárta, hogy a Grok Imagine alkalmazás továbbra is elérhető böngészőn keresztül, lehetővé téve szexuálisan színezett képek és videók generálását hétköznapi fényképekből. Ezek az anyagok gyorsan terjeszthetők az X platformon, így a nyilvánosság számára is hozzáférhetővé válnak.

A női jogi szervezetek kritizálták a céget, kijelentve, hogy a korlátozások megkerülésének lehetősége a valós cselekvés hiányát mutatja. Az aktivisták a hatóságok beavatkozását kérték, hangsúlyozva, hogy ezeknek az eszközöknek a rendelkezésre állása súlyos megsértése a beleegyezésnek. Keir Starmer brit miniszterelnök az AI által generált képeket 'botrányosnak' nevezte, kijelentve, hogy a szólásszabadság nem indokolja a beleegyezés jogának megsértését.

Az Ofcom vizsgálatot indított az X online biztonsági törvényeknek való megfelelőségének értékelésére, és hasonló nyomozások zajlanak más országokban is. A Grok problémája kérdéseket vet fel a technológiai cégek felelősségéről a mesterséges intelligencia fejlesztésének kontextusában. Bár a generatív AI innovatív eszköznek számít, a szakértők figyelmeztetnek arra, hogy szigorú szabályozások nélkül ez elősegítheti a zaklatást és a visszaélést, különösen a nőkkel szemben. A nyomás az X platformon nő, és a nyomozások következtetései jelentős változásokhoz vezethetnek a technológiák kezelésében.