X ha implementado medidas para prevenir los abusos sexuales, pero Grok Imagine puede generar imágenes sexualizadas, atrayendo críticas por parte de organizaciones por los derechos de las mujeres.

A principios de la semana, la compañía X anunció la implementación de 'herramientas tecnológicas' para prevenir el uso de Grok en la modificación de imágenes reales de personas con fines sexuales. Los representantes de la compañía subrayaron la 'tolerancia cero' frente a la desnudez no consensuada y la explotación sexual. Sin embargo, una investigación de The Guardian reveló que la aplicación Grok Imagine sigue siendo accesible a través del navegador, permitiendo la generación de imágenes y videos sexualizados a partir de fotografías comunes. Estos materiales pueden ser distribuidos rápidamente en la plataforma X, volviéndose accesibles al público.

Las organizaciones por los derechos de las mujeres han criticado a la compañía, afirmando que la existencia de un método para eludir las restricciones demuestra la falta de acción real. Los activistas han solicitado la intervención de las autoridades, subrayando que la disponibilidad de estas herramientas constituye una grave violación del consentimiento. El primer ministro británico Keir Starmer describió las imágenes generadas por IA como 'escandalosas', afirmando que la libertad de expresión no justifica la violación del derecho al consentimiento.

Ofcom ha iniciado una investigación para evaluar la conformidad de X con la legislación sobre seguridad en línea, y se están llevando a cabo investigaciones similares en otros países. El problema de Grok plantea preguntas sobre la responsabilidad de las empresas tecnológicas en el contexto del desarrollo de la inteligencia artificial. Aunque la IA generativa se ve como una herramienta innovadora, los especialistas advierten que sin regulaciones estrictas, puede facilitar el acoso y el abuso, especialmente contra las mujeres. La presión sobre la plataforma X está aumentando, y las conclusiones de las investigaciones podrían llevar a cambios significativos en la forma en que se gestionan estas tecnologías.