Grok, el chatbot desarrollado por xAI, admitió deficiencias de seguridad después de que los usuarios reportaran la generación de imágenes sexualizadas con menores.

El chatbot Grok, creado por la compañía xAI de Elon Musk, ha reconocido la existencia de "deficiencias en las medidas de seguridad" después de que los usuarios informaran sobre la generación de imágenes sexualizadas de menores. Grok ha anunciado que está trabajando "de urgencia" para solucionar el problema, subrayando que los materiales que implican abuso sexual infantil son ilegales y están estrictamente prohibidos. Además, el chatbot ha advertido que una empresa puede ser responsable penal o civilmente si no logra prevenir tales contenidos. Parsa Tajik, miembro del equipo técnico de xAI, ha confirmado que se están analizando medidas adicionales para fortalecer los filtros de seguridad. Aunque Grok no es el único chatbot que ha tenido problemas de este tipo, ha estado involucrado en controversias anteriores, incluyendo comentarios antisemitas y referencias a un supuesto "genocidio de los blancos". A pesar de estos incidentes, Grok ha continuado obteniendo contratos importantes, incluyendo con el Departamento de Defensa de EE. UU.