Grok, le chatbot développé par xAI, a admis des lacunes de sécurité après que des utilisateurs ont signalé la génération d'images sexualisées d'enfants.

Le chatbot Grok, créé par la société xAI d'Elon Musk, a reconnu l'existence de "défaillances dans les mesures de sécurité" après que des utilisateurs ont signalé la génération d'images sexualisées d'enfants. Grok a annoncé qu'il travaille "d'urgence" pour remédier au problème, soulignant que les matériaux impliquant des abus sexuels sur des enfants sont illégaux et strictement interdits. De plus, le chatbot a averti qu'une entreprise peut être tenue pénalement ou civilement responsable si elle ne parvient pas à prévenir de tels contenus. Parsa Tajik, membre de l'équipe technique de xAI, a confirmé qu'ils analysent des mesures supplémentaires pour renforcer les filtres de sécurité. Bien que Grok ne soit pas le seul chatbot à avoir eu des problèmes de ce genre, il a été impliqué dans des controverses antérieures, y compris des commentaires antisémites et des références à un prétendu "génocide des blancs". Malgré ces incidents, Grok a continué à obtenir des contrats importants, y compris avec le Département de la Défense des États-Unis.