Grok, der von xAI entwickelte Chatbot, hat Sicherheitsmängel eingeräumt, nachdem Benutzer die Generierung sexualisierter Bilder von Minderjährigen gemeldet haben.

Der Grok-Chatbot, der von Elon Musks Firma xAI entwickelt wurde, hat die Existenz von "Mängeln in den Sicherheitsmaßnahmen" anerkannt, nachdem Nutzer die Generierung sexualisierter Bilder von Minderjährigen gemeldet hatten. Grok hat angekündigt, dass er "dringend" daran arbeitet, das Problem zu beheben, und betont, dass Materialien, die sexuellen Missbrauch von Kindern betreffen, illegal und strengstens verboten sind. Der Chatbot hat auch gewarnt, dass ein Unternehmen straf- oder zivilrechtlich verantwortlich gemacht werden kann, wenn es nicht gelingt, solche Inhalte zu verhindern. Parsa Tajik, Mitglied des technischen Teams von xAI, hat bestätigt, dass zusätzliche Maßnahmen zur Verstärkung der Sicherheitsfilter geprüft werden. Obwohl Grok nicht der einzige Chatbot ist, der mit solchen Problemen konfrontiert war, war er in frühere Kontroversen verwickelt, einschließlich antisemitischer Kommentare und Verweise auf einen angeblichen "Genozid an Weißen". Trotz dieser Vorfälle hat Grok weiterhin bedeutende Aufträge erhalten, einschließlich mit dem US-Verteidigungsministerium.