Grok hat den Zugang zum Bildgenerator nach dem Auftreten von sexualisierten Deepfakes eingeschränkt, was zu heftigen Reaktionen seitens der europäischen Behörden führte.

Der Chatbot Grok, entwickelt von Elon Musk, hat den Zugang zu seinem Bildgenerator aufgrund einer Welle sexualisierter Deepfakes, einschließlich solcher mit Frauen und Minderjährigen, eingeschränkt. Diese Entscheidung kam als Reaktion auf die Kritik von europäischen Behörden und Politikern, die das Phänomen als illegal und alarmierend bezeichneten.

Grok begann, eine Nachricht anzuzeigen, die die Generierung von Bildern nur für zahlende Abonnenten einschränkt, und berief sich auf die Notwendigkeit einer verantwortungsvollen Nutzung und Verbesserung der Schutzmaßnahmen. Die Europäische Kommission forderte die Plattform X auf, alle Dokumente bezüglich Grok aufzubewahren, wodurch die Untersuchung der Richtlinien zur Inhaltsmoderation intensiviert wurde. Nicht einvernehmliche sexuelle Deepfakes wurden von Beamten als 'illegal' und 'abscheulich' beschrieben, was die Schwere des Problems unterstreicht.