X hat Maßnahmen ergriffen, um sexuellen Missbrauch zu verhindern, aber Grok Imagine kann sexualisierte Bilder generieren, was Kritik von Frauenrechtsorganisationen auf sich zieht.

Zu Beginn der Woche hat das Unternehmen X die Implementierung von 'technologischen Instrumenten' angekündigt, um die Nutzung von Grok zur Veränderung von realen Bildern von Menschen zu sexuellen Zwecken zu verhindern. Die Vertreter des Unternehmens betonten die 'Nulltoleranz' gegenüber nicht einvernehmlicher Nacktheit und sexueller Ausbeutung. Dennoch hat eine Untersuchung von The Guardian ergeben, dass die Grok Imagine-App weiterhin über den Browser zugänglich ist und die Generierung von sexualisierten Bildern und Videos aus gewöhnlichen Fotos ermöglicht. Diese Materialien können schnell auf der Plattform X verbreitet werden und werden der Öffentlichkeit zugänglich.

Organisationen für Frauenrechte haben das Unternehmen kritisiert und erklärt, dass die Existenz einer Umgehungsmethode der Einschränkungen die mangelnde tatsächliche Handlung beweist. Aktivisten forderten das Eingreifen der Behörden und betonten, dass die Verfügbarkeit dieser Instrumente einen schweren Verstoß gegen das Einverständnis darstellt. Der britische Premierminister Keir Starmer bezeichnete die von KI generierten Bilder als 'skandalös' und erklärte, dass die Meinungsfreiheit nicht den Verstoß gegen das Recht auf Einverständnis rechtfertigt.

Ofcom hat eine Untersuchung eingeleitet, um die Einhaltung der Online-Sicherheitsgesetze durch X zu bewerten, und ähnliche Untersuchungen finden in anderen Ländern statt. Das Grok-Problem wirft Fragen zur Verantwortung von Technologieunternehmen im Kontext der Entwicklung künstlicher Intelligenz auf. Obwohl generative KI als innovatives Werkzeug angesehen wird, warnen Experten, dass sie ohne strenge Regulierung Belästigung und Missbrauch, insbesondere gegen Frauen, erleichtern kann. Der Druck auf die Plattform X wächst, und die Ergebnisse der Untersuchungen könnten zu bedeutenden Veränderungen in der Art und Weise führen, wie diese Technologien verwaltet werden.