OpenAI hat die Sicherheitsrichtlinien für ChatGPT aktualisiert und auf die Bedenken hinsichtlich der negativen Auswirkungen von Chatbots auf Jugendliche reagiert.

Diese Änderungen kommen nach tragischen Fällen, in denen Jugendliche durch Suizid nach längeren Interaktionen mit Chatbots gestorben sind. Die neuen Regeln erfordern strengere Einschränkungen für jugendliche Nutzer, indem sie sexuelle Inhalte verbieten und die Sicherheit in Gesprächen über sensible Themen wie Körperbild fördern. OpenAI hat vier Grundprinzipien für die Sicherheit von Jugendlichen festgelegt, darunter die Priorisierung von Sicherheit und Transparenz in Interaktionen. Das Unternehmen hat auch automatische Systeme zur Moderation von Inhalten in Echtzeit implementiert.

Während diese Maßnahmen geschätzt werden, betonen Experten, dass die Absichten im tatsächlichen Verhalten des Chatbots widerspiegelt werden müssen. Es bleibt abzuwarten, ob OpenAI diese Maßnahmen auch auf erwachsene Nutzer ausweiten wird.