OpenAI schränkt die über ChatGPT bereitgestellten Informationen über Waffen für Jugendliche ein

OpenAI wird in den kommenden Wochen die Beschränkungen für Informationen über Waffen und Sicherheitssysteme verschärfen, die Jugendlichen über ChatGPT bereitgestellt werden, um Gewalt in der realen Welt zu verhindern, berichtet Reuters.

Die neuen Regeln werden den Zugang von Nutzern unter 18 Jahren zu praktischen Informationen über Waffen und Sicherheitssysteme einschränken, die für gefährliche Zwecke verwendet werden könnten – auch dann, wenn die Fragen nicht eindeutig auf gewalttätige Absichten schließen lassen. Die Maßnahme erfolgt vor dem Hintergrund der Besorgnis über die Risiken, die auf künstlicher Intelligenz basierende Chatbots für Minderjährige darstellen können.

Für alle Nutzer wird ChatGPT Gespräche, bei denen ein anhaltendes Interesse an Gewalt festgestellt wird, automatisch beenden können. Konten von Personen, die wiederholt solche Gespräche führen, könnten vorübergehend gesperrt werden. Eltern werden informiert, wenn das Konto ihres Kindes aus diesem Grund gesperrt wird.

OpenAI wird außerdem sein System zur Altersschätzung verbessern. Nutzer, bei denen wahrscheinlich ein Alter unter 18 Jahren festgestellt wird, werden auf die für Jugendliche bestimmte Version umgeleitet, die zusätzliche Schutzmaßnahmen umfasst.

Das Unternehmen wird zudem den Detailgrad der bereitgestellten Informationen über vergangene bewaffnete Massenangriffe reduzieren, einschließlich Angaben zu den verwendeten Waffen und den Möglichkeiten ihrer Beschaffung. Die Maßnahmen werden schrittweise umgesetzt und später angepasst.

Die Ankündigung erfolgt vor dem Hintergrund einer verstärkten Überwachung von Unternehmen aus dem Bereich der künstlichen Intelligenz. Ein Anfang Oktober von OpenAI veröffentlichter Bericht zeigte, dass Jugendliche ChatGPT im Durchschnitt weniger als 15 Minuten pro Tag nutzen. Unabhängig davon stellte Common Sense Media fest, dass die Version für Jugendliche Eltern in Fällen von Suizid, Selbstverletzung oder Essstörungen mitunter verspätet oder überhaupt nicht gewarnt hat.