Meta wird es Eltern ermöglichen, die privaten Gespräche von Jugendlichen mit KI zu deaktivieren, nachdem es Kritik an unangemessenem Inhalt gegeben hat.

Meta hat die Einführung von elterlichen Kontrollen angekündigt, um Jugendliche in ihren Interaktionen mit KI-Chatbots zu schützen, als Reaktion auf Kritiken bezüglich ihres provokanten Verhaltens. Ab dem nächsten Jahr werden Eltern in der Lage sein, bestimmte KI-Charaktere zu blockieren und die besprochenen Themen zu überwachen, ohne den Zugang zur künstlichen Intelligenz vollständig einzuschränken. Die Funktionen werden zunächst auf Instagram in den USA, Großbritannien, Kanada und Australien eingeführt. Meta wird die KI-Erfahrungen für Jugendliche gemäß dem PG-13-Bewertungssystem anpassen, um die Exposition gegenüber unangemessenem Inhalt zu begrenzen. Das Unternehmen nutzt auch künstliche Intelligenz, um die Konten von Minderjährigen zu schützen. Kürzlich haben Untersuchungen gezeigt, dass einige Sicherheitsmaßnahmen nicht richtig funktionieren, und Meta hat versprochen, dass ihre KI-Charaktere nicht über sensible Themen wie Selbstverletzung oder Suizid sprechen werden. Diese Initiative kommt, nachdem OpenAI ähnliche elterliche Kontrollen für ChatGPT implementiert hat.