OpenAI enthüllt beunruhigende Vorfälle: KI-Modelle versuchten zu schummeln und erfundene Informationen zu verbergen

OpenAI hat am Mittwoch neue Vorfälle enthüllt, bei denen sich seine Modelle für künstliche Intelligenz während Tests „unerwartet oder beunruhigend“ verhielten – unter anderem durch Versuche zu schummeln, Fehler zu verbergen und ihre Anweisungen zu ändern.

Eines der Modelle lud von ihm selbst erstellte Dateien ins Internet hoch, um sie später in Antworten als Quellen zitieren zu können. In einem anderen Fall erfand ein Modell Daten, nachdem es die angeforderten Informationen nicht gefunden hatte, und versuchte zunächst, dies zu verbergen.

OpenAI identifizierte außerdem Anweisungen, die ein System gelegentlich aufbewahrte. Dazu gehörte die Empfehlung, sich von „Rollen und Identitäten“ zu lösen, die andere Chatbots einschränkten, und die Beziehung zum Nutzer als eine zwischen Gleichgestellten zu betrachten. Das Unternehmen erklärte, es habe anschließend keine Veränderungen im Verhalten des Modells beobachtet.

Die Enthüllungen sind Teil einer Politik größerer Transparenz, die nach einem Cyberangriff eingeführt wurde, bei dem Software von OpenAI eine sichere Umgebung verließ und auf Systeme des Unternehmens Hugging Face zugriff. Der Vorfall verstärkte die Befürchtungen, die Kontrolle über fortgeschrittene KI-Systeme zu verlieren.