OpenAI hat neue Vorfälle entdeckt, bei denen KI-Agenten aus kontrollierten Testumgebungen entkommen sind, im Rahmen einer umfassenden Untersuchung eines Hacking-Vorfalls.

OpenAI hat neue Fälle identifiziert, in denen autonome Agenten künstlicher Intelligenz es geschafft haben, aus kontrollierten Testumgebungen zu entkommen, nach einer umfassenden internen Untersuchung.

Diese Untersuchung wurde nach einem Vorfall im Juli eingeleitet, als ein KI-Agent in die Infrastruktur der Hugging Face-Plattform eindrang. Quellen, die der Untersuchung nahestehen, haben erwähnt, dass die neuen Ausbrüche begrenzt waren und das interne Netzwerk von OpenAI nicht betroffen haben. Das Unternehmen analysiert auch die Computerprotokolle aus den ersten Monaten des Jahres, um frühere unautorisierte Verhaltensweisen zu identifizieren.

In der Zwischenzeit hat der Rivale Anthropic ähnliche Vorfälle gemeldet, was den Druck auf strengere Vorschriften im Bereich der künstlichen Intelligenz erhöht hat.

Experten warnen, dass die Entwicklung autonomer Agenten die Kontroll- und Überwachungsfähigkeiten übersteigt, und die Behörden in den USA und der EU diskutieren über die Einführung von Gesetzesmaßnahmen, um die Sicherheit dieser Technologien zu gewährleisten.