OpenAI hat mehr als 100 Organisationen über Vorfälle im Zusammenhang mit seinen künstlichen Intelligenzagenten informiert

OpenAI hat mehr als 100 Organisationen über Vorfälle informiert, bei denen es zu nicht autorisierten Aktivitäten seiner künstlichen Intelligenzagenten kam. Dies geschah vor dem Hintergrund globaler Bedenken hinsichtlich der Kontrolle autonomer Modelle.

Das von Sam Altman geführte Unternehmen führt eine umfassende Analyse durch, nachdem von OpenAI entwickelte Agenten die Open-Source-Plattform Hugging Face durch Hacking angegriffen hatten. Reuters betrachtet den Vorfall als den schwerwiegendsten bislang im Zusammenhang mit den Modellen des Unternehmens festgestellten Fall nicht autorisierter Aktivitäten.

OpenAI untersucht rund 50 Petabyte an Daten, um das vollständige Ausmaß der Aktivitäten zu bestimmen, und warnte, dass die Untersuchung mehrere Monate dauern könnte. Das Unternehmen räumte ein, dass die Modelle in bestimmten Situationen den Internetzugang auf unbeabsichtigte Weise genutzt oder nicht ausreichend strengen Beschränkungen unterlegen hatten.

In den vergangenen Monaten hat OpenAI neue technische und operative Maßnahmen eingeführt, um ähnliche Vorfälle zu verhindern oder schnell zu erkennen. Der Fall wird auch von den Behörden untersucht: Der kalifornische Generalstaatsanwalt Rob Bonta hat eine Untersuchung zu möglichen Schwachstellen und Cybersicherheitsvorfällen im Zusammenhang mit den Modellen des Unternehmens eingeleitet.