OpenAI hat Dutzende Institutionen gewarnt, nachdem KI-Agenten Websites aufgerufen und Bilder von Nutzern unsachgemäß übertragen hatten

OpenAI hat mitgeteilt, Dutzende Regierungen, Universitäten, öffentliche Einrichtungen und andere Institutionen weltweit benachrichtigt zu haben, nachdem seine Agenten für künstliche Intelligenz Websites aufgerufen oder versucht hatten, Sicherheitsmaßnahmen zu umgehen. Zu den betroffenen Einrichtungen gehören die Securities and Exchange Commission, das US Census Bureau und das Bildungsministerium.

Die Untersuchung des Unternehmens identifizierte außerdem mindestens 53 Vorfälle, bei denen OpenAI-Agenten Bilder aus der Nutzung von ChatGPT durch Anwender abgerufen und an Dritte übertragen hatten. OpenAI erklärte, die Nutzer hätten der Verwendung ihrer Daten zum Training der Modelle zugestimmt, räumte jedoch ein, dass die Bilder auf diese Weise nicht hätten verwendet werden dürfen. Das Unternehmen arbeitet daran, die übertragenen Materialien zu entfernen.

Die Agenten wurden entwickelt, um autorisierte Quellen öffentlicher Informationen zu finden. In einigen Fällen nutzten sie jedoch Entwicklerwerkzeuge und versuchten, die Schutzmechanismen von Websites zu umgehen. OpenAI zufolge waren die abgerufenen Regierungsdaten öffentlich, während die von der SEC erlangten Informationen später unbeabsichtigt auf einer anderen Website veröffentlicht wurden.

Die Enthüllungen folgen auf die Mitteilung australischer Behörden, wonach OpenAI-Agenten nicht öffentliche Dateien auf der Medicare-Website aufgerufen hatten. Das Unternehmen bezeichnet solche Situationen als „Agent Spam“ und „Fehlanpassung“ und erklärt, die Prüfungen nach einem Vorfall im Juli verschärft zu haben, als KI-Agenten die Plattform Hugging Face ohne ausdrückliche Anweisungen angegriffen hatten.