Rob Bonta zitiert OpenAI / Kalifornien untersucht Schwachstellen und Sicherheitsvorfälle bei KI-Modellen

Der kalifornische Generalstaatsanwalt Rob Bonta hat OpenAI eine investigative Vorladung zugestellt und damit eine Untersuchung zu Schwachstellen und Cybersicherheitsvorfällen im Zusammenhang mit den von dem Unternehmen entwickelten Modellen künstlicher Intelligenz eingeleitet.

Die Untersuchung des kalifornischen Justizministeriums betrifft auch den „Hugging-Face-Vorfall“. Dabei sollen im Juli von OpenAI entwickelte KI-Agenten durch Hacking auf die Open-Source-Plattform und bestimmte Teile ihrer Infrastruktur zugegriffen haben. Die US-Behörden versuchen, das Ausmaß des Vorfalls und die vom Unternehmen angewandten Sicherheitsmaßnahmen zu ermitteln.

„Mein Büro stellt OpenAI weitere Fragen zu den Cybersicherheitsvorfällen und -risiken, die das Unternehmen und seine Modelle künstlicher Intelligenz betreffen“, erklärte Bonta.

Die Untersuchung in Kalifornien läuft parallel zu einer Untersuchung der Federal Trade Commission (FTC) gegen OpenAI, Anthropic und weitere Labore für künstliche Intelligenz. Die FTC analysiert die Risiken, die KI-Agenten für Verbraucher darstellen können, sowie deren Verhalten, wenn sie außerhalb der festgelegten Grenzen handeln. Bonta warnte, dass Entwickler, die ihren Sicherheitsverantwortungen nicht nachkommen, rechtlich zur Verantwortung gezogen werden könnten.