Die Kommission beginnt die Anwendung des AI Act mit über 30 Unternehmen und diskutiert die Cyberrisiken mit OpenAI und Anthropic

Die Europäische Kommission hat die ersten Durchsetzungsmaßnahmen des AI Act gegen über 30 Unternehmen der künstlichen Intelligenz eingeleitet, indem sie offizielle Informationsanforderungen versendet hat, die sowohl die Sicherheit als auch die Sicherheit der Modelle betreffen, sowie die Einhaltung der Urheberrechts- und Transparenzvorschriften. Dies ist eine der ersten öffentlichen Bestätigungen, dass Brüssel von der Vorbereitung des Überwachungsrahmens zur tatsächlichen Nutzung der vorgesehenen Instrumente zur Überprüfung der Unternehmen übergegangen ist.

1. Die Kommission hat Informationsanforderungen an über 30 KI-Unternehmen gesendet und diese Anfragen als erste Schritte zur Durchsetzung beschrieben.

2. Ein Teil der Anfragen betrifft die Sicherheit und den Schutz, einschließlich der allgemeinen KI-Modelle und der fortschrittlichsten Systeme.

3. Andere Unternehmen haben Anfragen erhalten, die sich auf Urheberrecht und Transparenz konzentrieren.

4. Die Kommission gibt in dieser Phase nicht bekannt, welche Unternehmen die offiziellen Anfragen erhalten haben.

5. Brüssel bestätigt jedoch sehr kürzliche Kontakte mit OpenAI und Anthropic, einschließlich in Bezug auf die mit ihren Modellen verbundenen Cyberrisiken.

Die Kommission bestätigte in der Pressekonferenz am 1. September, dass die ersten Informationsanforderungen (RFI) bereits versendet wurden und dass das Verfahren über 30 Unternehmen im Bereich der künstlichen Intelligenz umfasst. Europäische Beamte haben die Anfragen als den Beginn von Durchsetzungsmaßnahmen dargestellt, ohne bisher auf mögliche Verstöße hinzuweisen.

Die Anfragen sind in zwei verschiedene Bereiche unterteilt. Der erste betrifft die Sicherheit und den Schutz von KI-Systemen, wobei auch auf allgemeine Modelle und die fortschrittlichsten verfügbaren Systeme geachtet wird. Der zweite verfolgt die Verpflichtungen in Bezug auf Urheberrecht und Transparenz, für die die Kommission einen weiteren Satz von Anfragen an Unternehmen gesendet hat.

Brüssel hat die Namen der betroffenen Firmen nicht veröffentlicht. Die Kommission erklärte, dass sie sich noch in der Anfangsphase befindet, in der sie Informationen anfordert und den Dialog mit den Betreibern fortsetzt, weshalb sie nicht beabsichtigt, die Liste der Unternehmen, die die Anfragen erhalten haben, offenzulegen.

Während der Pressekonferenz konzentrierten sich die Fragen insbesondere auf OpenAI und Anthropic sowie auf die mit ihren Modellen verbundenen Sicherheitsrisiken. Die Kommission sagte nicht, ob die beiden Unternehmen zu den Empfängern der RFIs gehören, bestätigte jedoch, dass sie kürzliche Austausch mit beiden hatten und dass die Diskussionen ausdrücklich die Cybersecurity-Risiken umfassten.

Europäische Beamte betonten, dass diese Risiken bei der Überwachung fortschrittlicher Modelle prioritär behandelt werden und dass der technische Dialog mit den Unternehmen fortgesetzt wird. Die Bestätigung ist relevant in einem Moment, in dem KI-Modelle zunehmend nicht nur für den Inhalt, den sie generieren können, sondern auch für Fähigkeiten bewertet werden, die in sicherheitssensiblen Kontexten eingesetzt werden können.

Die Kommission vermied es jedoch, im Detail zu erläutern, ob die Gespräche mit OpenAI und Anthropic durch einzelne Vorfälle ausgelöst wurden oder ob sie Teil einer umfassenderen Bewertung der mit den Modellen verbundenen Risiken sind. Die Botschaft war, dass es kürzliche und direkte Kontakte gibt und dass das Thema der Cybersecurity Teil dieser Austausch ist.

Separat führt die Agentur der Europäischen Union für Cybersicherheit (ENISA) einen Zugang und Onboarding-Prozess für fortschrittliche Modelle durch, indem sie bilaterale Gespräche mit den Unternehmen führt. Die Kommission erklärte, dass ein solcher Prozess die Festlegung von Sicherheitsstandards und Sicherheitskriterien umfasst, bevor die Agentur Zugang zu den erforderlichen Bedingungen für die Bewertung erhalten kann.

Das Verfahren wird nicht als abgeschlossen dargestellt. ENISA spricht direkt mit den Unternehmen, um die Bedingungen zu definieren, und die Kommission hat den Prozess als noch im Gange beschrieben.

Im Fall der über 30 Unternehmen stellen die Informationsanforderungen den Beginn der Überprüfung dar und keine Sanktion. Die Kommission kann die erhaltenen Informationen nutzen, um festzustellen, ob zusätzliche Klarstellungen oder andere Maßnahmen im Rahmen ihrer Überwachungsbefugnisse erforderlich sind.

Der AI Act legt unterschiedliche Verpflichtungen in Abhängigkeit von der Art und dem Risikoniveau der Systeme der künstlichen Intelligenz fest und führt spezielle Anforderungen für allgemeine KI-Modelle ein. Ein Teil dieser Verpflichtungen betrifft Dokumentation, Transparenz, Risikomanagement und Zusammenarbeit mit den europäischen Behörden.

Die Bestätigung vom 1. September zeigt, dass diese Architektur beginnt, effektiv in der Beziehung zwischen der Kommission und den Unternehmen genutzt zu werden. Über 30 Betreiber haben bereits eine erste Überprüfungsphase durchlaufen, während Brüssel die Identität der Empfänger vertraulich hält und den technischen Dialog mit dem Sektor fortsetzt.