AI Office kann Informationen anfordern, Modelle bewerten und Maßnahmen zur Risikominderung von den GPAI-Anbietern anfordern.

Die Europäische Kommission kann ab dem 2. August 2026 die Verpflichtungen des AI Act für Anbieter von allgemeinen KI-Modellen anwenden, und das AI Office kann Informationen anfordern, Bewertungen der Modelle durchführen und von den Anbietern Maßnahmen zur Risikominderung verlangen. Die Kommission hat die neuen Befugnisse in der Pressekonferenz am 11. August erwähnt, als Antwort auf Fragen zu den Risiken von Manipulationen durch Bots, gefälschte Konten und von KI generierte Inhalte.

Kurz gesagt, ab dem 2. August 2026 kann die Kommission die Verpflichtungen des AI Act für Anbieter von allgemeinen KI-Modellen tatsächlich durchsetzen, einschließlich durch Sanktionen. Das AI Office kann Informationen von den Anbietern anfordern, Bewertungen der GPAI-Modelle durchführen und Maßnahmen zur Behebung verlangen, einschließlich der Risikominderung. Die Verpflichtungen der Anbieter von GPAI-Modellen gelten bereits seit dem 2. August 2025. Das Datum 2. August 2026 markiert den Beginn der Durchsetzungsbefugnisse der Kommission, nicht das erstmalige Inkrafttreten der entsprechenden Verpflichtungen. Ab dem 2. August 2026 gelten auch separate Transparenzregeln für bestimmte KI-Systeme und für bestimmte Formen von von KI generierten oder manipulierten Inhalten. Die Kommission hat diese Instrumente als Antwort auf eine Frage zur Manipulation von Wahlen und öffentlichen Konsultationen vorgestellt, hat jedoch nicht behauptet, dass die neuen Regeln solche Risiken vollständig beseitigen können.

Die neuen Durchsetzungsbefugnisse stellen einen klaren Schritt in der Umsetzung des AI Act dar. Die Regeln für Anbieter von allgemeinen KI-Modellen, bekannt als GPAI, gelten seit dem 2. August 2025, wobei das erste Jahr hauptsächlich als Implementierungs- und Kooperationsphase mit den Anbietern konzipiert war.

Ab dem 2. August 2026 kann die Kommission mit der tatsächlichen Durchsetzung dieser Verpflichtungen beginnen und die vorgesehenen Aufsichtsbefugnisse für GPAI-Modelle nutzen.

Das AI Office ist die Struktur der Kommission, die speziell für die Aufsicht über allgemeine KI-Modelle verantwortlich ist. Zu seinen Befugnissen gehört die Anforderung von Informationen von den Anbietern und die Bewertung der Modelle, wenn dies zur Überprüfung der Einhaltung der Regeln erforderlich ist.

Das Büro kann auch Maßnahmen von den Anbietern verlangen. Bei Modellen, die systemische Risiken aufweisen, können dies technische oder organisatorische Maßnahmen zur Minderung der identifizierten Risiken umfassen.

In den im AI Act vorgesehenen Situationen kann die Kommission auch den Rückzug eines Modells vom Markt verlangen und Geldbußen für die Nichteinhaltung der Verpflichtungen verhängen.

Anbieter von GPAI-Modellen müssen technische Dokumentationen über ihre Modelle aufbewahren und diese dem AI Office zur Verfügung stellen, wenn dies angefordert wird. Sie müssen auch relevante Informationen an Entwickler bereitstellen, die KI-Systeme auf der Grundlage dieser Modelle erstellen.

Die Regeln umfassen auch Verpflichtungen zur Einhaltung des Urheberrechts und zur Veröffentlichung einer ausreichend detaillierten Zusammenfassung des Inhalts, der zur Schulung des Modells verwendet wurde.

GPAI-Modelle, die als systemisch riskant gelten, unterliegen zusätzlichen Anforderungen. Anbieter müssen systemische Risiken bewerten und mindern, schwerwiegende Vorfälle verfolgen und melden sowie ein angemessenes Niveau der Cybersicherheit aufrechterhalten.

Die im August in Kraft tretenden Durchsetzungsbefugnisse ermöglichen es der Kommission, direkter zu überprüfen, ob diese Verpflichtungen eingehalten werden.

In der Pressekonferenz am 11. August stellte die Kommission die neuen Befugnisse des AI Office vor, nachdem sie gefragt wurde, ob die Bürger glauben können, dass es ausreichende Garantien gegen die Manipulation von Wahlen durch Bots, gefälschte Konten, Avatare und andere KI-basierte Instrumente gibt.

Die Frage betraf auch die Möglichkeit, dass automatisierte Systeme Umfragen beeinflussen oder öffentliche Konsultationen der europäischen Institutionen manipulieren.

Die Kommission hat in ihrer Antwort keine Untersuchung zu einem konkreten Fall angekündigt und auch nicht gesagt, dass sie die Manipulation einer öffentlichen Konsultation durch künstliche Intelligenz identifiziert hat.

Der Sprecher wies stattdessen auf die Instrumente hin, die seit dem 2. August verfügbar oder anwendbar sind.

Neben den Aufsichtsbefugnissen über GPAI-Modelle gelten ab demselben Datum auch neue Transparenzpflichten für bestimmte KI-Systeme.

Diese Regeln zielen darauf ab, dass Menschen bestimmte Situationen erkennen können, in denen sie mit einem KI-System interagieren oder von künstlich generierten oder manipulierten Inhalten betroffen sind.

Anbieter von KI-Systemen müssen sicherstellen, dass die Nutzer informiert sind, wenn sie direkt mit künstlicher Intelligenz interagieren.

Für bestimmte generative Systeme sieht der AI Act auch die Verwendung von automatisch erkennbaren Kennzeichnungen für von KI generierte oder manipulierte Inhalte vor.

Es gibt auch Verpflichtungen für diejenigen, die bestimmte KI-Systeme beruflich nutzen. Diese betreffen unter anderem die Information der Öffentlichkeit, wenn sie Deepfakes ausgesetzt sind oder, unter bestimmten Bedingungen, Texten, die durch KI generiert oder manipuliert wurden und zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Die Transparenzregeln und das GPAI-Regime sind zwei verschiedene Komponenten des AI Act.

Die Befugnisse des AI Office in Bezug auf GPAI-Modelle konzentrieren sich auf die Anbieter und die mit allgemeinen Modellen verbundenen Risiken. Die Transparenzpflichten zielen hauptsächlich darauf ab, dass die Menschen wissen, wann sie mit bestimmten KI-Systemen interagieren oder wann bestimmte Materialien künstlich produziert oder verändert wurden.

Die Tatsache, dass beide Phasen einen wichtigen Bezugspunkt am 2. August 2026 haben, bedeutet nicht, dass es sich um dieselbe Verpflichtung handelt oder dass sie in allen Fällen derselben Autorität unterliegen.

Für die Transparenzregeln liegt die Aufsicht hauptsächlich bei den nationalen Marktaufsichtsbehörden. Das AI Office greift für Systeme ein, die in seinen Zuständigkeitsbereich fallen, während die Europäische Datenschutzbehörde die entsprechende Rolle hat, wenn die EU-Institutionen Anbieter oder Nutzer der betreffenden Systeme sind.

Die Kommission ist der Ansicht, dass diese Verpflichtungen das Risiko von Fehlinformationen verringern können, da die Nutzer mehr Informationen über die Natur des Systems oder des Inhalts erhalten, mit dem sie interagieren.

In der Pressekonferenz verband der Sprecher diese Anforderungen mit der Möglichkeit, dass die Bürger Interaktionen mit künstlicher Intelligenz und von KI generierten oder modifizierten Inhalten erkennen können.

Die Kommission hat jedoch nicht gesagt, dass die Kennzeichnung von Inhalten oder die neuen Befugnisse des AI Office jede Versuchsmanipulation von Wahlen verhindern können.

Der AI Act bietet Instrumente zur Überwachung von Modellen und zur Transparenz bestimmter Anwendungen, während andere Risiken im Zusammenhang mit Plattformen, Einflusskampagnen, Desinformation oder Wahlprozessen auch unter andere europäische und nationale Regeln fallen können.

Die neuen Befugnisse ermöglichen jedoch den Übergang von der anfänglichen Implementierungsphase der GPAI-Regeln zu einer Phase, in der Anbieter untersucht und bestraft werden können, wenn sie die geltenden Verpflichtungen nicht einhalten.

Der AI Act trat 2024 in Kraft, und seine verschiedenen Verpflichtungen werden schrittweise umgesetzt. Für Anbieter von allgemeinen KI-Modellen gelten die relevanten Anforderungen ab dem 2. August 2025.

Am 2. August 2026 traten die Befugnisse der Kommission in Kraft, um die Einhaltung dieser Verpflichtungen sicherzustellen, einschließlich durch Informationsanforderungen, Bewertungen der Modelle, von den Anbietern geforderte Maßnahmen und Sanktionen.

Am selben Tag traten auch die Transparenzpflichten für bestimmte Systeme und Arten von KI-Inhalten in Kraft.

Die Erklärungen der Kommission vom 11. August kündigen kein neues Regelwerk an, das an diesem Tag verabschiedet wurde. Sie klären die Instrumente, die neun Tage zuvor tatsächlich anwendbar wurden, als Antwort auf die Risiken von Manipulation und Fehlinformationen durch künstliche Intelligenz.