Unerwarteter Appell des Microsoft-Chefs: Satya Nadella fordert die Einführung einer „Notbremse“ und unabhängiger Kontrollen für fortschrittliche Systeme der künstlichen Intelligenz

Microsoft-CEO Satya Nadella hat am Samstag in einer auf der Plattform X veröffentlichten Nachricht die Einführung unabhängiger Kontrollen und einer „Notbremse“ für fortgeschrittene Systeme der künstlichen Intelligenz gefordert. Der Mechanismus würde autorisierten Personen ermöglichen, ein Modell auch während der Ausführung einer Aufgabe zu unterbrechen oder abzuschalten.

Nadella erklärte, dass nichtdeterministische Modelle, deren Handlungen nicht in allen Situationen vorhersehbar sind, von deterministischen Systemen, menschlicher Aufsicht und soliden Betriebsverfahren umgeben sein müssten. Er schlug vor, KI-Systeme – einschließlich proprietärer Systeme und solcher mit öffentlich zugänglichen Parametern – aus sicherheitstechnischer Sicht als potenzielle Insider-Bedrohungen zu behandeln.

Zu den empfohlenen Maßnahmen gehören die kontinuierliche Überwachung, leicht verständliche Aufzeichnungen über die Handlungen der KI, fortlaufende Tests, unabhängige Audits, die Isolierung gefährlicher Komponenten und die Meldung von Vorfällen. Nadella warnte, dass Sicherheit nicht allein vom Vertrauen in ein Modell abhängen dürfe, sondern von überprüfbaren technischen und institutionellen Mechanismen.

Der Aufruf erfolgt vor dem Hintergrund der zunehmenden Warnungen vor der beschleunigten Entwicklung der künstlichen Intelligenz. Vertreter der Branche wie Sam Altman, Dario Amodei, Bill Gates und Elon Musk haben strengere Schutzmaßnahmen gefordert, während die US-Regierung auf der Aufrechterhaltung des technologischen Vorsprungs der USA gegenüber China besteht.