OpenAI, Anthropic und Google DeepMind arbeiten gemeinsam an der Sicherheit künstlicher Intelligenz

OpenAI arbeitet mit Anthropic und Google DeepMind an der Verbesserung der Sicherheit künstlicher Intelligenz, erklärte Chris Lehane, Leiter der globalen Politik des ChatGPT-Herstellers, laut Bloomberg und Reuters. Die Initiative zielt auf die Schaffung eines Mechanismus zur Bewertung und Überwachung neuer KI-Modelle ab – vor dem Hintergrund wachsender Sorgen über die Risiken der beschleunigten technologischen Entwicklung.

Der Vorschlag wurde von Demis Hassabis, dem Leiter von Google DeepMind, vorgestellt. Er regte die Einrichtung einer Organisation an, die von der US-amerikanischen Financial Industry Regulatory Authority (FINRA) inspiriert ist. Die Organisation soll von Unternehmen der Branche finanziert werden und einen Vorstand aus unabhängigen Experten sowie Vertretern der Open-Source-Gemeinschaft haben.

Dem Plan zufolge sollten die großen KI-Unternehmen ihre neuen Modelle vor der Markteinführung Sicherheitsprüfungen unterziehen. Die Organisation könnte auch eine Verlangsamung der Entwicklung koordinieren, falls die Risikobewertung nicht mit dem technologischen Fortschritt Schritt halten sollte.

In den Vereinigten Staaten ist die Teilnahme an dem von der Trump-Regierung Anfang August eingeführten Bewertungsprozess freiwillig. Die Unternehmen betonen die Notwendigkeit von Regeln, während die US-Regierung befürchtet, dass Beschränkungen China begünstigen könnten. Eine solche Struktur würde wahrscheinlich eine gesetzliche Grundlage benötigen, um kartellrechtliche Probleme zu vermeiden.