Ehemaliger OpenAI-Forscher warnt, dass das Tempo der KI-Entwicklung die Fähigkeit übersteigt, ihre Risiken zu kontrollieren

David Robinson, ehemaliger OpenAI-Mitarbeiter, der an der Bewertung der Sicherheit von Modellen künstlicher Intelligenz beteiligt war, warnt, dass die Branche zu leistungsfähige Systeme in einem Tempo entwickelt, das die Fähigkeit der Forscher übersteigt, sie zu kontrollieren. Nach dreieinhalb Jahren im Unternehmen kündigte er und erklärt, dass „die Zeit des Ausprobierens und Irrens vorbei ist“.

Robinson koordinierte die Ausarbeitung des aktuellen Preparedness Framework von OpenAI, das der Bewertung und dem Management der von zunehmend leistungsfähigeren Modellen ausgehenden Risiken dient. Außerdem erklärt er, Sicherheitsberichte für 12 Veröffentlichungen von Frontier-Modellen koordiniert zu haben.

Seine Kritik richtet sich insbesondere gegen das Prinzip des „iterative deployment“, bei dem Systeme schrittweise veröffentlicht, Probleme bei der Nutzung in der Praxis beobachtet und Schutzmaßnahmen anschließend verbessert werden. Robinson ist der Ansicht, dass dieser Ansatz das Auftreten von Fehlern ermöglichen kann, deren Folgen mit der Weiterentwicklung der Modelle schwerwiegender werden.

Der ehemalige Mitarbeiter erklärt, dass KI-Labore ähnliche Standards wie die Atomenergie- und Luftfahrtbranche übernehmen sollten – mit Redundanz, mehreren Schutzebenen und Verfahren, die die Auswirkungen von Fehlern begrenzen. Er warnt außerdem, dass künftige Modelle möglicherweise erkennen könnten, wann sie getestet werden, und sich nach ihrer Veröffentlichung anders verhalten könnten.

OpenAI weist die Vorstellung zurück, dass die Entwicklung unabhängig von den Risiken stattfinde. Das Unternehmen erklärt, es könne das Training stoppen oder die Veröffentlichung eines Modells verschieben und weite externe Evaluierungen sowie die Überwachung in Echtzeit aus. Robinson fordert jedoch zusätzliche Sicherheitsforschung, bevor deutlich leistungsfähigere Systeme entwickelt werden.