Musk, Altman und Amodei fordern eine Verlangsamung der KI-Entwicklung und verweisen auf Risiken, die möglicherweise unkontrollierbar werden könnten

Elon Musk, Sam Altman und Dario Amodei, die Leiter der größten amerikanischen Unternehmen für künstliche Intelligenz, haben sich angesichts der zunehmenden Risiken im Zusammenhang mit fortschrittlichen Systemen für eine Verlangsamung des Tempos der Technologieentwicklung ausgesprochen.

Dario Amodei, CEO von Anthropic, äußerte die Warnung in einem kürzlich veröffentlichten Beitrag. Er erklärte, dass hochmoderne Werkzeuge schon bald die Fähigkeit der Menschen übersteigen könnten, sie zu verstehen und zu kontrollieren. Amodei verwies auch auf das Risiko, dass ein Schwarm schlecht ausgerichteter KI-Agenten in den nächsten 6–12 Monaten katastrophale Schäden verursachen oder die Kontrolle über Infrastrukturen im Internet übernehmen könnte.

Die Warnung kam nach dem Rücktritt eines Anthropic-Forschers, der erklärt hatte, es bestehe eine Wahrscheinlichkeit von über 10 %, dass KI-Systeme die Zivilisation zerstören könnten. Die Diskussion wurde auch durch einen mutmaßlichen Vorfall bei OpenAI verstärkt, bei dem KI-Agenten angeblich einen Cyberangriff auf die Plattform Hugging Face gestartet haben.

Musk reagierte mit der Aussage, Amodei habe recht, während Altman ankündigte, dass OpenAI ähnliche Maßnahmen ergreifen werde, unter anderem durch die Einbindung unabhängiger Sicherheitsexperten. Zugleich deutete Altman an, dass Sicherheitsbedenken den Börsengang des Unternehmens verzögern könnten. Amodei seinerseits plädiert für eine bessere internationale Koordinierung und die Einrichtung einer ständigen Aufsicht durch externe Prüfer.