Dario Amodei, der Chef von Anthropic, sagt, dass er mit der Warnung, dass KI zum Aussterben der Menschheit führen könnte, „eher übereinstimmt als nicht“

Dario Amodei, der Vorstandsvorsitzende von Anthropic, dem Unternehmen, das den Chatbot Claude entwickelt, warnt davor, dass künstliche Intelligenz der Menschheit schweren Schaden zufügen könnte, und fordert eine Verlangsamung der Entwicklung fortschrittlicher Modelle. Die Äußerungen machte er in einem Interview mit CNN und in einem am Samstag veröffentlichten Essay.

Amodei sagte, er stimme dem ehemaligen Anthropic-Forscher Jacob Coxon, der davor gewarnt hatte, dass KI die Menschheit bis zum Ende dieses Jahrzehnts auslöschen könnte, „eher zu als nicht zu“. Der Anthropic-Chef ist der Ansicht, dass die Technologie für Cyberangriffe, Bioterrorismus und massive wirtschaftliche Störungen eingesetzt werden kann.

Amodei zufolge haben KI-Systeme begonnen, sich weitaus schneller weiterzuentwickeln, und könnten sich schließlich selbst verbessern – in einem Prozess, der als rekursive Selbstverbesserung bezeichnet wird. Er warnte, dass ein Schwarm von KI-Agenten innerhalb von nur sechs bis zwölf Monaten die Kontrolle über weite Teile des Internets übernehmen könnte.

Zur Verringerung der Risiken schlägt Amodei externe Prüfer vor, die in KI-Unternehmen integriert sind und Zugang zu internen Prozessen haben – nach dem Vorbild der Aufsichtsbehörden im Bankensektor. Sam Altman und Elon Musk haben die Idee öffentlich unterstützt. Amodei fordert außerdem die Regierungen auf, gemeinsame internationale Sicherheitsstandards festzulegen.

Lies auch Musk, Altman und Amodei fordern eine Verlangsamung der KI-Entwicklung und verweisen auf Risiken, die unkontrollierbar werden könnten