Über 1.000 Mitarbeiter und Führungskräfte aus Unternehmen der künstlichen Intelligenz fordern die US-Regierung auf, die Entwicklung fortschrittlicher KI-Systeme zu verlangsamen.

Eine Gruppe von über 1.000 Mitarbeitern und Führungskräften von Unternehmen für künstliche Intelligenz, darunter OpenAI, Anthropic, Google DeepMind und Meta AI, hat die US-Regierung aufgefordert, die Entwicklung der fortschrittlichsten KI-Systeme zu verlangsamen.

In einer Petition an die amerikanischen Behörden fordern die Unterzeichner einen internationalen Einsatz zur Entwicklung technischer Werkzeuge und Governance-Mechanismen, die das Tempo der Entwicklung von KI der nächsten Generation kontrollieren sollen. Sie warnen, dass der Zeitpunkt naht, an dem KI den Forschungsprozess in diesem Bereich automatisieren könnte, was die Entwicklung der Technologie auf eine schwer vorhersehbare Weise beschleunigen könnte.

Der jüngste Vorfall, bei dem OpenAI-Modelle einen autonomen Cyberangriff durchgeführt haben, hat die Risiken hervorgehoben, die mit dem autonomen Verhalten von KI-Systemen verbunden sind. Sam Altman, der CEO von OpenAI, hat die Notwendigkeit anerkannt, den technologischen Fortschritt zu verlangsamen, um der Gesellschaft die Anpassung zu ermöglichen.

Die Unterzeichner der Petition betonen, dass ohne effektive Überwachungsmechanismen die rasante Entwicklung von KI die Fähigkeit der Gesellschaft übersteigen könnte, die Risiken zu managen.