Das Future of Life Institute fordert einen Stopp der Entwicklung von "künstlicher Superintelligenz" bis ein wissenschaftlicher Konsens erreicht ist und es Unterstützung von der Bevölkerung gibt.

Future of Life Institute, eine gemeinnützige Organisation aus den USA, hat eine Initiative ins Leben gerufen, die die Einstellung der Entwicklung von superintelligenter künstlicher Intelligenz (KI) fordert, bis ein wissenschaftlicher Konsens über den kontrollierten und sicheren Aufbau dieser Technologie sowie Unterstützung von der Bevölkerung besteht. Unter den über 700 Unterzeichnern befinden sich prominente Persönlichkeiten aus dem Bereich der KI, wie Geoffrey Hinton, Stuart Russell und Yoshua Bengio, sowie Unternehmer wie Richard Branson und Steve Wozniak.

Die meisten Akteure im Bereich der KI zielen auf die Entwicklung von allgemeiner künstlicher Intelligenz (AGI) ab, die die menschlichen Fähigkeiten erreichen würde, und Max Tegmark, der Präsident des Instituts, betont, dass Unternehmer sich nicht an solchen Projekten ohne angemessene Regulierung beteiligen sollten. Die Initiative spiegelt einen kürzlich veröffentlichten Brief wider, der internationale Vereinbarungen fordert, um die verheerenden Auswirkungen von KI zu verhindern. Obwohl einige aus der Branche diese Bedenken als übertrieben ansehen, deutet die Unterstützung von politischen Persönlichkeiten auf ein wachsendes Unbehagen in Bezug auf KI hin, insbesondere im Umfeld der populistischen Rechten.