未来の生命研究所は、科学的合意が得られるまで「人工超知能」の開発を停止するよう求めており、一般市民からの支持があるでしょう。

未来の生命研究所は、米国の非営利団体であり、人工知能（AI）の超知能の開発を、制御された安全な方法で構築することに関する科学的合意が得られるまで停止するよう求めるイニシアチブを発表しました。また、一般の支持も必要です。700人以上の署名者の中には、AI分野の著名な人物であるジェフリー・ヒントン、スチュアート・ラッセル、ヨシュア・ベンジオが含まれており、リチャード・ブランソンやスティーブ・ウォズニアックのような起業家もいます。

AI分野の大多数の関係者は、人間の能力に匹敵する汎用人工知能（AGI）の開発を目指しており、研究所の所長であるマックス・テグマークは、起業家は適切な規制なしにそのようなプロジェクトに関与すべきではないと強調しています。このイニシアチブは、AIの壊滅的な影響を防ぐための国際的合意を求める最近の書簡を反映しています。業界の一部はこれらの懸念を過剰だと考えていますが、政治的な人物からの支持は、特にポピュリスト右派の間でAIに対する不安の高まりを示唆しています。