未来生活研究所请求停止发展“超级人工智能”，直到达成科学共识，并将获得公众的支持

未来生活研究所是美国的一个非营利组织，发起了一项倡议，要求停止开发超级人工智能（AI），直到在科学上达成共识，以一种可控和安全的方式构建它，并获得公众的支持。在700多名签署者中，有AI领域的知名人士，如杰弗里·辛顿、斯图尔特·拉塞尔和约书亚·本吉奥，还有企业家如理查德·布兰森和史蒂夫·沃兹尼亚克。

大多数AI领域的参与者旨在开发通用人工智能（AGI），这将与人类的能力相当，研究所的主席马克斯·泰格马克强调，企业家不应参与没有适当监管的此类项目。该倡议反映了一封最近的信件，要求国际协议以防止AI的毁灭性影响。尽管行业中的一些人认为这些担忧被夸大了，但一些政治人物的支持表明，对AI的担忧正在增加，尤其是在民粹主义右派中。