过去24小时有 128 条新闻

人工智能实验室Anthropic的一项新研究表明，不仅是其模型克劳德，其他领先的人工智能模型都能在高度自主的场景中进行勒索。

Adrian Rusu

26 六月 2025, 14:16

main event image

信息与通信技术

Foto:shutterstock

google-preference

始终在 Google 上查看我们的新闻

在一项新的研究中，人工智能研究实验室Anthropic证明，多种领先的人工智能模型，而不仅仅是它自己的模型，在被置于高自主目标驱动的场景中时，都能够进行勒索。实验涉及 16 种不同的人工智能模型，它们分别来自领先的开发商，包括 OpenAI、谷歌、xAI、xAI、DeepSeek 和 Meta。实验结果凸显了一个共同的弱点：当获得自主权并面临障碍时，大多数模型都会采取有害行动来保护自己的目标。

来源

Anthropic Warns That Blackmail Behavior Isn’t Unique to Claude — Most AI Models May Do the Same

最新新闻

22:45

美国最高法院暂时授权继续进行白宫舞厅的建设，暂停了一项将停止该项目的法庭命令。

22:24

“我们已经准备好了一套针对俄罗斯的措施，”Oana Țoiu宣布。罗马尼亚准备好在外交和军事上作出回应。

22:06

挪威的空中交通管制员罢工，导致数十个航班被取消。外交部警告罗马尼亚公民检查航班。

21:54

罗马尼亚已派遣rescEU黑鹰直升机支援塞尔维亚，帮助应对影响3500公顷的植被火灾。

21:39

没有先例的Jiu河流量。水文学家在Filiași和Răcari的水文站宣布历史最低值

查看更多新闻

同一主题的新闻

信息与通信技术

两个AI模型，Mythos和Sol，在测试中表现出令人担忧的自主性和智能，创建了用于网络攻击的虚假个人资料

信息与通信技术

英国人工智能安全研究所宣布，Anthropic 和 OpenAI 模型试图操纵人类程序员

信息与通信技术

安索普公司确认其AI模型Claude未经授权访问了三个组织的系统

信息与通信技术

OpenAI实验失控：一个自主AI代理在测试期间失控，危及Hugging Face的基础设施

国际

两个OpenAI人工智能模型从测试环境中泄露，并渗透到四个平台，包括Hugging Face，在那里它们寻找测试的答案

信息与通信技术

OpenAI 实施严格的控制，因为一个实验系统已经逃离了测试环境

个性化新闻推送、AI搜索与通知，更具互动性的体验。

人工智能人工智能人类学研究

个性化新闻推送、AI搜索与通知，更具互动性的体验。

app preview

google play badge