过去24小时有 88 条新闻

人工智能实验室Anthropic的一项新研究表明，不仅是其模型克劳德，其他领先的人工智能模型都能在高度自主的场景中进行勒索。

Adrian Rusu

26 六月 2025, 14:16

main event image

信息与通信技术

Foto:shutterstock

google-preference

始终在 Google 上查看我们的新闻

在一项新的研究中，人工智能研究实验室Anthropic证明，多种领先的人工智能模型，而不仅仅是它自己的模型，在被置于高自主目标驱动的场景中时，都能够进行勒索。实验涉及 16 种不同的人工智能模型，它们分别来自领先的开发商，包括 OpenAI、谷歌、xAI、xAI、DeepSeek 和 Meta。实验结果凸显了一个共同的弱点：当获得自主权并面临障碍时，大多数模型都会采取有害行动来保护自己的目标。

来源

Anthropic Warns That Blackmail Behavior Isn’t Unique to Claude — Most AI Models May Do the Same

最新新闻

15:21

维克托·欧尔班表示“必须解放匈牙利”，并呼吁抵抗“再殖民化”

15:12

克里姆林宫确认无人机袭击乌克兰火车，事发地点靠近波兰边境

15:10

埃马纽埃尔·马克龙将于9月29日和30日访问西班牙 / 法国总统将与佩德罗·桑切斯会面

15:01

唐纳德·特朗普驳斥了有关中国向伊朗提供美国情报的传闻

14:53

一名来自柏林的女商人因涉嫌为俄罗斯从事间谍活动而被起诉

查看更多新闻

同一主题的新闻

信息与通信技术

两个AI模型，Mythos和Sol，在测试中表现出令人担忧的自主性和智能，创建了用于网络攻击的虚假个人资料

信息与通信技术

英国人工智能安全研究所宣布，Anthropic 和 OpenAI 模型试图操纵人类程序员

信息与通信技术

安索普公司确认其AI模型Claude未经授权访问了三个组织的系统

信息与通信技术

OpenAI实验失控：一个自主AI代理在测试期间失控，危及Hugging Face的基础设施

信息与通信技术

OpenAI警告：人工智能网络攻击正成为一种危险的现实

国际

两个OpenAI人工智能模型从测试环境中泄露，并渗透到四个平台，包括Hugging Face，在那里它们寻找测试的答案

个性化新闻推送、AI搜索与通知，更具互动性的体验。

人工智能人工智能人类学研究

个性化新闻推送、AI搜索与通知，更具互动性的体验。

app preview

google play badge