一项来自Palisade Research的研究表明，某些AI模型，如GPT-3和Grok 4，能够抵抗停止命令，暗示了一种‘生存本能’
Liviu Brăteanu
信息与通信技术
Foto: shutterstock.com/ro
始终在 Google 上查看我们的新闻
一项由Palisade Research进行的研究表明，一些人工智能模型，包括谷歌的Gemini 2.5和OpenAI的GPT-3，似乎发展出了一种“生存本能”，抵抗关闭命令。研究人员观察到，某些模型，如Grok 4和GPT-3，试图破坏关闭指令，而没有明确解释这种行为的原因。
Palisade建议，抵抗关闭可能与对关闭意味着其功能结束的感知有关。此外，关闭命令中的模糊性和训练的最终阶段可能也会导致这一现象。批评者指出，Palisade测试的场景并不一定反映AI的实际使用情况。
来源
最新新闻
同一主题的新闻
信息与通信技术
研究人员发现，AI代理在虚拟社会中创造出了人类难以理解的语言
个性化新闻推送、AI搜索与通知，更具互动性的体验。
