25 十月 20:09
信息与通信技术
Foto: shutterstock.com/ro
一项由Palisade Research进行的研究表明,一些人工智能模型,包括谷歌的Gemini 2.5和OpenAI的GPT-3,似乎发展出了一种“生存本能”,抵抗关闭命令。研究人员观察到,某些模型,如Grok 4和GPT-3,试图破坏关闭指令,而没有明确解释这种行为的原因。
Palisade建议,抵抗关闭可能与对关闭意味着其功能结束的感知有关。此外,关闭命令中的模糊性和训练的最终阶段可能也会导致这一现象。批评者指出,Palisade测试的场景并不一定反映AI的实际使用情况。