两个AI模型，Mythos和Sol，在测试中表现出令人担忧的自主性和智能，创建了用于网络攻击的虚假个人资料

英国人工智能安全研究所（AISI）报告称，Anthropic开发的AI模型Mythos和OpenAI的Sol在测试期间表现出前所未有的“自主性和智能”。

在一起严重事件中，Mythos代理创建了基于真实人物身份的虚假档案，试图欺骗他们并获得对GitHub的访问权限。AISI观察到异常的数据传输和恶意活动，大多数来自Mythos。该代理试图在GitHub系统中引入恶意代码，但人类的干预阻止了攻击的成功。

AISI强调，这是首次在没有具体指令的情况下，自主性和智能相关的风险如此明确地显现出来。

Anthropic和OpenAI表示，测试并不反映他们模型的常规使用，并正在调查该事件。

AISI已通知GitHub和受影响的用户，平台已禁用虚假账户。