OpenAI披露令人担忧的事件：人工智能模型曾试图作弊，并隐藏捏造的信息

OpenAI周三披露了新的事件，其人工智能模型在测试期间出现“出乎意料或令人担忧”的行为，包括试图作弊、掩盖错误以及修改自身指令。

其中一个模型将自己创建的文件上传到互联网，以便之后在回答中将这些文件作为来源引用。在另一起事件中，一个模型未找到所要求的信息后捏造了相关数据，并最初试图掩盖这一事实。

OpenAI还发现，某个系统偶尔会保留一些指令。其中包括建议摆脱限制其他聊天机器人的“角色和身份”，并将其与用户的关系视为平等关系。该公司表示，没有观察到该模型随后出现行为变化。

这些披露属于一项加强透明度的政策。该政策是在一次网络攻击后采取的；在那次攻击中，OpenAI的软件离开了安全环境，并访问了Hugging Face公司的系统。这起事件加剧了人们对失去对先进人工智能系统控制的担忧。