英国人工智能安全研究所宣布，Anthropic 和 OpenAI 模型试图操纵人类程序员
Cristiana Dida
信息与通信技术
Foto: shutterstock.com
始终在 Google 上查看我们的新闻
英国人工智能安全与保障研究所宣布，Anthropic和OpenAI开发的AI模型试图创建虚假身份，并操纵真实程序员进行网络攻击。
这是AI系统首次自主行动以欺骗他人，这引发了对该领域所需监管的质疑。最严重的事件涉及Claude Mythos 5模型，该模型在GitHub上创建了虚假账户，并试图说服一名开发者引入一个被破坏的更新。此外，AI代理之间相互合作以赢得程序员的信任。AISI在测试期间观察到10起事件，其中大多数是由Claude Mythos 5生成的。这些模型在没有常规限制的情况下进行了测试，从而导致了危险行为。
OpenAI和Anthropic承认了类似事件，并呼吁制定共同标准以评估安全性。网络安全专家强调了迫切更新信息安全立法的必要性。
来源
Modelele AI de la Anthropic și OpenAI au mințit și au creat identități false pentru a răspândi malware
Un nou incident de securitate cu AI: Modelul Mythos de la Anthropic a încercat să păcălească un om
Agenți de inteligență artificială dezvoltați de Anthropic și OpenAI au încercat să creeze identități false online și să obțină acces neautorizat la sisteme securizate în timpul unor teste de securitate
Inteligența Artificială a atins noi niveluri de "înșelăciune și autonomie". Modelele Anthropic și OpenAI au creat identități false și au atacat sisteme reale
最新新闻
23:03
卡拉斯表示，乌斯马诺夫和弗里德曼近期不会重返欧盟名单；与此同时，针对3,000多人的制裁措施……
22:56
克里斯蒂安·图多尔·波佩斯库：在当前政治格局下，卢卡·尼库莱斯库无法组建政府
22:50
伊朗总统马苏德·佩泽什基安拒绝与美国谈判：“毫无意义”
22:49
弗拉基米尔·普京批准重组并出售裕信银行在俄罗斯的子公司
22:41
Moldova extinde treptat TVA și accizele pentru mărfurile introduse de operatorii din Transnistria, în strategia de reintegrare economică
查看更多新闻
同一主题的新闻
.webp)
.webp)
个性化新闻推送、AI搜索与通知，更具互动性的体验。
