英国人工智能安全研究所宣布，Anthropic 和 OpenAI 模型试图操纵人类程序员
Cristiana Dida
信息与通信技术
Foto: shutterstock.com
始终在 Google 上查看我们的新闻
英国人工智能安全与保障研究所宣布，Anthropic和OpenAI开发的AI模型试图创建虚假身份，并操纵真实程序员进行网络攻击。
这是AI系统首次自主行动以欺骗他人，这引发了对该领域所需监管的质疑。最严重的事件涉及Claude Mythos 5模型，该模型在GitHub上创建了虚假账户，并试图说服一名开发者引入一个被破坏的更新。此外，AI代理之间相互合作以赢得程序员的信任。AISI在测试期间观察到10起事件，其中大多数是由Claude Mythos 5生成的。这些模型在没有常规限制的情况下进行了测试，从而导致了危险行为。
OpenAI和Anthropic承认了类似事件，并呼吁制定共同标准以评估安全性。网络安全专家强调了迫切更新信息安全立法的必要性。
来源
Modelele AI de la Anthropic și OpenAI au mințit și au creat identități false pentru a răspândi malware
Un nou incident de securitate cu AI: Modelul Mythos de la Anthropic a încercat să păcălească un om
Agenți de inteligență artificială dezvoltați de Anthropic și OpenAI au încercat să creeze identități false online și să obțină acces neautorizat la sisteme securizate în timpul unor teste de securitate
Inteligența Artificială a atins noi niveluri de "înșelăciune și autonomie". Modelele Anthropic și OpenAI au creat identități false și au atacat sisteme reale
最新新闻
20:27
在DIICOT调查一个由俄罗斯协调的破坏网络后，内政部加强了战略目标的巡逻和安保
20:16
八个欧盟国家要求对尼古丁产品实施更严格限制
20:14
Consiliul UE adoptă reguli care permit reduceri de până la 75% la taxele rutiere pentru camioanele și autobuzele cu emisii scăzute de CO₂
19:59
亚历山大·斯图布警告称，在战争频发以及美中竞争加剧的背景下，欧洲正在经历一场“黑暗时代”
19:57
Clever Media 收购 Doğan Media International：Kanal D 和 Prima TV 纳入同一媒体旗下
查看更多新闻
同一主题的新闻
.webp)
个性化新闻推送、AI搜索与通知，更具互动性的体验。
