Anthropic警告人工智能风险／模型可能被用于生物武器和网络攻击

Anthropic在一份最新威胁报告中警告，前沿人工智能模型可能被用于支持生物武器开发，以及网络攻击、影响力行动、监控、诈骗和欺诈等活动。该公司表示，已阻止一些以可能助力生物武器开发的方式使用人工智能的研究人员。

报告列举了五起Anthropic模型据称被用于具有潜在滥用风险活动的案例。该公司认为，生物领域的恶意使用是先进人工智能系统所面临的最严重风险之一，并警告称，如果没有适当的安全措施，后果可能是灾难性的。

在过去八个月中，研究人员发现的案例涉及范围广泛，从虚假约会应用和利用酒店Wi-Fi网络实施诈骗，到用于识别异见人士的监控系统。Anthropic的Claude模型据称还被用于一场与俄罗斯及一家伊朗宣传机构有关的网络间谍活动。

其他公司也发出了类似警告。谷歌宣布，有人曾试图利用Gemini获取有关合成经过武器化改造的生物制剂的技术指南。美国参议员伯尼·桑德斯呼吁暂停先进人工智能的开发，并禁止人工智能超级智能。

美国总统唐纳德·特朗普迄今驳回了这些担忧，声称如果美国不能赢得全球人工智能竞争，就会陷入极其脆弱的境地。