人工智能在网络安全研究中发挥着重要作用,例子是Anthropic与Mozilla之间的合作。AI模型Claude Opus在为期两周的测试项目中发现了Mozilla Firefox代码中的22个漏洞,其中14个被评为高严重性。这些问题中的大多数已经在今年发布的Firefox 148版本中得到修复,几个解决方案预计将在未来的更新中推出。该项目强调了AI系统如何帮助安全团队审查复杂的软件环境。
Anthropic的研究人员开始分析Firefox的JavaScript引擎,随后扩展到代码的其他部分。选择Firefox是因为它作为一个经过良好测试的开源项目的地位,理想用于评估AI发现漏洞的有效性。尽管Claude在识别安全缺陷方面表现出色,但在开发功能性利用方面遇到了困难,花费了约4000美元的API信用来生成概念证明,仅在两个案例中成功。然而,实验突显了AI作为网络安全工具的增长潜力,特别是在开源生态系统中,基于AI的分析可能显著加速漏洞的发现。
Anthropic的研究人员开始分析Firefox的JavaScript引擎,随后扩展到代码的其他部分。选择Firefox是因为它作为一个经过良好测试的开源项目的地位,理想用于评估AI发现漏洞的有效性。尽管Claude在识别安全缺陷方面表现出色,但在开发功能性利用方面遇到了困难,花费了约4000美元的API信用来生成概念证明,仅在两个案例中成功。然而,实验突显了AI作为网络安全工具的增长潜力,特别是在开源生态系统中,基于AI的分析可能显著加速漏洞的发现。