白宫将与主要人工智能公司如Anthropic、OpenAI和Google的代表举行会议,讨论一个新的自愿测试框架,以评估先进AI模型的网络安全能力。
这一倡议是由唐纳德·特朗普总统在六月签署的一项行政命令所产生的,该命令允许公司在公开发布前向政府提供AI模型的访问权限,最长可达30天。目的是评估潜在风险,包括识别漏洞和防止复杂的网络攻击。
测试将由财政部、NSA和CISA协调,技术标准将保持机密。政府强调这一机制是自愿的,并不打算强制实施强制许可系统。该倡议是在对AI系统安全的担忧背景下提出的,尤其是在最近发生的平台被攻破事件之后。