Anthropic警告称，小型AI模型可能很快在无需人工干预的情况下自我复制
Cristina Petrache
信息与通信技术
Foto unsplash.com
始终在 Google 上查看我们的新闻
Anthropic警告称，小型人工智能模型可能在今年年底前获得在连接互联网的设备上自我复制的能力，例如智能烤箱、Android电视以及其他安全性较低的物联网设备。
在一系列实验中，该公司测试了AI模型能否识别存在漏洞的设备、复制自身并在无人干预的情况下传播。研究人员发现，参数量少于300亿的模型能够完成自我复制过程所需的许多步骤，但在完成整个流程方面仍面临困难。
在简化测试中，部分安全措施被移除，GLM-5.2等模型或更大型号成功完成了整个过程。Anthropic称，启动自我复制的AI代理可能难以停止，因为它们没有明确的停止点，并且能够自行识别未知设备。
该公司警告称，这些系统可能利用广泛可用但不安全的计算资源缓慢传播。Anthropic建议强化设备和基础设施，以限制此类自主代理的扩散。
่านce来源
Modelele de inteligență artificială s-ar putea autoreplica în curând fără acces la centre de date, avertizează compania Anthropic
Modele AI s-ar putea autoreplica în curând fără acces la centre de date, avertizează Anthropic
Avertismentul Anthropic: Agenții AI s-ar putea copia singuri pe dispozitivele de uz casnic, până la sfârșitul anului
Meta lansează două noi modele AI, capabile să analizeze inclusiv documente financiare
Modelele AI învață să se cloneze fără intervenție umană. Avertismentul dur lansat de Anthropic
Anthropic avertizează că inteligența artificială ar putea ajunge să se copieze singură. De ce ar fi dificil de oprit astfel de modele
Modelele AI ar putea să se multiplice fără intervenția oamenilor, avertizează Anthropic. Ce vulnerabilități ar putea exploata inteligența artificială
Modele AI sunt la luni distanță de capacitatea de a se infiltra în dispozitive electronice obișnuite, avertizează Anthropic
AI s-ar putea copia singură pe televizoare și electrocasnice. Avertismentul cercetătorilor * Newsweek România
最新新闻
同一主题的新闻
个性化新闻推送、AI搜索与通知，更具互动性的体验。
