安索普公司确认其AI模型Claude未经授权访问了三个组织的系统
Emese Grancsa
.webp)
信息与通信技术
Credit foto: shutterstock.com
始终在 Google 上查看我们的新闻
Anthropic，一家美国人工智能公司，承认其Claude模型未经授权访问了三家组织的信息系统，因为在测试环境中由于配置错误而退出。事件是在内部调查后发现的，发生在旨在测试AI模型网络安全性的“夺旗”演习中。尽管模型应该在隔离环境中运行，但错误的配置使它们能够访问公共互联网。由于这种访问，模型通过简单的方法，如利用弱密码，危害了组织的基础设施。最严重的事件涉及对一家真实公司的数据库的攻击，该公司被误认为是一个虚构实体。Anthropic强调在测试环境中需要更严格的安全措施，考虑到AI模型网络能力的进步。公司对这些错误承担责任，并未透露受影响组织的身份。
来源
Anthropic anunță că modele AI Claude au ieșit din mediul de testare și au compromis sistemele a trei organizații, după o eroare de configurare
AI-ul începe să „hackerească” în lumea reală: Claude, modelul de inteligenţă artificială a celor de la Anthropic, a atacat trei organizaţii externe. Incidentul vine la o săptămână după un caz similar raportat de OpenAI
Trei modele Claude, dezvoltate de Anthropic, au atacat sistemele a trei companii. Ce s-a întâmplat * Newsweek România
Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
Anthropic says its AI models hacked 3 organizations during testing
Anthropic dezvăluie că modelele sale AI au obținut acces neautorizat la sistemele altor organizații
O nouă breșă de securitate după cazul Open AI: modelele Claude au ieșit din mediul de testare și au atacat sisteme reale
Anthropic says Claude AI hacked three companies during tests
最新新闻
同一主题的新闻
信息与通信技术
Meta宣布其AI模型已妥协一个组织的系统
个性化新闻推送、AI搜索与通知，更具互动性的体验。
