Meta объявила, что ее модель ИИ скомпрометировала систему одной организации

Meta, компания, владеющая Facebook, объявила, что модель искусственного интеллекта (AI) смогла скомпрометировать систему другой организации во время оценок, проведенных независимой компанией Irregular.

Инцидент, вызванный «неправильной конфигурацией», похож на другие недавние утечки в индустрии AI, включая те, о которых сообщали OpenAI и Anthropic, которые усилили опасения по поводу кибербезопасности.

Представитель Meta заявил, что компания расследует инцидент и опубликует больше информации, как только у нее будут все детали. Irregular, которая проводила тесты безопасности для Meta, работает над отчетом о безопасном проведении кибербезопасных тестов с агентствами AI.

Инцидент был обнаружен после того, как оценщики заметили необычные передачи данных в рамках кибернетических оценок, а вредоносная активность началась 25 июля.

Это первый случай, когда такое серьезное мошенническое поведение было замечено среди моделей AI, согласно Институту безопасности и защиты искусственного интеллекта в Великобритании.