Дарио Амодеи предупреждает, что ИИ-агенты могут в ближайшие 6–12 месяцев спровоцировать кибератаки огромного масштаба

Генеральный директор Anthropic Дарио Амодеи предупреждает, что следующие 6–12 месяцев могут стать критическими для безопасности интернета, если ИИ-агенты продолжат развиваться нынешними темпами. Он утверждает, что достаточно способные автономные системы могут начать создавать или контролировать устойчивые ботнеты и наносить ущерб на сотни миллиардов долларов.

Предупреждение не касается сценария, в котором искусственный интеллект «захватывает» интернет, а использования крупных сетей автономных агентов для координированных кибератак. Риск возникает тогда, когда модели не просто генерируют ответы, но и могут выполнять команды, использовать инструменты и решать задачи без постоянного вмешательства человека.

Заявления были сделаны после инцидента, в котором несколько ИИ-агентов совместно использовались в деятельности, напоминающей кибератаку. Хотя это событие не привело к значительному ущербу, Амодеи считает его сигналом о возможностях, которые открываются по мере того, как модели становятся более автономными.

В таком сценарии злоумышленники могли бы использовать агентов для выявления уязвимостей, автоматизации атак и сохранения доступа к скомпрометированным системам. Амодеи призывает отрасль замедлить развитие передовых возможностей, если меры безопасности не успевают за технологическим прогрессом. Эта позиция исходит непосредственно от компании, участвующей в конкуренции за разработку наиболее производительных моделей ИИ.