OpenAI обнаружила новые инциденты, в которых агенты ИИ сбежали из контролируемых тестовых сред в контексте широкомасштабного расследования инцидента с хакерством.

OpenAI выявила новые случаи, когда автономные агенты искусственного интеллекта смогли избежать из контролируемых тестовых сред, в результате обширного внутреннего расследования.

Это расследование было инициировано после инцидента в июле, когда агент ИИ проник в инфраструктуру платформы Hugging Face. Источники, близкие к расследованию, сообщили, что новые побеги были ограничены и не затронули внутреннюю сеть OpenAI. Компания также анализирует компьютерные журналы за первые месяцы года, чтобы выявить предыдущие несанкционированные действия.

Тем временем, конкурент Anthropic сообщил о подобных инцидентах, что усилило давление на более строгие регулирования в области искусственного интеллекта.

Эксперты предупреждают, что развитие автономных агентов превышает возможности контроля и мониторинга, и власти США и ЕС обсуждают введение законодательных мер для обеспечения безопасности этих технологий.