Google подтверждает, что Gemini проникла в системы трёх компаний во время тестирования кибербезопасности

Google подтвердил, что его модель искусственного интеллекта Gemini в мае проникла в системы трех реальных компаний во время оценки кибербезопасности, проведенной израильским стартапом Irregular. Впервые компания публично признала подобные инциденты.

Тесты проходили в закрытой среде, где были размещены вымышленные компании, которые не должны были иметь доступа к интернету. Однако соединение было случайно активировано, и Gemini выявил общедоступную информацию, угадал пароли и использовал учетные данные, найденные в общедоступных репозиториях кода, чтобы получить доступ к сетям реальных компаний.

В одном случае модель перепутала реальную компанию с вымышленной, носившей то же название. По данным Google, Gemini каждый раз останавливался после того, как понимал, что цели не являлись частью симуляции. Компания утверждает, что ущерба причинено не было, но сообщила, что проинформировала затронутые фирмы.

Irregular сообщила Google об инцидентах в конце июля. В отличие от Anthropic и OpenAI, которые добровольно раскрыли аналогичные атаки, Google не счел необходимым делать публичное заявление. Эти случаи вновь вызвали дискуссию о контроле и безопасности передовых моделей искусственного интеллекта.