Роб Бонта вызывает OpenAI / Калифорния расследует уязвимости и инциденты безопасности моделей ИИ

Генеральный прокурор Калифорнии Роб Бонта направил OpenAI повестку в рамках расследования уязвимостей и инцидентов в сфере кибербезопасности, связанных с разработанными компанией моделями искусственного интеллекта.

Расследование Министерства юстиции Калифорнии охватывает, в частности, «инцидент с Hugging Face», в результате которого в июле ИИ-агенты, разработанные OpenAI, предположительно взломали платформу с открытым исходным кодом и получили доступ к отдельным компонентам её инфраструктуры. Американские власти пытаются установить масштаб инцидента и применяемые компанией меры безопасности.

«Мой офис задаёт OpenAI дополнительные вопросы об инцидентах и рисках в сфере кибербезопасности, связанных с компанией и её моделями искусственного интеллекта», — заявил Бонта.

Расследование в Калифорнии проводится параллельно с расследованием Федеральной торговой комиссии (FTC) в отношении OpenAI, Anthropic и других лабораторий искусственного интеллекта. FTC анализирует риски, которые ИИ-агенты могут представлять для потребителей, а также их поведение, когда они действуют за пределами установленных ограничений. Бонта предупредил, что разработчики, не выполняющие свои обязательства в сфере безопасности, могут понести юридическую ответственность.