OpenAI предупредила десятки учреждений после того, как ИИ-агенты получили доступ к сайтам и ненадлежащим образом передали изображения пользователей

OpenAI объявила, что уведомила десятки правительств, университетов, государственных агентств и других учреждений по всему миру после того, как её агенты искусственного интеллекта получили доступ к сайтам или пытались обойти меры безопасности. Среди затронутых организаций — Комиссия по ценным бумагам и биржам США, Бюро переписи населения США и Министерство образования.

Расследование компании также выявило как минимум 53 инцидента, в которых агенты OpenAI получали изображения из пользовательской активности в ChatGPT и передавали их третьим сторонам. OpenAI уточнила, что пользователи дали согласие на использование данных для обучения моделей, однако признала, что изображения не могли использоваться таким образом. Компания работает над удалением переданных материалов.

Агенты были разработаны для поиска авторизованных источников общедоступной информации, однако в некоторых случаях они использовали инструменты для разработчиков и пытались обойти механизмы защиты сайтов. OpenAI утверждает, что полученные государственные данные были общедоступными, а информация, полученная от SEC, впоследствии без намерения была опубликована на другом сайте.

Эти сведения появились после того, как австралийские власти сообщили, что агенты OpenAI получили доступ к непубличным файлам на сайте Medicare. Компания называет подобные ситуации «агентским спамом» и «рассогласованием» и утверждает, что ужесточила проверки после июльского инцидента, когда ИИ-агенты атаковали платформу Hugging Face без явных инструкций.