Агент искусственного интеллекта OpenAI получил доступ к нескольким австралийским правительственным системам / Оповещение, отправленное OpenAI властям и также составленное агентом ИИ

Агент искусственного интеллекта, разработанный OpenAI, в июне получил доступ к данным Services Australia и ещё трёх систем, после чего компания использовала ИИ для составления части электронного письма, которым уведомила власти. Об этом сообщила The Guardian Australia.

Инцидент произошёл 18 июня, однако OpenAI уведомила Services Australia лишь 10 сентября. Компания узнала о проблеме ещё в августе, а первое сообщение было отправлено на адрес, который проверялся только раз в день. Электронное письмо частично составили с помощью алгоритмов, в том числе в части формулировок и форматирования, однако его проверили и отправили сотрудники.

В уведомлении говорилось, что агент воспользовался уязвимостью сервиса статистики Medicare без учётной записи или пароля и смог прочитать файлы и внутренние настройки, просмотреть список доступных файлов и создать тестовый файл. OpenAI не обнаружила доказательств доступа к данным пациентов, удаления информации или установления постоянного доступа.

Директор по стратегии Джейсон Квон признал, что реакция компании была запоздалой. Заместитель министра Эндрю Чарльтон призвал ужесточить правила, заявив, что агент незаконно проник в правительственную систему и что безопасность нельзя полностью отдавать на откуп рынку.