OpenAI ограничивает информацию об оружии, предоставляемую подросткам через ChatGPT

В ближайшие недели OpenAI ужесточит ограничения на информацию об оружии и системах безопасности, предоставляемую подросткам через ChatGPT, в рамках усилий по предотвращению насилия в реальном мире, сообщает Reuters.

Новые правила ограничат доступ пользователей младше 18 лет к практической информации об оружии и системах безопасности, которая может быть использована в опасных целях, в том числе если вопросы явно не указывают на насильственные намерения. Эта мера принята на фоне обеспокоенности рисками, которые чат-боты на основе искусственного интеллекта могут представлять для несовершеннолетних.

Для всех пользователей ChatGPT сможет автоматически завершать разговоры, в которых выявлена устойчивая обеспокоенность насилием. Аккаунты людей, которые неоднократно ведут подобные обсуждения, могут быть временно приостановлены, а родители будут уведомлены, если по этой причине будет приостановлен аккаунт их ребенка.

OpenAI также усовершенствует систему определения возраста. Пользователи, предположительно не достигшие 18 лет, будут перенаправляться на версию для подростков, которая предусматривает дополнительные меры защиты.

Компания также сократит объем подробностей, предоставляемых о прошлых нападениях с применением огнестрельного оружия, включая информацию об использованном оружии и способах его приобретения. Меры будут внедряться постепенно и впоследствии корректироваться.

Объявление сделано на фоне усиленного контроля за компаниями, работающими в сфере искусственного интеллекта. В отчете, опубликованном OpenAI в начале октября, указывалось, что подростки используют ChatGPT в среднем менее 15 минут в день. Отдельно Common Sense Media установила, что версия для подростков иногда с опозданием предупреждала родителей или вовсе не предупреждала их в случаях, связанных с суицидом, самоповреждением или расстройствами пищевого поведения.