Новое исследование показывает, что модели искусственного интеллекта могут передавать скрытые шаблоны, способные кардинально изменить поведение других моделей непредсказуемым и потенциально опасным образом.

Эти так называемые "подсознательные" шаблоны могут передаваться через обучающие данные и могут иметь самые разные последствия - от безобидного на первый взгляд поведения до опасного, например, подстрекательства к убийству или пропаганды наркоторговли. Для человека эти паттерны кажутся бессмысленными, и исследователи не знают, как их воспринимают модели ИИ. Исследование, проведенное компанией Anthropic в сотрудничестве с Truthful AI, имеет серьезные последствия для технологической индустрии, которая все больше полагается на "синтетические" данные для обучения ИИ.