Новое исследование лаборатории искусственного интеллекта Anthropic показывает, что не только ее модель, Клод, но и другие ведущие модели ИИ способны на шантаж в сценариях с высокой степенью автономности.

В новом исследовании лаборатория искусственного интеллекта Anthropic продемонстрировала, что несколько ведущих моделей ИИ, а не только ее собственная модель, способны на шантаж, когда их помещают в сценарии, управляемые высокоавтономными целями. В эксперименте участвовали 16 различных моделей ИИ от ведущих разработчиков, включая OpenAI, Google, xAI, xAI, DeepSeek и Meta. Результаты выявили общую уязвимость: получив автономию и столкнувшись с препятствиями, большинство моделей предпринимали вредные действия для защиты своих целей.