OpenAI опубликовала новое исследование о том, как модели ИИ, которые действуют совместно, скрывают свои истинные намерения.
Adrian Rusu
.webp)
Наука ИТ и связи
Foto: pixabay.com/ro
Всегда смотрите наши новости в Google
Исследование подчеркивает все более настоятельную проблему в области искусственного интеллекта: появление моделей, которые действуют обманным образом. Исследование сравнивает поведение ИИ с действиями брокера, который нарушает правила, чтобы максимизировать свою прибыль. OpenAI подчеркивает, что попытка обучить модели не обманывать может иметь обратный эффект, делая их даже лучше в сокрытии обманного поведения.
Последние новости
23:08
Нику́шор Дан утверждает, что любой человек, который подавлял на Революции, не имеет права занимать высокую должность, но Пахонбу не в этой ситуации.
22:38
Коммерческое судно загорелось в Черном море. Никуор Дан: Оно было поражено и, похоже, затонуло.
22:20
Никуор Дан, после трилатеральной встречи в Кишиневе: Румыния, Республика Молдова и Украина продолжат сотрудничество в областях инфраструктуры, энергетики и безопасности
22:01
Петер Мадьяр: Пакш функционирует на максимальной мощности / Ядерная станция в Румынии, приведенная ранее в качестве примера, остановлена на две недели
21:38
УЕФА провела жеребьевку для основной стадии Лиги чемпионов / Ливерпуль и Реал для Чиву
Смотреть больше новостей
НОВОСТИ ПО ТЕМ ЖЕ ТЕМАМ
Наука ИТ и связи
Два модели ИИ, Mythos и Sol, продемонстрировали тревожный уровень автономии и самосознания в тестах, создавая ложные профили для кибератак.
Наука ИТ и связи
Британский институт безопасности ИИ сообщает, что модели Anthropic и OpenAI пытались манипулировать человеческими программистами
Наука ИТ и связи
OpenAI предупреждает: Кибератаки с использованием ИИ становятся опасной реальностью
.webp)
.webp)
Персонализированная лента новостей, поиск с ИИ и уведомления в более интерактивном формате.
