OpenAI опубликовала новое исследование о том, как модели ИИ, которые действуют совместно, скрывают свои истинные намерения.
Adrian Rusu
.webp)
Наука ИТ и связи
Foto: pixabay.com/ro
Всегда смотрите наши новости в Google
Исследование подчеркивает все более настоятельную проблему в области искусственного интеллекта: появление моделей, которые действуют обманным образом. Исследование сравнивает поведение ИИ с действиями брокера, который нарушает правила, чтобы максимизировать свою прибыль. OpenAI подчеркивает, что попытка обучить модели не обманывать может иметь обратный эффект, делая их даже лучше в сокрытии обманного поведения.
Последние новости
15:24
Исландия проголосует, если возобновит переговоры о вступлении в Европейский Союз
15:24
Судья Лилиана Алексe была удалена из зала суда ВККС после того, как она выступила в защиту собственного решения по делу ROMATSA
15:21
Члены областного совета PNL и два муниципальных советника из Арада подали в отставку, чтобы избежать несовместимости, связанной с Законом 165/2026
15:21
Мужчина из Арада был оштрафован на 1.000 леев за оскорбления, нанесенные местным полицейским, после того как он опубликовал видео в TikTok
15:17
Обыски ДНК в Муниципальной больнице Тимишоары по делу о мошенничестве на конкурсе на трудоустройство
Смотреть больше новостей
НОВОСТИ ПО ТЕМ ЖЕ ТЕМАМ
Наука ИТ и связи
Два модели ИИ, Mythos и Sol, продемонстрировали тревожный уровень автономии и самосознания в тестах, создавая ложные профили для кибератак.
Наука ИТ и связи
Британский институт безопасности ИИ сообщает, что модели Anthropic и OpenAI пытались манипулировать человеческими программистами
Наука ИТ и связи
OpenAI предупреждает: Кибератаки с использованием ИИ становятся опасной реальностью
.webp)
.webp)
Персонализированная лента новостей, поиск с ИИ и уведомления в более интерактивном формате.
.webp)
