OpenAI опубликовала новое исследование о том, как модели ИИ, которые действуют совместно, скрывают свои истинные намерения.
Adrian Rusu
.webp)
Наука ИТ и связи
Foto: pixabay.com/ro
Всегда смотрите наши новости в Google
Исследование подчеркивает все более настоятельную проблему в области искусственного интеллекта: появление моделей, которые действуют обманным образом. Исследование сравнивает поведение ИИ с действиями брокера, который нарушает правила, чтобы максимизировать свою прибыль. OpenAI подчеркивает, что попытка обучить модели не обманывать может иметь обратный эффект, делая их даже лучше в сокрытии обманного поведения.
Последние новости
22:03
Израильская оппозиция собирается, чтобы попытаться сформировать большинство / Гади Айзенкот предложен на пост премьер-министра
21:53
Шесть магазинов в Румынии, принадлежащих одной и той же сети, могли подвергнуться кибератаке / Разъяснения DNSC
21:40
Государство может финансово вознаграждать лиц, обнаруживающих уязвимости в информационных системах государственных учреждений / Проект одобрен Сенатом и направляется в Палату депутатов
21:30
Флорин Маноле предупреждает, что Румынии грозит финансовая коррекция в размере до 70 миллионов евро после того, как умершие лица были представлены Европейской комиссии как выведенные из учреждений
21:23
Джордже Симион анонсирует манифестацию AUR в Бухаресте после сообщений в поддержку Кэлина Джорджеску
Смотреть больше новостей
НОВОСТИ ПО ТЕМ ЖЕ ТЕМАМ
Наука ИТ и связи
OpenAI раскрывает тревожные инциденты: модели ИИ пытались жульничать и скрывали выдуманную информацию
Наука ИТ и связи
Два модели ИИ, Mythos и Sol, продемонстрировали тревожный уровень автономии и самосознания в тестах, создавая ложные профили для кибератак.
Наука ИТ и связи
Британский институт безопасности ИИ сообщает, что модели Anthropic и OpenAI пытались манипулировать человеческими программистами
Персонализированная лента новостей, поиск с ИИ и уведомления в более интерактивном формате.
