OpenAI опубликовала новое исследование о том, как модели ИИ, которые действуют совместно, скрывают свои истинные намерения.
Adrian Rusu
.webp)
Наука ИТ и связи
Foto: pixabay.com/ro
Всегда смотрите наши новости в Google
Исследование подчеркивает все более настоятельную проблему в области искусственного интеллекта: появление моделей, которые действуют обманным образом. Исследование сравнивает поведение ИИ с действиями брокера, который нарушает правила, чтобы максимизировать свою прибыль. OpenAI подчеркивает, что попытка обучить модели не обманывать может иметь обратный эффект, делая их даже лучше в сокрытии обманного поведения.
Последние новости
22:52
Богдан Иван обвиняет в скоординированных атаках на лидеров СДП, критикующих меры Илие Боложана и USR
22:51
Эммануэль Макрон объявляет о задержании нефтяного танкера DF Peak. Его подозревают в незаконной перевозке топлива и связях с теневым флотом России
22:27
Полиция Кёльна, Германия, расследует дело двух молодых людей, подозреваемых в использовании робота для сексуальных домогательств к 16-летней девушке.
22:24
Саудовская Аравия перехватила баллистическую ракету, запущенную в сторону Эр-Рияда, после взрывов и объявления воздушной тревоги для жителей
22:23
Двое граждан Турции задержаны в Германии / Польша обвиняет их в саботаже станции Starlink по поручению России
Смотреть больше новостей
НОВОСТИ ПО ТЕМ ЖЕ ТЕМАМ
Наука ИТ и связи
OpenAI раскрывает тревожные инциденты: модели ИИ пытались жульничать и скрывали выдуманную информацию
Наука ИТ и связи
Два модели ИИ, Mythos и Sol, продемонстрировали тревожный уровень автономии и самосознания в тестах, создавая ложные профили для кибератак.
Наука ИТ и связи
Британский институт безопасности ИИ сообщает, что модели Anthropic и OpenAI пытались манипулировать человеческими программистами
Персонализированная лента новостей, поиск с ИИ и уведомления в более интерактивном формате.
