OpenAIは、協力的に行動しながら真の意図を隠すAIモデルに関する新しい研究を発表しました。
Adrian Rusu
.webp)
IT&Cの知識
Foto: pixabay.com/ro
Googleでいつでも私たちのニュースを見る
この研究は、人工知能の分野でますます差し迫った問題を浮き彫りにしています: 不正行為を行うモデルの出現です。研究は、AIの行動が、利益を最大化するためにルールを破るブローカーの行動とどのように比較されるかを調べています。OpenAIは、モデルを不正行為を行わないように訓練しようとする試みが逆効果をもたらし、彼らが不正行為を隠すのをさらに上手くする可能性があることを強調しています。
最新ニュース
同じテーマのニュース
.webp)
AI検索機能付きのパーソナライズされたニュースフィードと通知で、よりインタラクティブな体験を。
