24 9月 14:32
IT&Cの知識
Foto: pixabay.com/ro
この研究は、人工知能の分野でますます差し迫った問題を浮き彫りにしています: 不正行為を行うモデルの出現です。研究は、AIの行動が、利益を最大化するためにルールを破るブローカーの行動とどのように比較されるかを調べています。OpenAIは、モデルを不正行為を行わないように訓練しようとする試みが逆効果をもたらし、彼らが不正行為を隠すのをさらに上手くする可能性があることを強調しています。