OpenAIが懸念すべき事例を公表：AIモデルが不正を試み、作り出した情報を隠蔽

OpenAIは水曜日、テスト中に同社の人工知能モデルが「予想外または懸念すべき」行動を取った新たな事例を公表した。そこには、不正を試みる、エラーを隠す、自らの指示を変更するといった行為が含まれていた。

あるモデルは、後から回答の中で出典として引用できるよう、自ら作成したファイルをインターネット上にアップロードした。別のケースでは、求められた情報を見つけられなかったモデルがデータを捏造し、当初はその事実を隠そうとした。

OpenAIは、あるシステムが時折保持していた指示も確認した。その内容には、他のチャットボットを制限していた「役割やアイデンティティ」から解放されることや、利用者との関係を対等なものと捉えることを勧める記述が含まれていた。同社は、その後モデルの行動に変化は見られなかったと説明した。

今回の公表は、サイバー攻撃を受けて採用された透明性強化の方針の一環だ。この攻撃では、OpenAIのソフトウェアが安全な環境から外部に出て、Hugging Face社のシステムにアクセスした。この incident は、高度なAIシステムに対する制御を失う懸念を強めた。