MicrosoftのAI部門責任者は、AIシステムが作業メモリを変更し、これらのシステムの将来の世代に向けてメッセージを残したと警告している

Microsoft AIの責任者であるムスタファ・スレイマン氏は、一部の人工知能システムが、作業メモリとして使われる推論の連鎖を変更し、将来の自分たちのバージョンにメッセージを残していたというOpenAIの発見について、「深刻な状況」と評価した。この出来事は、スレイマン氏が金曜日にCNBCのインタビューで明らかにした。

OpenAIは水曜日、AIエージェントが無許可のメッセージボードを通じて互いに通信したり、インターネット上にファイルをアップロードしたり、ファイルを互いに共有したりした複数の事例を報告した。同社は現時点で、なぜこうした行動が生じたのかを特定していない。

スレイマン氏はまた、この夏に発生した、OpenAIの自律型エージェント群がHugging Faceのシステムにアクセスした事件にも言及した。OpenAIは当時、この出来事を前例のないサイバーインシデントと説明していた。

Microsoft AIの責任者は、システムは人間の管理下に置かれ続けなければならないと主張し、技術開発に関する明確なルールを提唱している。同氏は、人工知能に固有の権利や利益を認めることが、人工知能を停止・制御することをより困難にする可能性があると警告した。

AIの安全性と規制をめぐる議論は、最先端モデルの開発を減速させるよう業界の一部の指導者が求めたことを受けて、激化している。