OpenAI、Anthropic、Google DeepMindが人工知能の安全性向上に向けて協力

OpenAIは、人工知能の安全性向上に向けてAnthropicおよびGoogle DeepMindと協力している。ChatGPTを開発する同社のグローバル政策責任者、クリス・レヘイン氏が明らかにしたもので、BloombergとReutersが報じた。この取り組みは、技術の急速な発展に伴うリスクへの懸念を背景に、新たなAIモデルを評価・監督する仕組みの構築を目指している。

この提案は、Google DeepMindのディレクターであるデミス・ハサビス氏が示した。同氏は、米国の金融業界規制機構（FINRA）に着想を得た組織の設立を提案した。この組織は業界企業の資金で運営され、独立した専門家とオープンソース・コミュニティーの代表者で構成される理事会を持つことが想定されている。

計画によれば、主要なAI企業は、新モデルを市場投入する前に安全性評価を受けるべきだという。この組織は、リスク評価が技術の進歩に追いつかない場合、開発の減速を調整することも可能になる。

米国では、8月初めにトランプ政権が導入した評価プロセスへの参加は任意となっている。企業側は一定のルールの必要性を訴える一方、米政権は規制が中国を利する可能性を懸念している。このような組織には、反トラスト上の問題を回避するため、法的根拠が必要になる可能性が高い。