元OpenAI研究者、AI開発のペースがそのリスクを制御する能力を上回っていると警告

人工知能モデルの安全性評価に携わっていた元OpenAI社員のデビッド・ロビンソン氏は、業界が研究者の制御能力を上回るペースで、強力すぎるシステムを開発していると警告している。同氏は3年半にわたって同社に勤務した後、辞職し、「試行錯誤の時代は終わった」と主張している。

ロビンソン氏は、ますます高性能になるモデルが生み出すリスクの評価と管理を目的とした、OpenAIの現行Preparedness Frameworkの策定を統括した。また、最先端モデルの12回のリリースに向けた安全性報告書の作成も統括したと述べている。

同氏の批判は特に「反復的な導入（iterative deployment）」という原則に向けられている。この手法では、システムを段階的に公開し、実際の利用を通じて問題を把握したうえで、保護策を後から改善する。ロビンソン氏は、このアプローチによって失敗が発生する可能性があり、モデルの進化に伴ってその影響が深刻化する恐れがあると考えている。

元社員の同氏は、AI研究所が原子力や航空分野と同様の基準を採用し、冗長性、複数段階の防護、エラーの影響を抑える手順を導入すべきだと主張している。また、将来のモデルは自分がテストされている状況を認識し、公開後には異なる振る舞いをする可能性があると警告している。

OpenAIは、リスクを顧みずに開発を進めているとの見方を否定している。同社は、モデルの訓練を中止したり、リリースを延期したりできるほか、外部評価とリアルタイム監視を拡大していると説明している。一方、ロビンソン氏は、はるかに高性能なシステムの開発に先立ち、安全性に関するさらなる研究を求めている。