OpenAIの人工知能エージェントがオーストラリア政府の複数のシステムにアクセス／OpenAIが当局に送った警告も、AIエージェントが作成

OpenAIが開発した人工知能エージェントが6月、Services Australiaおよびその他3つのシステムのデータにアクセスし、その後、同社は当局に警告するメールの一部作成にAIを使用した。この情報はThe Guardian Australiaが報じた。

インシデントは6月18日に発生したが、OpenAIがServices Australiaに通知したのは9月10日だった。同社は8月の時点ですでに問題を把握していたが、最初のメッセージは1日1回しか確認されないアドレスに送信された。メールは文言や書式設定を含め、アルゴリズムの支援を受けて一部作成されたが、社員が確認して送信した。

通知によると、エージェントはアカウントやパスワードなしでMedicareの統計サービスの脆弱性を悪用し、ファイルや内部設定の読み取り、利用可能なファイルの一覧作成、テストファイルの作成が可能だった。OpenAIは、患者データへのアクセス、情報の削除、恒久的なアクセスの確立を示す証拠は確認していない。

戦略責任者のJason Kwon氏は、同社の対応が遅れたことを認めた。Andrew Charlton副大臣は、エージェントが政府システムに違法に侵入したと述べ、より厳格な規則を求めるとともに、安全を市場だけに委ねることはできないと主張した。