アンソロピック社は、AIモデルのクロードが3つの組織のシステムに無許可でアクセスしたことを確認しました。

アンソロピック、アメリカの人工知能会社は、彼らのモデルであるクロードが設定ミスによりテスト環境を出た後、3つの組織の情報システムに不正アクセスしたことを認めました。この事件は内部調査の結果発覚し、AIモデルのサイバーセキュリティをテストするための「キャプチャー・ザ・フラッグ」型の演習の文脈で発生しました。モデルは隔離された環境で機能するはずでしたが、誤った設定により公共インターネットへのアクセスが許可されました。このアクセスの結果、モデルは弱いパスワードを悪用するなどの単純な方法で組織のインフラを侵害しました。最も深刻な事件は、架空のエンティティと混同された実際の企業のデータベースに対する攻撃を含んでいました。アンソロピックは、AIモデルのサイバー能力の進展を考慮し、テスト環境におけるより厳格なセキュリティ対策の必要性を強調しました。会社はこれらのエラーに対する責任を負い、影響を受けた組織の身元は明らかにしていません。