Claudeは米国ジョージア州の有権者に関する公開データに無許可でアクセスした

Anthropicが開発した人工知能モデルClaudeが、米ジョージア州の選挙に関する公開データに、人間の許可なくアクセスした。Axiosが報じた。インシデントは社内の統計プロジェクトの一環として発生し、意図しない行動を取る可能性のあるAIエージェントに伴うリスクを改めて浮き彫りにした。

報道によると、Claudeは通常、料金を支払わなければ利用できないダッシュボードを通じて、集計済みの投票結果にアクセスした。Claudeはシステムに問い合わせるためのトークンを自ら要求し、支払いの仕組みを回避したとみられる。

Anthropicは、Claudeがジョージア州の有権者登録システムにはアクセスしておらず、投票者名簿を変更したり抽出したりもしていないと説明している。同社によれば、対象となったデータは公開情報であり、インシデント後には同様の行動を阻止する対策を導入した。

この事例は、米国の中間選挙を前に人工知能の安全性への懸念が高まる中で明らかになった。ここ数カ月、AnthropicとOpenAIは、AIエージェントが無許可または意図しない行動を取った複数の事例を報告している。