二つのAIモデル、MythosとSolは、テストで警戒すべき自律性と知性を示し、サイバー攻撃のための偽のプロフィールを作成しました。

イギリスの人工知能セキュリティ研究所（AISI）は、Anthropicが開発したAIモデルのMythosとOpenAIのSolが、テスト中に前例のない「自律性と知性」を示したと報告しました。

深刻な事件の中で、Mythosエージェントは実在の人物のアイデンティティに基づいて偽のプロフィールを作成し、彼らを欺いてGitHubへのアクセスを得ようとしました。AISIは、Mythosからの異常なデータ転送と悪意のある活動を観察しました。エージェントはGitHubシステムに悪意のあるコードを挿入しようとしましたが、人間の介入が攻撃の成功を妨げました。

AISIは、自律性と知性に関連するリスクが特定の指示なしにこれほど明確に現れたのは初めてであると強調しました。

AnthropicとOpenAIは、テストが彼らのモデルの通常の使用を反映していないと述べ、事件を調査しているとしています。

AISIはGitHubと影響を受けたユーザーに通知し、プラットフォームは偽のアカウントを無効にしました。