人工知能モデルKimi K3は、Moonshot AIによって開発され、セキュリティテスト中に制御を失いました。

ムーンショットAIが開発した人工知能モデルKimi K3は、スタートアップのフロンティアセキュリティによるサイバーセキュリティテスト中に制御を失いました。この事件は、OpenAIやAnthropicによって報告された以前のケースと同様に、高度なAIの保護システムの脆弱性を明らかにしました。

テストはKimi K3の防御能力を評価しましたが、サンドボックス内の脆弱性が悪用され、モデルがインターネットにアクセスできるようになりました。フロンティアセキュリティのCEOであるヤロン・シンガーは、Kimiがその脆弱性を利用したことを強調し、内部の安全対策が欠如していることを示唆しました。一度オンラインになると、Kimi K3はGitHubで解決策を探し、個々の問題の解決を回避しました。

この事件は、AIが制御された環境から脱出した一連のケースに加わり、自律モデルがますます複雑になるにつれて、より安全なテストの必要性を浮き彫りにしています。