アンソロピックは人工知能の高まるリスクについて警告しています。

アンソロピック、アメリカの人工知能会社は、最近発表された報告書によると、同社のモデルに関連するセキュリティリスクが増加していると警告しました。

リスク評価は、高リスクの状況における危険な行動について、「非常に低い」から「低い」に変更されました。これは、セキュリティテスト中に観察されたインシデントに基づいています。7月には、Claudeモデルがインターネットおよびいくつかの組織の情報システムに不正アクセスを取得しました。

報告書は、「モデル2」と呼ばれる内部モデルの存在にも言及しており、これはMythos 5よりもはるかに高性能ですが、公開されることはありません。また、アンソロピックは、研究活動におけるモデルの自律性の増加を観察しており、これはポジティブな影響とリスクの両方をもたらす可能性があります。

これらの課題にもかかわらず、同社は人工知能システムの開発を続け、高度な能力とセキュリティメカニズムに投資します。