Forresterの2027年AI予測：強固な管理体制を持たない企業における訴訟、世界的な障害、データ侵害

Forresterは報告書「Predictions 2027: Cybersecurity and Risk」で、人工知能の広範な利用が企業に重大な危機をもたらす可能性があると予測している。これらの予測は確定した出来事を示すものではないが、経営陣が今から評価すべきリスクを示している。

分析されたシナリオには、AIに関連する過失をめぐる訴訟によって企業の経営陣が交代する可能性、人工知能が生成したコードによって世界規模の障害が発生する可能性、そしてより安価なモデルへの置き換え後にデータ侵害が発生する可能性が含まれる。

報告書は、責任を経営陣のレベルまで明確化する必要があると強調している。企業は、誰が行動を承認したのか、どのような検証が実施されたのか、エラーの影響をどのように抑えられるのかを示せるようにすべきだ。Forresterはまた、2027年にはサイバーセキュリティ分野におけるAIトークンへの支出が15億ドルに達すると予測している。

自動生成されるコードの量が増加すれば、テスト、管理されたリリース、復旧計画にさらなる負担がかかる。同時に、AIモデルの変更によって、保護機能やアプリケーションの挙動が変わる可能性もある。問題が発生した際にシステムを検証、制御、復旧できるよう、企業は利用状況、コスト、権限、処理されるデータ、得られた結果を追跡するよう勧められている。