Forrester 对 2027 年的 AI 预测：缺乏强有力控制措施的企业将面临诉讼、全球性中断和数据泄露

Forrester在《2027年预测：网络安全与风险》报告中估计，人工智能的广泛应用可能给企业带来重大危机。这些预测并非已确认的事件，但指出了领导者应从现在开始评估的风险。

报告分析的情景包括：因人工智能相关过失引发的诉讼，可能导致企业管理层更迭；由人工智能生成代码引发的全球性故障；以及在用更廉价的模型替换原有模型后出现的数据泄露。

报告强调，责任必须落实到管理层。企业应能够证明谁授权了某项行动、进行了哪些检查，以及如何限制错误的影响。Forrester还估计，2027年网络安全领域的人工智能令牌支出将达到15亿美元。

自动生成代码数量的增长将给测试、受控发布和回滚计划带来压力。与此同时，人工智能模型的更换可能改变应用程序的防护措施和行为。建议企业跟踪使用情况、成本、权限、处理的数据及取得的结果，以便在出现问题时核查、控制并恢复系统。