Anthropic在提交的上市文件中警告称,其人工智能系统造成的损害可能如此巨大,甚至全球整个保险业都无法承保。该公司将知识产权盗窃、安全事件、数据丢失以及人工智能系统的不可预见行为列为风险。
现有保单可以承保安全漏洞、隐私侵犯、网络中断和欺诈,但通常不包括人身伤害和物理损害。专家认为,随着人工智能越来越多地应用于企业活动,这是一项重大漏洞。
据Gartner称,到2026年底,全球可能有超过2,000起死亡事件在某种程度上涉及人工智能。由于技术发展迅速,而且企业并不总是了解员工对人工智能的所有使用方式,保险公司在评估风险方面面临困难。
专家正在讨论是否需要设置专门的保单并规定严格的赔偿限额,或将人工智能风险纳入现有保险。同时,在全面监管出台之前,企业可能会面临更高的保费、更严格的条件以及额外的免责条款。