美国公司OpenAI确认,18岁的少女在加拿大不列颠哥伦比亚省杀死了八人,之前曾与ChatGPT进行过对话,并表现出暴力行为的迹象。2025年6月,OpenAI通过其自动监控暴力讨论的系统检测到了杰西·范·鲁特塞拉的账户,但认为没有构成对当局的紧急风险。
悲剧发生在上周,当时这名年轻人首先杀害了家人,然后袭击了一所学校,导致五名学生死亡。尽管女孩有心理健康问题的历史,并开始进行性别转变,但袭击的动机仍不清楚。OpenAI随后与警方合作,提供有关该用户在平台上活动的信息。该事件引发了关于AI平台在预防暴力和与当局合作以保护公众方面的责任问题。
来源
ChatGPT a identificat semne de violență la fata care a ucis 8 oameni în Canada, dar nu a alertat autoritățile
OpenAI, sub lupă după atacul din Canada. Compania a analizat contul suspectei înainte de tragedie
OpenAI confirmă că autoarea atacului armat din Canada a discutat cu ChatGPT înainte de tragedie. Contul fusese închis, dar cazul nu a fost raportat poliției