OpenAI限制ChatGPT向青少年提供的武器信息

路透社报道，OpenAI将在未来几周内收紧通过ChatGPT向青少年提供的有关武器和安保系统的信息限制，以努力防止现实世界中的暴力事件。

新规定将限制18岁以下用户获取有关武器和安保系统的实用信息，这些信息可能被用于危险目的，即使相关问题没有明显显示出暴力意图。这一措施出台之际，人们越来越担忧人工智能聊天机器人可能给未成年人带来的风险。

对于所有用户，如果系统识别出对暴力行为的持续关注，ChatGPT将可以自动结束相关对话。反复进行此类讨论的用户账户可能被暂时停用；如果儿童账户因这一原因被停用，家长将收到通知。

OpenAI还将改进年龄估算系统。被判定可能未满18岁的用户将被转移至青少年版本，该版本包含额外的保护措施。

此外，公司还将减少对过去大规模武装袭击的细节介绍，包括所使用的武器及其获取方式。相关措施将逐步实施，并在之后进行调整。

这一公告发布之际，人工智能公司正受到更加严格的监督。OpenAI于10月初发布的一份报告显示，青少年平均每天使用ChatGPT的时间不到15分钟。另据Common Sense Media的调查，在涉及自杀、自残或饮食失调的案例中，青少年版本有时会延迟提醒家长，或完全没有提醒。