中国打算对人工智能聊天机器人进行监管，以防止对用户的负面影响，包括自杀和自残的风险

中国网络空间管理局提议对基于人工智能的聊天机器人实施严格的监管，旨在保护用户免受心理风险。这些规定针对模拟人类互动的应用程序，并可能影响用户的情感。提议的措施包括禁止生成鼓励自杀或自残的内容，并要求提供商将表达自杀意图的用户的对话转交给人工操作员。

此外，未成年人在情感陪伴中使用人工智能将需要监护人的同意，并将受到时间限制。监管草案还包括对用户数量众多的平台进行安全评估的要求。这些措施是在中国聊天机器人初创公司准备上市的时刻提出的，而北京也在加强对人工智能快速发展的控制。