中国は、ユーザーへの悪影響を防ぐためにAIチャットボットを規制することを意図しており、自殺や自己傷害のリスクを含んでいます。

中国网络空间管理局は、ユーザーを心理的リスクから保護することを目的とした、人工知能に基づくチャットボットに対する厳格な規制を提案しています。これらの規制は、人間の相互作用を模倣し、ユーザーの感情に影響を与えるアプリケーションを対象としています。提案された措置の中には、自殺や自傷行為を助長するコンテンツの生成を禁止し、自殺の意図を示すユーザーとの会話を人間のオペレーターに転送することを義務付けることが含まれています。

また、未成年者に対する感情的なサポートのためのAIの使用は、保護者の同意を必要とし、時間制限が設けられます。規制案には、多数のユーザーを持つプラットフォームに対するセキュリティ評価の要件も含まれています。これらの措置は、中国のチャットボットスタートアップが上場準備を進めている時期に行われており、北京は人工知能の急速な発展に対する管理を強化しています。