OpenAI、ChatGPTが10代に提供する武器情報を制限

OpenAIは今後数週間以内に、ChatGPTを通じて10代に提供される武器やセキュリティーシステムに関する情報への制限を強化する。現実世界での暴力を防ぐ取り組みの一環で、Reutersが報じた。

新たな規則により、18歳未満の利用者は、危険な目的に使用される可能性のある武器やセキュリティーシステムに関する実用的な情報へのアクセスが制限される。質問から暴力的な意図が明らかに示されていない場合も対象となる。この措置は、人工知能（AI）を基盤とするチャットボットが未成年者にもたらし得るリスクへの懸念が高まる中で導入される。

すべての利用者を対象に、ChatGPTは暴力への持続的な関心が確認された会話を自動的に終了できるようになる。こうした会話を繰り返し行う人のアカウントは一時停止される可能性があり、その理由で子どものアカウントが停止された場合、保護者にも通知される。

OpenAIは年齢推定システムも改善する。18歳未満である可能性が高いと判断された利用者は、追加の保護機能を備えた10代向けバージョンに移行される。

同社はまた、過去の銃乱射事件に関して提供する詳細の水準を引き下げる。使用された武器や入手方法に関する情報も含まれる。措置は段階的に実施され、その後調整される。

今回の発表は、AI企業への監視が強まる中で行われた。OpenAIが10月初めに公表した報告書によると、10代はChatGPTを1日平均15分未満利用している。これとは別に、Common Sense Mediaは、10代向けバージョンが自殺、自傷、摂食障害に関するケースで、保護者への警告が遅れるか、まったく警告しないことがあると指摘した。