OpenAIがモデル改善のため、ChatGPTとの実際の会話を読む評価担当者を採用

OpenAIは、システムの回答を改善するための取り組みの一環として、ユーザーがChatGPTと実際に交わした会話を分析する数百人の人材を採用した。この情報は404 Mediaが報じ、Nextaが伝えた。

評価担当者は会話全体にアクセスできる場合があり、ニューラルネットワークがリクエストにどのように応答するかを分析する。過度な丁寧さ、「人間らしく」振る舞おうとする傾向、その他の不適切な反応など、望ましくないと見なされる行動の抑制も検討する。

このプロジェクトの社内名称は「Project Lily」で、協力者はMercorやCrossing Hurdlesなどを通じて採用されている。OpenAIは、対話を評価担当者に渡す前に個人情報を自動的に削除しようとしており、評価担当者がユーザー名を見ることはないと説明している。

ただし同社は、自動フィルターは完全ではなく、分析対象となる会話に一部の個人的な詳細情報が含まれる可能性があると認めている。批判者は、ChatGPTとの会話で個人情報や秘密を提供したユーザーについて、そうした情報が本人の交友関係の外にいる人物にさらされる可能性があると警告している。