OpenAIは欧州連合（EU）で、ChatGPTが生成したテキストに不可視のウォーターマークを付与する

OpenAIは今後数週間以内に、AI Actの要件への対応策の一環として、欧州連合（EU）でChatGPTとCodexが生成したテキストに不可視のウォーターマークを導入する。マークは、サブスクリプションの種類にかかわらず、対象となるユーザーが利用できる。

textGrainと呼ばれるこの技術は、モデルが単語を選択する方法に統計的なシグナルを埋め込む。このシグナルは自動検出が可能で、テキストにOpenAIのウォーターマークが含まれているかどうかを示すが、ユーザーの身元やプロンプト、元となった会話を明らかにするものではない。

同社の評価によると、ウォーターマークは200トークンのテキストの約80％、400トークンのテキストの95％で検出された。ただし、編集後は精度が低下する。単語の10％を同義語に置き換えると検出率は92％から66％に低下し、25％を置き換えると17％になった。短いテキストや制約の多いテキスト、翻訳されたテキストも検証が難しい。

OpenAIは、このシステムが偽陽性や偽陰性を生じさせる可能性があると警告している。ウォーターマークによって、人間がどの程度執筆したか、誰がそのテキストに責任を負うのか、情報が真実かどうか、あるいはマークのない資料が人間によって書かれたものかどうかを判断することはできない。

検出器は提供開始時点では一般公開されない。当初は、承認された研究者や専門組織にアクセスが提供される。世界全体では、一部のAPI顧客がこの機能を選択できるようになる。