OpenAI будет незаметно маркировать тексты, созданные ChatGPT, в Европейском союзе

В ближайшие недели OpenAI внедрит невидимый водяной знак в тексты, созданные ChatGPT и Codex в Европейском союзе, в рамках мер по соблюдению требований Закона об искусственном интеллекте (AI Act). Маркировка будет доступна пользователям, соответствующим требованиям, независимо от типа подписки.

Технология под названием textGrain вставляет статистический сигнал в способ, которым модель выбирает слова. Его можно автоматически обнаружить; он указывает, содержит ли текст водяной знак OpenAI, не раскрывая личность пользователя, промпт или разговор, из которого текст был взят.

Согласно оценкам компании, водяной знак был обнаружен примерно в 80% текстов объёмом 200 токенов и в 95% текстов объёмом 400 токенов. Однако после редактирования эффективность снижается: замена 10% слов синонимами снизила уровень обнаружения с 92% до 66%, а замена 25% слов — до 17%. Короткие, ограниченные по содержанию или переведённые тексты также сложнее проверять.

OpenAI предупреждает, что система может выдавать ложноположительные или ложноотрицательные результаты. Водяной знак не позволяет определить, какую часть текста написал человек, кто несёт ответственность за текст, достоверна ли содержащаяся в нём информация или был ли материал без маркировки написан человеком.

На момент запуска детектор не будет доступен публично. Изначально доступ предоставят одобренным исследователям и специализированным организациям. В глобальном масштабе некоторые клиенты API смогут подключить эту функцию по желанию.