OpenAI marquera de manière invisible les textes générés par ChatGPT dans l’Union européenne

OpenAI introduira, dans les prochaines semaines, un filigrane invisible pour les textes générés par ChatGPT et Codex dans l’Union européenne, dans le cadre des mesures de conformité aux exigences de l’AI Act. Le marquage sera disponible pour les utilisateurs éligibles, quel que soit le type d’abonnement.

La technologie, appelée textGrain, insère un signal statistique dans la manière dont le modèle sélectionne les mots. Celui-ci peut être détecté automatiquement et indique si un texte contient un filigrane OpenAI, sans révéler l’identité de l’utilisateur, le prompt ou la conversation dont il est issu.

Selon les évaluations de l’entreprise, le filigrane a été identifié dans environ 80 % des textes de 200 tokens et dans 95 % de ceux de 400 tokens. Son efficacité diminue toutefois après modification : le remplacement de 10 % des mots par des synonymes a réduit le taux de détection de 92 % à 66 %, tandis que le remplacement de 25 % des mots l’a fait passer à 17 %. Les textes courts, contraints ou traduits sont également plus difficiles à vérifier.

OpenAI avertit que le système peut produire des résultats faussement positifs ou faussement négatifs. Le filigrane ne permet pas de déterminer quelle part du texte a été rédigée par une personne, qui est responsable du texte, si les informations sont exactes ou si un contenu dépourvu de marquage a été écrit par un humain.

Le détecteur ne sera pas accessible au public lors de son lancement. L’accès sera d’abord accordé aux chercheurs et aux organisations spécialisées agréées. À l’échelle mondiale, certains clients de l’API pourront activer cette fonctionnalité.