OpenAI wird von ChatGPT generierte Texte in der Europäischen Union unsichtbar markieren

OpenAI wird in den kommenden Wochen ein unsichtbares Wasserzeichen für von ChatGPT und Codex generierte Texte in der Europäischen Union einführen – als Teil der Maßnahmen zur Einhaltung der Anforderungen des AI Act. Die Markierung wird für berechtigte Nutzer unabhängig von der Art des Abonnements verfügbar sein.

Die als textGrain bezeichnete Technologie fügt der Art und Weise, wie das Modell Wörter auswählt, ein statistisches Signal hinzu. Dieses kann automatisch erkannt werden und zeigt an, ob ein Text ein Wasserzeichen von OpenAI enthält, ohne die Identität des Nutzers, den Prompt oder die Unterhaltung offenzulegen, aus der der Text stammt.

Nach den Bewertungen des Unternehmens wurde das Wasserzeichen in etwa 80 % der Texte mit 200 Token und in 95 % der Texte mit 400 Token erkannt. Nach einer Bearbeitung sinkt die Wirksamkeit jedoch: Der Austausch von 10 % der Wörter durch Synonyme verringerte die Erkennungsrate von 92 % auf 66 %, während der Austausch von 25 % der Wörter die Rate auf 17 % senkte. Kurze, stark eingeschränkte oder übersetzte Texte sind ebenfalls schwieriger zu überprüfen.

OpenAI warnt, dass das System falsch positive oder falsch negative Ergebnisse liefern kann. Das Wasserzeichen kann nicht feststellen, wie viel eine Person geschrieben hat, wer für den Text verantwortlich ist, ob die Informationen wahr sind oder ob ein Material ohne Markierung von einem Menschen verfasst wurde.

Der Detektor wird zum Start nicht öffentlich verfügbar sein. Der Zugang wird zunächst zugelassenen Forschern und spezialisierten Organisationen angeboten. Weltweit werden bestimmte API-Kunden die Funktion optional aktivieren können.