OpenAI va marca invizibil textele generate de ChatGPT în Uniunea Europeană

OpenAI va introduce, în următoarele săptămâni, un watermark invizibil pentru textele generate de ChatGPT și Codex în Uniunea Europeană, ca parte a măsurilor de conformare la cerințele AI Act. Marcajul va fi disponibil pentru utilizatorii eligibili, indiferent de tipul abonamentului.

Tehnologia, denumită textGrain, inserează un semnal statistic în modul în care modelul selectează cuvintele. Acesta poate fi detectat automat și indică dacă un text conține un watermark OpenAI, fără să dezvăluie identitatea utilizatorului, promptul sau conversația din care provine.

Potrivit evaluărilor companiei, watermark-ul a fost identificat în aproximativ 80% dintre textele de 200 de tokeni și în 95% dintre cele de 400 de tokeni. Eficiența scade însă după editare: înlocuirea a 10% dintre cuvinte cu sinonime a redus rata de detectare de la 92% la 66%, iar înlocuirea a 25% dintre cuvinte a dus rata la 17%. Textele scurte, restrictive sau traduse sunt, de asemenea, mai greu de verificat.

OpenAI avertizează că sistemul poate produce rezultate fals pozitive sau fals negative. Watermark-ul nu poate stabili cât a scris o persoană, cine este responsabil pentru text, dacă informațiile sunt adevărate sau dacă un material fără marcaj a fost scris de un om.

Detectorul nu va fi disponibil public la lansare. Accesul va fi oferit inițial cercetătorilor și organizațiilor specializate aprobate. La nivel global, anumiți clienți API vor putea opta pentru funcție.