OpenAI angajează evaluatori care citesc conversații reale cu ChatGPT pentru îmbunătățirea modelului

OpenAI a angajat sute de oameni pentru a analiza conversații reale purtate de utilizatori cu ChatGPT, în cadrul unui proces destinat îmbunătățirii răspunsurilor sistemului. Informația a fost relatată de 404 Media și preluată de Nexta.

Evaluatorii pot avea acces la conversații întregi și analizează modul în care rețeaua neuronală răspunde solicitărilor. Ei urmăresc inclusiv reducerea unor comportamente considerate nedorite, precum amabilitatea excesivă, tendința de a se „umaniza” sau alte reacții nepotrivite.

Proiectul are denumirea internă „Project Lily”, iar colaboratorii sunt recrutați, printre altele, prin intermediul companiilor Mercor și Crossing Hurdles. OpenAI susține că încearcă să elimine automat datele personale înainte ca dialogurile să fie transmise evaluatorilor și că aceștia nu văd numele utilizatorilor.

Compania recunoaște însă că filtrele automate nu sunt perfecte și că anumite detalii private pot ajunge în conversațiile analizate. Criticii avertizează că utilizatorii care au oferit informații personale sau secrete în discuțiile cu ChatGPT le-ar putea fi expus unor persoane din afara cercului lor.