OpenAI assume valutatori che leggono conversazioni reali con ChatGPT per migliorare il modello

OpenAI ha assunto centinaia di persone per analizzare conversazioni reali avute dagli utenti con ChatGPT, nell’ambito di un processo volto a migliorare le risposte del sistema. La notizia è stata riportata da 404 Media e ripresa da Nexta.

I valutatori possono avere accesso a intere conversazioni e analizzano il modo in cui la rete neurale risponde alle richieste. Esaminano anche la riduzione di alcuni comportamenti considerati indesiderati, come l’eccessiva cordialità, la tendenza a «umanizzarsi» o altre reazioni inappropriate.

Il progetto ha il nome interno «Project Lily» e i collaboratori vengono reclutati, tra l’altro, tramite le aziende Mercor e Crossing Hurdles. OpenAI sostiene di cercare di rimuovere automaticamente i dati personali prima che i dialoghi vengano trasmessi ai valutatori e che questi non vedano i nomi degli utenti.

L’azienda riconosce tuttavia che i filtri automatici non sono perfetti e che alcuni dettagli privati possono finire nelle conversazioni analizzate. I critici avvertono che agli utenti che hanno fornito informazioni personali o segreti nelle conversazioni con ChatGPT potrebbero essere esposti a persone esterne alla loro cerchia.