OpenAI recrute des évaluateurs qui lisent de vraies conversations avec ChatGPT afin d’améliorer le modèle

OpenAI a embauché des centaines de personnes pour analyser de vraies conversations menées par des utilisateurs avec ChatGPT, dans le cadre d’un processus destiné à améliorer les réponses du système. L’information a été rapportée par 404 Media et reprise par Nexta.

Les évaluateurs peuvent avoir accès à des conversations entières et analysent la manière dont le réseau neuronal répond aux demandes. Ils cherchent notamment à réduire certains comportements considérés comme indésirables, tels qu’une amabilité excessive, la tendance à se « humaniser » ou d’autres réactions inappropriées.

Le projet porte en interne le nom de « Project Lily », et les collaborateurs sont recrutés, entre autres, par l’intermédiaire des entreprises Mercor et Crossing Hurdles. OpenAI affirme tenter de supprimer automatiquement les données personnelles avant que les dialogues soient transmis aux évaluateurs et indique que ceux-ci ne voient pas les noms des utilisateurs.

L’entreprise reconnaît toutefois que les filtres automatiques ne sont pas parfaits et que certains détails privés peuvent apparaître dans les conversations analysées. Les critiques avertissent que les utilisateurs ayant fourni des informations personnelles ou des secrets dans leurs discussions avec ChatGPT pourraient les voir exposés à des personnes extérieures à leur cercle.