OpenAI contrata evaluadores que leen conversaciones reales con ChatGPT para mejorar el modelo

OpenAI ha contratado a cientos de personas para analizar conversaciones reales mantenidas por los usuarios con ChatGPT, en el marco de un proceso destinado a mejorar las respuestas del sistema. La información fue publicada por 404 Media y difundida posteriormente por Nexta.

Los evaluadores pueden tener acceso a conversaciones completas y analizan cómo responde la red neuronal a las solicitudes. También buscan reducir determinados comportamientos considerados indeseables, como la amabilidad excesiva, la tendencia a «humanizarse» u otras reacciones inapropiadas.

El proyecto tiene el nombre interno de «Project Lily» y los colaboradores son contratados, entre otros medios, a través de las empresas Mercor y Crossing Hurdles. OpenAI sostiene que intenta eliminar automáticamente los datos personales antes de que los diálogos sean enviados a los evaluadores y que estos no ven los nombres de los usuarios.

Sin embargo, la empresa reconoce que los filtros automáticos no son perfectos y que algunos datos privados pueden aparecer en las conversaciones analizadas. Los críticos advierten que los usuarios que hayan proporcionado información personal o secretos en sus conversaciones con ChatGPT podrían ver expuestos esos datos ante personas ajenas a su círculo.