OpenAI нанимает оценщиков, которые читают реальные переписки с ChatGPT для улучшения модели

OpenAI наняла сотни людей для анализа реальных переписок пользователей с ChatGPT в рамках процесса, направленного на улучшение ответов системы. Об этом сообщило издание 404 Media, а Nexta перепечатала информацию.

Оценщики могут получать доступ к перепискам целиком и анализируют то, как нейросеть отвечает на запросы. В частности, они следят за сокращением нежелательных проявлений, таких как чрезмерная вежливость, склонность «очеловечиваться» или другие неуместные реакции.

Проект носит внутреннее название «Project Lily», а сотрудников, среди прочего, нанимают через компании Mercor и Crossing Hurdles. В OpenAI утверждают, что пытаются автоматически удалять персональные данные до передачи диалогов оценщикам и что те не видят имён пользователей.

Однако компания признаёт, что автоматические фильтры не идеальны и некоторые личные сведения могут попасть в анализируемые переписки. Критики предупреждают, что пользователи, предоставившие личную или секретную информацию в беседах с ChatGPT, могут раскрыть её людям за пределами своего круга.