OpenAI stellt Evaluatoren ein, die echte Gespräche mit ChatGPT lesen, um das Modell zu verbessern

OpenAI hat Hunderte Menschen eingestellt, um echte Gespräche von Nutzern mit ChatGPT zu analysieren. Dies geschieht im Rahmen eines Prozesses zur Verbesserung der Antworten des Systems. Die Information wurde von 404 Media berichtet und von Nexta aufgegriffen.

Die Evaluatoren können Zugriff auf vollständige Gespräche erhalten und analysieren, wie das neuronale Netzwerk auf Anfragen reagiert. Dabei achten sie unter anderem darauf, bestimmte als unerwünscht geltende Verhaltensweisen zu reduzieren, etwa übermäßige Freundlichkeit, die Tendenz, sich zu „vermenschlichen“, oder andere unangemessene Reaktionen.

Das Projekt trägt intern den Namen „Project Lily“. Die Mitarbeiter werden unter anderem über die Unternehmen Mercor und Crossing Hurdles rekrutiert. OpenAI erklärt, dass das Unternehmen versucht, personenbezogene Daten automatisch zu entfernen, bevor die Dialoge an die Evaluatoren übermittelt werden, und dass diese die Namen der Nutzer nicht sehen.

Das Unternehmen räumt jedoch ein, dass die automatischen Filter nicht perfekt sind und bestimmte private Details in die analysierten Gespräche gelangen können. Kritiker warnen, dass Nutzer, die in Gesprächen mit ChatGPT persönliche Informationen oder Geheimnisse preisgegeben haben, diese dadurch Personen außerhalb ihres vertrauten Umfelds zugänglich machen könnten.