Eine neue Studie von OpenAI untersucht das Phänomen der Halluzinationen in großen Sprachmodellen (LLM), wie zum Beispiel GPT-5. Halluzinationen werden definiert als plausible, aber falsche Aussagen, die von diesen Modellen generiert werden. Die Forscher betonen, dass das Problem aus der Art und Weise resultiert, wie LLMs vortrainiert werden, optimiert, um das nächste Wort vorherzusagen, ohne zwischen Wahrheit und Falschheit zu unterscheiden. Die aktuellen Bewertungen, die sich auf die Genauigkeit konzentrieren, ermutigen die Modelle, zu raten, anstatt Unsicherheit zu erkennen. Die Studie schlägt vor, dass die Bewertungsmethoden sich weiterentwickeln sollten, um falsche Antworten zu bestrafen und die Äußerung von Zweifel zu belohnen, um Halluzinationen zu reduzieren.
Neueste Nachrichten
23:05
Die USA drohen mit der Sperrung der Flüge iranischer Fluggesellschaften
22:56
OpenAI fordert die US-Regierung auf, internationale Regeln zur Bewertung der Risiken künstlicher Intelligenz zu koordinieren
22:50
Sorin Grindeanu schließt eine PSD-AUR-Regierung bis 2028 nicht aus, sagt jedoch, dass AUR vorerst vorgezogene Neuwahlen will
22:45
ISU Vaslui: Zwei Personen wurden bewusstlos in einem Keller in Bârlad gefunden, höchstwahrscheinlich durch das bei der Weingärung entstehende Gas vergiftet
22:28
Ein 15-jähriger Jugendlicher aus Vermont, USA, hat seine Absicht angekündigt, für das Amt des Gouverneurs des Bundesstaates zu kandidieren
Mehr Nachrichten ansehen