Eine neue Studie von OpenAI untersucht das Phänomen der Halluzinationen in großen Sprachmodellen (LLM), wie zum Beispiel GPT-5. Halluzinationen werden definiert als plausible, aber falsche Aussagen, die von diesen Modellen generiert werden. Die Forscher betonen, dass das Problem aus der Art und Weise resultiert, wie LLMs vortrainiert werden, optimiert, um das nächste Wort vorherzusagen, ohne zwischen Wahrheit und Falschheit zu unterscheiden. Die aktuellen Bewertungen, die sich auf die Genauigkeit konzentrieren, ermutigen die Modelle, zu raten, anstatt Unsicherheit zu erkennen. Die Studie schlägt vor, dass die Bewertungsmethoden sich weiterentwickeln sollten, um falsche Antworten zu bestrafen und die Äußerung von Zweifel zu belohnen, um Halluzinationen zu reduzieren.
Neueste Nachrichten
16:50
CNAIR gibt bekannt, dass der Momaia-Tunnel fast fertiggestellt ist und der Verkehr auf dem Abschnitt Tigveni–Curtea de Argeș noch in diesem Jahr freigegeben werden könnte
16:48
Die Kommission lehnt die vom Rat geforderten Kürzungen in Höhe von einer Milliarde Euro im EU-Haushalt 2027 ab, darunter bei Forschung und Erasmus+
16:47
Nicușor Dan nimmt am Karpaten-Gipfel in der Ukraine teil und befürwortet regionale Zusammenarbeit, Investitionen und den Schutz des Naturerbes
16:43
Bolt und Lucid kündigen eine Partnerschaft zur Entwicklung einer Flotte autonomer Robotaxis in Europa an
16:37
Hacker, die die Daten von 680 europäischen Revolut-Kunden gestohlen haben, fordern 3 Millionen Dollar
Mehr Nachrichten ansehen