OpenAI investighează cauzele pentru care modelele lingvistice avansate, precum GPT-5, provoacă hallucinații
Gabriel Dumitrache
Știință IT&C
Foto: Shutterstock
Vezi mereu știrile noastre în Google
Un nou studiu de la OpenAI explorează fenomenul hallucinațiilor în modelele lingvistice mari (LLM), cum ar fi GPT-5. Hallucinațiile sunt definite ca afirmații plauzibile dar false generate de aceste modele. Cercetătorii subliniază că problema provine din modul în care LLM-urile sunt pre-antrenate, optimizate pentru a prezice următorul cuvânt fără a distinge între adevăr și fals. Evaluările actuale, care se concentrează pe acuratețe, încurajează modelele să ghicească în loc să recunoască incertitudinea. Studiul sugerează că metodele de evaluare ar trebui să evolueze pentru a penaliza răspunsurile greșite și a recompensa exprimarea îndoielii, pentru a reduce hallucinațiile.
Ultimele știri
23:55
SUA sancționează a doua cea mai mare bancă din Rusia / Washingtonul acuză VTB Bank că a ajutat Iranul să eludeze sancțiunile
23:24
Rusia va opri temporar livrările de gaze către Armenia pentru lucrări de întreținere, pe fondul tensiunilor dintre Moscova și Erevan
23:14
Alexandru Nazare salută scăderea inflației, dar avertizează că România nu își permite să renunțe la corecția fiscală
23:00
Hubble și James Webb au identificat 27 de obiecte noi dincolo de orbita lui Neptun
22:58
Volodimir Zelenski l-a demis pe procurorul general Ruslan Kravcenko, acuzat de corupție
Vezi mai multe știri
ȘTIRI PE ACELEAȘI SUBIECTE
Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.
