OpenAI investighează cauzele pentru care modelele lingvistice avansate, precum GPT-5, provoacă hallucinații
Gabriel Dumitrache
Știință IT&C
Foto: Shutterstock
Vezi mereu știrile noastre în Google
Un nou studiu de la OpenAI explorează fenomenul hallucinațiilor în modelele lingvistice mari (LLM), cum ar fi GPT-5. Hallucinațiile sunt definite ca afirmații plauzibile dar false generate de aceste modele. Cercetătorii subliniază că problema provine din modul în care LLM-urile sunt pre-antrenate, optimizate pentru a prezice următorul cuvânt fără a distinge între adevăr și fals. Evaluările actuale, care se concentrează pe acuratețe, încurajează modelele să ghicească în loc să recunoască incertitudinea. Studiul sugerează că metodele de evaluare ar trebui să evolueze pentru a penaliza răspunsurile greșite și a recompensa exprimarea îndoielii, pentru a reduce hallucinațiile.
Ultimele știri
12:40
Autoritățile bulgare au identificat un dispozitiv puternic de bruiaj GPS care afecta semnalele de navigație în Sofia, inclusiv pentru aeronave
12:29
Nouă pompieri militari din ISU Bihor au plecat în Serbia pentru a participa la o misiune internațională de stingere a incendiilor de pădure
12:18
Un băiat de șapte ani a fost găsit singur pe Muntele Fuji de un cabanier, după ce tatăl său l-a lăsat pentru a urca cu fiul mai mare. Incidentul a avut loc pe traseul Fujinomiya
12:05
TikTok a acceptat să plătească 400 milioane dolari pentru a încheia un proces legat de încălcarea confidențialității copiilor. Acordul se bazează pe acuzații că platforma a colectat date despre utilizatorii sub 13 ani
Vezi mai multe știri
ȘTIRI PE ACELEAȘI SUBIECTE
Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.
