68 új hír az elmúlt 24 órában

9 szeptember 07:31

Az OpenAI vizsgálja azokat az okokat, amelyek miatt a fejlett nyelvi modellek, mint például a GPT-5, hallucinációkat okoznak.

Gabriel Dumitrache

main event image

IT&C tudomány

Foto: Shutterstock

Az OpenAI új tanulmánya a nagy nyelvi modellek (LLM), mint például a GPT-5, hallucinációs jelenségét vizsgálja. A hallucinációk olyan plauzibilis, de hamis állítások, amelyeket ezek a modellek generálnak. A kutatók hangsúlyozzák, hogy a probléma abból adódik, ahogyan az LLM-eket előképzik, optimalizálva a következő szó előrejelzésére anélkül, hogy megkülönböztetnék az igazságot a hamisságtól. A jelenlegi értékelések, amelyek a pontosságra összpontosítanak, arra ösztönzik a modelleket, hogy találgassanak ahelyett, hogy felismernék a bizonytalanságot. A tanulmány azt javasolja, hogy az értékelési módszereknek fejlődniük kellene, hogy büntessék a helytelen válaszokat és jutalmazzák a kételkedés kifejezését, hogy csökkentsék a hallucinációkat.

Források

Are Incentives Driving AI Hallucinations?

ȘTIRI PE ACELEAȘI SUBIECTE

IT&C tudomány

Az OpenAI hét pert indított, amelyekben azt állítják, hogy a ChatGPT öngyilkosságokat és mentális egészségi problémákat okozott.

IT&C tudomány

Az OpenAI bemutatja a GPT-5.1-et, két változattal: Instant és Thinking, mindkettő jelentős fejlesztésekkel rendelkezik a GPT-5-höz képest.

IT&C tudomány

A Palisade Research tanulmánya azt mutatja, hogy bizonyos AI modellek, mint a GPT-3 és a Grok 4, ellenállhatnak a leállító parancsoknak, ami egy 'túlélési ösztönt' sugall.

Internacionális

Az OpenAI arról számolt be, hogy több mint egymillió felhasználó heti rendszerességgel beszélget öngyilkossági gondolatokról a ChatGPT-vel, kiemelve a mesterséges intelligencia által súlyosbított mentális egészségi problémákat.

IT&C tudomány

Az OpenAI egy új funkciót tesztel, amely lehetővé teszi a felhasználók számára, hogy kommunikáljanak egymással és a ChatGPT-vel, a GPT-5.1 modell alapján.

IT&C tudomány

Az OpenAI jelentős frissítést vezetett be a ChatGPT-hez, lehetővé téve a cégek belső eszközeiben való keresést, így javítva a szakmai hasznosságát.

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

OpenAi hallucinációk mesterséges intelligencia

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

app preview

google play badge