184 új hír az elmúlt 24 órában

9 szeptember 07:31

Az OpenAI vizsgálja azokat az okokat, amelyek miatt a fejlett nyelvi modellek, mint például a GPT-5, hallucinációkat okoznak.

Gabriel Dumitrache

main event image

IT&C tudomány

Foto: Shutterstock

Az OpenAI új tanulmánya a nagy nyelvi modellek (LLM), mint például a GPT-5, hallucinációs jelenségét vizsgálja. A hallucinációk olyan plauzibilis, de hamis állítások, amelyeket ezek a modellek generálnak. A kutatók hangsúlyozzák, hogy a probléma abból adódik, ahogyan az LLM-eket előképzik, optimalizálva a következő szó előrejelzésére anélkül, hogy megkülönböztetnék az igazságot a hamisságtól. A jelenlegi értékelések, amelyek a pontosságra összpontosítanak, arra ösztönzik a modelleket, hogy találgassanak ahelyett, hogy felismernék a bizonytalanságot. A tanulmány azt javasolja, hogy az értékelési módszereknek fejlődniük kellene, hogy büntessék a helytelen válaszokat és jutalmazzák a kételkedés kifejezését, hogy csökkentsék a hallucinációkat.

Források

Are Incentives Driving AI Hallucinations?

ȘTIRI PE ACELEAȘI SUBIECTE

Nemzetközi

Az OpenAI elismerte, hogy a videógenerátora sértő tartalmat hozott létre Martin Luther King Jr.-ról, és felfüggeszti a képeinek használatát, javítva a védelmi intézkedéseket.

Nemzetközi

Az OpenAI további intézkedéseket fog bevezetni a Sora 2 alkalmazásban a színészek hangjának és képének védelme érdekében, miután panaszokat kaptak ezek jogosulatlan használatával kapcsolatban.

IT&C tudomány

Az OpenAI bemutatta az Atlas böngészőt, amely integrálja a ChatGPT-t, kihívást jelentve a Google Chrome számára, és utat nyit az AI-alapú keresés előtt.

Exkluzív

IT Hírek Áttekintés a Control F5 Szoftvertől: A mesterséges intelligencia modellek manipulálhatók és veszélyes dolgokat tanulhatnak.

Nemzetközi

Az OpenAI bemutatta az Atlas böngészőt, amely elérhető macOS-en, a hirdetési bevételek vonzása és a Google Chrome-mal való versenyzés céljából.

IT&C tudomány

Az AI által generált portrék gyorsan és olcsón kínálnak a jelölteknek professzionális fényképeket, de kérdéseket vetnek fel az autentikusságról.

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

OpenAi hallucinációk mesterséges intelligencia

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

app preview

google play badge