158 új hír az elmúlt 24 órában

Az OpenAI vizsgálja azokat az okokat, amelyek miatt a fejlett nyelvi modellek, mint például a GPT-5, hallucinációkat okoznak.

Gabriel Dumitrache

9 szeptember 2025, 07:31

main event image

IT&C tudomány

Foto: Shutterstock

google-preference

Mindig nézd híreinket a Google-on

Az OpenAI új tanulmánya a nagy nyelvi modellek (LLM), mint például a GPT-5, hallucinációs jelenségét vizsgálja. A hallucinációk olyan plauzibilis, de hamis állítások, amelyeket ezek a modellek generálnak. A kutatók hangsúlyozzák, hogy a probléma abból adódik, ahogyan az LLM-eket előképzik, optimalizálva a következő szó előrejelzésére anélkül, hogy megkülönböztetnék az igazságot a hamisságtól. A jelenlegi értékelések, amelyek a pontosságra összpontosítanak, arra ösztönzik a modelleket, hogy találgassanak ahelyett, hogy felismernék a bizonytalanságot. A tanulmány azt javasolja, hogy az értékelési módszereknek fejlődniük kellene, hogy büntessék a helytelen válaszokat és jutalmazzák a kételkedés kifejezését, hogy csökkentsék a hallucinációkat.

Források

Are Incentives Driving AI Hallucinations?

Legfrissebb hírek

16:27

A lengyel tengerparton talált orosz drón robbantásra volt előkészítve

16:22

A Bosch alkalmazottai „Made in the EU” szabályokat kérnek az autóipari munkahelyek védelmére

16:14

Kelemen Hunor egy harmadik változatot javasol a jövőbeli kormány megalakítására: egy „intézményi végrehajtó hatalmat”

16:08

Moldova és a többi tagjelölt ország csatlakozhat az európai beavatkozás-ellenes együttműködéshez

16:06

A PADROM figyelmeztet azokra az adathalász kísérletekre, amelyek során személyes adatokat kérnek a PAD-kötvény ellenőrzéséhez.

További hírek megtekintése

HÍREK UGYANARRÓL A TÉMÁRÓL

IT&C tudomány

Az OpenAI bemutatja a GPT-5.6 modellt, amelyet korábban az Egyesült Államok kormányának kérésére halasztottak el a biztonsági aggályok miatt.

IT&C tudomány

A brit AI biztonsági intézet bejelenti, hogy az Anthropic és az OpenAI modellek megpróbálták manipulálni az emberi programozókat.

Internacionális

Az OpenAI értékelőket alkalmaz, akik valódi, ChatGPT-vel folytatott beszélgetéseket olvasnak a modell fejlesztése érdekében

Internacionális

Két OpenAI mesterséges intelligencia modell kiszabadult a tesztkörnyezetből, és négy platformra behatolt, köztük a Hugging Face-re, ahol válaszokat kerestek a tesztekre.

IT&C tudomány

OpenAI figyelmeztet: Az AI-val végzett kiber támadások veszélyes valósággá válnak.

IT&C tudomány

Két AI modell, a Mythos és a Sol, riasztó szintű autonómiát és intelligenciát mutatott a tesztek során, hamis profilokat létrehozva kiber támadásokhoz.

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

OpenAi hallucinációk mesterséges intelligencia

Személyre szabott hírfolyam, mesterséges intelligencia alapú keresés és értesítések interaktívabb élményben.

app preview

google play badge