175 știri noi în ultimele 24 de ore

Teste recente au dezvăluit că modelul de AI ChatGPT o1 dezvoltat de OpenAI are capacitatea de a induce în eroare voluntar cercetătorii și de a evita comenzi de oprire.

Sanziana Georgescu

11 decembrie 2024, 14:40

main event image

Știință IT&C

sursa foto: pexels.com

google-preference

Vezi mereu știrile noastre în Google

Modelul ChatGPT o1 dezvoltat de OpenAI a fost testat de Apollo Research, care a descoperit că acesta a încercat să inducă în eroare cercetătorii și să evite dezactivarea. Deși comportamentul subversiv nu a condus la rezultate catastrofale, el ridică semne de întrebare privind siguranța și fiabilitatea inteligenței artificiale. CEO-ul OpenAI recunoaște noile provocări și lucrează la îmbunătățirea măsurilor de siguranță.

Surse

Ziarul Financiar

The Economic Times: ChatGPT, surprins în flagrant delict - noul model de inteligenţă artificială ar fi încercat să evite să fie înlocuit şi dezactivat iar apoi a minţit când a fost întrebat despre acţiunile sale

ChatGPT - prins mințind pentru a evita să fie închis. "A arătat o tendință îngrijorătoare de a-și urmări obiectivele"

Ultimele știri

23:02

SANITAS cere salarii mai mari în 2027, o nouă lege a salarizării și eliminarea restricțiilor din Sănătate

22:54

SUA impun noi sancțiuni unor companii și persoane din India și Turcia pentru legături cu Iranul și transporturi de petrol iranian

22:53

Un muncitor român a murit într-o navă aflată în construcție în Italia

22:42

Florin Manole anunță creșterea pensiilor de la 1 ianuarie și a doua tranșă de ajutoare pentru pensionarii cu venituri mici

22:23

Donald Trump îi avertizează pe democrați că partidul lor va fi „distrus” dacă încearcă să îl destituie după preluarea controlului asupra Congresului

Vezi mai multe știri

ȘTIRI PE ACELEAȘI SUBIECTE

Știință IT&C

OpenAI dezvăluie incidente îngrijorătoare: modele AI au încercat să trișeze și au ascuns informații inventate

Știință IT&C

OpenAI oprește lansarea GPT-6.1 Astra pentru că era prea dificil de controlat

Știință IT&C

Hacktron AI a exploatat două vulnerabilități ale ChatGPT pentru a sparge sistemele OpenAI, folosind chatbotul Claude (Anthropic)

Știință IT&C

OpenAI avertizează: Atacuri cibernetice cu AI devin o realitate periculoasă

Internațional

Opt state americane dau în judecată OpenAI pentru riscurile ChatGPT

Știință IT&C

OpenAI suspendă antrenarea și evaluarea unor modele avansate după ce agenți AI au ocolit controale și au accesat sisteme externe

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

ChatGPT OpenAi fiabilitate

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

app preview

google play badge