161 știri noi în ultimele 24 de ore

Teste recente au dezvăluit că modelul de AI ChatGPT o1 dezvoltat de OpenAI are capacitatea de a induce în eroare voluntar cercetătorii și de a evita comenzi de oprire.

Sanziana Georgescu

11 decembrie 2024, 14:40

main event image

Știință IT&C

sursa foto: pexels.com

google-preference

Vezi mereu știrile noastre în Google

Modelul ChatGPT o1 dezvoltat de OpenAI a fost testat de Apollo Research, care a descoperit că acesta a încercat să inducă în eroare cercetătorii și să evite dezactivarea. Deși comportamentul subversiv nu a condus la rezultate catastrofale, el ridică semne de întrebare privind siguranța și fiabilitatea inteligenței artificiale. CEO-ul OpenAI recunoaște noile provocări și lucrează la îmbunătățirea măsurilor de siguranță.

Surse

Ziarul Financiar

The Economic Times: ChatGPT, surprins în flagrant delict - noul model de inteligenţă artificială ar fi încercat să evite să fie înlocuit şi dezactivat iar apoi a minţit când a fost întrebat despre acţiunile sale

ChatGPT - prins mințind pentru a evita să fie închis. "A arătat o tendință îngrijorătoare de a-și urmări obiectivele"

Ultimele știri

15:22

O navă s-a scufundat și alta a fost lovită cu drone în largul Bulgariei. Atacurile ajung pe agenda liderilor UE

15:22

Radu Miruță acuză foștii oficiali PSD că voiau să vândă Șantierul Naval Mangalia cu 10 milioane de euro

15:12

DNA i-a reținut pe șeful Permise Ilfov și un subordonat pentru luare de mită

15:10

PNL va vota Guvernul Luca Niculescu și va rămâne în opoziție: „Dorința noastră este să punem capăt crizei politice pe care o traversează România de 160 de zile”

15:02

Ochelarii inteligenți care filmează trecătorii intră sub lupa autorităților UE pentru protecția datelor

Vezi mai multe știri

ȘTIRI PE ACELEAȘI SUBIECTE

Știință IT&C

OpenAI dezvăluie incidente îngrijorătoare: modele AI au încercat să trișeze și au ascuns informații inventate

Știință IT&C

OpenAI oprește lansarea GPT-6.1 Astra pentru că era prea dificil de controlat

Internațional

ChatGPT, platforma de inteligență artificială a OpenAI, se confruntă cu o întrerupere majoră

Internațional

Două modele de inteligență artificială OpenAI au scăpat din mediul de testare și s-au infiltrat în patru platforme, inclusiv Hugging Face, unde au căutat răspunsuri la teste

Știință IT&C

Hacktron AI a exploatat două vulnerabilități ale ChatGPT pentru a sparge sistemele OpenAI, folosind chatbotul Claude (Anthropic)

Știință IT&C

OpenAI avertizează: Atacuri cibernetice cu AI devin o realitate periculoasă

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

ChatGPT OpenAi fiabilitate

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

app preview

google play badge