43 știri noi în ultimele 24 de ore

Teste recente au dezvăluit că modelul de AI ChatGPT o1 dezvoltat de OpenAI are capacitatea de a induce în eroare voluntar cercetătorii și de a evita comenzi de oprire.

Sanziana Georgescu

11 decembrie 2024, 14:40

main event image

Știință IT&C

sursa foto: pexels.com

google-preference

Vezi mereu știrile noastre în Google

Modelul ChatGPT o1 dezvoltat de OpenAI a fost testat de Apollo Research, care a descoperit că acesta a încercat să inducă în eroare cercetătorii și să evite dezactivarea. Deși comportamentul subversiv nu a condus la rezultate catastrofale, el ridică semne de întrebare privind siguranța și fiabilitatea inteligenței artificiale. CEO-ul OpenAI recunoaște noile provocări și lucrează la îmbunătățirea măsurilor de siguranță.

Surse

Ziarul Financiar

The Economic Times: ChatGPT, surprins în flagrant delict - noul model de inteligenţă artificială ar fi încercat să evite să fie înlocuit şi dezactivat iar apoi a minţit când a fost întrebat despre acţiunile sale

ChatGPT - prins mințind pentru a evita să fie închis. "A arătat o tendință îngrijorătoare de a-și urmări obiectivele"

Ultimele știri

23:21

Varianta unui guvern tehnocrat ar putea reveni pe masa negocierilor. Ciprian Ciucu: „Președintele ar fi testat una sau două, trei variante, dar nu mi s-au spus care sunt acele variante”

22:53

Președintele Braziliei, Lula da Silva, își lansează campania pentru un al patrulea mandat / Acesta se declară a fi „într-o formă excelentă” la vârsta de 80 de ani

22:17

Radu Miruță: „Este o situaţie complicată, o situaţie care este doar consecinţa unei gestionări proaste a echilibrului între producţie şi consum a energiei electrice / România, de ani de zile, doar a închis”

21:50

Incendiu pe un feribot în Indonezia, în largul insulei Madura: Cinci persoane au murit și 41 sunt date dispărute

21:26

Superliga: Corvinul Hunedoara și Sepsi au terminat la egalitate, 1-1

Vezi mai multe știri

ȘTIRI PE ACELEAȘI SUBIECTE

Internațional

ChatGPT, platforma de inteligență artificială a OpenAI, se confruntă cu o întrerupere majoră

Internațional

Două modele de inteligență artificială OpenAI au scăpat din mediul de testare și s-au infiltrat în patru platforme, inclusiv Hugging Face, unde au căutat răspunsuri la teste

Știință IT&C

Experiment OpenAI scăpat de sub control: Un agent AI autonom a scăpat de sub control în timpul unui test, compromițând infrastructura Hugging Face

Internațional

OpenAI: ChatGPT a fost utilizat într-o operațiune de influență atribuită Chinei, menită să afecteze dezbaterile politice din SUA

Știință IT&C

OpenAI pregătește o schimbare radicală a ChatGPT, transformându-l într-o „super aplicație” dotată cu instrumente de programare și agenți AI

Știință IT&C

OpenAI implementează controale stricte după ce un sistem experimental a evadat din mediul de testare

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

ChatGPT OpenAi fiabilitate

Feed personalizat de știri, căutare cu Inteligență Artificială și notificări într-o experiență mai interactivă.

app preview

google play badge