OpenAI angajează un director pentru „preparedness” cu un salariu de 555.000 dolari pe an pentru a gestiona problemele de siguranță ale modelelor

Sam Altman, CEO-ul OpenAI, a anunțat pe rețelele sociale că compania caută un director pentru riscuri, oferind un salariu anual de 555.000 dolari. Această persoană va fi responsabilă pentru extinderea și coordonarea programului de pregătire al Departamentului pentru sisteme de siguranță, care se ocupă cu asigurarea că modelele OpenAI funcționează conform intențiilor în contexte reale. Cu toate acestea, OpenAI se confruntă cu critici și probleme legale legate de comportamentul modelelor sale, inclusiv acuzații de halucinații și impact negativ asupra sănătății mintale a utilizatorilor.

Altman a recunoscut că modelele pot avea efecte negative și a subliniat necesitatea de a dezvolta strategii pentru a evalua și atenua riscurile. Noul director va trebui să identifice modalități prin care produsele OpenAI ar putea dăuna societății și să elaboreze criterii pentru a demonstra că riscurile au fost reduse. În contextul în care OpenAI își propune să crească veniturile de la 13 miliarde la 100 de miliarde de dolari în următorii doi ani, acest rol devine și mai complex, având în vedere presiunea de a lansa rapid produse inovatoare.