OpenAI assume un direttore per la "preparazione" con uno stipendio di 555.000 dollari all'anno per gestire le questioni di sicurezza dei modelli

Sam Altman, CEO di OpenAI, ha annunciato sui social media che l'azienda sta cercando un direttore per i rischi, offrendo uno stipendio annuale di 555.000 dollari. Questa persona sarà responsabile per l'espansione e il coordinamento del programma di formazione del Dipartimento per i sistemi di sicurezza, che si occupa di garantire che i modelli di OpenAI funzionino secondo le intenzioni in contesti reali. Tuttavia, OpenAI sta affrontando critiche e problemi legali legati al comportamento dei suoi modelli, inclusi accuse di allucinazioni e impatti negativi sulla salute mentale degli utenti.

Altman ha riconosciuto che i modelli possono avere effetti negativi e ha sottolineato la necessità di sviluppare strategie per valutare e attenuare i rischi. Il nuovo direttore dovrà identificare modalità attraverso le quali i prodotti di OpenAI potrebbero danneggiare la società e elaborare criteri per dimostrare che i rischi sono stati ridotti. Nel contesto in cui OpenAI intende aumentare i ricavi da 13 miliardi a 100 miliardi di dollari nei prossimi due anni, questo ruolo diventa ancora più complesso, considerando la pressione di lanciare rapidamente prodotti innovativi.