OpenAI ha riconosciuto che il suo generatore di video ha creato contenuti offensivi su Martin Luther King Jr. e sospenderà l'uso delle sue immagini, migliorando le misure di protezione.

Sora, la piattaforma per la creazione di video, è diventata virale negli Stati Uniti, ma ha generato controversie per la distribuzione di clip con celebrità decedute e personaggi storici in scenari offensivi. OpenAI ha annunciato che sospenderà le immagini di King e rafforzerà le misure di protezione per le personalità storiche.

Sebbene consenta l'uso delle immagini di altre celebrità, l'azienda è stata criticata per il suo approccio di tipo "tentativo e errore". L'esperta in etica AI, Olivia Gambelin, ha affermato che limitare l'uso dell'immagine di King è un passo avanti, ma OpenAI avrebbe dovuto agire prima. L'emergere dei deepfake ha suscitato preoccupazioni relative alla disinformazione e all'abuso, e OpenAI ha dichiarato che le famiglie delle personalità dovrebbero avere il controllo sulla loro immagine. L'azienda sta lavorando per migliorare la protezione contro l'uso abusivo e si trova in dialogo con personalità pubbliche per raccogliere feedback.