OpenAI ha reconocido que su generador de videos ha creado contenido ofensivo sobre Martin Luther King Jr. y suspenderá el uso de sus imágenes, mejorando las medidas de protección.

Sora, la plataforma de creación de videos, se ha vuelto viral en EE. UU., pero ha generado controversias por la distribución de clips con celebridades fallecidas y personajes históricos en escenarios ofensivos. OpenAI ha anunciado que suspenderá las imágenes de King y reforzará las medidas de protección para las personalidades históricas.

Aunque permite el uso de imágenes de otras celebridades, la compañía ha sido criticada por su enfoque de "prueba y error". La experta en ética de la IA, Olivia Gambelin, afirmó que limitar el uso de la imagen de King es un paso adelante, pero OpenAI debería haber actuado antes. La aparición de deepfakes ha suscitado preocupaciones relacionadas con la desinformación y el abuso, y OpenAI ha declarado que las familias de las personalidades deberían tener control sobre su imagen. La compañía está trabajando en mejorar la protección contra el uso abusivo y se encuentra en diálogo con personalidades públicas para recopilar comentarios.