OpenAI Suspende Creación de Videos de Martin Luther King Jr. con su IA Sora

OpenAI Pausa Generación de Videos de Martin Luther King Jr. Tras Solicitud de su Patrimonio

OpenAI anunció este jueves que ha pausado la capacidad de los usuarios para generar videos que se asemejen al fallecido activista de derechos civiles Martin Luther King Jr. utilizando su modelo de video IA, Sora. La compañía afirma que está agregando esta salvaguardia a solicitud del patrimonio del Dr. King después de que algunos usuarios de Sora generaran «representaciones irrespetuosas» de su imagen.

Control sobre el Uso de Imágenes de Figuras Públicas

«Si bien existen fuertes intereses de libertad de expresión para representar figuras históricas, OpenAI cree que las figuras públicas y sus familias deberían tener control final sobre cómo se utiliza su semejanza», declaró OpenAI en una publicación en X desde su cuenta oficial de noticias.

La empresa agregó que los representantes autorizados o los propietarios de patrimonios pueden solicitar que su semejanza no se utilice en los «cameos de Sora».

Reacciones y Ejemplos de Contenido Irrespetuoso

La restricción llega solo unas semanas después del lanzamiento de Sora, una plataforma de video social que permite a los usuarios crear videos realistas generados por IA que se asemejan a figuras históricas, sus amigos y usuarios que eligen tener su likeness recreado. Este lanzamiento ha generado un intenso debate público sobre los peligros de los videos generados por IA y cómo las plataformas deben implementar barreras alrededor de la tecnología.

• Dr. Bernice King, hija del Dr. King, publicó en Instagram la semana pasada pidiendo a las personas que dejaran de enviarle videos de IA que se parecían a su padre.
• Se unió a la hija de Robin Williams, quien también solicitó a los usuarios de Sora que dejaran de generar videos de IA de su padre.
• Según informes, usuarios de Sora crearon videos de IA del Dr. King haciendo ruidos de mono y luchando con otro ícono de derechos civiles, Malcolm X.

Expansión de las Preocupaciones sobre Contenido Generado por IA

Más allá de cómo Sora representa a los humanos, el lanzamiento también ha planteado una serie de preguntas sobre cómo las plataformas de redes sociales deben manejar los videos de IA de obras con derechos de autor. La aplicación Sora también está llena de videos que representan caricaturas como SpongeBob, South Park y Pokémon.

Restricciones Adicionales y Enfoque de OpenAI

OpenAI ha agregado otras restricciones a Sora en las semanas posteriores a su lanzamiento. A principios de octubre, la compañía dijo que planeaba dar a los titulares de derechos de autor un control más granular sobre los tipos de videos de IA que se pueden generar con su semejanza. Esto podría haber sido una respuesta a la reacción inicial de Hollywood hacia Sora, que no fue positiva.

Mientras OpenAI agrega restricciones a Sora, la compañía parece estar adoptando un enfoque más hands-off para moderar el contenido en ChatGPT. OpenAI anunció esta semana que permitirá a los usuarios adultos tener chats «eróticos» con ChatGPT en los próximos meses.

Con Sora, parece que OpenAI está lidiando con las preocupaciones que acompañan a la generación de videos con IA. Algunos investigadores de OpenAI debatieron públicamente preguntas sobre la primera plataforma de redes sociales con IA de la compañía en los días posteriores a su lanzamiento, y cómo dicho producto se ajusta a la misión sin fines de lucro. El CEO de OpenAI, Sam Altman, dijo que la compañía sintió «aprensión» sobre Sora el día del lanzamiento.