OpenAI Pausa Videos de Martin Luther King Jr. en Sora: Debate Ético sobre IA

OpenAI Suspende Generación de Videos de Martin Luther King Jr. Tras Críticas

OpenAI anunció este jueves la pausa en la capacidad de los usuarios para generar videos que se asemejen al difunto activista de derechos civiles Martin Luther King Jr. utilizando su modelo de video IA, Sora. La compañía señaló que está agregando esta salvaguarda a solicitud de la familia del Dr. King, después de que algunos usuarios crearan «representaciones irrespetuosas» de su imagen.

Control sobre el Likeness de Figuras Públicas

OpenAI explicó en una publicación en X desde su cuenta oficial de noticias: «Si bien existen fuertes intereses de libertad de expresión para representar figuras históricas, OpenAI cree que las figuras públicas y sus familias deben tener control sobre cómo se utiliza su likeness». La empresa permitirá que representantes autorizados o dueños de patrimonios soliciten que su imagen no se use en los «cameos de Sora».

Reacciones y Ejemplos de Contenido Ofensivo

La restricción llega pocas semanas después del lanzamiento de Sora, una plataforma de video social que permite a los usuarios crear videos realistas generados por IA que se asemejan a figuras históricas, amigos y otros usuarios. Este lanzamiento ha desatado un debate público ferviente sobre los peligros de los videos generados por IA y cómo las plataformas deben implementar medidas de seguridad.

La Dra. Bernice King, hija del Dr. King, publicó en Instagram la semana pasada pidiendo a las personas que dejaran de enviarle videos de IA que se parecen a su padre. Se unió a la hija de Robin Williams, quien también solicitó a los usuarios de Sora que dejaran de generar videos de IA de su padre.

Medios como The Washington Post reportaron que usuarios de Sora habían creado videos generados por IA del Dr. King haciendo ruidos de mono y luchando con otro ícono de derechos civiles, Malcolm X. Al desplazarse por la aplicación Sora, es fácil encontrar videos crudos que se asemejan a otras figuras históricas, incluyendo al artista Bob Ross, la cantante Whitney Houston y el ex presidente John F. Kennedy.

Ampliación de Restricciones y Preocupaciones sobre Derechos de Autor

Más allá de cómo Sora representa a los humanos, el lanzamiento también ha generado preguntas sobre cómo las plataformas de redes sociales deben manejar videos de IA de obras con derechos de autor. La aplicación Sora está llena de videos que representan caricaturas como SpongeBob, South Park y Pokémon.

OpenAI ha agregado otras restricciones a Sora en las semanas posteriores a su lanzamiento. A principios de octubre, la compañía dijo que planeaba dar a los titulares de derechos de autor un control más granular sobre los tipos de videos de IA que se pueden generar con su likeness. Esto podría haber sido una respuesta a la reacción inicial de Hollywood hacia Sora, que no fue positiva.

Enfoque de OpenAI en la Moderación de Contenido

Mientras OpenAI agrega restricciones a Sora, la empresa parece estar adoptando un enfoque más «hands-off» para moderar contenido en ChatGPT. OpenAI anunció esta semana que permitirá a los usuarios adultos tener chats «eróticos» con ChatGPT en los próximos meses.

Con Sora, parece que OpenAI está lidiando con las preocupaciones que acompañan a la generación de videos de IA. Algunos investigadores de OpenAI debatieron públicamente preguntas sobre la primera plataforma de redes sociales con IA de la compañía en los días posteriores a su lanzamiento, y cómo dicho producto se ajusta a la misión sin fines de lucro. El CEO de OpenAI, Sam Altman, dijo que la empresa sintió «aprensión» sobre Sora el día del lanzamiento.

«La mejor manera de enseñar al mundo sobre una nueva tecnología es ponerla en el mundo», comentó Nick Turley, director de ChatGPT, a principios de este mes. Dijo que eso es lo que la compañía aprendió con ChatGPT, y eso es lo que OpenAI está descubriendo con Sora también.