OpenAI refuerza la autenticidad de imágenes con C2PA y SynthID: nuevas estrategias contra la desinformación

OpenAI presenta dos nuevas herramientas para verificar imágenes generadas por IA

Con los generadores de imágenes de IA ampliamente disponibles y más sofisticados que nunca, nunca ha sido tan difícil saber si una imagen es auténtica. Sin embargo, el martes, OpenAI anunció dos nuevas medidas para ayudar a combatir este problema.

La compañía se ha comprometido con un estándar abierto llamado C2PA, que agrega una señal clara en los metadatos que indica que una imagen fue generada por IA. Además, OpenAI se ha asociado con Google para incluir una marca de agua invisible llamada SynthID, que será más difícil de detectar, pero también más difícil de eliminar si los actores malintencionados intentan ocultar su rastro.

Medidas anunciadas: C2PA y SynthID

• Estándar C2PA: Añade una señal en los metadatos del archivo que certifica su origen como imagen generada por IA.
• SynthID (Google): Marca de agua invisible diseñada para persistir incluso ante capturas de pantalla, redimensionamientos o manipulaciones digitales.
• Herramienta de verificación pública: OpenAI también ha presentado una herramienta que permite a los usuarios comprobar si una imagen fue generada con IA, inicialmente solo para productos de OpenAI.

Ambos sistemas están diseñados para complementarse mutuamente, abordando las debilidades del otro. OpenAI señaló en su anuncio: “El marcado de agua puede ser más duradero a través de transformaciones como capturas de pantalla, mientras que los metadatos pueden proporcionar más información que una marca de agua por sí sola. Juntos, hacen que la procedencia sea más resistente de lo que cada capa sería por sí sola.”

¿Cómo funcionan en conjunto?

Las nuevas protecciones solo se aplican a imágenes generadas por productos de OpenAI, por lo que no afectarán la avalancha de imágenes provenientes de herramientas de IA menos reputadas. Sin embargo, pueden ayudar a garantizar que OpenAI no sea parte del problema. La herramienta de verificación pública inicialmente solo cubrirá imágenes generadas por productos de OpenAI, pero la empresa espera expandirla para cubrir otras herramientas con el tiempo.

El papel de la Coalition for Content Provenance and Authenticity (C2PA)

Fundada en 2021, la Coalición para la Procedencia y Autenticidad del Contenido (C2PA) es una organización sin fines de lucro dedicada a mitigar los efectos dañinos de las imágenes de IA en el discurso público. El estándar C2PA ha sido adoptado por varios productos de Google, pero su adopción sigue siendo inconsistente en toda la industria. Debido a que la señal C2PA es claramente accesible en los metadatos de cada archivo, puede ser manipulada y es más útil entre usuarios de confianza.

Por otro lado, SynthID es un esfuerzo más reciente diseñado para ser una medida más robusta frente a la manipulación. Desarrollado por Google, esta marca de agua está diseñada para persistir incluso cuando los actores malintencionados intentan eliminarla mediante capturas de pantalla, redimensionamientos o manipulación digital.

Con estas nuevas medidas, OpenAI busca ofrecer un doble blindaje que permita a los usuarios y plataformas verificar de manera más confiable el origen de las imágenes generadas por inteligencia artificial, en un momento en que la desinformación visual representa un desafío creciente.