OpenAI (ya) utiliza marcas de agua invisibles (C2PA) para marcar sus imágenes generadas por IA

Su generador de imágenes DE-E 3 así se integra desde febrero de 2024 del metadatos compatible con el estándar abierto C2PA (Coalición para la procedencia y autenticidad del contenido). Esta norma, apoyada por actores como Adobe y microsoftpero también Sony, Nikon, Leica o Canontiene como objetivo certificar la autenticidad – y procedencia – de una imagen incorporando en el archivo una firma infalsificable sobre su origen, y las modificaciones realizadas.

OpenAI ya tiene se une al comité directivo de la C2PA con el fin de contribuir a su desarrollo junto a otras empresas del sector.

Desde principios de 2024, todas las fotos generado (o editado) a través de DALL-E en ChatGPT o mediante la API OpenAI incrusta automáticamente un tomar C2PA. El objetivo declarado es permitir que cualquier herramienta compatible (como el sitio Verificación de credenciales de contenido) para verificar que una imagen proviene de un modelo de IA OpenAI.

Faros invisibles llenos de promesas…

Un ejemplo proporcionado por OpenAI muestra la adición de un Gorro navideño en una imagen de oruga. : el estándar C2PA registra en los metadatos la creación inicial vía DALL-E y luego la edición realizada, con los detalles de estas modificaciones visibles en las “credenciales de contenido”.

Se embarca la baliza C2PA de ahí el nombre de la herramienta (aquí DALL-E) y la lista de operaciones llevado a cabo, siendo todo firmado criptográficamente para garantizar la integridad de esta información. OpenAI también asegura que la adición de estas etiquetas sea transparente para el usuario, con un impacto insignificante en el tiempo de generación y ninguna degradación de la calidad de la imagen, a costa de un ligero aumento del tamaño del archivo (del 3 al 32% según el caso).

Otros actores como Adobe han integrado esta funcionalidad en su flujo de trabajo. En sala de luz y Photoshopla función Credenciales de contenido permite incrustar información sobre el origen, modificaciones y autor de una foto directamente en el archivo exportado, principalmente en formato JPEG por el momento. Esto actúa como un pasaporte digital.

…Pero con límites

Esta solución de marca de agua invisible sin embargo, presenta límites. OpenAI reconoce que estos metadatos de autenticidad «no son una solución milagrosa” y “se puede quitar fácilmente, intencionalmente o por accidente”. En la práctica, la mayoría de las plataformas en línea borrar metadatos imágenes al publicar, y una simple captura de pantalla es suficiente para eliminar cualquier etiqueta original.

“La implementación del C2PA debe cubrir todo el proceso fotográfico, desde la captura hasta la postproducción. » como nos explicó un directivo de Nikon, señalando la necesidad de cadena de validación completadesde la captura de la imagen hasta su distribución en las redes sociales, en particular.

En otras palabras, la ausencia de una etiqueta C2PA no prueba que una imagen sea «auténtica»sólo que su historia puede haberse perdido. Además, este mecanismo actualmente sólo afecta correcciones de imágenes : OpenAI comenzó implementando estas marcas de agua como parte de sus pruebas en 2023 e integrándolas en el contenido. video generado (a través del modelo sora) sigue siendo un borrador hasta el día de hoy.

Por lo tanto, OpenAI enfatiza el trabajo en paralelo en otros enfoques técnicos, en particular marcas de agua algorítmicas invisibles y resistentes directamente en los medios, así como herramientas capaces de detectar a posteriori Contenido generado por IA. El desafío será combinar estándares abiertos (C2PA) e innovaciones privadas para restaurar confianza frente a la manipulación digital en la era de la IA.