El generador de imágenes de OpenAI, DALL-E3, agregará marcas de agua a los metadatos de las imágenes a medida que más empresas implementen soporte para el estándar Content Authenticity Alliance (C2PA). La compañía dijo que la marca de agua de C2PA aparecerá en las imágenes generadas por el sitio web ChatGPT y en la API del modelo DALL-E3. Los usuarios de dispositivos móviles obtendrán la marca de agua hasta el 12 de febrero. La marca de agua incluirá un componente de metadatos invisible y un símbolo CR visible, que aparecerá en la esquina superior izquierda de cada imagen.
Las personas pueden verificar la procedencia (es decir, qué herramienta de IA se utilizó para crear el contenido) de cualquier imagen generada por la plataforma OpenAI a través de sitios como Content Credentials Verify. Hasta ahora, sólo se pueden poner marcas de agua en imágenes estáticas, no en vídeos ni en texto.
OpenAI dice que agregar metadatos de marcas de agua a las imágenes "tiene un impacto insignificante en la latencia y no afecta la calidad de la imagen resultante". También aumenta ligeramente el tamaño de la imagen para algunas tareas.
El grupo C2PA, formado por empresas como Adobe y Microsoft, ha estado presionando para que se utilice una marca de agua de "certificado de contenido" para identificar la procedencia del contenido y mostrar si fue producido por humanos o por inteligencia artificial. Adobe ha creado un símbolo de cupón de contenido que OpenAI está agregando a la creación de DALL-E3. Meta anunció recientemente que agregará etiquetas al contenido generado por IA en su plataforma de redes sociales.
Identificar el contenido generado por IA es una de las directivas clave de la orden ejecutiva de la administración Biden sobre inteligencia artificial. Pero las marcas de agua no son una forma segura de detener la información errónea. OpenAI señaló que los metadatos de C2PA "pueden eliminarse fácilmente de forma accidental o intencionada", especialmente porque la mayoría de las plataformas de redes sociales suelen eliminar los metadatos del contenido subido, y las capturas de pantalla también omitirán los metadatos de las imágenes.
"Creemos que emplear estos métodos para determinar la procedencia y alentar a los usuarios a reconocer estas señales es clave para aumentar la confiabilidad de la información digital", dice OpenAI en su sitio web.