Resumen:
Según un informe de análisis inverso publicado por el investigador de seguridad Xusheng Li, Microsoft agregará marcas de agua ciegas invisibles a las imágenes generadas por IA en las aplicaciones Paint y Photo/Album. El identificador utilizado por la marca de agua ciega proviene de los servidores de Microsoft, y este mecanismo es completamente independiente de la marca de agua Microsoft Copilot que los usuarios pueden activar/desactivar por sí mismos, por lo que los usuarios no pueden desactivar completamente la marca de agua ciega.
La generación local de imágenes en una PC con IA todavía requiere una conexión a los servidores de Microsoft:
La investigación encontró que, aunque la función de creación de la aplicación Paint puede usar AI PC Un modelo de difusión estable local genera imágenes, pero todo el proceso no está completamente fuera de línea. Antes de comenzar la generación, la aplicación Paint enviará las palabras solicitadas y el estilo seleccionado completado por el usuario al servidor de Microsoft para su revisión. Luego, el servidor devolverá las palabras de aviso modificadas, el ID de generación de palabras de aviso y el ID de marca de agua, y luego la imagen se generará localmente en la computadora a través de la unidad NPU.
Después de generar la imagen, la aplicación Paint llamará al control de marca de agua ciega para escribir los parámetros relacionados con la marca de agua ciega de 16 bytes devueltos por el servidor en los píxeles de la imagen. La marca de agua ciega en sí es invisible a simple vista, pero Microsoft puede identificar si la imagen fue generada por la aplicación Paint mediante ciertos mecanismos de detección.
Los identificadores GUID se escriben directamente en los píxeles de la imagen:
El análisis inverso muestra que el mecanismo de marca de agua ciega 16 El GUID de bytes se amplió a datos de 144 bits y luego se incorporó realizando ligeras modificaciones en varios bloques de la imagen. Los investigadores utilizaron una imagen de 512x512 píxeles para realizar la prueba. Después de que Microsoft agregó una marca de agua ciega, más de 190.000 píxeles cambiaron ligeramente.
Lo que es más notable es que en la aplicación de dibujo, si el mecanismo de marca de agua ciega no se escribe, la tarea de generación de imágenes de IA se considerará directamente como una falla, en lugar de devolver una imagen sin marca de agua. Se puede ver que Microsoft considera este proceso como un vínculo necesario en la generación de IA y no se generará ninguna imagen a menos que se complete la marca de agua ciega.
Las capturas de pantalla, recortes, etc. no afectan el reconocimiento de Microsoft:
Además de modificar los píxeles, la aplicación Paint también agregará el certificado de contenido C2PA de toda la industria a la imagen. Después de verificar el archivo PNG generado real, los investigadores descubrieron que la lista C2PA no solo marcaba claramente la imagen generada por IA, sino que también registraba información de marca de agua ciega de Microsoft InvisMark.
El valor de la marca de agua guardado allí es exactamente el mismo que el ID de marca de agua ciega devuelto previamente por el servidor y realmente escrito en los píxeles de la imagen, lo que significa que Microsoft en realidad está usando dos capas de prueba de origen: metadatos C2PA + marca de agua invisible oculta en los píxeles de la imagen. Por lo tanto, incluso si los usuarios eliminan los metadatos de C2PA a través de ciertas herramientas, Microsoft aún puede identificar la marca de agua a través de píxeles. Por ejemplo, simples capturas de pantalla, recortes, etc. no pueden destruir por completo la marca de agua ciega.
Además, las funciones de generación de imágenes AI y conversión de estilo en la aplicación Fotos/Álbum de Microsoft también utilizan el mecanismo de marca de agua ciega. Algunas diferencias son: si la aplicación Paint no escribe la marca de agua, finalizará directamente la generación de la imagen, mientras que la aplicación Álbum registrará el error y continuará devolviendo los resultados generados.
Comentarios