El rápido desarrollo actual de la industria de la inteligencia artificial ha hecho que sea cada vez más fácil generar imágenes, pero las imágenes generadas a veces pueden hacerse pasar por fotografías o imágenes en vivo de noticias de actualidad. For example, a picture of Trump's arrest was widely circulated on X/Twitter.
Por otro lado, también hay artistas que utilizaron deliberadamente IA para generar imágenes para participar en el Sony World Photography Competition. Como resultado, lograron engañar al comité organizador para que ganara el premio. El artista se negó a aceptar el premio. Después de todo, originalmente se usó para burlarse del comité organizador.
En algunos aspectos, con el desarrollo de la tecnología de inteligencia artificial, las imágenes generadas en el futuro pueden volverse cada vez más difíciles de identificar, por lo que las empresas japonesas, que controlan alrededor del 90% del mercado mundial de cámaras digitales, han iniciado un nuevo método: incorporar firmas digitales en las fotografías.
Una nueva alianza formada por Nikon, Sony, Canon, algunas organizaciones de noticias y empresas de tecnología ha lanzado una herramienta llamada Verify, que se puede utilizar de forma gratuita para detectar si las fotografías se tomaron auténticamente.
Si la herramienta detecta que la foto tiene una firma digital, mostrará la fecha, ubicación y otras credenciales de la foto tomada. Por supuesto, no puede determinar si la foto fue generada por IA. Sin embargo, las fotografías con firmas digitales pueden considerarse tomas reales en lugar de generadas por IA o creadas por artistas a través de software.
Actualmente, Nikon, Sony y Canon han adoptado este estándar. En 2024, lanzarán más cámaras que admitan firmas digitales o proporcionen funciones de firma para algunas cámaras existentes a través de actualizaciones de firmware.
Para que este estándar se generalice, definitivamente no basta con lanzar nuevos modelos, por lo que la idea de Sony es que los modelos existentes también deberían soportarlo tanto como sea posible, para que más fotos tengan firmas digitales y puedan ser verificadas.
Para evitar ataques y falsificaciones, esta verificación no se realiza localmente. Es decir, cuando la herramienta de verificación detecte la imagen, enviará su información a los servidores de Sony para su detección. Sony también está presionando a otras organizaciones de medios para que adopten tecnologías y estándares relevantes.
Además de lanzar más cámaras que admitan firmas digitales integradas este año, Canon también está investigando agregar firmas digitales a los videos para que se pueda verificar que se hayan filmado auténticamente.