En tres meses, la tienda de alimentos frescos dirigida por su padre en Jiaxing se encontró con nueve incidentes seguidos de "sólo reembolso", lo que alarmó a Chen Xiaowei, que trabaja en Shanghai. Durante las vacaciones de octubre de este año, hizo un viaje especial de regreso a su ciudad natal para comprobar cuidadosamente los registros del teléfono móvil de su padre y tratar de descubrir el motivo. "La tienda de mi padre se especializa en 'recoger y cultivar ahora' y lleva funcionando cinco años. Antes de cada envío, graba un vídeo de sellado de cajas para registrar claramente el color, el diámetro y el número de pedido del envase de los cítricos". Chen Xiaowei dijo al reportero "Front" de CCTV.com.

Sin embargo, cuando inició sesión en el backend de la tienda en línea para comprobarlo, descubrió que los compradores que habían "reembolsado sólo" en estos casos habían proporcionado fotografías del desempaquetado: los cítricos en la caja estaban podridos, deshidratados o incluso mostraban signos de infestación de insectos.



Foto proporcionada por el entrevistado.

Al principio, el padre de Chen pensó que había un problema con el enlace de entrega urgente y aceptó reembolsar las solicitudes de los primeros pedidos. Pero a medida que situaciones similares se volvieron cada vez más comunes, muchas veces no pudo comunicarse con la empresa de mensajería, por lo que tuvo que pedir ayuda a su hija. "Miré cuidadosamente cada imagen una por una y noté que había rastros de supuestas marcas de agua en la esquina de una de las imágenes, como si hubiera sido recortada". Chen Xiaowei pensó en el fenómeno de "sólo reembolso" de la edición de imágenes con IA que se informó recientemente en los medios y sospechó que la tienda había encontrado un reembolso organizado y malicioso.

A través de una simple búsqueda, Chen Xiaowei descubrió que el uso de tecnología de inteligencia artificial para alterar imágenes, falsificar problemas de calidad de productos y solicitar reembolsos ya no es una excepción. Inmediatamente presentó una queja a la plataforma sobre el video sellado y las imágenes sospechosas de haber sido modificadas por IA, pero fueron rechazadas debido a "credenciales insuficientes". La plataforma le sugirió negociar con el comprador para resolver el problema. "Pero estos compradores normalmente nos bloquean y no es posible contactar con ellos." Chen Xiaowei dijo impotente.

Llamó además al servicio de atención al cliente de la plataforma y la otra parte respondió que "era imposible determinar si la imagen fue generada por IA". Dado que el monto total de la orden en cuestión era inferior a 1.000 yuanes, no cumplía con los estándares para presentar un caso de fraude y era difícil acudir a la policía. Chen Xiaowei lamentó que las marcas de agua generadas por la IA se puedan eliminar fácilmente y que la plataforma carezca de un mecanismo de detección eficaz. Al final, las pequeñas empresas como su padre, que operan con integridad, suelen ser las que sufren.

Vale la pena señalar que el 14 de marzo de 2025, la Administración del Ciberespacio de China emitió conjuntamente las "Medidas para el etiquetado de contenido sintético generado por inteligencia artificial" el 14 de marzo de 2025, que estipula claramente que el contenido generado por IA debe marcarse obligatoriamente, como agregar símbolos de aviso al texto, incrustar marcas de agua en imágenes y videos, etc.


Fuente: Sitio web de la Oficina de la Comisión Central de Ciberseguridad y Tecnología de la Información

Sin embargo, un periodista de "Front" descubrió que, por un lado, todavía hay una gran cantidad de contenido de IA recién generado que no se ha marcado como requerido; por otro lado, incluso si se han añadido marcas de agua, se pueden eliminar fácilmente mediante medios técnicos. Esto trae nuevos desafíos a la implementación de la política de “etiquetado obligatorio”.

El ir y venir de la “marca de agua”

De hecho, desde el auge de la tecnología de IA generativa, "luchar contra la falsificación" e "identificar la autenticidad" se han convertido en temas inevitables en el proceso de desarrollo tecnológico.

"Las regulaciones actualmente relevantes dividen principalmente la identificación de contenido de IA en identificación explícita e implícita. La identificación explícita requiere etiquetar el contenido generado por IA de una manera que los usuarios puedan percibir claramente". Lu Lei, un desarrollador independiente de IA, señaló que la controversia actual se centra principalmente en el nivel de implementación de la identificación explícita.

"Pero el método convencional de 'marca de agua' tiene un defecto fatal: es fácil de alterar o eliminar". Lu Lei dio un ejemplo. "Por ejemplo, la mayoría de las herramientas de dibujo de IA colocan la marca de agua en la esquina de la imagen. Los usuarios sólo necesitan usar la función de recorte del teléfono para eliminar fácilmente la marca de agua sin afectar el efecto general de la imagen".


Elimine las marcas de agua de IA recortando imágenes

La investigación del periodista encontró que existe una gran cantidad de servicios de "eliminación de marcas de agua de imágenes y videos" en las plataformas de comercio electrónico, con una tarifa única que oscila entre unos pocos yuanes y más de diez yuanes. Algunos comerciantes revelaron que la operación de eliminar marcas de agua de las imágenes es sencilla e incluso se puede completar utilizando un software básico de edición de fotografías. Eliminar marcas de agua de videos es relativamente complicado y requiere reparación y calibración cuadro por cuadro. Sin embargo, aquellos que no requieren una alta calidad de imagen se pueden recortar y eliminar directamente.

De esta manera, los videos o imágenes pueden deshacerse fácilmente de la etiqueta "generado por IA" y lograr el efecto de ser falsos y reales. "Después de eliminar la marca de agua, no sólo será difícil para los usuarios comunes identificarla, sino que algunas herramientas de detección profesionales también se volverán ineficaces", dijo Lu Lei.


Al mismo tiempo, el grupo de creadores se enfrenta al problema de la "sobreidentificación". El ilustrador Li Muyang se quejó: "Utilicé 72 capas y más de 30.000 trazos dibujados a mano para completar el trabajo. Sólo porque usé IA para ajustar la luz y las sombras locales, el sistema lo etiquetó como 'generado por IA'". Su trabajo no solo fue etiquetado automáticamente después de su lanzamiento en las plataformas sociales, sino que también encontró restricciones de tráfico. La exposición fue inferior a una décima parte de la cantidad habitual e incluso recibió comentarios negativos sobre "ser vago con la IA".

"Todo, desde las pinceladas del cabello hasta los pliegues de la ropa, ha sido cuidadosamente pulido y actualmente la IA no puede alcanzar este nivel de precisión creativa". Li Muyang dijo impotente que se puso en contacto con el servicio de atención al cliente de la plataforma, pero se le negó la intervención y corrección manual por motivos de "identificación automática por parte del sistema".

Por un lado, los consumidores tienen dificultades para identificar el contenido de IA manipulado y, por otro, los creadores están atrapados por el mecanismo de identificación mecanizado de la plataforma. El "marcado obligatorio" de las marcas de agua de IA se topa con dos problemas aparentemente contradictorios, pero en realidad comunes.

Dificultades de la plataforma

Según el "Informe sobre el desarrollo de la industria de la inteligencia artificial generativa (2025)" publicado por la Academia de Comunicaciones de China, el número de usuarios de IA generativa en mi país alcanzará aproximadamente los 380 millones en 2024. Al mismo tiempo, el "Informe de investigación sobre el desarrollo audiovisual en línea de China (2025)" muestra que en 2024, el número promedio de nuevos contenidos de vídeo por día superará los 100 millones.

Ante una cantidad tan enorme de datos, la plataforma se encuentra atrapada en un dilema de recursos en el que resulta difícil implementar una “revisión uno por uno”.

Según la observación de Lu Lei, los "juicios erróneos" actuales como el que encontró Li Muyang se derivan principalmente del modelo de reconocimiento de IA comúnmente utilizado por las plataformas. "Estos modelos establecen estándares de juicio al aprender cantidades masivas de contenido generado por IA, pero pueden fácilmente juzgar erróneamente características de alta calidad en creaciones humanas como productos de IA". Por ejemplo, las pinceladas y combinaciones de colores que el pintor ha pulido repetidamente y las expresiones lógicas en artículos académicos pueden ser marcadas por el sistema a medida que funciona la IA. Cuanto más sofisticadas son las obras, más fácil es que se les juzgue mal, lo que genera una paradoja técnica.

Feng Zixuan, profesor de la Escuela de Inteligencia Artificial de la Universidad de Ciencias Políticas y Derecho del Suroeste, señaló además: "El contenido generado por la inteligencia artificial cubre múltiples formas, como texto, videos cortos, transmisiones en vivo y escenas virtuales. La arquitectura técnica y la lógica de comunicación de diferentes escenarios son enormemente diferentes. No hay forma de que una única solución técnica se adapte a todos los escenarios".

Sin embargo, incluso el uso de identificación implícita incorporada en el código todavía enfrenta el desafío de estándares técnicos inconsistentes. Zhang Xiao (seudónimo), arquitecto de inteligencia artificial en una empresa líder de Internet, reveló que los formatos de identificación implícitos generados por diferentes herramientas de inteligencia artificial varían mucho: algunos incorporan caracteres específicos y otros utilizan cifrado de marca de agua digital. "Es difícil para la plataforma adaptarse a docenas o incluso cientos de reglas de identificación. En el proceso de comunicación entre plataformas, a menudo ocurren problemas como la pérdida de identificación o la irreconocible".

Zhang Xiao también dijo que el reconocimiento de IA multimodal requiere un fuerte soporte de potencia informática. En la actualidad, para controlar los costos, las empresas no pueden realizar pruebas exhaustivas de todo el contenido subido y solo pueden simplificar el trabajo mediante inspecciones aleatorias, filtrado de palabras clave, etc.

Por tanto, la plataforma se encuentra atrapada en un doble dilema: por un lado, le resulta complicado hacer frente a la ingente cantidad de contenidos que se generan cada día; por otro lado, debe equilibrar entre "mantener la experiencia del creador y el tráfico de la plataforma" y "cumplir con las obligaciones de verificación del contenido generado por IA".

Li Muyang cree que la plataforma actual aún no ha establecido un mecanismo de denuncia completo. "Puedo aceptar un error judicial, pero no puedo aceptar que no haya forma de apelar". Intentó comunicarse con la plataforma muchas veces, pero no logró solucionar el problema. "Hoy en día, a medida que la IA se vuelve cada vez más popular, inevitablemente se producirán errores de juicio en la plataforma, pero se deben establecer canales de apelación especiales".

En este sentido, Lu Lei reveló que establecer un equipo de revisión profesional requiere una gran cantidad de talentos compuestos que comprendan tanto la tecnología como la creación de IA. Sin embargo, estos talentos son actualmente escasos y el coste de la formación es elevado. Por lo tanto, situaciones como las "quejas que tardaron 12 días en resolverse" de Li Muyang seguirán existiendo durante algún tiempo en el futuro.

Resolver el caos de la IA no puede limitarse a “poner una marca de agua”

Durante las entrevistas, los entrevistados coincidieron en general en que la intención original de etiquetar obligatoriamente el contenido de IA era razonable. Sin embargo, muchos expertos y conocedores de la industria han expresado sus propias opiniones sobre cómo garantizar que la IA no se desvíe del camino hacia la "tecnología para el bien".

Zhao Jingwu, profesor asociado de la Facultad de Derecho de la Universidad de Beihang, señaló que el etiquetado obligatorio no es la "llave maestra" para resolver el caos de la IA. Lo que realmente es necesario establecer es un sistema de gobernanza que abarque toda la cadena.

Entonces, ¿cómo elaborar normas que sean a la vez penetrantes y ampliamente aplicables? En opinión de Feng Zixuan, el marco básico debería construirse combinando "resultado final" y "elasticidad": "Es decir, se debería establecer por ley un estándar de identificación unificado y, al mismo tiempo, se debería reservar espacio de adaptación para diferentes escenarios de aplicación. Se deberían aclarar los requisitos duales de 'identificación explícita' e 'identificación implícita', y los diferentes escenarios deberían combinarse mediante un mecanismo de estratificación de responsabilidades". Por ejemplo, los proveedores de servicios asumen la “obligación de identificación de la fuente” y las plataformas realizan “obligaciones suplementarias y de verificación” y aclaran las responsabilidades legales de los usuarios que eliminan intencionalmente la identificación.

Frente al fenómeno de que "el costo de la falsificación es bajo y el cumplimiento conduce a pérdidas", Feng Zixuan abogó por aumentar el precio de la ilegalidad: "Los creadores de contenido deben asumir la responsabilidad principal y deben completar el etiquetado de acuerdo con la ley. Una vez que ocurre el fraude, deben soportar las consecuencias legales como la primera parte responsable. Las plataformas no solo deben proporcionar soporte técnico de etiquetado, sino también establecer un mecanismo de verificación en tiempo real. Si el contenido ilegal se difunde a gran escala debido a la negligencia de la plataforma, debe asumir las responsabilidades adicionales correspondientes".

En respuesta al problema de las "lesiones accidentales" que pueden causar los logotipos de IA, Feng Zixuan sugirió distinguir entre escenarios comerciales y no comerciales y establecer requisitos de etiquetado diferenciados para garantizar la originalidad. "El contenido no comercial puede utilizar logotipos ligeros y explícitos, mientras que el contenido comercial debe garantizar que el logotipo sea claramente visible y establecer un mecanismo de revisión de errores de juicio para permitir a los creadores solicitar corrección de errores y compensación a la plataforma".

De hecho, además del etiquetado obligatorio, todavía se están mejorando las regulaciones relacionadas con la IA. El abogado profesional An Yuhua señaló que las actuales "Medidas Provisionales de Gestión de Servicios de Inteligencia Artificial Generativa" y las "Medidas para el Etiquetado de Contenido Sintético de Inteligencia Artificial" son regulaciones departamentales, con baja efectividad jurídica y contenido fragmentado, que carecen de una ley de coordinación de alto nivel. "Tomemos como ejemplo el incidente que cambió la cara de la IA que encontró Wen Zhengrong. La protección de los derechos sólo puede depender de cláusulas dispersas, como los derechos de retrato y los derechos de privacidad. Es difícil cuantificar el daño a la reputación a gran escala y carece de un fuerte apoyo legal de alto nivel".


Si bien la coordinación general de las normas es insuficiente, también es necesario aclarar más los detalles específicos. Feng Zixuan cree que los estándares actuales del mecanismo de marcado de doble vía son vagos y las reglas de penalización no son lo suficientemente claras. Es necesario introducir normas de aplicación más detalladas. "Por ejemplo, basándose en estándares nacionales obligatorios, garantizar que los logotipos implícitos puedan rastrearse y verificarse en todas las plataformas; vincular el monto de las multas con ganancias ilegales, estratificar las sanciones según las circunstancias de las violaciones, aumentar las sanciones por manipulación maliciosa de logotipos, falsificación de lotes, etc., y aclarar los límites de las responsabilidades de los creadores, las plataformas y los proveedores de tecnología".

Es previsible que la promulgación de las “Medidas para el Etiquetado de Contenidos Sintéticos Generados por Inteligencia Artificial” sea sólo el punto de partida del proceso de gobernanza. Mejorar el etiquetado obligatorio es sólo la base. Construir una gobernanza integral de la información de IA puede ser la verdadera solución al problema.