Resumen:
OpenAI está agregando gradualmente marcas de agua invisibles a los textos generados por ChatGPT y Codex en la Unión Europea para cumplir con los requisitos de la Ley de Inteligencia Artificial de la UE para la legibilidad del contenido generado por IA. OpenAI dijo que esta tecnología de marca de agua de texto llamada textGrain no agrega caracteres ocultos, espacios invisibles ni puntuación especial al artículo. En cambio, ajusta el método de selección de palabras cuando el modelo genera texto, formando una característica estadística en todo el texto que no puede ser detectada directamente por el ojo humano pero que puede ser reconocida por la máquina.
Según la información publicada por OpenAI, los requisitos de transparencia pertinentes de la Ley de Inteligencia Artificial de la Unión Europea entrarán en vigor el 2 de agosto de 2026. Los proveedores de servicios de IA generativa deben tener contenido generado por IA con marcas reconocibles por máquinas. Por lo tanto, OpenAI planea implementar gradualmente marcas de agua de texto para los usuarios elegibles de ChatGPT y Codex en la UE en las próximas semanas, y esta implementación cubrirá todos los paquetes de ChatGPT, no solo a los usuarios de pago.
Este tipo de marca de agua es diferente del "texto oculto" en el sentido tradicional. Cuando los usuarios copian el contenido generado por ChatGPT, no se copiará un carácter oculto al mismo tiempo y no se encontrarán símbolos especiales en el texto. Lo que textGrain realmente cambia es la probabilidad de selección aleatoria del modelo cuando se enfrenta a múltiples palabras posibles. Los cambios en una sola palabra pueden ser completamente indetectables, pero cuando se combina una gran cantidad de palabras, se puede formar un patrón estadístico que el sistema de detección puede reconocer.
OpenAI declaró que la ventaja de este diseño es que no cambia significativamente la salida de texto normal. Las pruebas de la compañía encontraron que la diferencia en el rendimiento del modelo entre agregar marcas de agua y sin agregar marcas de agua estaba dentro del rango de fluctuación normal de la prueba, y el impacto en la velocidad de generación de texto también fue muy pequeño. Durante las pruebas internas anteriores de ChatGPT de OpenAI, no encontró que la función de marca de agua condujera a un aumento en las reseñas negativas de los usuarios.
Sin embargo, OpenAI también admitió que la marca de agua de texto no es un método 100% confiable para identificar contenido de IA. Hay dos posibles errores en la detección de marcas de agua. Una es que el texto sin marca de agua se considera erróneamente como si tuviera una marca de agua, y la otra es que el texto en realidad tiene una marca de agua, pero el sistema de detección no la reconoce.
La longitud del texto también es un factor importante que afecta los resultados de la detección. El texto más corto tiene menos espacio para que el modelo ajuste la selección de palabras, lo que hace más difícil formar una señal estadística estable. Las reglas publicadas por OpenAI también muestran que, de acuerdo con las especificaciones de transparencia de la IA de la UE, no se requiere una producción de menos de 200 tokens, alrededor de 150 palabras en inglés y fragmentos de código para agregar marcas de agua de texto.
También existen diferencias en los resultados de detección entre diferentes idiomas. OpenAI probó los 24 idiomas oficiales de la Unión Europea. Si bien se mantuvo una tasa de falsos positivos del 1%, la tasa de detección del español alcanzó un máximo del 69%, mientras que la tasa de detección del rumano fue solo del 42,2%. Para idiomas con efectos de detección débiles, OpenAI puede aumentar la intensidad de la marca de agua para mejorar las capacidades de detección.
Esto significa que textGrain no puede entenderse como una tecnología que pueda probar al 100% que fue generada por ChatGPT cuando ves la marca de agua. OpenAI deja claro que incluso si el texto original no ha sido modificado, no hay garantía de que el sistema de detección pueda detectar la marca de agua, especialmente cuando el texto es corto o el rango de palabras seleccionables es pequeño.
Al mismo tiempo, existen diferencias obvias entre las marcas de agua de texto y los detectores de texto con IA que se encuentran actualmente en el mercado. Las herramientas de detección de IA de terceros, como Pangram, utilizan principalmente clasificadores para determinar si es probable que la IA genere un fragmento de texto mediante el análisis de la elección de palabras, la estructura de las oraciones y otras características del lenguaje. Este método analiza el texto una vez generado, mientras que textGrain deja directamente una señal estadística legible por máquina durante el proceso de generación del texto.
OpenAI cree que este enfoque está más en línea con los requisitos de la Ley de IA de la UE para señales identificables "integradas".
OpenAI no adoptó directamente SynthID de Google DeepMind ni otras soluciones de marcas de agua de texto existentes, sino que desarrolló textGrain por su cuenta. La compañía dijo que su tecnología de desarrollo propio le permite ajustar de manera más flexible el equilibrio entre la detectabilidad de las marcas de agua y la diversidad de resultados del modelo. En pruebas internas, textGrain reconoció texto con marcas de agua a una velocidad igual o superior a otras soluciones que la empresa había probado, incluido SynthID para texto.
OpenAI también planea abrir la tecnología textGrain de código abierto, con la esperanza de que otras instituciones de investigación y empresas puedan utilizar esta tecnología para seguir investigando y mejorar el reconocimiento de fuentes de texto de IA. Sin embargo, OpenAI no abrirá inmediatamente al público el detector de marcas de agua de texto, sino que primero proporcionará canales de solicitud a investigadores e instituciones profesionales aprobados.
Estos investigadores e instituciones autorizados pueden utilizar las herramientas de detección de OpenAI para determinar si un fragmento de texto contiene una marca de agua generada por OpenAI, pero los resultados de la detección no revelarán la identidad del usuario, las palabras emergentes ni los registros de chat correspondientes al contenido generado. OpenAI cree que, dado que la tecnología actual todavía tiene riesgos de falsos positivos y falsos negativos, abrir directamente las herramientas de detección a todos puede llevar a una sobreinterpretación de los resultados de la detección de marcas de agua.
Vale la pena señalar que OpenAI no planea habilitar marcas de agua de texto de forma predeterminada a nivel mundial esta vez. La compañía declaró que las marcas de agua de texto de ChatGPT y Codex se implementarán gradualmente solo para la región de la UE en esta etapa. Esta implementación regional permitirá a OpenAI observar el rendimiento en entornos de uso reales y ajustar la tecnología en función de la retroalimentación real.
Para los desarrolladores de API, la situación es diferente. OpenAI ha comenzado a permitir que los clientes globales de API activen activamente la función de marca de agua de texto para algunos modelos, pero todavía está desactivada de forma predeterminada. Esto significa que las empresas pueden decidir si colocan una marca de agua en el texto generado a través de API en función de sus propios requisitos de transparencia.
OpenAI también se está coordinando con socios de servicios en la nube, con la esperanza de que en las próximas semanas, el contenido elegible generado al llamar a modelos OpenAI a través de estas plataformas en la nube también reciba las señales de origen correspondientes.
Sin embargo, las marcas de agua de texto no reemplazarán otros métodos de identificación de contenido de IA. OpenAI enfatiza que la información fuente, como las marcas de agua legibles por máquina y C2PA, no puede reemplazar las declaraciones públicas, como las etiquetas visibles de IA y los anuncios publicitarios requeridos por la ley o la plataforma. Resuelven problemas de fuente de contenido en diferentes niveles.
Para los usuarios comunes, lo más notable de este cambio es: si estás en la UE y usas ChatGPT para generar texto largo, desde el momento en que el sistema de marcas de agua cubra oficialmente tu cuenta, es posible que el contenido generado ya contenga señales de origen que son invisibles a simple vista. La copia directa del texto original generalmente no destruye esta señal, pero si el texto se reescribe, reformula o traduce significativamente, la detectabilidad de la marca de agua puede reducirse significativamente.
OpenAI también reconoce explícitamente esta limitación. La señal de textGrain existe en la selección de palabras del modelo, en lugar de como un carácter invisible adjunto independientemente al archivo de texto. Por lo tanto, una reescritura suficiente del texto puede destruir el patrón estadístico original. Es por eso que OpenAI enfatiza que las marcas de agua de texto son actualmente más adecuadas como señal de evaluación de la fuente y no pueden considerarse como un "certificado de identificación de IA" absolutamente confiable.
En términos generales, OpenAI lanzó textGrain en la UE esta vez principalmente para adaptarse a los nuevos requisitos regulatorios impuestos por la Ley de IA. También representa que la identificación de la fuente del texto generado por IA está evolucionando desde las tradicionales "etiquetas declarativas" hasta señales reconocibles por máquinas. No cambiará el texto que ven los usuarios, ni aparecerán caracteres misteriosos al copiar texto, pero permitirá que los sistemas con permisos de detección intenten determinar si un contenido proviene de un modelo OpenAI.
Sin embargo, dado que las marcas de agua de texto todavía tienen problemas como diferencias de idioma, restricciones de longitud del texto y debilitamiento de la señal después de la reescritura, actualmente son más adecuadas como evidencia auxiliar en el sistema de trazabilidad de contenido de IA, en lugar de usarse solas para determinar si un artículo fue "escrito por IA".
Comentarios