Resumen:
Kimi K3, una filial de la empresa china de inteligencia artificial Dark Side of the Moon, ha vuelto a verse involucrada recientemente en la controversia sobre la destilación de modelos. Una investigación publicada por OpenAI reveló que una campaña de extracción coordinada dirigida al contenido de inferencia protegido de sus modelos estaba vinculada a personas asociadas con el Lado Oscuro de la Luna. Las actividades relacionadas generaron aproximadamente 16.000 solicitudes en un solo día e involucraron a más de 15.000 usuarios.
OpenAI declaró que estas operaciones no rompieron su sistema de cifrado, no invadieron la base de datos ni obtuvieron directamente conversaciones históricas de los usuarios, sino que a través de interacciones de modelos de rondas múltiples cuidadosamente diseñadas, intentaron regenerar el proceso de razonamiento originalmente oculto en una forma visible para el solicitante.
OpenAI calificó el incidente como un "evento coordinado de destilación de modelos". La llamada destilación de modelos se refiere al uso de un modelo de maestro más capaz para generar una gran cantidad de resultados y luego usar estos resultados para entrenar un modelo de estudiante más pequeño o de menor costo, de modo que este último pueda aprender los patrones de comportamiento y las capacidades del modelo de maestro. La destilación en sí es una técnica común en el campo del aprendizaje automático, pero si el resultado del modelo comercial se extrae a escala sin autorización y se utiliza para entrenar modelos competidores, puede violar los términos de servicio e incluso dar lugar a disputas de propiedad intelectual.
Según los resultados de la investigación publicados por OpenAI, las actividades relacionadas aparecieron por primera vez el 1 de julio de 2026, cuando el número de solicitudes aún era relativamente bajo. Luego, la actividad se expandió gradualmente, con picos obvios el 24 y 25 de julio. Sólo en estos dos días, OpenAI detectó aproximadamente 16.000 solicitudes utilizando patrones de extracción específicos de más de 4.000 usuarios.
OpenAI afirmó además que palabras de aviso y modos de operación similares no solo aparecen entre los más de 4.000 usuarios mencionados anteriormente, sino que se distribuyen entre un grupo de usuarios más grande que consta de más de 15.000 usuarios. Al analizar los patrones y las correlaciones entre estas solicitudes, la empresa determina que no son comportamientos ordinarios de los usuarios completamente independientes, sino que pertenecen a una actividad con características coordinadas.
Una operación clave es de particular interés. OpenAI dijo que el personal relevante primero copió el contenido de inferencia cifrado devuelto por el modelo de una conversación y luego le pidió al modelo que descifrara y transcribiera el contenido oculto en una conversación separada. En otras palabras, no descifraron directamente el mecanismo de cifrado utilizado por OpenAI para proteger el proceso de razonamiento, sino que intentaron utilizar las propias capacidades del modelo para permitir que el modelo procese otra parte del contenido protegido, recuperando así indirectamente la información.
OpenAI enfatizó que esta actividad no logró "romper el cifrado", ni atravesó la base de datos de OpenAI, ni obtuvo registros de chat de usuarios almacenados en el servidor. Su éxito radica principalmente en manipular las interacciones entre modelos para que la información de inferencia protegida que de otro modo no se mostraría directamente al usuario reaparezca en otra forma.
OpenAI finalmente bloqueó por completo este tipo de actividad alrededor del 28 de julio. La compañía dijo que durante su investigación, descubrió que uno de los principales grupos de actividad estaba vinculado a personas asociadas con el Lado Oscuro de la Luna. OpenAI dijo en una declaración pública que pudo atribuir el grupo central a "individuos asociados con el desarrollador de Kimi, Dark Side of the Moon".
Dark Side of the Moon es una empresa china de inteligencia artificial cuya serie de modelos Kimi se ha desarrollado rápidamente en los últimos años. En julio de 2026, la compañía lanzó Kimi K3, un modelo de peso abierto con aproximadamente 2,8 billones de parámetros, y lo posicionó como un modelo de nueva generación para programación de código, razonamiento complejo y tareas de agentes de IA. Kimi K3 atrajo rápidamente la atención de los desarrolladores de inteligencia artificial a nivel mundial después de su lanzamiento, y su rendimiento estuvo cerca del modelo de código cerrado líder en los Estados Unidos en algunas pruebas de terceros.
Esta investigación de OpenAI también ha llamado la atención sobre las dudas previas planteadas por el gobierno de EE. UU. sobre el origen del modelo Kimi. Michael Kratzios, director de la Oficina de Política Científica y Tecnológica de la Casa Blanca y asesor jefe de ciencia y tecnología, dijo a finales de julio de este año que el gobierno de Estados Unidos tenía información relevante y creía que Dark Side of the Moon había utilizado el modelo de Anthropic para destilar Kimi K3. Dark Side of the Moon no ha reconocido la acusación.
Además de la declaración del gobierno, otros investigadores han analizado recientemente las fuentes de entrenamiento del modelo Kimi K3. Un estudio encontró que simplemente ingresar parte del contenido de razonamiento decodificado de Claude Opus 4.8 en Kimi K3 puede cambiar significativamente el proceso de pensamiento posterior de Kimi K3 y su respuesta final, haciendo que parezca una expresión más cercana a la de Claude. En base a esto, los investigadores creen que la dificultad de extraer cierto contenido de razonamiento de Claude y GPT en Kimi K3 es significativamente menor que la de otros modelos.
Sin embargo, estos estudios no prueban por sí solos que el Kimi K3 en su conjunto haya sido destilado de otros modelos a través de medios no autorizados. Entre los grandes modelos de lenguaje aparecen métodos de respuesta, estructuras de razonamiento y expresiones de conocimiento similares, que también pueden provenir de diversos factores, como datos públicos, objetivos de capacitación similares, métodos de aprendizaje por refuerzo y arquitectura del modelo. Por lo tanto, la existencia de similitudes parciales de comportamiento entre los modelos no equivale a irregularidades comprobadas en la fuente de sus datos de entrenamiento.
El propio Kimi K3 también contiene tecnología desarrollada por Dark Side of the Moon. El modelo está diseñado utilizando arquitecturas como Kimi Delta Attention y está optimizado para tareas de inferencia a gran escala. Dark Side of the Moon también reduce los costos de inferencia al reducir el caché KV y optimizar la huella de memoria de cada token. Estas tecnologías permiten que Kimi K3 se ejecute en hardware de centros de datos a gran escala.
Lo especial de esta controversia es que el comportamiento alegado por OpenAI no es simplemente copiar la respuesta del modelo, sino un intento de obtener activamente "razonamiento protegido" que el modelo generalmente no muestra directamente. A medida que más y más empresas de IA adoptan razonamientos ocultos o mecanismos de razonamiento cifrados, este tipo de información se ha convertido en una parte importante de la protección de la capacidad del modelo. Si los modelos competidores pueden restaurar su contenido mediante solicitudes automatizadas a gran escala, los mecanismos utilizados por los proveedores de modelos para proteger los resultados de la capacitación y las capacidades de inferencia pueden enfrentar nuevos desafíos.
OpenAI ha tomado medidas contra comportamientos similares de destilación de modelos muchas veces en los últimos años. La compañía cree que la automatización a gran escala de la invocación de modelos de negocios, la recopilación de sus resultados y su uso para entrenar modelos competitivos permitirá a una parte con grandes cantidades de recursos informáticos replicar a un costo menor las capacidades que otros modelos han desarrollado a través de investigación y desarrollo a largo plazo.
Al mismo tiempo, este incidente también muestra que la destilación de modelos de IA se está convirtiendo en un tema delicado en la competencia de inteligencia artificial entre China y Estados Unidos. El gobierno de EE. UU. ha advertido repetidamente que las empresas chinas de IA pueden utilizar la producción de modelos de empresas estadounidenses para acelerar el desarrollo de su propio modelo, mientras que las empresas chinas continúan enfatizando la importancia de las capacidades de investigación y desarrollo independientes y los modelos de peso abierto. Respecto a la información pública actual, OpenAI ha confirmado el descubrimiento de actividades de extracción a gran escala y dijo que su grupo de actividades principal está relacionado con personas relacionadas con el Lado Oscuro de la Luna. Sin embargo, esta atribución y si las actividades relacionadas se utilizan en última instancia para entrenar a Kimi K3 aún requieren más pruebas públicas para demostrarlo.
Más información:
https://openai.com/index/interrumpir-una-campaña-de-destilación-de-modelo-coordinado/
Comentarios