Anthropic acusó públicamente recientemente a las empresas chinas de inteligencia artificial DeepSeek, MiniMax y Moonshot de abusar masivamente de su gran modelo Claude para mejorar las capacidades de sus productos, definiendo este comportamiento como "abuso a escala industrial". La actividad involucró alrededor de 24.000 cuentas falsas y más de 16 millones de interacciones con Claude, dijo la compañía en un comunicado el lunes, tras un informe de The Wall Street Journal.

Según los informes, estas empresas están acusadas de utilizar la llamada tecnología de "destilación" para extraer capacidades de modelos más avanzados como Claude para entrenar modelos más pequeños. Anthropic admitió en su descripción que la destilación de modelos en sí misma es un "método de entrenamiento legítimo", pero también enfatizó que este método "también puede usarse para propósitos inadecuados", como obtener capacidades poderosas de otros laboratorios a un costo mucho menor que el tiempo y el costo de capital de la investigación y el desarrollo independientes.

Anthropic advierte específicamente que los modelos obtenidos mediante destilación ilegal de esta manera probablemente no heredarán los mecanismos de restricción y protección de seguridad del modelo original. "Los laboratorios extranjeros que destilan modelos estadounidenses pueden eludir estas limitaciones de seguridad y alimentar capacidades desprotegidas directamente en sistemas militares, de inteligencia y de vigilancia, permitiendo a los gobiernos autoritarios utilizar IA de vanguardia para operaciones cibernéticas ofensivas, proliferación de desinformación y vigilancia masiva", señaló la compañía.

En este incidente, DeepSeek es el que ha atraído más atención: esta empresa ha causado conmoción en la industria mundial de la IA con sus modelos más potentes y más eficientes desde el punto de vista computacional. Anthropic dijo que hubo más de 150.000 interacciones entre DeepSeek y Claude, con un enfoque particular en las habilidades de razonamiento de Claude. Además, DeepSeek también está acusado de utilizar a Claude para generar "expresiones alternativas favorables a la censura" para responder preguntas políticamente delicadas que involucran a disidentes, líderes de partidos o autoritarismo para eludir el filtrado del sistema de censura del país.

Las dudas sobre DeepSeek no provienen sólo de Anthropic. Hace apenas una semana, en una carta a los legisladores estadounidenses, OpenAI también acusó a DeepSeek de utilizar métodos de destilación similares para aprovechar las capacidades del modelo desarrollado por OpenAI y otras empresas estadounidenses durante mucho tiempo para buscar una ventaja competitiva. La carta también posiciona a DeepSeek como una amenaza para el ecosistema de inteligencia artificial y el liderazgo tecnológico de EE. UU.

En la actualidad, Anthropic no ha revelado en detalle el camino de acción legal o regulatoria posterior en una declaración pública, pero al elevar el asunto al nivel de seguridad nacional y gobernanza global de la IA, la compañía claramente espera presionar a los reguladores y formuladores de políticas para que enfrenten el riesgo de que "se abuse de la destilación de modelos". En un momento en que la competencia mundial en IA se está volviendo cada vez más feroz y los flujos de tecnología transfronterizos son muy sensibles, esta acusación ha exacerbado aún más la tensión en torno a la competencia y el juego de seguridad entre China y Estados Unidos en la tecnología de IA.