En una demanda federal contra OpenAI en Estados Unidos, Elon Musk admitió en su testimonio que la empresa de inteligencia artificial xAI que fundó había utilizado el modelo de OpenAI para entrenar a su chatbot Grok mediante la llamada tecnología de "destilación", poniendo una vez más en el punto de mira esta práctica tácita en la industria.

Recientemente, OpenAI y Anthropic han estado criticando a terceros por entrenar el comportamiento de nuevos modelos mediante un cuestionamiento intensivo de chatbots y API de acceso público, un proceso conocido en la industria como "destilación". En los últimos meses, la atención de la opinión pública se ha centrado en algunas empresas chinas. Se les ha acusado de crear modelos de ponderación de código abierto mediante destilación. Las capacidades de estos modelos son similares a las de los productos estadounidenses de vanguardia, pero pueden ofrecerse al mundo exterior a un costo menor. Sin embargo, dentro del círculo tecnológico, muchos profesionales han creído durante mucho tiempo que los laboratorios de vanguardia en los Estados Unidos también utilizarán métodos similares para evitar quedarse atrás en la competencia.

Esta especulación ahora se ha confirmado en al menos un caso. Cuando se le preguntó durante el testimonio del jueves ante un tribunal federal de California si xAI utilizó tecnología de destilación para entrenar a Grok basándose en modelos OpenAI, Musk dijo que era una "práctica común entre las empresas de IA". Cuando la otra parte preguntó si esto podía entenderse como "sí", su respuesta fue "en parte sí".

Actualmente, Musk está demandando a OpenAI, así como al director ejecutivo de la compañía, Sam Altman, y al cofundador, Greg Brockman, alegando que violaron la misión original sin fines de lucro de OpenAI al convertirla de una estructura sin fines de lucro a una con fines de lucro. El juicio comienza esta semana y el testimonio de Musk se convierte en uno de los dramas centrales.

La admisión de Musk es significativa porque la tecnología de destilación se considera una amenaza a las ventajas fundamentales de las grandes empresas de inteligencia artificial: estas empresas invierten enormes sumas de dinero en la construcción de infraestructura informática en un intento de mantenerse a la vanguardia a través de barreras de escala, mientras que la destilación puede permitir a otros desarrolladores de software entrenar modelos que “no están muy lejos” en capacidades a un costo mucho menor que el costo original. En este contexto, no falta la ironía en la industria: para obtener suficientes datos de entrenamiento, los propios Frontier Labs han probado repetidamente los límites de los derechos de autor e incluso fueron acusados ​​de "pasar la línea", pero ahora tienen que resistirse a que otros utilicen interfaces de cumplimiento para "aprender" sus modelos.

A juzgar por la línea de tiempo, xAI se fundó en 2023, varios años después que OpenAI, por lo que no sorprende que intentara "aprender" del líder de la industria en ese momento. No está claro si la destilación constituye una clara violación de la ley. Las limitaciones más realistas pueden surgir de las condiciones de servicio establecidas por cada empresa para el uso de los productos; la destilación a menudo se considera una violación de estas condiciones y no necesariamente afecta la propia ley.

Ante las preocupaciones sobre el "plagio" de modelos de China, OpenAI, Anthropic y Google han lanzado una acción conjunta a través del "Frontier Model Forum" para intentar compartir inteligencia y responder conjuntamente a los intentos de destilación. Según los informes, estas destilaciones de grandes modelos a menudo se basan en preguntas automatizadas sistemáticas y a gran escala para inferir los “patrones de comportamiento internos” del modelo. Para frenar este comportamiento, Frontier Labs está tratando de identificar y bloquear lotes sospechosos y solicitudes anormales para evitar que el modelo sea "drenado de su esencia". Al cierre de esta edición, OpenAI no había respondido a una solicitud de comentarios sobre el testimonio de Musk.

Más adelante en el juicio, se le preguntó a Musk sobre una declaración de alto perfil que hizo el verano pasado: que xAI pronto superaría a todas las empresas excepto a Google en términos de capacidades. Realizó una clasificación subjetiva de los principales proveedores de IA del mundo en los tribunales y dijo que Anthropic actualmente ocupa el primer lugar, seguido de OpenAI y Google, mientras que los modelos de código abierto de China ocupan el segundo lugar. En comparación, describió a xAI como una empresa mucho más pequeña, que actualmente cuenta con sólo unos pocos cientos de empleados.