Resumen:
Mientras que las empresas estadounidenses de inteligencia artificial, como OpenAI y Anthropic, siguen acusando a las empresas chinas de copiar tecnologías avanzadas mediante la "destilación de modelos", Garry Tan, director ejecutivo de Y Combinator, una conocida aceleradora de startups estadounidense, ha expresado públicamente una opinión completamente diferente. Dijo que si fuera por él, "no se haría nada" sobre la cuestión de la destilación, y consideró que el foco regulatorio actual no debería centrarse en combatir la destilación.
Garry Tan hizo la declaración anterior durante una entrevista durante el evento anual Demo Day de Y Combinator. En los últimos meses, la destilación de modelos se ha convertido en uno de los temas más controvertidos en la industria mundial de la IA. La destilación se refiere al uso de la salida generada por un modelo de inteligencia artificial más potente para entrenar un modelo más pequeño o menos capaz. En algunos casos, es posible que este proceso no esté autorizado por el desarrollador del modelo original, por lo que algunas empresas líderes en inteligencia artificial lo consideran una amenaza a los derechos de propiedad intelectual y los intereses comerciales.
En la actualidad, Anthropic ha acusado públicamente a empresas chinas como Dark Side of the Moon, DeepSeek y MiniMax de supuestamente utilizar sus modelos para entrenamiento de destilación. OpenAI cree que parte de la arquitectura del modelo de DeepSeek puede tomar prestado o originarse a partir de los resultados de salida de sus modelos de las series GPT-4 y GPT-4o. Al mismo tiempo, la Agencia de Seguridad Nacional de EE. UU., la Agencia de Seguridad de Infraestructura y Ciberseguridad y el FBI emitieron recientemente conjuntamente una advertencia de ciberseguridad, enumerando comportamientos relevantes como riesgos de seguridad que requieren atención.
Sin embargo, Garry Tan no está a favor de restricciones más estrictas a la destilación. Él cree que los reguladores realmente deberían centrarse en cómo establecer un equilibrio saludable entre los modelos de peso abierto y los modelos de código cerrado de vanguardia, en lugar de simplemente prohibir o tomar medidas enérgicas contra las prácticas de destilación. En su opinión, mientras el modelo líder pueda mantener suficientes ventajas de desempeño y primas de precios para permitir que su modelo de negocios continúe operando, entonces la existencia de un modelo abierto conducirá a la popularización de la tecnología y la difusión de la innovación.
Dijo que el estado ideal debería ser que el modelo de peso abierto brinde libertad y oportunidades de uso a más desarrolladores y empresas, mientras que el modelo de vanguardia mantiene el valor comercial en virtud de su liderazgo tecnológico. Aunque este equilibrio es muy frágil y tan difícil como "caminar sobre la cuerda floja", sigue siendo el camino de desarrollo más digno de seguir para la industria.
Otro trasfondo de la controversia sobre la destilación proviene de los problemas de derechos de autor de larga data en la industria de la inteligencia artificial. Muchos críticos señalan que empresas como OpenAI y Anthropic también se han enfrentado a preguntas sobre el uso no autorizado de noticias, libros y otros contenidos protegidos por derechos de autor al entrenar sus propios modelos. El New York Times demandó anteriormente a OpenAI y Microsoft, acusándolos de utilizar contenido de noticias para entrenar modelos sin permiso; Muchos escritores también han presentado demandas contra Anthropic por cuestiones similares. Garry Tan cree que esto complica la postura ética de la industria sobre la destilación.
Además de la cuestión de la competencia de modelos, Garry Tan también se muestra cauteloso sobre la creciente "teoría del fin del mundo de la IA". Recientemente, a medida que algunos investigadores de inteligencia artificial han expresado públicamente su preocupación por el riesgo de que la IA avanzada se salga de control, el debate en la sociedad sobre los riesgos existenciales de la inteligencia artificial ha aumentado significativamente. Pero Tan cree que la industria debería prestar más atención a los problemas que ya han ocurrido o que están a punto de ocurrir en la realidad, en lugar de permitirse escenarios de desastres de ciencia ficción.
En su opinión, los riesgos en el ámbito de la seguridad de las redes son el desafío más apremiante en la actualidad. Por ejemplo, si los sistemas de IA se utilizan para ataques cibernéticos, penetración de infraestructuras o delitos automatizados, son mucho más dignos de priorizar los recursos que abordar que el escenario distante en el que la IA extermina a la humanidad. En cuanto a cuestiones como los impactos en el empleo y los cambios en la estructura económica, cree que, si bien estos impactos son reales, es más probable que aparezcan gradualmente en las próximas décadas en lugar de estallar en un corto período de tiempo.
Vale la pena señalar que a pesar del creciente debate sobre la seguridad de la inteligencia artificial y la competencia de modelos, Y Combinator continúa apostando fuertemente en la industria de la IA. Entre las 196 startups mostradas en este Demo Day, 149 estaban relacionadas con el aprendizaje automático y la inteligencia artificial, lo que representa más de las tres cuartas partes de todos los proyectos, lo que refleja el gran optimismo de la agencia sobre el futuro desarrollo de la inteligencia artificial.
Los analistas creen que la declaración de Garry Tan representa otra voz dentro de Silicon Valley. A diferencia de los desarrolladores de modelos de vanguardia que abogan por fortalecer la protección y limitar la proliferación tecnológica, esta facción enfatiza la ecología abierta, la competencia total y la democratización de la tecnología. A medida que la industria de la IA continúa desarrollándose a un ritmo rápido, se espera que los debates sobre la “destilación”, los modelos de código abierto, la seguridad nacional y la propiedad intelectual sigan convirtiéndose en temas importantes en el campo global de la inteligencia artificial en los próximos años.
Comentarios