Resumen:
Anthropic dijo que su último modelo de inteligencia artificial, Claude Mythos Preview, ha acortado significativamente el tiempo de desarrollo de software necesario para implementar modelos de inteligencia artificial en las plataformas GPU de AMD. Según la empresa, en el pasado este trabajo solía tardar entre 6 y 12 meses y requería decenas de ingenieros para completarlo, pero Claude Mythos puede completar el trabajo crítico de adaptación del software en unos tres días casi sin intervención manual. Este desarrollo puede debilitar las barreras competitivas que Nvidia ha establecido desde hace mucho tiempo basándose en el ecosistema de software CUDA.

El cofundador y director de informática de Anthropic, Tom Brown, presentó los resultados a los inversores durante la gira de oferta pública inicial de la empresa. Dijo que Claude Mythos puede portar o escribir automáticamente casi el 100% del código del kernel de la GPU, lo que permite que los modelos de Claude se ejecuten en el acelerador AMD Instinct MI355X. Anteriormente, trabajos similares de adaptación de hardware requerían a menudo un equipo de decenas de ingenieros y llevaban varios meses.
Sin embargo, los tres días revelados por Anthropic tienen un alcance de aplicación claro, lo que no significa que todo el proceso de implementación del modelo, verificación del entorno de producción y optimización del rendimiento pueda completarse en tres días. La nota a pie de página del material del roadshow señala que este logro está dirigido específicamente a que un modelo Anthropic complete la tarea de procesamiento de textos (Prefill) en la GPU AMD MI355X y alcance un nivel de rendimiento que sea de valor de uso práctico. Anthropic no indicó claramente si también se incluye la etapa de respuesta de generación de modelo (Decode).
El núcleo de la GPU es una conexión importante entre el software de inteligencia artificial y el hardware subyacente. Es responsable de convertir las tareas de cálculo del modelo en instrucciones que puedan ejecutarse de manera eficiente en un procesador específico. Existen diferencias en la arquitectura de GPU, los sistemas de memoria y las unidades informáticas de diferentes fabricantes, por lo que el mismo modelo de IA a menudo necesita escribir o ajustar el código subyacente para diferentes plataformas de hardware. Este tipo de trabajo ha sido durante mucho tiempo una importante fuente de ventajas para el ecosistema CUDA de NVIDIA.
La plataforma CUDA de NVIDIA se ha desarrollado durante casi 20 años y cuenta con compiladores maduros, herramientas de desarrollo, bibliotecas de optimización y una gran comunidad de desarrolladores. AMD tiene su propia plataforma de software ROCm y admite tareas informáticas relacionadas a través de la capa de programación HIP. Para ayudar a los desarrolladores a migrar el código CUDA a la plataforma AMD, AMD lanzó previamente la herramienta HIPify. Sin embargo, la conversión de código no significa que todos los programas puedan obtener directamente un rendimiento ideal. Por lo general, los desarrolladores todavía necesitan realizar mucha depuración y optimización.
Los avances en las herramientas de programación de IA están cambiando esta situación. Anush Elangovan, vicepresidente de software de inteligencia artificial de AMD, dijo en abril de este año que Claude tiene una ventaja sobre HIPify en la conversión de código porque tiene capacidades de búsqueda web integradas y puede obtener más información técnica durante el procesamiento. AMD ha demostrado anteriormente resultados de investigación utilizando agentes de inteligencia artificial para escribir automáticamente núcleos de GPU, pero los primeros sistemas aún eran inferiores a los expertos humanos en algunas pruebas.
Anthropic no depende únicamente de las GPU de Nvidia para ejecutar sus modelos. La compañía ha utilizado simultáneamente diferentes tipos de aceleradores, como GPU NVIDIA y AMD, Google TPU y Amazon AWS Trainium, y ha unificado la gestión de estos recursos de hardware en un grupo de recursos informáticos programado de forma flexible. Tom Brown anteriormente calificó la decisión temprana de la compañía de adoptar una estrategia de plataforma multichip como una elección inusual. Esta estrategia puede volverse más atractiva a medida que se reduzca significativamente el tiempo de adaptación del software.
Anthropic comenzó a utilizar GPU de AMD por primera vez este año y llegó a un acuerdo de cooperación con AMD que implica hasta 2 gigavatios de potencia informática. Según información previamente revelada por ambas partes, AMD también está utilizando Claude para optimizar la carga de trabajo de las GPU de la serie Instinct y acelerar el desarrollo de la plataforma de software ROCm. AMD cree que se espera que la generación automática de código del kernel por parte de la IA reduzca aún más el umbral técnico para que los clientes adopten sus aceleradores.
De hecho, la dirección de AMD ha hablado repetidamente sobre el impacto de las herramientas de programación de IA en el ecosistema de software de GPU. El director ejecutivo de AMD, Su Zifeng, dijo en septiembre del año pasado que una gran cantidad de software de inteligencia artificial se desarrolló originalmente en torno a CUDA, pero que ahora una parte considerable del código se puede convertir a un formato adecuado para las plataformas AMD a través de herramientas de software. En julio de este año, el vicepresidente senior de AMD, Vamsi Boppana, también dijo que se espera que la IA elimine las barreras de software restantes al adoptar las GPU de AMD.
En el evento AMD Advancing AI celebrado en julio de este año, Philippe Tillet de OpenAI también habló sobre el papel de los agentes de IA en el desarrollo del núcleo de GPU. Dijo que después de que OpenAI obtuvo el rack AMD Helios, un ingeniero tardó solo unos días en confirmar que el sistema estaba funcionando correctamente, y señaló que los agentes de IA están asumiendo gradualmente parte del trabajo que solía ser responsabilidad de los ingenieros del kernel. AMD también reveló que un ingeniero le pidió a Claude que lo ayudara a iniciar el rack MI355X y mantener el sistema funcionando durante el fin de semana.
Los datos divulgados por Anthropic han llamado la atención porque los resultados relevantes ya no son sólo demostraciones o publicidad de la propia AMD. Como empresa de inteligencia artificial que realmente compra y utiliza chips, Anthropic ha revelado a los inversores los cambios a lo largo del tiempo en sus propias prácticas de ingeniería. Su documento de prospecto de IPO también menciona que con la ayuda de Claude, la compañía ha podido introducir nuevas plataformas de chips en el entorno de producción con una inversión de ingeniería mucho menor que en el pasado, aunque el documento no proporciona una cifra específica de tres días.
Sin embargo, la mejora en la velocidad de adaptación no prueba directamente que la GPU AMD haya igualado a Nvidia en rendimiento. Anthropic no anunció la velocidad de ejecución real de Claude en el MI355X, ni proporcionó datos de comparación de rendimiento con hardware similar de Nvidia. El informe también señala que si bien el gráfico mostrado por la empresa marca el avance de adaptación de ambas soluciones cerca del 100%, no explica en detalle a qué contenido de trabajo corresponde este ratio.
El director ejecutivo de Nvidia, Jensen Huang, ha declarado anteriormente que la propia empresa también utiliza IA para ayudar en el desarrollo de núcleos de GPU y cree que nadie comprende mejor su propia arquitectura de chip que Nvidia, por lo que Nvidia puede utilizar plenamente el rendimiento del hardware. Con respecto a la adopción de otros aceleradores por parte de empresas como Anthropic, una vez llamó a Anthropic un caso especial en lugar de una tendencia de la industria.
Al mismo tiempo, la escritura automática de AI de los núcleos de GPU también enfrenta nuevos cuellos de botella de recursos. Un análisis publicado por SemiAnalysis en julio de este año creía que los costos de desarrollo de software están disminuyendo, pero el código generado por los agentes de IA aún debe probarse y verificarse en GPU reales. Cada agente requiere los recursos de GPU correspondientes para ejecutar las pruebas, y los recursos de GPU internos de AMD para dicho desarrollo son insuficientes, lo que puede convertirse en una limitación para una mayor expansión de las aplicaciones.
En general, la importancia de la demostración de Claude Mythos no es solo que acorta un proceso de desarrollo de software específico, sino también que la IA puede cambiar el costo de la migración de software entre diferentes plataformas de GPU. Las ventajas de CUDA no desaparecerán de inmediato. Su cadena de herramientas madura, su ecosistema de desarrolladores y su experiencia acumulada a largo plazo en optimización del rendimiento siguen siendo valiosos. Sin embargo, si la IA puede completar cada vez más automáticamente el trasplante de código, la escritura del kernel y la adaptación del hardware, los clientes pueden depender menos de ecosistemas de software específicos al elegir GPU. Competidores como AMD también tendrán la oportunidad de conquistar a clientes que originalmente utilizaban principalmente plataformas Nvidia con menores costos de migración.
Comentarios