Resumen:
Anthropic reveló durante su gira de IPO que utiliza Claude Mythos Preview para ayudar a adaptar los aceleradores de IA de AMD. Una empresa dijo que Claude AI tardó solo 3 días para que el modelo interno completara el procesamiento de textos rápido en AMD MI355X y alcanzara niveles de rendimiento utilizables.
Claude portó o escribió casi todo el código del kernel de la GPU en este esfuerzo con una mínima intervención humana. Este caso ha desencadenado debates sobre el ecosistema de software CUDA de NVIDIA y la competencia con los chips de IA. CUDA es el foso de NVIDIA, pero queda por ver cuánto tiempo puede durar este foso en la era de la IA.
Cuando los modelos de IA se ejecutan en diferentes arquitecturas de chips, deben adaptarse al código informático subyacente, la pila de software y las características del hardware. Para lograr un rendimiento práctico, los ingenieros a menudo también optimizan las operaciones matriciales, el acceso a la memoria y las comunicaciones multichip.
Una empresa dijo que, basándose en su experiencia pasada, utilizar métodos de ingeniería tradicionales para integrar nuevas plataformas de chips suele llevar a docenas de ingenieros varios meses (en realidad, de 6 a 12 meses), pero con la participación de la IA, este proceso se puede acortar a solo 3 días.
CUDA de Nvidia, que reúne una gran cantidad de herramientas de desarrollo, bibliotecas informáticas y software optimizado para GPU, ha sido durante mucho tiempo una base importante para el desarrollo de la IA, porque adaptar el código originalmente optimizado para hardware específico a otros chips requiere la inversión de una gran cantidad de recursos de ingeniería.
Después de que la IA participe en el trasplante del código subyacente, puede ayudar a los ingenieros a escribir y ajustar los núcleos de GPU más rápido, y el costo y el tiempo para que las empresas accedan a diferentes plataformas de chips tendrán la oportunidad de disminuir. En esta etapa, los chips realmente adaptados por la Compañía A incluyen, entre otros, NVIDIA, AMD, Google TPU y Amazon Trainium.
AMD y Anthropic han anunciado previamente que implementarán hasta 2 GW de potencia informática de GPU basada en la serie AMD MI450. Está previsto que la primera implementación de 1GW comience en la primera mitad de 2027. Ambas partes también utilizarán Claude para optimizar las cargas de trabajo de GPU AMD y acelerar el desarrollo de software ROCm.
Comentarios