La empresa británica de diseño de chips Arm anunció recientemente el lanzamiento de una nueva CPU Arm AGI, que ingresa al mercado de centros de datos por primera vez como su propio chip producido en masa, dirigido a cargas de trabajo de inteligencia artificial "agentes" emergentes. Esto marca un cambio importante en el modelo de negocio de esta empresa que durante mucho tiempo se ha centrado en la concesión de licencias de propiedad intelectual. Durante más de tres décadas, Arm solo ha proporcionado arquitectura y diseño central, fabricados por socios. Ahora participa directamente en la competencia de primera línea de procesadores de centros de datos de alto rendimiento con su serie de CPU AGI.
Según los informes, la CPU Arm AGI está construida en base a tecnología de proceso de 3 nm. Un único chip integra hasta 136 núcleos Neoverse V3. El consumo de energía del diseño térmico de toda la tarjeta es de 300 W. Cada núcleo puede obtener un ancho de banda de memoria de 6 GB/s y controlar el retraso de acceso dentro de 100 ns. Puede admitir un solo chip con una capacidad de memoria máxima de 6 TB y es compatible con las especificaciones DDR5-8800. En términos de E/S, el procesador proporciona 96 carriles PCIe Gen 6 e integra interconexiones CXL 3.0 y AMBA CHI (Coherent Hub Interface) para soportar requisitos informáticos colaborativos de alto ancho de banda y baja latencia. Cada núcleo puede manejar de forma independiente un hilo de programa. Arm dijo que este diseño ayuda a evitar que los subprocesos se llenen o estén inactivos durante mucho tiempo en escenarios sostenidos de alta carga y mejora la utilización general de los recursos.
En términos de densidad de potencia informática, que es de gran preocupación para los centros de datos, las cifras publicadas por Arm muestran que bajo un sistema de refrigeración por aire, un solo bastidor puede desplegar hasta 8.160 núcleos, mientras que el uso de soluciones de refrigeración líquida puede aumentar este número a más de 45.000. Arm predice que para satisfacer las necesidades futuras de desarrollo de la IA, la potencia informática de CPU requerida por gigavatio de potencia en los centros de datos será más de cuatro veces mayor que el nivel actual. Cree que la arquitectura x86 tradicional tiene demasiada sobrecarga y complejidad en esta nueva carga de trabajo, lo que no conduce a mayores mejoras en el rendimiento y la eficiencia energética. Los datos comparativos oficiales muestran que la solución Arm puede lograr más del doble de rendimiento que x86 en términos de rendimiento por rack y tiene el potencial de generar hasta $10 mil millones en ahorros de costos por gigavatio de potencia informática del centro de datos de IA.
A nivel ecológico y de implementación, Meta es el socio principal y el principal implementador de esta CPU AGI. Combinará el procesador con su acelerador MTIA de desarrollo propio para la programación y orquestación de IA a gran escala en su plataforma. Además de Meta, muchas empresas, incluidas OpenAI, Cloudflare, Cerebras, Rebellions, SAP y SK Telecom, han confirmado su adopción de esta plataforma. En cuanto a hardware, fabricantes como ASRock Rack, Lenovo, Quanta y Supermicro están lanzando productos de servidores basados en esta plataforma. El primer lote de sistemas se ha proporcionado a algunos clientes y se espera que esté disponible a mayor escala en la segunda mitad de este año.
Arm dijo que hay más de 50 socios ecológicos detrás de este producto, incluidos servicios en la nube, fabricación de chips y fabricantes de almacenamiento como AWS, Google, Microsoft, NVIDIA, Samsung, TSMC y Micron, formando una cadena completa que cubre diseño, fabricación, sistemas de hardware e implementación en la nube. Para Arm, el lanzamiento de AGI CPU no es solo un diseño técnico, sino que también significa que su función se extiende desde "proveedor de arquitectura" hasta "proveedor de soluciones completas", compitiendo por una voz más alta en la nueva ronda de competencia de infraestructura de centros de datos de IA.