El 12 de noviembre, hora de Beijing, el Financial Times informó que Amazon se está preparando para lanzar su último chip de inteligencia artificial, ya que el gigante tecnológico espera obtener retornos de sus miles de millones de dólares en inversiones en semiconductores y reducir su dependencia del líder del mercado Nvidia. Actualmente, Amazon planea gastar la mayor parte de su gasto total de alrededor de 75 mil millones de dólares en 2024 en infraestructura tecnológica.
Se lanzó el proyecto de chip de IA de Amazon
Los ejecutivos de la división de computación en la nube de Amazon están gastando mucho para comprar y personalizar chips con la esperanza de mejorar la eficiencia de sus docenas de centros de datos y, en última instancia, reducir los costos para ellos y los clientes de Amazon Web Services. El proyecto está liderado por la startup de chips Annapurna Labs, que fue adquirida por Amazon en 2015 por 350 millones de dólares. Se espera que los últimos resultados de Annapurna se muestren cuando el "Trainium 2" de Amazon salga a la venta el próximo mes.
Trainium2 es parte de la familia de chips de IA de Amazon (entrenamiento de los modelos más grandes). Trainium2 ya está siendo probado por Anthropic, Deutsche Telekom y otras empresas. Amazon y Annapurna pretenden competir con Nvidia Dave Brown, vicepresidente de servicios informáticos y de red de Amazon, dijo que espera convertirse en el mejor lugar para ejecutar Nvidia. Pero mientras tanto, sería beneficioso desarrollar chips alternativos a Nvidia.
Amazon invierte fuertemente en apoyar la construcción de infraestructura de IA
Gadi Hutt, director senior de desarrollo empresarial, sosteniendo un chip Tranium
"Cuando se trata de aprendizaje automático e inteligencia artificial, la computación en la nube tiende a ser mucho más cara", afirmó Brown. "Cuando ahorras el 40% de 1.000 dólares, en realidad no afecta tu elección. Pero cuando ahorras el 40% de decenas de millones de dólares, sí sí lo hace".
Actualmente, Amazon espera que los gastos de capital en 2024 sean de aproximadamente 75 mil millones de dólares, la mayor parte de los cuales se gastarán en infraestructura tecnológica. En la última conferencia telefónica sobre resultados de la compañía, el director ejecutivo Andy Jassy dijo que esperaba que la compañía invirtiera más dinero en 2025. Los mayores proveedores de nube, incluidos Microsoft y Google, están invirtiendo fuertemente en IA, y el impulso muestra pocos signos de disminuir. Amazon, Microsoft y Meta son grandes clientes de Nvidia, pero también están diseñando sus propios chips para centros de datos para participar en la ola de IA. "Todos, desde OpenAI hasta Apple, buscan construir sus propios chips", señaló Newman de FuturumGroup, mientras buscan "menores costos de producción, mayores márgenes, mayor usabilidad y más control".
La infraestructura de inteligencia artificial de Amazon requiere construir todo desde cero, desde el silicio hasta los racks de servidores en los que están instalados, todo respaldado por la arquitectura y el software patentados de Amazon. "Es difícil hacer esto a la escala que lo hacemos. No muchas empresas pueden hacerlo", dijo Sinno, director de ingeniería de Annapurna.
El modelo del chip de IA de Amazon
Después de comenzar a construir un chip de seguridad llamado Nitro para Amazon, Annapurna ha desarrollado varias generaciones de procesadores centrales Graviton basados en Arm que ofrecen alternativas de menor consumo de energía a los servidores tradicionales ofrecidos por Intel o Amazon. El analista de TechInsights, GDan Hutcheson, dijo: "La mayor ventaja para Amazon es que sus chips consumen menos energía y el centro de datos puede ser más eficiente energéticamente, reduciendo así los costos". Dijo que si se compara la unidad de procesamiento de gráficos de Nvidia con una poderosa herramienta de uso general (en el caso de los automóviles, como una camioneta o una camioneta), entonces Amazon puede optimizar sus chips para tareas y servicios específicos, al igual que un automóvil compacto o un hatchback.
En cuanto al rendimiento bruto de los chips de Amazon frente a los de Nvidia, Amazon evita comparaciones directas y no somete sus chips a pruebas de rendimiento independientes.
Patrick Moorhead, consultor de chips de Chip Consulting, dijo que "la gente aprecia toda la innovación que aporta Nvidia, pero nadie quiere que Nvidia ocupe el 90% de la cuota de mercado", añadió. "Esto no durará mucho".