Resumen:
A medida que la industria tecnológica global continúa aumentando la construcción de infraestructura de inteligencia artificial, está surgiendo gradualmente un nuevo cuello de botella. El problema ya no es que no se puedan comprar chips avanzados, sino que incluso si se consigue una gran cantidad de GPU de alto rendimiento, los centros de datos pueden no tener suficiente potencia para ponerlas en funcionamiento.
Según los informes, AWS, la unidad de computación en la nube de Amazon, está comprando los últimos sistemas de servidor de inteligencia artificial de Nvidia a un ritmo sin precedentes. Según la planificación interna, se esperaba que AWS recibiera racks de servidores NVIDIA GB300 por un valor aproximado de 5 mil millones de dólares, y planea continuar comprando equipos relacionados a una escala mensual de aproximadamente 3 mil millones de dólares en el futuro. Sin embargo, algunos equipos no se ponen en uso inmediatamente después de la entrega, sino que se almacenan temporalmente en almacenes o instalaciones de transferencia.
La razón de este fenómeno no es una demanda insuficiente, sino que, aunque algunos centros de datos ya cuentan con espacio de instalación, carecen de capacidad de suministro de energía suficiente para impulsar estos sistemas de IA de alta potencia. La industria se refiere a este tipo de equipos que se han comprado pero temporalmente no pueden funcionar como "GPU oscura". Este concepto puede referirse a hardware que está inactivo debido a limitaciones de energía o infraestructura, o puede usarse para describir recursos informáticos de IA implementados pero infrautilizados.
En los últimos años, el principal desafío al que se enfrenta la industria de la inteligencia artificial ha sido la escasez de suministro de chips avanzados. Las principales empresas de tecnología compiten por la cuota de GPU de Nvidia y, a menudo, los chips son escasos. Pero a medida que las empresas aseguran de antemano los recursos de la cadena de suministro, nuevas limitaciones comienzan a trasladarse a las redes eléctricas y a la infraestructura energética. Para los grandes operadores de centros de datos, el acceso a suministros de energía estables y adecuados se está volviendo tan importante como el acceso a chips.
Para asegurarse de no quedarse atrás en la futura competencia de chips, Amazon ha ajustado su modelo de adquisición. Según procedimientos anteriores, las empresas suelen recibir y pagar formalmente los racks de servidores una vez que llegan al centro de datos listos para funcionar. Bajo el nuevo mecanismo de "recepción anticipada de racks", Amazon completará el proceso de recepción y pago antes, incluso si el equipo aún no se ha instalado en la ubicación operativa final.
Este enfoque ayuda a asegurar los escasos recursos de hardware por adelantado, pero también significa que las empresas necesitan invertir mucho dinero por adelantado, y estos dispositivos no pueden generar ingresos antes de que estén oficialmente en línea y proporcionen servicios de computación en la nube a los clientes. Como resultado, la tensión entre enormes gastos de capital y retornos retrasados se está intensificando.
Amazon planea invertir aproximadamente 220 mil millones de dólares en gastos de capital en inteligencia artificial e infraestructura de computación en la nube este año, superando la escala de muchos pares tecnológicos. Al mismo tiempo, el flujo de caja libre de la empresa ha estado bajo una presión significativa y se ha vuelto negativo por primera vez en los últimos años. Para AWS, ocupar recursos de hardware clave por adelantado se considera una opción estratégica, incluso si algunos equipos no pueden funcionar temporalmente.
Los analistas señalaron que el enfoque de desarrollo actual de la industria de la IA está cambiando. Hace dos años, la industria se centró en quién podría conseguir más GPU NVIDIA. Ahora, cada vez más empresas están descubriendo que el recurso realmente escaso puede que no sean los chips en sí, sino la energía y las redes eléctricas necesarias para respaldar el funcionamiento de estos chips.
A medida que la escala de los modelos de IA continúa expandiéndose y la demanda de potencia informática continúa creciendo, el suministro de energía, la capacidad de transmisión y los ciclos de construcción de los centros de datos se están convirtiendo gradualmente en factores clave que afectan el desarrollo de la industria. La gran cantidad de GPU que están temporalmente inactivas también refleja la realidad desde el exterior: la competencia de inteligencia artificial no es solo una batalla por los chips, sino también una batalla por la energía y la infraestructura.
Comentarios