Como la primera empresa en enviar memoria HBM3E, Micron reveló que su memoria avanzada de gran ancho de banda (2024) se agotó y que la mayor parte de la producción de 2025 se asignó. La memoria HBM3E de Micron (o como también se le llama a Micron, HBM3Gen2) es una de las primeras memorias certificadas para los últimos aceleradores H200/GH200 de Nvidia, por lo que parece que el fabricante de DRAM se convertirá en un importante proveedor de la empresa en el centro de atención.
"Nuestro HBM 2024 se ha agotado y la gran mayoría de nuestro suministro de 2025 ha sido asignado", dijo el director ejecutivo de Micron, Sanjay Mehrotra, en comentarios preparados para la conferencia telefónica sobre resultados de esta semana. "Aún esperamos que en algún momento de 2025, la cuota de bits de HBM sea comparable a nuestra cuota general de bits de DRAM".
El primer producto HBM3E de Micron es una pila de 8 Hi y 24 GB con una interfaz de 1024 bits, una velocidad de transferencia de datos de 9,2 GT/s y un ancho de banda total de 1,2 TB/s. El acelerador H200 de Nvidia para inteligencia artificial y computación de alto rendimiento utilizará seis de estos cubos, proporcionando un total de 141 GB de memoria accesible de gran ancho de banda.
"Estamos en camino de generar cientos de millones de dólares en ingresos de HBM en el año fiscal 2024, y se espera que los ingresos de HBM aumenten nuestra DRAM y el margen bruto general a partir del tercer trimestre fiscal", dijo Mehrotra.
La compañía también comenzó a probar su pila de 36 GB de 12 Hi, que ofrece un 50% más de capacidad. Estos KGSD se producirán en masa en 2025 y se utilizarán en productos de inteligencia artificial de próxima generación. Mientras tanto, no parece que las Nvidia B100 y B200 vayan a utilizar la pila HBM3E de 36 GB, al menos inicialmente.
La demanda de servidores de IA alcanzó récords el año pasado y parece que seguirá siendo alta este año también. Algunos analistas creen que los procesadores A100 y H100 de Nvidia (y sus diversos derivados) representarán hasta el 80% de todo el mercado de procesadores de inteligencia artificial en 2023. Si bien Nvidia enfrentará una competencia más dura en inferencia este año por parte de AMD, AWS, D-Matrix, Intel, Tenstorrent y otros, parece que el H200 de Nvidia seguirá siendo el procesador elegido para el entrenamiento de IA, especialmente para grandes empresas como Meta y Microsoft, que ya ejecutan flotas de cientos de miles de aceleradores Nvidia. Teniendo esto en cuenta, convertirse en el principal proveedor de HBM3E para el H200 de Nvidia es un gran negocio para Micron, ya que le permite capturar finalmente una parte considerable del mercado de HBM.
Al mismo tiempo, dado que cada dispositivo DRAM en la pila HBM tiene una interfaz más amplia, su tamaño físico es mayor que un IC DDR4 o DDR5 normal. Por lo tanto, la producción en masa de la memoria HBM3E afectará el suministro de bits de la DRAM básica de Micron.
"El crecimiento de la producción de HBM limitará el crecimiento de la oferta de productos que no sean de HBM", afirmó Mehrotra. "Si consideramos la industria en su conjunto, HBM3E consume aproximadamente tres veces el suministro de obleas que DDR5 para producir una cantidad determinada de bits en el mismo nodo tecnológico".