En la reciente conferencia GTC, NVIDIA lanzó una versión mejorada de la estación de trabajo de supercomputación de IA DGX Station GB300, y Jen-Hsun Huang entregó el primer producto al maestro de IA Andrej Karpathy. Andrej Karpathy ha tuiteado para agradecer a NVIDIA. Su estudio recibió este producto el día 6 de este mes.Es Dell Pro Max con GB300 producido por Dell, que es la versión del fabricante de DGX Station GB300.

DGX Station GB300 puede considerarse como la versión de estación de trabajo de la supercomputadora AI lanzada por NVIDIA (la versión GB200 se lanzó el año pasado). El DGX Spark vendido anteriormente es una versión personal de la supercomputadora AI, pero las especificaciones y el rendimiento del primero son mucho más altos que los del segundo, la configuración es muy lujosa y el precio será mucho más alto.
DGX Station GB300 utiliza el chip GB300. El procesador es Grace de 72 núcleos. Tiene una memoria de vídeo HBM3e de 252 GB y un ancho de banda de 8 TB/s. La memoria es LPDDR5X de 496 GB y el ancho de banda es de 396 GB/s. Sólo la memoria es de 748 GB. En el contexto de subida de precios actual, el valor de estas memorias alcanza para más de una decena de PC de gama alta.
El rendimiento FP4 de DGX Station GB300 puede alcanzar 20 PFLOPS y puede admitir un modelo de IA con 1 billón de parámetros.En el pasado, los modelos grandes de este nivel requerían un servidor dedicado o varios dispositivos para funcionar juntos, pero ahora un dispositivo es suficiente.
Cada vez que NVIDIA lanza un nuevo producto de IA, suele entregar el primer dispositivo a grandes nombres del sector. Musk y el director ejecutivo de OpenAI, Altman, han recibido obsequios de NVIDIA antes, y esta vez Andrej Karpathy también es un gran dios en el campo de la IA y es uno de los fundadores de OpenAI.
