La plataforma de súper chip GH200 GraceHopper de nueva generación lanzada oficialmente por NVIDIA utiliza memoria de gran ancho de banda HBM3e por primera vez en el mundo. Integra CPU y GPU en una placa base por primera vez, lo que puede cumplir con los requisitos de carga de IA generativa más complejos del mundo. Hoy ha aparecido en una tienda alemana el primer PC equipado con el GH200 GraceHopper, con un tamaño total de unas 19 pulgadas.

En términos de posicionamiento, obviamente no es adecuado para juegos y estaciones de trabajo tradicionales. Un posicionamiento más preciso debería ser una estación de trabajo de IA que ejecute principalmente grandes modelos de lenguaje localmente.

Este host está equipado con una memoria LPDDR5X de 480 GB. Contando los 96GB de memoria HBM3 del GH200 (o incluso los 144GBHBMe), llega a los 576GB-624GB.

En cuanto a precio, la versión de memoria HBM3 de 96 GB tiene un precio de 47.500 euros (aproximadamente 370.000 yuanes) y ya está disponible para su compra. Se espera que la versión HBMe de 144 GB se lance en el segundo trimestre de 2024 y tiene un precio de 59.500 euros (aproximadamente 460.000 yuanes).

La configuración específica de esta estación de trabajo de IA es que el procesador NVIDIAGH200 GraceHopper tiene 72 núcleos ARM (también hay una versión de 144 núcleos) y está equipado con un acelerador NVIDIAH100 dedicado. Por lo tanto, está equipado con fuentes de alimentación duales de 2000 W y almacenamiento de gran capacidad, y admite varias opciones de expansión de conexión (incluidas NVIDIA Bluefield/Connect-X).

El sistema de refrigeración de la PC utiliza ventiladores Noctua, complementos, tarjetas de red Nvidia Bluefield-3 y ConnectX-7 opcionales, SSD de 8 TB, HDD de 30 TB, mouse y teclado, e incluso un RTX 4060.

En términos de rendimiento, la empresa alemana afirma que esta estación de trabajo de IA puede proporcionar un rendimiento informático de 67teraFLOPSFP64, 989teraFLOPSTF32, 1979teraFLOPSFP16, 3958teraFLOPSFP8 y 3958TOPSINT8.

En 23 pruebas de software como EmeraldRapids y Bergamo, la conclusión es que el rendimiento del GH200GraceCPU es comparable al del procesador Intel Xeon Platinum 8592+EmeraldRapids.