NVIDIA ha lanzado su nueva GPU H200Hopper, que ahora cuenta con la memoria HBM3e más rápida del mundo de Micron. Además de la nueva plataforma de inteligencia artificial, NVIDIA también anunció una importante victoria en supercomputación con su superchip GraceHopper, que ahora impulsa la supercomputadora ExaflopJupiter.

La GPU H100 de NVIDIA es, con diferencia, el chip de inteligencia artificial más demandado de la industria, pero NVIDIA quiere ofrecer a los clientes un rendimiento aún mayor. HGXH200 es la última plataforma informática de alto rendimiento con inteligencia artificial, impulsada por H200TensorCoreGPU. Estas GPU cuentan con la última tecnología de optimización Hopper tanto en hardware como en software, al tiempo que ofrecen la solución de memoria más rápida del mundo hasta la fecha.

NVIDIAH200GPU está equipada con la solución de memoria de vídeo HBM3e de Micron, con una capacidad de hasta 141 GB y un ancho de banda de 4,8 TB/s. En comparación con NVIDIAA100, el ancho de banda se ha multiplicado por 2,4 y la capacidad se ha duplicado. En aplicaciones como Llama2 (LLM de 70 mil millones de parámetros), esta nueva solución de memoria casi duplica el rendimiento de inferencia de IA de NVIDIA en comparación con la GPU H100.

En términos de soluciones, NVIDIAH200GPU se utilizará ampliamente en servidores HGXH200 con configuraciones de GPU de 4 y 8 vías. La configuración de GPU H200 de 8 vías en el sistema HGX proporciona 32 PetaFLOP de rendimiento informático FP8 y 1,1 TB de capacidad de memoria.

Las GPU también serán compatibles con los sistemas HGXH100 existentes, lo que facilitará a los clientes la actualización de sus plataformas. Los socios de NVIDIA, como ASUS, ASRockRack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Inglas (Ingrasys), Lenovo (Lenovo), QCT, Wiwynn (Wiwynn), Supermicro (Supermicro) y Wistron (Wistron), estos fabricantes proporcionarán soluciones actualizadas cuando se lance la H200GPU en el segundo trimestre de 2024.

Además de anunciar la GPU H200, NVIDIA también anunció un proyecto de supercomputadora a gran escala impulsado por su superchip GraceHopper (GH200). Esta supercomputadora se llama "Júpiter" y está ubicada en el Forschungszentrum Jülich en Alemania. Forma parte de la Empresa Conjunta Europea de Computación de Alto Rendimiento (EuroHPC Joint Undermaking) y está contratada por Eviden y ParTec. Esta supercomputadora se utilizará en ciencia de materiales, investigación climática, descubrimiento de fármacos y otros campos. Esta es también la segunda supercomputadora lanzada por Nvidia en noviembre. El anterior fue Isambard-AI, que puede proporcionar hasta 21 Exaflops de rendimiento de inteligencia artificial.

En términos de configuración, la supercomputadora Júpiter se basa en el BullSequanaXH3000 de Eviden y adopta una arquitectura totalmente refrigerada por líquido. Tiene un total de 24.000 superchips Nvidia GH200 GraceHopper, que están interconectados a través del Quantum-2 Infiniband de la compañía. Teniendo en cuenta que cada CPU Grace contiene 288 núcleos Neoverse, estamos viendo que Júpiter tiene casi 7 millones de núcleos ARM solo en el lado de la CPU (6,912 millones para ser exactos).

Las métricas de rendimiento incluyen 90Exaflops para entrenamiento de IA y 1Exaflop para informática de alto rendimiento. Se espera que la supercomputadora se instale en 2024. En general, se trata de actualizaciones importantes para el futuro, ya que Nvidia continúa liderando el mundo de la inteligencia artificial con sus potentes tecnologías de hardware y software.