La mini supercomputadora de inteligencia artificial de NVIDIA, DGX Spark, finalmente se lanzó oficialmente no hace mucho, con un precio inicial de 3.999 dólares estadounidenses (aproximadamente 28.396 yuanes).Sin embargo, John Carmack, cofundador de id Software, declaró recientemente en las redes sociales que el consumo de energía y el rendimiento reales de DGX Spark son muy inferiores al valor promocional oficial.
Él y algunos investigadores observaron que NVIDIA DGX Spark parecía no cumplir con los objetivos de rendimiento establecidos.El DGX Spark tiene un consumo de energía de 240 W, pero Carmack descubrió que el consumo de energía del dispositivo solo alcanzó un máximo de alrededor de 100 W, menos de la mitad de la clasificación.
El sistema solo logró alrededor de 60 TFLOPS de rendimiento bajo la carga de trabajo BF16 y alrededor de 480 TFLOPS bajo la carga de trabajo FP4, muy por debajo del resultado esperado.
No solo eso, sino que agregó que incluso a niveles de 100 W, el dispositivo puede calentarse mucho y al menos un usuario informó reinicios automáticos durante ejecuciones prolongadas.
En respuesta a Carmack, Hannun, el desarrollador principal del marco MLX de Apple, confirmó que había obtenido resultados similares en sus propios puntos de referencia.
Hannun descubrió que cuando se usaba PyTorch y MLX, el rendimiento sostenido de DGX Spark en BF16 era solo de aproximadamente 60 TFLOPS, que era muy inferior al 1 PFLOPS de rendimiento de FP4 anunciado por NVDIA.
DGX Spark se posiciona como un sistema de "mini estación de trabajo" basado en el superchip GB10, que combina la CPU ARM de MediaTek y la GPU Blackwell de NVIDIA.