Resumen:
Framework abrió oficialmente los pedidos anticipados para el nuevo Framework Desktop equipado con el procesador AMD Ryzen AI Max+ PRO 495 el 30 de septiembre. Aunque esta mini computadora de escritorio para computación de IA local tiene un precio extremadamente alto, con la versión DIY a partir de US$6799, el primer lote de productos se agotó rápidamente pocas horas después de su lanzamiento, lo que demuestra que existe una fuerte demanda de memoria unificada de gran capacidad para ejecutar localmente grandes modelos de IA.
La configuración insignia lanzada por Framework utiliza AMD Ryzen AI Max+ PRO 495, un procesador de nueva generación cuyo nombre en código es "Gorgon Halo", y está equipado con una memoria unificada LPDDR5X-8533 de 192 GB. En comparación con la configuración máxima de 128 GB del Framework Desktop anterior, la nueva versión agrega 64 GB de memoria a la vez, lo que le permite cargar directamente modelos de IA locales a mayor escala en una sola máquina sin la necesidad de colocar con frecuencia algunos pesos de modelo en SSD o formar un clúster a través de varias computadoras.
Ryzen AI Max+ PRO 495 utiliza una CPU Zen 5 de 16 núcleos con una frecuencia de aceleración máxima de 5,2 GHz, equipada con 64 MB de caché de nivel 3, un TDP predeterminado de 55 W, un cTDP de hasta 120 W y una GPU Radeon 8065S integrada. La CPU y la GPU comparten memoria unificada, que es una de las razones importantes por las que este producto es especialmente adecuado para la inferencia de IA local. Framework dijo que 192 GB de memoria permiten a los usuarios ejecutar modelos grandes que antes eran difíciles de cargar completamente en la memoria de las PC de consumo comunes.
En comparación con el Ryzen AI Max+ 395 anterior, el PRO 495 no solo aumenta la capacidad de memoria, sino que también tiene frecuencias de reloj de CPU y GPU más altas, y aumenta la velocidad de memoria unificada a 8533 MT/s. Framework dijo que estos cambios pueden mejorar aún más la velocidad de inferencia de la IA.
La versión de 192 GB proporcionada por Framework esta vez incluye la edición DIY y la versión de host completa del sistema preinstalado. La DIY Edition tiene un precio inicial de $6799 e incluye 192 GB de memoria unificada pero sin almacenamiento preinstalado. Para los usuarios que ya tienen un SSD o quieren elegir su propia solución de almacenamiento, esta configuración puede reducir algunos costos.
Si eliges la versión completa preinstalada, el precio alcanza los 7.449 dólares. Esta versión agrega un SSD NVMe PCIe 4.0 de 2 TB y viene preinstalado con el sistema operativo Fedora 44 KDE Plasma Edition. En otras palabras, con solo agregar un SSD de 2 TB y un sistema preinstalado, el precio de toda la máquina es $650 más que la versión DIY.
A modo de comparación, el Framework Desktop actual con Ryzen AI Max+ 395 y 128 GB de memoria tiene un precio de aproximadamente 3449 dólares estadounidenses. La nueva versión de 192 GB tiene un 50% más de memoria y un procesador mejorado, pero la versión DIY es casi el doble de cara que la versión original de 128 GB.
Un precio tan alto está directamente relacionado con la reciente tensión continua en el mercado de la memoria. Framework ha declarado muchas veces antes que el costo de la memoria LPDDR5X de alta capacidad está aumentando significativamente, especialmente el escaso suministro de partículas de memoria de alta densidad de 128 Gbit, lo que tiene un impacto muy obvio en el costo de los dispositivos de memoria unificada de gran capacidad. El precio de esta versión de 192 GB es, por tanto, mucho más elevado que el de la configuración normal anterior de Framework Desktop.
De hecho, Framework declaró antes de que el producto se abriera oficialmente para pedidos anticipados que debido al inventario limitado de memoria, inicialmente solo podría proporcionar un lote de sistemas Gorgon Halo de 192 GB. Después de que comenzaron los pedidos anticipados el 30 de septiembre, el primer lote de productos se agotó rápidamente. Más tarde, Framework dijo que la compañía había logrado asegurar un lote adicional de memoria, por lo que abrió un segundo lote limitado de pedidos anticipados.
Se espera que el segundo lote de productos se envíe a partir de noviembre. Sin embargo, Framework también recuerda a los consumidores que el precio y el tiempo de comercialización de los próximos lotes de productos dependerán del costo y el suministro de los proveedores de memoria. La compañía incluso dejó claro que el precio de Framework Desktop podría seguir subiendo en los próximos meses.
Para los usuarios locales de IA, la memoria unificada de 192 GB es el mayor atractivo de esta máquina. Las PC tradicionales suelen depender de la memoria de una tarjeta gráfica independiente para ejecutar grandes modelos de IA, mientras que la capacidad de memoria de las GPU de gama alta suele estar limitada por una sola tarjeta. Si el modelo no se puede colocar completamente en la memoria de video, se debe usar la memoria del sistema o incluso un SSD para el intercambio de datos, y el rendimiento puede verse afectado significativamente.
Framework Desktop adopta una arquitectura en la que la CPU, la GPU y la IA comparten una memoria unificada, que puede asignar directamente una gran cantidad de memoria a la GPU. La capacidad de 192 GB significa que los usuarios pueden ejecutar modelos locales muy grandes en una computadora pequeña de alrededor de 4,5 litros. Framework dijo que los 64 GB de memoria adicionales no solo pueden cargar un modelo único más grande, sino también guardar dos modelos más pequeños en la memoria al mismo tiempo, permitiendo que un modelo más rápido sea responsable de las interacciones principales y permitiendo que otro modelo más capaz pero más lento asuma problemas complejos.
Framework también enfatiza específicamente que esta configuración es atractiva para los usuarios que desean ejecutar AI completamente localmente. El modelo puede permanecer en el dispositivo local sin cargar los datos a la nube. Para escenarios que involucran privacidad, código fuente o datos comerciales confidenciales, la operación local puede reducir la dependencia de los servicios de inteligencia artificial en la nube.
Sin embargo, 192 GB de memoria unificada no significa que todos los modelos de 300 mil millones de niveles de parámetros puedan funcionar a alta velocidad. El tamaño del modelo, el método de cuantificación, la longitud del contexto y la huella de memoria real afectan el rendimiento final. La memoria de gran capacidad resuelve el problema de "¿se puede instalar el modelo?", y la velocidad de inferencia del modelo también depende de la potencia informática de la GPU, el ancho de banda de la memoria y la optimización del software.
El volumen total de Framework Desktop es de solo unos 4,5 litros, por lo que esta máquina está más cerca de una estación de trabajo de IA local muy pequeña que de una mini PC normal en el sentido tradicional. Además de la informática de IA, también puede realizar tareas como juegos, desarrollo y trabajo de escritorio Linux, y Framework continúa enfatizando su concepto de diseño modular.
Actualmente, Framework Desktop ya ofrece diferentes configuraciones de memoria, como 32 GB, 64 GB y 128 GB, y la versión de 192 GB se ha convertido en el modelo insignia de toda la línea de productos para usuarios locales de IA. A medida que AMD continúa mejorando su capacidad de memoria unificada y sus capacidades informáticas de IA, esta arquitectura de "CPU+GPU+memoria compartida de gran capacidad" también se está convirtiendo en una ruta importante para ejecutar grandes modelos de lenguaje localmente.
El primer lote de Framework Desktop de 192 GB se agotó rápidamente a pesar del precio inicial de 6799 dólares estadounidenses, lo que indica que algunos desarrolladores de IA y entusiastas de los modelos locales tienen una demanda muy fuerte de dispositivos de memoria unificada de gran capacidad. Sin embargo, el primer lote de productos está limitado por el suministro de memoria, por lo que agotado no representa directamente la escala general de demanda en todo el mercado. La verdadera clave para determinar si este producto puede popularizarse aún más sigue siendo los precios futuros de la memoria, la oferta y la demanda de hardware local para modelos de IA a mayor escala.
Comentarios