Resumen:
El último chip A20 Pro de Apple está demostrando su verdadero potencial en el campo de la inteligencia artificial en dispositivos. Una prueba real más reciente muestra que el iPhone 18 Pro equipado con A20 Pro puede ejecutar localmente un modelo de IA grande con 27 mil millones de parámetros, y su velocidad de generación es el doble que la del iPhone 17 Pro de la generación anterior, lo que desencadena una nueva ronda de atención del mundo exterior sobre las capacidades locales de IA de los teléfonos móviles.
Esta prueba fue realizada por el desarrollador Adrien Grondin. En la demostración, el iPhone 18 Pro ejecutó un modelo de 27 mil millones de parámetros llamado Bonsai 27B. Sin depender de servidores en la nube, el dispositivo completa las tareas de inferencia directamente localmente y muestra una velocidad de respuesta que supera con creces la de la generación anterior de productos.
El factor principal que impulsa este salto de rendimiento proviene de la nueva arquitectura de hardware de inteligencia artificial del A20 Pro. A diferencia de los chips Apple anteriores que solo estaban equipados con un único conjunto de motores de red neuronal de 16 núcleos, el A20 Pro adopta por primera vez un diseño de motor de red neuronal dual de 16 núcleos, con un total de 32 núcleos de procesamiento de red neuronal. Esta es también la primera vez en la historia de los chips de desarrollo propio de Apple que adoptan una arquitectura de motor de red neuronal dual.
Además de la actualización de la unidad de red neuronal, el sistema de memoria también es una parte importante de la mejora del rendimiento. Tanto el iPhone 18 Pro como el iPhone 18 Pro Max están equipados con una memoria LPDDR5X de 12 GB y 96 bits de ancho, que tiene una mayor velocidad de transmisión y una mayor capacidad de rendimiento de datos que los productos de la generación anterior.
Los resultados de las pruebas muestran que cuando se ejecutan modelos de lenguaje a gran escala, el nuevo motor de red neuronal y el sistema de memoria más rápido forman una sinergia, lo que le da al A20 Pro una clara ventaja en la velocidad de generación de tokens. Para las aplicaciones de IA que se basan en el razonamiento local, esto significa tiempos de respuesta más rápidos y una experiencia interactiva más fluida.
Sin embargo, este avance no significa que los teléfonos inteligentes ya puedan ejecutar todos los modelos grandes sin limitaciones.
Los investigadores señalaron que, aunque el A20 Pro llevó con éxito al iPhone a la era del modelo de 27 mil millones de parámetros, la IA local todavía está limitada por la capacidad de la memoria. Por ejemplo, incluso después de utilizar la compresión de cuantificación de 2 bits, el modelo Bonsai 2 recién lanzado sigue siendo demasiado grande y no se puede cargar completamente en el espacio de memoria local del iPhone 18 Pro, lo que provoca una degradación del rendimiento.
Esto también refleja un problema práctico en el desarrollo actual de la IA de los teléfonos móviles: la potencia informática está creciendo rápidamente, pero la contradicción entre la capacidad de memoria y el tamaño del modelo aún existe. Incluso si el rendimiento del chip continúa mejorando, si el modelo en sí no se puede cargar completamente en la memoria del dispositivo, seguirá afectando la eficiencia operativa real.
Por el contrario, el Bonsai de primera generación es un modelo de cuantificación de 1 bit y tiene requisitos de recursos significativamente menores. Los desarrolladores dicen que este tipo de modelo puede incluso ejecutarse en dispositivos con sólo 4 GB de memoria y puede lograr un mayor rendimiento en plataformas de memoria de 8 GB o 12 GB.
Desde la perspectiva de las especificaciones de hardware, el A20 Pro no solo está equipado con motores de red neuronal duales, sino que también tiene un ancho de banda de memoria unificado de hasta 115,2 GB/s. Algunas pruebas muestran que en cargas de trabajo optimizadas para redes neuronales, la capacidad de rendimiento máximo del motor de red neuronal incluso supera la de la GPU de 7 núcleos dentro del chip.
Este resultado refleja que Apple está acelerando su estrategia de "IA del lado del dispositivo". A diferencia de depender de los centros de datos en la nube, la IA local puede brindar tiempos de respuesta más rápidos, mejor protección de la privacidad y disponibilidad fuera de línea, que son las direcciones de desarrollo en las que Apple ha enfatizado en los últimos años.
A medida que la inteligencia artificial generativa se convierte gradualmente en una característica importante de los teléfonos inteligentes, la competencia entre los fabricantes de teléfonos móviles también está pasando del rendimiento de las imágenes y los puntos de referencia del procesador a las capacidades locales de razonamiento de la IA. El rendimiento del A20 Pro significa que los teléfonos inteligentes han comenzado a tener la capacidad de ejecutar miles de millones o incluso decenas de miles de millones de modelos de parámetros.
Sin embargo, a medida que el tamaño de los modelos continúa creciendo, la capacidad de la memoria aún puede convertirse en un factor limitante importante para el desarrollo futuro. Los analistas creen que si Apple mejora aún más la configuración de la memoria de los iPhone en el futuro, se espera que la capacidad del dispositivo para ejecutar modelos de IA a mayor escala siga mejorando, y el papel de los teléfonos móviles como plataformas informáticas de IA independientes será cada vez más importante.
Comentarios