La Fundación Raspberry Pi ha lanzado una nueva placa de expansión de IA, AI HAT+ 2, que brinda la capacidad de ejecutar modelos de IA generativos localmente en Raspberry Pi 5, enfocándose en completar tareas como texto y razonamiento multimodal en dispositivos de borde. Esta placa de expansión de $130 está completamente actualizada sobre la base de la generación anterior. Tiene 8 GB de memoria incorporada y está equipado con el chip Hailo 10H, que se dice que proporciona 40 TOPS de rendimiento informático de IA.
Al conectarse a la Raspberry Pi 5, el AI HAT+ 2 "descarga" la mayor parte de la carga de inferencia relacionada con la IA de la CPU Arm de la placa base y la placa de expansión la completa de forma independiente, lo que permite que el host se utilice más para otras tareas informáticas. A diferencia del AI HAT+ anterior que se centraba más en el procesamiento de imágenes, la nueva generación de productos puede ejecutar directamente modelos de IA generativos más pequeños localmente, como Llama 3.2, DeepSeek-R1-Distill y múltiples modelos de la serie Qwen debido a la adición de memoria integrada, y admite el entrenamiento y el ajuste de modelos en el lado del dispositivo.
Los casos de demostración mostrados por Raspberry Pi incluyen: el uso del modelo de controlador AI HAT+ 2 para generar descripciones de texto de las imágenes de la cámara y responder preguntas como si hay personas en las imágenes, lo que refleja su potencial de aplicación en la comprensión de la escena. Otra demostración muestra el uso del modelo Qwen2 para lograr la traducción de textos del francés al inglés, destacando sus capacidades en el procesamiento local en varios idiomas.
Sin embargo, a juzgar por las pruebas de terceros, el posicionamiento de esta placa de expansión en términos de rendimiento y rentabilidad no está exento de controversia. Los resultados reales de las mediciones del blogger de tecnología Jeff Geerling muestran que en una variedad de modelos compatibles, el rendimiento general de una Raspberry Pi 5 independiente equipada con 8 GB de memoria suele ser mejor que el de una combinación conectada a AI HAT+ 2. Él atribuye esta diferencia a las limitaciones de consumo de energía: el cuerpo de Pi 5 puede funcionar a una potencia máxima de aproximadamente 10 vatios, mientras que el AI HAT+ 2 está limitado a un rango de consumo de energía de aproximadamente 3 vatios.
En términos de selección real, Geerling señaló que los 8 GB de memoria adicionales proporcionados por AI HAT+ 2 no son suficientes para superar la experiencia general de comprar directamente la versión de gama alta de Pi 5 con 16 GB de memoria. Este último puede tener más ventajas en cuanto a flexibilidad y velocidad de ejecución del modelo, por lo que AI HAT+ 2 es más adecuado como solución dedicada para escenarios específicos en lugar de una ruta de actualización universal para todos los usuarios.