Resumen:
NVIDIA lanzó recientemente oficialmente la versión beta del Personal AI Router (PAIR) durante IFA 2026. Este es un software gratuito de código abierto. No es un enrutador de hardware de red en el sentido tradicional, sino un "enrutador virtual" para la inferencia de IA local. Puede descubrir automáticamente computadoras compatibles en la misma LAN, organizar la potencia informática inactiva de múltiples dispositivos y proporcionar recursos de inferencia más suficientes para agentes de IA y tareas de modelos locales grandes.
Nvidia dijo que PAIR puede adaptarse dinámicamente al estado del dispositivo. Cuando una nueva computadora se une a la red o un dispositivo existente sale, el sistema puede ajustarse automáticamente; el proceso de enrutamiento considerará de manera integral factores como la preparación del nodo, el estado del motor de inferencia, si el modelo ya existe y la utilización de la GPU, y luego seleccionará la máquina adecuada para manejar la solicitud. Todo el proceso no requiere la construcción de un clúster de servidores en el sentido tradicional, ni requiere cables dedicados, bastidores o configuraciones de clúster complejas.
En términos de seguridad, los dispositivos que se unen al grupo PAIR primero deben completar el emparejamiento mediante un código de emparejamiento de seis dígitos y luego se establece un canal de comunicación cifrado entre los dispositivos a través de TLS bidireccional (mTLS) para garantizar que la conexión entre los dispositivos participantes esté protegida. NVIDIA enfatizó que uno de los objetivos de diseño de PAIR es mantener el flujo de trabajo de IA local en la propia red del usuario, y no es necesario enviar palabras, archivos y contexto del agente de IA al servicio de inferencia en la nube.
Actualmente, la versión beta de PAIR es compatible con Windows, macOS y Linux. En términos de hardware, la compatibilidad incluye la serie NVIDIA GeForce RTX 20 y modelos más nuevos, GPU para estaciones de trabajo NVIDIA RTX PRO basadas en la arquitectura Turing y una arquitectura más nueva, NVIDIA DGX Spark y dispositivos Mac equipados con chips Apple M4 o más nuevos. Los requisitos del sistema proporcionados por NVIDIA también incluyen al menos 8 GB de memoria y se recomienda preparar 20 GB o más de espacio en disco; el software en sí no requiere una conexión a Internet para ejecutarse, pero aún así se requiere una conexión a Internet para descargar el modelo.
La demostración realizada por NVIDIA muestra que PAIR es particularmente adecuado para flujos de trabajo de múltiples agentes. Por ejemplo, los usuarios pueden pedirle a Hermes Agent que desarrolle un plan de "reinicio dominical" para ordenar el buzón desordenado y determinar qué correos electrónicos deben procesarse de inmediato, cuáles pueden procesarse más tarde y cuáles pueden omitirse directamente. El agente puede dividir las tareas entre varios subagentes y PAIR distribuye las solicitudes de inferencia independientes generadas por estos subagentes a diferentes computadoras en el hogar, en lugar de que todas las tareas compitan por la misma GPU. De esta manera, se pueden realizar múltiples tareas en paralelo y la computadora principal también puede transferir parte de los cálculos de la IA a otros dispositivos durante el juego, la creación u otro trabajo.
Una demostración de cinco agentes infantiles anunciada por NVIDIA también refleja el efecto de este enfoque. Usando Hermes Desktop y Ollama, un clúster PAIR que consta de tres dispositivos tardó 8 minutos y 48 segundos en completar la tarea, mientras que una sola computadora portátil RTX Spark tardó 18 minutos. NVIDIA cree que esto demuestra que utilizar la potencia informática inactiva de múltiples dispositivos en la red doméstica puede mejorar significativamente el rendimiento de la IA multitarea local.
Un criterio importante detrás de PAIR es que los usuarios domésticos a menudo ya poseen varias computadoras con ciertas capacidades informáticas, pero estos dispositivos están inactivos la mayor parte del tiempo. Los datos citados por Nvidia señalan que más de la mitad de los hogares en Estados Unidos poseen dos o más computadoras, por lo que una gran cantidad de GPU y otros recursos informáticos no se utilizan en su totalidad durante una parte considerable del día. Para las familias con computadoras para juegos, computadoras portátiles y otros dispositivos de alto rendimiento, PAIR intenta transformar estos dispositivos originalmente independientes en un conjunto de recursos informáticos que puedan servir conjuntamente a la IA local.
El equipo técnico de NVIDIA incluso estima que, en un caso extremo, puede haber aproximadamente 165 TFLOPS de potencia informática inactiva en un hogar. La persona a cargo relevante describió esta potencia informática local que no se ha utilizado por completo como "recursos simbólicos gratuitos inactivos en el hogar". Sin embargo, NVIDIA espera que los usuarios típicos que realmente son adecuados para PAIR no necesiten tener un tamaño de dispositivo tan exagerado. Una configuración más realista puede ser una MacBook o una computadora portátil con Windows, además de una PC para juegos.
Además de PAIR, NVIDIA también anunció esta vez que simplificará aún más la experiencia de implementación de los agentes de IA locales. Tres software de agentes de IA, incluidos Perplexity Portable Computer, Hermes Agent y OpenClaw, proporcionarán métodos de configuración local más simples para las GPU NVIDIA. En el pasado, los usuarios a menudo necesitaban seleccionar modelos, encontrar servidores de inferencia compatibles, ajustar los parámetros de cuantificación y completar varias configuraciones. La nueva solución espera comprimir este proceso en unos pocos clics.
Entre ellos, Perplexity Portable Computer anteriormente podía ejecutarse en GPU NVIDIA RTX equipadas con al menos 24 GB de memoria de video y DGX Spark en sistemas Linux, y la versión para Windows también está en progreso. Permite a los usuarios mantener una mayor parte de sus flujos de trabajo en las instalaciones y optar por utilizar modelos en la nube cuando se necesitan búsquedas adicionales o capacidades de inferencia más sólidas; el sistema obtendrá el consentimiento del usuario antes de entregar el contenido a la nube.
Hermes Agent, desarrollado por Nous Research, es un agente de IA de uso general. La configuración local de la versión de Windows admitirá la implementación del modelo con un solo clic. El software puede identificar automáticamente la GPU NVIDIA, seleccionar el modelo y la configuración adecuados según el hardware y ejecutarlo a través del llama.cpp optimizado de NVIDIA integrado. La compatibilidad con Linux se lanzará más adelante. Después de ejecutarse, Hermes puede llamar herramientas, mantener el contexto entre tareas, recordar información de diferentes sesiones y acumular habilidades reutilizables con el uso.
OpenClaw también obtiene una solución de implementación simplificada para Windows. Nvidia dijo que OpenClaw se ha convertido en un proyecto importante en el ecosistema abierto de agentes de IA y que la escala del proyecto en GitHub ha superado las 380.000 estrellas. La nueva aplicación de Windows reducirá el umbral para la configuración del modelo local, lo que facilitará a los usuarios con al menos 24 GB de memoria de video GPU NVIDIA RTX iniciar asistentes de IA locales.
Para mejorar aún más la velocidad de respuesta del agente de IA local, NVIDIA también anunció simultáneamente la optimización de la inferencia para llama.cpp y vLLM. Basado en una nueva optimización del kernel, una decodificación especulativa más avanzada y un procesamiento de precarga más rápido, el rendimiento de llama.cpp en GeForce RTX 5090 se puede aumentar hasta 1,9 veces; El rendimiento de vLLM se puede mejorar hasta 1,2 veces en RTX PRO 6000 Blackwell Workstation Edition y hasta 1,4 veces en un clúster compuesto por dos DGX Sparks. Estas optimizaciones ya están disponibles a través de los backends de inferencia correspondientes y también están disponibles en LM Studio y Ollama.
Nvidia también reveló esta vez que se espera que en octubre se lancen nuevas computadoras pequeñas con inteligencia artificial con Windows equipadas con la plataforma RTX Spark. A medida que estos hardware local orientado a la IA, software de inferencia y herramientas de agentes de IA maduran gradualmente, NVIDIA está promoviendo claramente una forma diferente de utilizar la IA en la nube tradicional: los usuarios no necesitan enviar todas las tareas a centros de datos remotos, sino que pueden usar directamente las GPU y otros dispositivos en casa para construir su propio entorno informático de IA local.
PAIR aún se encuentra en la etapa Beta y el proyecto se lanzó como código abierto. Los desarrolladores pueden ver el código fuente, enviar problemas y participar en mejoras. NVIDIA espera que a través de PAIR, la IA local pase gradualmente de "una única computadora de alto rendimiento que ejecuta un modelo" a "múltiples dispositivos domésticos que comparten la carga de trabajo de IA", y esto también puede convertirse en un nuevo modelo informático después de la mayor popularización de los agentes de IA locales.
Comentarios