Perplexity Computer marcará el comienzo de una actualización importante este verano: soporte para la asignación automática de tareas entre modelos de IA locales y en la nube para lograr capacidades de razonamiento híbrido que equilibren mejor la protección de la privacidad y el rendimiento informático.
Perplexity dice que Perplexity Computer es el sistema de agentes de la empresa que "hace un trabajo real para los usuarios" al automatizar la orquestación de diferentes modelos y herramientas para manejar tareas complejas. Las nuevas características que próximamente permitirán al sistema cambiar de manera inteligente entre un modelo compacto que se ejecuta localmente en el dispositivo y un modelo más potente y de vanguardia en la nube, según el tipo de tarea y la sensibilidad de los datos. Según la introducción oficial, este diseño tiene como objetivo permanecer lo más local posible al procesar datos confidenciales y, al mismo tiempo, puede llamar sin problemas al modelo de nube cuando se necesita una gran potencia informática, logrando así un equilibrio entre seguridad y eficiencia.
Según los informes, bajo el nuevo modo de "inferencia agente híbrida", el trabajo que involucre contenido sensible como registros financieros, información de salud y archivos personales será priorizado por un pequeño modelo local que se ejecuta en el dispositivo del usuario para determinar qué datos deben conservarse estrictamente para el procesamiento local. Al mismo tiempo, las tareas que no requieren una gran privacidad pero sí un razonamiento más sólido y capacidades de contexto amplio se asignarán automáticamente a modelos de vanguardia en la nube para su ejecución. Perplexity enfatiza que la mayoría de las tareas del mundo real a menudo contienen partes sensibles y no sensibles, por lo que el sistema divide automáticamente la tarea en varias subtareas y coordina la programación entre local y nube, en lugar de requerir que los usuarios elijan entre el modo "local" o "nube" de antemano.
Perplexity demostró aún más el concepto de esta arquitectura híbrida en un video publicado en la plataforma social. Según fuentes oficiales, la función de orquestación de IA híbrida está programada para ser lanzada oficialmente para los usuarios de Perplexity Computer en julio.