Google reveló recientemente cómo utilizará múltiples medios técnicos para establecer barreras de seguridad para los usuarios antes de implementar la función "Agentic" en el navegador Chrome para abordar los riesgos potenciales de datos y financieros detrás de nuevas capacidades como la compra automática de boletos y las compras en línea. Después de obtener una vista previa de las funciones relacionadas en septiembre, Google dijo que estas capacidades de navegación basadas en proxy basadas en el modelo Gemini se abrirán gradualmente a los usuarios en los próximos meses.
Google dijo que ha introducido una variedad de "modelos de observador" en Chrome para realizar revisiones y restricciones en tiempo real de las operaciones realizadas por el agente. Uno de los mecanismos centrales es usar Gemini para construir un "crítico de alineación del usuario", que verifica específicamente si la secuencia de acción generada por el modelo de planificación para una determinada tarea realmente cumple con la intención del usuario. Si el censor cree que ciertos pasos se desvían de los objetivos del usuario, solicita al modelo de planificación que reajuste la política, un proceso que se basa únicamente en metadatos operativos en lugar de contenido web completo para reducir la exposición a la privacidad.
En términos de control de fuentes de acceso, Google ha introducido el mecanismo "Conjuntos de orígenes de agentes" para clasificar estrictamente las fuentes del sitio web que el agente puede leer y escribir para evitar que el modelo realice operaciones en sitios que no son de confianza o elementos de página irrelevantes. Por ejemplo, en un sitio web de comercio electrónico, la lista de productos se considera contenido legible relacionado con la tarea, mientras que los anuncios publicitarios en la página se excluyen del rango legible y los agentes solo pueden hacer clic o ingresar dentro del área iframe específica permitida, lo que reduce el riesgo de fuga de datos entre fuentes.
Google también utiliza otro conjunto de modelos de observación para monitorear el comportamiento de salto de página del proxy para interceptar las URL generadas por el modelo pero que pueden ser riesgosas y evitar que procesos automatizados ingresen accidentalmente a sitios web maliciosos. Cuando se trata de sitios web que involucran información confidencial, como banca y atención médica, Chrome abrirá una ventana para solicitar permiso al usuario antes de que el agente intente acceder, y solicitará autorización al usuario cuando sea necesario utilizar un administrador de contraseñas para iniciar sesión. Durante todo el proceso, el modelo del agente en sí no contactará directamente con los datos de la contraseña.
En cuanto a la realización de operaciones altamente sensibles, Google enfatiza que la decisión final quedará en manos del usuario, incluidos pasos clave como el pago en línea, el envío de información o el envío de mensajes, y el agente debe obtener una confirmación clara de antemano. Google también ha implementado clasificadores de inyección rápida para identificar y bloquear instrucciones maliciosas y continúa realizando pruebas de seguridad de estas funciones de proxy a través de muestras de ataques diseñadas por investigadores.
Además de Google, otros fabricantes de navegadores también están fortaleciendo las capacidades de seguridad del proxy de IA. Recientemente, Perplexity lanzó un nuevo modelo de detección de contenido de código abierto para identificar y defenderse contra ataques de inyección de proxy en escenarios de navegación, lo que demuestra la alta sensibilidad y la inversión de la industria en problemas de seguridad en la era de la navegación automatizada.