Resumen:
El director ejecutivo de JPMorgan, Jamie Dimon, dijo el martes que el banco no permitiría que agentes externos de inteligencia artificial accedan a las cuentas de los clientes y operen en su nombre, citando riesgos para la empresa y sus clientes en un momento en que empresas tecnológicas como Meta están lanzando asistentes autónomos. "No permitiremos que ningún agente externo entre en la empresa porque sería demasiado peligroso para los clientes y para JPMorgan Chase", dijo Dimon a los analistas en la conferencia telefónica sobre las ganancias del tercer trimestre del banco.
"No se quieren agentes fugitivos, y podría haber miles de ellos", añadió, describiendo la amenaza potencial para los clientes. En julio de este año, un modelo OpenAI invadió los servidores de la empresa de inteligencia artificial HuggingFace.
Dimon es desde hace mucho tiempo el director ejecutivo del mayor banco estadounidense por activos y el portavoz de facto de la industria financiera estadounidense. Su postura recuerda a batallas anteriores con empresas de tecnología financiera por el acceso a los datos de los clientes. JPMorgan ha tomado medidas para cobrar tarifas de acceso a los intermediarios de datos, incluido Plaid, una disputa que también enfrenta las preocupaciones de seguridad del banco con las necesidades de acceso de las empresas de tecnología.
Una portavoz de JPMorgan Chase confirmó que el banco actualmente prohíbe a los agentes externos de IA operar en nombre de clientes minoristas.
"Proteger a nuestros clientes es nuestra principal prioridad. Debido a que esto no es seguro, no permitimos que terceros accedan a las cuentas obteniendo las credenciales bancarias de los clientes e iniciando sesión en su nombre", dijo el portavoz.
“Apoyamos el intercambio de datos seguro y autorizado por el cliente a través de proveedores de banca abierta y estamos comprometidos a permitir una conectividad similar a la de un agente de manera segura”, añadió.
Esto significa que si Plaid u otros conectores tienen las credenciales de usuario, el agente de IA puede tener acceso de solo lectura a ciertos datos de los clientes en las cuentas de Chase, como los saldos de los clientes. Pero no pueden transferir dinero ni pagar facturas, precisamente las cosas que hacen que los agentes sean útiles.
El portavoz añadió que actualmente no había un calendario sobre cuándo el banco implementaría salvaguardas para permitir que los agentes interactúen directamente con las cuentas de los clientes.
"Transferencia de Responsabilidad"
Dimon dijo que JPMorgan está utilizando agentes de IA internamente y planea implementarlos en aplicaciones orientadas al cliente. Dijo que el enfoque del banco no era apoyar ni oponerse a la tecnología, sino garantizar que sirviera a los clientes de forma segura.
En las últimas semanas, JPMorgan Chase ha iniciado un piloto específico de su propia herramienta de inteligencia artificial llamada SmartCash, que está diseñada para predecir el flujo de efectivo de los usuarios y mover fondos para maximizar los retornos, dijo el martes el director financiero Jeremy Barnum. Esto parece ser una medida defensiva contra agentes externos.
Dimon también pareció trazar una línea en la arena en la cuestión de la responsabilidad cuando los clientes autorizan a agentes externos de IA a actuar en su nombre.
"Si la gente los usa, debe comprender los riesgos", afirmó Dimon. "Deberían entender que hay una transferencia de responsabilidad."
Los agentes personales han ganado popularidad en los últimos meses a medida que los modelos de IA incorporan capacidades más autónomas, como la capacidad de cancelar suscripciones o utilizar tarjetas de crédito en nombre de los usuarios.
Instinct, un servicio de conserjería digital que depende en gran medida de mensajes de texto en lugar de aplicaciones, se lanzó solo por invitación a principios de este año. La startup detrás del servicio es Spear Street Technology, con sede en San Francisco, que se fundó el año pasado y alcanzó una valoración de 10 mil millones de dólares el mes pasado.
En septiembre, el agente Muse de Meta encabezó las listas de descargas de aplicaciones poco después de su debut, golpeando a las acciones bancarias y generando preocupaciones de que los consumidores utilizarían agentes para transferir fondos de cuentas de bajo rendimiento a cuentas de alto rendimiento. Unas semanas más tarde, OpenAI lanzó su propio agente, Dots.
El economista jefe de Apollo, Torsten Slok, y otros han señalado los riesgos que los agentes representan para los depósitos bancarios de bajo costo. Pero este riesgo será limitado si al agente no se le permite operar libremente la cuenta del cliente.
Comentarios