Resumen:
A medida que los agentes de inteligencia artificial comienzan gradualmente a completar operaciones de compras, pagos y pedidos en nombre de los usuarios, la industria financiera global ha mostrado una actitud cada vez más compleja hacia este modelo emergente. Seis grandes instituciones financieras internacionales, incluidos Bank of America y Capital One Bank, publicaron recientemente de forma conjunta un informe en el que se afirma que, si bien la “compra de agentes” impulsada por la IA tiene un gran potencial, también plantea una serie de nuevos problemas, como la transparencia, la seguridad, la protección de la privacidad y los riesgos de fraude.
Las llamadas compras basadas en agentes se refieren a un agente de inteligencia artificial que navega por Internet de forma independiente, compara productos, selecciona métodos de pago y completa directamente el proceso de compra según la autorización del usuario. El año pasado, muchos desarrolladores de IA, empresas minoristas e instituciones de pago promovieron la implementación de tecnologías relacionadas, con la esperanza de hacer de la IA un "asistente de compras digital" para los consumidores.
Sin embargo, la industria bancaria cree que a medida que los agentes de IA obtienen cada vez mayor autonomía en la toma de decisiones, sus riesgos potenciales también se magnifican.
Según el informe titulado "Building Agent-Based Business Trust", los riesgos se centran en la transparencia, la seguridad, la privacidad y la protección de datos, la elección del usuario y la interoperabilidad entre diferentes plataformas. El informe señala que muchos consumidores no están seguros de si los agentes de IA realmente tomarán decisiones en su propio interés y, por lo tanto, todavía tienen dudas obvias sobre este tipo de tecnología.
El informe muestra que a muchos usuarios les preocupa que los agentes de IA puedan comprar productos incorrectos, gastar más allá de su presupuesto o incluso encontrar problemas como fraude, secuestro de cuentas o pérdida de fondos. Aunque los consumidores están dispuestos a utilizar la IA para obtener información sobre productos y sugerencias de compra, la mayoría todavía se muestra cautelosa a la hora de permitir que la IA controle completamente el proceso de compra.
La industria tecnológica no es del todo optimista sobre las perspectivas de desarrollo de la compra de agentes.
Ron Johnson, uno de los fundadores del sistema minorista de Apple y ex ejecutivo de Apple, dijo en una entrevista reciente que la inteligencia artificial puede mejorar la experiencia de compra en línea, pero no cree que la IA cambie fundamentalmente la forma en que los humanos compran.
En su opinión, los consumidores todavía quieren experimentar los productos en persona y esto no puede ser reemplazado por la IA. La inteligencia artificial puede ayudar a los usuarios a investigar con antelación y convertirlos en consumidores que comprendan mejor el producto, pero no eliminará el valor de la compra física en sí.
El informe de la industria bancaria señaló además que los agentes de IA también pueden verse afectados por los mecanismos de incentivos comerciales. Por ejemplo, algunos sistemas pueden recomendar preferentemente productos con comisiones más altas, canales de pago con costos de transacción más bajos o incluso elegir soluciones subóptimas para reducir los costos informáticos. Es posible que este comportamiento no beneficie a los consumidores, pero puede convertirse en la opción predeterminada de los agentes de IA.
Al mismo tiempo, la adopción a gran escala de la compra de agentes también puede conducir a un aumento en el número de estafas, fraudes y disputas entre consumidores. Una vez que un sistema de inteligencia artificial es atacado o se produce una fuga de datos, no solo la información personal de los usuarios se verá amenazada, sino que las empresas que dependen de estos sistemas para sus negocios también pueden enfrentar graves pérdidas.
Una serie de acontecimientos recientes han reforzado aún más estas preocupaciones.
No hace mucho, Meta anunció que había solucionado una vulnerabilidad de día cero en su asistente de IA Muse. Una de las funciones importantes actuales de Muse es la compra de agentes y, en teoría, esta vulnerabilidad podría permitir que un atacante se haga cargo del asistente de IA y realice diversas operaciones utilizando los permisos otorgados por el usuario.
Al mismo tiempo, Amazon también tuvo fricciones públicas con Muse. Amazon acusó a los agentes de inteligencia artificial de Meta de no identificarse claramente al acceder a su plataforma de comercio electrónico, lo que generó preocupaciones sobre las credenciales de las cuentas y cómo se manejaban los datos de los usuarios y exigió que cesara el comportamiento.
Aun así, estos seis bancos no descartan por completo el futuro de la compra de agentes.
El informe señala que es probable que el comercio por agencia se convierta en una de las formas principales de realizar transacciones entre consumidores y comerciantes en el futuro. Las instituciones financieras también son optimistas sobre su potencial de desarrollo a largo plazo y han expresado su voluntad de cooperar con clientes, socios industriales y agencias reguladoras para promover el crecimiento saludable de este modelo.
Sin embargo, en su opinión, para que la compra de agentes realmente gane popularidad, primero debe establecer suficiente confianza social. La velocidad actual del desarrollo tecnológico ha sido significativamente más rápida que la velocidad de construcción de las regulaciones industriales, los sistemas de políticas y los mecanismos de protección del consumidor, y este es el problema más urgente que la industria necesita resolver.
Con este fin, la alianza bancaria que participó en la redacción del informe ha comenzado a prepararse para la siguiente fase del trabajo de investigación, con la esperanza de aclarar aún más cómo implementar los cinco principios básicos de transparencia, seguridad, privacidad y protección de datos, elección del usuario e interoperabilidad de plataformas, y establecer los estándares industriales correspondientes.
En una nueva era en la que la inteligencia artificial está pasando gradualmente de "proporcionar sugerencias" a "actuar en su nombre", la señal enviada por la industria bancaria es bastante clara: la compra de agentes de IA puede tener un futuro brillante, pero antes de que realmente se convierta en un método de consumo generalizado, todavía quedan muchas cuestiones clave en materia de mecanismos de seguridad, confianza y responsabilidad que deben resolverse.
Comentarios