En una entrevista más reciente, el presidente de la Comisión de Bolsa y Valores de Estados Unidos (SEC), Gary Gensler, advirtió una vez más sobre los riesgos que la inteligencia artificial (IA) trae a los mercados financieros. Aunque durante muchos años se han utilizado diferentes versiones de la tecnología de IA en la industria y se han implementado diversas medidas de cumplimiento y prevención del fraude, la inteligencia artificial aún puede plantear riesgos para la toma de decisiones de los inversores.
"A nivel micro, creo que tienes toda la razón: utilizar la IA para suscribir préstamos, seguros, etc. puede generar sesgos", dijo Gensler.
Explicó que un robo-advisor o un corredor de bolsa, por ejemplo, debe programarse cuidadosamente para optimizar los mejores intereses del cliente, no del asesor.
Al mismo tiempo, Gensler dijo que también existen riesgos sistémicos, y que podrían existir riesgos tanto para las empresas financieras como para los inversores que utilizan las mismas herramientas de inteligencia artificial. Esto puede crear un efecto de "rebaño" en el mercado, que se produce cuando todos los grupos o instituciones hacen lo mismo o dependen de las mismas herramientas, en lugar de actuar de forma independiente.
"La economía natural conducirá a un monocultivo, habrá un conjunto de datos básicos o un modelo básico, y grandes partes del sector financiero dependerán de él... para realizar operaciones comerciales y de suscripción sobre esa base", dijo Gensler. "La puntuación FICO ha sido monocultural durante décadas, por lo que esto no es nada inusual ni novedoso".
El puntaje crediticio FICO es un método para cuantificar y evaluar la solvencia de un individuo. En Estados Unidos, los puntajes FICO se utilizan en el 90% de las decisiones sobre solicitudes de préstamos hipotecarios. Los puntajes varían de 300 a 850, y los puntajes en el rango de 670 a 739 se consideran un puntaje crediticio "bueno".
Gensler advirtió que para aquellos que dependen de modelos de IA sesgados y defectuosos, "si se hace que una gran parte del mercado dependa de un conjunto de datos, entonces se podría tener inestabilidad financiera... El pastoreo podría enviarnos por un precipicio sin darnos cuenta".
De hecho, a principios de este año, Gensler advirtió que las empresas confiarían en unos pocos modelos de IA dominantes, lo que en última instancia aumentaría la probabilidad de una crisis.