Resumen:
El 23 de septiembre, según Bloomberg, el pionero de la IA, Li Feifei, pidió una mayor supervisión de la IA por parte de agencias independientes y del sector público. Ella cree que la evaluación de la seguridad de los sistemas de IA cada vez más potentes no debería dejarse enteramente en manos de las empresas que desarrollan estos sistemas.
Li Feifei
Como profesor de la Universidad de Stanford y cofundador de World Labs, Li Feifei dijo el martes que aunque los investigadores internos de las empresas de IA pueden evaluar las capacidades y la seguridad de modelos individuales, esto no puede reemplazar estándares más amplios desarrollados conjuntamente por el gobierno, la industria y las instituciones académicas.
"Sigo creyendo que es muy importante que los puntos de referencia sean establecidos por instituciones independientes, así como por sectores públicos como el mundo académico. Al mismo tiempo, la industria y el gobierno también deberían compartir la responsabilidad". dijo Li Feifei en una entrevista con Bloomberg TV.
A medida que las capacidades de los sistemas de IA siguen aumentando, también aumentan las preocupaciones sobre sus riesgos potenciales. Algunos líderes de Silicon Valley han advertido que la tecnología se está desarrollando demasiado rápido y eventualmente podría exceder el control humano. En las últimas semanas, el director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, han pedido que se desacelere el desarrollo de modelos de vanguardia. Los dos discutirán la seguridad de la IA en el Consejo de Seguridad de las Naciones Unidas el miércoles.
Li Feifei dijo que los riesgos existenciales que la IA puede traer dependen en última instancia de cómo los humanos elijan desarrollar, gobernar y utilizar esta tecnología. Dijo que este principio también se aplica a otras tecnologías además de la IA, desde la electricidad y las máquinas de vapor hasta el transporte moderno. La sociedad humana también necesita encontrar un equilibrio entre los beneficios que la tecnología puede aportar y la seguridad personal.
La humanidad, señaló, "tiene el poder de la tecnología a su disposición". "Debemos tomar el control. La IA no se trata de IA, sino de humanos. Se trata de nuestra dignidad y autonomía común e individual, y también de nuestras responsabilidades". Dijo Li Feifei.
Los comentarios de Li Feifei añaden una nueva voz al debate cada vez más acalorado entre los responsables políticos y los líderes de la industria de la IA. El debate se centra en la seriedad con la que se deben tomar las advertencias sobre los riesgos más extremos de la tecnología. Más temprano el martes, el presidente de Estados Unidos, Donald Trump, desestimó las preocupaciones sobre la amenaza existencial de la IA, calificándola de "un engaño" y enfatizando la necesidad de continuar desarrollando la tecnología a toda velocidad durante un discurso en la Asamblea General de las Naciones Unidas en Nueva York.
Li Feifei dijo que el debate sobre el comportamiento de los sistemas de IA ha ido más allá de los llamados modelos de vanguardia que impulsan la moda actual de la IA. La empresa que fundó, World Labs, está desarrollando los llamados "modelos mundiales" que pueden generar y reconstruir entornos tridimensionales. Dijo que la tecnología podría usarse para entrenar y evaluar robots y permitir aplicaciones en el diseño, la medicina y otras industrias.
A medida que estos sistemas avanzan hacia aplicaciones del mundo real, dijo, la industria enfrenta la misma pregunta fundamental: cómo evaluar una IA cada vez más poderosa y determinar si está funcionando como se espera.
Comentarios