Resumen:
En una entrevista el martes por la noche, hora local, el director ejecutivo de Nvidia, Jensen Huang, criticó la propuesta de exención antimonopolio de seguridad de IA de Anthropic, que está diseñada para desacelerar de manera colaborativa el desarrollo de modelos de IA de vanguardia, y refutó los argumentos de que la inteligencia artificial puede exterminar a la humanidad dentro de una década.
Huang Renxun hizo los comentarios anteriores en una entrevista con Jim Cramer, un conocido presentador financiero estadounidense. Anteriormente, el director ejecutivo de Anthropic, Dario Amodei, publicó un artículo el sábado pasado, lo que provocó una acalorada discusión sobre la seguridad de la inteligencia artificial. Amodei propuso que los principales laboratorios de IA deberían trabajar juntos para "controlar el ritmo del desarrollo de tecnología de punta", lo que significa desacelerar intencionalmente el desarrollo de modelos avanzados para permitir a las empresas más tiempo para realizar pruebas y proteger la seguridad. Amodei dijo que el trabajo puede requerir coordinación gubernamental o exenciones de las regulaciones antimonopolio relevantes.
Huang Renxun está de acuerdo en que las empresas de inteligencia artificial deben prestar atención a las cuestiones de seguridad, pero cree que las empresas deberían resolver estos problemas por sí mismas.
Huang Renxun dijo: "Algunas personas piensan que necesitamos introducir nuevas leyes, nuevas regulaciones antimonopolio o nuevas regulaciones regulatorias para permitir que estas empresas realicen ingeniería básica y estandaricen la investigación y el desarrollo antes de lanzar productos. Esto es completamente innecesario. Ya tenemos suficientes disposiciones legales y regulatorias para garantizar la confiabilidad y funcionalidad de los productos".
En el artículo, Amodei propuso un plan de tres pasos para ralentizar el ritmo de desarrollo del modelo: el primer paso es enviar evaluadores de seguridad externos a cada laboratorio de IA. El segundo y tercer paso son, respectivamente, la colaboración democrática y global en torno a estándares de seguridad y “establecer límites a la velocidad del desarrollo irrestricto de la IA”. "Algunos métodos de colaboración que pueden regular eficazmente el ritmo del desarrollo tecnológico tienen obstáculos legales y requieren apoyo gubernamental".
Surgen problemas legales porque los principales laboratorios de IA son competidores y los modelos que lanzan son productos de la competencia. En principio, la Ley Sherman Antimonopolio de Estados Unidos prohíbe a los competidores llegar a acuerdos que restrinjan injustificadamente la competencia, y ciertos comportamientos de colaboración (incluidos acuerdos para limitar la producción de productos) pueden ser ilegales. Si las empresas competidoras de desarrollo de IA acuerdan conjuntamente la velocidad de desarrollo o lanzamiento de nuevos modelos, surgirán posibles riesgos legales.
Huang Renxun dijo que los desarrolladores de modelos tienen la capacidad de garantizar la seguridad de los productos antes de su lanzamiento.
"La seguridad es una cuestión de ingeniería y las pruebas también lo son". Huang Renxun dijo: "Debemos crear productos y probarlos completamente. Si el producto aún no ha alcanzado los estándares de lanzamiento, posponga el lanzamiento y continúe con las pruebas y la optimización hasta que el producto madure". NVIDIA es un importante proveedor de Anthropic y OpenAI, y la propia NVIDIA también ha desarrollado la serie Nemotron de modelos de peso de código abierto.
La moda de la IA ha convertido a Nvidia en el mayor fabricante de chips del mundo y en la empresa con mayor valor de mercado. Las propuestas relevantes para frenar el desarrollo de modelos de alto rendimiento pueden plantear riesgos para el crecimiento futuro de Nvidia.
Huang Renxun dijo a Cramer: "La seguridad de la IA es un problema real. No se puede subestimar la creación de productos que puedan usarse de forma segura en todo el mundo. Las empresas deben innovar lo más rápido posible, pero no deben lanzar productos con riesgos de seguridad sólo por el simple hecho de innovar".
Huang también rechazó las advertencias de que modelos de inteligencia artificial cada vez más potentes representarán una amenaza existencial para la humanidad.
Dijo: "La humanidad no se extinguirá en 2030. Hay tantas personas en el mundo que desarrollarán la inteligencia artificial correctamente. Estableceremos varias medidas de protección de seguridad e inventaremos varias tecnologías para la seguridad y la protección".
Artículos relacionados:
Huang Renxun pidió relajar la supervisión externa de la IA, diciendo que la industria tiene la capacidad de garantizar la seguridad de forma independiente
Comentarios