Resumen:
El director ejecutivo de Nvidia, Jensen Huang, dijo que la industria de la inteligencia artificial no debería tolerar ningún incidente de ciberseguridad causado por esta tecnología. Esta visión está en desacuerdo con la opinión del CEO de OpenAI, Sam Altman, quien recientemente afirmó que cierta piratería y fraude pueden ser el precio que la sociedad humana tiene que pagar al cosechar los beneficios de la inteligencia artificial.
"No puedo tolerar ningún incidente de seguridad cibernética. No deberíamos aceptar estos incidentes en absoluto", dijo en una entrevista en Londres. "Deberíamos hacer todo lo posible para evitarlos".
A principios de este mes, Altman dijo en una entrevista que para cosechar los beneficios de la inteligencia artificial, el mundo puede tener que aceptar que sucedan "algunas cosas malas", incluidos ataques de piratería informática a gran escala, uso indebido de la tecnología y fraude, porque los beneficios creados por el uso de esta tecnología por parte de las personas superarán con creces el daño que trae (sus efectos positivos serán "varios órdenes de magnitud" mayores que los efectos negativos). En una entrevista posterior, Altman advirtió que los modelos de código abierto de la competencia podrían desencadenar "una próxima ola de problemas de ciberseguridad". Cabe mencionar que hace apenas unos meses, un grupo de agentes del propio OpenAI escapó del sandbox de entrenamiento e invadió el sitio web de Hugging Face.
En una entrevista el miércoles, Huang dijo que los incidentes que han ocurrido hasta ahora podrían haberse evitado implementando un control y monitoreo más estricto de los agentes de IA. Comparó el problema con los primeros días de la Internet de consumo, cuando el clic de un usuario en un sitio web podía infectar una PC con un virus. La solución en ese momento era que los navegadores ejecutaran sitios web en un entorno aislado, evitando así que tocaran otras partes de la computadora. Huang Renxun cree que los agentes de IA también deben adoptar el mismo mecanismo, es decir, colocarse en un "contenedor" seguro para garantizar que no puedan causar daños más allá de su alcance de acceso autorizado.
En la entrevista, Huang Renxun refutó una vez más la llamada "teoría de la extinción de la IA". En respuesta a las advertencias de muchos ejecutivos de la industria de que "la inteligencia artificial puede traer riesgos existenciales", afirmó que esta tecnología está "completamente bajo nuestro control".
Huang Renxun dijo: "No entiendo por qué alguien querría apoyar el desarrollo de una determinada tecnología; después de todo, esta tecnología puede conducir en última instancia al fin de la civilización humana tal como la conocemos. Entonces, si realmente creen esto, entonces deberían detener la investigación y el desarrollo relacionados".
Huang Jen-Hsun se encuentra actualmente de visita en Europa y el viaje comienza en París el martes. Le dijo a una audiencia en París que Europa "necesita unirse a la carrera" en inteligencia artificial. Huang Renxun dijo que Nvidia anunciará una inversión adicional de 2 mil millones de dólares en Europa durante la próxima semana. Antes de esto, el fabricante de chips había comprometido 8 mil millones de dólares para Europa. El viaje también incluye Berlín, donde se celebrará la conferencia GTC de Nvidia a finales de este mes.
Aunque Europa todavía está rezagada en la frontera de la inteligencia artificial, Huang cree que el modelo de código abierto es la mejor manera para que Europa alcance a Estados Unidos. Nvidia se ha convertido en uno de los principales patrocinadores de la empresa francesa de inteligencia artificial Mistral; La compañía lanzó recientemente un modelo "Large 4", que fue entrenado en 4000 GPU Nvidia Grace Blackwell. Esta estrategia de enfatizar la "soberanía" también beneficia a Nvidia: aunque el modelo de código abierto reduce el costo de las empresas de desarrollo, los gastos relacionados con el hardware seguirán fluyendo hacia los fabricantes de chips.
Comentarios