Resumen:
"La verdadera pregunta es: si crees que debes reducir la velocidad, no corras a alta velocidad y no esperes hasta que fuerzas externas te obliguen a detenerte". Esto es lo que el vicepresidente y presidente de Microsoft, Brad Smith, le dijo a Alan Murray durante la Asamblea General de las Naciones Unidas. El tema que discutió fue: ¿Deberían los fabricantes de modelos grandes de vanguardia pisar el pedal de desaceleración para garantizar que la tecnología que desarrollan no traerá una catástrofe a la humanidad?
El mismo día que hizo estos comentarios, el director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, hablaron en las Naciones Unidas y pidieron a los países que establezcan mecanismos de protección de la seguridad de la IA para evitar el desarrollo de la IA más allá de las capacidades de control humano.
Smith, que tiene muchos años de experiencia en la industria, dijo: "Si usted, como director ejecutivo de una empresa, considera que su producto presenta riesgos para la seguridad, ¿debería continuar comercializándolo? Creo que la respuesta es obvia: no. Las empresas tienen la responsabilidad de la seguridad pública".
Aun así, añadió: "La introducción de ciertas medidas regulatorias eventualmente será inevitable". Históricamente, muchos productos dependían de la regulación para lograr una implementación segura. Por ejemplo, antes había problemas con la contaminación de la leche, "por eso creamos un departamento de inspección agrícola e introdujimos leyes pertinentes. Ahora, cuando vas al supermercado, todos los tipos de leche son seguros y potables".
Cuando Smith propuso que debería existir la capacidad de "reducir la velocidad o apagar el sistema de IA directamente", el presentador Allen confirmó que estaba hablando del interruptor de apagado de emergencia de la IA (interruptor de apagado) y luego preguntó: "¿Crees que es una buena idea?"
Smith respondió: "Por supuesto... El desarrollador del modelo debería tener la autoridad para cerrarlo; los proveedores de infraestructura de nube como Microsoft deberían tener esa autoridad; y la agencia responsable de controlar el agente de IA también debería tener la capacidad de cerrarlo. Incluso si este mecanismo es obligatorio a través de la legislación, eso no sería algo malo".
Alan le preguntó cómo deberían los gerentes de negocios manejar los problemas de seguridad de la IA dentro de sus empresas. "Lo que quiero decir es que no dejen de usar la IA. La IA es una innovación fundamental y una herramienta importante para mejorar la productividad. Pero es importante recordar que la tecnología requiere gobernanza... La gobernanza de esta tecnología es tan importante como la tecnología misma".
También recordó: "No me despierto todos los días y siento que hay un 10% de probabilidad de extinción humana. Pero prefiero que nos preocupemos demasiado que hacer muy poco. Después de todo, lo que estamos discutiendo es sobre la supervivencia humana. Por el amor de Dios, este asunto es más importante que la última tecnología, y debemos tomarlo en serio".
Comentarios