Resumen:
Según Bloomberg, el director ejecutivo de Meta, Mark Zuckerberg, dijo el martes que los laboratorios de IA deberían depender de evaluadores y consultores independientes para garantizar la seguridad de los modelos. Zuckerberg se unió el martes a un número creciente de ejecutivos de tecnología que intervienen en un debate global sobre la mejor manera de evitar que los sistemas de inteligencia artificial dañen a la humanidad.
Zuckerberg
"La introducción de evaluadores y consultores independientes es una de las mejores prácticas de la industria". Escribió Zuckerberg en una publicación en la plataforma X. Señaló que, en general, ayuda tener un ecosistema de evaluadores más grande y diverso.
Zuckerberg dijo que actualmente hay mucho debate sobre si el desarrollo de capacidades de IA debería ralentizarse y esperar a que la tecnología de alineación se ponga al día. Su punto es que la confianza y la alineación se están convirtiendo rápidamente en las capacidades más importantes que diferencian a los agentes y modelos. Cualquier laboratorio que no se tome en serio la alineación se quedará atrás. La alineación se refiere a alinear la forma en que la IA hace las cosas con los intereses humanos.
publicación de Zuckerberg
En la actualidad, algunos ejecutivos de empresas han expresado su apoyo a frenar el desarrollo de la IA y abogan por la cooperación para llegar a un consenso. Zuckerberg escribió que Meta decidió frenar el desarrollo de la herramienta Muse AI por su cuenta sin pedir primero a sus pares que revisaran su progreso.
"Meta retrasó el lanzamiento de Muse durante varios meses para centrarse en la seguridad", escribió. "No les pedimos a los demás que lo hicieran primero y luego nosotros mismos. Simplemente lo hicimos como parte de nuestra rutina diaria porque obviamente era lo correcto para nuestros usuarios y para nosotros".
Zuckerberg cree que dedicar la gran mayoría de la potencia informática a servir a las personas, en lugar de competir para promover la mejora personal recursiva de la IA, es una de las mejores formas de garantizar el desarrollo seguro de esta tecnología. Meta ha asumido este compromiso y otros laboratorios pueden hacer lo mismo.
El fin de semana pasado, un artículo de 3.800 palabras del director ejecutivo de Anthropic, Dario Amodei, avivó aún más el acalorado debate en torno a los riesgos económicos y de seguridad de la IA. En él, pidió frenar el desarrollo de sistemas de última generación para que los investigadores puedan comprender mejor las amenazas potenciales. La llamada de Amodei recibió un apoyo excepcional del director ejecutivo de OpenAI, Sam Altman, y del director ejecutivo de SpaceX, Elon Musk.
Comentarios