Resumen:
Mientras la controversia sobre la seguridad de la IA continúa fermentando, Musk propuso: Dejemos que los competidores se controlen entre sí. Aboga por que las principales empresas de IA realicen pruebas cruzadas entre sí antes de lanzar modelos y cree que este mecanismo debería promoverse a nivel mundial lo antes posible y que la participación de China es indispensable.
Según informes de los medios del 15 de septiembre, hora local, en la Cumbre All-In organizada por un conocido podcast de tecnología en Los Ángeles del 13 al 15 de septiembre, el director ejecutivo de SpaceX, Elon Musk, asistió de forma remota por video.
Propuso un marco de gobernanza sobre las cuestiones de seguridad de los modelos de IA de vanguardia:
Las empresas líderes en IA prueban los modelos de las demás antes de su lanzamiento oficial, y los competidores son responsables de descubrir y aumentar los riesgos de seguridad.
Musk dijo que este mecanismo de "revisión por pares" no necesita esperar a una nueva legislación y puede iniciarse de inmediato.
Musk dijo:
"Todas las empresas de IA tienen un equipo de prueba, que consiste en una serie de pruebas que se utilizan para comprobar si el modelo ayudará a crear armas biológicas, armas nucleares o si existe un engaño deliberado".
"Hacer que cada empresa lo ejecute a través de la herramienta de prueba de otra persona puede ser lo mejor que podemos hacer para garantizar nuestra propia seguridad y debería promoverse lo antes posible".
Describió esto en el sentido de que las empresas de IA ya no "califican su propio trabajo", sino que al menos hacen que sus competidores lo califiquen y pueden hacer sonar la alarma si se descubren problemas.
A nivel operativo específico, Musk propuso que los desarrolladores de modelos deberían proporcionar acceso API a sus pares antes de publicarlos. Si los problemas señalados no se resuelven, los competidores pueden declarar públicamente que el modelo no es seguro para su lanzamiento.
En su opinión, este
cuestionamiento público generará una enorme presión de responsabilidad legal y, por lo tanto, formará una fuerza vinculante de facto
.Musk también enfatizó que
para que este marco sea realmente efectivo, se debe incluir a China
. Señaló: "Probablemente deberíamos llegar a un acuerdo con China, que sería una especie de revisión por pares: las principales empresas de IA prueban los modelos de cada una antes de lanzarlos".Al hablar de la inversión en seguridad de varias empresas, dio una evaluación relativamente positiva de Anthropic, un gran desarrollador de modelos de IA: "En general,
Creo que Anthropic ha invertido más esfuerzo en seguridad que el desarrollador de ChatGPT OpenAI.
Pero incluso Anthropic admite que le preocupa su modelo. "El mecanismo de "prueba mutua" mencionado por Musk ya ha tomado forma en la industria. El 27 de agosto de 2025, según informes publicados simultáneamente en los sitios web oficiales de las dos empresas, OpenAI y Anthropic anunciaron los resultados de una evaluación de seguridad conjunta.
Las dos partes se abrieron permisos API entre sí y relajaron algunas medidas de protección externa. Utilizaron su propia alineación interna (es decir, si el comportamiento del modelo se ajusta a las intenciones humanas) y pruebas de seguridad para evaluar los modelos publicados públicamente por la otra parte y anunciaron los resultados al mismo tiempo. Esta se considera la primera vez que un laboratorio líder abre las pruebas internas a competidores directos.
Comentarios