Resumen:
El debate sobre si la inteligencia artificial de vanguardia debería frenar proactivamente su desarrollo se ha intensificado rápidamente en los últimos días. El director ejecutivo de Anthropic, Dario Amodei, pidió públicamente a toda la industria de la inteligencia artificial que desacelere el ritmo de las capacidades de los modelos avanzados, y el director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de xAI, Elon Musk, expresaron más tarde su apoyo.
Sin embargo, David Sacks, un inversor en tecnología estadounidense y presidente del Comité Asesor de Ciencia y Tecnología del Presidente, criticó duramente esta iniciativa, creyendo que si OpenAI y Anthropic realmente creen que la velocidad actual del desarrollo de la IA es lo suficientemente peligrosa como para necesitar aplicar los frenos, entonces pueden ralentizar la investigación y el desarrollo por sí solos, y no deberían imponer la coordinación de la industria, las exenciones antimonopolio o los mecanismos de aprobación gubernamental como condiciones adicionales.
Amodei publicó anteriormente un artículo advirtiendo que las capacidades de IA de vanguardia se están acercando rápidamente a una etapa que puede crear importantes riesgos de seguridad. Él cree que si el modelo continúa desarrollándose al ritmo actual y el mecanismo de seguridad no puede seguir el ritmo, en los próximos 6 a 12 meses, los grupos de agentes de IA pueden incluso tener la capacidad de controlar Internet a gran escala y usarse para lanzar ataques cibernéticos o llevar a cabo otros daños graves.
Amodei propuso un conjunto de planes llamados "desacelerar la IA de vanguardia", que incluye permitir que agencias independientes de evaluación de seguridad de terceros profundicen en las empresas de IA para verificar continuamente la seguridad del modelo con autoridad cercana a los empleados de la empresa; permitir que los principales laboratorios de IA coordinen los estándares de seguridad para evitar que las empresas reduzcan constantemente los umbrales de seguridad debido a la presión competitiva; al tiempo que promueve una cooperación más estrecha entre Estados Unidos y sus aliados y, en última instancia, discute cuestiones de seguridad de la IA con otros países, incluida China.
Esta iniciativa rápidamente obtuvo el apoyo de OpenAI. Altman dijo que estaba de acuerdo con la opinión de Amodei de que la industria de la IA necesita frenar el desarrollo de modelos de vanguardia y dijo que este tema se ha convertido en un tema importante de discusión reciente dentro de OpenAI. Musk también expresó públicamente su aprobación. En un corto período de tiempo, varias de las empresas de inteligencia artificial más importantes del mundo han llegado a un inusual consenso sobre la cuestión de la "desaceleración adecuada".
Pero Sacks cree que aquí hay un problema lógico obvio.
Según su punto de vista, si Amodei y Altman realmente creen que el modelo de IA de próxima generación tiene serios riesgos que deben frenarse, entonces las dos empresas no necesitan esperar la aprobación del gobierno, ni convencer a los competidores, ni necesitan un nuevo marco legal. Como las empresas de desarrollo de IA más avanzadas en la actualidad, pueden reducir directamente su velocidad de implementación e I+D.
Sacks incluso sugirió que si estas empresas realmente creen que algunos sistemas de IA son lo suficientemente peligrosos como para amenazar a los humanos, entonces la "forma más fácil" es no continuar desarrollando o lanzando estos sistemas. Él cree que en lugar de pedirle al gobierno que establezca un nuevo sistema regulatorio, es mejor dejar que las empresas que realmente dominan las capacidades de investigación y desarrollo de IA de vanguardia actúen por su cuenta.
Lo que Sacks realmente objeta es la parte del plan de Amodei que involucra la coordinación de la industria y los acuerdos regulatorios. Advirtió que si competidores como OpenAI y Anthropic obtienen exenciones antimonopolio a través del gobierno y luego deciden conjuntamente a qué velocidad toda la industria debería desarrollar la IA, el acuerdo podría convertirse en un "cártel".
En opinión de Sacks, permitir que varias de las empresas de IA más importantes establezcan conjuntamente el ritmo de desarrollo de la IA de vanguardia puede producir resultados que sean completamente diferentes de los objetivos de seguridad. Los gigantes existentes no sólo pueden limitar la competencia a través de este mecanismo, sino que también pueden utilizar el sistema regulatorio para elevar el umbral para que los recién llegados ingresen al mercado, consolidando así aún más su posición de liderazgo.
Este es también el núcleo de la crítica de Sacks: no simplemente se opone a desacelerar la industria de la IA, sino que cree que si las empresas están realmente dispuestas a desacelerar, deberían hacerlo ellas mismas en lugar de pedirle al gobierno que brinde algún tipo de protección legal a cambio.
Sacks también se opone al establecimiento de un sistema de aprobación previa similar al de la "Administración de Alimentos y Medicamentos de IA". En su opinión, no es necesario que las agencias gubernamentales aprueben estos productos uno por uno antes de que se lancen oficialmente los modelos avanzados de IA. En lugar de establecer un nuevo mecanismo de licencia previa, es mejor confiar en el sistema de responsabilidad de productos existente para permitir que las empresas de IA asuman la responsabilidad legal de sus productos y sus consecuencias.
Por ejemplo, si un modelo de IA se utiliza para lanzar un ciberataque grave o causa directamente daños importantes debido a sus propios defectos, entonces la empresa de desarrollo del modelo debe asumir la correspondiente responsabilidad del producto. Sacks cree que esta posible consecuencia legal y económica en sí misma puede convertirse en una limitación importante para que las empresas de IA controlen los riesgos.
También cree que el mercado de capitales también tiene un efecto restrictivo. Si los productos de una determinada empresa de IA experimentan con frecuencia problemas de seguridad, comportamientos impredecibles o accidentes importantes, su reputación corporativa, la confianza de los clientes y la valoración del mercado pueden verse directamente afectadas. Por lo tanto, no es necesario establecer un sistema de aprobación especial para la industria de la IA que sea completamente independiente del sistema legal existente.
Al mismo tiempo, Sacks también cuestionó la independencia de algunos mecanismos de evaluación de la seguridad de la IA. Mencionó específicamente la agencia de evaluación de seguridad utilizada por Anthropic y consideró que si existe una relación de inversión, una relación de personal u otra relación de interés entre la agencia de evaluación y la empresa que se está evaluando, entonces si esta evaluación es verdaderamente independiente merece una discusión más profunda.
Esta controversia ocurrió en un momento muy delicado. En los últimos meses, las preocupaciones sobre los riesgos de seguridad dentro de la industria de la IA han aumentado significativamente. Anthropic reveló recientemente una serie de incidentes relacionados con el abuso del sistema de inteligencia artificial, las capacidades de ataque de la red y la protección de la seguridad. Los investigadores de la empresa también han expresado públicamente su preocupación por la velocidad del desarrollo de la IA.
Entre ellos, un investigador de Anthropic advirtió públicamente cuando renunció recientemente que la industria de la IA está avanzando tecnologías que pueden ser extremadamente riesgosas a un ritmo excesivamente rápido. Otros investigadores de seguridad dentro de Anthropic también han expresado serias preocupaciones sobre el riesgo de que la IA se salga de control en el futuro.
Por lo tanto, el llamado público de Amodei a una desaceleración no es una declaración política aislada, sino el resultado de una mayor escalada de todo el debate sobre la seguridad de la IA.
Sin embargo, incluso si las empresas están realmente dispuestas a reducir el ritmo, la operación real es mucho más complicada de lo que parece. OpenAI, Anthropic, Google DeepMind, xAI y otras empresas de IA compiten ferozmente. Si una empresa ralentiza unilateralmente la I+D, puede preocuparse de que sus competidores aprovechen la oportunidad para acelerar y obtener ventajas en capacidades de modelo, participación de mercado y mercados de capital.
En realidad, esto constituye un típico "dilema del prisionero": si todas las empresas de IA desaceleran al mismo tiempo, toda la industria puede ganar más tiempo para mejorar las medidas de seguridad; pero si sólo una empresa se desacelera mientras los competidores continúan avanzando, entonces la empresa que desacelera activamente puede sufrir pérdidas comerciales y técnicas.
Esta es la razón por la que OpenAI ya ha comenzado a prestar atención a si la coordinación de la industria violará las leyes antimonopolio de EE. UU. Según los informes, OpenAI ha buscado opiniones claras de los legisladores estadounidenses sobre si la coordinación de la industria para frenar el desarrollo de la IA es legal. Porque si varias empresas competidoras deciden conjuntamente frenar el desarrollo de modelos de vanguardia, esta coordinación en sí misma puede desencadenar problemas legales antimonopolio.
Como resultado, surge una pregunta muy espinosa: para mejorar la seguridad de la IA, ¿deberían las empresas permitir una coordinación entre competidores que normalmente está restringida por las leyes antimonopolio?
Los partidarios creen que si cada empresa de IA sabe que la desaceleración por sí sola conducirá a desventajas competitivas, entonces sólo a través de algún tipo de coordinación a nivel industrial todas las empresas podrán realmente aplicar el freno al mismo tiempo.
Sacks cree que esta puede ser una razón para que las grandes empresas de inteligencia artificial utilicen cuestiones de seguridad para buscar un tratamiento regulatorio especial. Le preocupa que una vez que el gobierno permita que varias empresas líderes se coordinen mediante exenciones antimonopolio, este mecanismo pueda eventualmente evolucionar de una "coordinación de seguridad" a una herramienta para restringir la competencia en el mercado.
Al mismo tiempo, existe una clara diferencia entre la actitud del gobierno de EE. UU. ante la desaceleración de la IA y las afirmaciones de estas empresas tecnológicas. El presidente de Estados Unidos, Trump, declaró públicamente recientemente que, aunque cree que la IA puede establecer ciertas "barandillas", no quiere que Estados Unidos ralentice su desarrollo debido a preocupaciones excesivas sobre los riesgos. Enfatizó que Estados Unidos lidera actualmente a China en el campo de la IA y que "quien gane la IA ganará el futuro". Por lo tanto, Estados Unidos no puede renunciar fácilmente a su liderazgo tecnológico.
Esto también vincula directamente los problemas de seguridad de la IA con la competencia tecnológica chino-estadounidense.
El propio Amodei también admitió que si Estados Unidos unilateralmente ralentiza significativamente el desarrollo de la IA mientras China y otros países continúan acelerándolo, Estados Unidos podría perder su ventaja tecnológica. Por tanto, lo que propone no es pedir a las empresas estadounidenses que detengan indefinidamente la investigación y el desarrollo de la IA, sino esperar que los principales países y empresas puedan formar algún tipo de mecanismo de coordinación para ganar tiempo para las medidas de seguridad manteniendo al mismo tiempo ventajas competitivas.
El problema es que actualmente no existe ningún mecanismo que garantice que todos los países desaceleren simultáneamente.
Esta también se ha convertido en una de las razones más importantes para quienes se oponen a la desaceleración a gran escala de la industria. Si la IA se ha convertido en una parte importante de la competencia estratégica nacional, es difícil para cualquiera de las partes creer que los competidores se detendrán voluntariamente y esperarán a que ellos mismos mejoren sus sistemas de seguridad.
Por lo tanto, el debate entre Sacks, OpenAI y Anthropic ha ido mucho más allá de la simple cuestión técnica de "qué tan rápido debería desarrollarse la IA" e implica una elección de política industrial más compleja: si las empresas deberían decidir la velocidad de desarrollo de la IA de vanguardia, o si el gobierno debería participar en la formulación de reglas unificadas; si la coordinación de la seguridad debe considerarse una cooperación industrial legítima o si puede convertirse en un cártel que restrinja la competencia; si los accidentes de IA deberían evitarse mediante una regulación ex ante, o si las empresas deberían asumir los costos posteriores al evento a través de la responsabilidad del producto.
En la actualidad, parece que Sacks no se opone a que OpenAI y Anthropic tomen la iniciativa de reducir la velocidad. Si las dos empresas realmente creen que los riesgos de la IA de vanguardia son lo suficientemente graves como para frenar su investigación y desarrollo, él incluso dejó claro que puede apoyarlas para que lo hagan.
Pero sus condiciones también eran claras: si cree que debe reducir el ritmo, hágalo usted mismo y no lo cambie por la aprobación del gobierno, exenciones antimonopolio o protecciones regulatorias especiales.
El resultado real de este debate puede depender en última instancia de lo que OpenAI y Anthropic hagan a continuación. Si realmente toman la iniciativa de frenar el desarrollo de modelos de vanguardia sin recibir un tratamiento legal especial, entonces es más probable que "ralentizar la IA" se considere una acción de seguridad real; Si lo que finalmente se forma es un sistema regulatorio en el que unas pocas empresas líderes formulan reglas en conjunto y al mismo tiempo restringen la entrada de los recién llegados, entonces las preocupaciones de Sacks sobre la "captura regulatoria" y los "cárteles" recibirán más atención.
A medida que las capacidades del modelo de IA continúan mejorando rápidamente, el debate sobre "aceleración o desaceleración" obviamente no terminará pronto. Es probable que en los próximos años se convierta en una de las principales contradicciones de la política estadounidense y mundial en materia de IA.
Comentarios