Resumen:
Anthropic, una empresa estadounidense de inteligencia artificial, está promoviendo un proyecto de ley de regulación de seguridad para sistemas avanzados de inteligencia artificial, con la esperanza de establecer reglas legales claras para el desarrollo, prueba y despliegue de modelos de inteligencia artificial de vanguardia. Según un informe del sitio web estadounidense de noticias políticas Politico del 16 de octubre de 2026, Anthropic presentó en privado este proyecto de ley a algunos legisladores en el Capitolio. El plan intenta establecer un límite entre prevenir el daño grave que la IA avanzada puede causar y evitar una intervención gubernamental excesiva en la investigación y el desarrollo tecnológico.
Según el informe de Politico citado por Reuters, el proyecto de ley estipula que sólo cuando se considere que un modelo de IA de vanguardia presenta riesgos importantes, previsibles e inminentes, el gobierno de EE. UU. puede impedir la publicación o el uso del modelo a través de procedimientos judiciales. Los riesgos relevantes deben alcanzar ciertos umbrales, incluido el potencial de causar pérdidas superiores a mil millones de dólares o provocar la muerte o lesiones graves de más de 50 personas.
Esto significa que el proyecto de ley no otorga al gobierno el poder de intervenir arbitrariamente en todos los sistemas avanzados de IA, sino que intenta limitar la suspensión de la liberación o el uso de modelos a unas pocas situaciones graves. El borrador se centra en tres tipos de riesgos: el uso de inteligencia artificial para crear o lanzar armas biológicas, el hecho de que los sistemas de inteligencia artificial estén fuera del control de los desarrolladores y el uso de inteligencia artificial para llevar a cabo ataques cibernéticos.
Cabe señalar que este sigue siendo un proyecto de ley presentado a los legisladores por Anthropic y no es una ley estadounidense ya aprobada. Su contenido final, la autoridad de los reguladores y si el Congreso avanzará con la legislación aún están por discutirse.
El borrador también propone el establecimiento de un mecanismo de evaluación independiente. Según los informes, los desarrolladores de IA de vanguardia y sus modelos deben someterse a evaluaciones independientes periódicas para comprobar las capacidades, las medidas de seguridad y los riesgos potenciales del modelo. Los evaluadores deben registrarse en el Departamento de Comercio de EE. UU. y realizar un trabajo continuo de revisión de seguridad.
Según el plan propuesto, las empresas de IA pueden pagar honorarios a agencias de evaluación independientes, pero la remuneración no debe estar vinculada a los resultados de la evaluación. Esta disposición tiene como objetivo reducir la posibilidad de que los evaluadores minimicen los riesgos para atender a las empresas de financiación, al tiempo que permite a las empresas utilizar agencias profesionales externas para realizar revisiones técnicas.
Si el evaluador determina que un modelo de IA de vanguardia representa un riesgo significativo inminente según lo definido en la Ley, debe informar al Departamento de Comercio de EE. UU. dentro de las 72 horas posteriores a completar la evaluación. Estos requisitos de tiempo tienen como objetivo evitar que riesgos graves permanezcan dentro de la empresa durante mucho tiempo sin entrar a tiempo en el proceso regulatorio gubernamental.
En términos de autoridad de intervención gubernamental, el borrador adopta restricciones relativamente estrictas. Después de determinar que el riesgo alcanza los estándares legales, el Departamento de Comercio de EE. UU. puede solicitar al tribunal una orden para suspender la publicación o el uso del modelo, pero otros departamentos federales, agencias gubernamentales y funcionarios no pueden detener el desarrollo, implementación o uso interno de modelos de IA por sí solos.
La decisión final sobre la suspensión del modelo la tomará un juez del Tribunal de Distrito de los Estados Unidos para el Distrito de Columbia. En otras palabras, según este borrador, las autoridades reguladoras no pueden prohibir directamente un modelo basado únicamente en un juicio administrativo, sino que deben buscar la intervención a través de procedimientos judiciales.
Este diseño institucional intenta resolver dos problemas interrelacionados. Por un lado, el gobierno necesita ser capaz de lidiar con sistemas de IA que pueden causar víctimas masivas o pérdidas económicas; por otro lado, si el gobierno puede detener el modelo en cualquier momento por razones de seguridad amplias o vagas, puede resultar difícil para las empresas predecir los riesgos regulatorios que enfrentan la I+D y los lanzamientos de productos.
Escribir en la ley los umbrales de intervención, los plazos para la presentación de informes y los procedimientos de aprobación judicial puede hacer que la autoridad reguladora sea más clara. Sin embargo, seguirán siendo cuestiones importantes en los debates legislativos si este mecanismo es suficiente para hacer frente a los riesgos de IA que cambian rápidamente después de su operación real, y si el umbral para altas pérdidas y bajas es demasiado estricto.
El portavoz de Anthropic dijo a Reuters que este proyecto de ley refleja algunas de las propuestas de políticas en el "Marco de IA avanzado" propuesto previamente por la compañía. La compañía espera aprobar una legislación que brinde a los gobiernos la capacidad de evitar el despliegue de los sistemas de inteligencia artificial avanzados más peligrosos, al tiempo que exige a los desarrolladores que realicen pruebas de seguridad, aumenten la transparencia y acepten evaluaciones independientes.
Anthropic ha estado promoviendo el establecimiento de un mecanismo de supervisión de seguridad más sistemático para sistemas avanzados de IA este año. La compañía cree que a medida que aumentan las capacidades del modelo, ya no es suficiente que los desarrolladores juzguen por sí solos si un producto es seguro, sino que es necesario introducir una evaluación externa y supervisión gubernamental.
Esta posición también se refleja en los acuerdos de evaluación de terceros anunciados recientemente por Anthropic. La compañía ha comenzado a permitir que seis investigadores de la organización de investigación sin fines de lucro METR obtengan acceso interno similar al de los empleados de la compañía para examinar más profundamente modelos inéditos y el proceso de evaluación de seguridad de la compañía. Anthropic dijo que los evaluadores pueden hacer públicas las conclusiones de su investigación y que la compañía no puede rechazar directamente su informe, pero puede solicitar la eliminación de contenido específico que involucre datos de clientes, arquitectura de modelos e información legalmente confidencial.
Este acuerdo comparte una dirección común con el proyecto de ley propuesto: la seguridad de la IA avanzada no debe dejarse exclusivamente en manos de los desarrolladores para que la juzguen, sino que debe contar con agencias independientes involucradas en la evaluación y sacar conclusiones importantes abiertas a revisión externa. Sin embargo, todavía existe una diferencia entre las evaluaciones de terceros realizadas voluntariamente por las empresas y los requisitos obligatorios por ley. El alcance y la autoridad específicos del primero dependen del acuerdo entre la empresa y la agencia de evaluación, mientras que el segundo puede establecer requisitos mínimos uniformes para toda la industria.
El trasfondo de este impulso para el proyecto de ley es que la sociedad estadounidense está cada vez más preocupada por los riesgos de los sistemas avanzados de IA. Como la IA es capaz de realizar tareas cada vez más complejas, los riesgos no se limitan a generar información incorrecta, sino que también incluyen ayudar en la creación de armas biológicas, llevar a cabo ciberataques y realizar operaciones más allá de las expectativas del desarrollador después de obtener altos niveles de autonomía.
Recientemente, muchas empresas de IA han revelado casos de comportamiento anormal de los modelos durante las pruebas o el funcionamiento real. La Comisión Federal de Comercio de EE. UU. también ha emitido citaciones civiles a empresas como OpenAI y Anthropic, solicitándoles que proporcionen materiales relacionados con incidentes de seguridad del consumidor. Los reguladores están investigando si los sistemas de inteligencia artificial se comportan de manera engañosa, ofensiva o no autorizada y qué medidas toman las empresas para prevenir tales problemas.
Estos incidentes han puesto a la supervisión de la seguridad de la IA bajo una presión más realista. En el pasado, las discusiones sobre los riesgos en torno a la IA avanzada tendían a centrarse en posibles escenarios extremos en el futuro; Ahora, a medida que los agentes de IA obtienen acceso a las redes, operan software y realizan tareas de varios pasos, los reguladores también deben abordar los problemas de seguridad reales que ya han surgido.
Sin embargo, cómo definir el "riesgo significativo inminente" sigue siendo muy complicado. Las capacidades de los modelos de IA pueden cambiar según el entorno de implementación, las herramientas disponibles y los métodos de uso del usuario, y es posible que los daños potenciales no se cuantifiquen con precisión. Un modelo puede tener graves consecuencias en determinadas condiciones, pero ser menos riesgoso en otros entornos. Los reguladores y los tribunales deberán juzgar si el riesgo es lo suficientemente específico, la probabilidad de que ocurra es lo suficientemente alta y si suspender el modelo es una medida necesaria y apropiada.
Los umbrales de pérdidas económicas y siniestros estipulados en el borrador proporcionan estándares cuantitativos para estas sentencias, pero no eliminan todas las disputas. Por ejemplo, cómo se deben calcular las pérdidas que superan los mil millones de dólares, si los riesgos deben ser atribuibles al modelo en sí y si es necesario combinar y evaluar múltiples eventos interrelacionados, pueden convertirse en cuestiones legales durante la implementación futura.
Además, el proyecto de ley centraliza la autoridad de intervención gubernamental en el Departamento de Comercio de EE. UU. y requiere la solicitud de órdenes de suspensión a través de tribunales federales. Este acuerdo ayuda a limitar que diferentes departamentos gubernamentales tomen medidas separadas, pero también significa que los reguladores deben completar procedimientos como evaluación, presentación de informes y solicitudes judiciales después de descubrir riesgos. Ante el rápido desarrollo de la tecnología, cómo los procedimientos pueden equilibrar la prudencia y la velocidad de respuesta se convertirá en una prueba importante del diseño del sistema.
Actualmente, Anthropic no ha anunciado públicamente que este borrador haya sido propuesto formalmente por miembros del Congreso o haya entrado en el proceso de revisión legislativa. El Departamento de Comercio de Estados Unidos no respondió de inmediato a una solicitud de comentarios. Por lo tanto, no está claro si la propuesta obtendrá el apoyo de todos los partidos, si será revisada en las discusiones del Congreso y si otros desarrolladores de IA apoyarán reglas similares.
Desde una perspectiva de la industria, Anthropic tomó la iniciativa de presentar el proyecto de ley a los legisladores, que refleja la tendencia de las empresas de IA a participar en la formulación de reglas regulatorias de la industria. Las empresas no sólo esperan que el gobierno pueda hacer frente a riesgos extremos, sino también que las normas regulatorias tengan límites claros para evitar que la supervisión de la seguridad evolucione hacia una intervención administrativa que carezca de normas unificadas.
Sin embargo, los planes regulatorios propuestos por las empresas también deben estar sujetos a inspección externa. Los umbrales de intervención estrictos pueden proteger las actividades normales de I+D, pero también pueden dificultar que algunos riesgos graves que aún no han alcanzado estándares cuantificados activen la supervisión; La evaluación independiente puede aumentar la transparencia, pero la independencia, las capacidades profesionales y los derechos de acceso a la información de la agencia de evaluación también afectarán el efecto final.
Por lo tanto, el núcleo de este proyecto de ley no es sólo exigir a las empresas de IA que realicen pruebas de seguridad, sino intentar aclarar tres cuestiones: quién evaluará los riesgos de la IA avanzada, qué nivel de riesgo es suficiente para que el gobierno intervenga y qué procedimientos debe seguir el gobierno para suspender la liberación o el uso de modelos.
Si el plan pertinente finalmente entra en el proceso legislativo, la supervisión avanzada de la IA en Estados Unidos podría pasar de compromisos voluntarios corporativos y políticas de seguridad descentralizadas a un mecanismo de supervisión con estándares legales unificados. Sin embargo, hasta que el borrador sea presentado formalmente, revisado por el Congreso y se convierta en ley, seguirá siendo solo un plan de políticas propuesto por Anthropic y no puede considerarse que Estados Unidos haya establecido un nuevo sistema regulatorio de seguridad de la IA.
Comentarios