Resumen:
La empresa de inteligencia artificial Anthropic presentó recientemente de forma privada un proyecto de ley de seguridad de la inteligencia artificial a los legisladores estadounidenses en un intento de establecer un marco regulatorio a nivel federal para modelos avanzados de IA. Según la propuesta, si se determina que un modelo de IA tiene un riesgo catastrófico previsible e inminente, que puede causar más de 50 muertes o lesiones graves, o causar más de mil millones de dólares en daños a la propiedad, su liberación y uso pueden bloquearse.
Según la información divulgada, el proyecto de ley no se dirige a todas las aplicaciones de inteligencia artificial, sino que se centra en los "modelos de vanguardia" más avanzados. La propuesta establece un umbral claro para la intervención, y sólo en situaciones de riesgo extremo los reguladores pueden iniciar procedimientos legales para restringir el despliegue del modelo.
Los riesgos enumerados en el borrador se centran principalmente en tres áreas: ayudar en la creación o liberación de armas biológicas, modelos que escapan del control de los desarrolladores y ataques cibernéticos a gran escala en los que participan o promueven modelos. Sólo cuando surjan riesgos de estos escenarios específicos se activarán los mecanismos regulatorios.
Vale la pena señalar que los estándares de riesgo propuestos por Anthropic son similares al Proyecto de Ley 53 del Senado aprobado previamente por California, EE. UU. Este último también define situaciones que pueden causar un gran número de víctimas o enormes pérdidas económicas como “riesgos catastróficos”.
En cuanto al mecanismo de implementación específico, el proyecto de ley propone establecer un sistema de evaluación independiente registrado y administrado por el Departamento de Comercio de EE. UU. Estas agencias de evaluación o expertos son responsables de realizar evaluaciones de seguridad de los modelos de IA de vanguardia y sus empresas de desarrollo, y de determinar si los modelos relevantes presentan riesgos significativos.
Según el borrador del acuerdo, incluso si la empresa de IA paga a la agencia de evaluación, esta asociación aún está permitida siempre que el pago no esté directamente relacionado con los resultados de la evaluación. Sin embargo, este acuerdo también ha causado dudas entre algunos expertos de la industria, que creen que la independencia y objetividad de la agencia de evaluación pueden enfrentar desafíos.
Si los evaluadores determinan que un modelo presenta un riesgo catastrófico inminente, deben informarlo al Departamento de Comercio de EE. UU. dentro de las 72 horas posteriores a la finalización de la evaluación. El Departamento de Comercio podría entonces solicitar a un tribunal federal en Washington, D.C., que pida a un juez que conceda una moratoria sobre la publicación o implementación del modelo.
A diferencia de algunos planes regulatorios, la propuesta de Anthropic enfatiza específicamente que las agencias administrativas no tienen el poder de detener unilateralmente los modelos. Según el borrador, sólo un juez federal podría en última instancia dictar una moratoria. En otras palabras, ningún departamento gubernamental puede prohibir directamente que un modelo de IA esté en línea o su uso, eludiendo los procedimientos judiciales.
Anthropic no ha detallado públicamente la versión final del proyecto de ley, pero un portavoz de la compañía confirmó que el borrador existe y dijo que sus ideas centrales se derivan del "Marco de Inteligencia Artificial Avanzada" propuesto a principios de este año. El marco aboga por pruebas más rigurosas, mayor transparencia y la introducción de mecanismos de evaluación independientes de terceros para los sistemas de IA más potentes.
A medida que las capacidades de inteligencia artificial continúan mejorando, el debate sobre las cuestiones de seguridad de la IA entre la industria tecnológica y las agencias reguladoras de EE. UU. también se intensifica. Los partidarios creen que el plan propuesto por Anthropic proporciona procedimientos claros y una base legal para la intervención gubernamental en la IA de alto riesgo; mientras que los críticos creen que el umbral de intervención excesivo y la dependencia de los mecanismos de autoevaluación de la industria pueden dificultar la respuesta completa a riesgos más complejos de la inteligencia artificial en el futuro.
Actualmente, esta propuesta aún se encuentra en etapa de discusión, aún no ha sido presentada formalmente al Congreso de los Estados Unidos para su consideración y no tiene efecto legal. Sin embargo, como uno de los primeros planes regulatorios federales propuestos de manera proactiva por las grandes empresas de IA, se espera que su contenido tenga un impacto importante en las discusiones futuras sobre la legislación sobre inteligencia artificial en los Estados Unidos.
Comentarios