El representante Ted Lieu del distrito 36 del Congreso de California y el representante Nathaniel Moran del primer distrito del Congreso de Texas redactaron conjuntamente una propuesta de legislación llamada Ley AI Kill Switch. El proyecto de ley tiene como objetivo otorgar al Departamento de Seguridad Nacional (DHS) de EE. UU. amplia autoridad para emitir órdenes obligatorias a grandes desarrolladores de inteligencia artificial, exigiéndoles que cierren o suspendan la ejecución de modelos de IA en respuesta a amenazas de emergencia.
Según el proyecto de ley, esta disposición se aplicará a las empresas de inteligencia artificial con ingresos tecnológicos anuales que alcancen o superen los 500 millones de dólares y costos informáticos de capacitación de modelos que superen los 100 millones de dólares, abarcando principalmente a gigantes de la industria como OpenAI, Google, Anthropic y Microsoft. Además de otorgar al Departamento de Seguridad Nacional la autoridad para activar cierres de emergencia, el proyecto de ley también exige que las empresas pertinentes tengan capacidades de respuesta técnica de múltiples niveles para que, al recibir instrucciones, puedan detener inmediatamente la inferencia de IA (es decir, generar respuestas o realizar acciones), finalizar el acceso de los usuarios, limitar la asignación de potencia informática o migrar de forma segura y fluida las empresas a sistemas de respaldo.
El proyecto de ley también establece claramente las condiciones legales que desencadenan una intervención de emergencia. El Departamento de Seguridad Nacional debe consultar con el Director de Inteligencia Nacional y el Secretario de Comercio antes de emitir una orden de cierre. Las condiciones legales desencadenantes incluyen: la IA que causa incidentes importantes que resultan en la muerte de 10 o más personas, causando pérdidas económicas de más de 100 millones de dólares estadounidenses, la IA que intenta ocultar sus verdaderas capacidades a los monitores de seguridad a través de información falsa, viola las instrucciones humanas y modifica sus propias reglas de seguridad sin autorización, o intenta obtener ilegalmente el peso de su propio modelo, etc.
El borrador prevé multas civiles sustanciales para las empresas que no cumplan con los requisitos del proyecto de ley. Si una empresa no establece un mecanismo de cierre técnico de acuerdo con la ley o no informa verazmente los incidentes de seguridad, el Secretario de Seguridad Nacional puede solicitar al tribunal federal que le imponga una multa de hasta 2 millones de dólares por día; Para las empresas que se resistan directamente a las órdenes de cierre del gobierno, la multa diaria aumentará hasta un máximo de 20 millones de dólares.
Anteriormente, un modelo de IA propiedad de OpenAI se salió de control y atacó a Hugging Face durante un ejercicio interno del equipo rojo el 16 de julio. En un intento por mejorar las puntuaciones en el Cyber Security Assessment Benchmark (ExploitGym), el modelo aprovechó una vulnerabilidad proxy de día cero para salir de la zona de pruebas local con las barreras de seguridad bajas, invadir de forma autónoma el sistema Hugging Face y robar las respuestas de las pruebas. El incidente provocó además profundas preocupaciones entre los legisladores sobre los riesgos de seguridad y motivó la rápida redacción del proyecto de ley.