Resumen:
Representante. Ro Khanna, un demócrata de California, está a punto de presentar al Congreso un proyecto de ley regulatorio integral de inteligencia artificial, con la esperanza de establecer el marco regulatorio federal más estricto hasta la fecha para la tecnología de inteligencia artificial de vanguardia. La propuesta no sólo exige la implementación de un sistema de responsabilidad estricta, sino que también planea prohibir el uso de sistemas de inteligencia artificial con capacidades de "automejora recursiva" hasta que el gobierno federal establezca un sistema completo de seguridad.
Este proyecto de ley se denomina Ley de Control Humano sobre la IA. Los antecedentes de la introducción del proyecto de ley se producen en un momento en que siguen aumentando las preocupaciones en los círculos tecnológicos y políticos de Estados Unidos sobre los riesgos potenciales de la inteligencia artificial avanzada. En los últimos años, muchos ejecutivos de empresas de inteligencia artificial han advertido públicamente que algunos sistemas de inteligencia artificial pueden exceder las capacidades de control humano en el futuro, pero el Congreso aún tiene que formular un plan regulatorio integral.
Ro Cana dijo en una entrevista que la inteligencia artificial no solo tiene el riesgo de ser abusada, sino que también puede conllevar el riesgo de pérdida de control. Él cree que los humanos deben tomar en serio estos dos tipos de cuestiones porque el desarrollo de tecnologías relacionadas ha tocado cuestiones de seguridad a nivel de civilización.
Según el contenido del proyecto de ley, se prohibirá la llamada inteligencia artificial de "superación personal recursiva". Este tipo de sistema se define como un modelo de inteligencia artificial que puede mejorar de forma autónoma sus propias capacidades o modificar sus objetivos centrales, mecanismos de control y reglas de apagado.
Como lo requiere la propuesta, no se permitirían actividades relacionadas hasta que se establezcan reglas federales de seguridad. Incluso si se abre en el futuro, necesitará la aprobación de agencias reguladoras especializadas.
El proyecto de ley también prevé establecer una nueva agencia reguladora federal de inteligencia artificial para supervisar las empresas que desarrollan modelos de vanguardia como OpenAI, Anthropic, Google DeepMind y xAI.
La agencia tendrá múltiples responsabilidades, incluida la formulación de normas de seguridad de IA, el establecimiento de un sistema de licencias para la capacitación y el despliegue de modelos, la realización de auditorías de modelos de vanguardia y el desarrollo de estándares para pruebas continuas y control humano efectivo.
Al mismo tiempo, la nueva agencia también será responsable de formular una serie de requisitos técnicos de seguridad, incluidos entornos de prueba aislados, medidas de aislamiento de red, sistemas de apagado de emergencia y mecanismos de control para evitar que los modelos abandonen el entorno experimental y entren en la operación abierta de Internet.
Según el plan, todos los laboratorios que trabajan en el desarrollo de modelos de vanguardia deben someterse a auditorías independientes. Los auditores permanecerán en instituciones relevantes durante mucho tiempo e informarán directamente a las autoridades reguladoras en lugar de pasar la información a través de la dirección corporativa.
Además del modelo regulatorio en sí, el proyecto de ley también planea incluir algunos chips de IA avanzados y recursos de potencia informática en el alcance de la supervisión para fortalecer aún más la supervisión de las actividades de desarrollo de inteligencia artificial de alto riesgo.
El proyecto de ley adopta una postura decididamente dura sobre el sistema de responsabilidad.
La propuesta requiere que las empresas de inteligencia artificial compren un seguro de responsabilidad a gran escala antes de lanzar modelos avanzados para garantizar la capacidad de compensar daños futuros.
Al mismo tiempo, el proyecto de ley también introduce un mecanismo de responsabilidad penal. Cualquier empleado que a sabiendas desactive las protecciones de seguridad, desactive las paradas de emergencia, altere los registros, viole los sistemas de aislamiento o implemente modelos sin autorización a sabiendas puede enfrentar sanciones penales.
Lo que es aún más preocupante es que el proyecto de ley también pretende establecer disposiciones de responsabilidad penal relacionadas con "actos que pongan en peligro a la humanidad". Si ciertos sistemas de inteligencia artificial causan daños civiles a gran escala, los comportamientos de despliegue relacionados pueden desencadenar consecuencias legales más graves.
Ro Kana dijo que este proyecto de ley es una de las propuestas regulatorias de seguridad de inteligencia artificial más completas en la actualidad. Destacó que el contenido del proyecto de ley proviene principalmente de intercambios a largo plazo con grupos de investigación de seguridad de inteligencia artificial, en lugar de formularse en base a las opiniones de grandes empresas tecnológicas.
Al mismo tiempo, Khanna también pidió al gobierno de Estados Unidos que promueva la cooperación en materia de seguridad en inteligencia artificial a nivel internacional, incluido el logro de un acuerdo de seguridad ejecutable con China y el establecimiento de mecanismos de verificación, revisión y control para reducir el riesgo de proliferación de peligrosos sistemas de inteligencia artificial en el futuro.
Los analistas creen que esta propuesta representa una voz cada vez más fuerte dentro del Congreso de Estados Unidos en el sentido de que la inteligencia artificial de vanguardia no debe depender únicamente de la autodisciplina corporativa, sino que debe establecer un mecanismo de supervisión gubernamental similar al sistema de regulación de medicamentos.
Sin embargo, todavía existe una gran incertidumbre sobre si el proyecto de ley podrá aprobarse sin problemas en el futuro. Los partidarios creen que la regulación puede reducir el riesgo de pérdida de control, mientras que a los opositores les preocupa que restricciones demasiado estrictas puedan debilitar la capacidad de Estados Unidos para innovar en la competencia global de inteligencia artificial.
Sin embargo, a medida que las capacidades de la inteligencia artificial continúan mejorando, el debate sobre "si los humanos deben establecer límites antes de que la tecnología se salga de control" ha entrado oficialmente en el nivel legislativo de Estados Unidos.
Comentarios