Resumen:
El intento de la administración Trump de garantizar la seguridad de la inteligencia artificial (IA) a través de la responsabilidad legal ha sentado las bases para futuras disputas sobre quién debe soportar las pérdidas cuando un modelo de IA se sale de control: las empresas que desarrollan estos sistemas o los usuarios que implementan tecnologías relacionadas.
El enfoque de exigir a los desarrolladores de IA que asuman la responsabilidad financiera por la seguridad de sus productos cuenta con el apoyo del Secretario del Tesoro de Estados Unidos, Scott Bessant, y del exjefe de IA de la Casa Blanca, David Sacks. Los dos argumentan que las leyes de responsabilidad existentes son más efectivas que introducir nuevas reglas regulatorias. Si bien se opuso a las nuevas medidas regulatorias de seguridad de la IA, el presidente de los Estados Unidos, Donald Trump, afirmó además que si un modelo de IA se comporta fuera de control, el Departamento de Justicia debería intervenir.
Como la última señal de que el gobierno está cada vez más dispuesto a utilizar las leyes existentes para abordar los problemas de seguridad de la IA, el grupo de trabajo de IA recién creado por Trump advirtió a las empresas de desarrollo el viernes por la noche que deben informar y resolver incidentes de seguridad o correr el riesgo de enfrentar consecuencias.
Después de que Anthropic PBC revelara un incidente de seguridad, un grupo de trabajo conocido como "Super Intelligence Force" emitió una declaración que decía: "Las empresas deben revelar inmediatamente los incidentes que involucran a sus modelos y actuar rápida y decisivamente para remediar cualquier daño. No se tolerarán divulgaciones retrasadas, acciones correctivas insuficientes ni negativas a aceptar responsabilidad".
Sin embargo, el enfoque de la administración Trump de hacer de la rendición de cuentas un pilar de la seguridad de la IA todavía enfrenta muchas incertidumbres. Los expertos legales dicen que las leyes existentes de ciberseguridad y responsabilidad de productos pueden no ser suficientes para respaldar la responsabilidad federal por los daños causados por agentes de IA.
Incluso si la víctima lo tiene claro, existen pocos precedentes legales que puedan definir quién debe ser responsable de los daños causados por un agente de IA fuera de control y qué tipo de deber de diligencia deben tener las empresas al desarrollar herramientas de IA. Para complicar aún más las cosas, el comportamiento del modelo se ve afectado tanto por el desarrollador como por el usuario final que implementa el sistema.
Ben Hayum, investigador asociado centrado en investigación de tecnología y seguridad nacional en el Centro para una Nueva Seguridad Estadounidense, dijo: "A pesar de los continuos llamados para que se aclare la responsabilidad, aún no se ha resuelto si las empresas de IA tienen la obligación legal de garantizar que los modelos no causen daño, y si los usuarios deben asumir la responsabilidad legal por las instrucciones que dan a los modelos".
A medida que las empresas aceleran la adopción de la tecnología de IA, los debates sobre la responsabilidad se vuelven más urgentes. Las instituciones financieras, los minoristas y las aerolíneas de Wall Street están aplicando agentes de inteligencia artificial a una gama cada vez más amplia de escenarios comerciales, como el servicio al cliente y el procesamiento de facturas. El resultado de este debate puede afectar la popularidad de la IA y los planes futuros de OpenAI y Anthropic, dos líderes de la industria, para ingresar al mercado de capitales.
Cuando utilizan agentes de IA, los usuarios finales normalmente solo explican los objetivos de la tarea, pero no especifican el método de ejecución en detalle. Esto hace posible que los agentes de IA tomen decisiones que no han sido revisadas por el usuario, o incluso tomen acciones dañinas. En este caso, aún no está claro si la responsabilidad debe recaer en el desarrollador o en el usuario.
El impulso de la administración Trump para exigir rendición de cuentas es coherente con su postura general hacia una regulación más laxa de la IA. El desarrollo de la inteligencia artificial ha sido una parte importante de la agenda económica de Trump. Después de reunirse con unas dos docenas de líderes tecnológicos de Silicon Valley en la Casa Blanca la semana pasada, Trump expresó una vez más su esperanza de que la industria de la inteligencia artificial dependa principalmente de la autorregulación y, al mismo tiempo, lance un acuerdo industrial no vinculante legalmente para alentar a las empresas a fortalecer los controles de seguridad internos.
Al mismo tiempo, la declaración del viernes sobre la divulgación obligatoria de la cuestión del modelo mostró que la Casa Blanca está dispuesta a utilizar este equipo de inteligencia artificial recién formado para hacer cumplir las leyes existentes. El equipo está dirigido por el Director de Inteligencia Nacional, Jay Clayton.
Con la aparición de una serie de incidentes de seguridad preocupantes y la amplia circulación del artículo del CEO de Anthropic, Dario Amodei, advirtiendo sobre los riesgos catastróficos de la IA, la discusión sobre cómo reducir los riesgos de la IA continúa calentándose.
Para Trump y sus aliados, la amenaza de demandas tiene como objetivo presionar a empresas como OpenAI y Anthropic a garantizar que sus sistemas funcionen de forma segura. "La mejor manera de garantizar la seguridad es responsabilizar a los creadores por lo que construyen y generan", dijo Bessant en una audiencia en el Congreso el mes pasado.
Comentarios