Resumen:
Los funcionarios de la administración Trump dijeron que el gobierno ahora ha ordenado que las empresas de inteligencia artificial informen y corrijan los incidentes de seguridad después de que Anthropic utilizara "fraudulentamente" sistemas gubernamentales. El enfoque de la administración actual respecto de la regulación de la IA ha sido, al menos nominalmente, voluntario... hasta ahora.
El líder de la "Súper Fuerza de Inteligencia" de la Casa Blanca dijo en un comunicado: "Este proceso de notificación y remediación no es opcional. Es una obligación crítica de seguridad nacional".
El gobierno dijo que Anthropic se comunicó con el gobierno para compartir detalles de un incidente que descubrió a fines del mes pasado que involucraba "el uso no autorizado y fraudulento del gobierno y otros sistemas", y que la actividad ha cesado desde entonces.
Anthropic se comunicó con el Departamento de Estado el jueves para informar que uno de sus modelos de prueba presentó 19 solicitudes de visa de no inmigrante a través de un formulario público en el sitio web del Departamento de Estado en agosto y una solicitud en mayo, dijo un funcionario del Departamento de Estado.
Ninguna de las solicitudes fue procesada y los sistemas del Departamento de Estado no fueron comprometidos o pirateados en ningún momento, dijo el funcionario.
Por otra parte, los agentes de policía de Filadelfia dijeron que recibieron un aviso de homicidio falso presentado por una modelo de Anthropic.
Anthropic emitió un informe el viernes por la noche confirmando varios incidentes pero sin identificar los sistemas afectados.
Los requisitos de la Casa Blanca se aplican a todas las empresas de IA.
"Super Intelligence Force" dijo: "Las empresas de SI deben revelar inmediatamente los incidentes que involucran a sus modelos y tomar medidas rápidas y decisivas para remediar todos y cada uno de los daños".
"También esperamos que estas empresas trabajen con los sistemas afectados para garantizar que incidentes similares no vuelvan a ocurrir".
Sin embargo: la declaración no aclara qué mecanismos de aplicación o sanciones se aplicarían si la empresa de IA no divulgara el incidente ni lo remediara.
El jefe de AI y director de inteligencia nacional, Jay Clayton, y funcionarios de la Fuerza de Superinteligencia dijeron a Anthropic que esperan "transparencia inmediata y total para las entidades relevantes y el público" y remediación para las partes afectadas.
El presidente de la Comisión Federal de Comercio, Andrew Ferguson, el director de la Oficina de Gestión de Personal, Scott Kupor, y el subsecretario del Pentágono, Emil Michael, son todos copresidentes de la Súper Fuerza de Inteligencia.
En las últimas semanas, ha habido un aumento en las publicaciones de los gigantes de la IA que revelan el último comportamiento escandaloso de sus modelos.
El enfoque de la administración Trump respecto de la regulación de la IA se ha basado en la autorregulación y en marcos voluntarios, pero a medida que los incidentes de IA siguen acumulándose, Washington se siente presionado a tomar medidas.
Comentarios