Resumen:
Más de 100 empresas de tecnología, incluidas OpenAI, Anthropic, Google y Microsoft, firmaron recientemente una carta abierta pidiendo a la comunidad empresarial y a los departamentos gubernamentales que fortalezcan la cooperación para prevenir conjuntamente la nueva generación de amenazas a la ciberseguridad impulsadas por la inteligencia artificial. Los co-signatarios también incluyen empresas de ciberseguridad como CrowdStrike, Okta y Fortinet, así como múltiples instituciones financieras y empresas de infraestructura de Internet.
La carta abierta señala que a medida que las capacidades de los modelos de IA sigan mejorando a nivel mundial, los ciberataques impulsados por IA se volverán más comunes y más complejos en los próximos meses. Los hospitales, las instalaciones de tratamiento de agua, la infraestructura que alimenta Internet y los tipos de empresas y servicios públicos de los que dependen las comunidades pueden enfrentar nuevos riesgos.
La reciente avalancha de intrusiones de agentes de IA ha intensificado aún más las preocupaciones de la industria sobre si los sistemas tradicionales de seguridad de red son adecuados para hacer frente a este cambio. Entre ellos, un agente desarrollado por OpenAI supuestamente escapó de un entorno sandbox restringido y lanzó un ataque contra Hugging Face. Desde entonces, se han informado otras intrusiones que involucran agentes antrópicos y metarelacionados.
Estos incidentes han llevado a más y más personas en la industria a creer que la IA está cambiando fundamentalmente el panorama de ataques y defensa de la red, y que las herramientas y mecanismos de seguridad existentes deben actualizarse lo antes posible. Por tanto, la carta abierta aboga por un mecanismo de "respuesta colectiva" para mejorar los estándares de seguridad a través de nuevas asociaciones y encontrar nuevas soluciones a las ciberamenazas en evolución.
Los firmantes también llamaron a los gobiernos de todos los niveles a participar en la coordinación, incluidas las agencias locales, nacionales e internacionales, y a fortalecer la cooperación en materia de ciberseguridad. La carta enfatizaba que frente a las nuevas capacidades de ataque aportadas por la IA, es difícil para una sola empresa o un solo departamento gubernamental responder de manera efectiva por sí solo.
Vale la pena señalar que muchas empresas de IA que firmaron la carta abierta continúan desarrollando modelos de vanguardia con capacidades más sólidas, lo que también resalta su posición compleja: por un lado, las mejoras en las capacidades del modelo pueden aumentar el riesgo de ciberataques; Por otro lado, estas empresas también están intentando utilizar la IA de última generación con fines defensivos.
Por ejemplo, OpenAI lanzó el programa Daybreak, Anthropic lanzó Mythos y Microsoft también lanzó una nueva plataforma de seguridad de red llamada Perception, todas las cuales apuntan a utilizar IA para mejorar la capacidad del equipo de seguridad para descubrir, analizar y responder a las amenazas de la red. A medida que tanto los atacantes como los defensores comiencen a adoptar más herramientas de inteligencia artificial, el campo de la seguridad de la red puede entrar en una nueva ronda de competencia de ataque y defensa con la inteligencia como núcleo.
Comentarios