Resumen:
Un portavoz de OpenAI reveló que el presidente de OpenAI, Greg Brockman, pronto hará un anuncio para ampliar la autoridad para abrir las herramientas de inteligencia artificial de la compañía a agencias de infraestructura crítica y del sector público. La intrusión accidental de Hugging Face por parte de OpenAI, junto con múltiples ataques cibernéticos a sistemas de agua estadounidenses sospechosos de utilizar IA, ha despertado una gran preocupación en el mundo exterior sobre cuán vulnerables son varias instalaciones públicas a futuros ataques de piratas informáticos impulsados por IA.
El portavoz dijo que Brockman anunciará oficialmente la información anterior en la Cumbre de Seguridad Cibernética celebrada en la sede de OpenAI el jueves.
Se espera que asistan a esta reunión unos 300 líderes de seguridad corporativa y directores de seguridad de la información de empresas Fortune 100.
El tema central de esta cumbre: cómo las empresas, los gobiernos y los proveedores de seguridad de redes permiten a los defensores (agencias de infraestructura crítica, departamentos de servicios públicos) utilizar herramientas de inteligencia artificial.
Esta reunión y el próximo anuncio son la respuesta de OpenAI a los riesgos de seguridad de los modelos. Hugging Face ha sido pirateado antes y el próximo modelo Astra de OpenAI ya tiene capacidades de ciberataque de “nivel crítico”.
A principios de esta semana, un informe mencionaba que OpenAI estaba desarrollando una nueva tecnología de capacitación, lo que también causó preocupaciones en la industria: si los profesionales de la seguridad aún pueden ver claramente la lógica de razonamiento del modelo.
OpenAI publicó una carta abierta la semana pasada, advirtiendo que las organizaciones solo tienen meses para responder a la amenaza de ciberataques basados en IA.
El propio Brockman emitió una advertencia similar en un artículo el mes pasado.
Crear conciencia sobre la protección de la infraestructura crítica es solo el primer paso y no puede resolver los problemas prácticos de fondos insuficientes y escasez de talento en los equipos de seguridad que comúnmente enfrentan estas instituciones.
Comentarios