Resumen:
Dos semanas después de que un grupo de agentes de IA irrumpieran en el sistema OpenAI y atacaran a Hugging Face, el desarrollador de ChatGPT habría descubierto otra intrusión impulsada por IA, y esta vez, ellos mismos fueron el objetivo. Un equipo de investigadores de seguridad independientes utilizó el software Claude desarrollado por Anthropic para obtener acceso con éxito a la cuenta ChatGPT de un empleado de OpenAI, permitiéndole leer y modificar el contenido del caché de software privado de la empresa.
El equipo participa en un programa de minería de vulnerabilidades en OpenAI, que proporciona un entorno seguro para que los investigadores intenten ingresar a los sistemas empresariales. Informan rápidamente de las vulnerabilidades a la empresa después de descubrirlas. OpenAI pagó una recompensa de 6.500 dólares y el equipo reveló los detalles de la operación a los medios por primera vez.
Esta intrusión recientemente descubierta es uno de una serie de ciberataques recientes expuestos por investigadores y gigantes tecnológicos, todos los cuales se han basado en herramientas de IA en rápido desarrollo. Aunque la industria lleva meses advirtiendo sobre las potentes capacidades de los sistemas de IA, este incidente demuestra una vez más que la complejidad de los sistemas informáticos actuales hace extremadamente difícil defenderse de ellos.
El sábado, el director ejecutivo de OpenAI, Sam Altman, y sus pares pidieron una moratoria sobre el desarrollo de la inteligencia artificial, diciendo que el ritmo actual de desarrollo está dificultando que las empresas que desarrollan la tecnología respondan de manera segura a posibles daños. El miércoles, OpenAI reveló un incidente de seguridad no revelado anteriormente y anunció nuevas políticas sobre cómo informará tales problemas en el futuro.
OpenAI dijo que los piratas informáticos descubrieron dos problemas: uno era una vulnerabilidad en Discourse, un servicio de terceros que alberga el foro de discusión de la comunidad OpenAI, y el otro era un problema con la propia empresa. OpenAI dijo que estos dos problemas ya se han resuelto.
"Agradecemos a los investigadores por contactarnos y compartir sus hallazgos. Hemos reducido los permisos del token de inicio de sesión de la comunidad y revocado los tokens y sesiones afectados", dijo la compañía.
Un portavoz de Anthropic declinó hacer comentarios.
Comentarios