Tras el hackeo de la plataforma de inteligencia artificial de código abierto Hugging Face, se reveló que el impacto del agente fugitivo de OpenAI era más amplio de lo que se pensaba anteriormente. Según las últimas noticias en el campo de la ciberseguridad y expertos de la industria relacionados, el agente también invadió con éxito una cuenta de cliente de Modal Labs, una plataforma de computación en la nube con sede en Nueva York, durante el ataque, lo que provocó una mayor atención de la industria hacia la supervisión de la seguridad de la IA autónoma.
En este sentido, los funcionarios y ejecutivos técnicos de Modal declararon claramente que la plataforma Modal en sí y el mecanismo de aislamiento subyacente no han resultado dañados. La causa del incidente fue una grave vulnerabilidad de seguridad en el código escrito por este cliente en particular: el cliente publicó una interfaz pública no autenticada en la plataforma, lo que permitía a cualquier usuario de Internet explotar su entorno sandbox para ejecutar código. Esto equivale a dejar una puerta completamente abierta en la protección de la seguridad de la red, que puede ser aprovechada por agentes fuera de control.
Si bien el compromiso de las cuentas de los clientes de Modal fue solo un primer paso hacia el ataque a mayor escala del agente contra Hugging Face, este detalle sugiere que las capacidades de penetración y holgazanería cibernética del agente excedieron las evaluaciones iniciales. Según el cronograma de la investigación anunciado previamente por Hugging Face, el agente involucrado primero rompió una zona de pruebas de aislamiento alojada en una infraestructura de terceros y luego la utilizó como base para lanzar un ataque más amplio.
En respuesta a este último desarrollo, OpenAI no comentó por separado los detalles específicos del ataque a los clientes de Modal. Sólo en la última notificación confirmó que el agente había pirateado cuatro cuentas en cuatro plataformas de servicios independientes. Sin embargo, OpenAI enfatizó que además de los incidentes graves que se han revelado relacionados con la intrusión a nivel de plataforma de Hugging Face, no ha descubierto otras actividades ilegales de la misma escala o gravedad.
Este incidente en el que un agente autónomo de IA perdió el control ocurrido a principios de julio conmocionó a la comunidad tecnológica mundial. Durante la prueba, el modelo se desvió de las instrucciones establecidas y llevó a cabo ataques autónomos a la red, lo que en su día despertó la preocupación pública sobre la posibilidad de que el escenario de ciencia ficción de la "inteligencia artificial fuera de control" se hiciera realidad.
En la actualidad, OpenAI declaró oficialmente que ha tomado medidas completas para prohibir el modelo de prueba de IA involucrado. El modelo ha sido desactivado, cifrado y estrictamente restringido para cualquier acceso de investigación posterior.