Microsoft ha iniciado procedimientos legales contra una red de ciberdelincuentes por supuestamente abusar de la tecnología de IA generativa, incluido su propio servicio Azure Open AI. En una denuncia enmendada relacionada con una demanda civil reciente, el gigante tecnológico nombró a cuatro desarrolladores clave detrás de herramientas maliciosas diseñadas para eludir la red protectora de sus servicios de inteligencia artificial. Los acusados nombrados incluyen:
Arian Yadegarnia (alias "Fizz") - vive en Irán
Alan Krysiak (alias "Drago") - vive en el Reino Unido
Ricky Yuen (alias "cg-dot") - vive en Hong Kong
Phát Phùng Tấn (alias "Asakuri") - vive en Vietnam
Estos individuos están en el centro de lo que Microsoft llama Storm-2139, una red global de cibercrimen. Los miembros de la red supuestamente aprovecharon las credenciales públicas de los clientes para obtener acceso no autorizado a servicios de IA generativa. Posteriormente modificaron estos servicios y revendieron el acceso a otros malos actores, incluso con instrucciones explícitas de crear contenido dañino, incluidas imágenes íntimas no consentidas de celebridades y otro material explícito.
La investigación de Microsoft describe Storm-2139 como una organización dividida en tres capas clave:
Creador: desarrollador que crea una herramienta que puede abusar de un servicio de inteligencia artificial.
Proveedor: persona que modifica, suministra y entrega estas herramientas de acuerdo con diferentes niveles de servicio y estructuras de precios. .
Usuarios: usuarios finales que utilizan estas herramientas para generar contenido sintético prohibido, a menudo dirigido a celebridades o creando imágenes sexualmente explícitas. .
En diciembre de 2024, la Unidad de Delitos Digitales (DCU) de Microsoft presentó su primera demanda en el Distrito Este de Virginia, que permitió a Microsoft apoderarse de un importante sitio web utilizado por redes cibercriminales, reduciendo así significativamente sus capacidades operativas. Los documentos legales publicados en enero provocaron una reacción inmediata dentro de la red. En los canales de comunicación monitoreados, los miembros comenzaron a especular sobre la identidad de "John Doss" involucrado en el caso y, en algunos casos, intentaron culpar a otros miembros de la operación.
Además, el equipo legal de Microsoft recibió varios correos electrónicos de presuntos miembros de Storm-2139 que tenían como objetivo desviar la culpa y señalar con el dedo a otros agentes. Además, también se descubrió que alguien inició una "caja abierta" contra el asesor legal de Microsoft y difundió información personal y fotografías en línea. Este método puede tener consecuencias graves en el mundo real, como robo de identidad y acoso.
Los esfuerzos de Microsoft son parte de un compromiso más amplio para frenar el abuso de la IA generativa. Si bien el gigante reconoce que desmantelar una red cibercriminal tan arraigada es una batalla a largo plazo, las acciones legales y las interrupciones operativas destinadas a exponer a estos actores maliciosos marcan un importante paso adelante. Al exponer las actividades clandestinas de Storm-2139, la compañía no sólo pretende desmantelar las redes actuales sino también frustrar intentos futuros de convertir la tecnología de inteligencia artificial en un arma.
En general, este caso destaca los desafíos que plantean los ciberdelincuentes en la era digital y la necesidad de una protección continua y coordinada de las tecnologías innovadoras contra el uso indebido.