Resumen:
El acceso ilegal a modelos de inteligencia artificial y potencia informática se está convirtiendo rápidamente en el producto más popular en el mundo criminal cibernético. Los piratas informáticos intentan explotar modelos de lenguaje grandes y costosos para chantajear, hacer guerras y espionaje. John Hultquist, analista principal de Google Threat Intelligence Group, dijo que el grupo de ciberseguridad ha visto un aumento significativo en los ataques llamados "LLM-jacking" este año, que incluyen la venta de credenciales de inicio de sesión robadas para herramientas públicas de inteligencia artificial y grupos que roban recursos informáticos para ejecutar sus propios modelos de forma gratuita.
“Lo que estamos viendo en el mercado clandestino es una economía en crecimiento en torno al acceso a la IA”, afirmó Hultquist, un veterano con 20 años de experiencia en ciberseguridad.
Hultquist advirtió que obtener costosos recursos de IA a bajo costo dará a los ciberatacantes una ventaja financiera sobre sus objetivos, que también necesitan utilizar estas herramientas de IA para protegerse.
Dijo: "Al final del día, todas estas acciones les dan algún tipo de ventaja económica o de eficiencia sobre nosotros porque en realidad pueden obtener estos tokens a un precio mucho más barato".
Investigadores de la Unidad de Inteligencia sobre Amenazas de Google han descubierto que algunos mercados de la web oscura venden acceso a modelos de IA de empresas como Anthropic, Google y OpenAI con descuentos de hasta el 97 %. Las versiones más avanzadas de ChatGPT y los servicios de suscripción de IA de Claude cuestan hasta 200 dólares por usuario al mes.
Dado que AI Labs monitorea signos de dicho abuso, algunos vendedores incluso ofrecen "acceso garantizado", prometiendo nuevas credenciales de inicio de sesión gratuitas si la cuenta original es prohibida, dijo Hultquist.
En otros casos, bandas criminales y organizaciones respaldadas por el Estado piratean servidores alojados por empresas en la nube e implementan sus propios modelos de IA para ejecutarlos en los sistemas de destino. Este enfoque es similar a intentos anteriores de actores de amenazas de comprometer computadoras de terceros para la minería de criptomonedas.
La IA ya es utilizada por "todos los actores de amenazas", dijo Hultquist, añadiendo que las herramientas de IA deben convertirse en una parte integral de los sistemas de ciberseguridad en el futuro. En el informe trimestral más reciente de Anthropic sobre el abuso de la IA, la compañía descubrió que actores de amenazas de más de 20 países, incluidos Estados Unidos, el Reino Unido y Yemen, habían intentado utilizar su herramienta Claude para actividades maliciosas.
Dijo: "Cualquiera que piense que la IA es sólo una moda pasajera y quiera que desaparezca, un día se despertará y descubrirá que se ha sentido abrumado. Se enfrentará a más incidentes de seguridad, más alertas y más ataques que nunca. Debemos ocuparnos de nuestros propios asuntos ahora".
Hultquist advirtió que a medida que más y más grandes empresas busquen implementar modelos de IA personalizados en sus propios servidores en lugar de alquilar potencia informática a proveedores de servicios en la nube, estos sistemas también se convertirán en objetivos de ataques y deberán protegerse estrechamente. "Si estás pagando por la potencia informática, y la potencia informática puede ser muy cara... entonces se convierte en un recurso potencial muy atractivo a los ojos de los actores de amenazas".
Hultquist también dijo que ahora es el mejor momento para que los piratas informáticos se "infiltren" en las cuentas objetivo y en los servidores informáticos, porque las empresas todavía están averiguando cuántos recursos de IA utilizarán.
Dijo: "Puede pensar que un aumento repentino y grande en el uso de la potencia informática es completamente normal porque acaba de implementar tanta infraestructura de inteligencia artificial. Esto les da a algunas personas la oportunidad de esconderse en el ruido".
Comentarios