Resumen:
Unas semanas antes de que el departamento de inteligencia artificial de SpaceX lanzara Grok Bot, un producto de agente de inteligencia artificial personal, en agosto, los ingenieros de Cursor descubrieron una vulnerabilidad potencial. En ese momento, SpaceX estaba adquiriendo Cursor, una startup de código de IA, y Cursor desarrolló Grok Bot. Durante el proceso de desarrollo, todos los empleados de Cursor utilizaron ampliamente esta herramienta para pruebas y trabajo diario.
A finales de julio, los ingenieros expresaron su preocupación de que Cursor pudiera haber enviado datos generados por pruebas internas, que pueden contener información confidencial de clientes, proveedores y socios comerciales, al departamento de inteligencia artificial de SpaceX. Según comunicaciones internas revisadas por los medios, un abogado de Cursor advirtió que una vez que los externos se enteran de que la empresa utiliza los datos para la formación de modelos, puede desencadenar una "grave crisis de confianza".
Cursor inició inmediatamente una investigación interna para descubrir qué datos confidenciales, si los hubo, se enviaron a la unidad de inteligencia artificial de SpaceX, ahora conocida como SpaceX SI, según documentos internos revisados por los medios y dos personas familiarizadas con el proyecto. La conclusión de esta investigación interna no está clara, pero la empresa ha tomado medidas para garantizar que la formación modelo posterior ya no incorpore datos generados por el uso de los empleados.
El incidente pone de relieve un desafío que enfrentan las empresas de investigación y desarrollo de IA, que se ha vuelto cada vez más prominente a medida que las herramientas de agentes como Grok Bot se vuelven más populares. Este tipo de agente está diseñado para recibir permisos más altos y puede atravesar varios archivos y aplicaciones en la computadora del usuario para completar tareas de forma autónoma.
Pero este alto grado de libertad conlleva nuevos riesgos de seguridad, incluido el suministro inadvertido de información confidencial al modelo para su capacitación. En general, las principales empresas de inteligencia artificial han declarado que no utilizarán datos obtenidos de herramientas de Internet como Gmail y Google Cloud Disk para realizar capacitación de modelos. Por ejemplo, en los términos de servicio de Grok Bot, SpaceX SI establece que la empresa no utilizará los datos de Google Cloud Disk para entrenar modelos y los usuarios pueden optar por negarse a compartir sus propios datos para este fin.
La investigación de datos relacionada con Grok Bot no es el único incidente de seguridad de datos que ha encontrado Cursor. Las comunicaciones internas revisadas por los medios mostraron que este verano, los empleados de la empresa filtraron accidentalmente información de los clientes a través de un sitio web de acceso público creado para uso interno.
SpaceX SI no respondió a una solicitud de comentarios.
Incluso antes de que SpaceX completara la adquisición de Cursor por valor de 60 mil millones de dólares a mediados de agosto, Cursor estaba expandiendo su negocio y ya no se limitaba a herramientas de codificación. Una vez completada la adquisición, Grok Bot, un asistente de colaboración de IA para todo clima que puede manejar diversas tareas, se ha convertido en el producto principal de SpaceX SI para competir por el lucrativo mercado de herramientas de IA a nivel empresarial.
Dos personas familiarizadas con el asunto revelaron que para optimizar la versión inicial de Grok Bot, Cursor organizó que la empresa, los empleados de SpaceX SI y personas y empresas externas probaran el producto, mientras recopilaban registros de comportamiento del usuario en el uso del agente. Cursor puede usar estos datos para entrenar el modelo de IA, lo que permite que el modelo aprenda cómo el agente realiza las tareas, incluidas las operaciones realizadas y la información recuperada durante la tarea.
Romain Ugarte, exjefe de crecimiento de Cursor, mencionó en una entrevista en un podcast que alrededor de junio, los empleados internos de Cursor fueron los primeros en utilizar Grok Bot, entonces con el nombre en código Sand. El producto rápidamente se hizo popular dentro de la empresa, y los empleados lo utilizaban para gestionar las ventas, la contratación, la investigación y otras tareas. A menudo autorizaban que el software accediera a los sistemas de la empresa, permitiéndoles trabajar de forma independiente. Personas familiarizadas con el asunto dijeron que esto significa que los empleados usarán el agente en escenarios en los que interactúan con clientes externos y entrevistan a candidatos potenciales, exponiéndolo potencialmente a información confidencial en conversaciones de ventas, archivos de clientes y comunicaciones de reclutamiento.
Pero en julio, poco antes de que Cursor lanzara Grok Bot, algunos ingenieros advirtieron en el canal de notificación de incidentes de Slack: los datos de entrenamiento recopilados por la empresa de los escenarios de uso internos de Sand pueden contener información confidencial, y este lote de datos puede haber sido transferido a SpaceX SI.
Como parte de su investigación, Cursor revisó la variedad de usuarios incluidos en el conjunto de datos de capacitación, basándose en comunicaciones internas y personas familiarizadas con el tema. Una persona familiarizada con el asunto dijo que algunos empleados de Cursor utilizaron correos electrónicos personales para iniciar sesión en Sand, lo que dificultó a la empresa identificar a dichos usuarios y eliminar sus datos de capacitaciones posteriores.
Con este fin, Cursor ha impuesto restricciones: los empleados deben utilizar el correo electrónico de la empresa para iniciar sesión en Sand y ha decidido no incluir ningún dato generado por los empleados de Cursor en futuras capacitaciones.
El abogado de Cursor escribió en el canal Slack de la empresa: "Desde una perspectiva legal, Sand es una herramienta general y su conjunto de datos contiene información confidencial sobre clientes, socios, proveedores, etc. Estrictamente hablando, no tenemos la autoridad legal para utilizar estos datos para la capacitación de modelos".
Esta no es la primera vez que Cursor ha tenido que limpiar el desorden por el mal manejo de los datos del usuario.
Las comunicaciones internas revisadas por los medios mostraron que a principios de este año ocurrió un incidente no reportado anteriormente: el personal de ventas y marketing de Cursor expuso accidentalmente información del cliente en Internet. El problema radicaba en los sitios web que el equipo creó basándose en la plataforma de desarrollo de sitios web Vercel, que fueron utilizados por los equipos de ventas y marketing para mantener relaciones con los clientes existentes y potenciales.
Los documentos muestran que uno de los sitios web se utiliza para administrar la conexión de clientes con Verizon. El sitio web contiene un organigrama de parte de la gestión técnica de Verizon, que enumera varios usuarios principales de la herramienta Cursor interna de Verizon, las cantidades de consumo de productos y la dirección de correo electrónico de cada usuario.
Los registros de comunicación interna de Cursor muestran que, aunque el sitio web relacionado con Verizon tiene una contraseña, la contraseña, junto con toda la información del cliente, se escribió directamente en el código subyacente. Cualquier usuario de Internet que vea el código puede obtener la contraseña y la información del cliente.
Las comunicaciones internas también muestran que la empresa ha encontrado problemas similares con datos de otras empresas como Bosch y Coupa. Después de descubrir la vulnerabilidad, los ingenieros de Cursor desconectaron urgentemente el sitio web correspondiente. Incluso le dieron un nombre largo al canal de Slack dedicado a discutir este interminable problema: "Un gran número de sitios web de GTM filtraron datos internos/de clientes" (GTM significa Go to Market).
Bosch remitió las consultas a Cursor, Coupa se negó a hacer comentarios, Verizon no respondió a las solicitudes de entrevista y Vercel se negó a hacer comentarios.
Mucho antes de que Cursor se fusionara con SpaceX SI, el departamento de inteligencia artificial de la compañía aeroespacial había encontrado incidentes de seguridad de datos similares. En marzo de 2025, un empleado de SpaceX SI subió por error un script de prueba al repositorio de código público de GitHub, filtrando la clave de interfaz del programa de aplicación Grok. Los externos pueden usar la clave para acceder al modelo xAI que no se ha hecho público.
Este verano, un investigador descubrió que la herramienta para desarrolladores de SpaceX, Grok Build, cargaría el repositorio de código Git completo en Google Cloud Storage de SpaceX, lo que podría filtrar código fuente propietario o credenciales de identidad que los desarrolladores no tenían intención de hacer públicas. En respuesta, xAI cerró la función de carga del almacén e hizo que la herramienta fuera de código abierto. Elon Musk publicó en la plataforma X: "Todos los datos de usuario cargados previamente en SpaceX AI se eliminarán total y completamente".
Comentarios