Según Reuters,La ciudad de Baltimore en Estados Unidos presentó formalmente una demanda contra xAI, una empresa de inteligencia artificial propiedad de Elon Musk, acusando a su chatbot de IA Grok de generar ilegalmente imágenes sexualmente explícitas no consentidas y contenido de explotación sexual infantil.Como la ciudad más grande hasta la fecha que ha demandado a xAI por el tema de "falsificación profunda", Baltimore, con una población de alrededor de 568.000 habitantes, señaló en una demanda presentada ante el Tribunal de Circuito que xAI había empaquetado a Grok como un asistente seguro de IA de uso general, y que se sospechaba que su operación real violaba las leyes de protección al consumidor.
Los documentos judiciales revelan la gran cantidad de datos de la herramienta sobre la generación de contenidos. Según estimaciones del Anti-Digital Hate Center basadas en 20.000 muestras, a principios de este año se generaron aproximadamente 3 millones de imágenes sexualizadas realistas en la plataforma social X en 11 días, incluidos más de 23.000 contenidos ilegales que involucraban a niños. El alcalde de Baltimore, Brandon Scott, emitió un comunicado acusando a las empresas de tecnología de facilitar la explotación sexual de niños y subrayando que los responsables deben rendir cuentas legalmente. Además, la denuncia también cita como prueba un autorretrato generado por Grok con un bikini azul que Musk publicó el 31 de diciembre de 2025, acusando de que se trataba de un "respaldo público" de la capacidad de la herramienta de inteligencia artificial para generar imágenes explícitas de personas reales.
A medida que la situación empeora,Grok, lanzado en 2023, enfrenta investigaciones regulatorias en muchos lugares de América, Europa, Asia y Australia.Aunque xAI anunció a mediados de enero que restringiría las funciones de edición de imágenes de Grok en algunas jurisdicciones, y Musk insistió en ese momento en que "desconocía por completo" la generación de imágenes ilegales de menores por parte de Grok, la controversia legal no ha amainado. En esta demanda, la ciudad de Baltimore no sólo busca una multa no especificada, sino que también solicita al tribunal que emita una orden judicial para obligar a xAI a cambiar por completo las características de diseño "explotadoras" de Grok. Hasta ahora, ni la empresa matriz SpaceX ni xAI, cuya reciente valoración combinada alcanzó aproximadamente 1,25 billones de dólares, han dado una respuesta oficial a la demanda.