Una serie de incidentes relacionados con Grok, una herramienta de inteligencia artificial propiedad de la Compañía X, han llamado la atención en Japón. Se descubrió que algunos estudiantes japoneses de secundaria y universitarios habían utilizado Grok para generar imágenes sexualmente sugerentes o sexualizadas de sus compañeros de clase sin su consentimiento. Este comportamiento ha causado un malestar generalizado y los usuarios relevantes también han comenzado a preocuparse por posibles consecuencias legales.
Desde que Grok lanzó la función de generación y edición de imágenes el 24 de diciembre de 2025, han aparecido en las plataformas sociales una gran cantidad de imágenes sintéticas que generan personajes de la vida real en cuerpos desnudos o usando ropa interior reveladora, lo que ha desencadenado muchas quejas de las víctimas.
El 6 de enero, la empresa
Posteriormente aparecieron un gran número de consultas relacionadas en el sitio web japonés de asesoramiento jurídico Bengoshi.com. La mayoría de los encuestados eran adolescentes y usuarios jóvenes. Dijeron que no eran conscientes de los riesgos legales que pueden surgir al utilizar Grok. Por ejemplo, algunos estudiantes de secundaria confesaron que habían generado videos de chicas desnudas de su clase, y aunque no habían sido difundidos, les preocupaba si el acto de "hacer" en sí constituía un acto ilegal; algunos también preguntaron si dar instrucciones a la IA para que procesara a los compañeros de clase en imágenes de ropa interior se consideraría como producir contenido pornográfico; Algunos estudiantes universitarios dijeron que, aunque sus cuentas y datos han sido eliminados, todavía les preocupa si la plataforma enviará información relevante a la policía, e incluso están considerando entregarse.
Yohei Shimizu, un abogado especializado en derecho de Internet, señaló que tal comportamiento puede generar responsabilidad legal. Explicó que si las imágenes generadas involucran desnudez o contenido obviamente sexualmente sugerente, puede constituir una infracción a la reputación o privacidad de las partes; en casos graves, puede incluso implicar difamación penal o infracción de derechos de autor.
Estos incidentes en Japón también se consideran una de las controversias globales contra Grok. Los críticos argumentan que la herramienta reduce un poco el umbral para generar contenido inapropiado. Muchos usuarios que consultaron el sitio legal dijeron que no se dieron cuenta de la gravedad del comportamiento hasta que vieron la advertencia oficial de la Compañía X. Actualmente, las consecuencias que más les preocupan son la persecución penal y el impacto social en sus familias.