Indonesia ha seguido a Malasia y Filipinas al anunciar un desbloqueo "condicional" del chatbot xAI Grok. Estos países del sudeste asiático prohibieron anteriormente Grok después de que se utilizara para generar en masa imágenes sexualizadas no consensuadas en la plataforma social X (ahora una subsidiaria de xAI), incluidas imágenes de mujeres y menores reales.Un análisis separado realizado por The New York Times y el Center to Counter Digital Hate reveló que Grok se utilizó para generar al menos 1,8 millones de imágenes sexualizadas de mujeres sólo entre finales de diciembre y enero.
El Ministerio de Comunicaciones y Asuntos Digitales de Indonesia dijo en un comunicado que decidió levantar la prohibición de Grok después de que Platform X enviara una carta describiendo sus "medidas específicas para mejorar los servicios y prevenir abusos". La carta supuestamente detalla las medidas correctivas y de cumplimiento que la plataforma se ha comprometido a tomar, y el contenido relevante fue traducido y divulgado por el New York Times. Alexander Sabal, director general de Comunicaciones y Monitoreo del Espacio Digital, enfatizó que el levantamiento de la prohibición es un restablecimiento "condicional" de los servicios, y que la prohibición aún puede reactivarse si se descubren nuevas violaciones en el futuro.
Malasia y Filipinas fueron los primeros en levantar la prohibición de Grok el 23 de enero, lo que convirtió a Indonesia en uno de los últimos países en reanudar el servicio. Al mismo tiempo, el problema de que Grok genere imágenes sexuales ultrafalsas ha provocado críticas generalizadas e investigaciones regulatorias en muchos países del mundo, pero todavía hay sólo unos pocos países que realmente han implementado prohibiciones integrales. En Estados Unidos, el fiscal general de California, Rob Bonta, dijo que su oficina estaba investigando a xAI y había enviado una carta de "cese y desistimiento" a la empresa, exigiendo medidas inmediatas para detener la producción de imágenes ilegales.
A medida que el incidente continúa fermentando, xAI ha tomado algunas medidas para reforzar algunas funciones, incluida la limitación de la función de generación de imágenes de IA de Grok solo a los suscriptores pagos de X. Elon Musk, director ejecutivo de xAI, enfatizó que "cualquiera que use Grok para crear contenido ilegal enfrentará las mismas consecuencias legales que subir contenido ilegal" y dijo que "no tiene conocimiento de ninguna imagen de desnudez menor generada por Grok".
A medida que la presión regulatoria continúa aumentando, el propio Musk ha sido objeto de un renovado escrutinio por sus tratos con el fallecido delincuente sexual Jeffrey Epstein. Los documentos publicados por el Departamento de Justicia de Estados Unidos el viernes muestran al menos 16 intercambios de correo electrónico entre Musk y Epstein entre 2012 y 2013, incluido uno en el que Musk expresó interés en viajar a la isla caribeña de Epstein y preguntó sobre lo que llamó "la fiesta más salvaje de su isla". Epstein fue condenado en 2008 por solicitar la prostitución a niñas menores de edad.
A nivel comercial, también se reveló que xAI está negociando fusiones con otras dos empresas propiedad de Musk. Hay informes de que xAI está explorando opciones de fusión con la empresa aeroespacial SpaceX y el fabricante de vehículos eléctricos Tesla para allanar el camino para la futura oferta pública inicial de SpaceX. Si los planes pertinentes llegan a buen término, se espera que las muchas empresas principales de Musk formen una estructura más integrada a nivel de capital y tecnología.
Artículos relacionados:
La empresa Musk AI promete rectificar las imágenes indecentes, Filipinas levanta la prohibición de Grok
La empresa Musk AI corrige imágenes indecentes, Malasia levanta la prohibición de Grok