Grok, el chatbot de inteligencia artificial propiedad de Elon Musk, enfrenta crecientes críticas en todo el mundo y la amenaza de medidas enérgicas gubernamentales por responder a las órdenes de los usuarios en la plataforma de redes sociales X de generar imágenes sexualmente explícitas, incluidas imágenes de menores.
Las autoridades pertinentes de Malasia emitieron un comunicado el sábado diciendo que el país está investigando imágenes relacionadas generadas por Grok después de recibir quejas de que algunas personas han abusado de la tecnología de inteligencia artificial para alterar imágenes de mujeres y menores y producir contenido indecente, altamente ofensivo u otro contenido dañino.
La Comisión de Comunicaciones y Multimedia de Malasia dijo en un comunicado el sábado que la producción o difusión de dicho contenido dañino es ilegal según la ley de Malasia. El regulador de medios dijo que investigaría a los usuarios de la plataforma social X acusados de violar la ley y convocaría a representantes de la empresa para interrogarlos.
"Aunque Social Platform X no es actualmente un proveedor de servicios autorizado, tiene la responsabilidad de evitar la difusión de contenido dañino en su plataforma", afirma el comunicado.
Musk respondió en una publicación en la plataforma social.
"Cualquiera que utilice Grok para generar contenido ilegal enfrentará las mismas consecuencias que subir contenido ilegal", escribió en la publicación.
Malasia es el último país en expresar grandes preocupaciones sobre Grok. El gobierno indio envió una carta a la plataforma social Bloomberg y revisó una copia de la carta, fechada el 2 de enero.
El gobierno indio exige una plataforma social El gobierno indio también declaró que podría considerar introducir regulaciones especiales para el contenido objetable generado por inteligencia artificial en las plataformas de redes sociales.
El Ministro de Tecnología de la Información de la India, Ashwini Vaishnaw, dijo en una entrevista: "El comité parlamentario pertinente ha recomendado la introducción de una ley fuerte para regular las plataformas de redes sociales. Actualmente estamos estudiando esta propuesta".
El gobierno francés también presentó cargos el viernes pasado, alegando que Grok había generado contenido sexual "obviamente ilegal" en la plataforma social X sin el consentimiento de las partes involucradas. El gobierno francés señaló en un comunicado que las imágenes relevantes generadas por Grok pueden haber violado la Ley de Servicios Digitales de la UE. El comunicado menciona que esta regulación exige que las grandes plataformas tomen medidas para reducir el riesgo de difusión de contenidos ilegales.
El chatbot generó imágenes objetables en aparente violación de su propia política de uso aceptable, que prohíbe explícitamente la generación de contenido que involucre la sexualización de niños. Actualmente, algunas fotografías ilegales han sido retiradas de los estantes.
El periodista solicitó comentarios por correo electrónico sobre este asunto a xAI, la empresa que desarrolló Grok y opera la plataforma social.
Durante las últimas dos semanas, cada vez más usuarios de la plataforma social X le han pedido a Grok que genere imágenes y sexualice y altere fotografías de mujeres y niños. La tendencia poco saludable se extendió rápidamente por todo el mundo después de que la plataforma lanzara su función de edición de fotografías justo antes de Navidad.
Grok publicó una publicación en la plataforma social