Los reguladores británicos quieren abrir una investigación sobre Grok, el chatbot de IA de la plataforma X de Musk, y advirtieron que si no frena su generación de agresiones sexuales y contenidos "deep fake", la plataforma podría enfrentarse a una prohibición en el Reino Unido o a enormes multas. El caso destaca la determinación del Reino Unido de implementar una regulación más estricta de las redes sociales y las plataformas de inteligencia artificial generativa en virtud de la Ley de Seguridad en Línea.
El regulador británico de medios Ofcom dijo que había iniciado una investigación formal sobre el chatbot Grok en la plataforma X porque se utilizaba para generar y distribuir imágenes pornográficas "deepfake" de mujeres y niños, incluidas "imágenes íntimas" sin el consentimiento de los sujetos y contenido ilegal que involucraba abuso sexual infantil. Un portavoz de Ofcom dijo que los informes de que Grok estaba siendo utilizado para crear y compartir imágenes íntimas ilegales no consensuadas y material de abuso sexual infantil eran "extremadamente preocupantes" y enfatizó que las plataformas deben proteger a los usuarios del Reino Unido del contenido considerado ilegal según la ley del Reino Unido, particularmente con respecto a la seguridad infantil, y que los reguladores no dudarán en tomar medidas.
Según la Ley de seguridad en línea, si la investigación determina que La investigación se centrará en seis aspectos, entre ellos: si
El gobierno británico también optó por ponerse del lado de los reguladores. Se espera que la secretaria de Tecnología, Liz Kendall, haga una declaración sobre el asunto en la Cámara de los Comunes, y los ministros se han pronunciado anteriormente en apoyo de la decisión de Ofcom. El secretario de Negocios, Peter Kell, afirmó que incluso si X finalmente se restringe o bloquea en el Reino Unido, el gobierno apoyará a Ofcom, y criticó a X por no realizar pruebas suficientes antes de lanzar Grok, que tiene capacidades de generación y manipulación de imágenes, y por ignorar su daño potencial a la comunidad femenina.
Kyle también mencionó un caso específico: una mujer judía descubrió que su imagen había sido generada por IA y colocada fuera del campo de concentración de Auschwitz. Se difundieron en Internet fotos de ella en bikini. Este incidente le produjo "muy náuseas" y fue considerado como un ejemplo típico de deepfakes de IA que violan la dignidad humana. Algunos parlamentarios y la opinión pública creen que Ofcom sólo inició esta vez una investigación formal, en lugar de utilizar directamente poderes de emergencia o tomar medidas más drásticas e inmediatas, lo que todavía no parece lo suficientemente duro.
A nivel internacional, Malasia e Indonesia tomaron la iniciativa al tomar medidas contra Grok el fin de semana pasado, convirtiéndose en los primeros países del mundo en bloquear el acceso al chatbot, citando también preocupaciones de que podría usarse para generar imágenes pornográficas y no consensuadas de mujeres y niños. Se espera que las medidas enfaden al propietario de X, Elon Musk, quien anteriormente acusó al gobierno británico de intentar suprimir la libertad de expresión, y también podría generar insatisfacción con la actual administración estadounidense.
Sarah Rogers, subsecretaria de Estado para diplomacia pública del Departamento de Estado de Estados Unidos, acusó recientemente al Reino Unido de “considerar una medida rusa de bloqueo X”, comparando el enfoque regulatorio de Londres con los controles de Internet de Moscú. Mientras tanto, la semana pasada X restringió parcialmente la capacidad de los usuarios gratuitos para generar imágenes de Grok, pero continuó permitiendo a los usuarios de pago continuar usando el servicio que incluye capacidades extremas de manipulación de imágenes, una medida que avivó aún más la ira del público y de los grupos activistas.
La creciente disputa se produce cuando los ministros del Reino Unido también están bajo presión para considerar si deberían dejar de usar X como plataforma para que la información oficial del gobierno envíe una señal regulatoria más clara. Compañía
Artículos relacionados:
Grok, propiedad de Musk, fue prohibido en Indonesia y Malasia por imágenes sexualizadas, el primero de este tipo en el mundo