La investigación surge tras lo que Ofcom describió como 'informa profundamente preocupantes' que indicaban que las herramientas de edición de imágenes de Grok se utilizaban para desnudar a personas sin su consentimiento y crear contenido explícito que luego se compartía en X.
Se informó de que han circulado múltiples ejemplos de este tipo de imágenes en la plataforma, e incluso una mujer afirmó haber creado más de 100 imágenes alteradas de ella.
Si Ofcom concluye que X infringió la Ley de Seguridad en Línea del Reino Unido, el regulador tiene la facultad de multar a la empresa con hasta 18 millones de libras esterlinas o el 10 por ciento de sus ingresos globales, la cantidad que sea mayor.
En casos extremos, también podría solicitar una orden judicial que exija a los proveedores de servicios de internet bloquear el acceso a X en el Reino Unido.
La secretaria de Tecnología, Liz Kendall, acogió con satisfacción la investigación e instó a Ofcom a actuar con rapidez.
Declaró:
'El público, y sobre todo las víctimas, no aceptarán ninguna demora'.
El exsecretario de Tecnología, Peter Kyle, fue aún más contundente, calificando de 'espantoso' que Grok pareciera haber sido desplegado sin las garantías suficientes, citando un caso en el que una imagen generada por IA situó a una mujer en una situación sexualizada en Auschwitz.
Ofcom examinará ahora si X no eliminó el contenido ilegal con prontitud tras tener conocimiento de ello, y si la plataforma tomó las 'medidas adecuadas' para impedir que los usuarios del Reino Unido accedieran a dicho material.
El regulador confirmó que las imágenes íntimas no consensuadas y las imágenes de contenido sexual infantil se consideran contenido ilegal y deben ser vigiladas.
La investigación se suma a la creciente presión internacional sobre la plataforma de Elon Musk.
Durante el fin de semana, Malasia e Indonesia bloquearon temporalmente el acceso a las herramientas de imagen de Grok ante preocupaciones similares.
Musk acusó previamente al gobierno del Reino Unido de buscar 'cualquier excusa para censurar', pero Ofcom afirmó que el caso se trataría como un 'asunto de máxima prioridad'.
