A principios de año saltó el escándalo del uso de la IA de Grok para «desnudar» a mujeres en X,
En un comunicado, la Comisión detalló que la investigación valorará si la empresa ha evaluado y mitigado adecuadamente los riesgos asociados al despliegue en la UE de Grok. Esto incluye los riesgos relacionados con la difusión de imágenes sexualmente explícitas manipuladas, incluidos los contenidos que puedan constituir material de abuso sexual de menores.
Según la Comisión, “estos riesgos parecen haberse materializado, lo que expone a los ciudadanos de la UE a graves perjuicios”. En vista de ello, la Comisión seguirá investigando si X cumple sus obligaciones en virtud del Reglamento de Servicios Digitales.
La vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia de la Comisión, Henna Virkkunen, afirmó que “los ‘deepfakes’ sexuales de mujeres y niños son una forma violenta e inaceptable de degradación” y con esta investigación determinarán si X ha cumplido sus obligaciones legales en virtud del Reglamento de Servicios Digitales “o si ha considerado los derechos de los ciudadanos europeos, incluidos los de las mujeres y los niños, como daños colaterales de su servicio”.
