La Comisión Europea (CE) ha anunciado este lunes la apertura de una investigación contra la red social X por la creación de imágenes sexualizadas y desnudos sin consentimiento a través de su inteligencia artificial, Grok, y que examinará si la compañía, propiedad del magnate Elon Musk, cumple con las obligaciones de las leyes digitales europeas.
En un comunicado, Bruselas informa de que evaluará si X ha examinado adecuadamente y mitigado los riesgos asociados con la puesta en marcha de las funciones de Grok en la Unión Europea.
Esto incluye la posible distribución de contenido ilegal, como imágenes manipuladas sexualmente explícitas e que incluso pueden considerarse material de abuso sexual infantil.
Ley de Servicios Digitales
«Estos riesgos parecen haberse materializado. Por ello, la Comisión investigará si X cumple con sus obligaciones bajo la Ley de Servicios Digitales para evaluar y mitigar riesgos sistémicos (…) y de producir y enviar a la Comisión un informe de riesgos ad hoc sobre las funcionalidades de Grok que tengan un impacto clave en el perfil de riesgo de X antes de lanzarlo», ha explicado la CE.
Incluso antes de lanzar la investigación, la Comisión Europea ya había ordenado a la red social X conservar toda su documentación interna relativa a Grok durante 2026, en el marco de la investigación que mantiene abierta a la plataforma para analizar su política contra los contenidos ilegales.
La orden llegó en plena polémica por las imágenes de niños y mujeres desnudas generadas por Grok en las últimas semanas y que han llevado al Gobierno francés a denunciar a X ante los tribunales.
Esas imágenes se añaden a otros contenidos como el blanqueo del Holocausto nazi que la inteligencia artificial de X publicó a finales de 2025.
La Comisión Europea cree que, si da por probadas estas alegaciones, X estaría infringiendo varios artículos de la Ley de Servicios Digitales a la que está sujeta cuando opera en la Unión Europea, incluyendo la evaluación y mitigación de riesgos sistémicos para los ciudadanos europeos.
Multa por a X en diciembre de 2025 por «diseño engañoso»
Bruselas ya multó a X en diciembre de 2025 con 120 millones de euros por incumplir sus obligaciones de transparencia por el «diseño engañoso» de su marca de verificación azul, la falta de transparencia de su repositorio publicitario y la falta de acceso a los datos públicos para los investigadores.
En paralelo, Bruselas ha prorrogado este lunes su investigación iniciada en 2023 sobre si X cumple con sus obligaciones de gestión de riesgos de sus sistemas de recomendación de contenido, que incluirá el impacto de cambiar a uno basado en la inteligencia artificial de Grok.
Con información de EFE
