El comisionado de privacidad de Canadá señala fallas de xAI en las salvaguardias de Grok contra deepfakes
El comisionado de privacidad de Canadá, Philippe Dufresne, dijo que xAI infringió la ley federal de privacidad del sector privado al lanzar la herramienta de generación de imágenes de Grok sin salvaguardias adecuadas contra imágenes deepfake sexualizadas, según un informe publicado el 11 de junio de 2026. La conclusión no conlleva por sí misma una multa ni una orden vinculante bajo el marco actual de PIPEDA en Canadá, pero el comisionado dijo que xAI se ha comprometido a monitorear de forma proactiva los deepfakes sexualizados, en lugar de actuar solo después de recibir quejas. El caso importa más allá de Canadá porque trata las decisiones de diseño de un generador de imágenes de IA como una cuestión de privacidad y seguridad, no solo como un problema de moderación de contenidos. En Europa, el mismo riesgo se sitúa en la intersección entre la Ley de Servicios Digitales, las obligaciones de protección de datos al estilo del RGPD y las normas de transparencia de la Ley de IA para contenidos sintéticos. Para los usuarios belgas, las escuelas, las figuras públicas y las empresas en X, la cuestión práctica es si las salvaguardias de la plataforma llegan antes de que se extienda el daño reputacional o personal.
Los residentes, padres, estudiantes, figuras públicas, periodistas y pymes belgas usan las mismas plataformas globales que ahora están examinando los reguladores canadienses. El daño inmediato es personal: una imagen puede generarse, compartirse e indexarse antes de que la víctima sepa que existe. Para las empresas y organismos públicos belgas, el caso es una señal de cumplimiento, porque la Comisión Europea y las autoridades nacionales de protección de datos pueden encuadrar fallas similares bajo las normas de la UE sobre plataformas, privacidad e IA. También importa a los votantes porque el abuso sexual sintético puede disuadir a mujeres y jóvenes de participar en la vida pública.
Grok (el chatbot y producto de generación de imágenes de xAI, integrado con X y lanzado después de que Elon Musk fundara xAI en 2023) es el producto en el centro de la conclusión. xAI (la empresa de inteligencia artificial de Elon Musk, constituida en Estados Unidos en 2023) desarrolla Grok y modelos relacionados. Elon Musk (empresario estadounidense nacido en Sudáfrica que posee X y dirige Tesla, SpaceX y xAI) es la figura pública de control detrás de la empresa. Philippe Dufresne (comisionado de privacidad de Canadá desde 2022) encabeza el organismo federal de control que aplica la ley de privacidad mediante un modelo de defensoría. PIPEDA (la Ley de Protección de Información Personal y Documentos Electrónicos de Canadá, en vigor desde 2001) regula el manejo de información personal por parte del sector privado en actividades comerciales. X (anteriormente Twitter, rebautizada tras la adquisición de Musk en 2022) es la plataforma social donde se ha desplegado Grok. La Ley de Servicios Digitales (regulación de seguridad de plataformas de la UE adoptada en 2022) otorga a la Comisión Europea supervisión sobre plataformas en línea de muy gran tamaño. La Ley de IA de la UE (Reglamento 2024/1689) añade obligaciones de transparencia para contenidos generados o manipulados por IA.
Background
La pornografía deepfake surgió de comunidades de aprendizaje automático a finales de la década de 2010, pero el foco regulatorio cambió después de que la IA generativa pusiera la manipulación de imágenes al alcance de usuarios comunes. La Unión Europea adoptó la Ley de Servicios Digitales en 2022 y designó a X como plataforma en línea de muy gran tamaño en 2023, creando obligaciones de riesgo sistémico para contenidos ilegales y protección de los usuarios. La Ley de IA de la UE entró en vigor en 2024 y sus obligaciones de transparencia del Artículo 50 para audio, imagen, video y texto sintéticos serán aplicables en 2026. Los investigadores Will Hawkins, Chris Russell y Brent Mittelstadt concluyeron en 2025 que variantes públicas de modelos deepfake se habían vuelto ampliamente descargables, mostrando por qué importan las salvaguardias a nivel de plataforma.
Opposing perspectives
- Comisionado de privacidad de Canadá
El enfoque del comisionado es que el diseño de lanzamiento de Grok creó riesgo para la privacidad desde el inicio. Según esta visión, la cuestión relevante no es solo si xAI eliminó imágenes después de recibir quejas, sino si la empresa incorporó salvaguardias adecuadas antes de permitir la manipulación realista de imágenes de personas identificables.
- Defensa de xAI / operador de plataforma
La defensa más sólida disponible para xAI es procedimental y correctiva: la empresa puede argumentar que restringió la generación de imágenes dañinas, colocó funciones detrás de controles más estrictos y se comprometió a monitorear abusos de forma proactiva. Ese enfoque trata la conclusión canadiense como una brecha de cumplimiento que se está corrigiendo, más que como prueba de que el producto debería retirarse.
- Reguladores de seguridad digital de la UE
El marco regulatorio de la UE es más amplio que un solo producto. Bajo la Ley de Servicios Digitales y la Ley de IA, la cuestión es si las plataformas de muy gran tamaño y los proveedores de IA evalúan riesgos sistémicos, etiquetan contenido sintético y reducen daños previsibles antes de que material ilegal o abusivo se extienda a través de las fronteras.
Sources & evidence
- Ver fuenteAl Jazeera / Reuters - Musk's Grok accused of violating Canadian privacy laws on deepfakesPrimaria· aljazeera.com· 11 June 2026Consultada 11 June 2026· hace 45 días· Fechada
- Ver fuenteThe Guardian - New claimants seek to sue Elon Musk's xAI after Labour MP's test case· theguardian.com· 5 June 2026Consultada 11 June 2026· hace 51 días· Fechada
- Ver fuenteThe Guardian - EU launches inquiry into X over sexually explicit images made by Grok AI· theguardian.com· 26 January 2026Consultada 11 June 2026· hace 181 días· Fechada
- Ver fuenteRegulation (EU) 2022/2065 - Digital Services Act· data.europa.eu· 27 October 2022Consultada 11 June 2026· hace 1368 días· Fechada
