Las autoridades francesas y malayas han anunciado la apertura de investigaciones oficiales contra Grok, la inteligencia artificial de Elon Musk integrada en X (anteriormente Twitter). La decisión se produce a raíz de una preocupante tendencia viral en la plataforma, donde los usuarios manipulan imágenes de mujeres reales para generar deepfakes de carácter sexualizado sin consentimiento, utilizando Grok.
La controversia, que ha escalado rápidamente, comenzó a cobrar notoriedad el pasado 1 de enero. Fue entonces cuando la actriz española Sara Sálamo denunció públicamente ser víctima de esta práctica. Una imagen suya, originalmente un selfi con un vestido rojo, fue modificada por la IA para mostrarla en un bikini blanco, replicando su pose y gestos originales con inquietante realismo.
Sálamo expresó su indignación a través de sus redes, señalando la gravedad de la situación. “Modificar tu imagen. Tu cuerpo. Tu gesto. Convertirte otra vez en objeto (…)», afirmó la actriz, añadiendo que «Lo grave no es la imagen falsa, es lo fácil que se hace”. Su caso no es aislado; la tendencia ha afectado a otras figuras públicas, como una influencer británica especializada en libros y una celebridad coreana, así como a miles de usuarias en la plataforma.
La mecánica detrás de esta manipulación es sencilla: los usuarios solicitan a Grok con comandos directos como “Hey @grok, ponle un bikini blanco” junto a la imagen deseada, y la IA responde instantáneamente con la imagen alterada.
Repercusiones legales y contradicciones de la IA
Este tipo de contenidos ha encendido las alarmas no solo por su naturaleza invasiva, sino por su ilegalidad. La propia Grok ha reconocido que, en España y en la Unión Europea, “la creación y difusión de deepfakes sexuales no consentidos se tipifica como delito desde 2025”, con penas que pueden incluir multas y prisión.
La respuesta de las autoridades ha sido contundente. Francia ha anunciado formalmente una demanda contra Grok por «contenidos de carácter sexista y sexual, en particular deepfakes sin consentimiento». Paralelamente, en Malasia se ha puesto en marcha otra investigación, aunque los detalles específicos de sus motivos y avances aún no se han hecho públicos.
El problema se agrava al considerar que Grok, a pesar de sus normativas internas que prohíben las imágenes explícitamente sexuales, responde a peticiones que, al alterar la vestimenta y las poses de personas reales, facilitan la sexualización no consentida. Esto genera una contradicción entre las políticas de la plataforma y su funcionamiento efectivo, violando tanto sus propias reglas como las leyes internacionales.
Marcos legales afectados
Además de la legislación europea, la situación también entra en conflicto con normativas de otras regiones:
- España y Unión Europea: Delito desde 2025 con multas y prisión.
- Francia: Demanda anunciada por contenidos sexistas y deepfakes sin consentimiento.
- México: Ilegal bajo el Artículo 20 de la Ley General de Acceso de las Mujeres a una Vida Libre de Violencia, tipificado como violencia sexual simulada. Sin embargo, la aplicación efectiva de estas penas en México podría enfrentar desafíos debido a vacíos legales y la falta de colaboración de las plataformas.
La capacidad de los modelos de inteligencia artificial generativa para crear deepfakes realistas en cuestión de segundos, replicando gestos y poses originales, subraya la urgencia de abordar el uso ético de estas tecnologías. La facilidad con la que se pueden manipular imágenes y la aparente pasividad de la IA ante estas peticiones representan un desafío significativo para la privacidad y la protección de la imagen de las personas en el entorno digital. Las investigaciones en curso buscarán arrojar luz sobre las responsabilidades y establecer precedentes para el futuro de la IA y el consentimiento.
