YouTube ha ampliado su sistema de detección de deepfakes generados por inteligencia artificial, permitiendo ahora que figuras públicas y celebridades puedan localizar y solicitar la eliminación de vídeos falsos que utilicen su imagen sin autorización.
Esta nueva función, disponible para personas públicas inscritas en el programa, escanea el contenido subido a YouTube en busca de deepfakes que empleen su semejanza facial, marcándolos para revisión y posible retirada conforme a la política de la plataforma. La herramienta se basa en tecnología avanzada que analiza principalmente rasgos faciales, requiriendo además que el usuario aporte una identificación oficial y un vídeo selfie para verificar la autenticidad de la solicitud.
Funcionamiento de la detección de deepfakes en YouTube
La herramienta denominada «Detectar deepfakes», integrada en YouTube Studio, permite a celebridades y creadores verificados con más de 1.000 suscriptores identificar posibles vídeos falsos en la plataforma. Utiliza inteligencia artificial desarrollada por Google para comparar la imagen de la persona inscrita con vídeos existentes, mostrando un grado de confianza en la coincidencia y enlaces directos al contenido detectado.
En caso de encontrar material manipulado que resulte engañoso o que infrinja las normas, como deepfakes de contenido pornográfico no consentido o desinformación, estos pueden ser solicitados para su retirada. Sin embargo, la eliminación no está garantizada automáticamente, ya que cada petición se evalúa cuidadosamente para respetar excepciones a la libertad de expresión, como en casos de parodia o sátira.
El sistema ha comenzado su despliegue en Estados Unidos e India, con planes de expansión a nivel global. Desde su testeo inicial con creadores en otoño, y su reciente ampliación a políticos y periodistas, YouTube destaca que esta herramienta complementa su política contra contenido alterado sintéticamente, vigente desde noviembre, y que se asemeja en objetivo a Content ID, aunque sin opciones actuales de monetización compartida.
Implicaciones para celebridades y la industria del entretenimiento
La implementación de esta función responde en parte a casos relevantes donde deepfakes han afectado la privacidad y reputación de estrellas, como la aparición de vídeos pornográficos falsos no consentidos. Además, abre un camino para que los protagonistas del sector del entretenimiento controlen mejor su imagen en Internet y decidan qué contenido generado por IA puede permanecer en la plataforma.
Algunos representantes del sector ven en los deepfakes una vía para fidelizar a la audiencia, permitiendo la circulación de contenidos generados con inteligencia artificial siempre que exista un acuerdo y compensación económica para los artistas. Por ejemplo, la agencia CAA mantiene bases de datos con datos biométricos de sus clientes, que pueden servir para usos comerciales basados en inteligencia artificial.
Además, YouTube anunció recientemente funciones para que creadores clonaran digitalmente su imagen mediante IA, una tendencia que apunta a un futuro donde la gestión de la identidad digital se convertirá en un aspecto estratégico para artistas y creadores.
Limitaciones y consideraciones legales
A pesar de su potencial, la herramienta no detecta todos los deepfakes existentes, especialmente aquellos con alteraciones más sutiles o ediciones tradicionales. YouTube también establece salvaguardas para evitar abusos, revisando manualmente cada solicitud de retirada.
Los derechos de uso, monetización y control sobre este tipo de contenidos están en evolución y aún no se han establecido mecanismos claros para que las figuras públicas obtengan ingresos derivados del uso legítimo de su imagen mediante IA en plataformas digitales.
El desarrollo de esta funcionalidad debe enmarcarse en un diálogo mayor sobre la ética de la inteligencia artificial aplicada al entretenimiento, la protección de la privacidad y la libertad de expresión, aspectos que seguirán siendo objeto de debate en los próximos años.
En definitiva, esta iniciativa de YouTube es un avance relevante para la protección de la imagen digital en la era de la inteligencia artificial, especialmente para quienes tienen una presencia pública destacada. Sin embargo, mantiene desafíos importantes para garantizar un equilibrio adecuado entre control, acceso y regulación en un entorno en constante transformación.
