La creciente proliferación de deepfakes ha impulsado un debate sobre cómo combatir esta forma avanzada de manipulación audiovisual. La solución, paradójicamente, parece residir en crear más deepfakes para que las herramientas de detección basadas en inteligencia artificial puedan aprender y enfrentarse eficazmente a estas falsificaciones.
El concepto de deepfake se refiere a vídeos o audios generados mediante técnicas de aprendizaje profundo, que permiten imitar voces o imágenes para crear contenidos falsos que aparentan autenticidad. Aunque no son una amenaza nueva, la democratización de la inteligencia artificial ha facilitado que cualquiera pueda producir deepfakes con relativa facilidad.
El reto de detectar deepfakes usando inteligencia artificial
Un ejemplo reciente de la dificultad que conlleva esta tarea lo experimentó el equipo de Reality Defender, una empresa dedicada a detectar deepfakes mediante modelos de IA. Su intento de hacer una llamada a los familiares de un periodista con una voz generada mediante deepfake no logró engañar a los interlocutores, que percibieron la voz como artificial o robótica. Esto refleja que, aunque la tecnología ha avanzado, todavía presenta limitaciones para reproducir con precisión detalles personales como tono, ritmo o expresiones idiomáticas.
Reality Defender y otras startups como Pindrop o GetReal están desarrollando sistemas de detección que combinan modelos de aprendizaje supervisado para distinguir entre contenido real y manipulado. Su metodología consiste en entrenar estas IAs con grandes volúmenes de datos etiquetados — ‘reales’ y ‘falsos’ — para que aprendan a identificar patrones que escapan al ojo humano.
La efectividad de estas herramientas es todavía desigual, especialmente en situaciones cotidianas donde las voces o imágenes deben ser reconocidas de manera rápida y fiable. A menudo deben sacrificar calidad para responder con velocidad, lo que limita su aplicación inmediata en contextos familiares o informales.
Implicaciones en fraude y seguridad corporativa
La industria que detecta deepfakes se concentra sobre todo en prevenir fraudes corporativos. Según estudios recientes, las empresas llegan a perder cientos de miles de euros en ataques que utilizan deepfakes para suplantar a ejecutivos y ordenar transferencias fraudulentas. Este tipo de fraude ‘industrial’ supone un riesgo creciente, por lo que bancos y grandes compañías destinan recursos para implementar detección automática en sus sistemas.
Un caso preocupante es el uso de deepfakes para suplantar empleados en procesos de selección de personal, facilitando contrataciones fraudulentas mediante identidades digitales con voces y rostros alterados. La sofisticación de estas técnicas hace que tradicionales métodos de verificación, como pedir a la persona que realice gestos específicos, ya no sean efectivos.
Crear deepfakes para contrarrestar deepfakes: una paradoja necesaria
Este planteamiento no es nuevo ni exclusivo del sector empresarial. Sam Altman, CEO de OpenAI, afirmó en una entrevista que la única manera realista de combatir los deepfakes es generando más deepfakes, una estrategia que busca crear una saturación de contenido falso que obligue a la sociedad a desarrollar un escepticismo saludable hacia los contenidos audiovisuales.
Esta saturación, según Altman, promovería la implementación de nuevas herramientas de verificación como firmas digitales criptográficas y marcas invisibles, que permiten identificar con certeza la autenticidad de un contenido. Entre estas tecnologías destacan iniciativas como C2PA, impulsada por Adobe y Microsoft, y esfuerzos académicos que entrenan detectores con grandes bases de datos de deepfakes sintéticos.
Este enfoque representa un cambio cultural: dejar de creer ciegamente en la evidencia visual y auditiva y avanzar hacia métodos tecnológicos que garanticen la confianza en el contenido digital. Sin embargo, plantea desafíos éticos porque en el corto plazo puede aumentar la confusión y la desinformación.
Diversos expertos coinciden en que la educación y la concienciación pública son fundamentales para afrontar esta nueva realidad. A día de hoy, el acceso a tecnologías de detección está limitado a grandes empresas que pueden asumir sus costes, mientras que el usuario medio carece de herramientas accesibles para defenderse.
En definitiva, el fenómeno de los deepfakes no solo cuestiona la confianza en los sentidos, sino que obliga a construir nuevas barreras de seguridad basadas en inteligencia artificial y en protocolos de verificación que serán esenciales para preservar la integridad de la información.
