Deepfake: ¿qué es y cómo detectarlo?

08/07/2024 | Santander Universidades

¿Viste el vestido floral que lució Katy Perry en la Gala MET 2024? Lo cierto es que la cantante no estuvo en la ceremonia. Su impresionante look fue creado con inteligencia artificial, un ejemplo más de qué es deepfake. 

Y es que, con la evolución de la IA y el aprendizaje profundo, cada vez cuesta más distinguir entre qué es real y qué es ficticio. De hecho, las previsiones apuntan a un crecimiento anual de este mercado del 27% hasta 2032, de acuerdo con Precedence Research. Es más, hoy día, seis de cada diez profesionales ya utilizan la IA generativa en sus trabajos o planean hacerlo, según McKinsey. 

El motivo de su auge es que esta revolucionaria tecnología abre un infinito mundo de posibilidades. No obstante, también conlleva serios riesgos si no se utiliza de la forma adecuada. Para evitarlos, nada mejor que profundizar en el deepfake: qué es, cómo funciona, cuáles son sus riesgos y potencial, y cómo puedes distinguir un contenido creado por IA de otro auténtico.

cta text

Deepfake: qué es

Un deepfake es un tipo de contenido digital creado mediante el uso de Inteligencia Artificial y aprendizaje profundo o Deep Learning. De ahí su nombre, una combinación de “deep” y “fake” (falso o engañoso). 

En su creación, se utilizan algoritmos avanzados para generar material audiovisual que parece auténtico, es decir, su realismo puede llegar a ser tan convincente que es difícil distinguirlo del contenido genuino. ¿Recuerdas lo natural que le queda al Papa Francisco el plumón blanco? Si no supieras qué es un deepfake, seguramente creerías que la imagen era real. 

Formatos de deepfakes

Esta técnica no solo comprende fotografías; los deepfakes pueden presentarse en diferentes formatos:

  • Imagen. Es quizá uno de los tipos más conocidos por su viralidad en redes sociales. Incluye tanto las imágenes creadas íntegramente con IA generativa como las que son alteradas para incluir rostros o elementos que no estaban presentes originalmente. Por ejemplo, quizá te apetezca poner un fondo paradisíaco a una foto tuya o quieres eliminar el coche que justo pasó detrás de ti al hacer la instantánea. 

  • Vídeo. Cada vez son más frecuentes los vídeos generados con IA. Se pueden crear contenidos íntegros desde cero o aprovechar una parte de un vídeo para cambiar diferentes elementos. En este sentido, el más conocido es el face swapping, en el que se reemplaza el rostro de una persona por otra, manteniendo expresiones faciales y movimientos realistas. ¿Quieres ver una escena de Barbie, pero protagonizada por los gobernantes de Italia? 

  • Audio. En este caso, lo que es deepfake es la voz de la reproducción. Para ello, se utilizan herramientas capaces de copiar el tono de voz de una persona y reproducir conversaciones que nunca ocurrieron. Es lo que le ocurrió a Mark Zuckerberg, a quien clonaron su voz para pronunciar un discurso que nunca dijo. 

¿Para qué sirve el deepfake?

Esta nueva tecnología abre una infinidad de posibilidades en cuanto a la creación de contenidos, y muchas de ellas, legítimas.

De este modo, en cine y televisión, por ejemplo, el deepfake permite recrear actores fallecidos o rejuvenecer a personajes, mejorando la narrativa visual. Así, en la saga Star Wars se ha empleado para recuperar a diferentes actores, ya desaparecidos o muy mayores para el papel en cuestión. 

En marketing y publicidad, también es de gran ayuda para crear campañas originales con mayor agilidad y menor coste económico, facilitando el acceso a esta industria a las pequeñas empresas y diseñadores. ¿Te acuerdas cómo se las maravillaba Lola Flores en el anuncio de cerveza creado con IA? Incluso, ya hay perfiles en redes sociales de influencers virtuales con millones de seguidores. 

El arte es otro de los ámbitos más beneficiados por el deepfake, que es un trampolín para que artistas digitales exploren nuevas formas de expresión. Sin embargo, lo es también en cualquier otro sector, ya que, por ejemplo, en el educativo, sirve para la elaboración de materiales didácticos más interactivos y envolventes. 

En definitiva, la capacidad de los deepfakes para imitar la realidad de manera tan convincente abre un amplio espectro de posibilidades creativas. Es decir, pese al recelo que genera la IA y el deep learning, la tecnología en sí misma es positiva. No obstante, en lo que habrá que estar alerta es en las brechas de ética y seguridad que un mal uso del deepfake puede ocasionar. 

deepfake qué es

¿Qué peligros conlleva el deepfake?

Ten en cuenta que el realismo del deepfake, que es aplicable a todos sus formatos, puede ser aprovechado para fines ilícitos y causar graves perjuicios, dada la dificultad para detectar si un contenido es real o ficticio. ¿Sabías que, según los estudios, los ciudadanos no son capaces de reconocer un deepvoice una de cada cuatro veces? Es más, siete de cada diez personas ni siquiera sabe qué es deepfake, de acuerdo con una encuesta global de iProov. 

Así, los riesgos de estas herramientas van desde el uso de material engañoso, hasta delitos de suplantación de identidad, extorsión o estafa y fraude financiero. Por ejemplo, un vídeo falso de Volodymyr Zelensky, publicado por hackers rusos anunciando una supuesta rendición de Ucrania, fue considerado un arma virtual en un conflicto armado. Por su parte, la actriz Scarlet Johanson denunció que OpenAI ―creador de Chat GTP― había usado una voz “extrañamente parecida” a la suya para su nuevo chatbot. Y es que son ya numerosos los casos de ciudadanos estafados con mensajes de audio falsos, como trabajadores que reciben audios de sus jefes ordenando una transferencia. 

Sin embargo, son los deepfakes de contenido sexual los que mayores problemas están originando en la práctica. De hecho, según el informe 2023 State of Deepfakes, la pornografía deepfake constituye el 98% de todos los vídeos deepfake en línea, y las mujeres son el blanco de estos ataques en el 99% de las ocasiones. Realizar este tipo de vídeos con las facciones de cualquier persona requiere de tan solo 25 minutos y cero euros, pero arruina la vida de sus protagonistas, ya sean personalidades públicas o anónimas. 

¿Cómo se hace un deepfake?

Para estar prevenidos contra este impacto negativo de la tecnología, es importante conocer qué es un deepfake, es decir, cómo se elabora. En la actualidad, existen multitud de plataformas para generar estos contenidos ficticios. Esto provoca que el proceso creativo sea muy intuitivo, rápido y sencillo. Pero, ¿qué hay detrás de esta tecnología? 

En términos generales, los deepfakes funcionan a partir de la recopilación de datos que se destinan a entrenar el modelo. Para ello, se aplican algoritmos, generalmente utilizando dos redes neuronales, conocidas como redes generativas antagónicas (GAN), que compiten entre sí para lograr el resultado más realista. Posteriormente, el sistema perfecciona los vídeos, imágenes o audios generados para que resulten más naturales. 

deepfake qué es

¿Cómo saber si es deepfake?

Pese al realismo que consigue el deepfake, que es cada vez mayor, aún es posible detectar signos de que el contenido ha sido generado con aprendizaje profundo. ¿Cómo reconocer un deepfake? 

Claves para detectar deepfakes en audio

  • Nitidez de la voz: los deepfakes pueden tener problemas con la claridad y la calidad de la voz. Escucha atentamente cualquier distorsión o ruido anómalo.

  • Entonación: las fluctuaciones de tono pueden no sonar naturales. Si la voz parece monótona o con cambios abruptos de tono, podría ser un deepfake.

  • Sincronización labial: en vídeos con audio deepfake, verifica si los movimientos de los labios coinciden perfectamente con el audio.

  • Contexto del discurso: otra evidencia de que es un deepfake es comprobar si se producen oraciones sin un flujo lógico. Presta atención a la coherencia y continuidad del discurso.

  • Emociones y pausas: frente a la voz humana, las generadas por IA pueden tener dificultades para replicar emociones genuinas y pausas naturales en el habla.

  • Análisis espectral: también puedes utilizar herramientas de análisis de audio para examinar el espectro de frecuencias. Los deepfakes, a menudo, presentan patrones espectrales inusuales.

  • Verificación de fuentes: si sospechas de un audio, intenta verificar su autenticidad consultando a su supuesto autor o acudiendo a fuentes fiables. 

Consejos para identificar deepfakes en vídeo

  • Parpadeo de ojos: los deepfakes suelen tener problemas para replicar el parpadeo natural de los ojos. La falta de parpadeo o parpadeos irregulares puede ser una señal. 

  • Sincronización de labios: igual que en los deepvoice, observa si los movimientos de los labios coinciden con el audio. 

  • Detalles faciales: fíjate en las sombras, los reflejos y la iluminación del rostro. Inconsistencias en estos detalles pueden delatar que es deepfake. 

  • Movimiento del cuerpo: verifica si los movimientos del cuerpo son naturales y coordinados con los movimientos faciales. Las desproporciones pueden ser indicativas de manipulación. 

  • Calidad de vídeo: los deepfakes pueden tener una calidad de vídeo inconsistente, especialmente en áreas complejas como el cabello o las manos.

  • Entorno y fondo: presta atención a la interacción del sujeto con el entorno. Las sombras y los reflejos incorrectos son indicios de que es un deepfake. 

  • Análisis de metadatos: revisa los metadatos del vídeo. Si percibes alteraciones, pueden indicar manipulación con IA. 

Tips para descubrir los deepfakes en fotos

  • Detalles de los ojos: los ojos en las imágenes que son deepfakes pueden tener reflejos anómalos o falta de detalles realistas.

  • Bordes y contornos: examina los bordes del rostro y el cabello. Artefactos extraños o bordes difusos pueden ser señales de manipulación.

  • Textura de la piel: la textura de la piel puede parecer demasiado suave o uniforme. Las imperfecciones naturales suelen faltar en deepfakes.

  • Simetría facial: los rostros generados por IA pueden tener una simetría perfecta, lo cual no es común en rostros humanos reales.

  • Fondo y contexto: observa el fondo de la foto. Si hay incongruencias en la iluminación o en los reflejos, pueden ser indicativas de manipulación.

  • Análisis de color: revisa la consistencia del color en la imagen. Las diferencias en los tonos de piel o en la iluminación pueden delatar que es un deepfake.

  • Verificación cruzada: utiliza herramientas de búsqueda inversa de imágenes para verificar si la foto ha sido empleada en otros contextos.

Si sigues estas pautas, serás capaz de reconocer qué es deepfake y, por tanto, podrás protegerte frente a posibles ataques y denunciar las prácticas ilícitas o inmorales que detectes. Eso sí, en un sector en constante evolución, es importante que te mantengas al día en las últimas tendencias y habilidades relativas a la Inteligencia Artificial. Solo así podrás navegar, sin naufragar, en un mundo donde la línea entre lo real y lo ficticio se vuelve cada vez más difusa. 

¿Quieres desarrollar competencias profesionales que te permitan mejorar tu empleabilidad? Descubre Santander Open Academy, el espacio formativo que necesitas para seguir creciendo.

Únete a nuestra plataforma global de aprendizaje y desarrollo profesional y accede a cursos subvencionados al 100%, contenido formativo en un montón de formatos y becas de universidades e instituciones líderes.

Si como nosotros, crees que nunca hay que dejar de aprender, entra aquí y regístrate. ¡Descubre lo que tenemos para ti!

Fuentes

Inscríbete ahora

Más posts interesantes que leer...