Quantcast

Qué es un deepfake

El interés en el fenómeno del «deepfake» ha aumentado en los últimos meses, presumiblemente a medida que el público acepta que la gente puede y usa #AI para crear videos e imágenes falsos súper realistas.

QUÉ ES UN DEEPFAKE

Los deepfakes son videos falsos creados con software digital, aprendizaje automático e intercambio de rostros. Un deepfake es un video artificial creado por computadoras en los que se combinan imágenes para crear nuevas imágenes que representan eventos, declaraciones o acciones que en realidad nunca sucedieron.

Los resultados pueden ser bastante convincentes. Las falsificaciones profundas se diferencian de otras formas de información falsa por ser muy difíciles de identificar como falsas.

¿CÓMO FUNCIONA?

El concepto básico detrás de la tecnología es el reconocimiento facial, los usuarios de Snapchat estarán familiarizados con las funciones de cambio de rostro o filtros que aplican transformaciones o aumentan sus rasgos faciales.

Las falsificaciones profundas son similares pero mucho más realistas. Se pueden crear videos falsos utilizando una técnica de aprendizaje automático llamada «red generativa de adversarios» o GAN.

Por ejemplo, un GAN puede mirar miles de fotos de Beyonce y producir una nueva imagen que se aproxime a esas fotos sin ser una copia exacta de ninguna de las fotos. GAN se puede utilizar para generar nuevo audio a partir de audio existente o nuevo texto a partir de texto existente; es una tecnología de usos múltiples.

La tecnología utilizada para crear Deep Fakes está programada para mapear caras de acuerdo con puntos de «hitos». Estas son características como las comisuras de los ojos y la boca, las fosas nasales y el contorno de la línea de la mandíbula.

CUANDO VER YA NO CREER

Si bien la tecnología utilizada para crear falsificaciones profundas es una tecnología relativamente nueva, avanza rápidamente y cada vez es más difícil verificar si un video es real o no.

Qué es un deepfake
Qué es un deepfake

Los avances en este tipo de tecnologías tienen obvias implicaciones sociales, morales y políticas. Ya existen problemas en torno a las fuentes de noticias y la credibilidad de las historias en línea, las falsificaciones profundas tienen el potencial de exacerbar el problema de la información falsa en línea o alterar y socavar la credibilidad y la confianza en las noticias y la información en general.

El peligro potencial real de la información falsa y la tecnología deepfake es generar desconfianza o apatía en las personas sobre lo que vemos u oímos en línea. Si todo puede ser falso, ¿eso significa que ya nada es real?

Durante el tiempo que hemos tenido fotografías y secuencias de video y audio, nos han ayudado a aprender sobre nuestro pasado y a moldear nuestra forma de ver y conocer las cosas.

Algunas personas ya cuestionan los hechos en torno a eventos que incuestionablemente sucedieron, como el Holocausto, el alunizaje y el 11 de septiembre, a pesar de las pruebas de video.

Si los deepfakes hacen que las personas crean que no pueden confiar en los videos, los problemas de la información falsa y las teorías de la conspiración podrían empeorar.

LAS NOTICIAS FALSAS PUEDEN LLEVAR A RECUERDOS FALSOS

Una de las preocupaciones más comunes y los peligros potenciales de las falsificaciones profundas y la información falsa en general es el impacto que pueden tener en los procesos democráticos y las elecciones.

Una encuesta reciente confirmó que las personas recuerdan las noticias falsas más que las noticias reales.

Los resultados de la encuesta indicaron que los votantes pueden formar recuerdos falsos después de ver noticias fabricadas, especialmente si esas historias se alinean con sus creencias políticas, según un nuevo estudio.

CÓMO DETECTAR DEEPFAKES

Como todo tipo de información que encontramos en línea, lo más importante que podemos hacer a la hora de decidir si los videos o las imágenes en línea son auténticos y reales es fundamental.

Cómo detectar deepfake

Como todo tipo de información que encontramos en línea, lo más importante que podemos hacer a la hora de decidir si los videos o las imágenes en línea son auténticos y reales es fundamental.

Necesitamos usar el pensamiento crítico y hacernos preguntas clave como:

  • ¿Quién y por qué alguien comparte este video?
  • ¿Quién o qué es la fuente original?
  • ¿La persona del video dice algo que nunca esperarías que dijera?
  • ¿El video avanza en la agenda de otra persona? ¿Quién se beneficia de este video?

VERIFICACIÓN DE INFORMACIÓN EN LÍNEA

Con tanto acceso a la información, los avances tecnológicos y la velocidad a la que las noticias y la información se difunden en línea, es cada vez más difícil verificar la información en línea. Las habilidades de pensamiento crítico son necesarias cuando se trata de verificar contenido en línea.

deepfake
Deepfake

Ya sea que esté viendo un video, un meme fotográfico o un artículo, aquí hay algunas consideraciones útiles para verificar la información en línea:

Procedencia: ¿Está mirando la cuenta, el artículo o el contenido original?

Fuente: ¿Quién creó la cuenta o el artículo, o capturó el contenido original?

Fecha: ¿Cuándo fue creado?

Ubicación: ¿Dónde se estableció la cuenta, se creó el sitio web o se capturó parte del contenido?

Motivación: ¿Por qué se estableció la cuenta, se creó el sitio web o se capturó el contenido?