What Are Deepfakes and How Are They Created? By Sally Adee Posted 29 Apr 2020 | 16:00 GMT

Ver completo

Sí ya parece muy complicado luchar contra las noticias falsas, probablemente sea más complicado hacerlo con vídeos falsos que ponen a personas como políticos o estrellas diciendo o haciendo cosas que nunca han ocurrido. Por lo que existe una enorme preocupación sobre cómo se puede regular este uso en medios sociales

Una creciente inquietud se ha asentado en torno a la evolución de las tecnologías de deepfake que permiten crear evidencia de escenas que nunca sucedieron. Las celebridades se han convertido en las estrellas involuntarias de la pornografía y los políticos han aparecido en vídeos que parecen  decir palabras que nunca dijeron realmente .

Los vídeos falsos más impresionantes han sido producidos por laboratorios universitarios y empresas; por ejemplo, un vídeo ampliamente divulgado que muestra al astro del fútbol David Beckham hablando con fluidez en nueve idiomas, aunque realmente habla sólo uno de ellos, es una versión del código desarrollado en el Technical Universidad de Munich, en Alemania.

También los investigadores del MIT publicaron un extraño vídeo del ex presidente de los Estados Unidos, Richard Nixon, pronunciando el discurso alternativo que había preparado para la nación  si el Apolo 11 hubiera fallado, pero que nunca grabó.

Las preocupaciones sobre las deepfakes han llevado a una proliferación de contramedidas. Las nuevas leyes apuntan a evitar que las personas los fabriquen y distribuyan. A principios de este año, las plataformas de redes sociales, como Facebook  y  Twitter,  prohibieron estas falsificaciones en sus redes. Y las conferencias sobre visión por computadora y gráficos están llenas de presentaciones que describen métodos para defenderse de ellas.

Entonces, ¿qué es exactamente una deepfake y por qué la gente está tan preocupada por ellos?  Son vídeos de última generación generados por IA aplicados a cualquier imagen para que parezca potencialmente real.

Ejemplo de como se hace un DeepFakes

Mucho de lo que se llama una toma falsa simplemente no lo es: por ejemplo, un controvertido vídeo de la campaña del ex candidato presidencial Michael Bloomberg se hizo con habilidades de edición de vídeo estándar.

El ingrediente principal en los deepfakes es el aprendizaje automático, que ha permitido producir deepfakes mucho más rápido a un costo menor. Para hacer un vídeo falso de alguien, un creador primero entrenaría una red neuronal en muchas horas de vídeo real de la persona para darle una «comprensión» realista de cómo se ve desde muchos ángulos y bajo diferentes luces. Luego combinarían la red entrenada con técnicas de gráficos por computadora para superponer una copia de la persona en un actor diferente.