viernes. 18.09.2020 |
El tiempo
viernes. 18.09.2020
El tiempo

Blog divulgativo do Grupo de Innovación Docente DIXITAIS, da Universidade de Vigo. Falamos de Competencia Dixital para a cidadanía. Coordinado por Alberto Dafonte.

Ultrafalso (deepfake). Ver para creer

Diana Ramahí García
Es investigadora y docente en el ámbito de la Narrativa Audiovisual en la Universidade de Vigo.

Imagine un vídeo en el que usted está hablando. Es usted, es su imagen y su voz. Lo ve, pero no lo puede creer, porque sabe que en ese momento usted no estaba haciendo o diciendo eso. Sabe incluso que no ha hecho o dicho jamás aquello que está viendo y oyendo. A eso, a un vídeo extremadamente realista creado o alterado digitalmente con la ayuda de inteligencia artificial —y que permite, en consecuencia, identificar en la pantalla a una persona haciendo y diciendo lo que no ha hecho ni dicho—, se le llama deepfake

Los deepfakes nacen en Reddit, página web conocida por ofrecer en sus foros secundarios, los llamados subreddits, alojamiento a los contenidos más diversos. En diciembre de 2017 un redditor —nombre con el que se conoce a los usuarios en el universo Reddit— creó un subreddit y lo utilizó para publicar vídeos pornográficos en los que el rostro del actor o actriz era reemplazado por el de una estrella de Hollywood. Si bien, tras recibir numerosas protestas, Reddit acabó cerrando el foro, el código desarrollado para la creación de esos vídeos ya estaba disponible libremente en Internet. 

Como el hacker utilizaba el alias Deepfakes, término que proviene de las palabras fake —falso— y deep learning —aprendizaje profundo, uno de los procedimientos de aprendizaje de las inteligencias artificiales—, el nombre deepfake —ultrafalso— pronto comenzó a definir a todos los vídeos hechos de esta manera.

Lo que tenían de particular es que no eran meros montajes, sino que en ellos la inteligencia artificial generaba nueva información a partir de la existente. Se basaban así en modelos generativos que aprendían cuáles eran las características de un conjunto de datos y luego creaban nuevos ejemplos desde cero. Es decir, después de procesar una determinada cantidad de imágenes y sonidos de ejemplo de una persona, aprendían a manipular o crear videos realistas de ella. 

Inicialmente las técnicas, a cuyos resultados aún se les veían las costuras, eran accesibles solo para unos pocos expertos y requerían una gran cantidad de datos, por lo que se centraban en celebridades y políticos de los que se podían encontrar miles de horas de vídeo de alta calidad en Internet. 

Con la mejora de la tecnología se ha logrado crear vídeos realistas a partir de una única foto o un clip de audio. Además, la creciente mercantilización de herramientas y servicios que reducen la barrera para los no expertos, ha permitido que cualquier persona con unos conocimientos básicos pueda producir nuevos deepfakes

Cada vez es más difícil distinguir los hechos reales de las afirmaciones falsas. Y lo mismo ocurre con las imágenes. Si hasta ahora los videos se consideraban un indicio de veracidad, los deepfakes, que demuestran la capacidad de manipularlos con relativamente pocos medios y un resultado realista, han acabado con este fundamento y han dado un paso más en la crisis de lo visual como garantía de certeza. Ver para creer. O no.

Ultrafalso (deepfake). Ver para creer
Comentarios