Cada vez va a ser más difícil creer lo que vemos y oímos, y la culpa la tiene la inteligencia artificial. Una de las ramas de esta tecnología se utiliza para crear los llamados deepfakes, vídeos y audios en los que se suplanta a otra persona y que parecen totalmente reales: lo que dice y hace esa persona parece real aunque quien estás viendo y oyendo no es real.
Lo hemos visto sobre todo en vídeos pornográficos en los que aparecen celebridades que nunca han grabado esos vídeos, pero también con casos de políticos pronunciando frases que nunca dijeron o haciéndolo en otro contexto y con otros gestos. Los deepfakes están cada vez más de moda, y representan una amenaza relevante para nuestra forma de entender nuestro mundo. Sobre todo, si no sabemos diferenciar lo real de lo que no lo es.
El porno como detonante del fenómeno deepfake
Gal Gadot, la protagonista de 'Wonder Woman', aparecía en un vídeo pornográfico que evidentemente no había grabado. Alguien había logrado superponer su cara a la de la actriz porno y producir el efecto de que efectivamente era la actriz la que estaba haciendo de todo con su hermanastro.
Aquel vídeo fue uno de los detonantes de una fiebre por los deepfakes, una técnica basada en sistemas de inteligencia artificial que permiten entrenar una plataforma con una serie de imágenes, audios o vídeos para que ésta genere nuevos contenidos o los superponga a contenidos reales suplantando parte de estos para hacerlos pasar por reales.
El efecto final es espectacular, y aunque en algunos casos es fácil diferenciar un vídeo deepfake del que no lo es, esa detección -analizando por ejemplo el parpadeo de quien aparece en el vídeo- se está volviendo cada vez más difícil. Hoy en día cualquiera puede generar estos vídeos con una aplicación, un buen conjunto de datos -ambos fácilmente accesibles con frecuencia- y un ordenador con una tarjeta gráfica potente.
El éxito de este tipo de contenidos ha sido tal que incluso plataformas de porno online han tenido que vetarlo por considerar que no se han publicado con el visto bueno de quien aparece en ellos. Otras muchas plataformas y servicios como Reddit o Twitter también están tratando de prohibirlos, pero es casi imposible detener su difusión, y la casi inexistente regulación al respecto no ayuda.
La amenaza es clara en un momento en el que las noticias falsas están a la orden del día, pero este tipo de contenidos también se podrían usar para chantajear o acosar a todo tipo de personas con esos vídeos falsos que podrían ser tomados como verdaderos. El fenómeno magnifica una realidad que ya estamos viviendo -la difusión de bulos a través de redes sociales, por ejemplo-, y lo hace aún más difícil de detectar.
De todo ello hablamos esta semana en el episodio de nuestro podcast, Despeja la X. Para hacerlo contamos con Javier Lacort, redactor de reportajes en Webedia, y Javier Pastor, un servidor, editor sénior en Xataka. En la producción y presentación está como siempre Santiago Araújo. Todo lo que escucháis en este podcast es audio real y no generado por una inteligencia artificial, pero eso podría cambiar en el futuro a la vista de tendencias como la de los deepfakes.
Escucha y suscríbete a 'Despeja la X'
A continuación puedes escuchar el episodio de esta semana. Si lo prefieres, puedes suscribirte directamente en cualquiera de las plataformas en las que estamos, así no tendrás que preocuparte cada vez que salga una nueva entrega.
Cada semana, un nuevo capítulo
Y recuerda: cada jueves tienes un nuevo capítulo de nuestro podcast Despeja la X, en el que analizamos a fondo el gran tema tecnológico de cada semana.
Puedes aprovechar este pequeño parón para darle una oportunidad al resto de podcasts de Xataka:
- Captcha (iVoox, iTunes, Pocket Casts, YouTube o Spotify): el gran viaje a través del presente y futuro de la Inteligencia Artificial que busca explicar a fondo cómo funciona la llamada "nueva electricidad", la disciplina científico tecnológica más apasionante de los siglos XX y XXI.
- Insert Coin (iVoox, Spotify o iTunes): cada programa, un invitado super especialista y técnico en algunos de los temas que nos fascinan.
- Xataka Now (iVoox, Spotify o iTunes): la actualidad tecnológica diaria, resumida en forma de informativo de unos minutos.
¡Gracias por acompañarnos!
Ver todos los comentarios en https://www.xataka.com
VER 3 Comentarios