Cada vez resulta más difícil distinguir si una imagen es real o no si está bien editada con Photoshop o cualquier otro programa de retoque fotográfico, pero es que esas técnicas han ido trasladándose al mundo del vídeo y el audio, y es allí donde la inteligencia artificial ha logrado crear ilusiones que cualquiera podría dar por reales.
Lo demuestran los últimos vídeos publicados por NVIDIA en los que se ve cómo es posible transformar un vídeo tomado de día en otro que ocurre por la noche, o de uno que transforma el invierno en verano. Sin olvidar, claro, los vídeos que cada vez nos hacen creer más en que alguien dijo algo en un vídeo que en realidad nunca dijo. Ya ni siquiera se necesita su cara en movimiento: basta con una foto.
Una realidad alternativa que parece tan real como la nuestra
Los avances en materia de inteligencia artificial han hecho que las redes neuronales y el aprendizaje automático sirvan como base para crear una realidad alternativa, una que simplemente necesita una buena cantidad de datos reales para luego generar otros tantos completamente ficticios pero que parecen reales.
Hace unas semanas NVIDIA presentaba un sistema que generaba fotos de gente que en realidad no existía, y aunque si uno se fijaba en algunos detalles podía comprobar cómo había ciertos errores en las caras generadas, esas imágenes podrían ser tomadas por reales para muchos usuarios sin tanta capacidad de observación.
No te creas lo que escuchas...
Ese engaño se ha ido acompañando de otros muchos. La empresa Lyrebird creó hace unos meses un software capaz de sintetizar una voz idéntica a la de cualquiera de nosotros, y para ello solo le basta un minuto de nuestra voz real.
Adobe ya hizo algo similar hace un año con su Project Voco, aunque en este caso necesitaba 20 minutos de audio, pero con el software de Lyrebird sería posible —por ejemplo— oír a Donald Trump declararle la guerra a España, y el resultado sería perfectamente creíble.
El software de Lyrebird podría combinarse con el que apareció en marzo de 2016 y que simulaba el movimiento de los labios de cualquier persona al hablar basándose en la recolección de vídeos de esa misma persona hablando.
O ni siquiera eso, porque bastaba tener un vídeo de la persona objetivo y otra de quien quiere poner palabras en su boca para lograr el efecto deseado: un vídeo en el que quien queramos dirá lo que queramos. El resultado, como puede verse en el vídeo, es tan realista como aterrador.
... ni lo que ves
Otro desarrollo de la Universidad de Tel-Aviv y de investigadores de Facebook se centraba también en este ámbito y lograba algo sorprendente y casi mágico: dotar de vida a las imágenes de los perfiles de Facebook. Bastaba un retrato para animar esa cara a través de fotografía computacional, logrando que dicha cara cobrara vida y expresara distintas emociones.
Los nuevos vídeos publicados por NVIDIA van incluso más allá de las personas y se centran en paisajes tanto rurales como urbanos. La nueva tecnología basada también en sistemas de inteligencia artificial permite transformar una escena grabada en invierno en una grabada en verano, o pasar un vídeo grabado de día a uno que muestra esa misma escena por la noche.
Las implicaciones de todos estos sistemas son enormes, y hacen que junto al avance del fenómeno de las noticias falsas uno cada vez tema ese futuro en el que lo que ve y oye en redes sociales o incluso en medios de comunicación tradicionales como la radio o la televisión sea simplemente un contenido falso generado por ordenador para hacernos creer algo que en realidad jamás ha pasado. Aterrador, insistimos.
En Xataka | El gran debate sobre si será posible o no una inteligencia artificial
Ver 14 comentarios
14 comentarios
whisper5
Efectivamente, estas son algunas de las cosas que nos deberían preocupar sobre la inteligencia artificial y no esas pamplinas al estilo 'Terminator'. Además de todo lo indicado en este artículo, que ya es lo suficientemente preocupante, tenemos:
- La pérdida de privacidad y la capacidad de la inteligencia artificial para crear un perfil psicológico y conductual de las personas. Si está bien hecho es preocupante y si está mal hecho también es preocupante.
- La actual inteligencia artificial depende de su entrenamiento con muchísimos datos. Si estos tienes sesgos las decisiones de la inteligencia artificial también los tendrán. Esto puede ser enormemente discriminatorio para muchas personas. Se está utilizando inteligencia artificial para conceder o no seguros, tarjetas de crédito o para elegir candidatos a un puesto de trabajo.
- Los sistemas de inteligencia artificial basados en 'deep learning' se caracterizan por su opacidad. Son cajas negras que no permiten entender por qué han tomado una decisión. Si esto ya en sí es preocupante, más lo es el hecho de que las empresas (Facebook, por ejemplo) no informan sobre las bases sobre las que desarrollan sus sistemas de inteligencia artificial (qué datos, qué valor se da a cada dato, etc.). Quien pida información recibirá como respuesta que se trata de un secreto de su modelo de negocio. (Más preocupante todavía cuando Facebook va a permitir usar Messenger a niños a partir de 6 años con el consentimiento de sus padres.)
- Si dejamos que sistemas de recomendación basados en inteligencia artificial elijan los libros que leemos, las películas que vemos, las noticias y artículos que leemos, etc. estaremos cediendo parte de nuestra esencia, libertad y responsabilidad. Además, los sistemas de recomendación no miran por nosotros, eligen con criterios económicos que favorecen a las empresas que los crean.
ertioderbigote
Necesitamos un sistema de verificación de identidades global YA, porque en un par de años será indistinguible el contenido generado del real!!!
Y los Animojis nos los seguimos tomando en broma...ainsss... 🙃
uti
¡Es tenebroso! Hasta ahora se podía trucar una fotografía, inventársela literalmente, pero esto va un paso más allá, ahora es la foto la que habla y hace gestos, y no digamos de los vídeos . . . . . . . . . . . .Ya no podremos creer nada, cualquier vídeo que nos presenten puede ser perfectamente un truco.
No quiero pensar las bromas pesadas de los medios de comunicación el día de los Inocentes, o un vídeo hecho con maldad para vaya usted a saber qué fines perversos.
marcsushi
Bueno, "las buenas noticias" son que gracias a eso las producciones cinematográficas no van a resultar tan largas de hacer. Lo malo es que eso implica contratar a menos gente.
xaxiquesi
Para coches: https://youtu.be/lJhn1OPO3Ig
Rafael F.
Desde luego como especie nos lo tendríamos que hacer mirar. Sólo hay que leer los comentarios para darnos cuenta de que no nos fiamos los unos en los otros y eso, para la humanidad y su futuro, es muy triste.
Por instinto, lo primero que pensamos en que estos "avances" tienen como fin último destruirnos al resto o, al menos, hacernos daño de algún modo. No digo que no existan razones para tener estos sentimientos, que creo que los hay, pero sin duda es penoso vernos así. Cada vez parece más evidente que el ser humano deberá evolucionar en otra especie distinta que se soporte mejor así misma.
ivanrp
Se avecina un mundo de noticias falsas y malintencionadas llena de prejuicios, donde la capacidad de discernimiento del ser humano, tendrá mas relevancia que nunca a la hora de fijar una posición personal en cualquier tema de interés, me dan escalofríos estos videos.
Eagle
Me quedo a cuadros.
Entre lo de animar caras desde una foto y lo de cambiar escenarios ya no me da más la cabeza...
juanjofm
Con todo esto ya no hace falta que la casta falsifique tuits de Iglesias o que cojan trozos de videos sacados de contexto para manipular... simplemente podrán crear un video desde cero donde diga cualquier cosa.