Meses atrás, para solucionar problemas que los deefakes pueden causar, Facebook celebró un concurso con el que encontrar la mejor IA a la hora de detectarlos. Ha encontrado a la mejor, pero sus resultados dejan bastante que desear, tiene una precisión de alrededor del 65%. No obstante para Facebook los deepfakes no son actualmente "un gran problema".
La idea detrás del Deepfake Detection Challenge era encontrar algoritmos capaces de detectar vídeos manipulados con inteligencia artificial. Los deepfakes a menudo consiguen engañar al usuario si son lo suficientemente realistas y el contenido no es exagerado. De ahí que las redes sociales busquen reducir su propagación. Pero claro, por cantidad es prácticamente imposible hacerlo manualmente, se requiere de algoritmos que automaticen el proceso de detección.
Indican desde Facebook que para la prueba participaron un total de 2.114 participantes que presentaron más de 35.000 algoritmos para la detección de deepfakes. Para ver de qué eran capaces estas IAs Facebooks les ofreció alrededor de 100.000 vídeos cortos con los que entrenarse y "aprender" a diferenciar vídeos reales de vídeos falsos. Estos vídeos fueron creados por la propia compañía contratando a actores que tenía conversaciones reales, a algunos de ellos se les modificó el rostro para crear vídeos falsos también.
Deepfakes creados por Facebook para el concurso.
¿Resultados? Cuando pusieron a prueba los algoritmos de detección estos pudieron identificar los deepfakes con una precisión de hasta el 82,56% de entre los vídeos con los que previamente se había entrenado. Sin embargo, cuando se le ofreció imágenes nuevas y nunca antes vistas la precisión era de apenas un 65,18%. El algoritmo ganador será publicado como open-source para que otros investigadores lo utilicen y mejoren.
Facebook también está creando su propio algoritmo para detectar deepfakes. Este sin embargo no lo harán público para evitar que sea utilizado en ingeniería inversa, es decir, para evitar que los creadores de deepfakes mejoren sus técnicas para no ser detectados.
Deepfakes en bromas, cine, política y porno
Los vídeos de deepfakes cada vez están consiguiendo un realismo más asombroso. Esto tiene el inconveniente de permitir engañar al usuario si no se le advierte de que es un vídeo falso. Uno de los primeros usos por los que se popularizaron las deppfakes fue el porno. Sin embargo también hay quien ve futuro a esta tecnología en Hollywood.
En España hay quienes usan esta tecnología para la sátira política. Pero si de política se trata, más preocupante es el caso de India, donde un político uso las deppfakes para hablar a sus votantes en idiomas que desconocía. Con todo esto, es comprensible que las redes sociales apliquen medidas para limitar la propagación de las deepfakes en sus plataformas.
Ver 1 comentarios