Esta mujer tiene hasta pasaporte, pero es fake: la IA está convirtiendo la verificación de personas en una pesadilla

Por muy real que parezca, la mujer de la imagen de portada no existe. Ha sido creada con inteligencia artificial. Se trata de un experimento para mostrar hasta qué punto la IA ha avanzado lo suficiente como para conseguir engañarnos. A través de Reddit, el usuario Harsh publicó esa imagen, donde aparece la mujer ("Your Mom") sosteniendo el clásico papelito de los AMA.

Habitualmente los personajes famosos que van a contestar preguntas en Reddit publican una foto de ellos mismos sosteniendo el papel, para demostrar que efectivamente son ellos quienes están escribiendo. Con esta imagen se hace referencia a esa tradición, con la diferencia de que en este caso es todo artificial.

Crear personas que no existen ya es trivial

Para mejorar todavía más el efecto, el creador de 'Mom' le ha creado hasta un pasaporte falso. Una imagen también bastante realista donde aparece el mismo rostro que la mujer. Y es que aquí es donde radica gran parte del trabajo: en conseguir que la IA reproduzca una misma cara de manera consistente.

El resultado ha sido publicado en el subreddit de StableDiffusion, con imágenes adicionales de la mujer artificial. En todas ellas el resultado es muy similar, haciendo que sea difícil de identificar a simple vista que se trata de una imagen creada con IA.

El creador explica parte del proceso. La primera fase fue crear un conjunto de imágenes de una mujer por estilo de pelo, etnia y consistencia. Después utilizó la extensión ADetailer y aplicó algunas modificaciones con Photoshop para aumentar el contorno.

El resultado nos vuelve a recordar el debate sobre los deepfakes. La carrera por detectarlos lleva tiempo y como dijimos hace un par de años, los falsificadores nos llevan ventaja. No cuesta imaginar que con elaboraciones tan consistentes sea relativamente posible crear una identificación falsa que pueda pasar ciertos controles de seguridad.

Para hacer frente a esta desafío hacia la verificación de personas han surgido iniciativas como World ID, que escanean nuestro iris para confirmar que somos humanos o añadidos como el reconocimiento facial a la hora de crear nuestro carnet de identidad. Todavía siguen existiendo muchos métodos para demostrar que somos humanos, pero hacerse pasar por uno de nosotros es cada día más fácil.

En Xataka | La IA generativa es una máquina de generar desinformación. Y al menos 16 países ya la están utilizando