A medida que las inteligencias artificiales se desarrollan más, más complejo es detectar sus deepfakes. Los deepfakes pueden ser de gran utilidad en la industria del cine, para anuncios o para rememorar fotografías por ejemplo, pero también pueden ser utilizados para engañar al consumidor, acciones políticas. De ahí la importancia de poder identificarlos.
Investigadores de la Universidad de Buffalo en Estados Unidos dicen tener una solución: mirar a los ojos. Según indican, tienen un algoritmo capaz de detectar retratos falsos con un 94% de eficacia. Para ello analizan los reflejos de los ojos.
¿Cuál es deepfake? Vía Universidad de Buffalo.
La razón por la que se fijan en los ojos es sencilla: las inteligencia artificiales no son buenas creando reflejos oculares precisos. A menudo los crean sin sentido o reflejando elementos diferentes en cada uno de los ojos. Por lo tanto, identificando si los reflejos coinciden es posible identificar un deepfake.
Según los autores del estudio, "la córnea es casi como una semiesfera perfecta y es muy reflectante". Es por ello que en principio cualquier cosa que emita luz enfrente del retrato debería reflejarse en el ojo. Pero claro, una IA no emite ninguna luz al crear el retrato, así que debe inventarse esos reflejos. Y no lo hace demasiado bien.
Mírame a los ojos
La herramienta desarrollada por los investigadores de la Universidad de Buffalo analizó imágenes falsas de This Person Does Not Exist e imágenes de personas reales de Flick Faces HQ. Mapeó cada una de las caras y luego analizó en detalle cada un de los ojos así como la luz reflejada en su interior. Con ello asignó una puntuación de similitud entre ambos ojos de cada cara. Cuanto mayor era la puntuación, más probabilidad había de que la cara sea real.
Ojos reales vs. ojos de deepfakes. Vía Universidad de Buffalo.
Según el autor principal de la investigación, ambos ojos “deberían tener patrones reflectantes muy parecidos porque están viendo lo mismo”. Esto sin embargo no es algo en lo que nos fijemos a diario cuando miramos a alguien o fotografías de personas. No obstante, es algo que puede ser de gran utilidad para que una herramienta informática detecte imágenes falsas.
Ahora bien, la herramienta aún no es perfecta y ese 6% de margen de error sigue siendo grande. También hay que tener en cuenta que las inteligencias artificiales están constantemente evolucionando y mejorando. Del mismo modo que han aprendido a crear caras casi perfectas, tarde o temprano aprenderán también a crear reflejos oculares perfectos.
En el pasado otras herramientas también han tratado de detectar deepfakes mirando a los ojos. Hasta la Policía europea está buscando combatirlos.
Vía | EurekAlert!
Más información | arXiv
Ver 7 comentarios