La investigación de un asalto violento hizo que el detective Matthew Shute, de la policía de St. Louis (EEUU), acudiera al sistema de reconocimiento facial para buscar sospechosos. Las imágenes grabadas eran de muy baja calidad, pero aun así la tecnología arrojó varios candidatos.
Shute acabaría arrestando a uno de ellos, Christopher Gatlin, de 29 años, padre de cuatro hijos y sin antecedentes. Dio igual: acabó entrando en prisión a pesar de ser inocente, algo que tardó dos años en demostrar. Es una de las —al menos— ocho personas que fueron erróneamente arrestadas en Estados Unidos con la tecnología de reconocimiento facial como único argumento para apoyar esas detenciones.
La investigación llevada a cabo por The Washington Post revela cómo el uso de esta tecnología en combinación con las imágenes captadas por las cámaras de videovigilancia puede acabar siendo un verdadero problema.
En su reportaje WaPo revela cómo tras analizar documentos de 23 departamentos de policía en los que se usaron sistemas de reconocimiento facial, 15 de esos departamentos en 12 estados arrestaron a sospechosos identificados a través de la IA y de sistemas de reconocimiento facial. Lo grave no es en realidad eso. Lo grave es que no existía pruebas adicionales que conectaran a esos sospechosos con los delitos que se supone habían cometido.
Como explican en el reportaje, algunos oficiales de policía "parecieron abandonar los estándares policiales tradicionales y trataron las sugerencias del software como hechos". En un informe policial uno de esos resultados se calificó como un "match al 100%", mientras que en otro la policía admitió usar el software para identificar a un sospechoso de un robo "inmediata e incuestionablemente".
La tecnología de reconocimiento facial es cada vez más utilizada en todo el mundo para el seguimiento de investigaciones policiales. En Estados Unidos hay al menos 75 departamentos que usan dicha opción, indican en el Post, pero la mayoría declina contestar a preguntas sobre el uso de dicha tecnología y muchos niegan que sus arrestos se basen únicamente en coincidencias encontradas por la IA, pero no documentan dichos casos. Sistemas como los de ClearView se usan en 3.100 departamentos de policía (una sexta parte del total), asegura la compañía, y a menudo se habla de la posible amenaza para la privacidad que plantean estas herramientas.
Se habla ya de un "sesgo de automatización", una tendencia de confiar ciegamente en las decisiones tomadas por sistemas software como estos. Si la IA dice que alguien es sospechoso, nos fiamos de ella. Un estudio de 2012 del University College en Londres revelaba cómo al analizar huellas dactilares, los investigadores se fiaban mucho del orden en que las presentaba el software que mostraba sospechosos. Los cuerpos de seguridad que evaluaban esas pruebas descartaban otras potenciales coincidencias porque tenían demasiada confianza en el sistema.
El problema revelado por WaPo es señal de unos tiempos en los que las cámaras de videovigilancia cada vez están más presentes en nuestras vidas. Estos días contábamos como por ejemplo Madrid ha instalado nuevas cámaras con tecnología de inteligencia artificial, precisamente para ayudar en la potencial investigación de delitos en las zonas en las que están funcionando.
Ese auge de la instalación de cámaras de videovigilancia es consecuencia derecha de la aprobación del proyecto Prüm II con el que este tipo de sistemas, que antes no eran del agrado de los reguladores europeos, acabaron recibiendo el visto bueno.
La promesa es que no habrá una base de datos de civiles creada a partir de esas imágenes y que el sistema no se utilizará en delitos menores, pero es imposible saber el alcance que acabará teniendo este sistema. Los sistemas de reconocimiento facial pueden ser una útil ayuda para los cuerpos de seguridad, sin duda, pero nunca deben convertirse en el único argumento para detenciones, y será necesario apoyar esos procesos con investigaciones completas que permitan dar bases sólidas para posibles arrestos.
Imagen | Fred Moon
En Xataka | La Policía Nacional tiene listo su sistema de reconocimiento facial. Hay motivos para ser escéptico
Ver 5 comentarios