La policía de Nueva York emplea tecnología de reconocimiento facial en su día a día, este dato no es ningún secreto. Lo que la opinión pública no sabía hasta ahora es que las imágenes de las cámaras de circuito cerrado de este cuerpo policial, según The Intercept, fueron empleadas por IBM para el desarrollo de una tecnología de reconocimiento.
Gracias a las imágenes que la compañía obtuvo, procedentes de cerca de 50 cámaras de un total de 512 que tenía una sección del Departamento de Policía de la Ciudad de Nueva York, se fue desarrollando un programa de reconocimiento que permite buscar a personas en función de sus características corporales, como la edad y el color de piel, así como por otros rasgos, como el color de la ropa.
El medio que ha revelado esta colaboración entre la policía neoyorquina e IBM asegura que los defensores de las libertades civiles dicen estar alarmados por la situación. Porque el acuerdo entre el NYPD e IBM no era público y porque este permitía que una empresa privada crease tecnología de vigilancia empleando imágenes policiales de gente que en algún momento recorrió la ciudad de Nueva York.
Buscando personas por la edad y la raza
The Intercept mantiene en su información que la policía de Nueva York adquirió por primera vez el software de análisis de imágenes de vídeo de IBM a través de Vexcel, filial de Microsoft, en 2007. El sistema de reconocimiento comenzó a ser probado en labores antiterroristas de la ciudad en marzo de 2010 y, según aseguró un portavoz de la policía neoyorquina, funcionaba en menos de cincuenta cámaras de las más de medio millar que tenía la sección policial antiterrorista.
Fue más adelante, en 2012, cuando el reportaje asegura que IBM estaba "probando el software de análisis de vídeo en los cuerpos y rostros de los neoyorquinos, capturando y archivando sus datos físicos mientras caminaban en público". A partir de esta información, imágenes de primer plano según el medio, perfeccionaron su sistema.
Así podían buscar de una mejor manera personas en función de su edad, sexo, color de cabello, presencia de vello facial y tono de piel, aunque la policía de Nueva York ha dicho a The Intercept que ellos nunca emplearon estas características de la tecnología, pese a que les fueron ofrecidas para su uso. Una versión que desmiente, en la propia noticia, un exinvestigador de IBM que asegura que trabajó en el proyecto de la policía de Nueva York entre 2009 y 2013. Además, añade, varios investigadores de la compañía estaban preocupados por el mal uso que se le podía dar a esta tecnología.
Las imágenes se proporcionaban, según el cuerpo de seguridad, "de vez en cuando [...] para garantizar que el producto que estaban desarrollando funcionara en el abarrotado entorno urbano de Nueva York y nos ayudara a proteger la ciudad". Según mantienen, "no hay nada en el acuerdo de la NYPD con IBM que prohíba compartir datos para fines de desarrollo de sistemas".
IBM, por su parte, ha publicado una declaración en la que dice estar "comprometida con el avance responsable y el uso de nuevas tecnologías" y dice ser reconocida por políticas que p"romueven la diversidad y la inclusión". Esos valores, dicen a Venture Beat, son la razón por la que están poniendo a disposición de otras empresas "un conjunto de datos de anotaciones de más de un millón de imágenes para ayudar a resolver uno de los problemas más importantes del análisis facial: la falta de datos diversos para entrenar los sistemas de IA".
El Departamento de Policía de la ciudad de Nueva York dice que dejó de usar la tecnología de IBM en el año 2016.
En Xataka | La vigilancia masiva con reconocimiento facial le "funciona" a Nueva York
Ver 13 comentarios
13 comentarios
Alastair
Y?? Si un varón blanco de mediana edad ha cometido un crimen, yo querría poder descartar al resto de un plumazo mediante el software. Y si fuera negro, pues también. Que el color de la piel es una característica distintiva de cada individuo es innegable. La nueva estupidez es la tiranía de lo políticamente correcto. Esto es como si la central de policía diera una aviso por radio a las patrullas de las características de un sospechoso y omitiese voluntariamente su raza, porque no queremos ofender sensibilidades. No sé a dónde vamos a llegar, pero esto pinta jodidamente mal.
Usuario desactivado
En España serviran para los gitanos.
royendershade
La gente es un poco imbecil la verdad, voy a decir lo obvio porque parece que para algunos no lo es. Igual que te interesa reconocer a un sospechoso (cuando no conoces su rostro o no tienes imagenes) por la forma de su cara, el color de ojos, de pelo... Te interesa poder dar con el por el color de piel. Logico. Esto seria problematico si se utilizara para hacer un seguimiento o vigilancia indiscriminado, pero no es el caso en ningun pais occidental, precisamente la unica utilidad de esta tecnologia es hacer busquedas discriminatorias, es decir, que discriminen sujetos segun rasgos. Si te dicen que un ladron era blanco, o le has grabado el color de piel, porque llevaba mascara, lo suyo es que el programa pueda ignorar a los sujetos negros o de otros tonos. Igual en caso contrario.
Aunque alguno se sorprenda, independientemente de que pueda haber ciertos sesgos racistas, especialmente en algunas regiones, no se persigue a la gente simplemente por el color de su piel.
racinguista
Qué pasada, qué horror, un software de reconocimiento que tiene en cuenta las características de una persona, ¿qué será lo siguiente, utilizar matemáticas? Hay que parar esto...jaja.
¿Se imaginan un aviso de la policía de una persona que haya matado en la calle a otra persona? Se avisa que hay un sospechoso o sospechosa de edad indeterminada, de complexión compleja, de pelo de color, o no, y con una nariz... bueno, no puedo decir qué tipo de nariz tiene, ni la ropa... De risa.
dark_god
A ver a ver que estamos ahciendo un poco el clickbait. Este sistema permite categorizar a gente en base a muchas características, entre ellas, el color de piel. No empezamos ya con la cosa de que se usa para perseguir negros, simplemente es un rasgo más que determina el sistema y que es bastante fácil de conseguir.
mat10
No le veo lógica si el porcentaje de crímenes es por mucho mas alto de parte de los afroamericanos que tiene de malo un software que tome este rasgo como características de búsqueda.
apertotes
Radio de la Guardia Civil en marzo del 2019
Central: ¡A todas las unidades cercanas a Atocha, se ha producido un robo con violencia en el Telepizza de la estación!
Agente: Vamos para allí. ¿Cuántos sospechosos?
Central: ¿Sospechosos? ¡Querrá decir sospechoses!
Agente: Eso, perdón. Perdán, señorita.
Central: Dos sospechosos. Cuando los detengan háganles saber que han incurrido en machismo y falta de paridad en actividad profesional.
Agente: ¿Raza y edad?
Central: Sí y también.
Agente: ¿Van armados?
Central: La ley de protección de datos nos impide ofrecer esa información.
Agente: ¿Ropa? ¿Alguna prenda fácil de identificar?
Central: Sí, pero no podemos divulgar la marca y el color pues los accionistas podrían demandarnos por difamación.
Agente: ¿Alguna otra información de utilidad?
Central: No olviden abroncar a los empleados de Telepizzo por haber obligado a los incomprendidos criminalos a incurrir en prácticos poco edificantos y a los clientos por ser cómplizos de una sociedod payocentristo.
gregbory.ak47
sinceramente aquí hay muchos payasos y pocas risas
a mi me parece bien este mecanismo, pero es como todo. con respeto y con mucha objetividad.
marcsushi
Tampoco es como si EUA (y el mundo en general) tuviera una visión sesgada de la criminalidad según la racialidad de los individuos. Oh, wait.