Compartir tus fotos en redes sociales igual no te parece tan fantástico después de leer lo siguiente: alguien las está recopilando sin decirte nada y las está metiendo en una gigantesca base de datos en la que quedan guardadas para siempre. ¿Para qué? Para que cualquiera pueda usarlas para buscar tu cara y encontrar detalles sobre dónde, cuándo y con quién estabas en el pasado.
La empresa que lo está haciendo se llama Clearview AI, y son ya varias las agencias de seguridad y departamentos policiales que en Estados Unidos ya la han aprovechado para identificar a sospechosos de diversos delitos. La invasión a la privacidad es una vez más flagrante, pero una delgada línea legal parece permitir este tipo de servicio: tus fotos son públicas, así que que alguien las utilice para reconocimiento facial es una (trágica) consecuencia de esa acción tan cotidiana y, aparentemente, tan inofensiva.
Tus fotos en redes sociales no solo están en esas redes sociales
En The New York Times escriben la historia de Hoan Ton-That, un ciudadano australiano de ascendencia vietnamita que tras varios proyectos fallidos se asoció con Richard Schwartz —que fue asistente de Rudolph W. Giuliani cuando este fue alcalde de Nueva York— para lanzar al mercado un nuevo proyecto: uno que permitía recolectar imágenes públicas de internet para usarlas en un gigantesco sistema de reconocimiento facial.
Logo de Clearview AI
Ton-That se ocupó de trabajar con un pequeño equipo de desarrolladores diseñar el algoritmo necesario para esa tarea. Su tecnología convierte las fotos de caras en vectores (basados en la geometría facial) que luego permiten ser comparados con otras fotos de otras caras que también son vectores: estudiando las similitudes entre unos y otros ese sistema es capaz de rastrear esa gigantesca base de datos con 3.000 millones de imágenes (actualmente) para encontrar equivalencias.
El sistema de ClearView AI encuentra resultados el 75% de las veces, y permite que incluso con fotos de caras que no están capturadas de frente o que incluso están cubiertas parcialmente aparezcan resultados válidos. Uno puede rebuscar a partir de una imagen obtenida por una cámara de seguridad y obtener una serie de resultados pertenecientes a la foto de esa persona en una publicación de Facebook o de Venmo, entre las que citan en el NYT.
Eso permite que el reconocimiento facial acabe sirviendo para descubrir a personas que acaban dejando un rastro aunque no quieran hacerlo: no solo aparecen publicaciones de esa persona, sino las de las cuentas de otras personas en las que también aparece esa persona en alguna foto de grupo, por ejemplo: la red neuronal es implacable, y acaba detectando esas fotos con una precisión que ha acabado convirtiendo la herramienta en un potente y distópico desarrollo que varias agencias de seguridad y departamentos de policía están usando en Estados Unidos.
Una 'killer app' policial
En The New York Times citan por ejemplo al Departamento de Policía del Estado de Indiana, que comenzó a experimentar con Clearview en febrero de 2019. En 20 minutos resolvieron un caso abierto que tenían desde hacía tiempo: dos hombres se habían puesto a pelearse en un parque y uno de ellos disparó al otro. Un viandante capturó todo en su móvil, y eso permitió a la policía contar con una foto de la cara del sospechoso.
Ese hombre apareció inmediatamente en Clearview en un vídeo que alguien había publicado en redes sociales. Su nombre estaba incluido en la información del vídeo, y gracias a ello pudieron identificarlo: "no tenía carné de conducir y no había sido arrestado como adulto, así que no estaba en las bases de datos del gobierno". Este departamento de policía fue el primero en pagar la cuota anual por el servicio de Clearview.
A partir de ahí la popularidad de Clearview entre departamentos de policía se disparó. La red de contactos de Schwartz permitió a Clearview hablar del servicio a diversos miembros del gobierno republicano para ofrecer este servicio a las fuerzas policiales.
Sus responsables ofrecen pruebas de evaluación de un mes y licencias anuales que parten de los 2.000 dólares, y son varios los que han confirmado que lo han utilizado con éxito para resolver diversos casos en los que las bases de datos existentes no habían logrado ofrecer resultados que permitiesen encontrar a los sospechosos.
Entre ellos está el detective Nick Ferrara, de Gainesville, Florida, que normalmente utilizaba las fotos policiales de la base de datos FACES que cuenta con 30 millones de capturas. Con Clearview logró algo que FACES no permitía: utilizar fotos de gente que no estaba mirando directamente a la cámara: "con Clearview puedes usar fotos que no son perfectas. Una persona puede llevar un gorro o gafas, o puede ser una foto de perfil o una vista parcial de su cara", explicaba.
"Estamos todos jodidos"
Las dudas sobre la validez de esta herramienta han sido ahora planteadas por varios expertos y defensores de la privacidad. Clare Garvie, investigador de la Universidad de Georgetown, indicaba que "no tenemos datos que sugieran que la herramienta es precisa. Cuanto más grande es la base de datos, más grande es el riesgo de una identificación errónea por culpa del efecto de doppelgänger o dobles".
Larry Griffin II causó el pánico en una estación de metro en Nueva York en agosto de 2019, y fue arrestado tras ser encontrado en la plataforma de Clearview. Los responsables de la empresa muestran este artículo como ejemplo de la cobertura en prensa de su plataforma... aunque el nombre de la empresa no se menciona ni una sola vez. Fuente: New York Post.
Para este investigador esa gigantesca base de datos es un problema, mientras que otros como Al Gidari, un profesor de privacidad en la Stanford Law School, indicaba que "lo que están haciendo es espeluznante, pero habrá más compañías que lo hagan. No existe el monopolio de las matemáticas. En ausencia de una ley de privacidad contundente, estamos todos jodidos".
Para Woodrow Hartzog, profesor de leyes y de informática en la Northeastern University en Boston, explicaba que para él Clearview es la demostración de que el reconocimiento facial debería ser prohibido en Estados Unidos. "No veo un futuro en el que aprovechemos los beneficios de la tecnología de reconocimiento facial sin el abuso paralizante de la vigilancia que conlleva. La única manera de detenerlo es prohibirlo", afirmaba.
Los responsables de Clearview defienden el uso de este servicio apoyándose en las ventajas que proporciona en el ámbito de la seguridad. David Scalzo, fundador de Kirenaga Partners, una de las empresas que ha invertido en Clearview AI, indicaba que "he llegado a la conclusión de dado que la información aumenta constantemente, nunca habrá privacidad. Las leyes tienen que determinar lo que es legal, pero no se puede prohibir la tecnología. Es cierto que eso puede llevar a un futuro distópico o algo parecido, pero no se puede prohibir".
Ton-That, mientras tanto, aifrma que la empresa sólo utiliza imágenes públicas y señala que los usuarios siempre pueden configurar sus cuentas de Facebook por ejemplo para evitar que los motores de búsqueda no puedan enlazar a tu perfil, algo que hará que tus fotos no se incluyan en la base de datos.
En Facebook es necesario ir a Configuración -> Reconocimiento Facial para desactivar la opción que permitiría a empresas como Clearview recolectar en su base de datos las imágenes que compartimos.
Sin embargo si tus fotos están ya en esa base de datos, no podrás hacer mucho por eliminarlas de allí. Ton-That afirma que están trabajando en una herramienta que permita a los usuarios borrar sus imágenes de esa base de datos si también desaparecen de la web original (tendrás que borrarla primero de tus redes sociales), pero de momento no hay demasiada información adicional sobre esa capacidad.
Esa recolección masiva de imágenes es también algo que muchas redes sociales permiten. Facebook lo hace a no ser que el usuario configure su cuenta explícitamente —aquí se explica cómo hacerlo— para que esas imágenes públicas no puedan ser utilizadas de este modo.
Esta es una de las gráficas que Clearview utiliza para comercializar su servicio.
Esa circunstancia se une al hecho de que uno de los inversores iniciales en Clearview AI ha sido Pether Thiel, conocido emprendedor que está en el consejo de administración de Facebook (también fue uno de sus primeros inversores) y que tras vender PayPal fundó Palantir Technologies, una empresa de análisis de Big Data que también trabaja en el ámbito de la seguridad.
Twitter, por ejemplo tiene normas específicas sobre el uso de sus APIs que impiden que prohíben específicamente que las imágenes publicadas en esta red social puedan ser recolectadas para luego ser utilizadas en motores de reconocimiento facial.
Para Ton-That las implicaciones de Clearview no están claras, pero "nuestra creencia es que este es el mejor uso de la tecnología". Puede que algunos estén de acuerdo, pero ese argumento vuelve a caerse por su propio peso si pensamos un poco en una nueva e inquietante violación de la privacidad que parece mucho más propia de países como China.
En Europa parece que afortunadamente la adopción de este tipo de desarrollos es mucho más complicada a corto plazo: hace unos días se descubrieron los planes de la UE para imponer un veto de cinco años al reconocimiento facial en zonas públicas, y puede que casos como el de Clearview hagan que ese veto se expanda a otro tipo de escenarios.
Ver 28 comentarios