Por qué al algoritmo de Google es racista (pista: porque nosotros lo hemos querido)

Google es racista.

Es la conclusión a la que han llegado unos estudiantes norteamericanos de Virginia al comprobar (y mostrarle al mundo con un video) lo que ocurre cuando buscas “three black teenagers” y “three white teenagers”. Más allá de la mofa producida por las imágenes de stock de un trío de mansos adolescentes blancos suburbiales, el humor con que se lo toman los protagonistas del video es el mismo de quien sabe que, por mucho que digan que vivimos en la era de lo políticamente correcto, lo que tenemos en el imaginario al pensar en adolescentes negros es, en muchos casos, a personas perseguidas por la justicia.

Y si Google es racista, entonces también es machista, tránsfobo, imperialista e incluso un poco cuñado, como han demostrado las búsquedas de looks apropiados e inapropiados para ir a trabajar, futbolistas vs mujeres futbolistas o incluso mujeres asiáticas. Y no, claro, Google S.A., la empresa física, no se comporta de esta forma con sus trabajadores internos (para otro día dejaremos lo de ofrecerse a congelar los óvulos de sus empleadas), sino que es el algoritmo de este buscador el que funciona así, y que se hace especialmente chocante cuando vemos los resultados de Google imágenes, como si una imagen valiese más que 1000 keywords.

Algoritmos, otra forma de decir prejuicios

Porque el algoritmo de Google es una herramienta para indexar el mundo virtual, pero sus resultados los construimos nosotros con cada búsqueda, cada clic y cada elección frente a los descartes que hacemos. Es un eco de los estereotipos de nuestra mente, más que una herramienta que muestre cómo es el mundo real. La enorme precisión de sus búsquedas, que usan a día de hoy más de 200 pistas distintas para saber lo que la gente está buscando (y que por eso mismo te autocompleta “el alcalde” o “viva el vino” cuando buscas “Rajoy”), sirve para muchas cosas, pero no para corregir que de forma automática asociemos que la persona por defecto es un hombre, casi seguro blanco, casi seguro de mediana edad.

Algo así quería demostrar la diseñadora gráfica Johana Burai en un nuevo proyecto, World White Web, en el que demostraba cómo en el popular buscador cualquier parte física que encuentres tendrá entre la inmensa mayoría de sus resultados, por defecto, respuestas de personas blancas. Hombre, mujer, pie, mano, nariz. Casi indefectiblemente se trata de personas caucásicas, que son minoría en el mundo, y dejando fuera el resto de grupos. La peor pesadilla de un publicista de Benetton.

Un vlogger, Antoine Speaks, da otra teoría plausible de la que se hace eco el Huffington Post para explicar a los tres adolescentes negros. Mientras es muy probable que esa gran web que dominamos en Occidente (ejem, Google no está en China) compre fotos de stock de adolescentes blancos, tono mayoritario en nuestro entorno, es más difícil que necesite fotos de tres adolescentes negros, con lo que las imágenes de chicos negros se llenan de imágenes de criminales porque es la siguiente categoría de búsquedas relacionadas con esos términos.

"Así que hay dos fuerzas en juego aquí. En primer lugar, el deseo comercial por comprar y vender imágenes que van a generar dinero. Y en segundo lugar, una parcialidad de los medios por publicar historias sobre crímenes violentos, que son más propensos a ser recompartidos por el público", teorizan desde el HuffPo.

Criticar la discriminación de Google... refuerza la discriminación

Por supuesto, Google no pretende voluntariamente que se produzcan estos resultados, pero sí cabría preguntarse qué está haciendo para que los resultados no perpetúen los prejuicios y las predisposiciones en sus motores de búsqueda, que podría perpetuar y expandir esta tendencia al haber aprendido a repetir el patrón. También podemos preguntarnos qué es lo que hacemos nosotros habitualmente cuando elegimos sobre qué pinchamos y en qué modo formulamos nuestras consultas.

Por ejemplo, otra de las consecuencias de los resultados discriminatorios… son precisamente todas las páginas que critican esas discriminaciones. Después de la polémica que se levantó cuando algunos tuiteros demostraron que las imágenes del gigante de Internet mostraban peinados afroamericanos cuando buscas “peinado no profesional”, The Guardian descubrió que muchos de los resultados provenían de las mismas páginas que criticaban esa conducta en el mundo laboral, donde, según los escritores de una vasta cantidad de entradas, consideraban la rastas o el pelo rizado una distracción para el resto de compañeros.

Si necesitas aún más ironía, cuando ahora buscas "unprofessional hairstyles" lo que encuentras en los resultados de Google Imágenes son las mismas capturas de pantallas de lo que había en Google imágenes cuando se hicieron esos artículos criticando los resultados. Y si buscas "professional hairstyles", encontrarás algunos peinados de mujeres negras, inmensa mayoría de mujeres blancas y ausencia total de peinados de hombres.

Los cambios de Google: la progresiva calidad del servicio

Son muchos los frentes en los que la compañía ha intentado mejorar y hacer la experiencia más precisa, y la evolución a lo largo de los años indica que la difícil perfección de tropecientos resultados (“para cada búsqueda hay miles o millones de páginas web con información útil”) hace que el futuro de la red sea esperanzador en este sentido. Los más veteranos igual recuerdan cómo era buscar cosas en Internet antes de 2001. Para los demás, esta es la línea temporal que ha ido dejando Google:

2001: Toolbar

Google lanza el primer buscador en la barra de herramientas del navegador (¿No es una cucada?). Ya existen Adwords y Google imágenes.

2002: la gran actualización

Google muestra su primer algoritmo. Dicen que lo irán cambiando mensualmente y entran en la etapa que se conoció como Google Dance. Empieza Google News.

2003: Florida

Se cambia todo el sistema de funcionamiento de las keywords. Muchas páginas pierden su posicionamiento. Es una medida terriblemente agresiva, sin precedentes.

2007: Austin y Universal Search

Contra el contenido oculto y otras prácticas negativas como los metatags. Desde 2005 el buscador es capaz de autocompletar. Ahora se aglutinan en una misma búsqueda noticias, fotos, videos y muchas cosas más. También se busca potenciar las búsquedas long-tail, o dicho de otra manera, la red es lo suficientemente amplia como para empezar a preocuparnos por las búsquedas más precisas y menos por las generales. Ayudar a las páginas que hablan de “la huella de la literatura de Voltaire en la obra de Goya” y no por “Goya” en general.

2010: Instant y Caffeine

Se perfecciona el autocompletar con hechos que estén de actualidad. Ahora se indexa mucho más rápido, y de tus resultados un 50% estará relacionado con lo inmediato. Si buscas Zapatero te aparecerán las últimas noticias relacionadas con el exPresidente.

2011: Panda

Lucha directa contra el contenido de baja calidad y duplicado. Páginas que utilizaban habilidosos términos clave para atraer a un público que no encontraría unos contenidos suficientemente buenos empezarían a ser penalizadas. Y fundamental: se puede buscar por imágenes.

2012: Pingüino

Lucha contra el linkbuilding. Anteriormente Google pensaba que todo consistía en si los textos estaban nutridos con bastantes hipervínculos, pero sin ninguna relevancia. También contra el black-hat, esas páginas que a los rastreadores les parece que estaban muy optimizados pero que, a la hora de que el usuario entre en la página, se encontraba con un contenido totalmente diferente. Se le da puntos extra a la autoridad del dominio y a si pone un texto en su link preciso e informativo. Ah, y calidad es mejor que cantidad.

2013: Colibrí

Se introduce un cambio arquitectónico muy importante en su algoritmo: Google ya no sólo entiende las palabras sueltas que introduces en la búsqueda, sino también su semántica. Dicho de otra forma, entiende algo mejor las frases y el sentido de lo que dices al buscar. De ahí que cuando escribes en Google cuánto es 20 por 30 te indique que son 600. Con la comprensión semántica llega el Knowledge graph, o dicho de otra forma, la tabla que aparece a la derecha con diversos datos relevantes cuando buscas sobre Cervantes o Los Vengadores (y así evitar que tengas que entrar a Wikipedia para consultar datos básicos). Los smartphones han llegado para quedarse, así que las páginas sin diseño específico para los móviles también empiezan a encontrarse en problemas.

2014: Zebra

Una actualización algo más tendenciosa. Quiere potenciar el e-commerce que practica buenas prácticas, pero para eso no basta con optimizar tu página para que el usuario llegue bien a tus productos o tener una presencia importante en redes sociales, también hay que obtener el Google Trusted Stores y publicar en Google Shopping. De momento, no ha sido un gran éxito.

2015: Paloma

Vivimos pegados al móvil y a nuestra geolocalización. Olvídate de tener miedo de que Google sepa en qué rincón de una ciudad turística estás, porque eso ayuda a que TripAdvisor o el mismo Google te den mejores consejos sobre los sitios a los que puedes ir a comer o los emplazamientos que visitar.

En pos de la variedad de resultados: ¿una posible actualización en el horizonte?

Así que sí, como vemos, son muchos los cambios que constantemente han ido incorporando desde Google para mejorar la experiencia de los usuarios, y aunque no han hecho ningún gesto por eliminar tics prejuiciosos de sus resultados, sí parece claro que desde la compañía son conscientes del problema que suponen estos resultados, y que están pensando en cómo intervenir en esa tendencia.

Aunque para la compañía, tomar partido en aspectos de este tipo, sería girar una política empresarial de ofrecer explícitamente el servicio que “queremos” consumir (como así demuestran los resultados de estas búsquedas que hasta ahora hemos generado) con el que “debemos” consumir.