Cuando busco "cocinar", Google Images me muestra mujeres: ¿debería Google modificar los resultados?

Hace poco más de dos años la Universidad de Washington publicó un estudio revelador sobre el sesgo de género en los resultados de las búsquedas de imágenes. El objetivo era sencillo: buscar fotografías de varias profesiones, evaluar cuán acertadamente se representaba a hombres y mujeres y cómo valoraban tales resultados los usuarios.

Se encontraron pruebas de una exageración estereotipada y una subrepresentación sistemática de las mujeres. Descubrieron que las personas calificaban mejor los resultados de búsqueda si estaban de acuerdo con el estereotipo. Y, de forma general, comprobaron que el género minoritario de un oficio se retrataba de forma menos profesional.

Un ejemplo: en los cien primeros resultados de la búsqueda de imágenes de Google para el término "CEO" el 11 % de las fotos correspondía a mujeres. En Estados Unidos, donde se llevó a cabo la investigación, el porcentaje de directoras ejecutivas era entonces de un 27 %. La consulta, resulta evidente, arrojaba una imagen distorsionada de la realidad.

Sin embargo, no hace falta llevar a cabo una gran investigación para comprobarlo. Basta con buscar términos cotidianos como "cocinar" o "colegiala" para constatar un problema evidente. En el primer caso, un predominio notable de fotografías de mujeres cocinando. En el segundo, una sexualización lacerante con o sin el filtrado de resultados explícitos.

Es un reflejo, a la postre, de parte de los males de la sociedad en la que vivimos. Anomalías a distintos niveles que según los investigadores del estudio estadounidense influyen en las percepciones personales. Sopesando el poder de estos resultados surge una pregunta evidente: ¿Google debería alterar su algoritmo para que los resultados de búsqueda de imágenes no fuesen sexistas, machistas o irreales? Abrimos el debate.

El buscador como reflejo de la red o representación de la realidad social

"Google no debería alterar sus resultados de búsqueda de imágenes para mostrar resultados no sexistas", nos dice María González, directora de esta casa. "Que el sexismo en Internet existe y es un problema es un hecho, y una de las muestras es precisamente ésa: busca 'persona en la cocina' y la mayoría de resultados son mujeres".

Que el buscador alterase los resultados tendría, para la responsable de Xataka, dos problemas: "el primero, que Google no ofrecería un fiel reflejo de Internet en la actualidad. Ofrecería resultados artificiales que no se corresponden con la realidad. Pero el problema sigue estando ahí, porque si salen esas imágenes es que en Internet hay mayoría de esas imágenes". El segundo problema sería el precedente, que los de Mountain View dejarían de tener un papel "neutral". Una vez que modificasen un algoritmo que se dedica a seleccionar y ordenar, "¿cuándo sería la próxima vez que Google alterase los resultados?", se pregunta.

Resultados obtenidos en Google Imágenes al buscar "cocinar".

Cristina Alcázar, consultora de marketing en Bee Social, experta en comunicación en línea y una firme defensora de la responsabilidad de las marcas, se muestra más dubitativa. "Yo no sé si Google debería alterar su algoritmo, lo que sí sé es que debería ajustarse a la realidad social y no a lo que interesa posicionar". Esta profesional de la comunicación cree que nos deberíamos preguntar por qué interesa posicionar imágenes sexualizadas y una vez sabida la razón, "si hay que denunciar y cambiar algoritmos que se haga".

"No es solo un tema de sexismo", nos asegura Aldara Pérez, responsable SEO de Weblogs SL. "Por ejemplo, cuando un usuario busca 'familia' le costará encontrar imágenes de familias monoparentales, homoparentales e interraciales. O cuando busca 'matrimonio' también le costará encontrar entre las imágenes de los resultados, un matrimonio interracial, o un matrimonio homosexual".

¿Los resultados, entonces, cómo son? "De baja calidad", asegura la profesional del posicionamiento. "No representan la realidad social y además perpetúan esterotipos y prejuicios, por ello que considero que se debería alterar el algoritmo. Google ha definido (y defendido) sus actualizaciones como mejoras para garantizar la calidad". "Con los avances de la tecnología en reconocimiento facial sumada a los featured snippets, Google podría ofrecer en los primeros puestos de imágenes resultados que reflejen la sociedad actual en toda su amplitud".

Búsqueda del término "family" en Google Imágenes de Reino Unido con configuración de idioma en inglés.

De hecho, según nos cuenta, "de algún modo ya está actuando sobre el algoritmo de Google Imágenes y esto se aprecia al comparar los resultados de Google Imágenes en inglés (Reino Unido) versus español (España)". "Para los resultados sobre profesiones, en inglés (UK) hay mayor representación femenina y étnica", afirma Pérez, al mismo tiempo que para los resultados sobre familia y matrimonio, también en inglés de Reino Unido, "hay una mayor variedad étnica".

Qué separa lo que se puede filtrar o alterar de lo que no

Teniendo en cuenta que desde el buscador sí se lucha contra determinado tipo de contenido, ilegal o no, como material extremista, imágenes violentas, determinados contenidos para adultos, noticias falsas, propaganda política... ¿Dónde está el límite? ¿Dónde se encuentra la frontera entre la intervención o no sobre determinados resultados?

"Una cosa es que alguien pida a Google que modifique los resultados sexistas al hacer una búsqueda y otra cosa los resultados que son directamente ilegales", dice María González. "Para los resultados ilegales, veo totalmente normal que se desindexe un contenido. Es ilegal, a fin de cuentas. ¿Qué línea separa la intervención de la no intervención? La ley. Pero más allá de eso, y entre contenidos legales, creo que Google debería intervenir lo menos posible a la hora de mostrar resultados, al menos si quiere conservar su papel de buscador neutral".

Resultados obtenidos en Google Imágenes al buscar "colegiala". La filtración de resultados explícitos estaba activada.

Cristina Alcázar afirma no estar a favor de la censura, "pero sí de buscar la raíz del problema y, por qué no, de favorecer las posiciones de las empresas o el contenido ético". La forma de evitar el trazado de una línea entre lo que sí se puede mostrar y lo que no, o la forma en que se expone, podría ser la creación de más filtros. "Igual añadir un filtro ético en el buscador al igual que las imágenes con Creative Commons o un filtro sin sexismo". "Es muy complejo atajar este problema y deberíamos preguntar a los que salen en primeras posiciones por qué lo hacen".

Aldara Pérez, por su parte, tiene dudas al respecto porque cree que la línea dependería exactamente del problema concreto. "Creo que muchas cosas no las tienen en el radar como problemas, por ejemplo, con las sugerencias de búsqueda en YouTube han actuado cuando se han enterado, al saltar la polémica. Supongo que plantearon de base el algoritmo sin x límites o supuestos que podrían ser problemáticos".

El impacto de unos resultados responsables

Hemos identificado el problema. Hemos visto las razones que apoyan una intervención y las que no. Independientemente de las opiniones que hemos leído, ¿creen que una alteración en positivo de los primeros resultados de determinadas consultas causaría un impacto apreciable en los usuarios?

Vuelve a responder la directora de este medio: "Creo que no. Creo que, como decía, ayudaría a enmascarar un problema y sería perjudicial, de hecho, para la lucha contra el sexismo. Busca 'nurse' en Google Images: la mayoría de resultados son mujeres. ¿Qué ganaríamos con que Google alterara artificialmente los resultados? ¿Que alguien, a la hora de ir a buscar una foto para un trabajo, artículo o lo que sea, tenga variedad de sexos? A cambio perderíamos poder ver, de un vistazo, cómo Internet tiene un gran problema en general: es sexista y por mucho que se alteren los resultados de Google el sexismo va a seguir estando ahí".

En línea con el anterior parecer de Alcázar, aboga por "ir a la raíz, a la fuente, y no al intermediario". "El problema no es Google, el problema son todas las páginas que comparten este tipo de fotos y no se preguntan si están ayudando a perpetuar los estereotipos laborales", concluye.

Aldara Pérez sinteriza su respuesta en una única frase: "Con resultados de búsqueda neutrales se visibilizan realidades y se educa, y la educación es la base para combatir los prejuicios y los sesgos".

"Creo que si los resultados no fueran sexistas, su granito de arena aportarían hacia la igualdad", dice Cristina Alcázar, "pero francamente me preocupa más la sexualización de la mujer y las niñas que los clichés". Cree que todo ayuda y que "es hora de concienciar" buscando la razón de esos resultados machistas. "Están ahí porque son una extensión de la sociedad, de las búsquedas y de los contenidos más compartidos. Nos debemos preguntar por qué".

Ese deber de pregunta es el que queda en el aire. Google, lo hemos dicho varias, no es más que un reflejo de todo aquello que habita en Internet. Resultados similares podríamos encontrarnos en otros buscadores como Yahoo! o Bing. Es la postura que mantienen en Mountain View y la que han expresado desde Google España a Xataka.

Nuestros resultados de búsqueda de imágenes son un reflejo del contenido de toda la web, incluida la frecuencia con la que aparecen estos tipos de imágenes y la forma en que se describen en la web. Esto significa que a veces las desagradables descripciones de temas delicados pueden afectar los resultados de la búsqueda de imágenes que aparecen para una consulta determinada. Estos resultados no reflejan las propias opiniones o creencias de Google: como empresa, valoramos mucho la diversidad de perspectivas, ideas y culturas.

Las dudas sobre si una alteración conseguiría un impacto positivo, no obstante, siempre quedan. Si al igual que se señalan las fake news en determinadas ocasiones, se señalasen o alterasen los resultados en casos tan flagrantes como el de la búsqueda del término "colegiala", por ejemplo, ¿no progresaríamos? Si a la hora de buscar imágenes de todo tipo de profesiones la representación de hombres y mujeres fuese más realista y concordase con los tiempos actuales, ¿no podría ayudar, poco a poco, al destierro de estereotipos?

El debate es largo e interesante. Y todos llegaremos a nuestras propias conclusiones, incluidos quienes se encargan de marcar el devenir de herramientas tan indirectamente influyentes como Google Imágenes.

En Magnet | El empleado del "manifiesto" de Google tenía razón, pero no por las razones que él creía