Todo empieza con una constatación inquietante, pero que puede reducirse a la anécdota: una investigadora afroamericana, Joy Buolamwini, se da cuenta de que un programa de reconocimiento facial no distingue ni identifica su rostro como el de una persona cuantificable para su base de datos. Pero sí lo hace cuando se coloca una máscara neutra... y blanca.
Es el punto de partida de un documental que picotea en muchísimos temas, todos a partir de la arbitrariedad y falta de ética con la que los algoritmos recogen información para dar forma a sus bases de datos y los conocimientos con los que van engordando distintas IAs. Una arbitrariedad que toma forma a partir de prejuicios que todos tenemos y que hacen que, por ejemplo, y como dice uno de los participantes en este interesante documental, el racismo se mecanice y se replique.
En otro momento de la acción, el documental cuenta la experiencia de una joven china con el sistema de vigilancia e identificación constante que hay en su país, y el sistema de crédito social. A continuación, una experta norteamericana afirma que el sistema no es tan distinto a la vigilancia occidental de los ciudadanos a través de redes sociales... pero que al menos en China el gobierno lo reconoce.
De este modo, el documental viaja continuamente por todo el mundo, haciéndose preguntas sobre privacidad, tecnología y cómo los nuevos modelos informáticos nos imponen restricciones que en muchos aspectos creíamos superadas. 'Sesgo codificado' no tiene un discurso unívoco e indiscutible, pero sí que lanza al espectador un montón de preguntas que necesitamos hacernos (y sobre todo, responder) con urgencia.
El racismo del algoritmo
'Sesgo codificado' se enmarca en una serie de documentales recientes sobre tecnología que advierten sobre los peligros de cuestiones muy similares: la pérdida de intimidad, cómo la tecnología entra inadvertidamente en aspectos que antes competían estrictamente a los humanos y, en general, el riesgo de perder el control de lo que nosotros mismos hemos creado. Tanto 'El gran hackeo' como 'El dilema de las redes sociales', que también se pueden ver en Netflix, se centraban en la desintegración descontrolada de lo privado.
'Sesgo codificado' también entra en este tema, pero como parte de un problema mayor: la amenaza abstracta de un algoritmo matemático descentralizado que aprende, pero aprende mal. Y sí, se entra en el tema de la manipulación electoral (no siempre premeditada, y esa es una de las cuestiones más inquietantes del conjunto: aquí no hay supervillanos, sino fallas de la sociedad en su conjunto), pero también en la erosión de los derechos individuales, como el empleo que fuerzas del orden británicas o estadounidenses hacen de bases de datos que parten de datos prejuiciosos.
Es en esos momentos cuando el documental juguetea con un tremendismo que amenaza con frivolizar su discurso. Guiños a películas como la adaptación de '1984' o la IA malvada de '2001: Una odisea en el espacio', con una voz robótica hablando en primera persona, son simpáticos pero chocan con la solemne seriedad que exige lo que se está contando. Por suerte, 'Sesgo codificado' y su directora Shalini Kantayya (una de las expertas que aparecen hablando en la película) no olvidan que estamos hablando de tecnología, pero sobre todo, de su impacto en las personas.
"La IA se basa en datos, y los datos son un reflejo de nuestra historia", dice Buolamwini en el documental, y esa es la esencia de la algo amarga conclusión: las IAs son prejuiciosas porque las personas estamos llenas de prejuicios. Pero en la otra cara de la moneda, el documental es optimista y cierra con un pequeño triunfo de la investigadora contra la maquinaria matemática, con un simpático tecnopoema y con una llamada a la acción. Está en nuestra mano poner freno a muchos de los excesos que denuncia "Sesgo codificado", y desde ese punto de vista, pese a las advertencias, sabe ir más allá que otros documentales de su estilo.
Ver 76 comentarios