La Comisión Europea quiere que las plataformas expliquen a los usuarios cómo funcionan sus algoritmos de recomendación de contenido

Margrethe Vestager, Comisaria de Competencia de la Comisión Europea, vuelve a cargar contra las grandes plataformas online y esta vez pone la mirilla en los algoritmos de recomendación de contenido que Facebook, Instagram, Twitter, TikTok y demás plataformas usan para mostrar contenido al usuario. La Comisaria quiere más transparencia y afirma estar trabajando en una propuesta por la cual las "plataformas tendrán que decir a los usuarios cómo sus sistemas de recomendación deciden qué contenido mostrar".

Durante el "AlgorithmWatch Online Policy Dialogue", la Comisaria ha explicado que los algortimos "son el secreto del éxito de estas grandes plataformas", pero que pueden tener graves efectos en la salud de nuestra democracia "por la influencia que tienen en cómo vemos el mundo que nos rodea". En palabras de la propia Vestager:

"Naturalmente asumimos que lo que vemos primero es lo más importante: las noticias más exactas, la opinión más compartida. Y las cosas que son empujadas hacia abajo en nuestras fuentes, o eliminadas por completo por los sistemas de moderación de contenido - bueno, esas cosas bien podrían no existir. Esas son buenas noticias, por supuesto, si estamos hablando de contenido ilegal. Pero muchas veces, significa que estos sistemas están eligiendo qué argumentos e ideas legítimas vemos, todo sin pedirnos permiso, o incluso sin decirnos lo que están haciendo".

"Es un poco como 'El Show de Truman'"

La Comisaria ha comparado el funcionamiento de los algoritmos de recomendación de contenido con 'El Show de Truman', en tanto que "el mundo que vemos a través de las plataformas parece tan real que puede ser complicado recordar que realmente ha sido diseñado, construido con las decisiones que los algoritmos hacen sobre lo que debemos ver". Es una postura muy crítica ante un debate que lleva tiempo sobre la mesa.

Vestager ha cargado contra las plataformas y sus algoritmos o, más bien, a la falta de transparencia sobre su funcionamiento, afirmando que "las plataformas - y los algoritmos que utilizan - pueden tener un enorme impacto en la forma en que vemos el mundo que nos rodea". Para Vestager, esto es un reto para la democracia, en tanto que las plataformas definen nuestro "espacio público" y "afectan a las ideas y argumentos que escuchamos y las decisiones políticas que podemos hacer".

En su conferencia, la Comisaria se ha mostrado radicalmente en contra a que "unas pocas salas de juntas corporativas" tomen en secreto las decisiones que afectan al futuro de la democracia, motivo por el cual, a través de la Digital Services Act que se presentará en diciembre, busca que las plataformas sean transparentes "en cuanto a la forma en que funcionan estos algoritmos, y hacer que esas plataformas sean más responsables de las decisiones que tomen".

Entre las propuestas que Vestager ha puesto sobre la mesa están que las plataformas le digan a los usuarios cómo funcionan sus sistemas de recomendación; que presenten informes regulares sobre las herramientas de moderación que usan, así cómo sus resultados y precisión; que den mejor información sobre los anuncios que vemos y expliquen quién ha puesto ese anuncio ahí y por qué nos aparece. De esa forma "tenemos una mejor idea de quién está tratando de influenciarnos", ha afirmado Vestager.

De la misma forma, estas normas implicarán que los servicios digitales tendrán que "decirle a los usuarios cuándo eliminan su contenido y darle derechos efectivos para apelar esa eliminación". Otra propuesta interesante es que las plataformas "también tendrán que darnos la posibilidad de influir en las decisiones que los sistemas de recomendación hacen por nosotros".

Por otro lado, la Digital Services Act también se asegurará de que los reguladores obtengan la información que necesiten para entender y regir el funcionamiento de los algoritmos. Según Vestager, esta ley dará a las plataformas y servicios digitales "el deber de cooperar con los reguladores", hasta el punto de que las grandes plataformas tendrían que dar más información sobre cómo funcionan sus algoritmos a los reguladores cuando estos pregunten por dicha información.

Los algoritmos no son malos per se

Vestager también ha tenido algunas palabras para la inteligencia artificial. Si bien afirma que puede ser útil para filtrar y seleccionar información, también asegura que pueden convertirse en "cajas negras" que toman decisiones de formas "que nadie entiende realmente, incluidas las personas que las diseñaron". Eso hace que sean difíciles de entender, tanto para usuarios como para los reguladores.

Otro asunto que la Comisaria ha abordado es el sesgo de la IA, que pueden haber sido entrenadas con datos sesgados y, por lo tanto, no del todo representativos. "Si no sabemos cómo están tomando sus decisiones, no podemos estar seguros de que esas decisiones no se basan en estereotipos perjudiciales". En ese sentido, la Comisión Europea ya presentó el año pasado una guía de ética para la inteligencia artificial que aborda estos asuntos y que establece que la IA debe ser

"1. Lícita - respetando todas las leyes y reglamentos aplicables.
2. Ético - respetando los principios y valores éticos.
3. Robusta - tanto desde una perspectiva técnica como teniendo en cuenta su entorno social".

Según la Comisaria, "si nos preguntamos si los algoritmos son una amenaza para la democracia, la respuesta es seguramente sí, pueden serlo, pero no tienen por qué serlo". "En los últimos meses y años, creo que ha crecido el consenso de que ha llegado el momento de poner en marcha estas reglas", opina Vestager, que recuerda que el objetivo no es "socavar los grandes beneficios que obtenemos de las plataformas", sino "asegurarnos de que nosotros, como sociedad, tenemos el control".