Si hace unos días era YouTube Kids el servicio que levantaba la polémica, ahora es el sitio web original, YouTube, el que es el foco de todas las críticas. El motivo, su motor de búsqueda integrado, que al completar el término de búsqueda planteaba una especialmente delicada.
En ese buscador en inglés al introducir los términos "How to have" una de las sugerencias que ofrecía el buscador era "How to have sx with kids*" ("Cómo tener relaciones sexuales con niños"). Los algoritmos que controlan el funcionamiento de YouTube siguen mostrando su lado oscuro, y los anunciantes comienzan a abandonar una plataforma que no quieren ver relacionada con sus marcas.
El autocompletado le vuelve a jugar una mala pasada a Google
Esa sugerencia de búsqueda ya no aparece en YouTube gracias a los avisos de los usuarios y de medios como BuzzFeed que desvelaron el problema. Portavoces de la empresa indicaron que estaban investigando el problema para "determinar qué es lo que había detrás de la aparición de este autocompletado".
La característica de autocompletado del motor de búsqueda lleva siendo parte de los servicios de Google desde hace años, y precisamente dicha opción que trata de adelantarse a nuestras necesidades ha sido en el pasado también protagonista de problemas, resultados curiosos y de numerosos memes.
Esa función está diseñada para evitar búsquedas de datos sensibles y también para que las frases no se completen con "búsquedas ofensivas, dañinas o inapropiadas". Allí también explicaban que este sistema hace que las sugerencias que se presentan cambian con frecuencia, y que esas predicciones "se producen basándonos en una serie de factores incluida la popularidad y la frescura de los términos de búsqueda".
Precisamente esa dependencia de la característica de la popularidad de los términos de búsqueda puede haber sido usada para provocar el problema en YouTube. Algunos hablan de una campaña coordinada para lograr "jugársela" al algoritmo, algo que parece probable dado el uso del término "s*x" con ese asterisco tan peculiar que no parece propio de una búsqueda convencional.
Más vídeos enfermizos
A este problema y al que sufre YouTube Kids con ese enorme catálogo de vídeos perturbadores se le han unido en los pasados días otros descubrimientos también preocupantes.
Otra investigación también de BuzzFeed desveló la existencia de un gran número de vídeos en los que se representaban escenas perturbadoras con niños en situaciones vulnerables. Por ejemplo, atados con cuerdas, con cinta, simulando secuestros sin que ellos se dieran cuenta de la situación.
En otros vídeos los niños eran obligados a "jugar a los doctores" con un adulto, y en ellos aparecían a menudo escenas grotescas y en las que los niños eran víctimas inocentes de una simulación controlada por quienes publican los vídeos.
Muchos de esos vídeos proceden de canales verificados y tienen decenas de millones de páginas vistas, y de nuevo resulta preocupante una situación en la que YouTube, eso sí, ha reaccionado eliminando miles de canales conflictivos.
Según un portavoz del servicio, "en la última semana hemos reforzado nuestras políticas de manera tal que estamos cerrando las cuentas de aquellos usuarios que hacen comentarios inapropiados en vídeos donde aparezcan menores".
"Como resultado", añadía, "hemos cerrado cientos de cuentas, eliminado más de 150 mil vídeos e inhabilitado los comentarios en más de 625 mil videos. Además, hemos eliminado anuncios de más de 2 millones de vídeos y 50 mil canales que aparecían como contenido apropiado para familias". A esas declaraciones se le unen el artículo del blog oficial en el que explicaron cómo reforzarán este apartado, pero las consecuencias de estos problemas ya están apareciendo.
El modelo de negocio de Google, en compromiso
Todos estos sucesos han provocado que algunas grandes marcas comiencen a evitar el uso de YouTube y de Google para publicar anuncios, sobre todo tras el descubrimiento de que esos anuncios estaban apareciendo en contenidos publicados por pedófilos o por esos canales con vídeos perturbadores.
Entre esas marcas, indicaban hace unos días en The Guardian, están HP, Lidl, Deutsche Bank, Adidas, Mars o Cadbury. Uno de los representantes de Mars comentaba por ejemplo que "estamos conmocionados y consternados al ver que nuestros anuncios han aparecido junto a un contenido tan explotador e inapropiado. Hemos tomado la decisión de suspender inmediatamente toda nuestra publicidad online en YouTube y Google a nivel mundial. Hasta que no tengamos la confianza de que existen las debidas salvaguardias, no haremos publicidad en YouTube y Google".
Los comentarios del resto de empresas implicadas en ese abandono de la plataforma publicitaria de Google han realizado declaraciones similares, y el problema de hecho no es nuevo: hace unos meses la aparición de publicidad de empresas como AT&T o Verizon en vídeos polémicos hizo que ambas se retiraran también de la plataforma publicitaria de Google.
Esta retirada de los anunciantes tuvo un efecto directo en la comunidad de YouTubers, que vio como sus ingresos se veían reducidos. El servicio se ha convertido en una forma de vida para muchos usuarios que hace poco protestaban por cómo el servicio se ha transformado en un nicho en el que es habitual encontrar contenidos con poca calidad y en el que la gestión de la publicidad no es la adecuada.
Los algoritmos utilizados por Google en sus servicios han demostrado ser tremendamente útiles para que esta empresa pueda ofrecer más opciones a muchísima más gente y hacerlo además más rápido, pero ese crecimiento espectacular comienza a verse arrinconado por un hecho cada vez más evidente: el de que esos algoritmos siguen necesitando mayores mecanismos de control y gestión para que haya un mal uso de los mismos, sea intencionado o no.
En Xataka | Los humanos que se rebelan contra los algoritmos
Ver 17 comentarios