Para muchos padres -y me incluyo- YouTube Kids era una ideaza. Un servicio con contenidos específicos para niños que teóricamente estaban filtrados y que permitían evitar contenidos adultos y no adecuados. Una bendición para distraerles en según qué momentos.
Aquella bendición ya demostró haberse convertido en una pesadilla a finales de 2017, y ahora vuelve el horror. Una pediatra ha descubierto cómo en vídeos aparentemente normales de YouTube Kids aparecen de repente fragmentos que revelan cómo alguien se puede suicidar. Recuerda que es muy fácil descargar vídeos de YouTube, o bajar la música de los vídeos de YouTube.
YouTube Kids vuelve a tener un gran problema
La pediatra, que firmaba un artículo de forma anónima en un blog especializado llamado PediMom, indicaba cómo descubrió ese fragmento. Su hijo empezó a sangrar por la nariz, y mientras le curaba quiso distraerle poniendo un vídeo en YouTube Kids.
This is a cartoon on @YouTube. At 4.44 secs a man is spliced in showing children how to properly slit their wrists. #thisisnotok #protectourkids #parentsdemandaction. Link to full video and to report in comments. pic.twitter.com/ur1xVpLoqR
— PediMom, Dr. Free N. Hess (@thepedimom) 15 de febrero de 2019
Todo parecía normal hasta que en un momento del vídeo el contenido se cortaba para dejar paso a un fragmento aterrador. Un adulto daba instrucciones directas a los niños sobre cómo suicidarse cortándose las venas. La persona que aparece es alguien que usaba el pseudónimo Filthy Frank, un humorista con 6 millones de suscriptores en su canal de YouTube.
El responsable del fragmento iba más allá a la hora de realizar el procedimiento, y explicaba lo siguiente: "Recordad niños, cortad de lado para llamar la atención, y cortad a lo largo para obtener mejores resultados".
No está claro que el responsable de ese canal haya tenido nada que ver con este vídeo en particular. En Reddit por ejemplo indican que el creador del vídeo ha insertado ese fragmento de un antiguo vídeo de Filthy Frank sin consentimiento del autor original.
El vídeo ha sido eliminado por parte de YouTube en cuanto la doctora ha informado sobre este enorme problema, pero ella y otros han confirmado que hay más vídeos de este tipo que son aparentemente normales pero que de repente contienen fragmentos con este tipo de mensajes.
Nos hemos puesto en contacto con Google y con los responsables de YouTube, que nos han ofrecido el siguiente comunicado oficial:
"Trabajamos para asegurarnos de que los videos en YouTube Kids sean amigables para la familia y nos tomamos el feedback muy en serio. Apreciamos a las personas que nos notifican sobre contenido problemático y hacemos posible que cualquiera pueda marcar un vídeo inapropiado. Los vídeos marcados se revisan manualmente las 24 horas del día, los 7 días de la semana, y se eliminan los videos que no pertenecen a la aplicación.
También hemos estado invirtiendo en nuevos controles para padres, incluida la posibilidad de seleccionar manualmente vídeos y canales en la aplicación. Estamos realizando mejoras constantes en nuestros sistemas y reconocemos que hay más trabajo por hacer".
¿Una batalla imposible de ganar?
Este nuevo suceso pone en tela de juicio la capacidad de YouTube para controlar este tipo de problemas. Es algo que no afecta solo a YouTube, sino que por supuesto también es problemático para cualquier otra plataforma en la que se suben contenidos por parte de lo susuarios.
Para YouTube Kids, no obstante, el impacto es mucho mayor por la dimensión que tiene el servicio y por el hecho de afectar a un público, los niños y jóvenes, que son especialmente influenciables por este tipo de contenidos.
Los responsables de Google ya avisaban en abril de 2018 de cómo habían tomado medidas para tratar de minimizar el problema. En un trimestre habían borrado 8 millones de vídeos y han detectado numerosos canales que promocionan estos contenidos inadecuados o simplemente terroríficos para los niños, pero la batalla contra esos contenidos es muy difícil de ganar.
Lo es porque a pesar del uso de sistemas de inteligencia artificial y de moderadores humanos que tratan de controlar y filtrar estos contenidos, la tarea es (al menos actualmente) demasiado grande para cualquier sistema combinado de máquinas y humanos.
Trucos como el utilizado por estos vídeos aparentemente normales pero que en un momento dado muestran imágenes traumáticas son la última demostración de que YouTube Kids tiene muy difícil detectar el problema. Es cierto que el resto de usuarios pueden reportar problemas y ayudar a moderar la plataforma, pero mucho nos tememos que esa ayuda del usuario de a pie está lejos de ser ideal o siquiera efectiva.
Y en medio de todo ello está YouTube Kids, que como sucede en otros casos no es más que una herramienta. Una que podría ser maravillosa pero que lamentablemente ciertos usuarios contaminan para convertirla en el horror.
Ver 65 comentarios
65 comentarios
ignacioantunez
Youtube Kids puede parecer al autor una gran idea, pero al final del día, la única gran idea es cuidar a los niños. La única forma de filtrar lo que ven es viendo con ellos y que ver youtube no sea su única actividad.
Si usas youtube para que el niño este haciendo algo y no tener que estar con el vigilinadole, algo tarde o temprano se va a colar con material no apto para niños.
Los niños deben ver tv supervisados por adultos, con horarios limitados. Ese es el filtro que se precisa, nada más.
Usuario desactivado
No acabo de entender qué puta mente enferma puede querer incitar a un niño a suicidarse. Por qué? Qué cojones es lo que pasa por su mente para decir un día "eh, voy a hacer un vídeo para enseñarles a los niños a cortarse las venas"? Lo hacen para reírse, solo por joder? Y solo por joder por qué? Y por qué a un niño?
Es que mira que puedo entender que alguien pueda llegar a matar por dinero porque le ciega la ambición o lo que sea pero vamos, que lo hacen por conseguir un beneficio. Pero qué beneficio obtiene el payaso éste del vídeo si un niño se suicida por ver sus vídeos? No consigue nada! Por qué no está en la cárcel?
Miyamoto Gaming
Me parece el típico video de gmod en los que hacen parodias de muchas cosas. Por cierto, no se como se puede llamarse pediatra y distraer a su hijo con un video de youtube, el cual ni ella tiene la más mínima puta idea de lo que va. Pero para qué echarle la culpa a los padres estúpidos que no cuidan bién de sus hijos, mejor irle a patalear al gobierno de turno para que este legisle por ellos y que se joda todo el mundo.
Hect
Este tipo de cosas, tan monstruosas, deberian solucionarse de una manera rapida y sencilla, detención y tiro en la cabeza.
Asi con pedófilos, psicopatas, etc.
tecnocratus
El problema (en este caso) no es YouTube... El problema es que la sociedad está enferma!!
Partiendo de esa premisa, poco se va a conseguir censurando/matando al mensajero. Si no lo ven en Internet lo escucharán de algún chalado en el colegio, o en la TV, o en una de esas revistas para anoréxicas (otra forma de invitación al suicidio) que se encuentren tirada en un vertedero.
Ojo, no estoy diciendo que no haya que vigilar las burradas que se publiquen en estos sitios, pero creo que eso es atajar solo los síntomas, no la raíz.
Personalmente pienso que es mucho más importante enseñar a los críos desde pequeñitos a distinguir realidad de (macabra) fantasía y a ignorar ese tipo de cosas como lo que son: basura.
El mundo que les va a tocar vivir es así, por desgracia. Flaco favor les hacemos si pretendemos educarlos en un nuevo Jardín del Edén...
pableras
YouTube kids es una mierda. La idea era buena, pero ha terminado siendo un cubil de alimañas.
El problema esta en que YouTube no se lo plantea como una opción para los padres sino que es una línea de negocio más, y, claro, pasa lo que pasa.
Si de verdad estuviesen interesados en crear una plataforma con contenido de calidad restringirán los canales que puedan emitir ahí, filtras por confianza a la entrada, castigas la infracción y te despreocupas a nivel empresa de mala manera.
Eso sí, pese a todo, lo que SIEMPRE debemos tener en cuenta, SIEMPRE, es que como padres debemos:
1) no abusar de los contenidos audiovisuales
2) supervisar que consumen nuestros hijos.
Porque nuestros hijos son nuestra responsabilidad, no la de YouTube.
PS: antes de que salten a la yugular, televisión/tableta y similares vienen muy bien cuando tienes niños pequeños. Una cosa tan cotidiana como ir al baño se convierte en una actividad de riesgo: o te aporrean la puerta (y se ponen a llorar, o te sobresaltas y apuntas donde no debes o se aburren, se van y te la lian), o directamente te la lian. Y a mi que me pinten la pared me jode y ya, pero que se partan la crisma me preocupa, que luego me toca dar explicaciones a la superioridad. Eso sí que acojona.
Usuario desactivado
Bravo, Google, bravo.
huehuehue
Por favor, una escena chorra de Filthy Frank. Coincido en que su contenido no es para niños, pero de allí a mostraro como "tutorial para cortarse las venas"...
pablo_
Si yo fuera Google, declaraba YouTube para mayores de edad y dejaba en manos de la comunidad la creación y promoción de contenido infantil, aclarando además que toda la responsabilidad acerca de lo que consume un infante la tienen los padres.
Yo lo veo fácil.
bacp
A los niños les gusta youtube. Hay cierto contenido que solo está ahí.
Así que está bien, ponemos youtube, pero...
Nada de dejar a los niños solos viendo videos al azar.
Si quieren ver videos nuevos, tiene que ser si podemos estar con ellos, de ese modo controlamos personalmente y en directo lo que sale.
No hace falta que sea un tutorial de como cortarse las venas o como vi un dia, que a medio video de dibujos de pjmask, van al cine y lo qué empieza a verse era saw... Hay videos que simplemente no me parecen adecuados para un niño pequeño, porque tienen argumentos dirigidos a niños mas mayores.
Como sea...
He encontrado canales de gente de fiar y si les pongo un video de esos canales se que les puedo dejar un poco mas solos.
Y si no voy a poder estar yo con ellos y va a quedar algún familiar... Prefiero que les pongan una selección de videos descargados.
Y netflix ha sido un descubrimiento... Encontrar torrents de pelis y series de estreno es súper sencillo, pero parece que no hay el mismo interés por subir dibujos animados actuales.
Pero vamos... Que youtube kids... Nunca mas. Lo probamos y el problema que encontramos no era tanto los videos chungos, como la excesiva publicidad y que la aplicación está estudiada para que los niños estén mas tiempo cambiando de videos (haciendo saltar mas anuncios) que viendo los videos.
l0ck0
Youtube Kids?? en serio?? uuuu que malo es que los crios esten todo el dia pegados a la tele que los atonta en lugar de educarlos... enganchemoslo a yutube que es mas modelno
rennoib.tg
Sinceramente y por muy mal que lo haga YouTube, no deben tener nunca la responsabilidad que deben tener los padres sobre sus hijos y estos no tienen porque navegar por internet solos.
Para YouTube controlar todo el contenido de forma correcta le supondría un coste muy bestia que ni los publicistas ni mucho menos los usuarios estarían dispuestos a invertir. Cómo de momento no tienen competencia directa en vídeos, que reduzcan costes y tiren para adelante que ya sabemos lo chaqueteras que son las empresas con la publicacidad.
miguelsalamanca
YouTube gasta millones en pagar a "youtubers" de contenido dudoso. Si tan solo invertirán en una red de usuarios que fiscalicen el contenido que están subiendo
ricardorodriguez3
aaaaaa pero sube tu un video con un fragmento de una canción de algún artista...te bloquean hasta el acceso a tu casa....
imanol.salinas
Pedir el DNI a los youtubers de la versión kids. Todo el mundo verificado. Punto.
Y los niños, a jugar con arena, juguetes de verdad, etc.
La vida de mierda que llevan los padres fundidos a trabajar tampoco ayuda a prestar atención adecuada a los niños.
Por último, a los enfermos que suben estos vídeos, se les debería perseguir como a terroristas. Ya está bien de tanto buenismo!
esebeto
No lo entiendo. Quien ha colgado el vídeo es el responsable en última instancia, no? Y no se toma ningún tipo de acción legal en su contra? Solo se elimina el vídeo o el canal? Nada más? Mientras siga siendo gratis colgar estas mierdas seguirán haciéndolo.
Goemon
Batalla difícil de ganar?, yo se una manera, identificar a estas mierdas, porque no se les puede llamar personas, y eliminarlas.
teseootx
¿Llegará el día en que no se permita el acceso a ninguna red social a un menor sin el consentimiento de sus progenitores/tutores?
¿Para cuando un control real de quien se conecta y edad paa darle un sevicio u otro?
¿Para cuando un control del acceso a las redes sociales de personas adictas a ellas?
¿Para cuando un control de los menores que acceden a las casas de apuestas online?
¿No tenemos un flamante DNI electronico en version3.0?
¿Puede un menor entrar en un local que vendan bebidas alcoholicas?
¿Puede entrar a un club de alterne?
¿Puede entrar a una sala de juego?
¿PORQUÉ EN INTERNET SI PUEDE?