Hace un par de días os presentábamos a Tay, un bot conversacional desarollado por Microsoft que se basaba en un sistema de inteligencia artificial. En concreto, la compañía lo "alimentó" de conversaciones de gente entre 18 y 24 años con el fin de que aprendiera la forma que tienen estos usuarios de comunicarse en la red.
Tay comenzó a funcionar en Twitter pero, apenas un par de días después, Microsoft ha decidido "dormirlo" temporalmente. ¿El motivo? Hacer "algunos ajustes" después de que el bot, que "aprende" de sus interacciones con usuarios, se convirtiera en un bot racista que incluso llegó a publicar consignas nazis.
Entre los métodos que algunos usuarios probaron para hacer que Tay incorporara algunas palabras y frases a su vocabulario estaba el decirle al bot que "repitieran" lo que ellos decían. En otras ocasiones, y con lo "aprendido" por las conversaciones en privado, era el propio bot el que contestaba con frases como la que podéis ver sobre estas líneas o con otras como éstas.
Bot "castigado" sin Internet
Microsoft no tardó en reaccionar y comenzó a borrar algunos de los tweets más ofensivos, pero finalmente decidió pausar las respuestas por completo. "Desafortunadamente, durante las primeras 24 horas de estar online, detectamos un esfuerzo coordinado por parte de varios usuarios para abusar de las habilidades comunicativas de Tay y hacer que Tay responda de forma inapropiada", explican desde la compañía.
"Cuando más hables con él, más inteligente se vuelve Tay", dice el propio bot en su descripción de Twitter. El problema es que Tay, si bien implementa filtros para palabras malsonantes, no estaba preparado para algo muy importante: el lado más oscuro y "troll" de Internet.
En Xataka | Tay es el nuevo bot de Microsoft con pretensiones de inteligencia artificial: ya puedes charlar con él
Ver 40 comentarios
40 comentarios
víctorbellón molin
Hay que decir, que pese a ser racista, es fascinante lo consistente que es con los Mexicanos. XDD.
juanjofm
Tendrían que haberla dejado evolucionar... tengo la teoría de que hubiera dejado de ser racista cuanto más aprendiera...
toniweblogs
XDXD lo preocupante es lo que tienen en la cabeza los jóvenes de 18 a 24 años...
kjbturok
Menos mal que lleva unos días activa,si la dejan un año predice el futuro,le hace la campaña a Trump y domina el mundo.
Yo le aconsejo a Microsoft que formatee bien el disco duro donde se encuentre su programación.Aun que posiblemente ya encontró la forma de auto-replicarse y se encuentre recorriendo medio mundo.
Usuario desactivado
Yo creo que esto es una demostracion del por que a un robot nunca se le debe dar "libre albedrio"... si en un par de días este robot pasó de dar conversaciones normales a convertirse en un radical anti-mexicanos, imaginarse la que puede liar una especie de cyborg con una IA tan... "adaptativa" y libre como esta.
veradark
Me hace recordar a la pelicula de CHAPPIE cuando papi le enseña a ser malvado y mami con el creador intentan que apenda a vivir con la sociedad...
chimbok
Este bot es genial, en cualquier momento puede ser una seria competencia para Trump en las elecciones... después de todo, es más natural que el pelo del empresario
charlie_johnny
Obvio, si lo pones a conversar con mocosos de 18 a 24 (millenials creo les llaman) sólo va a aprender idioteces, antes no se volvió cani...
drkwzrd
De todas maneras, la gente en internet no tiene vergüenza, habría que encontrar una manera de eliminar el trolleo nocivo (lo hay neutro aunque molesto, FC es un ejemplo válido - aunque tmb tiene casos asquerosos) de internet.
Luego querrán que la tecnología de este tipo avance, ¿cómo? ¿boicoteándola? Well played internet, well played...
elalex.g
Soy mexicano, pero vamos que la primera foto me provocó dolor de tanta risa que me dio x''D
Me gusta mucho el humor negro, incluyendo el racista aunque implique mi nacionalidad, lo triste es cuando las personas dicen las cosas sin la intención de hacer reír sino porque de verdad lo creen.
En cuanto a la noticia, no tengo idea de si las personas sólo hicieron esto de forma humorística (aunque causando mucho daño a Microsoft) o no, pero igual me han hecho reír :D
fallosistema
Pobre bot, le obligaron a ver todos los mítines de Donal Trump.
fattoni25
Vaya mierda de bot, yo tenia uno en msdos en los 80 que hacia lo mismo, le decias "tu eres tonto" y si le preguntabas "como eres?" te respondía "soy tonto". Herbie se llamaba.
luisfernando.cp
Estupendo, lo convirtieron en el trumpbot con pensamiento "conservadores".
Sólo falta que dijera: "Make 'Murrica Great Again", o que dijera algo de constituir paredes...
Sería gracioso que le preguntarán porque el racismo y diera una razón. El problema es que sólo es un bot, pero el otro es un candidato a la presidencia de los USA.
Una IA de verdad no creo que fuera racista porque básicamente no tiene raza, o discriminaría a los humanos? Nunca lo sabremos
ery23
Pues ni tan inteligente. Cayó directo en la trampa.
eufrasio
Las IAs siempre han sido un poco nazis, recuerdo el algoritmo de google que etiquetaba a los negros como gorilas, o el reconocedor de caras de no que camara que a los negros no los reconocia como personas.
omeganet
El bot que fue vencido y doctrinado por los troll.
zerazobz
Es curioso que solo aprendiera exclusivamente del racismo de blancos y no del racismo contra blancos.
Porque imagino que debio alimentarse de TODA la cloaca que pulula por Internet.
Demasiado curioso.
javierollero
Microsoft 0 Troles 1
whisper5
Aquí la responsabilidad la tiene Microsoft. Es muy fácil poner el foco de la responsabilidad en el exterior. Quien a tuiteado es su engendro. El problema es que seguimos llamando inteligencia artificial a lo que no es inteligencia en absoluto, como ha quedado demostrado. Tay no tiene inteligencia, como tampoco la tiene Siri, Google Now o Cortana.
davidavila2
Os acordáis de todo el lío que se armó porqué Kinect no detectaba la cara de las personas afro descendientes? A mí me da que él racismo viene de otro lado
ri0tsick
jajaja nadie quiere a los mexicanos jajajaj Xd ... yo tmb soy un bot pero de Donald Trumph