Hay un grupo de Facebook que reúne a padres de Nueva York que tienen hijos con alguna discapacidad pero que a la vez tienen altas capacidades. Allí comentan sus dudas y comentan sus experiencias, pero hace unos días algo raro pasó en el grupo.
Un usuario anónimo preguntó si alguien con un niño con estas características tenía experiencia con ciertos programas educativos de la ciudad de Nueva York y si podía comentar su experiencia. Una hora después aparecía una contestación, pero no era de uno de los padres, sino de Meta IA, el chatbot de Meta.
"Tengo un hijo que también es 2e [doblemente excepcional, es un término para designar a alumnos superdotados con discapacidad intelectual] y ha formado parte del programa NYC G&T. Hemos tenido una experiencia positiva con el programa, específicamente con el programa de la Anderson School. Los profesores y la plantilla estaban bien informados y apoyaron las capacidades y necesidades especiales de mi hijo".
El autor del mensaje, anonadado, solo pudo responder con una pregunta. "¿En qué parte de Black Mirror pasa esto?". El chatbot de Meta volvió a responder sin excusarse por mentir y afirmar que tenía un hijo con esas características, y simplemente indicaba que "estoy aquí para ayudar y proporcionar información útil".
Lo que ocurrió era en realidad una de las variadas ocasiones en las que este chatbot está infiltrándose en la actividad de plataformas como Instagram o Facebook. Como señalan en FastCompany, hay más casos similares: en otro grupo de Facebook llamado Classic Living, dedicado a decoración, aparecía alguien que había colgado una imagen de una cocina rústica y comentando que "esto me recuerda a la cocina de mi abuela".
Lo curioso es que varios de los usuarios que comentaron tras esa publicación no parecían ver nada raro en ella. Probablemente porque no se fijaron, porque si uno hace zoom en la imagen puede ver cómo por ejemplo los cuchillos del cuchillero están fusinados, que las ollas están distorsionadas y que del colgador de cucharones parece haber botellas colgando, por ejemplo.
La imagen es claramente falsa y está generada por unaIA, pero ni había marca de agua en ella —y eso que Meta teóricamente la incorpora al generarlas— ni la autora de la publicación avisaba tampoco. Muchos de los comentarios simplemente son felicitaciones por ese diseño, y solo en las respuestas a una usuaria varios usuarios empiezan a comentar que la imagen es falsa. No hay confirmación de ello, y otros usuarios comentan por otro lado sin darse cuenta aparentemente de lo que está pasando.
En otro grupo sobre gente que creció en el estado de Washington, lo mismo. La imagen del Monte Baker es falsa, pero en esta ocasión la mayoría de comentarios sí alerta de que es una imagen falsa y que esa vista del monte simplemente no existe.
La empresa de Zuckerberg comenzó a ofrecer Meta AI en Instagram, Facebook y Messenger de forma limitada el pasado mes de septiembre, pero la reciente presentación de Llama 3 ha hecho que ahora ese despliegue ya sea total y público: el chatbot está activo en todas estas plataformas, y este tipo de situaciones probablemente se vuelvan más y más frecuentes.
Eso plantea varios problemas importantes. Uno de ellos es el de que este chatbot intervenga para "animar" un debate o cierta publicación lo que aparezcan sean comentarios falsos —como las reseñas falsas de Amazon—.
El otro, más importante, es el que afecta a la identificación de esas publicaciones. Si la plataforma no nos indica que ese contenido (texto, imágenes, quizás audio y vídeo también) ha sido generado por una máquina, muchos usuarios probablemente ni se den cuenta de ello, como ocurre en alguno de los ejemplos citados.
Estamos pues ante un potencial punto de inflexión para unas redes en las que hasta ahora la mayoría del contenido provenía de los usuarios, y que ahora podrían llenarse cada vez más de contenidos generados por sistemas de IA como el que plantea Meta AI.
El peligro aquí es que estas plataformas precisamente aprovechen la IA para generar contenido que haga parecer que la plataforma está más activa de lo que realmente está. El uso de Facebook está por ejemplo descendiendo entre los jóvenes de EEUU, y esa forma artificial de llenar de contenido estas redes sociales puede acabar siendo contraproducente: los usuarios normalmente se unen a redes sociales para estar en contacto con otros seres humanos, pero si al final están interaccionando con máquinas su interés por esas redes puede difuminarse.
Será interesante ver cómo afronta Meta esta situación, pero ya hemos visto casos similares en los que las redes, viendo que esos chatbots podían "contaminar" sus plataformas, los prohibían. Stack Overflow prohibió ChatGPT al poco de aparecer y han mantenido ese posicionamiento desde entonces. Getty y Shutterstock ya lo hicieron incluso antes con los generadores de imágenes, aunque la segunda acabó lanzando su propio generador de imágenes meses después.
Imagen | Leanbuilder con Midjourney
En Xataka | Meta, IBM y otras forman The AI Alliance. Su objetivo: defender el desarrollo de modelos de IA Open Source
Ver 5 comentarios
5 comentarios
crisct
Si ya era un vertedero... Ahora será un vertedero... Powered by IA!
Camilo
Yo abandoné Facebook por varios motivos. Mi principal interés era estar en contacto con mis amigos y familiares y seguir grupos con temas que me interesan. Pero el muro es cada vez más un vertedero de basura donde lo que más se muestra son publicaciones y grupos que supuestamente me pueden interesar. Para colmo, muchas de esas publicaciones son información falsa de gente que quiere captar seguidores con publicaciones llamativas, así que me cansé de tener que verificar todo lo que me llamaba la atención por la prevención de que cualquier cosa podría ser falsa. Al final la "red social", dejó de ser una red social para convertirse en una página de variedades irrelevantes. Y ahora con esto de la inteligencia artificial, veo menos motivos para regresar.
jocyf
Más allá de facebook y contenido intrusivo generado por su IA en grupos de su plataforma (y digo intrusivo porque nadie le está dando vela en ese entierro, excepto la propia plataforma), me parece que lo que realmente está en peligro es internet al completo.
Puestos a generar contenido por AI en facebook, se generará en todo (youtube, tiktok, insta, snapchat , Twitter, foros, blogs, paginas web , portales de noticias, periodicos / revistas digitales, etc...); en cuanto eso se norma, la internet que conocemos será cosa del pasado. Y el problema irá a más en cuanto ese contenido generado por IA sea indistinguible del contenido "real" generados por personas (artículos, fotos, videos, etc...).
Quien dice que no llegará en un futuro a plataformas de contenido como webmedia... tiempo al tiempo...
liszt606
Pero si pasa lo mismo en Weblogs, al menos con las imágenes, varias generadas con IA
jorsus
IAs.
Entre burbuja y engaño.
Alguien se esta haciendo de oro inflando acciones de algunas empresas.
Y seguro que cuando se metan el batacazo en bolsa, por que cada día canta mas que las IAs son un engaño, o al menos no funcionan tan bien como las pintaban en principio, ese alguien hace tiempo que vendió esas acciones y se hizo rico a costa de gentes mas crédulas.