Si algo hemos aprendido de los anuncios de Twitter es que Broncano, Arguiñano, Resines y Martiño Rivas tienen mucho dinero porque usan un método infalible para generar ingresos extra, método que no pueden desvelar porque desestabilizarían España y su sistema económico. No lo decimos nosotros, lo dicen unos artículos totalmente legítimos y en absolutos falsos de webs que en absoluto imitan a medios como El País y El Mundo.
Aquellos usuarios de X seguramente estén familiarizados con este tipo de estafas que, a mayores, lo único que buscan es que te registres en una plataforma de criptomonedas para estafarte. Pues en Facebook la cosa no se queda corta.
¿Cuántos 'me gusta' para estos campeones? | Imagen: Xataka
Mi primera tarta. En Facebook han aparecido ciertas páginas que usan inteligencia artificial generativa para crear contenido que fomenta el engagement, y funciona. Una de ellas fue creada en 2020, tiene 112.000 seguidores, se describe como un "sitio web de noticias y medios de comunicación" y su contenido consiste en fotos de personas que han hecho su primera tarta o su primera pizza y están esperando los comentarios del resto de personas. Antes de esas fotos, que ahora son la más comunes, la página había probado con fotos falsas de gente pobre, fenómenos atmosféricos inexistentes, fotos de animales y vídeos virales.
Todas las imágenes de personas se han generado con inteligencia artificial y si estás medianamente acostumbrado a esta tecnología es fácil identificarlas. Desgraciadamente, no todo el mundo tiene el ojo entrenado y caer es fácil. Estas publicaciones se llenan de 'me gusta', compartidos y comentarios de usuarios dando la enhorabuena, comentarios de perfiles aparentemente genuinos. El ritmo de publicación es exageradamente alto, con una foto cada tres horas.
Abuelas 100% real no fake 1-link descarga rápida | Capturas: Xataka
Esta abuelita hace croché. En la misma línea va esta otra página, que sube fotos de abuelas haciendo croché. Estas abuelas están deseosas de conocer tu opinión sobre sus creaciones y, de nuevo, son imágenes generadas con IA que saltan a la vista. A diferencia de la página anterior, esta siempre ha apostado por el croché, primero con una combinación de fotos reales (de origen desconocido) y hechas con IA y ahora solo con IA.
Mientras que la primera sube fotos cada tres horas, esta otra sube del tirón una avalancha de imágenes, cinco exactamente, cada día. Fotos que se llenan de interacciones y comentarios, trucando así al algoritmo para aumentar el alcance de la página. Esta página, por cierto, tiene 145.000 seguidores y aunque enlaza a una web con patrones de croché (cuya URL no tiene nada que ver ni con el nombre de la página ni con la temática) en su sección de información, no publica enlaces para generar tráfico o ventas. Solo sube fotos falsas de abuelas haciendo croché.
Esta captura se ha sacado de la página de Facebook un fotógrafo. Todas las fotos se publican como si fuesen legítimas y en ningún momento se dice que hayan sido generadas con IA | Captura: Xataka
¿Y esto para qué? La primera opción es que sean páginas que buscan monetizar usando IA. En Facebook es posible ganar dinero creando contenido y, evidentemente, cuanto más viral sea más dinero se gana. También puede ser una estrategia para ganar seguidores legítimos en la página. Hemos encontrado una página de un fotógrafo (con web, Instagram, correo, número de teléfono...) que usa imágenes de niños pobres haciendo juguetes con botellas de plástico y de pájaros falsos, probablemente para generar interacciones.
O algo peor. Otra posibilidad es que usen este contenido para inflar su base de seguidores para, más tarde, cambiar a alguna otra cosa con, probablemente, malas intenciones como llevar a cabo una estafa. Cierto es que muchos 'me gusta' y seguidores pueden ser falsos y, de hecho, hay pistas que así lo indican. Por ejemplo, las fotos de las abuelas costureras suelen tener entre 600 y 1.000 'me gusta', entre 60 y 200 comentarios y entre 10 y 20 compartidos. Cifras demasiado estables para una página de 145.000 seguidores. ¿Ni un solo post viral? Raro.
Aparentemente, todas las abuelas que hacen croché son exactamente iguales | Captura: Xataka
El problema es que, por lo que hemos podido comprobar haciendo un muestreo rápido de los perfiles que comentan, hay personas reales comentando y compartiendo. Si bien es cierto que no sabemos qué será de estas páginas de aquí a unos meses o años, cuando estén más infladas, sí sabemos que hay personas con malas intenciones. Personas como John Cornell o James Carter, el mismo tipo con las mismas fotos pero diferente nombre, según la publicación que miremos, o perfiles recién creados con una sola foto. Los comentarios van siempre en la misma línea:
- "Perdona que te moleste, pero no quiero mandarte una solicitud de amistad sin permiso. ¿Me agregas a Facebook?"
- "Me encantan tus comentarios, me encantaría que fuésemos amigos en Facebook"
- "Me recuerdas a alguien que conozco, ¿vives en X?"
Algunos comentarios publicados en las páginas son respondidos por personas, en ocasiones con la misma foto pero diferente nombre, invitando a los usuarios a ser amigos en Facebook | Capturas: Xataka
Personas mayores. Estos comentarios de perfiles a todas luces falsos van dirigidos siempre al mismo demográfico: personas mayores, concretamente mujeres. No es casualidad que las páginas publiquen fotos de tartas y croché, como no es casualidad que las personas que salen haciendo tartas sean gente joven y las que hacen croché sean abuelas mayores extremadamente estereotipadas.
Objetivo: entablar conversación. Lo más probable es que el objetivo de las personas que comentan sea entablar conversación con usuarios reales desprevenidos para, a la larga, llevar a cabo algún tipo de estafa convencional: envío de dinero, cesión de datos, etc.
La IA va a complicar las cosas. Aunque las imágenes vistas en estas páginas son falsas y se nota a simple vista, lo cierto es que suponen una muestra de los retos a los que nos vamos a enfrentar con la inteligencia artificial generativa. Cierto es que ya hay propuestas para que el contenido generado con IA sea marcado como tal, pero la realidad es que hay un público no educado muy susceptible a creer lo que ve en la pantalla sin preguntarse de dónde viene. Y siempre habrá personas dispuestas a aprovecharse de él.
Imágenes | Xataka
En Xataka | Las estafas con voces clonadas con IA son cada vez más frecuentes, pero hay una potencial solución: las "contraseñas familiares"
Ver 5 comentarios