X se ha llenado de imágenes porno de Taylor Swift generadas por IA. La única solución: apagón informativo

En los últimos días, imágenes explícitas de Taylor Swift generadas con inteligencia artificial inundaron internet. Las controvertidas imágenes de la célebre artista han provocado un singular terremoto en las redes sociales, con los fans de Swift apoyándola e incluso haciendo doxing del responsable de las imágenes. Ahora la cantante se plantea emprender acciones legales contra el creador de estos deepfakes.

Qué ha pasado. La semana pasada comenzaron a proliferar en internet imágenes pornográficas de Taylor Swift generadas con modelos de IA generativa. Una de las más virales, aparecida en X, atrajo 45 millones de visitas, 24.000 republicaciones y cientos de miles de "Me gusta". La cuenta de uno de los responsables de difundir estas imágenes, Zvbear, es ahora pivada , pero esa publicación se mantuvo pública durante unas 18 horas antes de desaparecer.

Deepfakes virales. A pesar de que la publicación original desapareció, las imágenes se difundieron a través de múltiples cuentas. Muchas de ellas permanecen disponibles y a partir de todo esto han aparecido nuevas imágenes falsas con contenido explícito sobre la cantante. El término "Taylor Swift AI" se ha convertido en tendencia, lo que ha hecho que esas búsquedas sean aún más populares.

Todo empezó en 4chan. Según 404, las imágenes se originaron en 4chan, pasaron a un canal de Telegram con imágenes explícitas de mujeres y luego acabaron difundiéndose en Twitter. Una de las herramientas utilizadas para generar dichas imágenes fue la plataforma de Microsoft Designer que convierte texto en imágenes. Algunos usuarios incluso ofrecieron consejos a otros sobre cómo crear prompts que se saltaran las protecciones de esa plataforma para seguir creando imágenes explícitas. Por ejemplo, usando la frase "Taylor 'singer' Swift" como parte de ese prompt en lugar de usar el nombre sin más. En estos momentos ese tipo de trucos no funcionan en dicha plataforma.

Los Swifties contraatacan. Los fans de la cantante, conocidos como "Swifties", comenzaron a movilizarse tratando de hacer desaparecer la tendencia mediante publicaciones con el mensaje "protect Taylor Swift" ("Protege a Taylor Swift"). Aunque muchas de los deepfakes desaparecieron, otros siguen activos.

X reacciona. Los responsables de Twitter (X) publicaron un mensaje el pasado viernes advirtiendo de cómo los contenidos explícitos estaban "estrictamente prohibidos en X y tenemos una política de tolerancia cero respecto a este contenido".

Búsquedas bloqueadas. De hecho, la red social comenzó a bloquear ayer las búsquedas relacionadas con Taylor Swift. Como indican en The Wall Street Journal, Joe Benarroch, responsable de operaciones en X, explicaba que el bloqueo "es una medida temporal" que se ha hecho con mucha precaución. Si uno intenta buscar ahora mismo el término "Taylor Swift" en X, aparece el mensaje "Algo salió mal. Intenta recargar", pero hacerlo no sirve de nada con esta búsqueda, y una y otra vez aparece el mismo mensaje de error. En Threads, Instagram o Reddit también se han activado este tipo de medidas.

Taylor Swift furiosa. Según MailOnline, la cantante está "furiosa" con la situación y está considerando tomar acciones legales contra los sitios que hospedan estas imágenes. Mientras, Satya Nadella calificó a los deepfakes como "alarmantes y terribles" en una entrevista con NBC Nightly News el pasado viernes, y añadió que las empresas de IA necesitan "moverse rápido" para lograr establecer barreras ante este tipo de amenazas. En la Casa Blanca el Secretario de Prensa también indicó en ABC News que estaban "alarmados" ante la situación.

Doxing a Zvbear. El usuario de X @Zvbear ha estado en el punto de mira de los críticos por ser él uno de los orígenes de las publicaciones virales en la plataforma. Los fans de Swift han hecho doxing de Zvbear y aseguran que lo han identificado. Según esos datos, sería un hombre de Toronto de 27 años de edad conocido por trolear y publicar contenido tóxico en plataformas como 4chan, X o Reddit.

El principio de muchas más. El suceso ha ganado especial notoriedad por estar centrado en Taylor Swift, probablemente la cantante más popular de este siglo. Es además un potencial anticipo de lo que está por venir: una amenaza para muchas personas —y especialmente, mujeres— que se verán atacadas con deepfakes pornográficos o de otro tipo. Como explicaban en Vice, la cantante "está viviendo la pesadilla porno por IA de cualquier mujer".

Imagen | Paolo V

En Xataka | Esta mujer tiene hasta pasaporte, pero es fake: la IA está convirtiendo la verificación de personas en una pesadilla