El lado más oscuro de Internet tiene un nuevo pasatiempo: usar la inteligencia artificial para cambiar las caras de las actrices porno por las de celebridades o amigas suyas. ¿El resultado? Porno falso con caras conocidas lo suficientemente creíble como para confundirlo con el real. Las primeras víctimas incluyen a Daisy Ridley, Gal Gadot, Scarlett Johansson y Taylor Swift. Pero la próxima podría ser tu prima. Esta desagradable tendencia se ha estado gestando durante meses, adquiriendo su propio subreddit. Y ahora que alguien ha creado una aplicación para ello, está a punto de volverse mucho más frecuente.
Por razones que saltan a la vista, estos videos, a los que sus creadores se refieren como "deepfakes" son una nueva frontera para la pornografía no consentida. ¿Y lo peor de todo? La ley no puede hacer nada.
¿Qué está pasando? En las tiendas Google Play y Apple App, FaceMagic se presenta como una aplicación divertida e inofensiva para intercambiar rostros: "¿Quieres ver bailar a tu mejor amigo o a tu jefe? ¿Quieres transformarte en una celebridad?", dice la descripción de la app, junto con un video que muestra cómo los usuarios pueden cambiar sus caras por las de Robert Downey Jr. o la del jugador de baloncesto Steph Curry.
Pero en webs de pornografía, los anuncios de FaceMagic tienen un tono más nefasto. "Haz porno falso en un segundo. ¡Crea ahora!", dice el texto de los anuncios. La publicidad muestra un vídeo en el que se reemplaza la cara de una estrella porno popular por la de otra mujer.
El peligro detrás. La naturaleza engañosa de FaceMagic confirma lo que los expertos han advertido que es peligroso acerca de las aplicaciones de intercambio de rostros desde que las herramientas de falsificación se normalizaron por primera vez y se reempaquetaron para audiencias amplias. Incluso si las aplicaciones no dicen que están diseñadas para crear pornografía no consentida, aún pueden producirla fácilmente. FaceMagic aprovecha una laguna en las políticas de la tienda de aplicaciones de Apple y Google al no violar ninguna de las reglas en las páginas de la tienda de aplicaciones o el sitio oficial, pero anuncia su capacidad para crear contenido que sí lo hace en sitios pornográficos.
FaceMagic tampoco es un software clandestino secreto: tiene más de un millón de descargas en Google Play y Apple, y decenas de miles de reseñas. Las descripciones de la aplicación no mencionan el sexo o la pornografía, pero en Google Play aparece con una calificación de "contenido sexual".
Una tendencia. La investigación de algunos expertos les llevó a anuncios pornográficos falsos de FaceMagic en al menos cuatro webs: Spankbang, Rule34.xxx, ImageFap e Iporntoo. También probaron la app y confirmaron que, por un precio, puede producir un video porno falso en segundos. Los usuarios deben pagar una tarifa mensual de 10€. Después, todo lo que el usuario tiene que hacer es cargar una imagen de la persona que desea incluir y el video porno en sí. Al cargar medios, FaceMagic incluye un texto que dice:"No use creaciones de intercambio de rostros con fines ilegales. Hacer o difundir deepfakes maliciosos es ilegal".
Demasiado fácil. FaceMagic no solo crea fácilmente videos falsos, sino que lo hace de una manera que se consideraba innovadora hasta hace poco. Cuando surgieron los deepfakes por primera vez en 2017, requerían cientos de muchas imágenes de la cara que se ponían en un video, a menudo en forma de imágenes fijas tomadas de un video corto. En 2019, Samsung desarrolló un método para crear una falsificación profunda utilizando solo una imagen de una cara.
Lagunas del reglamento. Apple dice que no tiene reglas específicas sobre esas aplicaciones, pero que la sección 1.1 de las Pautas de revisión de aplicaciones prohíbe el "contenido difamatorio, discriminatorio o mezquino... particularmente si es probable que la aplicación humille, intimide o dañar a un individuo o grupo objetivo”. Sin embargo, FaceMagic todavía está disponible en la tienda y Apple se negó a tomar medidas.
La tienda Play de Google tampoco permite contenido sexual y también tiene toneladas de aplicaciones falsas disponibles. La publicidad sexualmente explícita que dirige a las personas a la lista de Play Store está prohibida. Y cuando le mostrasron a Google que un anuncio sexualmente explícito estaba dirigiendo a las personas que hacían clic en él a la página de Google Play de FaceMagic, un portavoz de la compañía dijo: “Nuestras políticas para desarrolladores prohíben que las aplicaciones usen anuncios sexualmente explícitos para dirigir a los usuarios a su lista de tiendas. Cuando se encuentran violaciones, tomamos las medidas apropiadas”. FaceMagic todavía está disponible en la tienda.
La legislación al respecto. Caso tras caso, la Primera Enmienda ha protegido parodias, caricaturas, parodias y sátiras. Pero los expertos señalan que afirmar que la pornografía con intercambio de caras es una parodia no es el argumento legal más fuerte. ¿Significa eso que las víctimas tienen cero esperanza de recurso legal? No exactamente. Las celebridades podrán demandar por la apropiación indebida de sus imágenes. Pero eso sólo se aplica a contextos comerciales, como, por ejemplo, si alguien coge una foto de las redes de Gal Gadot y luego la usa para promocionar un club de striptease sin su consentimiento
Para el ciudadano promedio, su mejor esperanza es la ley contra la difamación.Hasta el momento, estos videos parecen haber sido creados para el placer del creador en lugar de la humillación del objeto de su deseo. “Inevitablemente, alguien señalará cuántos jóvenes tenían carteles de la princesa Leia en sus dormitorios como una fantasía de masturbación”, explicaba Mary Anne Franks, profesora de derecho tecnológico en la Facultad de Derecho de la Universidad de Miami.
