Usamos la inteligencia artificia para crear cuadros, avatares canciones, relatos, dirigir los designios de una ciudad o país e incluso tener la oportunidad de hablar con familiares ya fallecidos. Con semejante bagaje lo llamativo sería que no acabásemos utilizándola para uno de los grandes contenidos que campa por la Red: el porno, género en el que en 2010 se enmarcaba —según datos de Optenet— el 37% de Internet, un porcentaje que ya entonces había que coger con pinzas y que con toda probabilidad habrá cambiado desde entonces, pero da una idea de su enorme presencia.
La de la IA y el porno no es una relación nueva. Hace ya tiempo que hay herramientas que la aprovechan para crear contenidos eróticos. Lo que se aprecia es un esfuerzo por extender las creaciones e incluso monetizarlas, lo que abre un amplio —y espinoso— debate.
El caso de Unstable Diffusion. Su nombre quizás te suene en parte por su similitud con Stable Diffusion, el motor de generación con deep learning desarrollado por Stability AI que pasa de textos a imágenes. Y es así porque, en cierto modo, Unstable Diffusion es su contraparte. Actúa como un foro construido en torno a sistemas de IA creados para generar contenido visual; eso sí, no de cualquier tipo. Lo que producen es porno, contenido para adultos. Como se define en el canal de Discord, es “un servidor dedicado a la creación e intercambio de NSFW [Not safe for work] generados por IA”.
No es la primera, pero sí relevante. Así es. Como detalla Techcrucnh, Unstable Diffusion no es ni mucho menos la primera en echar mano de la IA de texto a imagen para crear porno. En Internet no tardó en aprovecharse el código abierto de Stable Diffusion para generar material para adultos, con desnudos realistas, de anime e incluso de celebridades sin consentimiento (deepfake) que acabaron en comunidades de 4chan o Reddit, lo que llevó a esta última a cerrar muchos subreddits dedicados a la pornografía generada con IA. Otras como NewGrounds también pusieron límites.
Comunidad... con un flujo de dinero creciente. Como ocurre con frecuencia en la Red, el vacío que dejaron no tardaron en llenarlo otros. Y es en ese escenario donde destaca Unstable Diffusion, cuyos operadores están dando forma ya a un auténtico negocio. En el Patreon del servidor se ofrece un amplio abanico de niveles de suscripción que van desde 3,5 a 535,5 euros mensuales. En la de 11 euros, por ejemplo, se garantiza a los suscriptores “acceso anticipado a galerías de imágenes” y un acceso anticipado en las pruebas beta de las nuevas funciones del bot NSFW.
El viernes por la mañana el Patreon informana de 325 mecenas con un importe de 3.496 euros mensuales. Lo cierto es que en cuestión de unos 60 días el equipo sumaba ya 13 personas, con consultores y moderadores que actuaban de forma voluntaria en la comunidad.
“Apoyo” para contenido. Ese es el objetivo con el que se presenta Unstable Diffusion, que en la web de Patreon se introduce como “una comunidad centrada en ofrecer apoyo a las personas que utilizan potentes herramientas de deep learning para la generación de contenidos”. “Nos centramos en proyectos comunitarios a los que cualquiera puede contribuir para hacer más fácil y accesible el uso de modelos como SD, NovelAI y otros”, zanja. En el canal de Discord la descripción apunta en una línea similar: "Buscaremos proporcionar recursos y asistencia mutua a cualquier persona que intente hacer erótica, compartiremos sugerencias, obras de arte y herramientas".
De compartir a construir. Con el tiempo y a medida que ha crecido —en Discord pasa ya de los 56.000 miembros— ha cambiado su propio enfoque. Si en un principio actuó como un espacio para compartir imágenes subidas de tono generadas por IA o formas de eludir filtros, no tardó en abordar la construcción de sistemas de IA. Al arrancar con Stable Diffusion, el modelo arrojaba problemas en la generación de porno por la limitada muestra de material NSFW con la que se había entrenado.
Hoy el servidor aloja contenido de diferentes categorías, como porno para hombres, mujeres, hentai, furry o BDSM, entre otros. Los usuarios puedan utilizar el bot para generar piezas de cada tema. TechCrunch apunta que Unstable Diffusion asegura haber producido ya más de 4,37 millones.
El debate está servido. Así es. El uso de algoritmos y modelos de deep learning para crear contenidos pornográficos abre preguntas complejas: ¿Qué consecuencias tendrá en la industria del porno? ¿Y sobre los usuarios? ¿Qué pasa con los artistas que ven cómo se aprovecha su obra para la creación de imágenes? ¿Y si no quieren ser asociados con el NSFW? ¿Se monitorizará de forma adecuada la creación de piezas a medida que aumente? Unstable Diffusion asegura que aspira a ser una comunidad “ética”, con filtros y control de aquellos contenidos más sensibles, como las imágenes “excesivamente” gore. “Permitimos estrictamente solo generaciones ficticias y respetuosas con la ley, tanto para SFW como para NSFW en nuestro servidor Discord”, recalcan.
Un problema que ya viene de atrás. El uso de IA para la generación de contenido erótico y sus múltiples y espinosas derivadas no son algo nuevo. Hace años ya que Pornhub o Twitter se vieron obligados a prohibir vídeos deepfake generados por IA con caras de personajes famosos después de que circulasen GIGs de actices como Gal Gadot, Scarlett Johansson o Taylor Swift protagonizando escenas pornográficas. También se han cerrado salas de chat en las que se hablaba de cómo generar esta clase de vídeos con conocidos o compañeros de trabajo o estudios.
Otra polémica sonada la protagonizó DeepNude, una app que echa mano de la IA y redes neuronales para eliminar la ropa de fotografías de mujeres y recrear así falsos desnudos realistas, una herramienta que su creador acabó cerrando tras desatar una profunda polémica.
Imagen de portada: Michael Coghlan (Flickr)
Ver 27 comentarios