Esta app ayuda a los artistas a evitar que sus obras acaben entrenando IAs como DALL-E y Stable Diffusion

Algunas obras generadas con aplicaciones de inteligencia artificial (IA) como DALL·E, Stable Diffusion y Midjourney han sido ganadoras de concursos creativos. El problema es que en ciertos casos el jurado pensaba que estaba premiando el trabajo de personas y no de un conjunto de algoritmos bien entrenados.

Estamos presenciando como la IA presenta oportunidades y desafíos en una amplia variedad de campos, siendo uno de ellos el campo artístico. En este sentido, investigadores de la Universidad de Chicago han presentado una interesante aplicación que pretende proteger las obras creativas realizadas por personas.

Glaze, una herramienta que podría contentar a muchos artistas

La aplicación desarrollada por el profesor de informática Ben Zhao y sus alumnos ha sido bautizada como Glaze. Sin embargo, para conocer su funcionamiento es preciso recordar cómo son entrenados los generadores de imágenes de IA. Estos sistemas, si bien reciben un prompt, con indicaciones, no crean obras "de la nada".

Como mencionamos a mediados del año pasado, funcionan con enormes datasets que contienen imágenes con derechos de autor. Este entrenamiento es la base para que los modelos generativos puedan funcionar, es decir, tienen desde donde partir para hacer su trabajo. Ahora bien esto también preocupa a muchos artistas.

El epicentro de la cuestión no solo es el hecho de que sus obras sean utilizadas para generar obras nuevas en apps que muchas veces son de pago, sino que imitan su estilo. Algunos artistas, según ARTnews, se sorprendieron al ver que LensaAI creaba imágenes con lo que podrían ser sus firmas.

Según LensaAI, la IA generativa de la aplicación imita a las pinturas e inventa a las firmas, pero no se tratan de firmas reales de personas. Sea cual fuere la situación, hay artistas que quieren evitar que sus obras caben entrenando a modelos de IA. Para ellos es que entra en juego la aplicación que mencionábamos arriba, Glaze.

Entonces, ¿cómo funciona? Imaginemos que una artista quiere proteger sus creaciones publicadas en línea. Nada impediría que a través de técnicas de Web Scraping si trabajo acabe formando parte de un dataset. Ahora bien, una alternativa puede ser que esta artista pase sus obras por la herramienta creada por los investiagdores antes de publicaras.

Glaze, según explican, agrega pequeños cambios a la obra de arte original. Se trata de modificaciones que no son visibles por el ojo humano, pero impide que los modelos de IA puedan reproducir su creación. Veamos un ejemplo suministrado por los investigadores. En la parte superior de la imagen vemos una creación que no ha sido protegida por Glaze.

El modelo generativo de Stable Diffusion elegido para esta prueba consigue aprender el estilo artístico con éxito. En la parte de abajo, sin embargo, vemos como la imagen ha sido sometida a Glaze y el modelo no puede cumplir con su objetivo. Recoge datos, sí, pero de un “estilo” completamente diferente al de la artista original. 

Por lo pronto toca esperar para utilizar Glaze. Sus creadores afirman que lanzarán versiones para Mac y Windows en “las próximas semanas”. Además prometen que la herramienta será totalmente gratuita. Si eres uno de los interesados en probarla, puedes ver las novedades en la página dedicada al proyecto de la Universidad de Chicago. 

Imágenes: Universidad de Chicago

En Xataka: Hemos probado el nuevo Bing con la versión mejorada de ChatGPT: Google tiene motivos para el pánico