La inteligencia artificial (IA) que tanto sorprende en aplicaciones como DALL·E y ChatGPT también tiene un lado oscuro. Y no estamos hablando de la sorprendente capacidad (para mal) de inventar hechos y de las dificultades que existen para evitar que reproduzca los problemas sociales al mostrar resultados racistas, sexistas y xenófobos.
Esta tecnología también puede ser utilizada para crear deepfakes con sorprendente calidad, posibilidad que nos invita a poner en duda la veracidad de los vídeos que encontramos en internet. Ahora bien, esto se vuelve preocupante cuando la IA se utiliza para hacer daño. Lo que ha sucedido con creador de contenidos Atrioc es un gran ejemplo de ello.
El streamer estadounidense, cuyo nombre real es Brandon Ewing, fue pillado en una de sus transmisiones en Twitch con una página abierta de deepfakes pornográficos. El episodio en cuestión causó automáticamente un revuelo debido a que la IA se había utilizado para crear porno falso con las imágenes de otras creadoras de contenido.
Los clips de aquel momento han sido borrados, pero desde Kotaku señalan que la página que visitó Atrioc y quedó expuesta en el directo se parece mucho a OnlyFans. Esta requiere que los usuarios paguen una suscripción para ver contenido. Precisamente, el perfil que estaba viendo el streamer correspondía a uno que hace deepfakes de famosos.
Cuando disculparse no es suficiente
Sweet Anita y QTCinderella, que se encuentran entre las creadoras de contenido afectadas, se pronunciaron en contra de la existencia del porno falso. Esta última, a través de su cuenta de Twitter, se mostró profundamente dolorida y aseguró que hará todo lo posible para demandar a las personas detrás de la falsificación de las imágenes.
Twitch streamer Atrioc issued an apology after accidentally revealing that he watched deepfake videos of streamers Pokimane and Maya pic.twitter.com/oEjHnGS3Ax
— Dexerto (@Dexerto) January 30, 2023
Atrioc, por su parte, ha realizado una emisión de unos 15 minutos en Twitch en la que ha pedido disculpas por los hechos y ha anunciado que suspenderá sus transmisiones. Acompañado de su novia, ha intentado dar explicaciones de lo sucedido. Según él, una noche sobre las 2 de la mañana, hizo clic en un banner de publicidad de PornHub que le llevó hasta la página web en cuestión.
“Eran las 2 de la mañana y estuve leyendo tanta mierda sobre inteligencia artificial, música deepfake, arte deepfake y estoy en todos esos malditos canales de Discord. Es todo tan vergonzoso. Estaba en el puto Pornhub, en un sitio web normal, y había un anuncio, era ese anuncio en cada puto vídeo - así que otras personas debían estar haciendo clic en él porque estaba en cada vídeo”.
El streamer, que tiene más de 11 años de carrera en diferentes plataformas, también aseguró que asumirá los costes de las acciones legales de QTCinderella y que prestará ayuda económica a otras creadoras afectadas que necesiten asistencia jurídica. Esta desagradable situación, no obstante, puede tener un efecto negativo a largo plazo.
Si bien Vice señala que el administrador del perfil que alojaba los deepfakes pornográficos de las streamers eliminó todo el contenido, una vez que empieza a circular por Internet es muy difícil hacerlo desaparecer. La legislación de solo unas pocas partes del mundo puede ayudar en esta tediosa tarea. El daño causado ya está hecho, y las lágrimas del streamer nada harán cambiar.
Portada: Captura Atrioc
