Hace tan sólo unas horas nos enteramos de la existencia de DeepNude, una polémica aplicación que por medio de inteligencia artificial era capaz de "desnudar" mujeres. Tras la polémica desatada, el creador de DeepNude ha decidido retirarla bajo un primer el argumento de una "sobrecarga en su servidor y posibles daños potenciales".
Según sus responsables, DeepNude se basaba en un algoritmo de redes generativas antagónicas (GANs), el cual fue entrenado con miles de imágenes de mujeres desnudas. Esto permitía crear imágenes falsas de desnudos al eliminar la ropa en fotografías de mujeres. Algo similar a lo que hacen los Deepfakes.
Contenido pornográfico no consensual
En un segundo tweet, la cuenta de DeepNude emitió un pequeño comunicado donde explican que "subestimaron mucho" el interés que despertaría su aplicación, por lo que al final confirmaron que cerrarán el proyecto ya que "la probabilidad de que la gente haga mal uso de éste es demasiado alta".
— deepnudeapp (@deepnudeapp) 27 de junio de 2019
De acuerdo a la información publicada, DeepNude ya no tendrá más versiones y se dejará de vender. Incluso advirtieron que quienes tienen una copia del software tienen prohibido compartirlo, porque los términos de uso de la aplicación así lo prohiben. Aunque admiten que "seguramente algunas copias" se compartirán en la web.
También explican que DeepNude se ha estado vendiendo "de forma controlada" desde hace meses, pero nunca pensaron que "se volvería viral". Afirman que durante este corto tiempo que estuvo disponible la app, 500.000 personas la usaron a pesar de su "medida de seguridad" que fue implementar una marca de agua, por lo que con este volumen "el riesgo de que alguien hiciera mal uso de ella era muy alto".
Y cierra diciendo que "el mundo aún no está preparado para DeepNude"...
Entre los puntos preocupantes que podemos destacar dentro de esta situación, está en que se trataba de una aplicación que ponía en riesgo la privacidad de cualquier mujer al convertirla en una víctima potencial de extorsión o abuso. Pero además, que el creador, o creadores, de DeepNude trate de justificar su desarrollo mencionando que "el mundo no está preparado", nos hace tener una visión de alguien que cree que llegará un momento en que esto será visto con buenos ojos por todo el mundo.
Vamos, menciona que estaba consciente del riesgo de que alguien podía hacer mal uso de ella, cuando era obvio que la naturaleza de DeepNude no era hacer un bien o ayudar a alguien. En fin.
Ver 68 comentarios