Elon Musk, propietario y CEO de X, difundió en su cuenta de X un deepfake de la vicepresidenta Kamala Harris. Es una violación potencial de las políticas de la propia X sobre este tipo de contenido sintético.
Por qué es importante. Este incidente reaviva las preocupaciones sobre los deepfakes generados por IA y su potencial para difundir desinformación. Especialmente a medida en que se acercan las elecciones presidenciales de EEUU de 2024.
En perspectiva. Los deepfakes usan IA para crear audios o vídeos convincentes, aunque falsos, de personas reales. Representan una amenaza creciente para la confianza pública en la información, la propagación de bulos y la integridad electoral.
- En Xataka hablamos de esto en 2018 a cuento de un deepfake de Barack Obama, anticipando que en el futuro sería más fácil y rápido hacerlos, y que sus consecuencias para la desinformación serían importantes.
Los detalles:
- El vídeo sintético recrea la voz de Kamala Harris, pero poniendo palabras falsas en su boca.
- En él, Harris dice que Biden está senil, que son marionetas de las profundidades del Estado y que su elección ha sido "por diversidad".
- "Soy mujer y de color, así que si criticas algo de lo que digo, eres sexista y racista", añade el vídeo falso.
- Fue publicado originalmente como una parodia, pero Musk lo compartió sin ningún tipo de advertencia adjunta. Solo dijo un ambiguo "Esto es increíble 😂".
- Lleva más de 128 millones de reproducciones, y subiendo.
- Las imágenes que usa son las del anuncio real de la campaña de Harris.
Entre líneas. La política de uso de X prohíbe compartir material manipulado que pueda engañar o confundir a las personas, y atribuye a quien lo difunde toda la responsabilidad.
La publicación de Musk encaja en esta prohibición, pero sigue sin ser eliminada ni etiquetada.
Más contexto.
- Musk ha respaldado a Donald Trump para las elecciones de 2024.
- X permite "memes y sátira" siempre y cuando no lleven a confusión.
- La falsificación es lo bastante buena como para asumir que muchas personas lo tomarán como auténtico.
La cara B. Harris ha criticado en su campaña las "mentiras" y las "manipulaciones" de su rival Donald Trump, pero también de Elon Musk.
Ahora quedan las interrogantes sobre cómo se va a abordar el uso de IA para crear vídeos manipulados pero convincentes de forma masiva.
En resumen. A medida que las herramientas de IA son cada vez más rápidas, eficaces y accesibles, crece el potencial de las campañas de desinformación y de la interferencia electoral.
Antes o después habrá, presumiblemente, legislaciones mucho más severas contra la difusión de este tipo de material haciéndose pasar por real.
Imagen destacada | Xataka con Midjourney
Ver 34 comentarios