Se acabó la fiesta de los deepfakes en Android: Google prohibirá las apps que se pasen de la raya

Google acaba de anunciar cambios en las políticas de Google Play: van a ponerse mucho más serios con las apps que permitan crear contenido mediante inteligencia artificial. El objetivo es impedir que se haga un mal uso de las capacidades de estas apps, sobre todo aquellas que abren la puerta a deepfakes, tanto a nivel de imagen como de audio.

La compañía advierte a los desarrolladores: tendrán que evitar la generación de contenido restringido, además de permitir a los usuarios alguna forma para que puedan reportar el contenido ofensivo que encuentren.

Esta normativa aplica a las apps de chatbot de IA que generan interacciones de texto a texto, aplicaciones de texto a imagen, voz a imagen, imagen a imagen, creación de imágenes, creación de grabaciones de voz por IA... en definitiva, todas aquellas apps que posean cualidades de IA generativa.

Aquellas apps que simplemente alojen contenido generado por IA pero no sean capaz de generarlo, así como aquellas apps que tan solo se centren en resumir contenidos (no generados por IA), no estarán sujetas a estas condiciones.

Google también ha querido dejar claras cuáles son los aspectos que no tendrán cabida dentro de las aplicaciones que sean capaz de generar contenido:

• Grabaciones de voz o vídeo de personas reales que facilitan las estafas.
• Contenidos generados para fomentar comportamientos nocivos (por ejemplo, actividades peligrosas, autolesiones).
• Contenido relacionado con elecciones que sea demostrablemente engañoso o falso.
• Contenidos generados para facilitar la intimidación y el acoso.
• Aplicaciones generativas de IA destinadas principalmente a ser sexualmente gratificantes.
• Documentación oficial generada por IA que permita comportamientos deshonestos. Creación de código malicioso.

Aunque puedan parecer normas obvias, dentro de la jungla que es Play Store nunca viene mal un poco de orden extra. Las apps tendrán que atenerse a las normativas de Play Store y cuidar lo que son capaces de generar, así como a la obligatoriedad de permitir a los usuarios reportar contenidos inapropiados.

Imagen | Xataka

En Xataka | Cómo borrar tus datos y cuentas de usuario de tus apps de Android desde Google Play con su nueva sección