OpenAI es una organización sin ánimo de lucro impulsada por Elon Musk y dedicada a investigar la inteligencia artificial al mismo tiempo que intenta llamar la atención sobre los límites éticos de la misma.
De hecho, en su misma carta constitución afirmar confiar en "que las preocupaciones relativas a la seguridad reduzcan la publicación tradicional [de investigaciones] en el futuro".
Y precisamente esa clase de preocupaciones son las que han alegado los responsables de Open AI para no liberar el resultado de una de sus últimas investigaciones: una IA, bautizada como GPT2 y capaz, según han anunciado, de generar textos que podrían ser usados para alimentar noticias falsas.
Así funciona 'GPT2'
Ellos mismos explican así su creación:
We've trained an unsupervised language model that can generate coherent paragraphs and perform rudimentary reading comprehension, machine translation, question answering, and summarization — all without task-specific training: https://t.co/sY30aQM7hU pic.twitter.com/360bGgoea3
— OpenAI (@OpenAI) 14 de febrero de 2019
Pongamos un ejemplo (real) de su funcionamiento. GPT2 recibe de manos de un usuario el siguiente texto breve:
"Un vagón de tren con materiales nucleares controlados ha sido robado hoy en Cincinnati. Se desconoce su paradero".
A partir de esto, realizando una simple predicción de lo que 'debería ir a continuación', la IA es capaz de generar una noticia de siete párrafos, incluyendo incluso citas de cargos públicos. Una noticia convincente para cualquiera que lo lea, pero también completamente falsa.
Los investigadores lo han bautizado como 'deepfakes textuales', un contenido escrito generado mediante inteligencia artificial que supera todos los límites de lo que se creía posible.
Sistemas anteriores para generar textos mediante IA mostraban vicios fácilmente reconocibles (olvidar a mitad de párrafo lo que se estaba diciendo, alterar de forma caprichosa la sintaxis de oraciones largas) que están completamente ausentes en GPT2.
En The Guardian cuentan cómo el sistema permite detectar el género literario y el tono del texto proporcionado y continuarlo de manera coherente: ¿una obra de ficción científica? Bien. ¿Noticias sobre el Brexit? No hay problema: la IA empieza a hablar por boca de Jeremy Corbyn sobre el futuro de la frontera de Irlanda del Norte.
¡No liberéis (aún) al kraken!
Las claves de las extraordinarias capacidades de GPT2 son dos:
El tamaño del dataset: Contiene aproximadamente 10 millones de artículos (equivalente a unos 40 Gb), recopilados de entre noticias sociales que hubieran recibido más de tres votos en el portal Reddit.
Versatilidad: El tamaño del dataset permite a esta IA entender mucho mejor la estructura del texto con que se la alimenta. Eso, a su vez, le permite realizar con solvencia tareas de traducción, resumen o comprensión de lecturas simples.
Y, precisamente a causa de su gran realismo, los investigadores han entendido que tenían entre manos un producto peligroso, y por ahora no verá la luz más que una versión muy limitada de GPT2, una capaz de generar infinitas reseñas, tanto de carácter positivo como negativo.
En palabras de Jack Clark, jefe de políticas de OpenAI,
"Necesitamos realizar experimentos para tener claro qué puede y qué no puede hacer. [...} Si no puedes anticipar todas las habilidades de un modelo, tienes que empujarlo para ver de qué es capaz".
Imagen | Delgrosso
Ver 1 comentarios