El miedo a que el avance de la inteligencia artificial se vuelva en algo peligroso para la humanidad ha dejado de ser un argumento trillado de ciencia ficción. No son ni una ni dos las personalidades públicas preocupadas por el asunto. De hecho, es un tema que se está tratando ahora mismo en la conferencia anual de la Asociación para el Avance de la Inteligencia Artificial.
Ante este problema, un grupo de investigadores ha encontrado una solución. La mejor forma de enseñar a inteligencias artificiales qué deben y qué no deben hacer es poniéndolos a leer. Un enfoque muy curioso no solo porque sea toda una remasterización de la educación en valores, sino porque si al final el holocausto cylon, la yihad butleriana o Matrix se curan leyendo, va a resultar que la pluma sí que era más fuerte que la espada (cibernética). ¿Nos salvará la literatura de la rebelión de las máquinas?
¿Podemos educar en valores a un robot?
Parece que sí. O eso afirman Mark Riedl y Brent Harrison del Georgia Institute of Technology que han creado 'Quixote', un sistema que entrena a los robots para leer historias, aprender secuencias (socialmente aceptables) de eventos y comprender métodos adecuados para comportarse en el mundo humano.
Quixote utiliza un montón de historias y fábulas infantiles para identificar los patrones de comportamiento correctos e incorrectos. Se basa en Sheherazade, un programa de los mismos investigadores para generar historias coherentes y verosímiles usando los millones de historias que hay en internet. Las aplicaciones de Scheherazade han sido muy interesantes para el mundo de los videojuegos porque, al poder generar automáticmaente argumentos sólidos, los usuarios pueden escoger entre un número potencialmente ilimitado de líneas de acción.
Es robot, pero es buena gente
Sobre la base de Scheherazade, que indica qué conductas son aceptables y cuáles no, Quixote arma un entorno de aprendizaje muy básico recompensando ciertos comportamientos y castigando otros. En esencia, Quixote recompensa a nuestra inteligencia artificial siempre que se comporta como el protagonista o héroe de una historia seleccionada y la castiga cuando se comporta como el archivillano.
Los mismos investigadores ponen un ejemplo muy sencillo: si le pedimos a un robot que nos traiga ciertas cosas del supermercado, el robot tendrá varias opciones. Podría colarse en la tienda y robarlos o podría interactuar educadamente con los dependientes, pagarlos e incluso dejar propina. Gracias a Quixote los robots aprenderán que aunque la primera opción es más rápida y barata, la segunda es mucho mejor.
Quixote es uno de las primeros desarrollos operativos en 'razonamiento moral artificial', un opción interesante para sistemas no demasiado complejos que tengan que interactuar con humanos. Hay razones para ser optimistas y relegar el fin de la raza humana a la ciencia ficción. Ya solo queda esperar que en la lista de lecturas de Quixote no se cuelen 'American Psycho', el guión e 'Kill Bill' o, peor, alguna novela de Federico Moccia.
Imágenes | GaTech, The Chronicles of a Stuffed Robot
Ver 10 comentarios
10 comentarios
alonsolp
Una auténtica estupidez temer a las máquinas, cuando los humanos nos matamos a millones (leed los periódicos) y nadie se asusta.
Usuario desactivado
Osea que no contentos con crear la IA, le van a dar datos de como nuestra mente imagina formas de matar a la humanidad, Excelente, así seguro que nos extermina antes, no olviden darle el arte de la guerra, para que termine de culturizarse la IA.
En cuanto a la pregunta ¿Podemos educar en valores a un robot?, Yo pregunto ¿Somos capaces de educar a las nuevas generaciones para que tengan nuevos y mejores valores?, la respuesta es evidente, no, podemos, pero no lo estamos consiguiendo.
La IA es necesaria, es lo primero que me preguntaría, y la verdad no lo creo, en un mundo donde hay tanto paro, mejor dar trabajo a la gente que lo necesita que gastar dinero en IA, para que luego haga muchas cosas que podemos hacer nosotros, y que a la larga nos pasará factura.
Y todos los que piensen que la IA será programada con protocolos de seguridad y tal, y que será segura etc... y un sin fin de ilusiones mentales sobre el control que se cree tener el hombre sobre todas las cosas, la realidad es que NUNCA lo tendrá, porque es una incongruencia total creerse que una IA se mantendrá dentro de los parámetros que le hayan programado, porque si eso fuese cierto dejaría de ser una IA, sería un software programado, lo que quiero decir, es que en cuanto consigan una IA, no se podrá controlar, porque ella será inteligente de verdad y bueno ya ni te cuento si se nos ocurre meterla en aparatos, máquinas o lo que sea, las consecuencias pueden ser catastróficas.
Pero tranquilos, al final pasará, porque como bien dijo Einstein y no suele equivocarse la estupidez humana es infinita.
tamimate
Vamos a ver... la question es la de siempre... da igual que su (dueño, creador, llamalo como quieras) le ponga a leer cosas que le pueden ser beneficiosas, si este despues hace las contrarias.
Un ejemplo tipico es el del educar a tu hijo/a, sisisi... tu le puedes decir que no mienta todo lo que quieras... Pero si despues suena el telefono (este ejemplo les va a sonar a muchos, me permito cogerlo porque creo que va como anillo al dedo) i el/la padre/madre le dice "cogelo y di que no estoy" em...
¿Entendeis lo que quiero decir? El verdadero peligro no es lo que la inteligencia artificial sea capaz de hacer por si misma (que no quiero decir que no sea peligroso), sino lo que puede llegar a hacer la humanidad con ellas intencionadamente o no.
eladio.malaga
La IA podría ser la solución a muchos problemas, por ejemplo si la IA fuese como un superordenador que además tiene conciencia propia, podría hacer procesos millones de veces más rápido a los de ahora y poder encontrar una energia mas barata, mas limpia (no contamine) y segura(fusion). Incluso quizás encontrar la forma de movernos más rápido que la velocidad de la luz para poder colonizar otros mundos, se acabaría con el hambre y el paro en el mundo (ya que tendríamos mucho trabajo ocupandonos del espacio).
Es solo un posibilidad, hay que barajarlas todas.
comicxxx
Los robots se comerán el mundo.