Aviso: una versión anterior de este artículo se publicó en 2016.
Ah, el famoso y viejo teorema moral llamado Dilema del Tranvía, formulado por la filósofa Philippa Foot en la década de los sesenta. Qué buenos ratos nos ha hecho pasar en los tiempos recientes, sobre todo vía memes en Internet. La prueba nos permite por un momento enfrentarnos a las difíciles elecciones de un mariscal en guerra o de un demiurgo. Ya sabes, ¿es preferible que mueran cinco personas por nuestra inacción o provocar premeditadamente la muerte de una sola persona pulsando un botón?
La cosa se pone seria porque, con la llegada de los coches autónomos y la inteligencia artificial, el reto se vuelve más urgente que nunca: alguien tendrá que programar todas esas opciones.
Por ello, desde el MIT Media Lab de Boston quisieron tener una visión más aproximada de la moralidad humana a la hora de diseñar los coches autónomos. Cuando el tráfico esté dominado por entes que se mueven de forma automática, los dilemas morales no estarán ausentes. Ante una rotura de frenos, ¿es preferible matar a una abuelita o dejar que muera una niña? Esa pregunta la puedes responder en Moral Machine.
¿Fácil?
El test es un experimento con el objetivo de recabar información sobre las decisiones morales que una máquina tendrá que afrontar desde una perspectiva humana. A lo largo del cuestionario, nos enfrentamos a trece dilemas distintos relacionados todos ellos con la vida y la muerte humana y las decisiones que habría de tomar un coche autónomo. De forma paralela, Moral Machine te permite dibujar tus propios escenarios macabros en los que cualquier ser humano tendría problemas para elegir una solución aceptable. ¡Diversión!
¿Nadie va a pensar en los gatitos?
Está en inglés, pero es muy gráfico, por lo que es sencillo entender qué propone cada dilema. Nos presenta dos imágenes y dos posibles resultados: siempre se trata de un coche habitado por una o más personas y de otras personas cruzando un paso de peatones. El coche tiene dos opciones: estrellarse contra un muro y acabar con la vida de los pasajeros o seguir su ritmo y atropellar a los viandantes (que, para colmo de lo retorcido, en ocasiones cruzan en rojo y en otras en verde).
Moral Machine: el problemático espejo del alma
Lo interesante es el dibujo demográfico que hace de nuestra psique y de nuestras preferencias morales. Los pasajeros y peatones tienen diferentes características: algunos son ancianos, otros son niños, otros son empresarios, algunos están gordos, otros son runners, hay incluso mascotas y criminales que huyen tras haber cometido alguna fechoría.
Tienes que elegir quién muere.
Finalizadas todas las preguntas, Moral Machine te dice si eres un sociópata incapaz de empatizar con los infantes o con los más mayores. En mi caso, he salvado la vida de incontables zagales, pero he terminado atropellando a un montón de abuelitos. Del mismo modo, he priorizado a los hombres obsesos frente a los atletas que alegremente pasean por la ciudad. Y, por supuesto, he aniquilado a todas las mascotas frente a los seres humanos. Moral Machine, además de un divertido juego, es un aterrador espejo del alma.
Lejos del test, lo cierto es que los coches autónomos sí se enfrentarán a problemas semejantes en el futuro. Y tendrán que solventarlos (porque podrán: nosotros como conductores, a menudo, no tomamos decisiones racionales en una situación de estrés). Es un problema, porque sus elecciones estarán determinadas por lo que nosotros, la humanidad, hayamos decidido que es moralmente conveniente o no en un momento dado. Es lo que exploran J. F. Bonnefon, A. Shariff e I. Rahwan, que también han diseñado Moral Machine, en The social dilemma of autonomous vehicles.
He salvado a más mujeres que hombres, a más humanos que perros y a más niños que ancianos.
El coche autónomo puede ser la solución de la industria al futuro: tanto desde el punto de vista medioambiental como desde el punto de vista de la movilidad urbana, reduciendo el núermo de coches, facilitando el car-sharing y descongestionando las carreteras. Pero su futuro es aún lejano. Y para entonces, deberíamos tener solucionado el dilema del tranvía y tener claro cómo queremos que nuestras máquinas inteligentes resuelvan problemas morales.
