El coche autónomo es una de las grandes promesas de un futuro cada vez más cercano. Proyectos como los de Google, Ford -con una iniciativa que vimos en detalle en el pasado MWC- o el que nos toca más de cerca de Volvo parecen dar validez a esa idea de coches que logran circular por las carreteras sin un ser humano al volante.
Aunque estos vehículos están orientados a, entre otras cosas, reducir la tasa de accidentes, su programación podría tener un efecto singular: ante situaciones peligrosas en las que estén en juego muchas vidas, podrían decidir que nosotros nos llevemos la peor parte para salvar a los demás. El debate ético vuelve a acechar un terreno muy complejo.
Optimización de accidentes: tú puedes ser el sacrificado
En situaciones en las que estos vehículos tengan que decidir con qué impactar para minimizar los daños, no solo tendrán en cuenta tu seguridad, sino probablemente la del resto de elementos implicados. La física, un factor seguro en cuanto al estudio de las consecuencias, se convierte en algo en un segundo plano, y llega el debate moral y ético.
![Coche autónomo](https://i.blogs.es/10015e/650_1000_coche-autonomo-2/450_1000.jpg)
Las situaciones de peligro por ahora eran bastante manejables para estos vehículos, que se limitaban a circular en autopistas y carreteras sin apenas viandantes. Su introducción en las ciudades cambia las reglas del juego, y hay muchos más factores a tener en cuenta.
Evitar un posible atropello de varias personas que por despiste crucen sin mirar -imaginad un trágico caso con una familia con dos pequeños- podría implicar que el software tomara una decisión trágica para nosotros: la de hacer que impactemos con algo para evitar ese atropello, y que ese impacto nos cause graves daños...o la muerte. ¿Cómo se toma en cuenta esa programación moral y ética?
Los casos son múltiples y de todos los tipos, tal y como señalaba Noah Goodall, un científico en el Virginia Center for Transportation Innovation and Research. Si tuviéramos una situación en la que ineludiblemente impactaremos o bien con un motorista con casco o con uno sin casco, ¿cuál debería "elegir" la programación?
Si se elige al motorista con casco, "le penalizamos por ser responsable y llevar casco", mientras que "perdonamos" al motorista sin casco que, efectivamente, está conduciendo de forma ilegal, ya que el casco es obligatorio en diversos países del mundo, incluido España. Pero claro, si se elige el impacto contra el motorista sin casco se respeta a quien cumple las normas, pero las posibilidades de que haya graves daños o muerte es mucho mayor.
¿Cara o cruz?
La solución podría ser una decisión tomada de forma totalmente aleatoria. Esto emularía el comportamiento humano, en el que muchas decisiones de este tipo se toman de forma instintiva -no hay tiempo para razonamientos profundos-, y en las que el azar y la suerte están claramente implicados.
![Coche autónomo](https://i.blogs.es/f3ac8c/650_1000_coche-autonomo-3/450_1000.jpg)
En Nokia y su división HERE a esto le llaman Humanized Driving ("Conducción Humanizada"), y la idea es precisamente implementan en la conducción por ordenador características similares a las de los conductores humanos.
Esos factores podrían aplicarse en esas situaciones límite, pero no reducen la relevancia de una conducción autónoma programada con el resto de parámetros en mente el resto del tiempo. El 90% de los accidentes en Estados Unidos se debe a errores humanos, a distracciones o al cnsumo de alcohol, y probablemente buena parte de esos accidentes se eliminarían con este tipo de vehículos. Y es que, como señalan en Wired:
En ética, el proceso de pensar en un problema es tan importante como el resultado. Tomar decisiones de forma aleatoria elude esa responsabilidad. En lugar de decisiones meditadas, se toman decisiones sin pensar, y estas podrían ser peores que los juicios reflexivos humanos que tienen un mal resultado.
Un problema de difícil solución
Otra opción, indican en ese texto, sería la de no tener en cuenta ciertos datos en esos escenarios. "Ponerle un velo" a nuestro coche autónomo, haciendo que ignore factores como si el motorista lleva o no casco, o si los coches contra los que podemos impactar son más o menos resistentes al impacto.
![Coche autónomo](https://i.blogs.es/852e6c/650_1000_coche-autonomo-4/450_1000.jpg)
El problema, claro, es que el análisis posterior sí haría necesaria la recolección de esos datos, y justificar cuáles se obvian y cuáles no podría resultar contraproducente. De nuevo nos encontramos ante un problema ético de difícil solución en el que la toma de decisiones en situaciones de riesgo no parece tener respuesta.
Puede que esos escenarios sean escasos, pero sucederán: miles de pequeños elementos pueden confluir para hacer un accidente inevitable, y estos coches autónomos deben estar programados para minimizar los efectos colaterales de los impactos que se produzcan.
El debate ético será inevitable tanto antes como después de esos accidentes. Probablemente iniciar una conversación que invite a que todo el mundo participe sea un buen comienzo para tratar de proponer no soluciones definitivas -no parece que las haya- sino al menos soluciones consensuadas.
En Xataka | Coche autónomo y debates éticos
Ver 141 comentarios
141 comentarios
Sergio
El coche se debe ceñir a las señales y a las normas de circulación de la vía, si unos peatones cruzan por donde no deben en mi opinión el coche lo único que debe intentar hacer es detenerse con seguridad y si no le da tiempo mala suerte para el peatón que seguro que ya no volverá a cruzar por donde no debe. Eso si, tras el impacto que avise a emergencias automáticamente.
Gawlf
Interesante debate...
Sobre el dilema del titular, yo creo que es bastante obvio que nadie va a querer que su coche le asesine. Uno de los pilares para la aceptación de los coches autónomos por parte del público general es que sean dignos de confianza. Si el conductor tiene la sensación de que su coche no va a velar por su seguridad personal y la de su familia en cualquier momento, igual prefiere conducir él :P
En el resto de casos sí que es más difícil ver un acuerdo o compromiso. Yo, personalmente, soy de la opinión de Nokia y cía.: en caso de duda ética, es mejor emular el comportamiento de una persona (una en concreto, además - el conductor).
pedrogomezant
Para cuando Xataka Filosofía?
neok
Una solución más que razonable es permitir ese tipo de vehículos solo en vías de elevada velocidad, con una duración del trayecto generalmente también larga, tales como autopistas, autovías, carreteras nacionales, circunvalaciones, etc. Y que además suelen tener un densidad de población casi nula, exceptuando a los propios ocupantes de los vehículos.
Y prohibirlos en entornos con gran población, como ciudades o núcleos urbanos más o menos grandes.
Al fin y al cabo, no creo que nadie se queje por tener que conducir 20 minutos por ciudad de forma manual, este tipo de vehículos pueden ser útiles para viajes largos, de 3 o 4 horas, entre ciudades, o incluso países, si es más distancia. Ahí si se puede aprovechar para descansar o hacer otras cosas, siempre pendiente de la carretera igualmente claro, yo no creo que dejara nunca de mirar de vea en cuando por muy autónomo que fuera el bicho...
vodor
Otra cuestión similar, que me ha venido a la mente al leer este articulo.
Ya puestos podrías preguntar si el coche autónomo debe presentar denuncias contra todos los que realizan infracciones de tráfico, por ejemplo los motoristas sin casco, ya que ponen en peligro la vida del resto de usuarios de la vía, la de los pasajeros de coche (si se toma una decisión teniendo en cuenta ese factor ) y la del propio motorista.
Y puestos podrías extender eso a otras muchas faltas de tráfico.
Si un coche detecta que otro pasa a 180Km a su lado por ejemplo.
Al final el vehículo tiene que poder detectar de forma fiable estos sucesos para poder actuar en consecuencia, y tiene cámaras que han registrado los acontecimientos...
PD: un poco en broma un poco en serio … y si el estado ofrece una recompensa por esas multas (como hace ahora por quien denuncia operaciones en metálico), ellos se ahorran millones en radares y en policías multando, y más de uno dejaría su coche (eléctrico) patrullando la ciudad mientras trabaja XD
oriol_bcn
Easy peasy:
Assimov tiene la respuesta:
A un coche robot las tres leyes, existe una ley 0 que incluye a toda la humanidad pero esa se reserva a robots más avanzados que los propios humanos.
Resumiendo, de quien es el coche? pues primero salvas a ese que es quien ha pagado por tus circuitos, luego minimiza el daño a los demás tanto como puedas sin entrar en conflicto con lo primero que es salvar a tu pasaje.
carcayu
Creo que aquí se pasa una cosa por alto, y es la voluntad del individuo.
Que nadie me malinterprete, no creo que la voluntad sea algo que deba estar por encima de las leyes y del respeto al prójimo: por eso se anula la voluntad y la libertad del individuo cuando este comete un crimen (metiéndolo en la carcel).
Pero un coche que tome una decisión que yo no tomaría lo veo un absurdo. Si un coche no es más que una herramienta que nos posibilita para hacer ciertas cosas, ¿qué sentido tiene que en vez de ampliar nuestras posibilidades, nos coaccione? ¿Cómo de insegura sería la conducción de un usuario que, si ya de por sí tiene que tener cuidado de lo que hacen los demás, encima tenga que tener cuidado de que lo que hagan los demas pueda provocar una acción en su propio coche que él no controle?
Y además, ¿cómo un producto así puede llegar a ser real? ¿quién va a fabricar algo así, si no le va a generar confianza al posible cliente?
albertom8
Me temo que lo único que determinará esto serán razones económicas sobre quien es el responsable civil en caso de accidente. Si ningún humano conduce realmente, ¿quien es responsable? ¿los seguros a quien cubren?
frg92552
Bueno, realmente mas que debate ético (que lo es) el hecho de clarificar y definir este tipo de cosas es muy importante de cara al escollo principal que impide el uso de este tipo de vehículos por la vía pública. Y este escollo no es el tecnológico sino el legal y regulatorio. Desde que se inventó el airbag hasta que se autorizó y homologó su uso en los coches pasó mucho tiempo.
Es importante que se definan este tipo de cosas como un estándar y no que cada fabricante haga lo que considere conveniente.
El problema inicial que existirá cuando empiecen a circular coches autónomos por ciudades o vías interurbanas es que compartirán espacio con otros vehículos que irán conducidos por personas. Por tanto el comportamiento que pueden tener esos vehículos es el de la persona que lo conduce, es decir, impredecible. Así que los vehículos autónomos deberán estar preparados para lidiar con ese tipo de comportamiento no predecible.
ghaco
Me parece que esto es crear un debate completamente artificial... Vamos hablar por hablar... Como quien se pregunta que pasara cuando los chinos gobiernen el mundo...pues ya veremos señores que pasa...
Pero la idea es minimizar los riesgos identificando antes los peligros y no creo que esas "decisiones" tan dramaticas tengan que producirse. Por que el vehiculo habria parado antes de enterarnos del peligro. Ese seria el avance. No elegir empotrarse con algo.. Que tonteria
tablerone
No puedo evitar pensar en los "graciosos" que se echaran delante de los coches a ver cómo reaccionan.
sirdvv
Interesante debate, pero de solución fácil:
Si un fabricante me vende un coche que me garantiza que tomará que tomará las decisiones necesarias para salvarme a MI compraré ese coche.
Evitar daños colaterales me sirve de muy poco si estoy muerto, no quiero ser un héroe muerto.
Supongo que la ley de oferta y demanda haga el resto... hasta que lleguen las regulaciones.
Esperemos entonces que haya un Jailbreak para coches :)
searcher
Al leer el titulo me he acordado de la pelicula de irobot y el accidente que tuvo el prota...
cacto
En este caso el software tiene que privilegiar al peatón en todo caso. El razonamiento es el siguiente, y si no me equivoco es el que sigue la mayoría de la legislación: El conductor es el que introduce algo peligroso al espacio público, ¿por qué un pobre diablo de a patas tiene que pagar con su vida la comodidad de otros?. Por eso la ley suele estar de parte del peatón.
Si el software que controla el automóvil esta diseñado para privilegiar la vida del conductor y sus ocupantes, es lo mismo que decir que està programado para asesinar a un tercero en caso que sea 'necesario'. En otras palabras seria homicidio premeditado.. o preprogramado.
jean_valjean
Yo creo que seria menos probable que un coche automatizado chocara que una persona, una solución seria que no anduvieran rápido por decir un máximo de 40 km/h en la ciudad para que tuviera tiempo de frenar a tiempo ante cualquier situación porque entre mas rápido hay menos tiempo de frenar a tiempo, también hay estudios que demuestran que no hay mucha diferencia de tiempo entre ir a 60 o 40, sobre todo por los semáforos y esquinas que se tiene que frenar.
En lo personal no me molestaría que tuviera una velocidad media de 30 km/h en ciudad con tal de librarme del stress que conlleva, y parafraseando a Homer Simpson: "se salvaran muchas vidas pero muchos llegaran tarde".
yavi
Es complicado e interesante el debate.
Pongamos que está cruzando uno con una melopea curiosa que se ha metido en nuestra trayectoria, y el software del coche tiene que decidir entre salvarle la vida y arriesgar la nuestra, ¿Sería justo?
Otro caso hipotetico, si prima salvar al que cumple la ley, en este caso el coche, y tiene librar a un peatón circulando a 40 Km/h sin riesgo alto para el conductor ¿Que hace? ¿Libra de tener un pequeño percance el coche? , ó ¿Se le lleva por delante?
Gatobus
yo creo que no deben tener opción a tomar decisiones, simplemente a seguir las normas de circulación, las velocidades de cada vía y los ordenes de preferencia.
Todo lo que se salga de eso, es ya tema de azar. Si se le cruza un peatón de repente, pues frenará por que es un obstáculo, y si se le cruza una persona por el autopista, pues se la llevará por delante... pero es que esto no tiene nada de ética, es cuestión de que físicamente no se puede hacer nada. Los accidentes son lo que son.
gotty
"La solución podría ser una decisión tomada de forma totalmente aleatoria. Esto emularía el comportamiento humano, en el que muchas decisiones de este tipo se toman de forma instintiva -no hay tiempo para razonamientos profundos-, y en las que el azar y la suerte están claramente implicados."
Instintivamente siempre se procura la supervivencia, diría que está demostrado que en accidentes de estos de casos de segundos casi siempre el conductor intenta evitar el contacto salvándose él, lo que muchas veces provoca la lesión o muerte del acompañante, cuando seguramente de haberlo razonado hubiera hecho lo contrario y hubiera preferido ser él la víctima y no la otra persona (normalmente un familiar cercano)
stefan95
No creo que se deban poner coches autónomos en carretera hasta que todos los coches sean autónomos, así se podrían comunicar entre sí y el accidente sería casi imposible. No obstante, probablemente un coche autónomo sea más seguro que uno conducido por una persona, incluso cuando ambos compartan carretera. En una situación de accidente a una persona no le da tiempo a decidir, la persona hace lo que sus reflejos le digan, mientras que el procesador de un coche sí podría decidir.Para evitar problemas éticos por parte de la empresa que fabrique los coches autónomos, yo dejaría que cada conductor pueda decidir si su coche autónomo tendrá más respeto por su vida que por la de los demás.
xelux
Esto me recuerda a la pelicula de Yo Robot, cuando por probabilidades de sobrevivir, un robot salva al protagonista en vez de a una niña
jmj
Pues en ese caso no, mi coche debería mirar antes por mi seguridad que por la del resto. Que para eso es mi coche.
Además, eso supondría por poner un ejemplo, que ante un accidente en el que puedan llevarse la peor parte cuatro ancianos de 90 años, e sistema decidiese que mejor que se lleve la peor parte el otro vehículo con dos padres con si hijo recién nacido. ¿Que es mejor, salvar la vida de cuatro ancianos de 90 años, o la de un recién nacido y sus dos padres jóvenes?.
elgecko
Sólo que no utilice los mapas de Apple por favor, no quiero terminar a mil kilómetros de mi casa como la viejecita que se perdió hace un par de años...
ziceck.zhuk
Pienso que debería de salvar a su dueño, si no para que gastar en un autónomo.
oopere1
Es complicado valorarlo, pero lo primero que tenemos que hacer es un cambio de chip. Nos imaginamos los accidentes como los hemos vivido, o visto por televisión, o en directo, pero sin ser protagonistas.
En casi todos los accidentes hay una variable que tendria que desaparecer con el coche autonomo, y es el exceso de velocidad.
Lo primero es imaginar que circularemos por ciudad a 50, 40 o 30 dependiendo de la zona. En zonas peatonales a 20. Con estas velocidades todo es diferente. Ahhhh y por autopista a 120.... a estas velocidades hay bastante tiempo para reaccionar, sobretodo si no eres un humano ebrio.
zeke
Jaja, y luego intelectos con coche moderno, con poco aceite, pastillas gastadas y ruedas a baja presión cuestionan la seguridad de mi Super5 bien cuidado, lo único de electrónica que tenía era el radiocassete y lo robaron hará 15 años xD.
Esto para lo que esta bien, ahora que lo pienso, es para los cagaprisas en los semáforos, aquí en valencia es tradición salir cuando el peatón verde empieza a pardear, lo malo es cuando este tiene reflejos y la gente duda.
En tal situación, en una calle de 3 carriles y peatón verde durante toda la "aventura", fue como casi me atropellan 2 coches(uno me dio en la mochila con el retrovisor) y finalmente me dio un bus, lanzándome unos 2 metros, y para colmo el del bus diciéndome no se que y mirando como si me perdonase la vida, valiente hijo de p**a.
Todo esto, para colmo, en una calle con 2-3 colegios, guarderías/jardines de infancia, mucho abuelo en el barrio, supermercados, bicis cuando salen los niños... una comisaria de policía a 200 metros (zona mestalla para el que sea de aquí).
Ahí es cuando te acuerdas de todos esos radares en la ronda nord, del que se pone a recetar matrículas no deseadas (peligrosa una M o B por estos lares xD), del que se queda mirando coches ir en dirección contraria... en definitiva, de todos aquellos que velan por nuestra seguridad, JA!.. que diga.. ¿hurra?
smoo
me parece hilar muy fino fijarse en si el motorista lleva o no lleva casco cuando hoy en día lo único que mira un conductor es la moto que se va a comer. todavía no se ha visto el caso en que un humano se sacrifique para no chocar contra una moto.
juangarcia
Dudo mucho que por mucha tecnología y sensores que tenga un coche de estos sea capaz de medir tantas cosas y en tiempo real como dice el artículo. ¿Van a incorporar un ordenador de la NASA? Por favor, si incluso los radares tienen un 10% de margen de error.
Es capaz de medir todas las condiciones de la carretera? ¿Como lo hace? ¿Donde lleva los sensores? ¿Es capaz de percibir un charco y lo profundo que es? ¿un bache? ¿La reacción de otros pilotos? Que sucede si por intentar evitar un atropello, el propio coche pierde el control y provoca algo peor? ¿Sería capaz de distinguir un humano de un maniquí por ejemplo?
Eso sin contar, que dudo mucho que una maquina pueda superar los reflejos humanos de una persona sana. Anda que no he evitado yo accidentes por prever alguna maniobra de algún payaso que se veía venir. Eso sería imposible para una maquina ya que evaluaría todo objetivamente en tiempo real.
Saludos.
zaxius
No es tan dificil: Si atropellas a quien cruza indebidamente no es culpa tuya, harás lo posible por evitarlo pero no a costa de tu propia seguridad.