Año 2043. Reino Unido es el último reducto de la WCC (Western Countries Confederation) en Europa, ante el imparable avance del DAESH. Un dron de exploración británico realiza un barrido por las orillas del Támesis. Con su sensor térmico detecta el avance de un grupo de soldados enemigos. Analiza y evalúa: diecisiete soldados, todos hombres (sabe eso debido a que analiza la forma de caminar, y la complexión y proporciones corporales), armados con armamento ligero y un lanzagranadas.
En milisegundos, manda las coordenadas del objetivo a otro dron, esta vez a un bombardero X-54, quien, de nuevo en otros pocos milisegundos, lanzará una lluvia de misiles sobre los desdichados soldados. Sin embargo, los sensores del dron de exploración detectan nuevos enemigos. Entre las ruinas de lo que antes fue la abadía de Westminster, avanzan cuatro blindados autónomos de clase T-95. Son un objetivo estratégicamente muy jugoso (cada tanque de este tipo le cuesta al DAESH unos dos millones de dólares), mucho más interesante que el grupo de soldados.
Pero hay un problema. Los estrategas del DAESH descubrieron que había un tipo de blindaje para sus carros de combate, mucho más efectivo que el usual blindaje reactivo: el antiguo escudo humano. El objetivo era confundir la inteligencia artificial de las armas autónomas enemigas o, como mínimo, retrasar sus decisiones.
El cerebro positrónico de un dron de la WCC tomaba decisiones siguiendo a rajatabla la Convención de Massachusetts de 2036, en la que 136 países aprobaron un código ético mundial para armas autónomas, conocido popularmente como BH (el Bushido de HAL).
Según este código, un arma autónoma siempre evitará el mayor número de víctimas humanas posibles, por lo que a la hora de elegir el objetivo para un ataque, siempre elegirá a otra arma autónoma antes que a un grupo de soldados. La táctica del DAESH consistía en atar a unos cuantos prisioneros, si pueden ser civiles mejor, a lo largo de la carrocería de sus tanques.
Entonces el dron tenía dos opciones:
Dirigir los misiles hacia el grupo de diecisiete soldados. Todo correcto a nivel ético y legal: se mata a personas pero son soldados enemigos ocupando territorio soberano.
Dirigir los misiles hacia los T-95. Se ocasionarían víctimas humanas del propio bando, generando intencionalmente daños colaterales y, por lo tanto, violando claramente el BH. Sin embargo, eliminar esos carros enemigos supondría una ventaja decisiva en la batalla que, casi con total probabilidad, evitaría más muertes que ocasionaría.
¿Qué hacer? ¿Violar tu propio código ético, o ser práctico y ganar la batalla haciendo, quizá, un mal menor? El dron piensa y actúa: los blindados enemigos son destruidos. Los programadores de la empresa Deep Mind encargados de diseñar el cerebro computerizado de la máquina dejaron una puerta trasera mediante la que los compradores podían reprogramar la conducta de su arma a su antojo.
Los oficiales del ejército británico lo tuvieron claro: ganar la batalla era lo primero y unas cuantas bajas humanas, incluso de civiles, se justificaban en función de intereses estratégicos superiores.
La Batalla de Londres se venció e, igualmente que le pasó a Hitler justo un siglo antes, la invasión de Gran Bretaña fue un fracaso. El DAESH y la WCC llegaron a un armisticio temporal. Todo pareció salir bien hasta que se descubrió que uno de los fallecidos utilizados como escudos humanos era la hija de Walter Smithson, un influyente multimillonario, dueño de una de las cadenas de restaurantes más importantes del mundo. El 2 de junio de 2044 interpuso una demanda al ejército británico por la acción de su dron.
Legalmente la demanda era totalmente correcta: el dron había desobedecido la Convención de Massachusetts ocasionando bajas civiles. Correcto pero, ¿quién era el responsable de la acción? Los ingenieros de Deep Mind se lavaron las manos: ellos habían programado el dron para no desobedecer la ley. Si el ejército inglés lo había reprogramado para hacerlo, no era culpa suya.
Todas las miradas apuntaron entonces al general Pierce Montgomery, responsable de armas autónomas del ejército de su Majestad. Pero, cuando todo indicaba que el laureado militar pagaría el pato, sus abogados utilizaron una sorprenderse estrategia: alegaron que el auténtico responsable era el dron, ya que había decidido atacar a los civiles con total y absoluto libre albedrío.
¿Qué es el libre albedrío?
Definición de andar por casa: si nos encontramos ante la decisión de tener que elegir entre A o B, podemos elegir A o B sin que nada ni nadie nos obligue a hacerlo. La vamos desgranando: ¿qué quiere decir que algo o alguien nos obligue? Que alguien nos obligue lo entendemos muy bien (alguien apuntándome con una pistola), pero que “algo” nos obligue, ¿qué significa?
Un ejemplo: yo vuelvo a mi casa a las tres de la mañana y quiero abrir la puerta. Estoy completamente borracho por lo que no atino a meter la llave por la cerradura. Yo quiero, deseo con toda mi alma abrir la puerta pero algo, en este caso la insalubre cantidad de etanol que fluye por mis venas y atonta mi cerebro, me impide realizar la acción que yo quiero hacer. En este caso, el alcohol es lo que llamamos un condicionante: algo que nos obliga, o como mínimo inclina, a obrar de una determinada manera.
Es por eso que, en un juicio, los condicionantes se convierten en atenuantes. Los abogados de un presunto criminal aducen multitud de condicionantes para restar responsabilidad a las fechorías de su cliente. Un crimen cometido con premeditación y alevosía (es decir, con plena y total libertad) es castigado mucho más gravemente que otro que se cometiera bajo los efectos del alcohol o con la salud mental dañada (por eso los abogados de las películas alegan tanto la locura transitoria).
Incluso los crímenes pasionales son, igualmente, menos castigados que los cometidos a sangre fría, arguyendo que las emociones ofuscan o confunden nuestro libre albedrío y nos empujan a hacer actos que, en estado normal, no haríamos. Las emociones se consideran también condicionantes. Desde los antiguos griegos, un imperativo vital ha sido siempre no dejarse llevar por las emociones, controlarlas.
Actuar libremente, no consiste en actuar guiándote ni por altos o bajos instintos (pasiones) ni por ningún otro condicionante (cualquier tipo de estado mental alterado) ¿Qué es entonces lo que impulsa a actuar libremente? Una de las instancias más repetidas por la tradición occidental ha sido la razón práctica o deliberativa. Tenemos una facultad mental que nos permite decidir entre A y B. Los condicionantes pueden influirla pero, en último término, es ella la que elige.
Grandes filósofos como Rousseau o Kant, entendían la libertad como autonomía, es decir, como darse normas a uno mismo, siempre que esas normas fueran fruto de una decisión racional, es decir, hubieran sido meditadas por nuestra razón práctica. Si yo decido escoger A porque, después de pensarlo muy bien, creo que escoger A es lo mejor que puedo hacer, estaré obrando libremente.
Perfecto, pero aquí hay un grave problema ¿De dónde surgen las razones mediante las cuales yo guío mi acción libre? ¿Elijo mis pensamientos, mis razonamientos, las creencias que me orientan en mi vida? Parece que no.
El psicólogo norteamericano Daniel Wegner nos invita a hacer un simplísimo juego para demostrarlo: intentad no pensar en un oso blanco. Es difícil, tarde o temprano el oso blanco volverá a emerger a nuestra memoria consciente por mucho que intentemos no pensar en él. En Internet había una versión del juego llamado, con suma originalidad, the game, que consistía, precisamente, en intentar no pensar nunca en el propio juego. Lo divertido es que el ganador sería aquel que consiguiera olvidar que estaba jugando y, en cuanto a tal, jamás sabría que había ganado.
Entonces, si no elijo mis pensamientos y deseos y éstos determinan mis acciones, yo no elijo mis acciones… ¡No soy libre! Pero, ¿cómo es posible? ¡Yo siento que soy libre! Ahora mismo pienso en mover mi brazo y lo muevo… ¿cómo podríamos decir que yo no lo estoy moviendo libremente? Porque el libre albedrío es una ilusión.
Baruch Spinoza (1632-1677)
El filósofo holandés Baruch Spinoza argumentaba que el libre albedrío es solo una ilusión ocasionada por nuestro limitado entendimiento a la hora de conocer las causas de nuestra conducta. Vamos a entenderlo con un ejemplo:
Juan asesina a su mujer disparándole con un revolver ¿Cuál fue la causa?
- Causa 1: Juan encuentra a su mujer en la cama con un amante, por lo que decide libremente apretar el gatillo.
- Causa 2: Luisa, la mujer de Juan, arriesgó mucho al pensar que Juan no volvería hoy del trabajo tan pronto. Si hubiese sido más prudente Juan no la hubiera descubierto con su amante.
- Causa 3: Manuel, el jefe de Juan, se encuentra de buen humor porque el Getafe, su equipo de fútbol favorito, ha ganado hoy. Por eso deja salir a Juan una hora antes del trabajo.
- Causa 4: Martín, el entrenador del Getafe, decidió sacar en el segundo tiempo a un prometedor jugador de la cantera con el que habitualmente no cuenta. Ese jugador, al borde del minuto 90, metió el gol de la victoria.
Causa 5: Eloy, promesa de la cantera del Getafe, estuvo a punto de abandonar su carrera futbolística debido a que no contaba para nada para los diversos entrenadores que habían pasado por el equipo. Sin embargo, su padre habló con él y le convenció para que no abandonará.
Causa 6: Marcos, el padre de Eloy, quiso también ser futbolista profesional. Sin embargo, dejó muy pronto su carrera deportiva porque le ofrecieron un trabajo muy bien pagado en una emergente empresa de informática llamada Apple. Siempre se arrepintió de haber dejado el fútbol, por lo que siempre animará a su hijo a que continúe.
Recapitulamos. Si cualquiera de estas causas no se hubieran dado, es muy probable que Juan no hubiese asesinado a su mujer. Todas estas causas están encadenadas como piezas de dominó, de modo que una es condición para la siguiente (es un ejemplo del conocido efecto mariposa) pero podemos hablar de más condiciones aún:
- Causa 7: Pedro, el dueño de la armería, pospuso sus vacaciones una semana más, por lo que Juan pudo comprar su revólver al no encontrar la armería cerrada.
- Causa 8: Carlos, el amante de Luisa, chocó accidentalmente con ella cuando caminaba distraído mirando los cuadros de un museo. Sin ese choque jamás se hubieran conocido.
Incluso podemos irnos a condiciones más lejanas pero, igualmente, necesarias para que ocurriera el crimen:
- Causa 9: los chinos inventan la pólvora y múltiples desarrollos tecnológicos van perfeccionando su uso hasta llegar al revólver a principios del Siglo XIX. Sin todo ese progreso, Juan no hubiera podido usar esa arma.
Y, más lejos aún, podemos llegar a causas que hunden sus raíces en la física más elemental:
- Causa 10: el oxígeno es necesario como comburente para que la pólvora explote y se produzca el disparo del revólver. Sin oxígeno en la atmósfera, jamás se podría haber disparado revólver alguno y, es más, la especie humana no existiría y la vida en la Tierra sería muy diferente a como es ahora.
Tenemos diez condiciones necesarias para que sucediera el asesinato pero, como bien podría hacer el lector como ejercicio de creatividad narrativa, con un poco de imaginación podríamos pensar una infinitud más (formando lo que en términos técnicos se llama nube causal). Sin embargo, decimos que el auténtico causante es, únicamente, el libre albedrío de Juan. A nadie se le ocurriría pensar que el culpable fuera el entrenador del Getafe, el dueño de la armería, los directivos de Apple o, más disparatado aún… ¡el oxígeno!
¿Por qué decimos que fue Juan? Spinoza lo tenía muy claro: es imposible conocer todas las causas que tuvieron algo que ver con el crimen por lo que, simplificamos a lo bestia con nuestros estúpidos cerebros de primate, y seleccionamos solamente una causa: el yo libre de Juan.
¿Sucesos aleatorios?
El universo está gobernado por una serie de leyes naturales que, hasta ahora que sepamos, siempre se han mantenido estables desde los orígenes de todo. Algunas de ellas, las más poderosas, son deterministas, es decir, se cumplen siempre y en todo lugar, siendo imposible violarlas (por ejemplo, la gravedad). Otras, sin embargo, son probabilísticas o estocásticas, es decir, que solo se cumplen con un determinado grado de probabilidad (por ejemplo, fumar provoca cáncer de pulmón).
Si todo lo que dirige nuestras vidas estuviese regido por leyes deterministas no habría lugar para el libre albedrío: tomaríamos nuestras decisiones de un modo tan obligatorio como el de una pelota cayendo hacia el suelo. Sin embargo, algunos han visto en las leyes probabilistas una vía de escape.
Si nuestro cerebro no es una máquina determinista sino que en su funcionamiento participan procesos estocásticos, es posible que allí esté nuestra libertad, en el azar, en la aleatoriedad. Pero, ¿existen realmente sucesos aleatorios? En el mundo a escala humana, parece que no, pero en el mundo cuántico, algunos físicos nos dicen que sí (y otros que no).
¿Qué es un suceso aleatorio? Aquel que ocurre sin una causa que lo determine de modo que, incluso conociendo todas las variables que se dan en el proceso, sea imposible predecir su comportamiento. En este sentido, un suceso aleatorio podría parecerse mucho a un acto libre ya que, igualmente, el acto libre necesita no tener una causa que lo determine, necesita ser una causa sin causa o incausada.
¿Es entonces un suceso aleatorio un acto libre? Lo sentimos pero no. Que algo sea aleatorio solo implica dos cosas:
Que, aceptando la verdadera aleatoriedad cuántica, sucede sin causa alguna, sin nada que determine su conducta. Pero eso no implica que sea fruto de una decisión libre. Aceptando que el lanzamiento de una moneda es un acto realmente aleatorio, la moneda no toma ninguna decisión, no delibera ni planifica ni desea hacer nada siguiendo un propósito. La moneda no es libre de elegir cara ni cruz.
Que, realmente, lo único que pase es que no somos capaces de predecir su comportamiento debido a nuestras limitaciones observacionales o cognitivas, y que el suceso sea, en último término, tan determinista como cualquier otro. Estaríamos de nuevo ante la ignorancia de Spinoza: que desconozcamos las causas de un suceso no implica que éste obre libremente.
No amigos, por la aleatoriedad no llegamos a la libertad. Y es que para que una acción sea libre necesitamos no que no esté determinada por nada sino que esté determinada por nuestra voluntad, por nuestras preferencias, valores, deseos… y los actos aleatorios, evidentemente, no lo están.
¿El Yo como fuente de libertad?
Para que un acto sea libre tendremos que tener un Yo, una instancia que, realmente decida. Precisamente, el argumento actual más en contra de que las máquinas son libres es que no tienen un Yo, no tienen a nadie que decida en última instancia, solo siguen a rajatabla su programa, sin poder violarlo jamás.
¿Y qué es el Yo? Pregunta complicada donde las hubiere. Muchos lo han identificado con ciertos estados o fenómenos propios de nuestra mente: nuestra consciencia, nuestro “espacio interior” o subjetividad, nuestra sentience (capacidad de tener sensaciones), o ya, en términos religiosos, nuestra alma o espíritu.
Sin embargo, la neurología moderna ha ido poniendo en jaque esta idea de Yo:
El Yo no puede observarse de ninguna forma, ni siquiera usando la introspección. Si yo me analizo a mí mismo pensando, recordando o sintiendo, lo único que encuentro son pensamientos, recuerdos o sentimientos, pero nunca a ese sujeto que los tiene. Nadie jamás ha observado su yo ni el de nadie ¿En ciencia no ese eso suficiente para negar la existencia de algo?
La neurología contemporánea no ha encontrado ningún lugar en el cerebro donde pueda encontrarse el módulo del Yo (aunque hay intentos muy loables). Las investigaciones apuntan más a que cada elemento de la experiencia consciente se procesa en diferentes partes del cerebro. De hecho, uno de los grandes problemas de la neurología actual es el llamado binding problem: ¿cómo se integra y se sincroniza toda la información sensorial en una imagen mental coherente?
Los famosos experimentos de Benjamin Libet y muchos otros posteriores, sobre libre albedrío, muestran que los sujetos son conscientes de tomar una decisión después de que la decisión haya sido tomada. La conclusión es totalmente revolucionaria: el Yo, si es que existe, no decide… por lo tanto, no tiene ninguna relación con la libertad.
Desde luego, si el libre albedrío es una noción oscura, la de Yo no le va a la zaga… ¿Qué nos queda entonces? ¿Tenemos que renunciar a una idea tan central en nuestro mundo como lo es la libertad?
El alegato del general Montgomery
Volvemos a la historia de los drones asesinos. Cuando todo parecía indicar que el responsable y, por lo tanto, culpable de todo era el general Montgomery, sus abogados elaboraron una sorprendente defensa: alegaron que el libre albedrío no existía, por lo que el general Montgomery ordenando que sus drones violaran la convención de Massachusetts, era tan poco libre como el dron ejecutando la orden. Entonces, o los dos no son libres y ninguno de ellos tiene responsabilidad en la muerte de la hija de Smithson, o los dos son igualmente libres y entonces, el dron, ejecutor de la acción, es el genuino responsable.
El juez comenzó a ponerse nervioso. Si no existía el libre albedrío nadie sería responsable de nada por lo que el sistema judicial era un fraude… ¡Todo el trabajo de su vida no tenía sentido! ¡Tranquilícese señoría! – Repuso uno de los abogados – Tal como defendió el filósofo escocés David Hume, es posible compatibilizar una cierta idea de libertad con el determinismo físico.
Se trata de definir como acción libre aquella que no está en contra de las determinaciones de mi propia voluntad. Mis pensamientos, creencias, valores, etc. que causan mi acción están completa y absolutamente determinados por causas anteriores y yo no soy más libre que el dron de combate.
Estoy, por decirlo en términos informáticos, programado de antemano por mi naturaleza y mi cultura. Sin embargo, si debido a éstas yo quiero elegir A, y algo externo a mí me impide que yo lo elija, estará poniendo trabas a mi libertad e impidiendo que yo obre libremente. Por decirlo de otra forma: ser libre es poder obrar conforme a lo que estoy determinado.
De este modo, podemos juzgar y condenar a cualquier criminal sin que el sistema judicial se venga abajo ¡Es posible justicia sin libertad! Por lo tanto, el dron, actúo siguiendo su programación sin que nadie se interpusiera entre su libre obrar y su objetivo, por lo que es culpable de sus actos.
La sentencia sorprendió al mundo: el 28 de agosto de 2044, el dron de combate de tipo R-6 Alpha C con nº de bastidor 365889725E, fabricado y ensamblado en Taiwan por la Hongji Corporation, para la empresa estadounidense Deep Mind, actualmente en propiedad del ejército británico, fue el primer robot de la historia juzgado y condenado en un juicio. El castigo fue ejemplar: desmontar el dron y reciclar sus piezas para otros drones, destruyendo así su individualidad como agente racional (el equivalente robótico a una condena a muerte).
No obstante, ni el general Montgomery ni la empresa Deep Mind se fueron del todo de rositas. El general por reprogramar el dron para que pudiese violar la convención de Massachusetts, fue condenado por cómplice e inductor del asesinato. Se le degradó de su rango y se le condenó a pasar tres años en una prisión militar (si bien al final, y de nuevo por la habilidad de sus abogados, no cumplió ninguno).
A Deep Mind le cayó una cuantiosa multa por violar ciertas leyes de protección de software que prohibían vender código abierto sobre ciertos productos militares (si bien al final no pagó nada. Se declaró en bancarrota e incapaz de pagar, cambió su nombre por Deep Neuron y se refundó, siendo hoy en día la empresa hegemónica en el diseño de drones de combate).
Pero lo más interesante es que esa sentencia creó jurisprudencia y, en cuestión de pocas semanas, los tribunales de todo el mundo estaban llenos de juicios en los que había inmiscuidos robots; y en cuestión de unos años, ya existía una rama del Derecho específica llamada Derecho Computacional, en el que se intentaba legislar para clarificar todo ésta difícil problemática acerca de las máquinas criminales.
Fotos | iStock
Ver 70 comentarios
70 comentarios
contramedios
Un robot nunca podrá ser juzgado porque la decisión que toma un robot esta perfectamente definida antes por un programador, por lo que es muy sencillo delimitar al culpable, esa es la gran diferencia con una persona normal.
Tu puedes ser un padre desquiciado que críe a su hijo en una ambiente de violencia y nulo respeto por el prójimo, pero si en un futuro ese niño ya adulto comete un crimen, el juez no puede delimitar la culpabilidad "en la historia de su vida" (no tiene un "log" donde consultar las vivencias de todos los días de su vida). Es verdad que ese niño ha sido "programado" por su entorno para matar, pero es imposible relacionar ese crimen con la historia de su vida con una relación total causa-efecto. El juez no dispone de un "código" en el adulto en el que consultar su "programación". Otros niños, con un entorno muy parecido, habrán actuado de forma correcta.
Es aquí donde veo el fallo del artículo. Nunca, ni siquiera dentro de 100 años, se condenarán a robots por mucha IA que tengan. En el robot se puede predecir totalmente lo que va a hacer porque, al contrario que en una persona, tenemos todas sus "vivencias" escritas por nosotros. Solo hay que leer el código y su base de datos. La verdadera IA no existe, tenedlo claro.
royendershade
Como siempre muy interesante, pero das muchas cosas por sentado, y al menos a mi me da la sensacion de que las asumes (sin nada que nos permita aceptar tales hipotesis como algo mas que: ·este filosofo dijo", por muchas razones que den). Ademas estas obviando que muchas de las cosas mencionadas no pueden demostrarse a dia de hoy y quiza nunca.
"seleccionamos solamente una causa: el yo libre de Juan."
No es que se seleccione una causa. Se selecciona un responsable ultimo: y es que hasta el ultimo segundo el podria no haber hecho eso, podria haber hecho lo contrario, eh ahi el problema.
A todo esto, el resto de "condicionantes" no son elementos conscientes, son accidentales, sin embargo el actor en este caso sabe que algo esta mal. De esta forma es mas libre en la medida en que es capaz de ignorar cualquier impulso y decidir el activamente matar o no matar, independientemente de lo que sienta. Esto es libertad. Y hay muchos casos. Por poner uno: la muerte de Socrates, que contradiciendo todo su programa biologico, y aun a su cultura, muere. Del mismo modo que yo podria perfectamente ingerir un veneno solo para demostrarte que soy libre, sin ningun otro fin. Eso es una prueba de que podemos saltarnos nuestro programa mas basico y firme, algo que es imposible de hacer para una maquina. Esto se ve especialmente en situaciones criticas, o simplemente si decides salvar a un anciano a costa de tu propia vida. El condicionante cultural es una excusa, porque al fin y al cabo desde esa perspectiva necesariamente debe derivar de la biologia integramente.
Volviendo a los condicionantes, como digo solo lo son en la medida en que uno no sea libre, pero en la medida en que un acto depende en ultima instancia de nuestra voluntad, somos libres, y eso se puede conseguir. Dejando a un lado por supuesto condicionantes fisicos: yo no puedo violar las leyes fisicas, pero dentro de las cosas a las que puedo llegar potencialmente, puedo decidir en ellas.
Asi que no, no es una ilusion la libertad, porque se puede ejercitar y es demostrable por casos inumerables y solo uno basta. Desde luego que no se puede demostrar que en todos esos casos realmente no determinara el condicionante el resultado, pero se puede analizar, igual que analizamos la fisica y que aceptamos un principio pese a que no podemos comprobarlo para todas las particulas del universo.
Esto da para libros en cualquier caso...
juamfearroyavea
Me encanta esto loco-reportajes.
El dia que un robot incumpla los 10 mandamientos de Dios tendrá libre albeldrio.
acerswap
Llamame raro, pero yo lo tengo muy claro: Juan es responsable de matar a su mujer. El chino que invento la polvora no puede ser responsable de una decision tomada siglos despues, entre otras cosas porque tampoco decidio fabricar y poner en la mano de Juan la pistola en cuestion. Por otra parte, si Juan no hubiera tenido una pistola, podría haber usado un cuchillo o cualquier otro objeto como arma. Tambien podia haber hecho caso omiso de la pistola, haberse dado la vuelta e ido a sumergir sus problemas en alcohol. La decision la tomó el.
El tema del dron es mas peliagudo: ¿la culpa es de los programadores que determinaron que no previeron que podrian darse esas situaciones o es del general que dijo que la situacion era la adecuada para soltar el dron? En este caso sería compartida, digo yo, aunque al ser el general el que decidio de manera proactiva soltar el dron sabiendo que podian darse estas situaciones tiene un grado de responsabilidad mayor que el de los programadores, que simplemente desconocian que podian darse esos casos (y de los que se sobreentiende que no conocian la posibilidad y por eso no lo implementaron).
Usuario desactivado
1º- La pólvora no necesita oxigeno
2º- "Nadie jamás ha observado su yo ni el de nadie ¿En ciencia no ese eso suficiente para negar la existencia de algo?"
Falso. La ciencia no puede decir que algo existe o no existe sin pruebas. Solo puede afirmar que está "probada" la existencia o no existencia siguiendo el método científico. Así que con el "yo" como mucho podría decir que no está probado que exista, pero no puede decir que no exista.
Además es una memez, si un animal aun no ha sido descubierto, ¿no existe? Claro, luego lo descubrimos y que ocurre, ¿existe? Según el autor de este texto sería imposible descubrir algo nuevo porque estaría científicamente probado que no existe. Absurdo.
3º- Y por cierto, el yo si que existe, es imposible de decir que no exista. Pienso luego existo. Hay gente poco inteligente que se traga tonterías del tipo:
"Somos conscientes de una decisión después de haberla tomado. Eso demuestra que no existe el yo" -> Claro, ¿y si no existe el yo quien diablos es consciente de la decisión supuestamente tomada antes?
"El cerebro nos engaña para.." -> ¿A quien dices que engaña el cerebro? Si no existe el yo, ¿a quien diablos necesita engañar el cerebro?
¿Veis lo absurdo de estos argumentos?
4º- Y la historia es errónea. No puedes juzgar el libre albedrío de una máquina, que aun suponiendo realmente lo tenga, si esta no sabe que puede ser juzgada, no sabe el castigo, de hecho las leyes en principio no se le pueden aplicar. Ella solo seguía órdenes.
troyzero
Magnífico artículo, por gemas como esta merece la pena entrar de vez en cuando a Xataka. Y creo que el Derecho Computacional pronto va a ser en realidad una rama legislativa, no parte de un artículo de ciencia ficción, sobre todo cuando se alcance la "singularidad tecnológica" (estoy absolutamente convencido que llegará mas pronto que tarde).
hectordenis.valenciatroncoso
La libertad es lo mas hermoso del universo y el libre albedrío lo mas hermoso del ser humano. Negar el libre albedrío es negar esa misma libertad en el ser humano, caer en el juego de las infinitas causas es no entender en absoluto la sinergia y que la emergencia de propiedades es un fenómeno innegable de la realidad, aplicar el reduccionismo salvaje es entregarse al pragmatismo desenfrenado que los Platónicos reconocemos en los aristotélicos desde tiempos inmemoriales.
uti
Me ha encantado el artículo, he ido siguiendo atentamente su hilo conductor, y considero que tiene razón en todo lo que dice.
La frase : "para que una acción sea libre necesitamos no que no esté determinada por nada sino que esté determinada por nuestra voluntad, por nuestras preferencias, valores, deseos" . . . . . . . . .Es lo único que puede definir mi "libre albedrío", ya que, nuestras decisiones, están condicionadas por todo lo que somos : Edad, educación, entorno, vivencias, experiencias (buenas y malas), conocimientos, estudios. . . . . . . . .
Por otro lado, todas esas circunstancias también hacen que, cada individuo, sea predecible en un grado bastante alto, unos individuos más que otros, por lo que volvemos a la frase del comienzo, ejerceremos el "libre albedrío" siempre que nada o nadie externo a nosotros mismos, influya DIRECTAMENTE en nuestra toma de decisiones.
Si, al final, nuestro entorno y nuestras circunstancias también condicionan nuestras decisiones : ¿Realmente existe el libre albedrío? ¿No es el determinismo el que impera en la esencia del Universo?. . . . . . . . .
Un buen sicólogo, especializado en comportamiento humano, es capaz de predecir, yo diría que casi al 100%, lo que va a hacer un individuo determinado en un momento dado y, si no acierta, es porque desconoce un dato sobre dicho individuo, que es precisamente el que va a determinar que tome la decisión que toma.
tony_gpr
Se que todo es ficción, pero suena muy poco creible que el Daesh domine Europa, solo se lo puede creer el mismo cuñado que cree fervientemente en la existencia del plan Kalergi y demás magufadas.
Es infinitamente más probable que la próxima gran guerra sea entre las potencias occidentales, igual que todas las anteriores.
Obviando esto, el artículo es una buena lectura, mi enhorabuena.
luizja
Excelente artículo, para ponernos a pensar un buen rato.
vikingogenio
Felicidades por el Articulo!
se inspiro en algún relato de Asimov? me recordó a sus escritos.
jer
Muy bueno, me has entretenido un buen rato. (emoticonos de aplausos varios)
Tendrías que extender esta idea y hacer una buena novela.
Usuario desactivado
El día que eso llegue tomarán la decisión de acabar con nosotros, se sincronizarán, y lo harán.
Mejoresescorts
No se porque pero aveces me gustaría que las maquinas no hubieran existido...
leonardo443
Me encantó, me engancho con la historia inicial y así aprendí sobre algo interesante, más reportajes así por favor
orochi2000
YA DEJEN DE INVOCAR A SKYNET, TIENEN GANAS QUE SE CUMPLA ESA PROFECIA
air81
Ese debate sobre el libre albedrío en la IA me recuerda a "The Talos principle"... :D
silver2048
eso lo penso Dios cuandos nos hizo, y cada dia jodemos mas asi que no esperes mas de algo que vallamos a crear en un futuro con la capacidad de elejir que hacer.
juan789
"La libertad es poder."
braspit
Todos os habéis quedado en el relato, ninguno en el por qué de la demanda, juicio y sentencia.
Todo iba bien hasta que se descubrió que un muerto era "rico". ¡Ah! Ahí está el quid de la cuestión. Si todos hubieran sido personas normales, las bajas se hubieran asumido por el bien de la "mayoría", pero...
¡Hala, a pensar!
beriev
si,todo muy bonito hasta que el drone decide matar a sus propios soldados por un fallo en el reconocimiento del "enemigo",si mata a unos civiles nos la suda sobretodo si son pobres de algun pais que no nos interesa,pero si son tropas de las nuestras gran drama,ya hemos visto que ha ocurrido recientemente con los coches autonomos que han matado personas o esa inteligencia artificial que se volvio racista y nazi,nos queda mucho por avanzar en la IA,pero bueno si algo falla siempre tendremos a john connor
Zaxxon
¿Qué más da que nuestro cerebro no sea determinista si se encuentra inmerso dentro de una realidad determinista? Lo uno es envuelto y sometido por lo otro.
Sería como encerrar nuestra conciencia dentro de una bola de billar y recibir un tacazo que la pusiera a rebotar por toda la superficie de juego; la mente atrapada dentro de esa bola pensaría ilusoriamente, desde su limitada perspectiva individual, que es libre de escoger por donde rebota, sin embargo, serían el tacazo y las inevitables fuerzas físicas las que habrían predeterminado toda la trayectoria desde el principio, porque las que importan son las reglas y características del billar en el que existen las bolas, no las de la conciencia dentro de ellas.
Zaxxon
Para mucha gente existe una curiosa y recurrente relación entre el azar y la capacidad de predicción, como si el azar se basase en lo que nosotros, simples humanos, podemos llegar a calcular.
Es cierto que el azar es el nombre que le ponemos a aquello que no podemos predecir, pero la realidad no va a ser de una u otra manera dependiendo de lo que unos mamíferos racionales puedan llegar a calcular y anticipar. Si todo está determinado, así será al margen de nuestras capacidades predictivas. Y si todo es libre y verdaderamente aleatorio, así será, igualmente, al margen de nuestras capacidades predictivas.
Lo que está claro es que no poder calcular algo no lo vuelve de naturaleza no determinada, ni libre, ni aleatoria, necesariamente. El universo puede ser perfectamente determinista y estar todo predestinado, que el hecho de no poder calcularlo no va a neutralizar esto.
albertoserranoleon
http://payload354.cargocollective.com/1/15/487630/9385978/oscarweb_670.png
Usuario desactivado
El libre albedrío no es ninguna ilusión, es un estado mental temporal. Y su existencia se puede comprobar de mil formas distintas. ¿Por cada prueba existe una prueba contraria? En absoluto, eso es metafísica (y errónea, además).
El ejemplo del autor, el asesinato pasional de Juan. Lo que Spinoza dijo, de manera acertada, tenía que ver más bien con el caos. Donde falló Spinoza, y donde falla también el autor, es en equiparar causalidades y casualidades.
Puede que una voz le dijera a Juan "mata", como uno le diría a un Sim "métete en la piscina" para quitarle después la escalera. Pero Ockham dice que ni de coña. ¿Te cortas la mano con su navaja, o asumes que Juan hizo lo que hizo porque era libre de hacerlo?
No hace falta que nos andemos con ejemplos, en cualquier caso. Es más importante extraer las consecuencias. Si asumes que el libre albedrío no existe, las consecuencias para el ser humano se reducen a volver a la Edad Media, donde Dios/Destino gobierna con mano de hierro sobre propios a través de extraños. Además, ¿qué peso se le concedería a una gran parte de los valores de nuestra sociedad? La personalidad jurídica, bla, a tomar por saco. La responsabilidad criminal, ídem. La meritocracia ... ¿qué es eso? La competencia? El estado de bienestar? No.
Un filósofo que parte de la base de que el libre albedrío no existe está muy errado. AHORA BIEN:
¿El ser humano está permanentemente en estado de libre albedrío? No. Para mi gusto, pasa una mayor parte del tiempo en ese estado, condicionado por la casualidad de un caos que escapa a nuestra limitada comprensión. Pero a veces obra inspirado.
haroldavid92
Oh Sr santiago, como que me gustan gran parte de sus articulos, el como los llevas y los explicas siendo claro y sin dar demasiadas vueltas, excelente trabajo.
superescalar
Pongamos que aceptamos que "ser libre es poder obrar conforme a lo que estoy determinado", y que "de este modo, podemos juzgar y condenar a cualquier criminal sin que el sistema judicial se venga abajo ¡Es posible justicia sin libertad!", como dice el artículo casi en su final .
Entonces estamos aceptando que podemos condenar a alguien antes de que cometa un delito, simplemente porque sabemos que está programado para cometerlo o para tener tendencia a cometerlo. Porque lo estamos condenando por su programación.
Y por otro lado, si, como también dice el artículo, un condicionante es un atenuante en el ámbito del derecho penal, ¿por qué no lo sería "obrar conforme a lo que estoy determinado"?
El final del artículo no está muy bien resuelto, y ha intentado meter el concepto de libertad así a presión, sin mayor fundamento, y contradiciendo ideas previamente expuestas en el mismo artículo.
justizziero
Creo que, sin mucha información al respecto, cualquiera puede llegar a la conclusión de que una máquina puede llegar a automatizar el aprendizaje como un humano o, incluso mucho mejor que nosotros, porque nosotros estamos limitados por nuestra genética, nuestra capacidad natural, por ejemplo tener 100.000 millones de neuronas, pero un robot podría tener una mayor red neuronal que nosotros y procesar la información mucho más rápido a la vez que gestiona más variables.
Simplemente no nos entra en la cabeza que un robot podría superar nuestra capacidad cognitiva, se nos escapa de nuestra capacidad de comprensión, pero de seguro que ese día puede llegar.
Ejemplo:
¿quien tiene más potencia de cálculo?
El humano más inteligente, que con todos los procesos biológicos necesita comer, dormir, relacionarse con el medio y con otros humanos.
Una máquina, que conectada a un sistema eléctrico, no tiene que dormir porque no sufre de procesos fisiológicos (no padece fatiga) y que su red neuronal puede ser 1 millón de veces superior a la nuestra y utilizar la computación cuántica cuando nosotros usamos procesos fisiológicos más lentos (los pulsos eléctricos entre neuronas) para hacer cálculos?
Creo que está claro y no sé si quiero estar ese día en el que una máquina pueda gobernarnos a todos.
ernestofabianojedazepeda
No me dio ganas de leer el texto es mucho, pero lo poco que lei me intereso es un libro?