A medida que avanzamos en la creación de inteligencias artificiales cada vez más perfectas, rápidas y certeras; a medida que dejan de ser solo líneas de código y van ganando profundidad emocional y calidad humana; a medida que son capaces de sentir mejor, de pensar mejor y van asumiendo partes cada vez más significativas de nuestra vida diaria: hay preguntas que antes podrían parece absurdas pero que, de repente, se vuelven relevantes.
Por ejemplo, ésta. Hoy por hoy, hace centenares de inteligencias artificiales estudiándonos y aprendiendo de nosotros. ¿Y si llega el momento en que se nos parezcan demasiado? ¿Podría una inteligencia artificial (o un robot) sufrir una enfermedad mental?
Un tema que quizá no sea de ciencia ficción
Como de costumbre esta no es una posibilidad genuinamente nueva. La idea de inteligencias artificiales que se vuelven disfuncionales e incluso peligrosas puebla la ciencia ficción: desde HAL 9000 al Santa Claus de Futurama. No obstante, salvo por el trabajo de Susan Calvin, una de las primeras robotpsicólogas de la historia, ni siquiera la literatura ha explorado en profundidad los escenarios en que esto podría ser un problema.
Y podría serlo. ¿Imagináis una inteligencia artificial a cargo del control aéreo de un aeropuerto que sufriera alucinaciones? ¿Un coche autónomo con problemas de la ira? ¿O un robot quirúrgico con ataques de ansiedad? Reconozco que formular estas preguntas en voz alta resulta algo ridículo, pero ¿y si no lo fuera? ¿No deberíamos trabajar desde ya sobre esta inquietante posibilidad?
La salud mental de las mentes artificiales
Hutan Ashrafian, de hecho, no solo cree que no es ridículo en absoluto, sino que deberíamos pensar en ello seriamente. Ashrafian es cirujano y profesor de medicina en el Imperial College London. Pero, sobre todo, es conocido por ser uno de los defensores más conocidos de la ampliación de los derechos humanos a las inteligencias artificiales. Una causa de la que ya os hablábamos hace una década y que, en nuestro país, cuenta también con simpatizantes como Helena Matute, catedrática de Deusto.
Para el profesor Ashrafian la pregunta central es si la enfermedad mental es algo que está ligado a las capacidades cognitivas y emocionales del ser humano o no. De ser así, "a medida que las inteligencias artificiales se parecen más a nosotros, a medida que aprenden de nosotros podrían desarrollar problemas parecidos a los nuestros". Hay que reconocerle que, por ridículo que pueda sonar, el argumento es tremendo.
Sabemos tan poco de las inteligencias artificiales realmente avanzadas como de la salud mental y ese es el problema
También es posible que las enfermedades mentales, los problemas cognitivos y los trastornos psicológicos sean 'bugs evolutivos', por llamarlos de alguna manera; es decir, 'fallos' de diseño que venimos arrastrando evolutivamente y que son susceptibles de depurarse.
El problema, como señala el mismo Ashrafian, es que aún estamos en las puertas de la verdadera revolución de las IAs, por un lado; y que sabemos muy poco de la salud y la enfermedad mental, por el otro. Es decir, nos dirigimos a lo desconocido. Y aunque eso mismo es la promesa de que vamos a poder aprender mucho sobre ambas cosas, también debe hacernos reflexionar sobre los riesgos que se plantean. Riesgos que van más allá de los que nos suelen precupar cuando pensamos en mentes artificiales.
En Xataka | Éticas de silicio: las tres leyes de la robótica en la era de los robots asesinos y La gente que ama a los robots y quiere defender sus derechos
Ver 16 comentarios
16 comentarios
pedroafonso
¿Soy el único al que le parece raro que el artículo hable sobre inteligencia artificial pero que la primera imagen sea sobre los daleks?
sathwan
actualización OTA y arreglado!!
exnhe
¿¡Eh!? ¿En serio? Diganme como pretenden "curar" estás "enfermedades mentales" ¿les darán terapia a las IA's? ¿O por código?
whisper5
Hay una cosa en la que estoy en desacuerdo y otra en la que estoy de acuerdo:
1) Lo que llamamos inteligencia artificial ni es perfecta, ni rápida, ni certera, porque realmente no es tal. Es tanta la diferencia entre la inteligencia natural y artificial que se tuvo que acuñar un nuevo término para la inteligencia semejante a la humana: inteligencia artificial general. La otra, la que está día sí y día también en las noticias, considero que más que inteligencia artificial se podría llamar computación avanzada (algunos la llaman inteligencia artificial estrecha). Lo cierto es que mientras los descubrimientos en neurobiología avanzan día a día, los desarrollos en la llamada inteligencia artificial están anclados en ideas del siglo XX con potencia computacional del siglo XXI, y simplemente por eso, mejores ordenadores, ofrecen algunos resultados.
2) Es cierto que cuando creemos inteligencia artificial general habremos de haber considerado profundamente el mundo de los sentimientos y la psicología. Los actuales desarrollos en inteligencia artificial se centran mayormente en capacidades intelectuales y cognitivas dejando aparte el mundo de las emociones y los sentimientos. La mejor película que refleja esto es española y se titula 'Eva'. Es del año 2011 y fue dirigida por Kike Maíllo. Es una película de ciencia ficción en la que se trata el desarrollo de inteligencia artificial en un guión en el que, tanto en la vida real como en la artificial, se pone de relieve que las emociones y sentimientos son el ingrediente esencial para los seres humanos y artificiales, y además deben estar perfectamente coordinados y controlados por la parte racional. La película ya deja claro que no es tarea fácil, ni en el mundo real ni en el artificial. ¡Excelente película!
Hatebreeder 117
Pues llevo jugando toda la saga de Halo y en el 5 Cortana ya no esta muy bien que digamos.
diego111
Si se entiende inteligencia artificial, como una máquina construida por humanos y que piensa como nosotros, pues efectivamente es posible, nosotros mismos somos la prueba de que la inteligencia humana enloquece.
vrash
Falta todavía un rato para que una IA pueda estar al nivel de razonamiento que tenemos y se ve difícil que se pueda conseguir con las implementaciones actuales, tocará diseñar nuevos métodos. Suponiendo que esto avanza de forma importante en algún momento, más que empezar a diseñar algo "más parecido a nosotros" apuntaría a un camino diferente, uno en el que puedas no sólo preservar las cualidades que tiene nuestro cerebro, sino mejorarlas y reducir lo más que se pueda las deficiencias, no por nada es algo artificial. Aún así van a existir fallos, más que necesarios para que las implementaciones puedan mejorar, pero a mi me parece más correcto verlos cómo bugs que cómo "enfermedades mentales" propiamente dichas.
obijuancojones
Esta muy lejos la tecnologia actual de llegar al punto en el que maquinas o sistemas puedan emular de forma siquiera rudimentaria a la mente humana (con todo lo que conlleva conseguir cosas como emociones genuinas o la aleatoriedad de nuestras motivaciones mas profundas), las mejores tecnicas actuales por ahora son las de aprendizaje automatico y aprendizaje profundo que no van mas alla de utilizar modelos matematicos basados en la estadistica y algoritmos computacionales como lo son las redes neuronales o uno que otro "truco" elegante como la distribucion gaussiana o el simple calculo diferencial (por dar unos pocos ejemplos), puedo decirles que por el momento nuestros sistemas de IA actuales no son mas que mulas diseñadas para devorar cantidades masivas de informacion y obtener alguna prediccion, clasificacion etc por medio de ciertas tecnicas, algunas ingeniosas y "sencillas" como el agrupamiento por nucleos k y otras con una intuicion matematica bastante compleja como la retropropagacion para RNAs, todavia se esta a quiza siglos de desarrollar o siquiera descubrir los algoritmos capaces de darle esa capa de profundidad tan pero tan compleja a un sistema inteligente.
Enfermedades de indole psiquiatrica en nuestro smartphone por lo pronto no, uno que otro bug o error de prediccion de los de siempre seguro que si, pues hasta los mejores sistemas de machine learning tienen que lidiar incluso hoy en dia con sus propias defiencias (la tendencia natural de los datos tanto a la varianza como a la parcialidad).
Saludo
Usuario desactivado
Bueno, habiendo leído el artículo y los comentarios, creo que la inteligencia artificial ya ha superado a la inteligencia humana, todo depende con que tipo de individuo humano la compares.
kirabm
bueno, si nos atacan daleks con sus desatascadores almenos podremos aprovechar los dias de estreñimiento, ademas que podria informarse un poco el autor y en vez de poner daleks poner almenos cybermans que eran cyborgs y no seres amorfos dentro de un armazon de metal como en independece day