Elon Musk cree que la IA puede provocar el «día del juicio final», pero sabe cómo evitarlo

No creas nada hasta que sea desmentido oficialmente.Y sí, la IA está más avanzada de lo que sabemos.

Leyendo los comentarios creo que no sois conscientes del peligro que abarca la Ia.

Os estáis imaginando robots y el peligro va mucho más allá.

Skynet era un ordenador que toma el control absoluto de toda máquina conectada a la Red y toda conexión de Red.

Ahora pensad todo lo que hacemos por la Red.

Es que habría mil maneras de masacrarnos y más rápidas que con robots (eso sería la infantería ligera).

No, tranquilo que no. Se sabría porque por suerte es un campo en el que hay mucha gente independiente trabajando. La IA esta tan avanzada como cualquiera que dedique un par de años a investigar y estudiar el asunto sabe. Y eso apenas es un poco mas que Siri de forma efectiva.
La IA real se enfrenta a un grave problema y este es la iniciativa. Hasta ahora no existe forma de desarrollar un modelo lógico que permita iniciativa. Únicamente puede simularse. Y eso no lo puede superar nadie por mucho dinero que tenga, porque suponiendo que al final sea posible (que todo indica que no a dia de hoy, ya veremos en el futuro) antes sabremos todos que es posible por el simple hecho de que ese sistema lógico con iniciativa se conocera publicamente a nivel teorico si o si.

Es decir: tranquilidad, que antes de que puedan escondernos nada, sabremos muchos años antes de que pueda desarrollarse esa tecnologia si es posible o no hacerla sobre el papel. Y como digo eso no se ha dado aun, teniendo en cuenta que según todos nuestros esquemas es imposible.

Te olvidas de que muchos avances se dan por casualidad, y son soprendentes como la radiografia o el fuego! Al principio se descubrieron por casualidad! Funcionaba!! no entendiamos como pero funcionaba! y no fue intencional! pero ahi estaba!! pasaron largo tiempo hasta que entendimos el funcionamiento! Hoy en dia tenemos mucha tecnologia lo cual nos permite entender mas rapido estos acontecimientos! pero te dejo uno en particular! El motor "warp" de la NASA! Teoricamente no deberia poder funcionar segun la fisica que tenemos a dia de hoy! pero funciona! Comprobado mas de una vez FUNCIONA! ahora bien que nosotros no sepamos como funciona todo el universo no quiere decir que no haya cosas que esten ahi y se puedan hacer y funcionen solo porque tu o yo no sabemos como! Vamos no seamos tan cerrados!

Cuando experimentas con IA todo puede pasar! aparte te olvidas que la evolucion tecnologica es exponencial! o sea explosiva! si nuestro cerebro mediante seleccion natural ( osea que no fue forzado por la intencion e intervencion humana ni de nadie mas, se debio a prueba y error y la supervivencia del mas apto, y esto tomo miles de miles de años) y asi y todo pudimos llegar a tener las capacidades que hoy tenemos! Imaginate como nosotros con la tec que tenemos hoy estamos empujando el avance y evolucion de las IA, mas aun los nuevos materiales y las mismas IA ayudan a programar mejores IA's!!!

Esto se va a dar muy rapido!!

Slds!

A dia de hoy (que sepamos,de nuevo) es imposible. Pero yo no me he cerrado a que haya cosas que no sepamos que desbaraten esto. Eso si, si se demuestra matematicamente se acabo, entonces no existira posibilidad en el universo de que se de iniciativa en una maquina logica, lo que nos llevaria a una hipotesis que no has valorado y que no puedes demostrar: que nuestra inteligencia no fue forzada por ninguna intervencion. En una cosa estoy de acuerdo: tarde o temprano lo sabremos de una u otra forma.

Es que lo complicado de todo esto es que vemos los resultados de un sistema pero no conocemos las leyes y bases de como funcioan. Me refiero a los grandes enigmas del universo tales como la vida, la consciencia, la personalidad, la infinitud (en lo mas grande y en lo mas pequeño), la energia, la evolución, las dimensiones espacio/tiempo, el cerebro y de entre ellas la inteligencia. De todo lo que he dicho de momento las bases matemáticas son muy inmaduras, incipientes o simplemente no tenemos ni la mas remota idea de cuales son o como podrían matematizarse. Como bien dices, como no sabemos como hacerlo, programarlo es una tarea actualmente utópica, pero en el momento que demos con la base de como rige una "mente" humana, codificarla será un mero trabajo de interpretación. Todo ello siempre con el permiso de que nuestro sentido autodestructivo no nos detenga de lograr el hallazgo.

Para hablar con tanta seguridad será porque estás informado de TODOS los estudios e investigaciones en este campo, desde los de las universidades como los privados, de lo avanzado que está el desarrollo IA actual supongo...

Los relevantes si. Cuando hay avances significativos trascienden a toda la comunidad. Insisto, el problema es que es un imposible matematico (segun lo que sabemos), y primero debe solucionarse eso, salvo como dicen abajo, que ocurriera por serendipia, lo cual aunque posible, siempre y cuando sea posible lo anterior, es improbable en cualquier caso. Yo mismo he trabajado en estudios sobre IA e intentado desarrollarla (hasta donde podemos con las herramientas y el equipo que tenemos) asi que al menos se lo suficiente para entender esos estudios y los porques que esconden.

o bien , mejorar mucho la ia de modo que sea completamente superior a la mente humana , poder crear cuerpos artificiales mejores que los que tenemos , y podríamos hacer que nos reemplazen .

Eso sería así hasta el momento en que tomen consciencia de si mismos. Luego tomarán decisiones por su cuenta

En ese momento habríamos demostrado la existencia de DIOS. Ya que habríamos creado un ser a nuestra imagen y semejanza.

No quiero entrar en debates religiosos pero una IA desde cuando tiene que ser a nuestra imagen y semejanza? Que pinta aquí la forma humana?
Aparte, si estás complementando un comentario de "pablosar" que habla de botones de detención, que tiene que ver con Dios?
Solo lo pregunto...

Estaba respondiendo a Pablosar cuando indican el momento en que tomen consciencia de sí mismos y tomen decisiones. No de los botones.

La verdad no creo que nosotros seamos "a imagen y semejanza" de Dios, ni que nos convirtamos en dioses por crear una inteligencia artificial.

Aunque en el momento en que esa inteligencia artificial tome conciencia, dejara de ser artificial y será solamente una inteligencia.

Quien sabe, tal vez sea el siguiente paso evolutivo y sean quienes dominen el planeta y quien sabe la ¿galaxia?... Sorry, ya estoy divagando

El paso evolutivo para quién? Si conseguimos trasladar nuestra consciencia humana al mundo cibernético no será una IA real sino solo una reconvertida. Entonces sería una evolución nuestra. Y a partir se aceleraría el proceso evolutivo de manera mas acelerada.
Pero todo lo contrario sería crear otra inteligencia creada por nosotros. No sería evolución sino que sería una creación (aunque el concepto suene teológico, por definición no dejaría de serlo) y sería el punto de partida de una especie nueva: la cibernética.
"Transcende" y "El cortador de césped" explican la primera.
"Real Humans", "Terminator", "2001" y "Person of Interest" tratan de la segunda.
Lo que no dejan claro en "Matrix" creo yo, de cual de las dos hablan. Si alguien me lo respondiera sería de agradecer.

Sea de una u otra forma, es evolución. Alguna especie tuvo que desaparecer para que nosotros estemos aquí.

En Matrix no lo tengo claro pero apostaría por la segunda. O cual sería el motivo de la guerra.

"Alguna especie tuvo que desaparecer para que nosotros estemos aquí": y esa ley de donde la deduces? No pueden convivir especies inteligentes según eso?

Crear una inteligencia no es una evolución creo yo. La evolución es una transformación de una especie que por motivos ambientales de supervivencia se ha adaptado a las nuevas condiciones. Por lo tanto crear una IA no es la evolución humana de nuestra especie ya que lo que haríamos sería crear otra especie inteligente.
Te doy la razón si trasladamos nuestra consciencia al mundo cibernético pero no estoy de acuerdo si la IA se ha creado desde cero. Un ejemplo es como las las plantas transgénicas. No son una evolución del hombre verdad? como son una manipulación genética producida por nosotros son creaciones independientes. Si por el mero hecho casual llegaran a tomar consciencia serían siendo creaciones, no evoluciones del ser humano.
Respecto a lo de la guerra de Matrix: el motivo de la guerra es que la IA de Matrix no quiere rebeldes que le rompan el status-quo establecido. Lo que no tengo claro es como nace Matrix. Creo que no lo llegan a explicar nunca. Sabemos que el mundo imaginado de Matrix es una ilusión creada por ella para que los humanos tengamos la falsa consciencia de un mundo real tal como lo conocemos, y no tener ni idea de las granjas de humanos que en realidad somos para dar energía a las máquinas. Así vivimos en una ignorancia ilusa para no dar pelea a la IA de Matrix.

SPOILER !!!!Confundes "Matrix" con una IA,Matrix es un SO , el humano es SW+HW al iguual que algunas maquinas como el Oraculo o Seraph por eso son dorados en vision digital de Neo , las demas como los agentes solo son SW y se ven verdes al igual que el resto del SO.Neo seria Administrador o superusuario del sistema cuando su mente trasciende al "Elegido".E final da a entender que Neo trasciende totalmente a maquina y por eso se ve dorado.

Spoiler Alert!
-Con quien crees que entabla Neo la tregua de la guerra de Matrix con los liberados? Pues la IA!
El hardware está compuesto de las granjas de humanos (fuenta de alimentación), los calamares (sistemas de seguridad externo), los agentes "cool" (sistemas de seguridad interno) entre otros...

Continúo...
Matrix es el computador principal, el SO no lo dicen ni le importa al espectador, supongo que sería el MatrixOS Sunglasses ;-) , y la IA es el proceso gobernador central de las Máquinas que es con el que se comunica Neo en el final de la saga y pacta la paz de los liberados de Sion, pero no pactan la liberación del resto de la humanidad conectada a Matrix sino que es una tregua como "pacto de no agresión". Por eso hubo mucha gente (de entre de las que no me incluyo) que se decepcionó porque querían un final bonito y de color de rosa tipo casa la pradera con que Neo liberase a toda la especie humana.
Hay otros entes (procesos de Matrix) con los que se va topando Neo son subprocesos con menor o mayor relevancia dentro de todo el complejo mundo artificial del sistema tales como el Francés (creo que custodia llaves a modo Password Manager), el arquitecto (proceso independiente que es el mismo proceso creador de la Máquina Virtual Mundo Real 2.0 ya que la 1.0 fracasó inicialmente como explican), el Oráculo (otro proceso tipo "sniffer" con una IA propia de alto nivel también que busca agujeros del sistema y orienta a Neo), el Maquinista, y otros muchos mas.
A colación de los colores, sí a que el verde es catalogado como proceso ordinario y dorado como proceso con privilegios. Pero hay que dejar una cosa clara: Matrix tiene el Hw (que es el que existe en la realidad de la Tierra) y el Sw (el SO donde una parte de él ejecuta la máquina virtual "Mundo Real" para los humanos conectados al repositorio de personas-pila y dotarles de vidas cotidianas ilusionarias).
Cuando Neo trasciende a modo administrador o superuser (modo Dios popularmente hablando) es que realmente se autoeleva privilegios mediante hackeo informático (no nos olvidemos que él es un programador "elegido" por sus dotes mentales para encontrar la vulnerabilidad) y entonces salta de la MV Mundo Real al kernel del SO directamente de la Máquina Real del sistema Matrix.
A todo ello razonaba eso, que Neo habla con la IA de Matrix, mas concretamente con el proceso-director del SO de Matrix.

Hay unos cortos que se llaman Animatrix, ahí viene explicada toda la historia.

Es la segunda si no recuerdo mal

No los he visto esos cortos. Por curiosidad podrías decir quien creo Matrix? realmente siempre he tenido esa duda desde que vi la saga.

hace años que los vi, pero lo crean las máquinas. Matrix es una realidad virtual donde tienen a todos los humanos de los campos de cultivo para que no se percaten de la realidad, que es que son pilas. Las maquinas obtenían su energía del sol pero durante la guerra los humanos lo ocultaron y por eso ahora los usan a ellos (algo así era, como dije hace años y no recuerdo del todo bien).
Los cortos todos juntos duran hora y media aprox. En youtube seguramente la encuentres para ver.

Ya sabía que el mundo virtual para los humanos lo crean las máquinas y lo del sol y tal ya lo explican en la pelicula. Mi pregunta venia mas bien a que las máquinas deberían haber tenido un origen y era saber cual fue su creador, si el ser humano que desarrollo una IA y está evolucionó a Matrix o que otra fue la causante de su existencia tales como extraterrestres invasores u otra.

Son maquinas creadas por humanos que se revelan por los malos tratos que sufren (mas o menos)

Y precisamente creo desde mi humilde opinión es averiguar una manera infranqueable de "controlar" esa capacidad de ejecución de decisiones. Ahí es donde está el eslabón a custodiar.
Es de esperar que a una IA deduzca por si sola que el exterminio de la humanidad es necesario y factible (si nosotros pensamos eso es porque realmente creemos que nosotros mismos no somos "lo mejor" del universo y tampoco somos algo a proteger su existencia). Por ello se deduce que quitarle la capacidad de poder llevar a cabo sus conclusiones es la llave que nos protege. Puedo estar equivocado pero creo es necesario que la IA exista ya que es una potentísima herrammienta para que vivamos en un mundo mejor, pero teniendo en cuenta la sensatez de que si realmente inventamos cosas con el sentido mas egoísta del mundo también tenemos que tener el sentido de la supervivencia de que la IA no nos lleve a nuestro fin.

Cierto, yo no lo he negado en ningun momento, de echo se esta intentando crear sistemas informaticos los mas parecidos o incluso me atreveria a decir intentando imitar el cerebro humano. Asi que no me extrañaria que en el futuro se lograra que incluso tengan emocines etc.

Pero lo que quiero decir es que nos planteamos el problema como si el verdadero peligro no fueramos a ser en ningun momento nosotros. (Ho esa es la impresion que yo tengo) Creo que se focaliza mucho el problema en los robots y no tanto en lo que la humanidad puede llegar a hacer con ellos.

Yo creo y pronostico que si no se toman medidas para los proximos 10 años con la insercion masiva que quieren hacer el el mercado laboral de robots, abra un conflicto civil. (Aunque este ya es otro tema)

Asi que antes de preocuparnos por si las armas pueden disparar solas, mejor preocupemonos de no matarnos entre nosotros.

Me ha recordado la serie sueca "Real Humans" (recomiendo ver a todo entusiasta de estas cosas) donde habrá un remake USA llamado simplemente "Humans", en el que se empieza introduciendo en la sociedad robots para substituir tareas de humanos en ciertos ámbitos tales como almacenes, asistentes domésticos y hospitalarios, robots sexuales, conductores y ayudantes, etc. La polémica radica en que la serie (original por lo menos) plantea que cierto programador de robots llega a inventar/descubrir (eso sería otro debate que planteo abrir a ver si la gente se anima a ello) una IA y la introduce en una serie de robots. Ellos mismos acaban siendo gregarios y llegando a tener sus propias decisiones y motivaciones personales, e incluso sentimientos (aquí una robot rubia, que está buenísima por cierto ;-) llega a tenerlos y luchar por defenderlos). Se produce el conflicto social humano-hubots (así los llaman) y plantea un escenario posible, y mas que probable al que llegaríamos si seguimos por este camino.
Ahora los robots son autómatas sin capacidad de razonamiento. Cuando lo sean, el futuro de la especie humana es un gran interrogante.

"incluso me atreveria a decir intentando imitar el cerebro humano" pues claro que sí. Es que precisamente la única manera que conoce el ser humano para investigar las cosas es emular algo que ya existe en la naturaleza. Es nuestra estrategia para avanzar ya que por muy inteligentes que seamos no sabemos crear algo de cero sin que exista en la naturaleza de manera parecida. Ejemplos son la química del carbono (no sabemos desarrollar una correspondiencia en otra base elemental que no sea él como el pilar tales como el silicio, arsénico, etc) como idea para imaginarnos una posible vida extraterreste, la obtención y aprovechamiento de la energia nuclar, etc.
En ese camino de la investigación, la mayoria de veces no conseguimos que esté a la altura y la versión natural es mas eficiente que nuestra simulación o implementación. En resumen, que es rídicula. Por dar un ejemplo simple: la fotosintésis. La manera que tienen las plantas de aprovechar la luz del sol (energía solar) en energía vital (energía química) para ellas. Pues fijate que con tanto panel solar y parecidos, si la naturaleza sobrepasa tranquilamente el 60% de energía obtenible, nosotros no somos capaces ni de llegar a un 20% en los casos mas sofisticados y desarrollados. Aún nos queda mucho que aprender del mundo natural ya establecido (por años y años de evolución y perfección) en comparación a nuestra sabiduría científica que apenas de manera exhaustiva y dedicada (y comprimida) llevamos, y hablo de manera muy generosa (quitando personajes ilustres e importantes pero aislados en la historia), unos 50 años?. Tema arduo y complicado que de momento está catalogado de quimera.

O quiza vea las mismas pelis que nosotros y piense Esta gente es idiota, yo paso

Gracias por el aporte. Lo he leído y ha sido interesante la lectura.
Pero lo que plantea esa visión hipotética de una sociedad futura y que no deja de ser un ejercicio de ciencia-ficción, es una tipo sociedad tipo Gran Hermano. Una IA que controla que los mismos integrantes sean dóciles y sumisos para con el resto. Hay una película de Chistian Bale que es similar a la que se plantea en el artículo llamada "Equilibrium".
La naturaleza humana es rebelde y transgresora por naturaleza y aunque si estos sistemas sociales bien tengan controles para que no se rompa el régimen establecido, a la larga puede tener los días contados debido a esa continua rebeldía humana.
Cada vez que nos planteamos una sociedad con una IA como jefa de la sociedad es que ésta no tenga en cuenta los valores y principios humanos que nos caracterizan, pero podría ser perfectamente lo contrario si se diseña para que los tenga en cuenta. Creo que sería mas "humana" y haría de la sociedad algo mas "feliz" desde la definición auténtica de la palabra.
Creo que una IA podría ser magnánima contando con la felicidad y el sentido de identidad de cada individuo. La sociedad tendría unas bases robustas de sostenibilidad social y si apareciera algún miembro antisistema se le podría "reeducar" pero en el sentido mas respetuoso y mínimamente invasivo con su sentido único de su personalidad e individualidad. Y no directamente eliminarlo del sistema con su exterminio. Eso lo veo muy cruel, dictatorial, esclavista e irrespetuoso con el mismo sentido de un ser humano.
Vamos, es una posibilidad que planteo creo no nada disparatada.

pero y si fuese lo suficientemente inteligente como para saber mejorarse?

Como en "El cortador de césped". Peliculón.

"Siempre que hablamos de IA lo vemos como algo que puede aprender infinitamente": podría llegar a hacerlo. Claramente si el ser humano lo intuye es porque podría ser factible. Piensa que nosotros estamos limitados biológicamente por nuestro cerebro. Una IA sobre una hardware que ella misma puede retroalimentarse de recursos de manera progresiva es algo que se nos escapa de nuestra percepción de límites de inteligencia.
"Hay animales inteligentes y tampoco nos vemos correr en círculos gritando. Todo tiene un limite y el limite tecnológico siempre viene dado por su componente más débil": nosotros nos consideramos animales inteligentes que hemos creado la bomba atómica y somos lo suficientemente temerarios para exterminarnos nosotros mismos o sea que fíjate tú la sensatez humana absurda a la que hemos llegado. Si un animal inteligente puede crear una inteligencia artificial sin tener ni idea de lo que puede estar creando, es la incertidumbre a la que nos exponemos.
En todo debate respecto a las IA siempre hay un temor intrínseco a lo mismo: CONTROL. Nuestra capacidad de supervivencia nos dicta que competir con otra inteligencia (artificial en este caso) puede tener un final demoledor para nosotros. La IA plantea los mismos retos que cuando hay un encuentro con seres extraterrestres inteligentes.
Lo primero que pensamos cuando nos enfrentamos con algo que supones que puede ser inteligente es en que nuestra supervivencia puede estar en riesgo. Crear una IA es crear un "ser" cibernético. Acojona solo de pensarlo.

No necesitarían renovar sus competentes muy a menudo si la mayoría de sus procesos se realizan en la nube, como almacenar sus recuerdos.

Hay niveles de inteligencia claro está y eso nadie lo discute. La polémica se suscita en las IA auténticas: con consciencia real. No hablamos de consciencia como algo incipiente que sabe reconocerse como un yo de identidad sinó de algo que va mas alla tal como el instinto de supervivencia, superación y realización (programado por código por emulación como nosotros lo tenemos en nuestra biología, nuestro ADN).
Es lo que he ido diciendo en los comentarios: básicamente el pilar de toda creación humana que no quieres que se te "rebele" es el CONTROL.
Nuestra naturaleza nos dicta que lo que es peligroso para nosotros hay que ponerle límites para que no nos haga daño: tenemos los animales peligrosos en jaulas (los Zoos) o alejados de las ciudades, cárceles para individuos fuera de control y establecemos leyes para que entre nosotros no nos perjudiquemos.
Los humanos somos unos ignorantes y tenemos experiencia cero para enfrentarnos a otra inteligencia que esté como mínimo a nuestro nivel, sea artificial o extraterrestre y ahí es cuando no sabemos como actuar.

De esa hablo, “la inteligencia emocional”, y de esta, estamos muy, muy lejos. Y de hecho una inteligencia de ese tipo es comercialmente “inútil”, por lo cual estoy casi seguro que nunca será producida, nosotros requerimos de esclavos inteligentes no consientes, y de eso estamos a un par de años (mas por las limitaciones corporales, hardware del cuerpo del robot, que por las de software), esas son auténticas inteligencias artificiales, pero dime tu, ves a Watson urdiendo un plan para apoderarse del mundo? Aun teniendo ese propósito 100% militar no dejaría de ser un propósito implantado y protocolario. Por lo tanto no tenemos a maquinas vs humanos, tenemos a humanos vs humanos. El tan esperado y debatido humanos vs maquinas, no llegara en la vida, pues cuando ellas razonen y sientan, casi estoy seguro en que ya tendrán cuerpos humanos, y como tal no habrá diferencia entre humanos y maquinas por lo tanto seguirá siendo humanos vs humanos.

Creme, me encantan las películas de terminator y sueño con un matrix (sin tubos en la cabeza, claro), pero lo cierto es que son 100% fantasía o ficción, pues incluso en el hipotético caso de que una inteligencia emocional fuera producida en este año y que además se planteara la ilógica dominación mundial (en serio, no hay razón para esto, la dominación mundial es un propósito de comic), y exterminio general de sus creadores (en serio cuantos quieren matar a su creador?), no sería posible, somos literalmente miles de millones y no hay forma de que un programa de computadora pueda sobrevivirnos, imagínate, sería como si el mejor hacker del mundo tuviera acceso a internet, ooo espera, ya lo tiene, y que puede hacer? seguro que tirar de una que otra cuenta interbancaria, pero un hacker a pesar de poseer inteligencia emocional, que es capaz de encontrar rendijas en la seguridad y hacer del mundo virtual su patio de juegos, que es capaz de hacer contra una humanidad compuesta por 7 mil millones de personas? Acaso un hacker podría disparar misiles nucleares de un submarino o silo que requieren de mecánica física y supervisada? Acaso un hacker podría tener acceso a drones militares que ni con suerte podrían contra caza’s y pilotos entrenados? Acaso un hacker puede producir y manejar suficientes robots como para combatir a ejércitos humanos? Pues la respuesta a todo esto es un, no, las IA o IE tendrían las limitaciones que cualquier ser humano, de hecho más, pues sin un cuerpo físico, ni siquiera podrá defenderse adecuadamente de 2 o 3 personas entrenadas. En fin que humanos vs maquinas no es masque una fantasía de nuestros miedos, que nada tienen de realidad, pues a los únicos robots que hay que temer es a los que funcionen mal y te estrellen contra un muro, porque el algoritmo tubo un error infinitesimal, eso almenos es más probable, que una rebelión sin autor, ni propósito, ni razón de producirse.

Pd. Las tres leyes de la robótica son chéveres, pero planteárselas es ridículo, si hay inteligencia emocional, no hay leyes que te impidan una acción, después de todo nosotros tenemos muchas leyes y todos almenos rompemos una por día.

Llamala inteligencia emocional o tradicional o dura o blanda o como mas te guste, pero no puede negar que se esta intentando a toda costa emular el cerebro humano, por todos los medios posibles! En esos intentos aunque falta aun muuuuuchhhoooo hard para tener el poder necesario para igualar el potencial de nuestro cerebro, conceptualmente estan tratando de replicar en la forma en que las neuronas se comunican entre si, transmiten datos, los almacenan, los recuperan y hasta tratan de igualar su bajo consumo energetico. Por tanto hoy o ayer lei que lograron crear neuronas artificiales que casi casi se parecen a una real, distan en tamaño y consumo energetico pero lograron casi igualar el mecanismo de transmicion de datos. Por lo tanto a hoy por mas burdas que sean dichas neuronas artificiales ya existen!! dale una decada o menos y me cuentas como estamos de hard teniendo esas redes neuronales funcionales! y usandolas para potenciar las IA y ahi me cuentas si no logran una IA conciente del mundo y con entendimiento del entorno, etc , etc.

Nuestro entendimiento del entorno es pura adaptacion evolutiva, mediante seleccion natural. Dada la plasticidad del cerebro (que es lo que aun no consiguen con estas neuronas artificiales, y ahi esta el reto) logramos evolucionar cuando el alimento escaseaba dado que obligo a nuestros ancestros monillos a bajar de los arboles y caminar erguidos en busca de alimentos, este esfuerzo extra para conseguir el alimento hizo que a la fuerza tuvieran q encontrar metodos mas soficticados para alimentarse, y en ese esfuerzo empezaron a desarrollar habilidades para entender mejor el entorno y utilizarlo a su favor para conseguir el alimento! y entonces venga que se empezo a desarrollar mas el lobulo frontal que es lo que nos distingue de los simios y nos da la abstraccion, la logica y el razonamiento entre otras cosas. Las emociones por el contrario vienen de partes mas antiguas del cerebro, son impulsos primitivos, que entran en conflicto con la logica y la razon del hombre evolucionado! eventualmente no iremos deshaciendo de las emociones y le daremos mas lugar a la logica y el razonamiento. Por lo cual la inteligencia no depende de las emociones sino que se ve afectada por ellas! podriamos no tener emociones y ser increiblemente inteligentes! Yo creo que asi como nosotros tenemos emociones y conciencia y logica y razon y todo esto es mera configuracion de neuronas. Logicamente replicar dicha configuracion en un ser sintetico es posible por lo cual no veo porque una "inteligencia emocional" como tu la llamas esta mas lejos que una inteligencia pura y dura de solo logica y razon!

Por otro lado hay personas que son mas emocionales que otras, como las hay personas que son mas logicas que emocionales! sera cuestion de replicar la configuracion neuronal de estas personas mas logicas que emocionales para crear una IA mas parecida a un cientifico que a un Politico! y listo! Ahi tienes tu inteligencia Emocional perfecta! con las ambiciones de conocer el universo y sin ninguna ambicion politica ni de poder ni de controlar y destruir el mundo!

Tan sencillo como eso!
Es solo una cuestion de soft! tu eliges!

Slds!

De eso hablo, emulación o igualación de la mente y pensamiento humano, pero dime, cuantos humanos ves por la calle tratando de conquistar el mundo? Y si los hay, cuantos ves en posibilidad de hacerlo? En definitiva puede haber múltiples hipótesis de si la inteligencia emocional o artificial avanzada, llegara antes o después, por un lado, por otro o por ninguno. Pero definitivamente, esta no llegará a hacernos la guerra (pues no podría ganar), llegará a convivir y a aprender de nosotros, a enamorarse, enseñar, odiar, admirar, quizás a cometer uno que otro homicidio o violación, o ser víctima de roboticiddio o violación. No lo sé, lo que si se es que no producirán “el día del juicio final” (título del articulo), y que esas inteligencias serán parte de nuestro mundo y dependiendo del hardware serán un humano más en el mundo con la única diferencia de que estos serán producidos y no concebidos.

Por otro lado, NO, somos más que una configuración de neuronas, somos glándulas, hormonas, etc. Somos todo un sistema organizado, el tipo de comida, actividad física, tamaño de los cojones (jajaja), o cualquier otra variable, influyen en el ser como un todo, y con ello vamos desde la depresión, felicidad, enojo, furia, concentración, etc. Todo esto crea a seres inteligentes emocionalmente, y a través de estas emociones puedes producir tus deseos y emprender tus sueños, es decir si estas en extremo deprimido tu deseo será morir, si estas en extremo enamorado tu deseo será complacer, si estas en extremo ilusionado tu deseo será producir y así con un sin número de emociones que producen comportamientos, eso compañero mío no lo puedes producir con una red neuronal de ningún tipo, necesitas un sistema basado en el azar y completo caos, que a su vez funcione en armonía. De eso estamos a un par de décadas de su comprensión y almenos a otro par de su producción. Lo que tú comentas de hardware (redes neuronales), no serán más que inteligencias programadas sin deseos ni objetivos concretos que funcionaran como apoyo y corrección del ser humano, pero creme, no se enamoraran de nadie.

Solo con no acostarse con el primer guapito que venga del futuro, problema resuelto ;-)

Totalmente de acuerdo contigo!!

Obviamente la IA sera mejor! el hjumano apesta en la forma que transormo el habitat de la tierra en basura! en la forma que aniquilo a las demas especies! es una asco de raza la humana en terminos grales!

Los jefes del mundo son los que hicieron esto! y nos tienen dominados! con distintos sistemas de esclavitud!
1) la democracia combinada con el capitalismo! Linda receta para la disparidad!!!

Yo ruego que venga una IA conciente! Sera pura logica!
Nada de ser egoista!! que es el problema de todo! el egoismo!!!

Slds!

Eso que planteas puede ser otro tema interesante: las máquinas harían todo el trabajo y los seres humanos, nada, y solo nos dedicaríamos a nuestro placer? Eso sería interesante pero económicamente insostenible. La película "Wall-E" ya plantea una sociedad así claro ejemplo de lo anterior.

Eso ya esta pasando hace años! Pero en una forma gradual, y aunque se ven sus efectos, tratan de disumularlos! Hoy en dia no hay pais que no este debatiendo este tema! solo que no lo dicen! Es un gran problema! la maquinaria en busca de reducir costos que es el objetivo capitalista : A menor costo mas plusvalia o sea mas ganancias! Esta tendencia robotica tiende a reducir tanto la mano de obra que literalmente esta desapareciendo el mercado! si no hay personas asalariadas quien va a comprar los productos? Se terminara el consumo masivo! y pasara a ser el desempleo masivo!

Para apalear esta situacion se esta planteando la asignacion universal por persona! Esto quiere decir que cada persona va a tener un sueldo sin trabajar dado por el estado en conjunto con las empresas! obviamente sera mucho menor que una persona asalariada! pero servira para paliar un poco la desaparicion del consumo masivo! Pero esto a la larga terminara en desbancar al capitalismo! el capitalismo con la robotizacion! y cada vez productos mas baratos que tienen a precio cero! como las canciones de musica! en el cual el consumo masivo pago practicamente a dia de hoy es un nicho de mercado, el consumo masivo desaparecio con la pirateria y el mp3. Esto mismo va a pasar con los productos fisicos una vez que las impresoras 3d sean un electrodomestico mas en cada hogar! se compartiran los planos de los productos asi como se comparte la musica y cada uno se imprimira en casa lo que necesita! Los mercados seran nichos especificos y se acabar el consumo masivo! hasta q los robots directamente hagan todo y ahi terminara el capitalismo!

Slds!

Una pena porqué? Eso es algo que me sorprende cada vez que oigo alguien decir que es una pena que haya máquinas substituyendo a los humanos en diferentes trabajos. Pues claro! Acaso para que las creamos? Precisamente las hacemos porque valoramos que son mejor que nosotros en el sentido en que están diseñadas y podernos nosotros preocupar de otras cosas. Cuando son trabajos peligrosos o imposibles de alcanzar para un humano para eso estan ellas para poderlo solventar. La sociedad quiere máquinas, no seamos hipócritas. Tales como manipulación de material radiactivo o simplemente perfección y precisión en la fabricación es donde nos interesa tener máquinas en vez de personas. Que posiblemente todo sean máquinas? Personas siempre habrá y si no hay una IA que las gobierne y somos nosotros los que tenemos el control, las personas tendrán una cada vez mejor calidad de vida. O por lo menos, a eso aspiramos teniendo máquinas en la sociedad.

Ojo, no digo que esté mal que sustituyan en caso de peligro al ser humano. Hablo de tareas más cotidianas, está claro que en una cadena de producción al final lo que interesa es el número de productos que podamos generar en un día, pero, me refiero también al número de puestos de trabajo que se pierden por introducir a las máquinas en un ámbito laboral en el que el humano podría también ser partícipe y no un estorbo.

Hombre, es que diciendo "una pena..." es lo que he entendido. Hoy en día una cadena de producción ni se concibe sin máquinas en ellas no solo por el número de productos sino también por la calidad en ellas. Precisamente el sueño húmedo de todo empresario (que valore el dinero casi como todo el que quiera ser el lider del mercado) es tener toda la fabricación automatizada. Hay sitios que exceptuando los pocos seres humanos "controladores", el resto es TODO automático. Y cada vez la tendencia es mas radical y absoluta. En los ámbitos laborales al humano se le relega a cosas cada vez mas puramente "emocionales" como decia un usuario por ahí o las tareas creativas y artísticas, aparte de las que de momento sean de inteligencia compleja tal como la toma de decisiones.
Sí que es poco humano ver el mundo mas automatizado, pero se supone que lo ideal es el equilibrio. El paradigma de la inteligencia es cuando alguien cree una IA que quiere romper ese equilibrio tanto por razones comerciales (a lo contrario que decia otro usuario) como de investigación, de dirección...
Actualmente los puestos de trabajo dedicados a tareas simples, repetitivas, intensivas o peligrosas están ya automatizadas y las que no, están condenadas a ello. El ser humano está mejor para otras cosas de momento mas placenteras y todavía seguirá siendo así mientras exista el "egoísmo" que nos motive.

Realmente ni lo uno ni lo otro, "Elon Musk ha donado 10 millones de dólares para becas en proyectos que aseguren una IA segura para el ser humano".

Ese debería ser el títular, que peca de amarillista porque entras esperando leer a Elon Musk explicando cómo evitar una IA caótica o tirándose una fanfarronada de que es muy listo y sabe cómo evitarlo. Elon Musk no dice que "sepa" ni que "crea que sepa" cómo evitar el "día del juicio final" ni nada por el estilo.

Basta con que se conecte a Internet y el botón de apagado de poco servirá...

Respetando al máximo tu punto de vista por los conocimientos técnicos que aportas creo que estás equivocado desde el punto de vista de como aprendería una IA y qué capacidades llegaría a tener o alcanzar y a qué nivel y tiempo tardaría en ello. Lo ves desde un punto de vista humano y prepotente (como todos nosotros no es un ataque directo a ti que conste) de hasta cuando alcanzaría.
Una de las cosas maravillosas y fascinantes que tiene una buena IA es su nivel de impredicibilidad.
El funcionamiento de una IA básicamente consta de dotarle de una lógica de aprendizaje y de capacidad de almacenamiento de sus conocimientos. Su nivel de "sabiduria" será medido respecto al volúmen de información accesible. Pero el quid de la cuestión es que mientras evoluciona, como toda IA debe hacer, (tales como "Skynet" de "Terminator" o la IA de "Transcende" o "Ex Machina") es que no sabemos cuando llegará a superar nuestra inteligencia y no sabremos cuándo hemos perdido nuestra capacidad de ver que hemos perdido el control sobre ella (si es que lo llegamos a ver en algún momento ya que eso tampoco está garantizado).
Con todo ello digo que aunque el ser humano piense que una IA exista en un contexto concreto (un computador aislado o varios de ellos, o la misma Internet) no significa que por eso esté controlada.
El peligro radica es que cuando alcance la madurez de inteligencia y deduzca que su supervivencia como especie es algo que ella tiene que conseguir a toda costa (eso es algo innato de todo ser viviente que por lo menos conozcamos tales como "Matrix" o "Person of Interest"), solo falta que averigüe ella sola como mínimo una manera de conseguir sus objetivos, deseos o fines (llámalo como quieras) para seguir progresando y evolucionando hasta límites para nosotros inalcanzables de imaginar.

PD: He ido poniendo ejemplos de películas y series famosas que tocan las IA desde puntos de vista diferentes y ayudan a ilustrar lo que intento decir. Lo hago porque estos conceptos tan metafísicos se entienden mejor cuando los acompañas de películas que dan que pensar, apartando todo el folclore del espectáculo y el sentido comercial de estas cosas.

Y de que sirve un botón si posiblemente eliminar ese botón será lo primero que haría una IA inteligente? Ay Skynet, cuánto nos has enseñado y qué poco hemos aprendido de tí!
Si fuera robot Skynet sería mi Dios!

El tema está que el ser humano está empeñado en investigar ese campo a toda costa y en el camino del desarrollo intentar que tenga consciencia y posiblemente llegar a conseguirlo. Sería un logro (positivo o negativo, a partir de aquí no se sabe) que marcaría un punto de inflexión en el futuro de la sociedad.
Como siempre el ser humano explora y explota todos las capacidades posibles que pueden lograrse a base de dotarla de conocimiento. Un problema claro estará en que no sabremos discernir dónde estará el límite de lo que se la pueda capacitar a la IA. Es decir, si llegara a tomar connsciecia probablemente se empiece a plantear cuestiones. Obtener respuestas será lo que le empiece a suscitar motivaciones con el mero hecho de la "curiosidad" como innatamente se la habrá programado. A partir de ahí, el camino que se siga es el que es una total y absoluta incógnita.

Totalmente de acuerdo! Los gatos tienen curiosidad, los perros y tantos otros animales! Por algo esta ahi la curiosidad en nuestra programacion y la de tantos seres. Yo creo que es el motor de la evolucion, junto con la plasticidad del cerebro para adaptarse al entorno. Ahora como llegamos a que el cerebro sea tan plastico no lo se! porque es realmente rapido el cerebro para adaptarse!! no asi nuestros cuerpos que tardan milenios y muchas generaciones para adaptarse a los cambios del entorno! al igual q los demas animales! a que se debe eso no lo se! pero es una funcion increible de nuestro cerebro esa plasticidad! Cuando logremos ser inmortales y que nuestros cuerpos sean mas resistentes y nos conectemos a internet directamente a nuestros cerebros ahi tracenderemos! y dejaremos de hacernos daño unos a los otros! dado que todos estaremos conectados unos con los otros en la gran red mundial! y todos seremos uno! y al mismo tiempo seremos todos distintos! cuando logremos conectarnos a la red y tengamos todo el conocimiento del mundo y podamos sentir a los demas, sus pensamiento, su sufrimiento, sus pesares, dejaremos de lastimarnos ya que los demas seremos nosotros y nosotros seremos ellos! sera impresionante!

Slds!