Los empleados de Google no quieren que su empresa colabore con el Pentágono de Estados Unidos perfeccionando la inteligencia artificial de sus sistemas. En una carta abierta publicada al completo por medios como el New York Times, cerca de 3.100 empleados firman para dirigirse directamente a Sundar Pichai pidiéndole que deje de colaborar en el Project Maven.
Se trata de un programa del pentágono en el que Google es una de las empresas colaboradoras, y en el que se busca utilizar la inteligencia articial para interpretar imágenes de vídeo. Esto, por mucho que Google está intentando quitarle hierro al asunto, tiene el potencial para ayudar a mejorar la orientación de los ataques por drones mejorando así su eficacia.
"Creemos que Google no debería estar en el negocio de la guerra", dicen al principio de la carta abierta. "Por lo tanto, pedimos que se cancele el Proyecto Maven y que Google redacte, publique y aplique una política clara que establezca que ni Google ni sus contratistas construirán nunca una tecnología de guerra".
Carta abierta de los empleados de Google
Google tiene una política interna en la que alenta a sus empleados a hablar sobre cualquier tema relacionado con la empresa, y al final sólo se trata de 3.100 empleados de los 70.000 que tiene en todo el mundo. Sin embargo, la carta es una demostración de que algunos empleados de la empresa están preocupados por algunas de sus decisiones, y en ella recuerdan que el lema de la empresa siempre ha sido "Don’t Be Evil", no seas malvado.
En declaraciones a los medios, el propio Pichai ha hablado de este asunto diciendo que cualquier uso militar del machine learning plantea preocupaciones válidas. También ha asegurado que la participación de Google dentro del proyecto del Pentágono está enfocada únicamente a los fines no ofensivos de la tecnología. Sin embargo, eso no es suficiente para calmar la preocupación de los empleados.
"Este plan dañará irreparablemente la marca de Google y su capacidad para competir por el talento", aseguran. "En medio de los crecientes temores de la IA en armas, Google ya está luchando por mantener la confianza del público".
Además, los empleados de Google aseguran en la carta que no se puede externalizar la responsabilidad moral de sus tecnologías a terceros. Por eso, además de pedirle a Sundar Pichai que cancele el proyecto, también le piden que "redacte, publicite y haga cumplir una política clara que establezca que ni Google ni sus contratistas construirán nunca tecnología de guerra".
Qué es exactamente Project Maven
El Departamento de Defensa de los Estados Unidos obtiene cada año gran cantidad de datos, incluyendo millones de horas de vídeo casi imposible de procesar por sus trabajadores humanos. Es por eso que el verano pasado anunciaron la puesta en marcha de Project Maven, un proyecto para utilizar inteligencia artificial y machine learning para procesar todos los datos que obtienen.
Project Maven se centra en la visión por ordenador o computer vision, un aspecto del machine learning y el deep learning con el que quieren poder extraer objetos de interés de forma automática a partir de imágenes fijas o en movimiento. Esto quiere decir que una inteligencia artificial analizará los vídeos y fotos, y que detectará automáticamente cualquier elemento que se le haya entrenado para calificar como relevante.
Hace unas semanas Gizmodo desveló que Google estaba involucrado en el proyecto, lo que estaba sembrando el malestar entre sus empleados, lo cual ha acabado materializándose en la carta abierta de la que hablamos hoy.
Ante la queja de sus usuarios, hemos visto que Google se ha defendido asegurando que su participación es para fines no ofensivos. Sin embargo esa versión se topa de frente con la del propio Pentágono, que en su descripción del proyecto aseguran que están "en la carrera de las armas con IA".
No se seleccionan objetivos, pero...
Es verdad que el documento gubernamental también dice que de momento el proyecto no está enfocado a seleccionar objetivos, sino para ayudar a los operadores humanos. Sin embargo, seleccionar esos objetivos muy probablemente lleve en algunos casos a ejecutar ataques aereos contra ellos, por lo que aunque la finalidad de la tecnología de Google no sea la de matar personas sí que puede ayudar a hacerlo.
A todo este caso hay que añadirle que Google de momento no ha mostrado públicamente su contrato con el gobierno estadounidense, por lo que no tampoco hay manera de saber si dicen la verdad o si el lenguaje de este esconde un tono más bélico. Las sospechas también se ven incrementadas porque, tal y como ha apuntado el New York Times, Eric Schmidt de Alphabet es uno de los consejeros de su Junta de Innovación de Defensa, de la misma manera que el vice presidente de Google Milo Medin.
En cualquier caso, tampoco se puede decir que este sea un dilema ético exclusivo de Google, ya que empresas como Microsoft y Amazon también han anunciado en el pasado que tienen contratos gubernamentales para sus tecnologías de reconocimiento facial y procesado de documentos clasificados respectivamente.
Imagen | TopRank Marketing
En Xataka | He mirado todos los datos que Google tiene sobre mí, y confirmo que es el Gran Hermano definitivo
Ver 52 comentarios
52 comentarios
sr.lobo.
Los drones ya existen, los bombardeos ya existen... No acabo de ver el problema en que la inteligencia artificial ayude a que el blanco sea selectivo , aumente su precisión y eficiencia y cause un menor daño colateral.
Me parece que las críticas vienen de los mundos de Yuppi donde llueve Coca Cola y flores...
Prefiero mil veces un asesinato selectivo y precio a pasear a medio vecindario como acaba de pasar en Siria.
Usuario desactivado
Esto no puede ser cierto, una empresa con toboganes y bicicletas de colores, filantropica, cuyo fin es el bien comun jamas haria esto, de ninguna de las maneras
Usuario desactivado
Tanto peca el que mata la vaca como el que le agarra la pata
Usuario desactivado
Don't be evil
sarpullido
Algunos con la mente demasiado simple todavia piensan en el "bien" y el "mal", y lo que es peor..., el "bueno" y el "malo"..., en realidad todo son intereses enfrentados..., todos competimos, todos seriamos capaces que hacer alguna barbaridad si nuestra vida o la vida de una persona amada esta en riesgo...
Lamentablemente la violencia y por tanto la guerra es un instrumento mas..., asi que los colorines y los sloganes quedan rapidamente en un segundo plano cuando de lo que se trata es de DINERO y PODER.
No seais ingenuos..., esto sigue siendo la selva..., nunca dejo de serlo.
albertitoito
Menudos hipócritas. El resto de prácticas de Google (donde ellos trabajan y se ganan sus buenos sueldos) no son malas, pero esto sí. Claro, claro...
jaimejames
Si no estoy equivocado, tecnicamente internet fue creado por el pentagono.
WhiteLion
Me parece hipocresia pura y dura, esta gente sabe que grandisima parte de los avances tecnologicos en aparatos que usan en su dia a dia se dieron durante periodos de guerra? Han dejado de usarlos por eso? Han dejado de utilizar medicamentos que fueron desarrollados basandose en resultados de experimentacion humana con prisioneros durante guerras? Han dejado de usar cuchillos porque con ellos tambien se puede matar gente?
ricardorojas
los mejores avances tecnológicos an venido siempre de mano con la guerra, se quiera o no, los primeros prototipos de las mismas son diseñados exclusivamente para la carrera armamentística, pero terminan evolucionando y siendo utilizado en otras ramificaciones que terminan dándoles una nueva vida, y no es que sea pro-guerra ni nada por el estilo, pero solo digo que si esta misma jugada se hubiera hecho años atrás, y los hubieran frenado, no tendríamos por ejemplo, el Internet. toda nueva tecnología puede ser un arma, pero también puede ser un avance significativo para la humanidad, no condenes sus posibilidades solo por tenerle miedo a sus efectos colaterales.
Usuario desactivado
Desde mi punto de vista, fabricar tenedores también es colaborar con la industria bélica porque se pueden usar para sacarle los ojos al vecino.
Quizás el reconocimiento de use para encontrar al objetivo y no dañar a personas inocentes a su alrededor.
Además, si no lo hace Google lo hará cualquier otro.
Lo que hay que acabar es con el origen de las guerras, porque de nada sirve limitar las armas si nos vamos a seguir odiando unos a otros.
Moderno funcionata
El progreterismo y la corrección política bien entendida consiste prohibir taxativamente todo lo que no sea izquierdoso, lo que no sea ideología de género, lo que no sea super-Obama, lo que no sean "filantrópicas" ONGs, lo que no sea ingeniería social, lo que no sea paternalismo social, lo que no sea pacifismo de boquilla, lo que no sea ecologismo sectario y, especialmente, todo lo que huela a libertad personal... en los demás, claro.
O sea, que su lema es "vive tú y no dejes vivir a nadie".
¡Qué jartibles son!
danielmendez1
Si supieran que las computadoras y todas las tecnologias que tenemos ahora se desarrollaron gracias a las guerras...
Maluma
Otro problema de este asunto es que un gobierno no le va a "pedir amistosamente" a una empresa como Google que ayude al ejército. Es que los días de la empresa estarán contados si se niegan a ayudar.
zakatolapan
Yo sí estoy de acuerdo. Pienso que la guerra del futuro será de máquina contra máquina.
Usuario desactivado
Menuda tontería.
1º. Toda tecnología de la información puede ser aprovechada en un conflicto. ¿Qué diferencia hay entre ser capaz de boicotear la producción energética de todo un país, y poder lanzar bombas muy precisas?
2º. Google desarrolla una tecnología que el Pentágono puede quitarle si lo desea, porque recuerden, queridos empleados: EL ESTADO SOY YO no es un chiste del amigo Luis XIV. Lo que quiere decir es que el Poder hace lo que quiere con sus súbditos. Así que no sean ilusos: de momento, el Poder no tiene inconveniente en pagar a los brillantes científicos que colaboren.
3º. ¿Se han planteado que todas las investigaciones en IA son igualmente peligrosas? El día que alcancemos de verdad esa súper ia que nadie más que Google quiere alcanzar nos enfrentamos a problemas muchísimo más serios que los que a ustedes parecen preocuparles al respecto del Proyecto Maven.
orco_red
El incio de Skynet jaja, quién diablos es tan tonto como para desarrollar una IA para la guerra
netoleo
estos que firmaron no se enteraron que paso con las torres gemelas ? en donde viven ? o si mueren sus familiares en un atentado seguro culpan al gobierno de no hacer nada ?
sicalipo
Dice mucho de una especie inteligente que lo primero en lo que piensa sea: ¿Cómo mato con esto? Lo segundo: ¿Como me hago rico con esto? Y lo tercero ¿Como se la meto a esto?
Si ya en las dictaduras del siglo XX resultaban tremendamente eficaces unos centenares de asesinos obedientes patrullando las calles para asesinar a los detractores de esos tiranos, imagínate las cacerías que harían con una tecnología infalible de detección y eliminación del enemigo. Imagina al amigo Franco con ese poder. Y no hay que imaginar mucho, que la derecha está muy calentita en Europa.
pcaballero
Para cualquiera que siga las actividades criminales del ICE en los estados del sur de US, esto tiene implicaciones morales muy claras.
No se trata de si se van a usar drones para bombardear terroristas, sino de que se van a usar para saber cuando un niño sale solo a la escuela para detenerlo, y usarlo como cebo para atrapar a sus padres, si están en situación irregular en suelo estadounidense.
O para seguir a un empresario chino o europeo y hacer espionaje industrial.
Recordemos que en US el ejército no es el brazo armado de la nación, sino de sus grandes industrias y lobbies.