Sistemas predictivos: cuando tu jefe se convierte en un algoritmo

En los últimos años estamos viviendo una gran explosión de aplicaciones y servicios que giran alrededor del big data y los sistemas predictivos. Estamos rodeados de sistemas que, apoyándose en algoritmos, son capaces de procesar grandes volúmenes de información, aprender y funcionar de manera autónoma hasta el punto de realizar predicciones o, directamente, indicarnos qué tenemos que hacer ante determinada situación.

Si pensamos en cosas sencillas, nuestro coche ya nos indica cuándo debemos revisar la presión de nuestros neumáticos o debemos realizar un cambio del aceite del motor; si pensamos en entornos mucho más complejos, hay algoritmos que son capaces de predecir el crimen de una ciudad y, por ejemplo, indicarle a la policía cómo organizar las rutas de sus coches patrulla.

Algoritmos, modelos matemáticos y big data

El primer paso para desarrollar un sistema de estas características es diseñar un modelo matemático que represente, mediante fórmulas, el comportamiento de sistemas complejos ante situaciones que no siempre son fáciles de observar en la realidad.

Para diseñar el modelo, principalmente, vamos a necesitar datos históricos que nos permitan construir las relaciones entre variables y procesos y, llegados a este punto, entra el juego el big data para procesar los datos, aplicar el modelo matemático y, de esta forma, "predecir al futuro".

Vivimos en un entorno en el que tenemos acceso a cantidades ingentes de datos de múltiples fuentes, datos que podemos procesar y que nos permiten encontrar patrones con los que realizar predicciones de lo más variado: detección de "zonas calientes" en las que hay mayor probabilidad de ataque en situaciones de guerra, la planificación de rutas de autobús, adivinar cuándo se producirá un tsunami, valorar qué libro será un bestseller o, incluso, llegar a plantear si una startup es una empresa susceptible de ser invertida.

Cuando un algoritmo se convierte en nuestro jefe

Queda claro que los sistemas predictivos están cada vez más presentes en nuestro entorno como un instrumento que nos puede ayudar a decidir o, incluso, a decirnos lo que tenemos que hacer.

¿Estamos trabajando para algoritmos sin darnos cuenta? ¿Llegará el día que sustituyamos a nuestro jefe por un sistema que nos indique lo que tenemos que hacer? Para responder a estas preguntas, hemos estado hablando con algunos expertos en la materia.

Por un lado, con Pedro Carrillo, CEO de ec2ce, una startup que desarrolla sistemas predictivos para su aplicación en el sector agrícola y conocer con antelación la propagación de las plagas que le afecten a una cosecha, con lo que el agricultor puede planificar con anticipación la puesta en mercado de su producción o las aplicaciones fitosanitarias para controlar el riesgo de las plagas.

Por otro lado, para conocer las implicaciones de estos sistemas en la toma de decisiones, hemos hablado con el Doctor Umberto León, profesor de Innovación Tecnológica en Psicología Clínica del Departamento de Ciencias de la Salud de la Universidad de Monterrey (México) y socio fundador de una startup que aplicaba algoritmos para la predicción de patologías neurológicas.

Pedro Carillo, CEO de ec2ce, nos comentaba que la tecnología de su sistema de predicción se basa en algoritmos de inteligencia artificial y redes neuronales:

Nuestros algoritmos son diseñados, entrenados y puestos en producción a partir de los datos recogidos en las explotaciones agrícolas (datos meteorológicos, afecciones de plagas, producción del cultivo, etc). De hecho, el modelo desarrollado se puede aplicar a otras zonas agrícolas de similares características aunque no existan datos.

Pensando en redes neuronales y, por tanto, la emulación del comportamiento de nuestro cerebro, el Doctor Umberto León nos planteaba que nuestro cerebro sigue principios de funcionamiento similares a los de un algoritmo; sin embargo, la diferencia fundamental se encuentra en la intencionalidad:

Preguntarnos si vamos a trabajar para algoritmos de inteligencia artificial es dotar a estos algoritmos de cierta intencionalidad. De momento se supone que no tienen intencionalidad, aunque hay ciertas teorías psico-biológicas que indican que la intención o la conciencia es una propiedad emergente de sistemas complejos multiconectados y quién sabe si esta tecnología no ha llegado o estemos cerca de llegar ya a un punto crítico donde la intencionalidad o la conciencia aparezcan por sí solas...

¿Entonces? ¿Podemos delegar en un sistema predicitivo la toma de decisiones? ¿Es un algoritmo capaz de indicarnos lo que debemos hacer o existe cierto margen de error? Pedro Carrillo de ec2ce nos comentó que se podían vislumbrar dos visiones; una a corto plazo, en la que estos sistemas nos sirven de apoyo a la toma de decisiones y otra, a medio-largo plazo, en la que podrán funcionar de manera automática:

Nosotros, desde ec2ce, ofrecemos un sistema predictivo que ayuda al agricultor a tomar decisiones. Sin embargo, creemos que el futuro de estos sistemas, y hacia donde estamos orientando nuestra estrategia, es poder generar un sistema automático de toma de decisiones que, además, elabore recomendaciones de actuación y las aplique automáticamente si fuese posible.

Nuria Oliver, directora científica de Telefónica, también planteaba no hace mucho una situación similar a la de Pedro Carrillo; es decir, la posibilidad de delegar a algoritmos la toma de decisiones si el impacto de la decisión y la complejidad de la misma eran asumibles:

Llegará el caso en que los programas tomen las decisiones porque sean cosas que pueden automatizase

¿Y cuál será el futuro? ¿Acabaremos trabajando para algoritmos o tendremos capacidad de intervenir en el proceso de toma de decisiones? El Doctor Umberto León considera que el factor humano seguirá teniendo un gran peso en la toma de decisiones puesto que un sistema carece de intuición o la capacidad de manejar incertidumbre:

¿Serán capaces estos sistemas de tener intuiciones como las tenemos nosotros? ¿Serán capaces de cuantificar el azar y la intuición que dependen de micromomentos que solo el cerebro humano es capaz de captar? ¿Cuántas decisiones exitosas hemos basado en nuestra intuición? ¿Qué tendría más peso? ¿Nuestra intuición o los datos analizados fríamente por una máquina? ¿Quién sería el responsable en caso de fallo? ¿La máquina que no ha podido preveer correctamente o el humano que no ha seguido su intuición? Mucho me temo que las respuestas a este tipo de preguntas sólo la podremos hallar caminando...

El factor humano en la toma de decisiones

Precisamente, la intuición que planteaba el Doctor Umberto León es algo sobre lo que se está discutiendo en el ámbito de los recursos humanos. Amish Shah, fundador de Millennium Search (una empresa especializada en recursos humanos), comentaba al New York Times que la selección de personal estaba muy relacionada con la intuición, la "química" o el instinto, algo parecido a lo que ocurrió cuando conociste a tu actual pareja:

Cuando entrevisto a un candidato, lo que busco es la pasión y me temo que no hay ningún algoritmo que pueda llegar al fondo de eso

Sin embargo, empresas como GapJumpers o Gild ofrecen herramientas automáticas para seleccionar candidatos para procesos de selección e, incluso, hay estudios que apuntan a que un sistema puede realizar procesos de selección de personal mucho más certeros que los que haría un especialista en recursos humanos.

De hecho, esta contraposición entre la intuición (o nuestra experiencia) y lo que dice un algoritmo es algo que vivimos con mucha más frecuencia que lo que, quizás, nos podamos imaginar.

La gestión del riesgo en la banca, por ejemplo, se apoya en algoritmos de credit scoring y también ocurre algo similar en la evaluación de riesgos de un seguro de automóvil (donde el precio base de un seguro depende, en gran medida, del resultado que arroja un sistema en base a nuestra edad, antigüedad al volante, nuestro histórico de siniestros o el tipo de vehículo que vamos a asegurar).

Los algoritmos se pueden equivocar, ¿dónde está la frontera?

Si tomamos como referencia todos los ejemplos reales que hemos repasado, es fácil encontrar un punto en común en todos ellos: predicción, es decir, información anticipada de lo que se espera que va a ocurrir; por tanto, el "factor humano" tiene peso en la toma de la decisión.

Casos como los del Condado de Broward de Florida, donde se ha detenido a gente inocente simplemente porque lo decía un algoritmo, son una buena muestra de la importancia que haya alguien que sopese la información que le ofrece un sistema y la confronte con su propio conocimiento y experiencia.

En este sentido, el Doctor Umberto León nos comentaba que el factor humano es clave durante todo el proceso: seleccionar los inputs e interpretar los outputs para que ofrezcan información que tenga sentido:

No debemos olvidar que estos algoritmos se usan, por ejemplo, para la toma de decisiones en áreas el departamento financiero de una gran compañía. El número de inputs con el que trabajan estas compañías puede ser entre 15-25, pero algunos de estos inputs son incapaces de predecirse... Un sistema no podría predecir que un descenso del 25% de las ventas de Londres se debió a una huelga en el metro, o que la caida del 75% de las ventas en Paris se debió a los últimos atentados, son sucesos vinculados a la esfera caótica de la psique e impredecibilidad humana

Expertos en seguridad ya hablan de la necesidad de planes de contingencia para los sistemas predictivos puesto que también pueden ser vulnerables y, por tanto, pueden influir de manera negativa en nuestra toma de decisiones.

La administración Obama ya ha anunciado que realizará una consulta pública para abrir el debate sobre la inteligencia artificial y la necesidad de una regulación que permita definir responsabilidades y que los sistemas sean controlables y, sobre todo, seguros.

¿Nuestro nuevo jefe va a ser un algoritmo? A día de hoy, quizás, estamos algo lejos de eso puesto que estos sistemas son un soporte a decisiones que, por ahora, siguen tomando humanos en base a su experiencia, querencias o ética.

De todas formas, se aproxima un interesante debate para marcar las fronteras de lo que se puede automatizar sin intervención humana y lo que requiere, sin lugar a dudas, una decisión final tomada por una persona capaz de analizar los pros y contras de su decisión.

Imágenes: Torkild Retvedt (Flickr), tsushima2011 (Flickr), Lourdes Rodríguez - Asociación Andaluza de Coolhunting