Coches autónomos, dilemas morales

Más allá de estas coincidencias, el estudio reveló que era muy difícil establecer patrones de comportamiento moral, máxime cuando los dilemas se volvían más complejos. Cuando estaba en juego la vida del participante, hasta un 40 por ciento de los encuestados declararon que daba igual quien falleciera siempre que se pudiera preservar la propia vida. En la disyuntiva entre atropellar a una persona que estaba cruzando la vía de forma legal y la que lo hacía de forma ilegal, las respuestas se dividían al 50 por ciento.

Noticias relacionadas

Una caldereta en reposo

Más noticias relacionadas

Dentro de un siglo (quizá menos) muchas actividades que actualmente realizan personas pasarán a ser desempeñadas por máquinas. Este desarrollo de la inteligencia artificial ha generado una honda preocupación acerca de cómo las máquinas van a tomar decisiones morales. Al igual que un ordenador, los ingenieros diseñarán los programas que sirvan de soporte al robot. Y, lógicamente, dentro de ese software deberán incluirse pautas de comportamiento ético que permitan a las máquinas resolver situaciones complejas. En función de los principios que los diseñadores consideren más relevantes, las máquinas adoptarán unas u otras decisiones. Esta situación plantea numerosos interrogantes acerca de qué debe prevalecer pues, cuando se priorizan determinados valores, se puede desembocar en una discriminación que afecte a otros colectivos. ¿Qué debe prevalecer? ¿Salvar la vida de muchas personas? ¿Proteger al más vulnerable? ¿O al más joven? ¿O al más valioso para la sociedad?

Estas ecuaciones morales también van a tener una enorme trascendencia económica. ¿Podrán los usuarios conocer los algoritmos introducidos por los ingenieros al diseñar el coche autónomo? ¿Qué ocurrirá si descubren que está diseñado para priorizar siempre la vida de los otros usuarios de la vía frente a la propia del ocupante? ¿Seguirán comprándolo? Es posible, incluso, que algunos compradores quieran ‘participar' en el diseño del software trasladando a la máquina sus propias convicciones morales. El comprador podría, por ejemplo, priorizar la salvación de las mascotas frente a las personas si es un firme defensor del animalismo. Incluso podría programarse un comportamiento diferente del coche autónomo en función de si se encontrase en un barrio rico o en uno desfavorecido priorizando unas u otras víctimas en función de sus convicciones morales.

Los desacuerdos sobre cuestiones morales constituyen la esencia de una sociedad democrática. Cuando trasladamos estos dilemas morales –en los que influye nuestra concepción sobre el bienestar, la libertad y la justicia- a los coches autónomos, estamos en realidad respondiendo a una difícil pregunta: ¿quién debe morir? El desafío que representa el desarrollo de la inteligencia artificial es que, por primera vez en la historia, estamos a punto de definir en un algoritmo qué es correcto y qué es incorrecto. Quizá sea el momento de recordar aquellas palabras que, hace ya más de cuarenta años, dijo Marvin Mansky: «Cuando los ordenadores tomen el control, puede que no lo recuperemos. Sobreviviremos según su capricho. Con suerte, decidirán mantenernos como mascotas».