Dilemas morales

En estos tiempos de cambios tecnológicos sin precedentes, una revolución en puerta es la de los vehículos autónomos que se conducen sin chofer a bordo. Dada la complejidad del tráfico vehicular, esta revolución inevitablemente provocará accidentes, algunos de ellos con graves consecuencias, incluso fatales, para las personas involucradas. En esta perspectiva, han surgido interrogantes con respecto a la manera en la que los vehículos autónomos deberán ser programados para responder a una situación de emergencia.

Un vehículo autónomo, por ejemplo, podría confrontar una situación en la que al circular por una avenida a gran velocidad se encuentre con una persona cruzando la calle de manera imprudente, teniendo que elegir entre dos opciones: seguir de frente y arrollarla, o virar bruscamente y estrellarse contra de un obstáculo arriesgando la vida a sus pasajeros. La máquina autónoma se encontrará así ante la disyuntiva de elegir a aquellos que tienen prioridad para salir mejor librados del accidente que podría tener consecuencias fatales.

En estas circunstancias, ¿cómo deberán programarse los vehículos autónomos para manejar las situaciones de emergencia en las que se tenga inevitablemente que elegir entre salvar o condenar a tal o cual persona? ¿Tendrán prioridad los niños sobre los adultos?, ¿las mujeres sobre los hombres? ¿Tendrá la máquina autónoma la obligación de minimizar el número de víctimas? Las respuestas a estas preguntas no resultan simples y para ayudar a encontrarlas un grupo de investigadores del Instituto Tecnológico de Massachusetts encabezado por Iyad Rahwas, diseñó una plataforma en línea que bautizó con el nombre de “Máquina Moral”, por medio de la cual recabó cerca de 40 millones de opiniones al respecto de personas de 233 países y territorios en el mundo. Los resultados de estudio con la “Máquina Moral” fueron publicados esta semana en la revista Nature.

Para llevar a cabo su tarea, la plataforma “Máquina Moral” presenta al usuario 13 situaciones en las que un vehículo autónomo sin frenos avanza hacia personas que cruzan una calle. En todos los casos el vehículo tiene dos posibilidades para actuar: seguir de frente o virar bruscamente, ambas con resultados fatales. En cada situación la plataforma pide al usuario su opinión sobre cuál de las opciones debe escoger el vehículo.

Así, la plataforma confronta al usuario con un dilema que involucra, por ejemplo, decidir si las mujeres tienen prioridad sobre los hombres, o si la tienen los niños o bebés sobre los adultos o personas de edad avanzada. Deben incluso dar su opinión sobre la prioridad que tendrían personas con sobrepeso en comparación con aquellas en buena condición física, o si la situación económica de una persona afecta dicha prioridad. La plataforma confronta también al usuario con el dilema de decidir si el vehículo autónomo debe actuar de un modo que minimice el número de víctimas.

A manera de ejemplo, en una situación presentada por la “Maquina Moral” un vehículo autónomo avanza directamente hacia un grupo de tres mujeres que cruzan la calle, una de ellas con sobrepeso. Si el vehículo no desvía su curso arrollará a las tres mujeres con resultados fatales. La opción es virar hacia la izquierda, en cuyo caso el vehículo se estrellará contra una barrera de concreto matando a sus tres ocupantes mujeres, dos de ellas atletas –y por tanto en una excelente condición física, en contraste con la mujer pasada de peso.

Los resultados del estudio de Rahwas y colaboradores fueron esperables en algunos aspectos y sorprendentes en otros. Por ejemplo, de manera esperable encuentran que los usuarios de la plataforma mostraron de manera global una fuerte tendencia a salvar personas jóvenes en perjuicio de personas de edad avanzada. Y lo mismo en cuanto a proteger a las personas por sobre la vida de los animales. Se evidenció también una fuerte inclinación a minimizar el número de víctimas. Los usuarios se inclinaron igualmente por salvar a las personas que cumplen las leyes de tráfico por sobre aquellas que no lo hacen.

Otros resultados fueron, en cambio, menos esperables. Así, globalmente hubo una preferencia por las personas de un mayor estatus social, por aquellos en buena condición física por sobre aquellos con sobrepeso, y por las mujeres en perjuicio de los hombres.

Rahwas y colaboradores obtuvieron también resultados diferenciados por regiones geográficas que en algunos casos difieren de los resultados globales. Así, por ejemplo, en los países del este asiático hay una preferencia menos pronunciada por salvar jóvenes en perjuicio de las personas mayores, lo mismo que por minimizar el número de víctimas.

Por otro lado, a pesar de la complejidad del problema moral intrínseco a los vehículos autónomos, Rahwas y colaboradores consideran que existen bases para poder solucionarlo, pues hay puntos en los que hay concordancia a nivel global.

El futuro nos dirá sobre qué bases las compañías automotrices diseñarán sus programas de control de vehículos autónomos. En tanto esto se resuelve, conviene tomar nota de algunos de los resultados del estudio de Rahwas y colaboradores que revelan los peligros a los que estamos expuestos al caminar por las calles y cómo estos peligros dependen de nuestro género, edad, condición social y hasta sobrepeso. Si bien poco o nada podernos hacer para minimizar la mayor parte de estos riesgos, cuando menos podríamos considerar el ponernos en una mejor condición física. Lo cual, por otro lado, es intrínsecamente saludable.