¿Estamos preparados para el día en el que un coche autónomo mate a alguien?

El coche de conducción autónoma es casi una realidad tangible. Si sigues su desarrollo ya sabrás que el principal reto técnico al que se enfrenta es el de la implementación de la inteligencia artificial. Y es que el coche autónomo es algo más que un piloto automático que mantiene el rumbo (o sigue la carretera) y adapta su velocidad en función del tráfico. Para ser realmente autónomo deberá reaccionar e interpretar situaciones complejas, como lo haría un conductor humano.

Cuando el coche autónomo sea una realidad deberá, además, coexistir en la carretera con coches conducidos por esa imprevisible máquina que es el ser humano. Y entonces, es inevitable, llegará un momento en el que un coche autónomo provocará la muerte de una persona, ya sea directa o indirectamente. ¿Estamos preparados para el día que eso ocurra?

El auge de la Inteligencia Artificial

El coche autónomo será una realidad, del mismo modo que la inteligencia artificial. Las máquinas han aprendido ya ha reconocer las caras en las fotos y a escuchar lo que decimos. Han aprendido a ganar a juegos que los investigadores en inteligencia artificial creían estar fuera del alcance de las máquinas. En muchos casos, esas máquinas aprenden sobre la marcha y superan a los humanos. Y ahora, les vamos a enseñar a conducir.

Los coches autónomos deberán moverse en un entorno lleno de vehículos en movimiento. Y si no están todos interconectados para comunicarse sus intenciones, éstos deberán reconocer los objetos, los seres vivos (humanos, mascotas, etc) y vehículos que hay en la carretera, para luego interpretar qué ocurre a su alrededor y, por último, tomar una decisión.

Una de las formas de hacerlo es recolectar la inmensidad cantidad de datos que han ido registrado los coches en los años anteriores. En función de esos datos y de su propia experiencia, nuestro coche autónomo tomará decisiones. Es así como sabrá anticipar las reacciones de algunos conductores al ver cómo conduce su coche "tradicional", del mismo modo que un conductor con experiencia lo hace en la actualidad.

Todo eso está muy bien en un mundo ideal, pero en el mundo real es probable que en algún momento, un coche autónomo esté implicado en un accidente y alguien fallezca en ese accidente. En esta ocasión no entraremos a valorar cómo se pudo llegar a esa situación (¿Antepuso la máquina la seguridad de un grupo antes que la de una sola persona, sacrificando esta última? ¿Fue una decisión propia o inducida por el fabricante?), sino trataremos de averiguar si estamos preparados para el día que esto ocurra.

Jurídicamente, estamos en pañales

Desde un punto de vista jurídico, la respuesta es sencilla: no lo estamos. En el estado actual de las leyes, en la que un coche totalmente autónomo es prácticamente ilegal en todo el mundo y sólo se autorizan pruebas de prototipos para su desarrollo, el responsable final sería el conductor del vehículo. Y es que en todos los códigos de circulación del mundo se estipula que el conductor ha de mantener en todo momento el control del vehículo.

Por eso, sistemas de conducción semi-autónomos, similares al Autopilot de Tesla, se desconectan e instan a retomar el control si detectan que no tenemos al menos una mano en el volante durante más de X segundos (varía en función del fabricante, de la velocidad, etc). Por supuesto, sin perjuicio que un fabricante pueda ser demandado por fallos de diseño en su coche.

Por otra parte, a nivel jurídico, no se puede exigir responsabilidad a una máquina en un caso de accidente de tráfico. Actualmente, sólo hay dos maneras de tratar una situación de este tipo: exigir responsabilidades a una persona física (operario, ingeniero, conductor, etc) o a una persona jurídica (el fabricante del coche, de un determinado sistema, de los recambios, etc).

El caso de un coche autónomo, aunque dotado de inteligencia artificial, no cumple con la definición de persona jurídica: individuo o entidad que, sin tener existencia individual física, está sujeta a derechos y obligaciones. Al final, siempre hay un responsable: ya sea el conductor porque tomó el control del coche, el propio fabricante del automóvil por un fallo de diseño, el proveedor de la ECU con Inteligencia Artificial por haber programado de forma que este caso límite haya podido ocurrir, etc

La respuesta a la pregunta de si estamos preparados para el día que una máquina quite una vida ha de ser una respuesta más humana y no tan técnica.

Como sociedad, no nos lo hemos planteado

Par Luis Gómez Encinas, doctor en Sociología por la UNED, los automovilistas no hemos realmente pensado en esa eventualidad. Basándose en una encuesta realizada por el Observatorio Cetelem, se desprende que los automovilistas estamos dispuestos a confiar en la máquina.

"El coche autónomo se concibe, principalmente, como una liberación del conductor de su rol de piloto. Se abren así múltiples opciones para el usuario, en especial la posibilidad de dedicar al ocio ese tiempo que antes era de conducción. Preguntados sobre lo que harían durante el trayecto en un coche autónomo, solo el 28% de los encuestados afirmó que mantendría un ojo en la carretera. Es significativo que esta desconfianza aumente al 40% en Estados Unidos, país de vanguardia tecnológica de este tipo de coche."

Y es que para la mayoría de los encuestados "el coche autónomo representa (...) un progreso respecto a la seguridad, el confort y el ocio, mientras que a un 37% le inquieta". Y entre las inquietudes más resaltadas no está la posibilidad que el coche autónomo pueda actuar de una forma que acabe matando a una persona, dicho de otro modo, los encuestados no temen tanto la pérdida de control del coche, como el uso que se pueda hacer de los datos que pueda transmitir el automóvil.

"A los españoles, por ejemplo, nos produce más inquietud el uso de la información que pueda hacerse del coche conectado (21%), que no ser completamente los amos del vehículo (19%), mientras que el miedo a la seguridad propia aparece en tercer lugar (18%). (...) Los potenciales usuarios manifiestan una visión fundamentalmente positiva del coche autónomo y sus inquietudes priorizan aspectos personales y pragmáticos".

Cómo reaccionaría nuestra psique

Está claro, como sociedad no estamos preparados para el día que un coche autónomo quite una vida. Aún así, es muy probable que algún día pueda ocurrir. ¿Qué pasaría entonces? Preguntamos a Irene Zschaeck, Psicóloga y terapeuta familiar y de parejas, para vislumbrar cuál sería nuestra reacción, como individuos, ante tal situación. Si nos basamos en la experiencia actual, las consecuencias para los familiares del fallecido podrían ser todavía peores que en la actualidad.

"El proceso de duelo, en el que se pasa por emociones, como la rabia y el dolor, se podría complicar si en esta situación existe una ambigüedad sobre quien asumiría la responsabilidad final. Cuando perdemos a alguien o algo, cuando algo nos sale mal, nuestra primera tendencia es la búsqueda de un "culpable". El luto podría verse complicado inicialmente dado que el culpable, de entrada, es un "ente en abstracto". Esto tendría como consecuencia una prolongación de la fase del duelo, que en un caso extremo derivaría en un sufrimiento crónico, y esto posiblemente en síntomas como depresión, ansiedad, fobias..."

No es un panorama precisamente muy alentador. Los familiares del fallecido, verían su sufrimiento prolongado por la falta de un "responsable" claro. Pero el ser humano, tiende a adaptarse a las situaciones y a su entorno.

"Otra tendencia del ser humano es la búsqueda del cierre o "completar la Gestalt" (el todo) delante de situaciones de conflictos o dilemas, o como mínimo, el esfuerzo estará dirigido a reducir la incertidumbre al máximo posible. En este sentido, aunque sea una máquina el ejecutor de un posible accidente que se cobre una vida, las personas agraviadas** intentarían seguramente cerrar esta herida encontrando un responsable**, aunque esto les lleve hasta el concesionario, el fabricante, etc, es decir, un "otro" a quien poder interpelar".

¿Una posible respuesta?

Finalmente, puede que la respuesta a tan impactante pregunta esté en el propio coche autonómo. Nadie pone en duda que los coches autónomos mejorarán la seguridad vial de todos. Cometerán menos errores que los humanos. Y si vemos que los coches cometen menos errores, quizá podamos confiar en la "ética" de los coches autónomos, y aceptar que algún día una máquina con ruedas e inteligencia artificial quitó una vida.

Según Yann LeCun, jefe de investigación en Inteligencia Artificial en Facebook: "Si la máquina es mejor que los humanos evitando accidentes, la gente lo aceptará. Aunque haya casos límites". De todos modos, está por ver si el público, al menos en occidente, compraría un coche que antepusiese la vida del grupo ante la suya propia.

Los fabricantes de automóviles, por supuesto, no quieren comentar sobre esta eventualidad. Los protocolos de seguridad de sus coches autónomos (que mantienen secretos) se diseñan para evitar un incidente fatal. Al fin y al cabo, el principal argumento a favor del desarrollo del coche autónomo es evitar accidentes.

Claro que hablar de la posibilidad de una muerta a manos de un coche autónomo, supondría ahora mismo un varapalo al desarrollo del coche autónomo. No estamos preparados para tan siquiera pensar que los fabricantes barajan esa posibilidad. Aunque por otra parte, quiero pensar que los fabricantes están considerando que esas situaciones, aunque sean límites, podrían ocurrir y están trabajando en ello.

En Xataka | Si un robot o un bot software comete un delito, ¿qué dice la ley sobre sus dueños?