Imaginemos una escena sencilla. Un vehículo avanza por una avenida a velocidad moderada. No hay conductor humano; el sistema automático gobierna cada movimiento. El coche interpreta las señales, calcula distancias, reconoce peatones, frena en los semáforos y esquiva obstáculos. Todo ocurre con aparente normalidad, hasta que deja de hacerlo. Una fracción de segundo, una lectura errónea, y el coche no frena. En el tablero no hay alarmas. En el sistema, ningún error visible. En la calle, una vida perdida.
El 18 de marzo de 2018, en Tempe, Arizona, esa escena dejó de pertenecer a la ciencia ficción. Un vehículo autónomo de Uber atropelló a una mujer que cruzaba la vía. Había un operador a bordo, pero no intervino. El informe posterior reveló que el software no clasificó a la víctima como peatón a tiempo, y por tanto no activó el frenado de emergencia. No fue un fallo mecánico, sino algorítmico: el sistema no comprendió lo que veía. Aquel suceso marcó un antes y un después, no por su excepcionalidad, sino por lo que insinuaba: la autonomía tecnológica tiene límites humanos, y sus errores son reales.
El vehículo autónomo no es un objeto aislado. Es un nodo dentro de una red que combina sensores, cámaras, radares, tecnología LIDAR, inteligencia artificial, mapas digitales, comunicación 5G y procesamiento en la nube. Conduce, pero no decide solo. Cada maniobra es el resultado de millones de cálculos distribuidos entre sistemas locales y remotos. Por eso, cuando falla, la pregunta no es solo técnica: ¿quién responde?
La conducción autónoma descansa sobre un entramado de tecnologías que operan en sincronía. Pero esa conectividad, que hace posible la eficacia, abre también la puerta al riesgo. Cada sensor, cada canal de comunicación, cada actualización remota puede convertirse en un punto de entrada para un ataque. Los coches modernos son terminales móviles sobre ruedas. Envían y reciben datos, actualizan software por el aire, interactúan con señales inteligentes y, en algunos casos, se comunican entre sí mediante protocolos V2V (Vehicle to Vehicle) o V2I (Vehicle to Infrastructure). En teoría, esto optimiza la circulación. En la práctica, multiplica la superficie de vulnerabilidad.
Un episodio más célebre aún ocurrió en 2015, cuando los investigadores Charlie Miller y Chris Valasek lograron acceder de forma remota a un Jeep Cherokee a través del sistema Uconnect (el sistema de infoentretenimiento, con conexión a internet). Desde un ordenador, manipularon el volante, los frenos y la transmisión. No hubo víctimas, pero sí consecuencias: el fabricante, Fiat Chrysler, tuvo que retirar más de un millón de vehículos para actualizar el software. Aquel experimento demostró que el automóvil contemporáneo ya no pertenece solo al ámbito de la ingeniería mecánica, sino también al de la ciberseguridad.
En determinados tipos de vehículos autónomos, el margen de intervención humana desaparece. Si el software se bloquea, no hay reflejo humano que lo corrija. La autonomía total implica delegación total. Y con ella surge un vacío jurídico y ético: cuando el coche no frena, ¿de quién es la culpa? ¿Del fabricante, del programador, del proveedor de datos, del operador de red o del propietario del vehículo?
El derecho vigente no está preparado para responder. Las normas de circulación se diseñaron para un mundo donde siempre hay un conductor. La Ley sobre Responsabilidad Civil y Seguro en la Circulación de Vehículos a Motor parte de la premisa de que un ser humano controla el vehículo y puede actuar con negligencia o imprudencia. Pero cuando la conducción depende de un sistema de inteligencia artificial, esas categorías pierden sentido. No hay dolo ni impericia en un código; hay, como mucho, una inferencia fallida.
Algunos países han comenzado a redefinir la responsabilidad. Alemania reformó en 2017 su legislación para reconocer la conducción automatizada, aunque exige que haya un conductor capaz de intervenir. El Reino Unido propuso trasladar la carga de responsabilidad a las aseguradoras, que luego podrán reclamar al fabricante si el error fue técnico. En Estados Unidos, la regulación varía según el Estado, sin un marco común. La Unión Europea, por su parte, avanza con el Reglamento de Inteligencia Artificial, que clasifica los sistemas de alto riesgo e impone obligaciones de transparencia, seguridad y supervisión humana. Es un primer intento de adaptar el derecho a un entorno donde el agente responsable ya no es una persona, sino un sistema.
El Parlamento Europeo ha planteado, además, un régimen de responsabilidad civil basado en el riesgo tecnológico: quien introduce una máquina autónoma en la circulación debe asumir las consecuencias de su uso, incluso sin culpa demostrable. En el caso del coche autónomo, la cadena de responsabilidad se fragmenta: fabricantes, desarrolladores de software, proveedores de mapas, operadores de red, propietarios y usuarios forman un ecosistema de nodos interdependientes. Atribuir responsabilidad plena a uno solo puede resultar jurídicamente insuficiente y técnicamente injusto.
En España, la Estrategia de Movilidad Segura, Sostenible y Conectada 2030 menciona los vehículos automatizados, pero el marco normativo aún está en construcción. Ya existen pruebas piloto y participación en proyectos europeos. Pero el debate, más que de tráfico, es de filosofía aplicada: ¿puede una máquina ser sujeto de imputación?
La dimensión ética de la autonomía vehicular es quizás la más perturbadora. Un coche autónomo no solo ejecuta órdenes: toma decisiones en situaciones límite. Y cada decisión puede implicar un sacrificio. ¿Debe proteger prioritariamente a su ocupante o al peatón? ¿Debe elegir la menor pérdida estadística o el menor daño moral? El viejo dilema del tranvía ha salido de los libros de ética para instalarse en el código fuente de los algoritmos de conducción. [El dilema del tranvía plantea una elección trágica: ¿se deja que un tranvía sin frenos siga su curso y mate a cinco personas, o lo desviamos y causamos la muerte de una sola?].
El problema no se agota en la moralidad del acto, sino en la opacidad del proceso. Los sistemas de inteligencia artificial que gobiernan estos vehículos aprenden de datos, no de normas. No siguen reglas explícitas, sino patrones estadísticos. Cuando fallan, no siempre puede saberse por qué. La caja negra algorítmica convierte la responsabilidad en una sombra. Aunque se propone exigir explicabilidad a los sistemas de alto riesgo, esta es una exigencia que choca con la naturaleza misma del aprendizaje automático: ¿cómo exigir que un algoritmo justifique una decisión que no fue “razonada”, sino inferida?
En paralelo, la amenaza del ciberataque adquiere un carácter sistémico. Un vehículo comprometido es un peligro; una flota manipulada simultáneamente, una catástrofe. En un contexto de guerra híbrida, donde los ataques informáticos forman parte de la estrategia militar, los coches autónomos podrían convertirse en objetivos estratégicos. Alterar el tráfico, bloquear una ciudad, manipular rutas logísticas: la ficción distópica se acerca demasiado a la realidad cuando la infraestructura depende del software.
El reto, por tanto, no es únicamente técnico ni nacional. Es global. Las decisiones normativas que adopten Europa, China o Estados Unidos afectarán a toda la cadena de fabricación y certificación. Y mientras no exista un consenso internacional sobre los estándares de seguridad, la atribución de responsabilidades y la protección de los datos que circulan por esos sistemas, el riesgo seguirá siendo estructural.
Algunos expertos proponen la creación de una agencia internacional de certificación algorítmica que audite, antes de su despliegue, los sistemas de conducción autónoma. Otros abogan por una moratoria parcial hasta que existan garantías suficientes de trazabilidad y supervisión. No faltan quienes reclaman un nuevo contrato social entre humanos y máquinas, donde se reconozca el derecho ciudadano a comprender por qué un sistema toma una decisión que puede costar una vida.
El futuro de la movilidad autónoma no depende solo de la innovación técnica, sino del marco de confianza que logremos construir alrededor de ella. Porque la tecnología no se mide por su velocidad, sino por su capacidad de responder ante el error. Y cuando el coche no frena, cuando el algoritmo no ve lo que tiene delante, no basta con reparar el software. Hay que revisar también la arquitectura ética que le da sentido.
Quizás la pregunta esencial no sea quién programó el fallo, sino quién decidió delegar la decisión. Porque en el silencio posterior a un accidente autónomo no hay conductor que pueda responder, ni palabra humana que explique lo ocurrido. Solo quedan los datos, el registro del instante y la certeza de que, en esa fracción de segundo, la inteligencia artificial fue tan humana como nosotros: imperfecta, vulnerable y, por tanto, peligrosa.
