El problema del tranvía no sirve para programar coches autónomos

PARA QUÉ SE INVENTÓ

El dilema del tranvía se formuló para investigar una discrepancia en nuestras intuiciones. La mayoría de las personas acepta desviar un tranvía para que mate a una persona en lugar de a cinco, y rechaza empujar a alguien desde un puente para conseguir el mismo resultado numérico.

La utilidad del experimento está precisamente en esa asimetría: revela que nuestro juicio moral no es puramente consecuencialista, que distingue entre causar un daño como medio y causarlo como efecto colateral, y que la implicación física directa pesa.

Es una herramienta de análisis conceptual. No es un manual de decisiones.

POR QUÉ NO APLICA A LA CONDUCCIÓN

Trasladar el dilema a los vehículos autónomos supone varios errores.

El primero es epistémico. El escenario presupone conocimiento perfecto: se sabe con certeza cuántas personas hay en cada vía y que morirán. Un sistema real opera con detecciones probabilísticas, clasificaciones inciertas y estimaciones de trayectoria con márgenes de error. No dispone de la información que el dilema le supone.

El segundo es temporal. En el instante en que una colisión es inevitable, el margen de maniobra es de fracciones de segundo y las opciones disponibles son escasas. La decisión relevante se tomó mucho antes: en la velocidad de aproximación, en la distancia de seguridad, en cuándo iniciar el frenado.

El tercero es estadístico. Un vehículo no toma una decisión aislada sino millones de decisiones. La pregunta pertinente no es a quién atropellar en un caso construido, sino qué política de conducción minimiza el daño esperado en la distribución completa de situaciones.

LO QUE SÍ SON DILEMAS REALES

Existen cuestiones éticas genuinas en esta tecnología, y son menos espectaculares.

Cómo repartir el riesgo entre el ocupante del vehículo y los demás usuarios de la vía es una decisión de diseño real: un sistema que frena antes protege a terceros y aumenta la probabilidad de alcance trasero.

Qué umbral de seguridad justifica el despliegue es otra. Esperar a la perfección tiene un coste medible en vidas que la tecnología habría salvado; desplegar demasiado pronto lo tiene también.

Cómo se distribuyen los beneficios y los riesgos entre poblaciones es una tercera: los sistemas se prueban en unas ciudades y no en otras, y los peatones de una zona no consintieron ser parte del experimento.

EL VALOR QUE CONSERVA EL EXPERIMENTO

Nada de esto invalida el dilema como instrumento filosófico. Su función es exponer la estructura de nuestras intuiciones, no proporcionar respuestas.

Confundir una herramienta de análisis con una especificación de producto es un error de categoría, y produce debates públicos que consumen atención sin acercarse a las decisiones que realmente hay que tomar.