Lo atropelló un auto sin conductor. ¿De quién es la responsabilidad?
Qué pasa cuando un vehículo sin conductor falla y atropella o daña a alguien. Son varios los videos de los Tesla Cars en la ruta que pueden generar algún daño. ¿Es responsable el programador?
Fue atropellado por un vehículo sin conductor
“Monte: lo atropelló un auto sin conductor y quedó internado”, publicó el diario La Nueva de Bahía Blanca. El hombre fue impactado en la espalda por un Jeep que estaba estacionado, prosigue.
En la localidad de Monte Hermoso el hombre atropellado tuvo que ser trasladado esta tarde con heridas graves tras ser atropellado por un auto en Costa al 200, Monte Hermoso.
Iba caminando cuando súbitamente, un Jeep marca IKA sin ocupantes arrancó, y “comenzó a dar marcha de manera inesperada”, describe la noticia y foto del diario La Nueva.
El vehículo arrastró al hombre unos metros hasta que un taxi, que circulaba por Faro Recalada, lo frenó. Ahora está hospitalizado con golpes y fractura de clavícula.
La responsabilidad del auto sin conductor
Hay dos órdenes de responsabilidades, la del programador que diseñó el algoritmo, y la del dueño del auto que es responsable siempre. En general se agregaría el conductor si fue negligente en usar el piloto automático. Veamos.
La responsabilidad del programador del algoritmo de inteligencia artificial
Por empezar, el programador o comercializador de un software de inteligencia artificial es responsable civil por los daños que este puede causar, en tanto haya culpa en la formulación de los algoritmos, o incluso podría argumentarse que ante un consumidor, sin necesidad de culpa (ley 24240).
Un “algoritmo” es conjunto de instrucciones o reglas definidas y no-ambiguas, ordenadas y finitas que permite, típicamente, solucionar un problema, realizar un cómputo, procesar datos y llevar a cabo otras tareas o actividades.
En suma, un algoritmo es como una receta para que la computadora ejecute algo. Las computadoras (todavía ¿?) son limitadas y solo hacen lo que se les instruya. Un algoritmo es ese conjunto de instrucciones que se expresa en líneas de código de un lenguaje de programación.
En los programas que usan inteligencia artificial, los algoritmos incluso aprenden a tomar decisiones, basados en la experiencia pasada y en una iteración de análisis de datos.
Pero incluso los más avanzados programas de inteligencia artificial pueden equivocarse, y de hecho lo hacen, al fallar en identificar imágenes, por ejemplo. Un programa de conducción autónoma podría falla en reconocer un obstáculo, incluso un ciclista.
Los algoritmos de Machine-learning (aprendizaje automatizado) son pensados por humanos. Los sets de datos también son seleccionados por humanos, susceptibles de erroes y desviaciones, según dijo Nicholson Price al reseñar un caso de un programa que erró en el diagnóstico médico.
Los ejemplos abundan. Está el caso de algunos errores en los autos Tesla (ver abajo el video). Y el autocompletar de Google cuando lleva a resultados prejuiciosos o difamatorios. (paper: Daños por algoritmos_ Una mirada en el autocompletar de las búsquedas de Google, cuando arroja resultados difamatorios).
La relación de causalidad en el diseño del algoritmo
Sin embargo, los casos no son del todo claros. Un caso en que sin dudas hubo responsabilidad de la empresa automotriz es el de un programa que demoró la apertura del airbag. El consumidor demandó y ganó.
Según la ley, para que proceda la indemnización debe existir un perjuicio directo o indirecto, actual o futuro, cierto y subsistente. También se requiere una adecuada relación de causalidad con el hecho generador. ¿Hasta que punto un algoritmo tiene causa en un daño?
La carga de la prueba de la relación de causalidad corresponde a quien la alega, excepto que la ley la impute o la presuma, agrega el nuevo código civil. La carga de la prueba de la causa ajena, o de la imposibilidad de cumplimiento, recae sobre quien la invoca.
Frente al consumidor, de todos modos, la responsabilidad es objetiva. Incluso del programador. No se requiere culpa ni dolo, y alcanzará con probar que se estaba conduciendo un vehículo riesgoso.
Es decir, el consumidor deberá probar que el choque se produjo por culpa del algoritmo, algo bastante rebuscado, por cierto, salvo por algunas presunciones legales. El programador deberá mostrar la causa ajena.
Pero como dijo Zane Muller, ootros demandantes cuyos daños son menos rastreables y trazables, es decir, derivados del algoritmo, pueden tener un problema para el juicio. “No todas las fallas de de diseño del algoritmo son tan claras”.
Otro tema es el caso fortuito. ¿Podrá un programador alegar la imprevisión de algún evento fortuito o del hecho de un tercero que impidió evitar el choque? (Según el nuevo código civil “para eximir de responsabilidad, total o parcialmente, el hecho de un tercero por quien no se debe responder debe reunir los caracteres del caso fortuito)”.
Esto podría tornar responsable a la empresa que lo programó. Como dijo Ariel Torres, “los algoritmos no tienen la culpa. Al responsabilizarlos, en lugar de señalar a ejecutivos y organizaciones, invisibilizamos el problema”.
La responsabilidad objetiva del dueño del auto
En este caso es más fácil, porque frente a terceros, toda persona responde por el daño causado por el riesgo o vicio de las cosas, o de las actividades que sean riesgosas o peligrosas por su naturaleza, por los medios empleados o por las circunstancias de su realización (artículo 1757 del nuevo código civil y comercial).
Por ende, el dueño del auto y su conductor (o empresa programadora) son responsables frente a terceros, salvo que la empresa programadora pruebe un mal uso de parte del dueño.
La responsabilidad es objetiva. No son eximentes la autorización administrativa para el uso de la cosa o la realización de la actividad, ni el cumplimiento de las técnicas de prevención, agrega la norma.
A esto se agrega el seguro, que también responde hasta el límite de cobertura de la póliza, es un contrato.