Source: http://www.legaltoday.com/opinion/articulos-de-opinion/la-accion-autonoma-del-robot
Timestamp: 2018-12-13 04:12:44+00:00

Document:
13 de Diciembre de 2018 | 05:12
El común de los mortales, entre los que me incluyo, aún escuchamos hablar de inteligencia artificial (IA) y esto nos trae a la mente las imágenes de películas y novelas de ciencia-ficción, en las cuales los robots interactúan con los seres humanos prácticamente como iguales.
Manuel Castro Calvo,
Juzgado de lo Constencioso-Administrativo
Pero en realidad la IA es un concepto que podemos situar más próximo a nuestra realidad para referirnos a las máquinas que imitan funciones cognitivas que entendemos como propias del ser humano. Este concepto de IA se va restringiendo conforme las máquinas evolucionan en su capacidad, viendo como normal ahora, capacidades que antes eran consideradas como IA. Las dos principales funciones, o comportamientos que pueden ser tenidos como definitorios de la IA en la actualidad, son el razonamiento y aprendizaje, así como la conducta consecuentemente derivada, que se desarrolla cuando dicha IA está implantada en una máquina que podemos denominar "Robot". Diariamente continúan los avances en el aprendizaje de máquinas (Machine Learning), una rama de la inteligencia artificial orientada al desarrollo de técnicas que permitan a las computadoras "aprender". El desarrollo de algoritmos, APIs (interfaces de programación de aplicaciones), herramientas de desarrollo y "entrenamiento" (Training), así como el procesamiento y análisis en tiempo real del Big Data, son manifestaciones del avance en Machine Learning por parte de las empresas del sector.
En fecha 16 de febrero de 2017 el Parlamento Europeo, emitió una resolución conteniendo recomendaciones destinadas a la Comisión, sobre normas de Derecho civil sobre robótica (2015/2103(INL), en la cual, tras exponer diversas consideraciones sobre el estado actual de la tecnología en materia de IA y creación de robots y contando con una predicción de avance en este campo, pide a la Comisión que "proponga definiciones europeas comunes de sistema ciberfísico, sistema autónomo, robot autónomo inteligente y sus distintas subcategorías". Y propone unas características definitorias del robot inteligente, entre las que, efectivamente, debemos destacar la autonomía y capacidad de interactuar y alterar su entorno, así como la capacidad de "autoaprendizaje a partir de la experiencia y la interacción" que además permite al robot "adaptar su comportamiento y acciones al entorno".
La Resolución aborda numerosas materias, entre las que reviste especial relevancia jurídica la responsabilidad civil. Y es que pronto habrá que enfrentarse a la existencia de daños causados a personas o cosas, por actuaciones de máquinas que podemos considerar robots (p.ej por el uso del vehículo de conducción autónoma en las carreteras). Así lo reconoce la Resolución: "Considerando que, gracias a los impresionantes avances tecnológicos de la última década, los robots ya no solo pueden realizar actividades que antes eran típica y exclusivamente humanas, sino que el desarrollo de determinados rasgos cognitivos y autónomos -como la capacidad de aprender de la experiencia y tomar decisiones cuasi independientes- ha hecho que estos robots se asimilen cada vez más a agentes que interactúan con su entorno y pueden modificarlo de forma significativa; que, en este contexto, es crucial la cuestión de la responsabilidad jurídica por los daños que pueda ocasionar la actuación de los robots;" Sin querer inundar este texto de transcripciones de la Resolución del Parlamento, Europeo, podemos destacar que se parte de la existencia de la autonomía del robot, así como de la mayor dificultad en atribuir a un agente humano concreto los daños causados por acción u omisión del robot, y la cuestión sobre si el robot puede pertenecer a alguna de las categorías jurídicas existentes o si debe crearse una nueva categoría dentro del mundo jurídico.
La Resolución considera que el marco jurídico vigente a aplicar ante la falta de otro específico, sería el de la responsabilidad por daños causados por productos defectuosos, esta es la Directiva 85/374/CEE, que solo cubre los daños ocasionados a condición de que el perjudicado pueda demostrar el daño real, el defecto del producto y la relación de causa a efecto entre el defecto y el daño. ¿Pero qué es lo que convierte esta responsabilidad civil en algo especial para la cual la respuesta prevista la normativa actual puede devenir insuficiente? La respuesta a esta pregunta, en mi opinión y no como único elemento particular, es la que voy a denominar "la decisión (y acción) autónoma del robot en sentido estricto". El aprendizaje de la máquina, unido al razonamiento, puede dar lugar a que el robot tome decisiones que pueden resultar de algún modo impredecibles y que se escapen al control de los distintos agentes que han participado en el desarrollo y fabricación del robot, así como en su utilización (verbigracia, el fabricante, el diseñador, el programador, el propietario, el operador, el usuario, etc.). Pero incluso pudiendo delimitar el reparto de responsabilidad de los distintos agentes que he mencionado antes, la principal duda surge a la hora de concebir una respuesta ante la acción autónoma en sentido estricto que pueda desarrollar el Robot. Esbozando una definición de la acción autónoma y dañina del robot, que a mi juicio plantea uno de los principales retos jurídicos en el marco de la responsabilidad civil, podríamos hablar de aquella acción causante de un daño y llevada a término por un Robot como resultado de su forma de razonamiento y aprendizaje, sin que se detecte un fallo en su programación y/o diseño, y que además resulte impredecible según esta programación y/o diseño. Resulta así un tipo de acción relacionada con el concepto matemático de la singularidad y con el concepto jurídico del "caso fortuito".
El anexo de la Resolución, en el que aparecen las recomendaciones concretas, explica que: "Cualquier solución jurídica elegida en materia de responsabilidad de los robots y de la inteligencia artificial para los supuestos diferentes de los daños materiales no debería en modo alguno limitar el tipo o el alcance de los daños y perjuicios que puedan ser objeto de compensación, y tampoco debería limitar la naturaleza de dicha compensación, basándose únicamente en que los daños han sido causados por un agente no perteneciente a la especie humana. El futuro instrumento legislativo debe basarse en una evaluación en profundidad realizada por la Comisión que defina si debe aplicarse el enfoque de la responsabilidad objetiva o el de gestión de riesgos;". El enfoque de la responsabilidad objetiva es en mi opinión el más adecuado para ofrecer una respuesta frente a los daños causados por la acción autónoma en sentido estricto y no solo debería quedarse en este tipo de régimen, sino que la posibilidad de que apareciera este tipo de acción autónoma del robot, obliga al despliegue de determinados elementos de seguridad y protección en distintos ámbitos, como así recomienda la Resolución (v.g. seguros obligatorios, un homólogo de nuestro Consorcio de Compensación de Seguros, un Registro de "robots avanzados", así como el acceso al código fuente de su programación y su registro o "log file"). Este acceso al código fuente o al registro, resulta de capital importancia, para tratar de conocer las razones por las cuales el robot ha tomado una decisión concreta. Y ello con el fin de determinar la culpabilidad detrás de dicha acción, o para entender que pueda no vincularse dicha culpa a ninguno de los agentes intervinientes en el proceso de creación o al usuario del Robot. Ante este último supuesto se hace más necesario el régimen de responsabilidad objetiva, alcanzando incluso la solidaridad entre los agentes intervinientes en la producción y/o uso del robot, que han asumido el riesgo de crear o utilizar una máquina que fuera de sus previsiones y control, puede realizar una acción autónoma por sus propias capacidades de raciocinio y aprendizaje.
En definitiva lo imprevisible es la acción, pero no la capacidad que tiene la máquina dotada de IA, para pensar, aprender y actuar en consecuencia, que al menos debe ser objeto de un férreo control. En todo caso y aún cuando provengan del razonamiento y del aprendizaje de la máquina, las acciones autónomas en sentido estricto no creo que sean algo deseable si no pueden ser previstas o controladas. Quiero decir con esto, que debería ser obligatorio, mantener la máxima capacidad, de controlar, así como de prever y a posteriori descubrir a través del análisis de los registros existentes, el porqué de toda acción llevada a cabo por la máquina. Al fin y al cabo, es ese conocimiento de la motivación de la conducta de la máquina, el que permite el avance controlado de estas tecnologías, y el que permite en su caso la continuación de su uso e investigación, sin que se causen o se repitan acciones u omisiones dañinas.
La resolución del Parlamento parece orientarse en este sentido en sus recomendaciones. El anexo de la resolución contiene otras previsiones en el "Código de conducta ética" que dirige a los ingenieros en robótica, así como en la "Licencia para los diseñadores", que pueden relacionarse con el régimen de responsabilidad civil derivada de los daños causados por la acción de robots. En estas recomendaciones encontramos entre otros el "Principio de no perjuicio o maleficencia", en virtud del cual los robots no deberían perjudicar a las personas; Y dado que el control sobre la máquina es el principal elemento minimizador de riesgos, este Código acoge el concepto de "reversibilidad", que es una condición necesaria de la capacidad de control. Un modelo de reversibilidad indica al robot qué acciones son reversibles y, en su caso, el modo de invertirlas. Del mismo modo las directrices que incumben al diseño atienden a este propósito de control, exigiendo de los diseñadores que garanticen que un robot funciona de modo conforme a los principios éticos y jurídicos a nivel local, nacional e internacional; que las etapas de toma de decisión del robot puedan ser objeto de reconstrucción y trazabilidad; que exista transparencia en la programación de los sistemas robóticos, así como la previsibilidad del comportamiento de los robots; que se analice la previsibilidad de un sistema humano-robot teniendo en cuenta la incertidumbre en la interpretación y en la acción, así como los posibles fallos de los robots o del hombre; y que se desarrollen instrumentos de rastreo en la fase de concepción del robot, para tener en cuenta y explicar los comportamientos de los robots, en los distintos niveles previstos para los expertos, los operadores y los usuarios.
La preocupación por las acciones autónomas en sentido estricto por el Parlamento es patente, y no se trata de que éstas acciones no se den, ya que al fin y a la postre son un rasgo deseable y definitorio de la IA, sino que se trata de sujetarlas a control y a explicación. La habilidad para manejar cada vez mayores cantidades de datos, hace a las máquinas más capaces, pero también más difícil de comprender sus respuestas y acciones a la vista de dichos datos.
Recapitulando: Comprensibles son las prevenciones de la Resolución del Parlamento Europeo sobre esta materia, y preciso habrá de ser el régimen de responsabilidad civil que se adopte para regular los daños ocasionados por robots dotados de autonomía, puesto que existe una gran complejidad en el posible reparto de culpas, entre los diferentes agentes involucrados, sumándose además la complejidad resultante de la posible acción originadora de daño a la que me voy a permitir la licencia de denominarla de forma poco técnica como "la culpa del robot", de difícil imputación y que con más razón exigirá un régimen de responsabilidad objetiva y/o solidaria frente al tercero perjudicado. Este nuevo futuro y las necesidades jurídicas que traiga no se encuentran lejos. Basta recordar que hace ya muchos años que la máquina derrotó a Gary Kasparov y en aquel momento nadie se lo esperaba...

References: resolución 
 Resolución 
 Resolución 
 Resolución 
 Resolución 
 resolución 
 resolución 
 Resolución