Source: http://laadministracionaldia.inap.es/noticia.asp?id=1510413
Timestamp: 2020-05-26 18:36:07+00:00

Document:
EDICIÓN DE 12/03/2020
El uso de la inteligencia artificial en el sector público es creciente y, en consecuencia, el establecimiento de un adecuado sistema de garantías jurídicas previas y a posteriori resulta imprescindible desde la óptica del Estado de Derecho. Esta misma óptica dicta, según el paradigma ortodoxo, que la última parcela de control y, en consecuencia, de garantías se residencia en los órganos jurisdiccionales. El presente trabajo se centra en este aspecto.
Susana de la Sierra es Profesora Titular de Derecho Administrativo de la Universidad de Castilla-La Mancha. Ex – Letrada del Gabinete Técnico del Tribunal Supremo
RESUMEN: El uso de la inteligencia artificial en el sector público es creciente y, en consecuencia, el establecimiento de un adecuado sistema de garantías jurídicas previas y a posteriori resulta imprescindible desde la óptica del Estado de Derecho. Esta misma óptica dicta, según el paradigma ortodoxo, que la última parcela de control y, en consecuencia, de garantías se residencia en los órganos jurisdiccionales. El presente trabajo se centra en este aspecto y ello desde una doble vertiente.
Por un lado, los órganos jurisdiccionales son, como se indicaba, quienes en última instancia controlan el uso por el sector público de la inteligencia artificial en diversas manifestaciones. Cabe plantearse si la justicia administrativa, tal y como se encuentra configurada a día de hoy, resulta apta para dar respuesta a esta necesidad. Este interrogante se ha planteado ya y conviene profundizar en el mismo, toda vez que el sistema de selección de jueces y de composición de los órganos jurisdiccionales requiere probablemente una revisión para permitir que quienes imparten justicia posean las competencias necesarias para el desempeño de sus funciones. En este sentido, el apoyo de personal técnico o la integración del mismo en dichos órganos jurisdiccionales son aspectos a tener en consideración.
Por otro lado, se propone reflexionar sobre el uso de la inteligencia artificial por los órganos jurisdiccionales en el ejercicio de sus funciones o por otros sujetos que participan del proceso. Entre las cuestiones a tratar se encuentran los sistemas de predicción de resoluciones judiciales (cabe mencionar aquí la reciente y polémica prohibición en Francia de la publicidad de estos datos) o el uso de algoritmos en la práctica judicial.
El tratamiento de las garantías jurisdiccionales de la Administración inteligente y por medio de instrumentos (jurisdiccionales) asimismo inteligentes requiere, desde el punto de vista metodológico, ubicar la cuestión de investigación en diversos planos. Por un lado, se plantea de qué manera y con qué alcance los órganos contencioso-administrativos controlan a esta Administración. Por otro lado, y de forma complementaria, se introduce el interrogante sobre el uso de la inteligencia artificial no por la Administración sino por los jueces.
La primera de las cuestiones enlaza con debates clásicos en el Derecho Administrativo, que aparecen ahora revestidos de una pátina de novedad al hilo de la evolución social y tecnológica. En este sentido, cabe ubicar la reflexión en el contexto de la extensión y los límites de la jurisdicción contencioso-administrativa. Si la evolución del Derecho Administrativo continental ha venido pareja a la evolución del contencioso-administrativo, ello se ha contemplado históricamente desde la óptica de la lucha contra las inmunidades del poder. Así, de forma paulatina la justicia administrativa se fue equiparando a la justicia en otros órdenes jurisdiccionales, ampliando los reductos últimos que justificaban las excepciones al control.(1) La preocupación subyacente a este devenir no era sino una determinada concepción de la división de poderes y hasta qué punto – y con qué argumentos jurídicos y de teoría del Estado – los órganos jurisdiccionales podían controlar a la Administración Pública y, en su caso, determinar la dirección(2) que habría de seguir la actividad del brazo instrumental del poder ejecutivo.
La segunda vertiente de la relación entre justicia e inteligencia artificial surge del uso de dichos instrumentos en la confección y la emisión de resoluciones judiciales. El uso de los medios electrónicos en la Administración de Justicia data ya de hace algunos años y su implantación recuerda en sus fases a la implantación de la Administración electrónica. Son muchos los problemas que la práctica todavía comporta para el desarrollo de la Justicia electrónica o e-Justicia y uno no menor es la interoperabilidad de los sistemas: los autonómicos con el estatal y los primeros entre sí, así como la interoperabilidad de distintos sistemas dentro de un mismo espacio territorial. Por ello, el ordenamiento jurídico vigente se ha centrado especialmente en este aspecto, amén de otros de índole técnica.(3)
Sin embargo, el uso de la inteligencia artificial trasciende el mero uso de sistemas electrónicos para las comunicaciones en la Administración de Justicia. Así, desde hace un tiempo el desarrollo de sistemas de automatización de decisiones ha implicado a diversos actores en el proceso judicial y, primordialmente, a jueces y a abogados. Para estos últimos resulta esencial la confección de modelos de predicción de las resoluciones judiciales, a fin de impulsar las estrategias oportunas en defensa de los derechos e intereses de sus clientes. Para los órganos jurisdiccionales el desafío es, en su caso, apoyarse en los mentados sistemas de automatización de decisiones y hacerlo no sólo conforme a Derecho sino también conforme a principios de ética judicial. Todas estas cuestiones, que han sido meramente apuntadas en este apartado, serán expuestas con algo más de profundidad en las líneas que siguen.
2. JUSTICIA (ADMINISTRATIVA) COMO GARANTÍA ÚLTIMA. CONTEXTO Y ELEMENTOS PARA UN MARCO REGULATORIO E INSTITUCIONAL
La aproximación a la inteligencia artificial y su relación con el sector público se ha realizado hasta la fecha, y con carácter general, desde la perspectiva de la Administración, es decir, desde la perspectiva del uso por la Administración de la inteligencia artificial y los algoritmos. En definitiva, desde la óptica de la innovación tecnológica en el seno de las estructuras administrativas.(4) En particular, aunque no sólo, estas investigaciones se desarrollaron a raíz de la denominada Administración electrónica y su ámbito de conocimiento no ha hecho sino crecer en los últimos años.(5)
Desde otras áreas de conocimiento, además, se encuentran propuestas que completan los estudios sobre las estructuras administrativas y, en definitiva, sobre las estructuras del Estado. Dado que el Derecho Administrativo se inserta en un contexto constitucional, social y político, y su aprehensión tiene lugar teniendo en cuenta dichas coordenadas, conviene tener presentes tales aportaciones, en la medida en que puedan arrojar luz para la comprensión del fenómeno o para abordar problemas concretos que requieran de un panóptico para su comprensión global. Así, desde la Filosofía hace tiempo se plantea cómo afrontar la “administración numérica del mundo” (Sadin, 2013) y en el Congreso Mundial de Filosofía del Derecho de este mismo año 2019, bajo la rúbrica “Dignidad, democracia y diversidad”, se abundó en las implicaciones del digital en los tres conceptos enunciados.(6) Otros autores se han adentrado en las consecuencias para los sistemas políticos contemporáneos y la eventual consolidación de un “Ciberleviatán” y de un “proletariado cognitivo”, que, de no poner remedio a tiempo, sustituiría el concepto democrático de ciudadanía (Lassalle, 2019). En fin, continuando con iusfilósofos, hay quien recientemente ha indagado en el impacto de la inteligencia artificial en la profesión jurídica y en la aplicación del Derecho (Solar, 2019), cuestión que conecta de forma directa con la presente comunicación.
2.1. La innovación como instrumento y como objetivo
La reflexión sobre el control judicial de esta realidad ha sido más tardía que en el ámbito de las Administraciones Públicas, y así lo ha sido también la acción del legislador, que va a la rémora de la primera.(7) De forma embrionaria pudiera considerarse que un primer paso hacia el tratamiento normativo de la materia que ahora nos concierne es la ya citada Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia(8), si bien esta ley se circunscribe a regular el uso de medios electrónicos por órganos jurisdiccionales, emulando quizás la experiencia en el ámbito administrativo.
La finalidad es estrictamente instrumental, tal y como reza el Preámbulo de la norma, que persigue “generalizar el uso de las nuevas tecnologías para los profesionales de la justicia”, así como definir los requisitos técnicos necesarios para dotar de “seguridad en la transmisión de datos y cuantas otras exigencias se contentan en las leyes procesales”. Además de ello, la ley apunta a la lucha contra las dilaciones indebidas y a la agilización, gracias todo ello a las tecnologías en las comunicaciones.
El enfoque es, en efecto, instrumental, pero conecta con dos nociones que conviene rescatar y a las que se dedicarán las líneas que siguen: seguridad y agilidad. Sin embargo, antes de concluir este apartado, se ha de subrayar que la relevancia de esta regulación no es menor, dado que el posible uso de instrumentos de inteligencia artificial en la Administración de Justicia habría de partir de la digitalización del mayor número posible de documentos y de procedimientos, así como de la interconexión entre sistemas diversos, no solamente entre quienes imparten justicia sino también, por ejemplo, entre el expediente judicial y el expediente administrativo (Martínez Gutiérrez, 2019, passim).
2.2. Seguridad y agilidad
El concepto de seguridad en Derecho Público es plurisémico y permea las bases y la regulación del Derecho Administrativo clásico. Conecta, de un lado, con el Estado de Policía y con los instrumentos para regular el entorno. De otro lado, la seguridad se ha erigido en macroconcepto que determina la sociedad del riesgo, identificada de forma temprana por el alemán Ulrich Beck(9) y desarrollada con posterioridad por juristas en diversas latitudes. Entre nosotros, José Esteve Pardo es probablemente quien con mayor intensidad se ha ocupado del riesgo en el Derecho Público y de los postulados institucionales y normativos que se anudan al mismo. En 1999 apuntaba en su trabajo Técnica, riesgo y Derecho que “[l]a técnica ha superado las posibilidades del conocimiento de muchas Administraciones públicas” y continuaba afirmando que “[l]a actividad que tradicionalmente se ha venido encomendando a la Administración pública para el mantenimiento de la seguridad, y que se ha intentado nuclear en torno al concepto de policía administrativa, resulta ya en muchos casos difícil de dominar por estas instancias públicas cuando se encaran con las modernas tecnologías” (p. 23). En este sentido, apuntaba a dos recetas: o bien la Administración se rearma para hacer frente a los desafíos técnicos o bien acude a la ayuda de sujetos privados, a fin de que sean estos quienes desempeñen las funciones para las que la propia Administración no se encuentra preparada. Poco más adelante, Esteve planteaba justamente el problema de los tribunales, que habrían de decidir en la incerteza, debido a la complejidad planteada por la técnica y abundaba también en las implicaciones de todo ello desde la óptica de la responsabilidad.
Los desafíos de la inteligencia artificial y del uso de algoritmos en el seno de las Administraciones Públicas son herederos (entre otras fuentes) de las reflexiones que acaban de ser señaladas y que, lejos de ser aisladas, han generado abundantes líneas de tinta tanto en la doctrina como, algo menos, en la jurisprudencia.
La inseguridad que ahora interesa en el marco que se acaba de citar viene provocada por diversos factores. En primer lugar, la Administración utiliza instrumentos técnicos cuya razón última resulta desconocida para el funcionario medio, quien además ha de desarrollar nuevas destrezas, así como para el ciudadano. Ello se acrecienta con el uso de los denominados algoritmos opacos o de caja negra, sistemas que “permiten saber y observar qué información entra (input) y cuál es el resultado del procesamiento (output), pero no se puede examinar, ni entender, su funcionamiento interno” (Cerrillo/Velasco, 2019, 301, que se remiten en este aspecto a Card, 2017).
En segundo lugar, la seguridad puede verse amenazada mediante injerencias externas que alteren o suplanten las decisiones administrativas. Esta aproximación conecta con una visión integral del concepto de seguridad respecto del cual, en el ámbito europeo Luis Ortega (2005, 28) se manifestaba hace unos años en los siguientes términos:
“Pese a esta pluralidad de manifestaciones, desde nuestro punto de vista, en la medida en que todo ordenamiento jurídico debe estar contemplado desde la perspectiva de los derechos de los ciudadanos, entendemos que la seguridad debe contemplarse desde una perspectiva unitaria. Lo determinante es asegurar que la seguridad concreta de cada ciudadano no se ve afectada por intervenciones externas indeseables y a tal efecto y desde tal perspectiva es irrelevante que la amenaza se produzca en el seno de la Unión Europea o que esté originada más allá de sus fronteras, o si esta amenaza está provocada por el terrorismo, por la delincuencia organizada o por el riesgo ambiental o sanitario”.
A ello habría que añadir hoy el riesgo tecnológico y/o cibernético. Esta realidad requiere un abordaje regulatorio e institucional que vele por los derechos de la ciudadanía, siendo los órganos jurisdiccionales los garantes últimos de dichos derechos.
Ello requiere, en primer lugar, una reconceptualización de la noción de “ciudadano”, eje vertebrador del Derecho Administrativo contemporáneo. Y esto es así, por cuanto el destinatario de la acción administrativa contribuye a nivel macro en el suministro de la materia prima, los datos, que nutren el algoritmo correspondiente. Partiendo del status de la ciudadanía digital, habría de abordarse de forma paralela la normativa reguladora de las garantías, tanto las propias del procedimiento administrativo cuanto, en lo que ahora interesa, de la tutela judicial, baluarte último del Estado de Derecho. Los mimbres constitucionales y legales existentes podrían resultar insuficientes para ello, tanto a escala nacional como internacional. Cierto es que la interpretación jurídica, de forma singular la interpretación constitucional, puede garantizar una adecuada protección, pero idealmente convendría repensar el marco normativo actual para dar cabida de forma expresa a las nuevas realidades. Como se ha apuntado más arriba y se insistirá más adelante, el corpus legal actual regulador de la jurisdicción y, en particular, de la jurisdicción contencioso-administrativa resulta a todas luces insuficiente para integrar la nueva realidad.
En la Unión Europea no existen a día de hoy tampoco instrumentos de estas características, pero sí se ha de destacar la Resolución del Parlamento Europeo de 16 de febrero de 2017, con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica, adoptadas, entre otras consideraciones, por entender que
“ahora que la humanidad se encuentra a las puertas de una era en la que robots, bots, androides y otras formas de inteligencia artificial cada vez más sofisticadas parecen dispuestas a desencadenar una nueva revolución industrial —que probablemente afecte a todos los estratos de la sociedad—, resulta de vital importancia que el legislador pondere las consecuencias jurídicas y éticas, sin obstaculizar con ello la innovación”.
Esta Resolución sitúa en el núcleo del marco normativo el principio de responsabilidad y apela a principios éticos – que entiendo habrían de ser juridificados en su mayor parte –, señalando en este contexto que “el potencial de empoderamiento que encierra el recurso a la robótica se ve matizado por una serie de tensiones o posibles riesgos y que debe ser evaluado detenidamente a la luz de la seguridad y la salud humanas; la libertad, la intimidad, la integridad y la dignidad; la autodeterminación y la no discriminación, y la protección de los datos personales”. Entre todos los objetivos que habría de perseguir la regulación se sitúa, en consecuencia, la seguridad, de la que derivarían en definitiva el resto de valores. Además, tras insistir en la necesidad de garantizar la transparencia, en especial en relación con la “caja negra”, y en la importancia de los principios éticos (singularizando líneas de actuación concretas), el texto concluye mencionando dichos principios, a saber: beneficencia, no maleficencia, autonomía y justicia. A estos principios habrían de sumarse los consagrados en la Carta de los Derechos Fundamentales de la Unión Europea (en este caso ya dotados de carácter jurídico) y, en particular, la dignidad humana, la igualdad, la justicia y la equidad, la no discriminación, el consentimiento informado, la vida privada y familiar y la protección de datos. Por último, la Resolución entiende de aplicación “otros principios y valores inherentes al Derecho de la Unión, como la no estigmatización, la transparencia, la autonomía, la responsabilidad individual y la responsabilidad social, sin olvidar las actuales prácticas y códigos éticos”.
Como resulta apreciable, el Parlamento se cura en salud y apunta a numerosos principios, algunos ya juridificados y otros en proceso no sólo de juridificación, sino de identificación de sus contornos y su contenido, como el de no maleficencia, procedente de la bioética. Y ello para enmarcar desde el Estado de Derecho una realidad inasible por desconocida, en la medida en que ni hoy cabe aprehender su dimensión concreta ni resulta posible vaticinar su desarrollo. Junto a principios cuyo contenido requiere todavía una reflexión más profunda en este nuevo contexto – como el citado principio de no maleficencia o la aplicación en este ámbito del principio de no estigmatización – conviven otros clásicos que, por las peculiaridades de la nueva realidad, requieren ser repensados. Es el caso, que ahora nos ocupa, del principio de justicia.
Cabe adelantar ahora que, como es natural, incluso un principio tan clásico como es el de justicia requiere concreción y se ha de subrayar, por las implicaciones que ello pueda comportar, que la Resolución del Parlamento indica de forma expresa que viene referida al Derecho Civil. En este punto, aun cuando no se pueda profundizar ahora en ello, se ha de recordar el debate existente en Derecho Comparado sobre la dimensión del término “Derecho Civil” en su versión inglesa y, por lo tanto, las implicaciones que comporta el uso de dicha expresión en determinados contextos internacionales, por cuanto el Derecho Administrativo no tiene por qué encontrarse necesariamente excluido y sí, por ejemplo, el Derecho Penal.(10)
No obstante, y a pesar de estas precauciones metodológicas, se ha de subrayar que la jurisdicción contencioso-administrativa y el control que ejercen sus órganos sobre la Administración se han diferenciado históricamente en nuestro país, como en otros, de la actividad de otros órganos jurisdiccionales y, en particular, de aquellos que conocen de los litigios entre sujetos privados. Por esta razón, el marco jurídico que propone el Parlamento Europeo, y cuya suerte concreta está por ver, es posible que no encaje de forma absoluta en la jurisdicción contencioso-administrativa, pero sí de forma parcial, pretiriendo aquellos principios que no resulten de aplicación o reelaborando otros privativos de este orden jurisdiccional que conecten con las razones últimas que guiaron su nacimiento y su desarrollo.
En fin, se ha de completar este apartado señalando que hasta la fecha esta iniciativa del Parlamento no ha presentado ulterior recorrido normativo, pero en otras coordenadas, en el Consejo de Europa, en el seno de la Comisión Europea para la Eficiencia de la Justicia (CEPEJ) sí se ha aprobado a finales del año 2018 la Carta Ética Europea sobre el Uso de la Inteligencia Artificial en los Sistemas Judiciales.(11)
La regulación de esta cuestión parece encaminarse, de hecho, a una combinación de normas de naturaleza tradicional junto con criterios de ética judicial, cuya importancia es creciente, toda vez que en ocasiones se parte del entendimiento de que la excesiva heteronormativización del poder judicial puede interferir en su independencia y el establecimiento de códigos éticos, controlados por órganos dentro de dicho poder judicial se compadece mejor con el criterio de la independencia. En este marco, se ha de mencionar la joven Comisión de Ética Judicial, en el seno del Consejo General del Poder Judicial, que emite informes y dictámenes, pero que hasta la fecha no ha tenido ocasión de pronunciarse sobre la materia que ahora nos ocupa.(12) Y tampoco el mencionado Consejo ha elaborado línea de actuación alguna en esta línea, más allá de las cuestiones técnicas relacionadas con el expediente judicial electrónico que se mencionan en otros apartados del presente trabajo.
Se ha de realizar una última mención a la agilidad del proceso como uno de los objetivos que persigue el uso de la inteligencia artificial y de los algoritmos en la justicia. La lentitud de los procedimientos y su vinculación con la tutela judicial efectiva ha sido una constante en la teoría y la aplicación práctica de la jurisdicción contencioso-administrativa. Así, y en el marco del estudio del tiempo en el proceso, recordaba hace algunos años que “[l]a situación creada por la aceleración vital y por la importancia creciente del fenómeno temporal en el proceso ha llevado a algunos autores de ciertos Estados a afirmar que la urgencia es, de hecho y de Derecho, una exigencia constitucional” (De la Sierra, 2004, p. 121). En este sentido, las llamadas a la aplicación de algoritmos, de modelos matemáticos en la interpretación y aplicación del Derecho, en especial respecto de asuntos repetitivos o muy delimitados, podría contribuir a este objetivo (Viola, 2018). Sin embargo, ello habría de hacerse con las cautelas que derivan de precedentes que han fracasado, que requieren revisión (por ejemplo, por contener sesgos; Simonite, 2019) o a las aportaciones doctrinales que alertan sobre posibles excesos y sobre sus limitaciones (De la Oliva, 2019).
3. EL CONTROL JURISDICCIONAL DE UNA ADMINISTRACIÓN INTELIGENTE: VIEJOS Y NUEVOS DEBATES
En el contexto de las inmunidades del poder históricamente destacó una, la discrecionalidad administrativa y su control, que ha suscitado una ingente bibliografía. Ciertamente, la cuestión que interesa ahora no es, en principio, una cuestión derivada de la discrecionalidad administrativa, es decir, no se trata de controlar la actuación de una Administración a la que el ordenamiento jurídico confiere un margen de apreciación y estima que existen diversas soluciones jurídicamente correctas. Pero sí conecta con la discrecionalidad administrativa y, en particular, con la discrecionalidad técnica, en la medida en que se trata de controlar decisiones dotadas de complejidad técnica.
Si en la discrecionalidad administrativa la complejidad responde a la intervención en la decisión administrativa de ciencias distintas del Derecho, como la Economía o la Ingeniería, en el ámbito que ahora nos ocupa la complejidad deriva de la aplicación de un programa informático y de un lenguaje artificial. Las posibilidades y la extensión del control, así como la adecuación de los órganos jurisdiccionales para el ejercicio de dicho control, sugieren interrogantes semejantes. Al respecto, se ha de reflexionar sobre la incorporación de profesionales procedentes de otras disciplinas en los órganos jurisdiccionales o bien el establecimiento de canales de comunicación institucionalizada efectivos, de modo que quien ejerce la función jurisdiccional pueda hacerlo apoyándose en conocimientos técnicos de otros profesionales, más allá de la intervención clásica de peritos en el proceso (De la Sierra, 2019, con remisión a otros autores).
En este sentido, cabe plantear si la formación actual de los distintos agentes del proceso, de forma singular abogados y jueces, es la más adecuada para estos desafíos y si no resulta conveniente, en consecuencia, repensar este aspecto, tanto desde la perspectiva de la formación inicial como del aprendizaje durante el ejercicio de la profesión (a esta cuestión se refiere Cerdá Messeguer, 2017, 385 – 390, con consideraciones extrapolables también a otras profesiones jurídicas).
4. CARA Y CRUZ DE UNA JUSTICIA (ADMINISTRATIVA) ALGORÍTMICA
La segunda dimensión de la relación entre justicia e inteligencia artificial – la principal en este momento - guarda relación con el uso por la justicia de dichos instrumentos. En este punto se ha de desbrozar aquello que resulta genuinamente novedoso y conectarlo asimismo con debates anteriores, tanto en la teoría del Derecho como en el ámbito del Derecho procesal y del Derecho administrativo, a fin de centrar la atención en la jurisdicción contencioso-administrativa con sus particularidades.
Como se apuntó más arriba, el uso en la justicia de medios tecnológicos se ha asociado hasta la fecha – en el ámbito institucional normativo – únicamente, y en esencia, al expediente judicial electrónico, esto es, al empleo de medios electrónicos en la tramitación de un procedimiento judicial, a fin de garantizar agilidad, transparencia y, de nuevo, seguridad. Ahora bien, desde las instituciones no se ha abordado siquiera de forma embrionaria la eventual utilidad, los peligros y las barreras, de los algoritmos y la inteligencia artificial en la producción de resoluciones judiciales.
Sin embargo, de un tiempo a esta parte – desde luego en otras coordenadas geográficas - se viene analizando la posibilidad de predecir las resoluciones judiciales, así como la de dictar sentencias “robóticas” o automatizadas (Cerrillo/Velasco, 2019; De la Oliva, 2019; Nieva, 2018; Viola, 2018, entre otros). Ambas cuestiones – predicción y producción de sentencias automatizadas - se encuentran, sin lugar a dudas conectadas, y enlazan – más la segunda que la primera - con aquello que en el año 2000 Alejandro Nieto calificó como “la falacia de la única solución correcta” (2000, 60). Dejando de lado por un momento la particularidad (no menor) que presenta el uso de la inteligencia artificial y el algoritmo, en tanto no dejan de ser instrumentos concretos al servicio de un fin, la aproximación a esta materia en general se realiza desde un apriorismo metodológico y conceptual que la Teoría del Derecho lleva décadas debatiendo: si existe o puede existir una única solución correcta. Y, aunque resulta osado tratar de resumir aquí todas las líneas vertidas sobre la materia, a efectos de síntesis resaltaría lo siguiente.
(1)	La Teoría del Derecho y el Derecho Administrativo tienen asumido que en ocasiones la configuración de la norma ofrece una consecuencia jurídica, en principio, clara y única, mientras que en otras ocasiones (la mayor parte de ellas, probablemente), el enunciado normativo resulta susceptible de interpretación o bien permite al operador jurídico, en este caso las Administraciones Públicas y los órganos jurisdiccionales, adoptar diversas soluciones, todas ellas jurídicamente válidas en el marco del enunciado normativo. Muchos autores se han ocupado de materias tales como la distinción entre principios y reglas o, en el ámbito administrativo, el binomio potestad reglada – potestad discrecional, tratando de delimitar la operatividad de los principios y de la discrecionalidad y apostando incluso por reducir esta última a cero. En este contexto, las teorías de la argumentación y del discurso, en relación con la interpretación jurídica, se han de traer ahora al presente debate. En efecto, la pregunta sobre la automatización de las decisiones judiciales, así como la concerniente a la regulación y aplicación del algoritmo que habría de permitir lo anterior, en mi opinión no pueden prescindir de estas aportaciones, revividas ahora a la luz de los nuevos postulados tecnológicos.
(2)	En Derecho español, al menos en su configuración normativa actual, el precedente no es vinculante como en los sistemas jurídicos de la órbita anglosajona o, si se prefiere, tiene una vinculación matizada. Ello es así en el ámbito estrictamente administrativo, donde la Administración puede apartarse del precedente si motiva su decisión, amén de las consideraciones que quepa realizar en relación con el principio de confianza legítima y su aplicación en casos concretos (Díez, 2008). En el ámbito judicial el precedente tampoco vincula en sentido estricto y, si bien no existe regulación semejante a la existente para las Administraciones Públicas, el órgano judicial en cada caso podrá apartarse no sólo de sus precedentes en sentido estricto, sino también de la jurisprudencia emanada, en su caso, de órganos jurisdiccionales superiores, incluido el Tribunal Supremo, pero también habrá de ofrecer razones jurídicas que justifiquen tal apartamiento.
En este punto han de realizarse algunas precisiones, a la luz justamente de las mutaciones de la justicia administrativa y del papel adquirido por la Sala Tercera del Tribunal Supremo con la reforma del recurso de casación contencioso-administrativo. Esta reforma sigue la estela de las operadas en otros órdenes jurisdiccionales en España, que situaron también el foco de atención en el concepto de “interés casacional objetivo” y ofrecieron al juez supremo la competencia para admitir los recursos de casación sobre la base del mismo, en ocasiones con un margen de apreciación muy amplio (Cazorla/Cancio, 2017). Ello encuentra reflejo, por otra parte, en recursos ante órganos jurisdiccionales supremos en otros países y se justifica en la necesidad de dotar de medios a la justicia para afrontar la masificación y asegurar la tutela judicial efectiva de los justiciables (Informe explicativo y propuesta de anteproyecto de ley de eficiencia de la Jurisdicción Contencioso-Administrativa, 2013).
De un lado, el legislador ha configurado este recurso como un instrumento con una finalidad nomofiláctica, de depuración del ordenamiento jurídico. Su objetivo no es tanto casar una sentencia de instancia, aun cuando la estimación del recurso comporte la casación, sino ofrecer una interpretación con carácter general, singularmente útil ante lagunas o aspectos oscuros en la norma o bien ante discrepancias entre órganos judiciales inferiores. En este sentido, la jurisprudencia de la Sala Tercera resultaría “especialmente vinculante” (el énfasis es mío), con la particularidad de que la vocación interpretativa del nuevo recurso hace que, en principio, con una sentencia se habría aclarado la duda planteada en el auto de admisión del recurso de casación y, en consecuencia, no resultaría necesaria una segunda sentencia en el sentido requerido por el artículo 1.6 del Código Civil. De lege data es evidente que esto no es así y que el legislador no ha redefinido de forma expresa el artículo 1 del Código Civil en este aspecto ni tampoco ha reformulado, en consecuencia, el valor y las características de la jurisprudencia del Tribunal Supremo. Sin embargo, en la práctica el nuevo recurso presenta fricciones con el modelo clásico y parece conveniente que esta cuestión se clarifique de lege ferenda.
De otro lado, y conectando de modo más preciso con el contenido del presente trabajo, la fase de admisión en el actual sistema de justicia administrativa suprema presenta una dimensión de la que carecía con anterioridad, dado que ahora es la Sección de Admisión de la Sala Tercera quien fija la agenda de dicha Sala. En consecuencia, la jurisprudencia del Tribunal Supremo depende de esta labor de filtro y esta fase adquiere en consecuencia una dimensión hasta ahora mucho menor, pero que cuenta con precedentes en otras coordenadas geográficas, a las que se remite el Informe explicativo al que antes me he referido y que antecedió a la reforma del recurso de casación. Así, cabe evocar aquí el writ of certiorari estadounidense, donde el arbitrio de los jueces del Tribunal Supremo es absoluto a la hora de decidir qué cuestiones entran en la agenda decisoria y cuáles no. En este sentido, y para orientar a los abogados, hace tiempo se desarrollaron sistemas de predicción, ahora tan en boga pero entonces en estado embrionario. Algunas obras ofrecían y ofrecen un elenco detallado de indicaciones que habrían guiado a los jueces a la hora de tomar su decisión (Perry, 1991). Con ello parece indicarse que los jueces se mueven por parámetros previsibles en cierta medida, incluso en aquellos supuestos en que la norma les ofrece un ámbito casi absoluto de apreciación. Esta afirmación y el análisis de su contenido pueden arrojar algo de luz en las hipótesis de trabajo sobre la posibilidad de automatizar las resoluciones judiciales y, en particular, aquellas en las que no cabe una única solución correcta, sino que el margen de apreciación es amplio.
La aplicación de la inteligencia artificial en la justicia (administrativa) ha presenciado una aparición más tardía que en otros sectores de la realidad jurídica, pero a día de hoy ningún operador jurídico resulta ajeno a esta realidad. El resultado de la administración de justicia depende de diversos factores, también de qué litigios alcancen a los órganos jurisdiccionales y cómo lleguen estos preparados. La masificación y los costes del pleito aconsejan la optimización de los recursos económicos y humanos, circunstancia que ha determinado, por ejemplo, la elaboración de los mencionados sistemas de predicción de resoluciones judiciales que, bajo la rúbrica de jurimetría, han conocido en los últimos tiempos un crecimiento exponencial.(13)
Algunos legisladores han prestado atención a esta realidad, sancionándola. Es el caso de Francia, donde recientemente se ha aprobado la Ley núm. 2019-222, de 23 de marzo de 2019, de programación 2018-2022 y de la reforma de la justicia, cuyo artículo 33 se inserta en el Título II, sobre la simplificación del procedimiento civil y administrativo; Capítulo II, que persigue asegurar la eficacia en la instancia; y Sección Tercera, concerniente a la publicidad de las resoluciones judiciales y al derecho al respeto a la vida privada. Dicho artículo modifica, entre otras normas, el Título Preliminar del Código de Justicia Administrativa y, en particular, los apartados segundo y tercero del artículo L. 10. El apartado segundo dispone la publicidad a título gratuito y en formato electrónico de las resoluciones judiciales, así como el deber de anonimización en las mismas en relación con las personas físicas mencionadas. Además, señala el artículo que si la divulgación puede potencialmente comportar riesgo para la seguridad o el respecto de la vida privada de dichas personas o de su entorno, se ha de ocultar asimismo cualquier elemento que pueda identificar a las partes y a los terceros, pero también a los magistrados o a los miembros de la oficina judicial.
El apartado tercero, el más polémico, reza como sigue (la traducción es mía, no oficial): “Los datos concernientes a la identidad de los magistrados y miembros de la oficina judicial no puede ser objeto de una reutilización que tenga por objeto o por efecto evaluar, analizar, comparar o predecir sus prácticas profesionales reales o supuestas”. El incumplimiento conlleva un reproche penal, sin perjuicio de las medidas y sanciones previstas en la Ley núm. 78-17, de 6 de enero de 1978, relativa a la informática, los ficheros y a las libertades. El reproche penal lo reenvía esta ley a diversos artículos del Título II del Código Penal (atentados contra la persona humana), Capítulo VI (atentados contra la personalidad), Sección Quinta (atentados contra los derechos de la persona que resultan de ficheros o de tratamientos informáticos) y la pena puede alcanzar los cinco años de prisión, además de otras penas complementarias.
Más allá de esta previsión concreta en el Código de Justicia Administrativa, el citado artículo 33 de la Ley de 23 de marzo de 2019 modifica el Código de la Organización Judicial y el Código de Comercio, en sentido equivalente. La Ley no ofrece explicaciones que indiquen la razón subyacente a tal reforma normativa y a la inclusión de un tipo como el descrito acompañado de una pena privativa de libertad. Siendo esto así, parece una normativa dirigida a la protección del colectivo judicial desde la óptica de la protección de datos.(14)
La inteligencia artificial y el uso de algoritmos en las Administraciones Públicas son reflejo de un nuevo contexto que, en relación con las nociones de innovación, transparencia y datos, han sido objeto de reflexión por la doctrina académica desde hace algunos años. El control jurisdiccional de esta Administración inteligente o algorítmica requiere repensar la organización judicial y la composición de los órganos jurisdiccionales, así como proceder a la reforma de sus normas reguladoras.
Por otro lado se presenta una cuestión más novedosa, cual es el uso de estos instrumentos inteligentes por jueces y magistrados, así como por el resto de agentes que participan en el proceso. Esta nueva realidad plantea desafíos que el marco jurídico todavía no ha abordado ni a nivel nacional ni a nivel supranacional. En este último ámbito existen disposiciones de naturaleza no normativa que insisten en la dimensión ética del fenómeno y apuntan al comportamiento del juez. Siendo esto loable, y conectando con la creciente importancia de la ética judicial en el ámbito institucional, estas iniciativas han de ser completadas con una agenda normativa que, tras el análisis del statu quo, proceda a reformar la Ley Orgánica del Poder Judicial y la Ley de la Jurisdicción Contencioso-Administrativa. Para ello bien pudiera servir, al menos parcialmente y tanto en sus aciertos como en sus errores, la experiencia de la regulación de esta materia en el ámbito administrativo, así como el análisis de las experiencias en otros países, tanto aquellas que han tenido éxito como las que han fracasado, estudiando en consecuencia los motivos de dicho fracaso.
Barrio Andrés, Moisés (dir.) (2019), La transformación digital de la abogacía¸ Wolters Kluwer, Madrid.
Barrio Andrés, Moisés (dir.) (2018), Derecho de los robots, Wolters Kluwer, Madrid.
Beck, Ulrich (1986), Risikogesellschaft. Auf dem Weg in eine andere Moderne, Suhrkamp.
Canals i Ametller, Dolors (2019), El proceso normativo ante el avance tecnológico y la transformación digital (inteligencia artificial, redes sociales y datos masivos), en Revista General de Derecho Administrativo, núm. 50, Análisis monográfico: Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data (coordinado por Andrés Boix Palop y Lorenzo Cotino Hueso).
Card, Dallas (2017), The “black box” metaphor in machine learning, en enlace [último acceso el 27 de septiembre de 2019].
Cazorla Prieto, Luis María/Cancio Fernández, Raúl César (2017), Estudios sobre el Nuevo Recurso de Casación Contencioso-Administrativo, Thomson Reuters Aranzadi, Pamplona.
Cerdá Meseguer, Juan Ignacio (2013), La protección de datos personales en el expediente judicial electrónico: ¿una regulación insuficiente?, en Julián Valero Torrijos (coord.), “La protección de datos personales en internet ante la innovación tecnológica: riesgos, amenazas y respuestas desde la perspectiva jurídica”, Thomson Reuters Aranzadi, Pamplona, pp. 457 – 488.
Cerdá Messeguer, Juan Ignacio (2017), El expediente judicial electrónico, Tesis Doctoral, Universidad de Murcia, disponible en enlace [último acceso el 27 de septiembre de 2019].
Cerillo Martínez, Agustí (2019), El impacto de la inteligencia artificial en el Derecho Administrativo. ¿Nuevos conceptos para nuevas realidades técnicas?, Revista General de Derecho Administrativo, núm. 50, Análisis monográfico: Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data (coordinado por Andrés Boix Palop y Lorenzo Cotino Hueso).
Cerrillo Martínez, Agustí/Velasco Rico, Clara I. (2019), Jurisdicción, algoritmos e inteligencia artificial, en Fernando López Ramón/Julián Valero Torrijos (coords.), “20 años de la Ley de lo Contencioso-Administrativo”, Actas del XIV Congreso de la Asociación de Profesores de Derecho Administrativo, INAP, Madrid, pp. 292 – 303.
Cotino Hueso, Lorenzo (2019), Riesgos e impactos del Big Data, la inteligencia artificial y la robótica. Enfoques, modelos y principios de la respuesta del Derecho, en Revista General de Derecho Administrativo, núm. 50, Análisis monográfico: Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data (coordinado por Andrés Boix Palop y Lorenzo Cotino Hueso).
Cotino Hueso, Lorenzo (2019), Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y Big Data confiables y su utilidad desde el Derecho, Revista catalana de dret públic, núm. 58, pp. 29 – 48.
Cotino Hueso, Lorenzo/Valero Torrijos, Julián (2019), Conclusiones del I Seminario Internacional Derecho Administrativo e Inteligencia Artificial, UCLM, Facultad de Ciencias Jurídicas y Sociales, Toledo, 1 de abril de 2019, disponibles en enlace [último acceso el 27 de septiembre de 2019].
De la Sierra, Susana (2019), La justicia contencioso-administrativa en perspectiva comparada, en Fernando López Ramón/Julián Valero Torrijos (coords.), “20 años de la Ley de lo Contencioso-Administrativo”, Actas del XIV Congreso de la Asociación de Profesores de Derecho Administrativo, INAP, Madrid, pp. 729 -732.
De la Sierra, Susana (2004), Tutela cautelar contencioso-administrativa y Derecho Europeo: Un estudio normativo y jurisprudencial, Thomson Aranzadi, Pamplona.
De la Oliva Santos, Andrés (2019), “Justicia predictiva”, interpretación matemática de las normas, sentencias robóticas y la vieja historia del “Justizklavier”, El Cronista del Estado Social y Democráctico de Derecho, núm. 50, pp. 30 – 37.
Díez Sastre, Silvia (2008), El precedente administrativo: fundamentos y eficacia vinculante, Marcial Pons, Madrid.
Esteve Pardo, José (1999), Técnica, riesgo y Derecho, Ariel, Barcelona.
Gamero Casado, Eduardo/Valero Torrijos, Julián (coords.) (2012), Las tecnologías de la información y la comunicación en la Administración de Justicia: análisis sistemático de la Ley 18/2011, de 5 de julio, Thomson Reuters Aranzadi, Pamplona.
Lassalle, José María (2019), Ciberleviatán, Arpa, Barcelona.
Martín Delgado, Isaac (2009), Naturaleza, concepto y régimen jurídico de la actuación administrativa automatizada, Revista de Administración Pública, núm. 180, pp. 353 -386.
Martínez Gutiérrez, Rubén (2019), Los retos de la innovación tecnológica en la jurisdicción contencioso-administrativa, en Fernando López Ramón/Julián Valero Torrijos (coords.), “20 años de la Ley de lo Contencioso-Administrativo”, Actas del XIV Congreso de la Asociación de Profesores de Derecho Administrativo, INAP, Madrid, pp. 213 – 245.
Nieto, Alejandro (2000), El arbitrio judicial, Ariel Derecho, Barcelona.
Nieva Fenoll, Jordi (2019), Intel.ligència artificial i Justícia. Un canvi generacional en el procés judicial, LÈspill, núm. 50, pp. 109 – 122.
Nieva Fenoll, Jordi (2018), Inteligencia artificial y proceso judicial, Marcial Pons, Madrid.
Luis Ortega Álvarez (dir.) (2005), La seguridad integral europea, Lex Nova, Valladolid.
Perry, H.W., Jr. (1999), Deciding to Decide. Agenda Setting in the United States Supreme Court, Harvard University Press, Cambridge, Massachusetts.
Pitschas, Rainer (2006), El Derecho Administrativo de la Información. La regulación de la autodeterminación informativa y el Gobierno electrónico, en Javier Barnés (ed.), “Innovación y reforma en el Derecho Administrativo”, Global Press/Editorial Derecho Global, Sevilla, pp. 203 – 262.
Ponce Solé, Juli (2019), Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico, en Revista General de Derecho Administrativo, núm. 50, Análisis monográfico: Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data (coordinado por Andrés Boix Palop y Lorenzo Cotino Hueso).
Sadin, Eric (2013), L’humanité augmentée. L’administration numérique du monde, L’Échappée, Montreuil.
Sánchez Barrilao, Juan Francisco (2018), Derecho constitucional, desarrollo informático e inteligencia artificial. Aproximación a la propuesta del Parlamento Europeo a favor de una regulación sobre robótica, en Javier Valls Prieto (coord.), “Retos jurídicos por la sociedad digital”, Thomson Reuters Aranzadi, Pamplona, pp. 21 - 76.
Schmidt-Assmann, Eberhard (2006), Cuestiones fundamentales sobre la reforma de la teoría general del Derecho Administrativo. Necesidad de la innovación y presupuestos metodológicos, en Javier Barnés (ed.), “Innovación y reforma en el Derecho Administrativo”, Global Press/Editorial Derecho Global, Sevilla, pp. 15 - 132.
Simonite, Tom (2019), Algorithms Should’ve Made Courts More Fair. What Went Wrong?, enlace [ultimo acceso el 21 de septiembre de 2019].
Solar Cayón, José Ignacio (2019), La inteligencia artificial jurídica. El impacto de la innovación tecnológica en la práctica del derecho y el mercado de servicios jurídicos, Thomson Reuters Aranzadi, Pamplona.
Valero Torrijos, Julián (2013), Derecho, Innovación y Administración Electrónica, Global Law Press, Sevilla.
Velasco, Francisco (dir.) (2013), Informe explicativo y propuesta de anteproyecto de ley de eficiencia de la Jurisdicción Contencioso-Administrativa, Ministerio de Justicia
Viola, Luigi (2018), Interpretazione della legge con modelli matematici. Processo, a.d.r., giustizia predittiva. Vol. I, Diritto Avanzato, Milán, segunda edición.
(1). Sobre esta cuestión histórica clásica, a la luz del nuevo contexto jurídico y social, se debatió ampliamente en el XIV Congreso de la Asociación Española de Profesores de Derecho Administrativo celebrado en Murcia los días 8 y 9 de febrero de 2019 y cuyas Actas se encuentran publicadas por el Instituto Nacional de Administración Pública en 2019. A quien escribe le correspondió realizar la relación de síntesis en el apartado correspondiente al Derecho Comparado, y ello con el título La justicia contencioso-administrativa en perspectiva comparada, pp. 729 -732. En dichas Conclusiones se mencionaron algunas cuestiones relacionadas con el presente trabajo, que habían sido objeto de debate en distintos momentos durante el Congreso.
(2). El concepto “dirección” se utiliza aquí en el sentido de la doctrina alemana, que ha elaborado una teoría sobre la “dirección” en el Derecho Administrativo, siendo esta, de forma sumaria, el impulso concreto que un determinado corpus jurídico-administrativo imprimiría a la Administración en un momento dado a través de dicho marco conceptual y regulatorio. El Derecho Administrativo sería, así, una “Ciencia de dirección”. Cfr. con carácter general y en castellano Eberhard Schmidt-Assmann, Cuestiones fundamentales sobre la reforma de la teoría general del Derecho Administrativo. Necesidad de la innovación y presupuestos metodológicos, en Javier Barnés (ed.), “Innovación y reforma en el Derecho Administrativo”, Global Press/Editorial Derecho Global, Sevilla, 2006, pp. 15 - 132. En el mismo volumen se incluye el trabajo de Rainer Pitschas titulado El Derecho Administrativo de la Información. La regulación de la autodeterminación informativa y el Gobierno electrónico (pp. 203 – 262). Si bien su objeto de conocimiento es más reducido que el que ahora nos ocupa, el trabajo sí anticipa cuestiones por venir y, en la identificación de una agenda metodológica para el Derecho (Administrativo), insiste en la necesidad de “establecer una mejor distribución de responsabilidades o tareas en el seno de la red, entre los distintos sujetos intervinientes (esto es, la idea de “responsabilidades de la red”)”, p. 240.
(3). Se ha de citar, en particular, la Ley 18/2011, de 5 de julio, reguladora del uso de las tecnologías de la información y la comunicación en la Administración de Justicia, desarrollo del artículo 230 de la Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial, cuyo apartado primero dispone lo siguiente:
“1. Los juzgados y tribunales y las fiscalías están obligados a utilizar cualesquiera medios técnicos, electrónicos, informáticos y telemáticos, puestos a su disposición para el desarrollo de su actividad y ejercicio de sus funciones, con las limitaciones que a la utilización de tales medios establecen el capítulo I bis de este título y la normativa orgánica de protección de datos personales.
Las instrucciones generales o singulares de uso de las nuevas tecnologías que el Consejo General del Poder Judicial o la Fiscalía General del Estado dirijan a los jueces y magistrados o a los fiscales, respectivamente, determinando su utilización, serán de obligado cumplimiento.”
A partir de ahí, el artículo contempla previsiones específicas sobre la validez de los documentos, otros aspectos procedimentales y, en fin, se remite al Comité Técnico Estatal de la Administración de Justicia Electrónica como órgano de referencia para la definición y validación de los programas y aplicaciones, así como para fijar los términos de la compatibilidad de los sistemas. Sobre la base de este artículo, el Consejo General del Poder Judicial ha dictado la Instrucción 1/2018, de 22 de noviembre, de la Comisión Permanente del Consejo General del Poder Judicial, relativa a la obligatoriedad para jueces/zas y magistrados/as del empleo de medios informáticos a que se refiere el artículo 230 de la Ley Orgánica 6/1985, de 1 de julio, del Poder Judicial. Por su parte, la Ley 29/1998, de 13 de julio, reguladora de la Jurisdicción Contencioso-Administrativa, carece de referencia alguna a esta realidad y requiere una adecuación al estado actual de cosas.
(4). Me remito por todos en este momento a los resultados del primer congreso sobre Derecho Administrativo e Inteligencia Artificial celebrado en Toledo el 1 de abril de 2019 (enlace: último acceso el 11 de noviembre de 2019), así como al número 50 de la Revista General de Derecho Administrativo, monográfico coordinado por Andrés Boix Palop y Lorenzo Cotino Hueso con el título Derecho Público, derechos y transparencia ante el uso de algoritmos, inteligencia artificial y big data.
(5). Entre las múltiples referencias, véase por todos Julián Valero Torrijos, Derecho, Innovación y Administración Electrónica, Global Law Press, Sevilla, 2013.
(6). enlace [último acceso el 11 de noviembre de 2019].
(7). Entre las primeras contribuciones a la materia quisiera destacar dos trabajos presentados en el XIV Congreso de la Asociación Española de Derecho Administrativo y publicados en el volumen colectivo 20 años de la Ley de lo Contencioso-Administrativo, INAP, 2019. Cfr. en este volumen Rubén Martínez Gutiérrez, Los retos de la innovación tecnológica en la jurisdicción contencioso-administrativa, pp. 213 – 245; y Agustí Cerrillo Martínez/Clara I. Velasco Rico, Jurisdicción, algoritmos e inteligencia artificial, pp. 291 – 303.
(8). Véase por todos Eduardo Gamero Casado/Julián Valero Torrijos (coords.), Las tecnologías de la información y la comunicación en la Administración de Justicia: análisis sistemático de la Ley 18/2011, de 5 de julio, Thomson Reuters Aranzadi, 2012.
(9). Ulrich Beck, Risikogesellschaft. Auf dem Weg in eine andere Moderne, Suhrkamp, edición original de 1986.
(10). Sirva a estos efectos un ejemplo concreto y singular, vinculado a los derechos humanos. Es el caso del término “derechos y obligaciones de carácter civil” en el artículo 6 del Convenio Europeo de Derechos Humanos. Al respecto puede consultarse el documento informativo del Tribunal Europeo de Derechos Humanos concerniente a la interpretación que deba darse a tal expresión: enlace [p. 12, último acceso el 11 de noviembre de 2019].
(11). Cfr. enlace [último acceso el 11 de noviembre de 2019].
(12). Cfr. enlace [último acceso el 11 de noviembre de 2019].
(13). Sobre las técnicas de jurimetría y, en general, la aplicación de la inteligencia artificial en las profesiones jurídicas me remito a Solar, 2019.
(14). Sobre la protección de datos personales en el ámbito judicial, desde la óptica concreta del expediente judicial electrónico, que es algo mucho más específico y no se corresponde exactamente con la cuestión planteada en el texto principal, aunque se encuentre conectada con ella, v. Juan Ignacio Cerdá Meseguer, La protección de datos personales en el expediente judicial electrónico: ¿una regulación insuficiente?, en Julián Valero Torrijos (coord.), “La protección de datos personales en internet ante la innovación tecnológica: riesgos, amenazas y respuestas desde la perspectiva jurídica”, Thomson Reuters Aranzadi, 2013, pp. 457 – 488.

References: Resolución 
 Resolución 
 Resolución 
 Resolución 
 artículo 1
 artículo 1
de lege ferenda
 artículo 33
 artículo 33
 artículo 230
 artículo 230
 artículo 6