Source: https://red.novagob.org/algoritmos-y-transparencia-administrativa/
Timestamp: 2020-08-06 13:57:00+00:00

Document:
ALGORITMOS Y TRANSPARENCIA ADMINISTRATIVA – NovaGob
Pedro Padilla Ruiz, 8 julio, 2019 8 junio, 2020 , Blogs, inteligencia artificial, Transparencia, 0
Si algo caracteriza a cualquier Estado de Derecho son, entre otros, el principio de seguridad jurídica y el de transparencia de la actuación administrativa. Los actos de las Administraciones Públicas deben ser motivados y totalmente transparentes para que los ciudadanos sepan claramente cómo se han emitido, por quién y con base en qué criterios.
La aplicación de la inteligencia artificial (IA) y los algoritmos en la Administración es algo que a muchos nos fascina por las grandes ventajas que conlleva al lograrse una mayor eficacia, rapidez y ahorro de costes. Al mismo tiempo logrará una Administración más proactiva. Será, o está siendo ya, una verdadera revolución.
Los requisitos del bono social se regulan en el Real Decreto mencionado, desarrollado por la Orden ETU/943/2017, y la fórmula para el cálculo de los beneficiarios viene establecida en el Real Decreto 216/2014, por el que se establece la metodología de cálculo de los precios voluntarios para el pequeño consumidor de energía eléctrica y su régimen jurídico de contratación.
Toma de decisiones automática y semi-delegada
La peculiaridad del sistema es que son las eléctricas, como titulares de los contratos con los consumidores finales, quienes tramitan la concesión del bono. Lo hacen consultando un algoritmo informático llamado BOSCO, pero que nadie conoce. Las solicitudes se presentan a las eléctricas, que acceden a la sede electrónica del Ministerio de Industria para introducir los datos y consultar si se cumplen los requisitos. La aplicación informática responde con un «CUMPLE/NO CUMPLE LOS REQUISITOS PARA SER CONSIDERADO CONSUMIDOR VULNERABLE/VULNERABLE SEVERO».
Así pues, nos encontramos con un procedimiento automático tramitado por una empresa privada que hace de intermediario, trasladando al consumidor un sí o un no decidido por una «inteligencia artificial».
Ante las quejas de ciudadanos a quienes se les denegó el bono, la Fundación Civio solicitó el código al Gobierno y a través del Consejo de Transparencia y Buen Gobierno, pero le ha sido denegado alegando que está sujeto a propiedad intelectual (¿?).
Dejando al margen lo peculiar del caso, con intervención al inicio y al final de una entidad privada, el uso de la IA y los algoritmos plantea varias cuestiones: cómo funcionan, qué datos tienen en cuenta, deciden solos, cómo lo hacen, etc. La cuestión tiene una gran trascendencia por lo que ya hemos apuntado, los derechos de los ciudadanos dependen del buen funcionamiento de estas piezas de código, de que apliquen correctamente las normas y de que se sepa cómo actúan. Recordemos que la Ley 40/2015 ya regula la actuación administrativa automatizada, sin intervención humana, como parece ser el caso, pues la actuación puramente administrativa se limita a aplicar el programa y dar una decisión. Su artículo 41 exige que para que los algoritmos puedan actuar de manera automática debe:
«establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación»
¿Es suficiente la motivación de la resolución administrativa cuando decide una IA?
En términos generales, además de estos requisitos, obvios para garantizar los derechos de los ciudadanos a una buena Administración, resulta evidente que las resoluciones que emitan los algoritmos deberán estar motivadas, sobre todo las denegatorias. Hasta aquí normal si tenemos en cuenta que son garantías básicas del procedimiento administrativo, equivalentes a las que se dan cuando decide un funcionario.
Recordemos que cuando dejamos a las máquinas trabajar por nosotros nos encontramos, igualmente, ante procesos regulados por la misma normativa procesal administrativa que los que pueden ejecutar los humanos, con la particularidad de que es un ordenador el que tramita parte o todo el expediente. De hecho, llevamos décadas confiando en los ordenadores también parte de nuestro trabajo, si bien bajo nuestro control.
Por tanto, un acto administrativo ha de estar debidamente motivado y ofrecer al ciudadano los recursos legales pertinentes contra el mismo. El tema que se plantea es, si el algoritmo cumple dichos requisitos y lo que está haciendo realmente es sustituir el proceso mental del funcionario a la hora de tomar la decisión, ¿no bastaría con ello para entender tal decisión como válida?
Se trata de una cuestión muy interesante que podría justificar la no revelación del algoritmo con el proceso informático (equivalente al proceso mental del funcionario) que se ha utilizado, teniendo en cuenta que la resolución cumpla los requisitos legales.
Claro está que nos encontramos aquí con el supuesto que motiva este comentario, que se han denegado sin más solicitudes que, a priori, cumplen con los requisitos. Obviamente, debemos preguntarnos qué criterio ha seguido y qué proceso ha realizado el algoritmo para llegar a esa conclusión, entrando en juego claramente el principio de transparencia y el derecho a conocer al protagonista de la resolución. ¿Sería equivalente el derecho a conocer al funcionario que resuelve con el derecho a conocer el código fuente del programa informático?
Propiedad intelectual de los algoritmos públicos
Junto a la aplicación de la inteligencia artificial o los algoritmos en la toma de decisiones administrativas nos encontramos en este caso particular con otra cuestión conexa, y es la razón ofrecida por el Ejecutivo y el Consejo de Transparencia para denegar el código fuente: que está sometido a propiedad intelectual. De acuerdo con el artículo 14.1.j) de la Ley 19/2013, de transparencia, acceso a la información pública y buen gobierno, el derecho de acceso está limitado cuando concurra, entre otras, esta causa.
Pero ¿están sometidos a propiedad intelectual los algoritmos públicos? Primeramente hay que decir que de la información aportada por la Fundación y ofrecida por los medios de comunicación no queda claro si el algoritmo lo ha creado la Administración o se ha comprado a una empresa. Supongo que lo primero porque su creación no plantea dificultades y la AGE cuenta con muy buenos informáticos.
En cualquier caso esto no debería ser un límite al derecho de acceso, por cuanto la aplicación informática, al traducir a lenguaje del ordenador una norma jurídica para aplicarla, está ejerciendo «funciones públicas». Está sustituyendo a un empleado público y se ha creado o adquirido con dinero público.
Si ese programa falla y además no se motiva la resolución no queda más que responder que los ciudadanos tenemos derecho a conocer el código fuente del algoritmo para defender nuestros derechos. La seguridad jurídica y las garantías del ciudadano están en juego, sin contar en este caso concreto, con los costes económicos que se pueden derivar a consumidores vulnerables.
Puede leer todos mis comentarios en https://pedropadillaruiz.es/
Plan Estratégico de Gobernanza e Innovación Pública 2020 - Gobierno Vasco, 6 noviembre, 2018 6 noviembre, 2018 , Blogs, administración electrónica, cooperación, 0
* Este artículo se publicó anteriormente en el blog del PEGIP2020. Crecen los servicios electrónicos para la cooperación entre...
Asentamientos Urbanos no controlados, ¿Problema sin solución? IAsentamientos Urbanos no controlados, ¿Problema sin solución? II

References: Real Decreto 
 Real Decreto 
 artículo 41
 resolución 
 resolución 
 artículo 14
 resolución