Source: http://laadministracionaldia.inap.es/noticia.asp?id=1509545
Timestamp: 2019-07-16 09:08:33+00:00

Document:
Este artículo aborda, desde un enfoque eminentemente jurídico algunos de los desafíos que plantean los proyectos de ciudad inteligente. Estos retos se analizan atendiendo a dos conceptos, la transparencia y el control, que en el escenario de la ciudad inteligente generan tensiones. En primer lugar, analizamos el surgimiento del concepto de ciudad inteligente, y como, hasta ahora, este fenómeno, en España, únicamente está siendo regulado directa y específicamente a través de normas técnicas de cumplimiento voluntario. […]
Clara I. Velasco Rico es Prof. Agregada (int.) de Derecho Administrativo en la Universitat Pompeu Fabra
RESUMEN: Este artículo aborda, desde un enfoque eminentemente jurídico algunos de los desafíos que plantean los proyectos de ciudad inteligente. Estos retos se analizan atendiendo a dos conceptos, la transparencia y el control, que en el escenario de la ciudad inteligente generan tensiones. En primer lugar, analizamos el surgimiento del concepto de ciudad inteligente, y como, hasta ahora, este fenómeno, en España, únicamente está siendo regulado directa y específicamente a través de normas técnicas de cumplimiento voluntario. En segundo lugar, constatamos que las principales normas administrativas en vigor, que deberían regir el desarrollo de cualquier iniciativa de este tipo, y que son relativas al procedimiento administrativo y administración electrónica, contratos del sector público, reutilización de la información del sector, acceso a la información, transparencia y buen gobierno, y protección de datos no han sido concebidas para ser aplicadas a este escenario que ya se está desplegando ante nuestros ojos. Ello genera algunos desajustes que deberían ser corregidos sin demora para garantizar el respeto a los principios, valores y derechos que consagra nuestro ordenamiento jurídico. Finalmente, exponemos varios de los retos y peligros que puede entrañar la implementación de procesos decisionales basados en la IA o en el uso de algoritmos en el ámbito de la ciudad inteligente y proponemos algunas soluciones al respecto.
I. EL CONCEPTO DE CIUDAD INTELIGENTE Y SU SURGIMIENTO(1)
De acuerdo con el Plan Nacional de Ciudades Inteligentes Julio 2015, Versión 2(2), según un informe de la Dirección General para políticas internas del Parlamento Europeo, de enero de 2014 (“Mapping Smart Cities in the EU”(3)), se considera que una ciudad es inteligente si tiene al menos una iniciativa que aborde una o más de las siguientes características: Smart Economy, Smart People, Smart Mobility, Smart Environment, Smart Governance y Smart Living. Por su parte Naciones Unidas a través de su programa Habitat recuerda que existen diferentes definiciones de ciudad inteligente y recoge las siguientes:
“las ciudades inteligentes ‘son aquellas ciudades con una infraestructura económica, institucional, social y física ‘inteligentes’, que aseguran la centralización de sus ciudadanos en un ambiente sostenible’; se refieren a características clave definidas por distintos factores (P.ej. economía inteligente, movilidad inteligente, personas inteligentes, ambiente inteligente, vivienda inteligente, Gobierno inteligente); y se enfocan en el uso estratégico de la nueva tecnología y los acercamientos innovadores para mejorar la eficiencia y competitividad de las ciudades. Una definición del Focus Group sobre Ciudades Inteligentes Sostenibles (FG-SSC, por sus siglas en inglés) de la Unión Internacional de Telecomunicaciones (UIT) señala: ‘Una ciudad inteligente sostenible es una ciudad innovadora que utiliza las TICs y otros medios para mejorar la calidad de vida, eficiencia de las operaciones y servicios urbanos, y competitividad, a la vez que satisface las necesidades de las generaciones presentes y futuras con respeto a los aspectos económicos, sociales y ambientales’. El Departamento de Negocios, Innovación y Habilidades de Reino Unido considera las ciudades inteligentes como un proceso, más que como un resultado estático, mediante la participación ciudadana, sólidas infraestructuras, capital social y tecnologías digitales ‘que hagan de las ciudades más habitables y resilientes y de esta manera, respondan más rápido a los nuevos retos’”(4).
De estas definiciones, algunas muy amplias, se puede realizar una primera observación: para abordar el tanto el concepto y la regulación de la ciudad inteligente, como los elementos sobre los que esta se construye, debe atenderse a un amplio abanico de asuntos para debatir en profundidad. Cuando se trata de analizar la ciudad inteligente se puede discutir por ejemplo: sobre el uso de la inteligencia artificial y su impacto en la toma de decisiones; sobre la alteración del modelo de democracia liberal tal y como la conocemos; sobre la interacción entre ciudades inteligentes y la inclusión de personas con discapacidad (y sobre el concepto de ciudad accesible por diseño); sobre el uso de nudges(5) o también de elementos de gamificación como forma de fomentar la participación ciudadana (pese a que esas mismas técnicas se puedan utilizar para controlar y reducir el número de participantes de manera que pueda ser manejado por las autoridades públicas). Todos estos temas fueron, recientemente, objeto de estudio y análisis en un Congreso celebrado en Sciences Po, en ocasión de la jubilación del prof. AUBY, titulado “El futuro del Derecho Administrativo”, dentro del taller titulado “Ciudades (Inteligentes”)”(6).
Dada esta variedad de ámbitos y temáticas, se puede defender que el concepto de smart city es un fenómeno transversal que puede, y debe, ser abordado desde múltiples ramas del conocimiento(7). Por ello defendemos que, aunque el concepto no sea jurídico y tenga unos perfiles poco definidos(8), para los estudiosos del Derecho Administrativo, permite ampliar los límites de la disciplina, en el sentido que las ciudades inteligentes invitan al Derecho Administrativo a actuar en escenarios escasamente explorados o incluso inexistentes antes de esta nueva experimentación. En definitiva, el concepto de ciudades inteligentes acerca al Derecho administrativo al universo de las políticas públicas. Téngase en cuenta, además, que de las diversas teorías o conceptuaciones de lo debe entenderse por ciudad inteligente se está imponiendo una visión tecnocrática que se fundamenta en la consideración de que las políticas que se basan en datos actualizados son más inteligentes “en cuanto a que son más eficaces, capaces de atraer empresas, puestos de trabajo, capital humano, ahorros y, en definitiva, productividad y competitividad ()”(9). De acuerdo con esta definición la ciudad es un espacio que se puede fiscalizar y dirigir en tiempo real utilizando las TIC y la computación en la nube. Esta visión tecnocrática no puede obscurecer la importancia de los derechos de los ciudadanos en dicho entorno, y, justamente, el papel del Derecho Administrativo y de sus instituciones y categorías juega un papel central en la tutela y garantía de aquellos.
Una segunda observación, tiene que ver con el momento del nacimiento del concepto de ciudad inteligente. El concepto de ciudad inteligente, de acuerdo con AUBY, surge en un momento temporal concreto donde coinciden tres elementos destables: en primer lugar, la presión política y social por lograr un desarrollo sostenible, en particular lo que implica en términos de ahorro de energía y de lucha contra ciertos males de la ecología urbana como la contaminación atmosférica; en segundo lugar, el auge de lo digital y del Big Data, esto es, la digitalización del funcionamiento social, del funcionamiento de las instituciones públicas, también de las privadas, y de las relaciones entre individuos y entre estos y las instituciones; y finalmente, y en tercer lugar, el fenómeno que bien podría llamarse el “renacimiento histórico de las ciudades”, puesto que éstas se están convirtiendo en niveles esenciales de la acción pública y son, más que nunca, los principales lugares de creación de riqueza e innovación(10).
Una tercera reflexión que debe enfatizarse en cuanto al desarrollo de las ciudades inteligentes y que también ha destacado AUBY es que, en este nuevo escenario, se producen cambios sustanciales en las respectivas funciones de los actores públicos y de los privados. Los actores privados, ciertamente, con mayor frecuencia aparecen como los instigadores o iniciadores de proyectos de renovación urbana, cuya generación e impulso tradicionalmente había estado en manos públicas. Por otro lado, en otras ocasiones, los procesos de innovación urbana se llevan a cabo sin la menor participación pública, con la sola excepción, por ejemplo, de un permiso de construcción. A su vez, actualmente, en numerosas ocasiones, cuando las autoridades pretenden desarrollar transformaciones urbanas con mucha frecuencia necesitan socios privados (a veces como simples ejecutores, a veces como socios que desempeñan un papel más complejo)(11). Todo ello genera problemas jurídicos para tener en cuenta, como el tipo idóneo de contratos públicos que pueda utilizarse y que sean soporte suficiente para realizar este tipo de innovaciones y también, como veremos, la dificultosa aplicación de un gran número de normas que no están todavía en sintonía con los cambios que se avecinan(12).
1.2. La ciudad inteligente y el softlaw de las normas técnicas de estandarización
Al igual que en el caso de la administración electrónica -en cuyo desarrollo se han invertido ingentes cantidades de recursos públicos y se ha intentado por diversas vías buscar una homogeneización o por lo menos compatibilidad -interoperabilidad- de los proyectos y herramientas implementados por las distintas Administraciones- en el caso de los proyectos de ciudad inteligente, se ha puesto de manifiesto la necesidad de buscar normas comunes y ello surge de un doble consenso por parte de todos los actores tanto públicos como privados implicados en el proceso: “1) La estandarización orienta los esfuerzos de producción de del sector produciendo aquello que se necesita a precios que pueden pagarse; 2) Las experiencias anteriores en el desarrollo de ciudades inteligentes adolecían de dos defectos: heterogeneidad e insuficiente dimensión de los proyectos”(13).
Actualmente, en España, las iniciativas en materia de ciudad inteligente deberían ajustarse a las normas desarrolladas por el Comité Técnico de Normalización de AENOR- AEN/CTN 178 “Ciudades Inteligentes”. La entonces Secretaría de Estado de Telecomunicaciones y para la Sociedad de la Información (SETSI) impulsó la creación en diciembre de 2012, de este Comité en el seno de la Asociación Española de Normalización y Certificación AENOR (actualmente esta actividad la ha asumido La Asociación Española de Normalización, UNE, que es una entidad privada de base asociativa). Hasta la fecha se han aprobado 29 normas técnicas de estandarización en los cinco ámbitos siguientes de la ciudad inteligente: infraestructuras, indicadores y semántica, gobierno y movilidad y energía y medio ambiente(14). Siguiendo estos ejes temáticos, también se estructura el Comité CTN 178 en cinco subcomités, que a su vez se dividen en 25 grupos de trabajos, en cuyo seno se agrupan más de 300 expertos provenientes tanto de las diferentes Administraciones Públicas implicadas (Estado y Entes Locales) como de la industria del sector, así como de varias entidades asociativas representativas de diversos intereses, tanto públicos como privados.
Es destacable la iniciativa pública en el liderazgo de este Comité, que, como se ha dicho, forma parte de una asociación de carácter privado. Nótese, además, que las normas técnicas de estandarización que aprueba este ente privado vienen a ocupar el vacío normativo sobre los proyectos de ciudad inteligente, en tanto que no existe legislación u otra normativa que es ocupe en exclusiva y de forma explícita de este tipo de iniciativas(15). Como es bien sabido, las normas UNE son de cumplimiento voluntario, aunque las Administraciones y la legislación sectorial puedan exigir su observancia en determinados supuestos (por ejemplo, en el ámbito de la contratación pública, puede requerirse su cumplimiento en el pliego de prescripciones técnicas). En este caso, vemos como las Administraciones, que podrían regular la materia ejerciendo sus potestades (normativas, de fomento, de policía, etc.), prefieren colaborar con el sector privado para generar cánones no vinculantes que provengan de un consenso común entre todos los actores relevantes para los proyectos de ciudad inteligente. Estas pautas serán principalmente aplicadas por los municipios y áreas metropolitanas, en tanto que las materias e instrumentos objeto de regulación son de su competencia. Esta forma de producción de normas carácter técnico conlleva la plasmación de “nuevos paradigmas entre lo público y lo privado”(16). Ello es una muestra más de la interrelación entre la esfera pública y la iniciativa privada en el nuevo escenario de la ciudad inteligente.
II. TRANSPARENCIA, DATOS Y CIUDAD INTELIGENTE
2.1 De la importancia de los datos para la ciudad inteligente
Como se ha destacado las ciudades inteligentes se basan, en gran parte, en la recolección de información, en la calidad y precisión de dicha información y en su gestión. Uno de los pilares de las ciudades inteligentes es la producción de información: su desarrollo pasa por obtener cada vez datos más precisos con los que mejorar el rendimiento de las instituciones y desarrollar actuaciones más ajustadas a las necesidades de los ciudadanos. En definitiva, las ciudades inteligentes se consideran vectores clave y campos de experimentación que permitan posteriormente mejorar la gobernanza regional y estatal.
Con la instalación de nuevos elementos tecnológicos en diferentes puntos estratégicos de la infraestructura urbana -y, también, cada vez más, en los hogares de los ciudadanos (IoT o Internet de las cosas)- que permite la recopilación masiva de datos y su tratamiento en tiempo real, los gestores urbanos buscan mejorar la gobernanza urbana y prestar mejores y más eficientes servicios públicos. La explotación de la ingente cantidad de información que generan las ciudades inteligentes solo se puede llevar a cabo mediante algoritmos o mediante la utilización de inteligencia artificial (IA, en adelante)(17). Vista la importancia de los datos, se ha llegado a decir que, en el futuro, el Derecho Administrativo será el derecho de los datos y de la información(18), pese a que, a nuestro modo de ver, los datos en sí mismos no son lo más importante, y el uso de las TIC o de otras herramientas tecnológicas tampoco. Lo que debe regularse y garantizarse es que las ciudades inteligentes y la explotación del big data por la IA deben ser un medio (y no un objetivo en sí) para garantizar mejoras en la calidad de vida de las personas y proteger derechos, bienes y valores públicos (como el derecho a participar en la vida pública y el medio ambiente, por ejemplo).
Mucho se ha discutido sobre quién, cómo y cuándo se debe/se puede recopilar información, sobre la calidad de esa información o sobre la participación ciudadana en la producción de ésta. Y mucho más se debe aún debatir sobre cómo gestionarla. La verdad es que la información siempre ha sido equivalente a poder y la burocracia lo sabe. Contar con más y mejor información no evita per se que los burócratas (o responsables políticos), por ejemplo, recojan la información más conveniente para sus intereses, la utilicen para promover debates en ámbitos en los que quieren generar polémica para frenar el proceso de toma de decisiones o directamente oculten información relevante, generando procesos de infoxicación. Otros riesgos posibles derivados de la gestión de la información y de los datos recopilados en la ciudad inteligente serían, por un lado, la generación de burbujas de información que gracias al big data y a los algoritmos deforman la realidad y solo nos muestran información de acuerdo con nuestras respectivas preferencias; y, por otro, la consolidación del fenómeno de la denominada “postverdad”, que básicamente consiste en que se pueda mentir en el debate público -sobre todo en internet- sin consecuencias relevantes y sin que los partidarios de quien ha mentido reaccionen pese a que se demuestre -incluso judicialmente- la mentira(19). La “postverdad”, en fin, se construye sobre una “cierta indiferencia ante los hechos”(20).
Ante este panorama de posibles malos usos de la información y de los datos, los principios de transparencia, gobierno abierto y buen gobierno deben respetarse y aplicarse plenamente. Un primer paso para impedir el abuso de poder por parte de las autoridades (e incluso de los sujetos privados -que son actores clave en la implementación de los proyectos de smart city- ampliando el ámbito subjetivo de las normas administrativas(21)) con cantidades ingentes de información y que tienen los medios para leerla e interpretarla es obligarlos a compartirla con el público y/o imponiendo una fuerte política de consentimiento(22). En este escenario, pese a lo denostado de nuestra disciplina, el papel del derecho público en general, y del Administrativo en particular cobra una especial relevancia.
2.2 ¿Cómo aplicamos la normativa vigente a la smart city?
Las ciudades inteligentes, se ha dicho “se fundamentan, de un lado, de la inevitable modernización tecnológica de la gestión administrativa de los diferentes servicios municipales y, de otra, en la imprescindible transformación que reclaman los principios del Gobierno Abierto a partir del uso intensivo de las tecnologías de la información y la comunicación. Teniendo en cuenta esta doble exigencia, las ciudades inteligentes han de asumir un compromiso inequívoco con la transparencia desde la innovación. En concreto, () resulta prioritario que la información generada con ocasión de la prestación de los diversos servicios, ya directamente por la Administración Pública ya por entidades privadas, se encuentre disponible conforme a los estándares de los datos abiertos. En última instancia, el objetivo sería, de una parte, que los datos generados puedan ser reutilizados para prestar servicios de valor añadido y, de otra, que dicho tratamiento pueda redundar en la mejora de los propios servicios en que se sustente el proyecto de ciudad inteligente”(23).
Estas afirmaciones sitúan, al menos a los proyectos de ciudad inteligente desarrollados en España, ante el necesario cumplimiento de una panoplia de normas administrativas cuyos objetivos y lógicas no siempre encajan bien entre ellos y mucho menos son unos mimbres precisos y sistemáticos sobre los que construir las ciudades del futuro. Los elementos que conforman este conjunto de normas, que el legislador ha ido aprobando de forma inconexa, son los que se mencionaran a continuación, sin ánimo de realizar un análisis exhaustivo de cada uno de ellos, por razones obvias de espacio y, en definitiva, porque no es este el objeto del presente trabajo. Por otro lado, ya lo dejo apuntado aquí, aunque sea de Perogrullo, el primer requisito para un buen gobierno de la ciudad inteligente y para su correcto desarrollo debería ser el cumplimiento diligente de las normas que conforman el ordenamiento jurídico en vigor, cosa que, como veremos a continuación, no se produce de la forma que cabría esperar.
2.2. a) Administración electrónica
Tras la reforma administrativa operada en 2015, con la aprobación de las Leyes 39/2015, de 1 de octubre, de Procedimiento Administrativo Común, y 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, hay que tener en cuenta que el uso de medios electrónicos debería haberse convertido en el instrumento principal de gestión de los datos y de la información por las Administraciones Públicas, quedando el papel relegado a un segundo plano y solo para situaciones cualificadas(24). Nótese que decimos que el uso de medios electrónicos “debería haberse convertido”. Lo expresamos en condicional en tanto que el propio legislador, en este caso el Gobierno, con “agostidad” (31 de agosto) y una execrable técnica normativa -todo hay que decirlo- (mediante un RDL que modifica la disposición final séptima de la LPAC) ha vuelto a demorar (en 2 años) la obligatoriedad del desarrollo y uso de una serie de instrumentos imprescindibles para la consolidación de la administración electrónica, la generalización de uso y el pleno respeto a los derechos de los ciudadanos ante las administraciones que las precitadas leyes consagran (registro electrónico de apoderamientos, registro electrónico, registro de empleados públicos habilitados, punto de acceso general electrónico de la Administración y archivo único electrónico). Esta vez, la excusa parece ser el respeto a la distribución de competencias(25). El proceso de implantación de la administración electrónica viene siendo asistemático, lento, poco madurado e interminable, con el consiguiente menoscabo para los derechos de las personas y entorpecimiento para otras iniciativas que deben beber de ella para su desarrollo, como es el caso de las ciudades inteligentes.
Cuando se culmine el proceso de implantación de los medios tecnológicos necesarios, respetando la normativa relativa a la protección de datos, se podría acceder de manera inmediata y automatizada a los datos que se generen con ocasión de la gestión documental en que se manifiestan las actuaciones y trámites que realizan las personas ante las Administraciones Públicas. Dicha información debería respetar los estándares que faciliten su reutilización y los sistemas de almacenamiento y gestión deberían ser interoperables de acuerdo con las normas vigentes al respecto desde 2010 (ENI). Este es pues, como se ve, uno de los elementos básicos de la ciudad inteligente. Si la actuación administrativa no se ajusta a estos parámetros no se podría predicar la inteligencia en la gestión de la ciudad, en tanto que quedaría privada de una parte notable de la información que las propias autoridades municipales generan en su quehacer diario.
2.2.b) Transparencia y reutilización de datos
Los proyectos de ciudad inteligente también deben lidiar con las disposiciones legales sobre transparencia y acceso a la información del sector público, en particular y por todas(26), con la Ley 19/2013, de 9 de diciembre, de Transparencia, Acceso a la Información Pública y Buen Gobierno. Uno de los pilares sobre los que se sustenta la ciudad inteligente es la reutilización de la información, y, para reutilizar datos o información hay que poder acceder a ellos. Las normas que regulan la transparencia y el derecho de acceso a la información pública son el marco que garantiza el acceso. El acceso puede ser directo si la información necesaria está disponible en los portales de transparencia y en los conjuntos de datos abiertos publicados por las administraciones públicas o bien puede materializarse a través del ejercicio del derecho de acceso a la información y de su consabido procedimiento(27). Es bien sabido que las obligaciones de transparencia y respecto al derecho de acceso están limitadas a las entidades fijadas en el ámbito subjetivo de aplicación de la Ley, lo que no incluirá siempre a las empresas (partners) que participen en el desarrollo de proyectos de smart city.
En los casos en los que se vean incluidos en dicho ámbito subjetivo de aplicación -cuando prestan servicios públicos o cuando son adjudicatarios de contrato público-, no están obligados a proporcionar información de manera directa a otros sujetos privados, tal y como sucede con los agentes que pretender reutilizar la información (por ejemplo, otras empresas que necesitan esos datos para desarrollar productos propios). En este caso, cualquier solicitud de información que se les pueda plantear deberá de articularse mediante la Administración titular del servicio, sin que se explicite referencia legal alguna a los medios electrónicos ni a las condiciones de interoperabilidad. Como puede imaginarse, en este punto aparecen numerosos extremos problemáticos sobre las reticencias de las empresas (partners) a facilitar el acceso a esos datos a otras empresas, posibles competidoras, la dificultad para establecer qué es dato o información reutilizable de aquellos elementos propios del know-how propio, y los límites legales existentes al derecho de acceso a la información pública relativos a la protección del medio ambiente y a la seguridad pública, y a las funciones de inspección y control, por ejemplo, que necesariamente tendrán que interpretarse ponderada y restrictivamente. Sería paradójico, y cuanto menos entretenido, obligar contractualmente al cumplimiento de obligaciones de transparencia y acceso a información a sujetos privados, por parte de administraciones públicas que incumplen, con bastante frecuencia, el mismo marco normativo.
Igualmente, los proyectos de ciudad inteligente deben adaptarse a las previsiones sobre la reutilización de la información del sector público, concretamente a la Ley 37/2007, de 16 de noviembre, sobre reutilización de la información del sector público. En este caso, nos topamos con un problema en cuánto al ámbito subjetivo de aplicación de la norma, por más que los municipios puedan imponer a su administración instrumental un modelo de gestión y funcionamiento que cumpla con los requisitos exigibles sobre la apertura de datos y a sus adjudicatarios de servicios públicos obligaciones contractuales de la misma índole. Como se ha puesto de manifiesto más arriba, y siguiendo a CHIGNARD, una de las características propias de los proyectos de ciudad inteligente es la intensa participación de sujetos privados (empresas tecnológicas y consultoras, básicamente) en su planificación y ejecución(28). Ello comporta que a uno de los actores centrales en este proceso de transformación de las ciudades no le es de aplicación la normativa administrativa referida, dada su naturaleza privada. A nuestro modo de ver, y de acuerdo con VALERO, para solventar este problema, respecto a algunos aspectos concretos como la apertura de datos o el cumplimiento de los estándares de reutilización, sería necesaria ampliación del ámbito subjetivo de las normas administrativas ya sea modificándolo directamente, ya sea extendiéndolo a través de cláusulas contractuales(29). En el caso en que se desarrolle un proyecto en el ámbito de la ciudad inteligente, sin que medie relación jurídica de la administración pública municipal con los sujetos privados “el planteamiento ha de ser distinto, en este caso basado en esquemas colaborativos o, en su caso, auspiciados a través de técnicas de fomento y otras medidas inspiradas en el Gobierno Abierto tendentes a propiciar no sólo la accesibilidad/cesión de los datos sino, además, su tratamiento por terceros conforme a las exigencias técnicas (..)”(30).
En fin, en lo que a la reutilización de la información por parte de los actores de la ciudad inteligente se refiere, debe tenerse en cuenta que, pese a que La ley no impone la obligación de facilitar el acceso a sus datos en formato abierto y legible por máquina, salvo que sea posible y apropiado (art. 5 de la Ley 37/2007), una lectura sistemática de la normativa aplicable nos lleva irremediablemente a una conclusión contraria a esta previsión. Por otro lado, es preciso destacar que la información debe ser conservada, con las características y según los estándares exigidos por la normativa aplicable, para poder reutilizada en el futuro, si es que de verdad se apuesta por este modelo de ciudad inteligente. Sin información fidedigna sobre el pasado será imposible realizar predicciones y modelos en el futuro que cumplan bien con sus objetivos.
2.2 c) Protección de datos
Los proyectos de smart city deben compadecerse con la legislación relativa a la protección de datos personales, salvaguardando así a los verdaderos protagonistas de la ciudad inteligente que no son otros que los usuarios de los servicios y/o las personas que transitan, viven o trabajan en las ciudades y cuyos datos, o la información que generan, son imprescindibles para desarrollar los proyectos de ciudad inteligente. Es bien sabido que la recogida intensiva de datos por distintos elementos tecnológicos diseminados por la ciudad, la que de por si almacenan los dispositivos móviles que todos portamos -porque queremos utilizarlos- y la que cedemos a otros múltiples sujetos públicos y privados sin pararnos a pensar mucho en ello (y que incluso pueden llegar a ser datos biométricos) -porque la vida es más cómoda, la verdad- bien combinadas permiten un nivel de conocimiento sobre nuestro perfil como nunca en la historia había sucedido. Hay autores que hablan ya del peligro de hackear, no ya máquinas o dispositivos, si no humanos, directamente(31).
Ciertamente, los proyectos de ciudad inteligente precisan de cantidades ingentes de información y ya se cuenta con instrumentos que permiten que sea exacta y actualizada en tiempo real. Cuanto más precisa y actual sea la información más eficiencia se obtendrá en la prestación y gestión de los servicios públicos. Esta necesidad constante de datos implica, sin embargo, un riesgo considerable para la privacidad y la protección de datos de las personas. El manejo de un gran volumen de información y datos y la existencia de múltiples de fuentes de donde extraerlos suponen una amenaza para los derechos de la ciudadanía. En este sentido, para garantizar el respeto a los citados derechos, la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales que adapta la legislación estatal al Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos (RGPD en adelante) es el marco básico de referencia. Este marco normativo impone determinados principios de protección de datos de obligado respeto en todo proyecto de este alcance. Entre ellos cabe destacar, por un lado, el principio de minimización de datos, que implica que la información recogida y procesada será la mínima imprescindible para atender la finalidad perseguida, y por otro lado, deberá atenderse a la obligación de seudonimización, consistente en manejar los datos personales de tal forma que impidan su atribución a una persona concreta sin usar otra información adicional, siempre que dicha información adicional conste por separado y esté ligada a medidas técnicas y organizativas para asegurar que los datos personales no se atribuyan a una persona física identificada o susceptible de ser identificada. Asimismo, el principio de privacidad desde el diseño debe ser un eje central en la proyección de este tipo de iniciativas por parte de las autoridades locales(32).
De acuerdo con la normativa que acabamos de citar, y concretamente, con la sección tercera del RGPD, de forma previa a la puesta en marcha de un proyecto de ciudad inteligente, será preciso realizar, por un lado, un análisis ex ante sobre tres aspectos esencialmente: el volumen de la información sujeta a tratamiento, el numero y tipo de fuentes que se van a utilizar para obtener los datos o la información, y también, el tiempo de conservación de dicha información (artículo 35). Esta evaluación previa, deberá incluir por lo menos “a) una descripción sistemática de las operaciones de tratamiento previstas y de los fines del tratamiento, inclusive, cuando proceda, el interés legítimo perseguido por el responsable del tratamiento; b) una evaluación de la necesidad y la proporcionalidad de las operaciones de tratamiento con respecto a su finalidad; c) una evaluación de los riesgos para los derechos y libertades de [las personas físicas] y d) las medidas previstas para afrontar los riesgos, incluidas garantías, medidas de seguridad y mecanismos que garanticen la protección de datos personales, y a demostrar la conformidad con el presente Reglamento” (artículo 35.7 del RGDP). Además, debería consultarse a la Autoridad de protección de datos, de acuerdo con la misma sección del RGPD. En este sentido, el artículo 36.1 establece que “[E]l responsable consultará a la autoridad de control antes de proceder al tratamiento cuando una evaluación de impacto relativa a la protección de los datos en virtud del artículo 35 muestre que el tratamiento entrañaría un alto riesgo si el responsable no toma medidas para para mitigarlo”.
Otra de las cuestiones a ponderar en el desarrollo de los proyectos de ciudad inteligente es el consentimiento de las personas afectadas por la recogida intensa y sistemática de información y datos. Respecto al consentimiento deben tenerse en cuenta dos precisiones, por un lado, que, como regla general, las Administraciones Públicas no precisan del consentimiento de los titulares de los datos cuando los recojan para el ejercicio de sus propias competencias, siempre y cuando su uso sea lícito y conforme a derecho y los datos a utilizar sean proporcionados. Ello no obstante y como recuerda VALERO, este marco legislativo tan favorable para las administraciones públicas no puede aplicarse, directamente, a aquellas operaciones de explotación comercial de la información personal, en tanto que este objetivo es incompatible con el fin que en principio justificó su colecta y tratamiento, por mucho que el acceso a los mismos se considere necesario para poder desarrollar los proyectos de smart city(33). En el caso de la ciudad inteligente, no nos encontramos ante meras cesiones de datos, sino que estamos ante interconexiones generalizadas entre varios actores que tienen como características principales, por un lado, la automaticidad y por el otro el número masivo de operaciones. Debe tenerse en cuenta que “[e]sto implica que las garantías clásicas del consentimiento o la habilitación legal resultan insuficientes y es preciso reconfigurarlas. Por otra parte, la integración de diversos servicios en los entornos de ciudades inteligentes y la necesidad de modelos de gestión horizontales y no verticales —esto es, que superan el alcance de cada servicio individualmente considerado— afectan directamente al principio de calidad de los datos, según el cual los mismos no podrían utilizarse para otras finalidades incompatibles con las que justificaron su recogida”(34). Sin embargo, hay que tener en cuenta que este acceso y tratamiento de datos personales podría incluso, implicar “ventajas indudables para los propios ciudadanos, en concreto por lo que se refiere a la posibilidad de recibir servicios de valor añadido basados en la personalización, la ubicación geográfica o la predicción”(35).
Ciertamente, desde el punto de vista tecnológico lo que se aspira a desarrollar son las denominadas plataformas federadas. En el informe del ONTSI sobre el desarrollo tecnológico de las diversas plataformas para la ciudad inteligente se establece que “de cara a que el ecosistema total de una Ciudad Inteligente sea interoperable” lo importante “es el intercambio de información y la compartición de la gestión entre Plataformas diferentes ya sean conformes a los requisitos oneM2M o no. A este tipo de arquitecturas se las denomina Plataformas Federadas ()”(36). Es por ello, que VALERO defiende que, en el caso de acceso a datos en poder de la administración municipal, que no resulten imprescindibles para la correcta prestación de los servicios públicos, el acceso de terceros requería de un consentimiento de los afectados. Ello dificulta enormemente el desarrollo de este tipo de proyectos y, por tanto, podría pensarse en el acceso a datos totalmente anonimizados, conforme a determinados estándares tecnológicos que deberían tenerse en mente ya en el momento inicial de su recolección a fin de garantizar el derecho fundamental de las personas(37). De nuevo, la imposición de estas garantías debería articularse mediante instrumentos contractuales con las empresas privadas participantes(38).
III. EL CONTROL EN LA CIUDAD INTELIGENTE
3.1. La ciudad inteligente y el nuevo “régimen de verdad”
Una vez, desplegados los elementos tecnológicos necesarios (sensores, cámaras, y otros gadgets electrónicos y digitales) por la ciudad, éstos recogen datos y suministran el material de trabajo para que los algoritmos y la IA hagan su “magia”(39). Este escenario, para muchos distópico y abominable, facilita, claro está, el control de los ciudadanos por parte de las autoridades, además, en tiempo real. Solo hay que observar -con aprensión- el ilustrativo caso de China(40).
En este punto defenderse que la ciudad inteligente está generando un nuevo régimen de verdad. Lo explicaré. El uso masivo de cámaras, del IoT, la interconexión entre las plataformas, etc. permite mostrar cómo la gente realmente vive su vida, y no solo cómo dice que vive su vida. La ciudad inteligente captaría y se adaptaría al comportamiento fáctico -no a las opiniones ni a las preferencias verbalizadas- de los ciudadanos. Este nuevo régimen de verdad es muy poderoso en términos comerciales. Netflix, Google y Amazon, por no poner más ejemplos, lo saben perfectamente. Sus cookies y sus algoritmos les permiten mostrarnos información y productos según las preferencias reales que hemos facilitado anteriormente, al utilizar sus servicios o comprar en sus plataformas. Estas empresas nos presentan sugerencias parecidas a nuestras decisiones concretas, no proponen atendiendo a nuestro nivel cultural, ni respecto a lo que otros quieren que consumamos o veamos, ni tampoco respecto de lo que nosotros presumimos de ser (¿intelectuales? ¿cuidadosos con el medio ambiente? ¿solidarios?), sino que nos ofrecen productos y servicios en función de nuestras elecciones y preferencias anteriores.
Por un lado, en el ámbito de la ciudad inteligente pasaría algo parecido. Para algunos este escenario facilitaría el diseño y la puesta en marcha de políticas que públicas y de contratos públicos económicamente viables en tanto que se ajustarían a los “consumos” y a los “comportamientos” reales de los ciudadanos, arrojando mejores resultados en términos de eficiencia. Para otros, la amenaza a nuestra privacidad y a las libertades fundamentales es tal que apuntan que nuestros sistemas democráticos no sobrevivirán, tal y como los conocemos, al tsunami tecnológico que se avecina(41). ¿Para qué consultar a los ciudadanos mediante elecciones, o dejarlos participar en procesos/procedimientos decisionales, si conocemos sus preferencias reales en múltiples ámbitos, hemos leído y procesado el big data y nuestro/s algoritmo/s nos aporta/n las soluciones más eficaces y eficientes basadas en datos? A su vez, el mismo sistema de control del comportamiento de los ciudadanos/usuarios y de otros parámetros facilitaría igualmente evaluar el éxito y el fracaso de las políticas públicas, tanto en proceso de ejecución, como las ya completadas.
Por otro lado, este escenario también supone la posibilidad de individualizar la prestación de servicios públicos, aunque ello también esconde peligros para la concepción clásica del servicio público que tiene como objetivo fomentar la igualdad y la equidad entre los ciudadanos (como forma de redistribuir la riqueza) y puede desembocar en prácticas lesivas para sus derechos. Un ejemplo reciente de esto último puede verse en la experimentación por parte de una municipalidad danesa con un algoritmo para detectar situaciones que pongan en peligro el bienestar de los niños, permitiendo a las autoridades a poner en el punto de mira a las familias que sean señaladas por el algoritmo y a poner en marcha sistemas de intervención temprana que pueden resultar en privaciones forzosas de la patria potestad. La información utilizada por el algoritmo proviene de sets de datos públicos captados y gestionados por las administraciones danesas y su utilización para este fin no ha sido consentida explícitamente por parte de los ciudadanos. Los ciudadanos y las familias afectadas tampoco son advertidas de que están siendo objeto de monitorización o de que se han incluido en alguna lista de este tipo. Con la excusa de prestar servicios públicos más eficientes y personalizados, y para garantizar una mejor atención a la infancia (pilar del estado del bienestar en los países escandinavos) la utilización del algoritmo puede devenir en una grave vulneración de los derechos fundamentales de las personas(42).
3.2. El control social sobre los proyectos de ciudad inteligente y la participación ciudadana
3.2.a) La problemática gobernanza algorítmica en la ciudad inteligente
Si bien es cierto que el uso masivo de la tecnología por parte de instituciones y empresas, y de lo que ha venido a denominarse gobernanza algorítmica, presentan riesgos para los derechos y libertades de las personas, y para los sistemas de gobierno democráticos, no es menos cierto que está aquí para quedarse y las ciudades inteligentes son una realidad que se está desplegando ante nuestros ojos. De acuerdo con BRAUNEIS y GOODMAN, la gobernanza algorítmica es un sistema de gestión del comportamiento individual de los ciudadanos y para distribuir recursos. Según estos autores, la implementación de algoritmos en el ámbito local constituye una pieza de un proyecto mayor que avanza hacia un sistema de toma de decisiones basadas en datos y que tiene que ser contextualizado en la agenda de la ciudad inteligente(43).
Existen numerosos focos de preocupación en relación con el uso de algoritmos, los problemas que genera su uso son de tipo social, ético, político y legal(44). En cuanto a estos últimos cabe destacar la complejidad y el problema de la transparencia de los algoritmos, el control de la fiabilidad de estos, la motivación y la revisión judicial de los actos administrativos basados en algoritmos y, también, los problemas de responsabilidad por los daños resultantes del uso y aplicación de algoritmos. Se ha producido igualmente numerosa literatura que enfatiza los problemas relacionados con la privacidad y la protección de datos personales asociados a los sistemas de monitorización y control en los que se basa la gobernanza algorítmica y que son la base de los proyectos de ciudad inteligente(45). Más recientemente, se ha puesto el acento en el fenómeno de la “brecha del big data” que supone que solo las organizaciones más grandes y que cuenten con mayores recursos podrán beneficiarse de la revolución de los datos(46). Finalmente, también se han destacado los sesgos en la recopilación y utilización de los datos(47), así como la opacidad y la falta de transparencia que puede ser inherente a la gobernanza algorítmica, particularmente cuando el sistema funciona mediante el “machine learning”(48). Del mismo modo se ha estudiado la problemática en torno a la protección de estos mecanismos por sistemas normativos que prevén el principio de secreto para proteger estos algoritmos(49). Todo ello no empece para que el uso de estos mecanismos presente determinadas ventajas que no pueden ser ignoradas. Consiguientemente, se ha afirmado que la gobernanza algorítmica es más rápida, eficiente, completa y justa(50).
Para atajar estos problemas, o, aunque, de momento, solo sea para paliarlos, existen algunas soluciones, quizás parciales, quizás no del todo desarrolladas. En cualquier caso, para proponer soluciones desde el mundo del Derecho, siguiendo a COTINO(51), de donde debemos partir es de “los principios comunes del Derecho constitucional y en particular los derechos y libertades de las sociedades democráticas”. Las regulaciones futuras de uso del big data y de la IA deben respetar dichos derechos y libertades, aunque pueda surgir la necesidad de adaptarlos e incluso de crear y consagrar constitucionalmente algunos nuevos(52).
3.2.b) La participación ciudadana
Ciertamente, la tecnología entraña peligros, pero también genera oportunidades en diversos ámbitos que podrían garantizar un control ciudadano sobre los proyectos de ciudad inteligente, por ejemplo, desde la participación ciudadana, y la consagración de nuevos derechos, lo que se traduce en un empoderamiento capaz de generar nuevos estados de opinión(53). Ante los grandes retos que plantea el uso de algoritmos y IA para nuestros sistemas democráticos, podría impulsarse el activismo social, a través de Internet, para favorecer y reforzar el control sobre los proyectos de ciudad inteligente que se pretendan desarrollar. Ello conlleva, como premisa, que las administraciones locales refuercen y sean proactivas en el cumplimento de sus obligaciones de transparencia. La ciudadanía debería ser capaz de conocer, los proyectos, los actores (públicos y privados), de dónde van a salir los datos, cómo se van a captar, los plazos de ejecución y los resultados esperados, así como la inversión económica a realizar, y todo ello de forma sencilla, clara y actualizada (más allá de que se publiquen los sesudos informes de evaluación previstos por la normativa aplicable). De este modo en el contexto de la ciudad inteligente se reforzarían los derechos y principios constitucionales consagrados, entre otros, en los arts. 1, 9, 23, 105 de nuestra Carta Magna. Del mismo modo, la imposición de obligaciones específicas de rendición de cuentas debería ser una prioridad para nuestro legislador, más allá de las obligaciones, económico-financieras y contables, y también más allá de la transparencia. La implantación de nuevos mecanismos de accountability también es más sencilla de llevar a cabo mediante el uso de tecnología.
La participación ciudadana en los proyectos de smart city, de acuerdo con nuestro ordenamiento jurídico, debe ser fomentada por los propios ayuntamientos. En consonancia con el artículo el artículo 25.2. ñ) de la Ley de Bases de Régimen Local, los ayuntamientos deben promocionar en su término municipal la participación de los ciudadanos en el uso eficiente y sostenible de las tecnologías de la información y las comunicaciones. Esta competencia municipal cobra una especial relevancia en la planificación, puesta en marcha y evaluación de las iniciativas de ciudad inteligente, que por otra parte y como impone la misma Ley básica, deben compadecerse con los principios “de estabilidad, sostenibilidad financiera y eficiencia del servicio o la actividad” (art. 25.4 LBRL). En esta línea, CERRILLO destaca que “[L]a ciudadanía está llamada a tener un papel relevante en la prevención de malas prácticas en la Administración pública (). Para ello es fundamental garantizar la máxima transparencia posible de la actividad pública y diseñar mecanismos que permitan canalizar la participación de la ciudadanía (). A todo ello pueden contribuir significativamente las tecnologías de la información y la comunicación”(54). En este sentido, podemos encontrar ejemplos de tecnologías que facilitan el control ciudadano respecto de la actuación de los poderes públicos, como son la creación de navegadores especialmente seguros -Tor, o en el desarrollo de modelos de encriptación basados en blockchain que permiten luchar contra prácticas corruptas, contra regímenes autoritarios o facilitar la actividad de los “alertadores”(55). Para incentivar, inspirar o alentar la participación ciudadana la generalización del uso de herramientas como, por ejemplo, “My civic workout”(56), podría ser un comienzo para generar y establecer un control ciudadano sobre los proyectos de ciudad inteligente.
3.2.c) El acceso al algoritmo
En la utilización de algoritmos por parte de proyectos de ciudad inteligente se han detectado tres grandes impedimentos para garantizar un manejo transparente de las predicciones generadas por la lectura del big data mediante IA. En primer lugar, la ausencia de prácticas apropiadas de generación de registros en torno a procesos algorítmicos, en segundo lugar, la poca insistencia del gobierno en las prácticas de divulgación de datos apropiadas, y, en tercer lugar, el refuerzo del argumento del secreto comercial u otros privilegios de confidencialidad por parte de los contratistas públicos(57).
Frente a lo que ha venido a denominarse “opacidad por diseño”, es decir la imposibilidad de acceder a los algoritmos que se utilicen por parte de las autoridades o de las empresas privadas que desarrollen proyectos de smart city, debería enfatizarse el principio de la transparencia por diseño que ya ha sido recogido en las recomendaciones de la UE al respecto. Aunque, también es cierto que, para la inmensa mayoría de los ciudadanos, el acceso al algoritmo tampoco significaría un cambio destacable en su situación, puesto que la complejidad de estas fórmulas matemáticas conlleva que su comprensión esté fuera del alcance del ciudadano medio. Por ello, en este caso, cobra especial importancia, desde una perspectiva colectiva, la transparencia por diseño, en tanto que puede facilitar el control por parte de otros grupos sociales - hacktivistas, sindicatos especializados, grupos de periodistas, equipos de investigación, ONGs, etc.- con capacidad, recursos y conocimientos para poder llevar a cabo un seguimiento sobre el funcionamiento del algoritmo, que a la larga, y como ya ha sucedido podría verificar la existencia de sesgos que se materializan en sus resultados, y por tanto, contribuir a su corrección(58). Este sería un elemento clave para poder luchar contra prácticas fraudulentas o lesivas del interés general en las ciudades inteligentes.
En el ámbito de la Unión Europea el Parlamento se pronunció a favor de la creación de una agencia, como manifestación de la necesidad de una cooperación reforzada entre los Estados miembros y la Comisión, con el fin de adoptar reglas homogéneas y facilitar así el desarrollo de la industria del sector en toda la Unión. La misión de esta agencia, que tendría una doble especialidad temática (IA y robótica) sería la de proporcionar “los conocimientos técnicos, éticos y normativos necesarios para apoyar la labor de los actores públicos pertinentes, tanto a nivel de la Unión como a nivel de los Estados miembros, en su labor de garantizar una respuesta rápida, ética y fundada ante las nuevas oportunidades y retos —sobre todo los de carácter transfronterizo— que plantea el desarrollo tecnológico ()”. El Parlamento aboga en su resolución por encuadrar en la agencia, tanto a los reguladores, como a un grupo de expertos externos de carácter multidisciplinar para resolver cuestiones técnicas y éticas, con el objetivo de detectar y fomentar la adopción de las mejores prácticas y, para que, en su caso, puedan formular propuestas de lege ferenda.
Desde una perspectiva individual, también cabría reconocer un derecho de acceso al algoritmo, o al menos, el derecho a saber cuándo una decisión administrativa o la elaboración de un perfil, que produzcan efectos jurídicos o que afecten significativamente de una forma similar hayan sido adoptadas utilizando uno de estos medios. Como punto de partida, hay que destacar que el art 22 del Reglamento General de Protección de Datos establece, muy resumidamente, que, salvo consentimiento o autorización legal específicos, una persona no puede ser objeto de una decisión automatizada. No obstante, cuando medie consentimiento o autorización, deberán adoptarse medidas adecuadas para proteger los derechos y libertades e intereses legítimos del interesado. En este sentido, quien accede a someterse a decisiones automatizadas, es titular de varios derechos que puede ejercitar en esta situación: en primer lugar, puede requerir la intervención “humana” de la autoridad competente para adoptar la decisión; en segundo lugar, puede formular alegaciones, y, finalmente, sobre todo, está habilitado para impugnar dicha decisión.
Ahondando en el derecho de acceso al algoritmo, y que quizás en algunos casos no debería, ni podría ser completo, es necesario implementar sistemas obligatorios de auditoria legal de algoritmos. ¿Cómo? García Herrero lo explica de forma aparentemente sencilla y comprensible para los juristas(59). El autor defiende que, además del propio interesado en el procedimiento, la sociedad, en general, necesita poder comprobar que aquellas decisiones no acordes con el ordenamiento jurídico no puedan ser adoptadas y aplicadas por un algoritmo. El nuevo modelo que se avecina exige que se verifique (por parte de jueces, autoridades independientes, funcionarios, etc.) que los algoritmos funcionan como correctamente, que respetan la Ley, es decir, que no generan discriminación ni abusos en su funcionamiento. García Herrero, resume que los algoritmos deben desarrollarse teniendo en cuenta no sólo su funcionalidad, sino también la licitud de sus premisas, la regularidad de su funcionamiento y la posibilidad de que un tercero pueda auditar todo ello. En segundo lugar, destaca que los algoritmos utilizados por los entes públicos deben estar diseñados para respetar estas “exigencias de transparencia (limitada) y auditabilidad (plena)”. Y, en tercer lugar, concluye que esta auditabilidad debe compadecerse con la confidencialidad del know-how secreto integrado en el sistema y la privacidad de los datos personales de los interesados. Finalmente, no se desconoce que este procedimiento tiene también puntos débiles puesto que no sirve para auditar algoritmos “no deterministas” (los que trabajan con un componente esencial de aleatoriedad) ni para algunos sistemas de machine learning”(60).
Sin embargo, y desde posiciones bastante alejadas de la que acabamos de referir, se argumenta que se ya ha ido demasiado lejos en el uso de algoritmos para la toma de determinadas decisiones político-administrativas, considerando que en ningún caso la IA debería substituir al humano en el proceso decisional. Así, la persona (autoridad, funcionario) debería seguir siendo la clave del engranaje y en ningún caso la “máquina” debería poder tomar ninguna decisión -ni de carácter auxiliar- en ningún tipo de procedimiento, hasta que se haya adoptado una decisión por parte de la persona u autoridad competentes. Su propuesta, por tanto, sería la prohibición de del uso del algoritmo o de la IA, en la fase anterior a la adopción de la decisión. En consecuencia, la única posibilidad válida sería que la IA y los algoritmos se utilizaran sólo para evaluar las decisiones administrativas ex post, es decir, una vez tomadas e incluso en algunos casos, una vez ya ejecutadas(61). Esta solución es totalmente descartable a estas alturas de la historia y, además, si se me permite, bastante simplista.
El uso de algoritmos y de IA podría ser válido en las tres fases del proceso de toma de decisiones, es decir, tanto en la evaluación previa sobre la necesidad de una determinada política o decisión administrativa, como en el diseño de la política o de la decisión a adoptar, y también en la evaluación de los resultados que han arrojado estas políticas o actos administrativos. En el ámbito del procedimiento administrativo, cuando de adoptar actos administrativos se refiere, considero que, pese a que las decisiones de las personas/de los humanos deben ser la clave, en aquellos ámbitos complejos y donde se han atribuido poderes discrecionales y múltiples soluciones posibles (todas ellas permitidas por el ordenamiento jurídico) la IA podría ayudar a la autoridad competente a escoger la mejor solución posible (la más eficiente, eficaz y respetuosa con los derechos y libertades de las personas, etc.) o la segunda mejor o la tercera mejor. Es decir, el resultado arrojado por el uso del algoritmo o de la IA podría no ser vinculante para la autoridad, como actualmente sucede en la mayoría de los casos. Ante esto, uno podría cuestionar la utilidad de la IA, ¿si no es vinculante su decisión, para qué sirve? Pues bien, en estos casos, en los que no se adopte la opción óptima que arroja el algoritmo, cabría plantear, por ejemplo, el refuerzo de la de la obligación de motivación, como manifestación del principio de interdicción de la arbitrariedad de los poderes públicos (art. 9.3 de la CE de 1978).
Los proyectos de ciudad inteligente están poniendo sobre la mesa desafíos jurídicos de hondo calado tanto para el legislador como para nuestras administraciones públicas, especialmente, para las administraciones locales. En la actualidad, nuestro sistema de normas administrativas no se ajusta plenamente a la realidad de este nuevo escenario. Las normas relativas a la transparencia y titularidad de los datos obtenidos por los sensores desplegados en el territorio, a la regulación del consentimiento de los ciudadanos para el tratamiento de esos datos y su reutilización, a las obligaciones de rendición de cuentas y las que gobiernan las relaciones contractuales entre el sector público y el sector privado deberían actualizarse. Esta necesaria actualización debería realizarse teniendo en cuenta las potenciales vulneraciones de derechos (protección de datos de carácter personal, libertad, intimidad, igualdad, etc.) que plantean los procesos de toma de decisiones basados en datos y la utilización de algoritmos y de herramientas de inteligencia artificial, que son uno de los pilares de la ciudad inteligente.
En nuestro ordenamiento jurídico, las administraciones públicas están obligadas a adaptar la prestación de sus servicios a la realidad social y tecnológica de cada momento, salvaguardando a la vez los derechos de los ciudadanos a quienes sirven. La tentación de utilizar la tecnología como herramienta de control social es un riesgo, que ya se ha materializado en Estados totalitarios o autoritarios, riesgo del que no pueden excluirse per se a los sistemas democráticos consolidados. Para ahuyentar este fantasma, las normas reguladoras de la ciudad inteligente deben establecer mecanismos que potencien la transparencia y la rendición de cuentas y que faciliten el control inverso, es decir, un control del engranaje completo de ciudad inteligente por parte de la ciudadanía a través de nuevos dispositivos y cauces de participación colectiva. Desde un punto de vista individual, ya se han empezado a sentar las bases normativas que impidan que decisiones tomadas sin intervención humana puedan generar perjuicios a las personas afectadas, permitiéndoles oponerse e impugnarlas. El acceso al algoritmo/s no será siempre la panacea, ni el remedio adecuado, para garantizar un funcionamiento armónico de las ciudades inteligentes en relación con los derechos de los ciudadanos. Por ello es preciso establecer otro tipo de medidas a tal fin. Ciertamente, los obstáculos que se encuentran quienes pretenden auditar los proyectos de smart city antes, durante o después de su desarrollo. Los partenariados público-privados que implementan estas soluciones no guardan un adecuado registro de los argumentos que justifican la adopción de una determinada política o herramienta en el ámbito de la ciudad inteligente, lo que no permite controlarlos adecuadamente desde diversos puntos de vista (jurídico, contable, económico-financiero, tecnológico). Sin una preservación apropiada de determinados datos, informes, decisiones, planes u otros documentos, el control ciudadano de los proyectos de ciudad inteligente deviene mucho más que complejo. A su vez, no es preciso solo preservar estas evidencias, es necesario también garantizar su accesibilidad y publicidad activa.
Finalmente, como se ha apuntado, el concepto de smart city nada tiene de jurídico, lo que no obsta para que dicho fenómeno pueda ser aprehendido -aunque sea parcialmente- desde el Derecho, en tanto que su despliegue fuerza las costuras de nuestro ordenamiento jurídico. Prueba de ello es que los proyectos de ciudad inteligente están adaptando su funcionamiento, no a normas aprobadas por los poderes públicos, sino a normas de cumplimiento voluntario adoptadas por una organización privada de estandarización. Cabe enfatizar pues la necesidad de establecer vías de participación de los ciudadanos en su elaboración puesto que del cumplimiento de estas normas dependerá en alguna medida el respeto a sus derechos, tanto colectivos como individuales.
AUBY, J.B. (2018). “Los retos jurídicos de la ciudad inteligente”. Conferencia. Barcelona. Universidad Pompeu Fabra. Noticia disponible aquí: https://www.upf.edu/es/web/obsei/noticies/-/asset_publisher/C9d9mULU3v5n/content/id/194480413/maximized#.XDeS1lz0lPY (última consulta, 10.01.2019).
AUBY, J.B. (dir.) (2017). Donnés urbaines et Smart Cities. Boulogne Billancourt. Berger Levraut.
BRAUNEIS, R. y GOODMAN, E.P. (2018). “Algorithmic Transparency for the Smart City”. 20 Yale J. of Law & Tech. 103-176. Texto disponible en: https://yjolt.org/sites/default/files/20_yale_j._l._tech._103.pdf (última consulta, 10.01.2019).
BURRELL, J. (2016). “How the machine ‘thinks’: Understanding opacity in machine learning algorithms”. Big Data & Society. January–June 2016. 1-12. Texto disponible en: https://journals.sagepub.com/doi/pdf/10.1177/2053951715622512 (última consulta, 10.01.2019).
CARD, D. (2017). “The “black box” metaphor in machine learning”. Texto disponible en: https://towardsdatascience.com/the-black-box-metaphor-in-machine-learning-4e57a3a1d2b0 (última consulta, 10.01.2019).
CERRILLO MARTÍNEZ, A. (2018). “Diez propuestas para la colaboración ciudadana en la alerta de malas prácticas en la administración digital”. En: Revista Internacional de Transparencia e Integridad. 6. Texto disponible en https://revistainternacionaltransparencia.org/wpcontent/uploads/2018/04/agusti_cerrillo.pdf (última consulta, 10.01.2019).
COTINO HUESO, L. (2017). “Big data e inteligencia artificial. Una aproximación a su tratamiento jurídico desde los derechos fundamentales”. Dilemata, 24. Ética de datos, sociedad y ciudadanía – Debate. 131-150.
CRAWFORD, C. (2013). “The Hidden Biases in Big Data”. En: Harvard Bussiness Review, April 2013. Texto disponible: https://hbr.org/2013/04/the-hidden-biases-in-big-data (última consulta, 10.01.2019).
DANAHER, J. et al (2017). “Algorithmic governance: Developing a research agenda through the power of collective intelligence” (2017). Big Data & Society, July–December 2017. 1-21. Texto disponible en: https://journals.sagepub.com/doi/pdf/10.1177/2053951717726554 (última consulta, 10.01.2019).
GILLESPIE, T. Y SEAVER, N. (2015). “Critical algorithm studies: A reading list”. Texto Disponible en: https://socialmediacollective.org/reading-lists/critical-algorithm-studies/ (última consulta, 10.01.2019).
GUADIAN, C. (2017). “Internet i democracia: riscos i oportunitats”. Eines, 29, 38-47.
HARARI, Y. N. (2018). 21 lecciones para el siglo XXI. Madrid. Debate.
HOLLANDS, R. G. (2008). “Will the real smart city please stand up?”. City,12:3, 303-320.
LARSON, C. (2018). “Who needs democracy when you have data?”. En: MIT Technology Review, 20.08. 2018. Texto disponible en: https://www.technologyreview.com/s/611815/who-needs-democracy-when-you-have-data/ (última consulta, 10.01.2019).
LÓPEZ-FOLGUES, A. et al. (2017). “La innovación social digital colectiva y la administración en el entorno de la Ciudad Inteligente”. GAPP. Nueva Época, 18, 23-42.
MARTÍN DELGADO, I. (dir.) (2017). La reforma de la Administración electrónica: Una oportunidad para la innovación desde el Derecho. Madrid. Instituto Nacional de Administración Pública.
PIÑAR MAÑAS, J.L. (dir.) (2017). Smart Cities. Derecho y Técnica para una ciudad más habitable. Madrid. Ed. Reus.
ANGWIN, J.; JEFF LARSON, J.; MATTU, S. AND KIRCHNER L. (2016). ProPublica: “Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks”. Texto disponible en: https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing (última consulta, 10.01.2019).
CANTÓ LÓPEZ, M.T. (2017). “Administración Pública y participación activa del ciudadano en la gestión de la ciudad inteligente”. En: PIÑAR MAÑAS, J.L. (dir.) (2017). Smart Cities. Derecho y Técnica para una ciudad más habitable. Madrid. Ed. Reus. 33-52.
DUASO CALÉS, R. (2016). “Los principios de protección de datos desde el diseño y protección de datos por defecto”. En: PIÑAR MAÑAS, J.L. (dir.) Reglamento general de protección de datos: hacia un nuevo modelo europeo de privacidad. Madrid: Ed. Reus. 295-320.
GARCÍA HERRERO, J. (2017). “¿Cómo auditar un algoritmo?”. Texto disponible en: https://jorgegarciaherrero.com/auditar-algoritmo/ (última consulta, 10.01.2019).
GHIGNARD, S. (2017). “L’ouverture des donnés publiques à Rennes 2010-2016: retour d’experiénce d’un laboratoire d’innovation urbain”. En AUBY, J.B. (dir.) Donnés urbaines et Smart Cities. Boulogne Billancourt. Berger Levraut. 33-42.
GILLESPIE, T. y SEAVER, N. (2015). “Critical algorithm studies: A reading list. Texto disponible en: https://socialmediacollective.org/reading-lists/critical-algorithm-studies/ (última consulta, 10.01.2019).
GUTIÉRREZ RUBÍ, A. (2017). “Tecnología para combatir la corrupción”. En: El País, 19.01.2017. Disponible en: http://www.blogs.elpais.com/micropolitica (última consulta, 10.01.2019)
MAYER, D. (2017). “How One European Smart City is Giving Back Power to its Citizens”, En: ALPHR. Texto disponible en: http://www.alphr.com/technology/1006261/how-one-european-smart-city-isgiving-power-back-to-its-citizens [http://perma.cc/FM7D-YVX9]. (Última consulta, 10.01.2019).
MCHANGAMA, J. y LIU, H.N. (2108). “The Welfare State Is Committing Suicide by Artificial Intelligence” Texto disponible en: https://foreignpolicy.com/2018/12/25/the-welfare-state-is-committing-suicide-by-artificial-intelligence/ (última consulta, 10.01.2019)
O’NEIL, C. (2016). Weapons of math destruction. The Crown Publishin Books.
PIÑAR MAÑAS, J.L. (dir.) (2016). Reglamento general de protección de datos: hacia un nuevo modelo europeo de privacidad. Madrid: Ed. Reus.
PONCE, J. (2017). “Neurología, Derecho y toma de decisiones relativas a las políticas públicas: nudging”. Transjus. Nota 3. Universidad de Barcelona. Texto disponible en: http://diposit.ub.edu/dspace/bitstream/2445/123254/1/Nota_Ponce_3_2017.pdf (última consulta, 10.01.2019).
SANCHEZ BARRILAO, J.F. (2016). “El derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial como objeto constitucional”. En: Estudios de Deusto: Revista de la Universidad de Deusto, núm. 2. 225-258.
SÁNCHEZ-CUENCA, I. (2018). “La postverdad suprema”. La Vanguardia, 01.09.2018.
SUÁREZ OJEDA, M. (2017). “Smart cities: un nuevo reto para el derecho público”. En: PIÑAR MAÑAS, J.L. (dir.) Smart Cities. Derecho y Técnica para una ciudad más habitable. Madrid. Ed. Reus. 73-92.
TENE, O. Y POLONETSKY, J. (2013). “Big Data for All: Privacy and User Control in the Age of Analytics”, 11 Nw. J. Tech. & Intell. Prop. 239-273. Texto disponible en: https://scholarlycommons.law.northwestern.edu/njtip/vol11/iss5/1(última consulta, 10.01.2019).
THALER, R. Y SUNSTEIN, C. (2008). Nudge: Improving Decisions about Health, Wealth, and Happiness. Yale University press. New Haven.
VALERO TORRIJOS, J. (2017): “El acceso y la reutilitzación de la información del sector público desde la perspectiva de la reforma de la administración electrónica”. En: MARTÍN DELGADO, I. (dir.). La reforma de la Administración electrónica: Una oportunidad para la innovación desde el Derecho. 443-458.
VELASCO RICO, C.I. (2017b). “Novedades en materia de administración electrónica”. En: Reflexiones sobre la reforma administrativa de 2015. Análisis crítico de las Leyes de Procedimiento Administrativo Común y de Régimen Jurídico del Sector Público. Madrid. Marcial Pons, 2017. 125 y ss.
VELASCO RICO, C.I. (dir) (2017a). Reflexiones sobre la reforma administrativa de 2015. Análisis crítico de las Leyes de Procedimiento Administrativo Común y de Régimen Jurídico del Sector Público. Madrid. Marcial Pons, 2017.
AENOR (2015). “Normalización en ciudades inteligentes-España” (CTN 178). Texto disponible aquí: https://portal.aenormas.aenor.com/descargasweb/normas/aenor-Spanish-standardization-on-Smart-Cities-CTN-178.pdf (última consulta, 10.01.2019).
GOBIERNO DE ESPAÑA. (2015). Plan Nacional de Ciudades Inteligentes. Julio 2015 / Versión 2. Texto disponible en (última consulta, 10.01.2019).: http://www.agendadigital.gob.es/planesactuaciones/Bibliotecaciudadesinteligentes/Detalle%20del%20Plan/Plan_Nacional_de_Ciudades_Inteligentes_v2.pdf
GOBIERNO DE ESPAÑA. ONTSI. (2016). “Desarrollo de Metodología y Estudio sobre los Niveles de Interoperabilidad de las Principales Plataformas de Gestión de Servicios de las Ciudades Inteligentes”. Texto disponible aquí: https://www.ontsi.red.es/ontsi/sites/ontsi/files/interoperabilidad_parte_4_soluciones_alternativas.pdf (última consulta, 10.01.2019).
GOBIERNO DE ESPAÑA (2017). “Datos abiertos y ciudades inteligentes: una visión alternativa desde el Derecho”. Julio 2017. pág. 13. Texto disponible en: http://datos.gob.es/es/noticia/informe-datos-abiertos-y-ciudades-inteligentes-una-vision-alternativa-desde-el-derecho (última consulta, 10.01.2019).
ONU-HABITAT (2015). Temas Habitat. III. 21- Ciudades Inteligentes. Mayo, 2015. pág. 1. Texto disponible en: https://observatoriohabitat3dotorg.files.wordpress.com/2016/05/6-4-ciudades-inteligentes.pdf (última consulta, 10.01.2019).
UNIÓN EUROPEA. DIRECTORATE GENERAL FOR INTERNAL POLICIES POLICY DEPARTMENT A: ECONOMIC AND SCIENTIFIC POLICY (2014). Mapping Smart Cities in the EU. Texto disponible en : https://www.smartcities.at/assets/Publikationen/Weitere-Publikationen-zum-Thema/mappingsmartcities.pdf (última consulta, 10.01.2019)
UNIÓN EUROPEA. COMISIÓN EUROPEA (2018). “Inteligencia artificial para Europa” [COM (2018) 237 final] Texto disponible aquí (última consulta, 10.01.2019): https://eur-lex.europa.eu/legal-content/ES/TXT/HTML/?uri=CELEX:52018DC0237&from=ES
(1). Este texto se incardina en el proyecto I+D Retos jurídicos del uso de datos masivos para el fomento de la innovación y la buena administración a través de la inteligencia artificial. Ref. DER2017-85595-R. (2017-2020). Una versión inicial de este texto se presentó en el V Congreso Internacional del avance del Gobierno Abierto. III Congreso de Buen gobierno y transparencia de la Comunitat Valenciana (Universidad de Valencia, 5 y 6 de septiembre de 2018).
(2). Plan Nacional de Ciudades Inteligentes. Julio 2015 / Versión 2. Texto disponible en: http://www.agendadigital.gob.es/planesactuaciones/Bibliotecaciudadesinteligentes/Detalle%20del%20Plan/Plan_Nacional_de_Ciudades_Inteligentes_v2.pdf (última consulta, 10.01.2019).
(3). Mapping Smart Cities in the EU. Texto disponible en : https://www.smartcities.at/assets/Publikationen/Weitere-Publikationen-zum-Thema/mappingsmartcities.pdf (última consulta, 10.01.2019)
(4). Organización de Naciones Unidas. Temas Habitat. III. 21- Ciudades Inteligentes. Mayo, 2015. pág. 1. Texto disponible en: https://observatoriohabitat3dotorg.files.wordpress.com/2016/05/6-4-ciudades-inteligentes.pdf (última consulta, 10.01.2019).
(5). A parte de Thaler y Sunstein (2009) en castellano puede leerse sobre el tema a Ponce (2017).
(6). Congreso “Le futur du droit administratif” celebrado en París el 21 y el 22 de junio de 2018. Puede verse el programa aquí: http://www.sciencespo.fr/chaire-madp/content/le-futur-du-droit-administratif (última consulta, 10.01.2019).
(7). (Cantero García, 2017103).
(8). (Hollands, 2008, 305 y ss.).
(9). (López-Folgues et al., 2017, 24).
(10). (Auby, 2018).
(11). Tal y como expone Hollands (2008, 308): “A second element characterizing many selfdesignated smart cities is their underlying emphasis on business-led urban development. There is a general world-wide recognition (and indeed acceptance) of the domination of neo-liberal urban spaces (Brenner and Theodore, 2002), a subtle shift in urban governance in most western cities from managerial to entrepreneurial forms (Quilley, 2000; Harvey, 1989), and cities being shaped increasingly by big-business and/or corporations (Gottdiener, 2001; Klein, 2000; Monbiot, 2000). Esto a su vez puede derivar en una usurpación de funciones públicas por parte del partner privado, del que a veces, puede quedar prisionera la administración municipal. Esta preocupación se pone de manifiesto por parte algunos responsables del desarrollo de proyectos de ciudad inteligente. Así, según Francesca Bria las ciudades podrían “end up with a black-box operating system where the city itself loses control of critical information and data that should be used to make better decisions” y, además este cargo del Ayuntamiento de Barcelona sostiene que: “the business model is creating dependence on very few providers(...)” Este sistema se podría extender “to the entire urban infrastructure of the city. We're talking about transportation, better waste management, even water, energy, distributed green infrastructure. It's a big problem for a public administration, losing control of the management of the infrastructure." Sus palabras se recogen en (Meyer, 2017).
(12). (Auby, 2018).
(13). AENOR: Informe “Normalización en ciudades inteligentes-España” (CTN 178). Texto disponible aquí: https://portal.aenormas.aenor.com/descargasweb/normas/aenor-Spanish-standardization-on-Smart-Cities-CTN-178.pdf (última consulta, 10.01.2019).
(14). Pueden consultarse todas las normas aquí: https://www.une.org/Paginas/Normalizacion/Ficha-CTN.aspx?n=1&c=CTN%20178 (última consulta, 10.01.2019).
(15). (Suárez Ojeda, 2017, 86).
(16). (Suárez Ojeda, 2017, 87).
(17). En la Comunicación de la Comisión Europea “Inteligencia artificial para Europa” [COM (2018) 237 final] se define la IA como: “El término <<inteligencia artificial>> (IA) se aplica a los sistemas que manifiestan un comportamiento inteligente, pues son capaces de analizar su entorno y pasar a la acción –con cierto grado de autonomía– con el fin de alcanzar objetivos específicos. Los sistemas basados en la IA pueden consistir simplemente en un programa informático (p. ej. asistentes de voz, programas de análisis de imágenes, motores de búsqueda, sistemas de reconocimiento facial y de voz), pero la IA también puede estar incorporada en dispositivos de hardware (p. ej. robots avanzados, automóviles autónomos, drones o aplicaciones del internet de las cosas)”. Texto disponible aquí (última consulta, 10.01.2019): https://eur-lex.europa.eu/legal-content/ES/TXT/HTML/?uri=CELEX:52018DC0237&from=ES
(18). (Auby, 2018)
(19). (Guadian, 2017, 45)
(20). (Sanchez Cuenca, 2018)
(21). (Valero Torrijos, 2017, 447 y ss)
(22). Con todo no olvidamos que, como ya dijo Cotino (2017, 145): “El derecho de protección de datos personales ha girado estructuralmente hasta la fecha en el consentimiento del titular de los datos personales. No obstante, por diversos motivos esta columna vertebral de la protección de datos quebró hace tiempo. Rubinstein (2013, 1) afirma que la gran ola del big data “arrollará” (overwhelm) los clásicos principios y consentimiento del derecho de protección de datos personales. La sociedad no está dispuesta a renunciar al uso de las IT y no tiene una fuerte cultura de la privacidad, lo que lleva a hacer casi irreal o inefectiva la garantía del consentimiento () No es realista en modo alguno creer que existe un efectivo control de la información personal a través del consentimiento y los derechos que lo complementan. El consentimiento se torna en una carta blanca al descontrol del flujo de los datos personales. El consentimiento acaba configurándose como un simbolismo que conlleva, a la postre, al fracaso de la privacidad pretendida y a la inoperancia del sistema de protección”.
(23). Informe: “Datos abiertos y ciudades inteligentes: una visión alternativa desde el Derecho”. Julio 2017. pág. 13. Texto disponible en: http://datos.gob.es/es/noticia/informe-datos-abiertos-y-ciudades-inteligentes-una-vision-alternativa-desde-el-derecho (última consulta, 10.01.2019).
(24). Un comentario crítico a las nuevas Leyes puede encontrarse en (Velasco Rico, -dir.-, 2017a).
(25). Reza así la disposición que comentamos: “En particular, se requiere acordar entre las Administraciones Públicas competentes las opciones que permitan una verdadera interoperabilidad respetuosa con sus respectivos ámbitos de competencias. Este acuerdo será el marco para el diseño de los sistemas tecnológicos que han de dar soporte a los aspectos funcionales interoperables, que en el plazo actual de entrada en vigor no estarán adaptados a estas exigencias.” Sobre el respeto a las competencias autonómicas en el ámbito de la administración electrónica puede verse (Velasco Rico, 2017b)
(26). Recuérdese que actualmente existen numerosas Leyes de transparencia aprobadas por las Comunidades Autónomas.
(27). Sobre el procedimiento de ejercicio del derecho de acceso y sus límites véase, entre otros, (Velasco Rico, 2015).
(28). (Chignard, 2017, 39 y ss).
(29). (Valero Torrijos, 2017, 447 y ss)
(30). Informe: “Datos abiertos y ciudades inteligentes: una visión alternativa desde el Derecho”. Julio 2017. pág. 14. Texto disponible en: http://datos.gob.es/es/noticia/informe-datos-abiertos-y-ciudades-inteligentes-una-vision-alternativa-desde-el-derecho (última consulta, 10.01.2019).
(31). (Harari 2018). Puede verse un resumen de su argumento aquí: https://www.youtube.com/watch?v=uzB4mjd7Pt8&index=7&list=PLfc2WtGuVPdnO1ZCQ6zDmiuHTvGWAJytR&t=0s (última consulta, 10.01.2019).
(32). (Duaso Calés, 2016, 295-320).
(33). (Valero Torrijos, 2017, 448).
(34). Informe: “Datos abiertos y ciudades inteligentes: una visión alternativa desde el Derecho”. Julio 2017. pág. 14. Texto disponible en: http://datos.gob.es/es/noticia/informe-datos-abiertos-y-ciudades-inteligentes-una-vision-alternativa-desde-el-derecho (última consulta, 10.01.2019).
(35). (Valero Torrijos, 2017, 448).
(36). “() el concepto de Arquitecturas de Plataformas Federadas, en las que diferentes plataformas, que pueden estar orientadas a diferentes servicios finales para los ciudadanos, intercambian entres si datos y capacidades de gestión, que estarán distribuidas en diferentes Plataformas pero que serán accesibles desde otras Plataformas diferentes (por ejemplo Plataformas específicas de salud, vehiculares, de gestión de activos de la ciudad, de gestión de servicios o casos de uso de Ciudad Inteligentes, etc.). Con el despliegue de las Plataformas federadas el acceso a los servicios y a los dispositivos serán independientes de las Plataformas a las que están conectadas”. Véase el texto del informe aquí (última consulta, 10.01.2019).
https://www.ontsi.red.es/ontsi/sites/ontsi/files/interoperabilidad_parte_4_soluciones_alternativas.pdf
(37). Los requisitos técnicos y jurídicos para la disociación de los datos son establecidos disociación por la autoridad competente en este ámbito a nivel nacional, la Agencia Española de Protección de Datos, así como las indicaciones que se han planteado en el ámbito europeo por parte del Grupo de Trabajo del Artículo 29 creado por la Directiva 95/46 sobre protección de datos personales.
(38). (Valero Torrijos, 2017, 448)
(39). Esta “magia” es lo que en tecnología se denomina “black box” que puede ser definido fácilmente así: “The black box metaphor dates back to the early days of cybernetics and behaviourism, and typically refers to a system for which we can only observe the inputs and outputs, but not the internal workings Put simply it is the idea that we can understand what goes in and what comes out, but don’t understand what goes on inside”. (Card, 2017). https://towardsdatascience.com/the-black-box-metaphor-in-machine-learning-4e57a3a1d2b0
(40). (Larson, 2018). Véanse también los siguientes artículos periodísticos al respecto: “China se convierte en 'Black Mirror': los ciudadanos con bajo "Crédito Social" no podrán usar aviones ni trenes” en Xataka: https://www.xataka.com/privacidad/china-se-convierte-en-black-mirror-los-ciudadanos-con-bajo-credito-social-no-podran-usar-aviones-ni-trenes (última consulta, 10.01.2019). “China estrena su ‘Gran Hermano” en La Vanguardia:
https://www.lavanguardia.com/internacional/20180503/443196686690/china-puntuacion-ciudadanos-delitos-sociales.html (última consulta, 10.01.2019).; “China prepara un sistema de rating para sus ciudadanos” https://retina.elpais.com/retina/2017/11/03/tendencias/1509729357_368520.html (última consulta, 10.01.2019).
(41). (Harari, 2018).
(42). Este ejemplo proviene de (Mchangama y Liu, 2018).
(43). (Brauneis y Goodman, 2018, 114).
(44). (Gillespie and Seaver, 2015).
(45). (Polonetsky and Tene, 2013, 239).
(46). (Danaher et al. 2017, 1-21).
(47). (Crawford, 2013).
(48). (Burrell, 2016, 1-12). Por “machine learning” o aprendizaje automático debe entenderse de acuerdo con la Comunicación de la Comisión Europea “Inteligencia artificial para Europa” [COM (2018) 237 final], ya citada: “un tipo de IA, consiste en la identificación de patrones en los datos disponibles y en la aplicación subsiguiente del conocimiento adquirido a nuevos datos. Cuanto mayor es el conjunto de datos, más fácil resulta descubrir las relaciones entre ellos, incluso las más sutiles. En lo que atañe a la utilización de la IA, los entornos ricos en datos también brindan más oportunidades. Ello se debe a que los datos son los que permiten al algoritmo aprender acerca de su entorno e interactuar con él. Por ejemplo, si todas las máquinas y procesos de una fábrica producen datos continuamente, es probable que pueda lograrse un mayor nivel de automatización y optimización con ayuda de la IA”.
(49). (Pasquale, 2015).
(50). (Domingos, 2015; Mayer-Schonberger and Cukier, 2013; Zarsky, 2012) citados por (Danaher et al. 2017, 3).
(51). (Cotino, 2017, 132).
(52). (Sanchez Barrilao, 2016, 225-258).
(53). (Guadian, 2017, 43)
(54). (Cerrillo, 2018).
(55). (Gutiérrez Rubí, 2018)
(56). “Una experiència interessant és My Civic Workout que busca generar consciència social en els ciutadans amb propostes d’activisme com si fos un entrenament físic. Aquesta aplicació mesura l’activisme a través de múltiples mètriques, com ara haver donat like a un article, un RT a un mem o compartir un esdeveniment que com petites gotes ajuden a mesurar el nivell de compromís dels usuaris. Per això el que fan és equiparar les accions d’activisme a un pla d’entrenament i, mitjançant la seva newsletter, van proposant accions de menys a més intensitat en funció del temps requerit per a dur-les a terme (...)”. (Guadian, 2017, 45).
(57). (Brauneis y Goodman, 2018, 114).
(58). (Angwin, et al. 2018).
(59). (García Herrero, 2017).
(60). (García Herrero, 2017).
(61). En este sentido parecía manifestarse CARULLO durante el taller “Villes (intelligentes)” celebrado en París, el 21 de junio de 2018, en el marco del congreso, ya citado, “Le futur du droit administratif”.
El documento en pdf está cortado en su margen derecho.
Escrito el 24/04/2019 12:58:59 por manueljulio.sanchez@correo.gob.es Responder Es ofensivo Me gusta (0)

References: artículo 36
 artículo 35
 artículo 25
 resolución 
de lege ferenda
 Artículo 29