LEI 2/2025, do 2 de abril, para o desenvolvemento e o impulso da intelixencia artificial en Galicia.
Presidencia da Xunta de Galicia — I. Disposicións xerais — 04/04/2025

Ao longo da historia, os avances tecnolóxicos aumentaron a eficiencia dos medios para producir, mudaron a forma de consumir e diminuíron barreiras de espazo e tempo. Con todo, ningún destes avances tivo a capacidade transformadora das tecnoloxías intelixentes en termos do seu potencial para incrementar a competitividade en todas as áreas de desenvolvemento e para contribuír a dar resposta a algúns dos desafíos aos que se enfronta a humanidade.
As tecnoloxías intelixentes están a mudar a nosa vida cotiá, a nosa forma de traballar, educar e facer negocios e a nosa forma de viaxar, así como a nosa forma de relacionarnos.
De acordo coa definición acuñada polo Grupo independente de expertos de alto nivel sobre intelixencia artificial da Unión Europea, o termo «intelixencia artificial» aplícase a todos aqueles «sistemas que manifestan un comportamento intelixente ao analizar a súa contorna, realizando accións, con certo grao de autonomía, para acadar un obxectivo específico». Estes sistemas poden consistir simplemente nun programa informático –por exemplo, asistentes de voz, programas de análise de imaxes, motores de procura, sistemas de recoñecemento facial e de voz– ou ben estar incorporados en dispositivos de hardware –por exemplo, robots avanzados, automóbiles autónomos, vehículos aéreos non tripulados ou aplicacións da internet das cousas–.
A definición de «sistema de intelixencia artificial» empregada polas institucións europeas alíñase coa proposta pola Organización para a Cooperación e o Desenvolvemento Económico en maio de 2019, que o define como «un sistema baseado en máquinas que, para obxectivos explícitos ou implícitos, infire, a partir da entrada que recibe, como xerar saídas como predicións, contidos, recomendacións ou decisións que poden influír en contornas físicas ou virtuais. Diferentes sistemas de intelixencia artificial varían nos seus niveis de autonomía e adaptabilidade despois da implementación».
Aínda que a orixe da intelixencia artificial se remonta ao ano 1950, hoxe en día vivimos unha das súas épocas de maior auxe. A intelixencia artificial está presente na industria desde, polo menos, a década de 1980, aínda que foi durante os últimos anos cando confluíron tres elementos, entre outros, que permitiron dar un salto cualitativo do dato común ao dato intelixente, grazas ao rendemento e á aplicabilidade dos métodos de aprendizaxe por computador baseados en datos. En primeiro lugar, a dispoñibilidade de cantidades inxentes de datos –coñecidos como big data– que son o resultado da actividade humana xerada en plataformas dixitais e de procesos de dixitalización do mundo físico; en segundo lugar, o desenvolvemento de algoritmos de aprendizaxe por computador capaces de atopar patróns de comportamento e dar así utilidade a estas cantidades de datos; finalmente, o incremento exponencial da capacidade de procesamento das computadoras e de almacenamento destas cantidades masivas de datos. A converxencia entre supercomputación e intelixencia artificial é imprescindible para impulsar avances significativos na resolución de problemas complexos e no desenvolvemento de modelos de intelixencia máis precisos.
Con todo, non debemos esquecer os retos e as limitacións técnicas, éticas, legais e sociais sobre o uso que se lle brinde a esa inxente cantidade de datos xerados, a pesar de ser este o punto onde reside a oportunidade dunha transformación dixital, non soamente real, senón inevitable.
A intelixencia artificial pode xerar un amplo abano de beneficios económicos e sociais en todos os sectores e actividades sociais. O seu uso pode proporcionar vantaxes competitivas esenciais ás empresas e facilitar a obtención de resultados positivos desde o punto de vista social e ambiental nos ámbitos da mellora da saúde, a agricultura, a educación e a formación, a administración de infraestruturas, a enerxía, o transporte e a loxística, os servizos públicos, a seguridade, a xustiza, a eficiencia dos recursos e a enerxía e mais a mitigación do cambio climático e a adaptación a el. Tamén pode contribuír a mellorar a predición, optimizar as operacións e a asignación dos recursos e personalizar as solucións dixitais que se atopan á disposición da poboación e das organizacións. É, polo tanto, necesario garantir o seu bo goberno co fin de aproveitar todas as oportunidades que esta tecnoloxía ofrece, ao tempo que se garanten o control e a limitación dos riscos derivados dun uso indebido.
Daquela, a Administración pública está na obriga de aplicar a intelixencia artificial para ofrecer mellores servizos de conformidade coas necesidades e as demandas da cidadanía e das empresas.
A crecente dependencia de tecnoloxías e sistemas desenvolvidos fóra das fronteiras da Unión Europea suscita importantes desafíos en termos de soberanía tecnolóxica e dixital. A intelixencia artificial ocupa un lugar preeminente no marco estratéxico e lexislativo mundial. En particular, a Organización para a Cooperación e o Desenvolvemento Económico adoptou unha formulación de «Principios sobre a intelixencia artificial» na Recomendación sobre intelixencia artificial adoptada polo Consello da Organización para a Cooperación e o Desenvolvemento Económico o 22 de maio de 2019, onde estableceu o respecto do Estado de dereito, os dereitos humanos, os valores democráticos e a diversidade a través do cumprimento dos principios de transparencia, divulgación responsable, robustez, fiabilidade e seguridade durante todo o ciclo de vida dos sistemas de intelixencia artificial.
Pola súa banda, ao longo dos últimos anos, Europa promoveu un enfoque centrado no fortalecemento das súas capacidades tecnolóxicas internas, impulsando unha intelixencia artificial segura, ética e centrada nos dereitos fundamentais. Para iso, a Unión Europea adoptou unha formulación coordinada co obxectivo de aproveitar ao máximo as oportunidades que brindan as tecnoloxías intelixentes, fixándose un obxectivo claro: incrementar o investimento en máis de 20.000 millóns de euros anuais durante a próxima década. A pandemia da covid-19 provocou que a Comisión Europea reforzase e organizase a súa aposta pola intelixencia artificial, outorgando un lugar privilexiado como unha das súas prioridades 2019-2024 a «unha Europa adaptada á era dixital», así como a recentemente aprobada folla de «O compás dixital de Europa».
En xaneiro de 2020, a Resolución do Parlamento Europeo sobre un marco de aspectos éticos da intelixencia artificial, a robótica e as tecnoloxías relacionadas recomenda expresamente que a Comisión propoña medidas lexislativas para explotar as oportunidades e os beneficios da intelixencia artificial e tamén para garantir a protección dos principios éticos.
Tamén, en novembro de 2021 publícase a Recomendación da Unesco sobre a ética da intelixencia artificial polos 193 estados membros como unha reflexión normativa sistemática, baseada nun marco integral, global, multicultural e evolutivo de valores, principios e accións interdependentes, que pode guiar as sociedades á hora de afrontar de maneira responsable os efectos coñecidos e descoñecidos das tecnoloxías de intelixencia artificial nos seres humanos, nas sociedades e no medio ambiente e os ecosistemas, e ofrécelles unha base para aceptar ou rexeitar as tecnoloxías de intelixencia artificial.
Así, a Comisión Europea publica en abril de 2021 unha proposta de regulamento para afrontar o reto de xestionar a intelixencia artificial sen que os dereitos da cidadanía, así como os valores europeos, se vexan menoscabados. O obxectivo é establecer un marco legal uniforme para o desenvolvemento, a comercialización e o uso da intelixencia artificial, en liña cos valores da Unión Europea.
Esta proposta foi aprobada polo Parlamento Europeo en marzo de 2024, converténdose na primeira regulación en intelixencia artificial do mundo, de conformidade cos valores da Unión consagrados no artigo 2 do Tratado de funcionamento da Unión Europea e os dereitos e liberdades fundamentais consagrados nos tratados e de conformidade co artigo 6 da Carta de dereitos fundamentais da Unión Europea. O 12 de xullo de 2024 publicouse no Diario Oficial da Unión Europea o devandito regulamento, o Regulamento (UE) 2024/1689 do Parlamento Europeo e do Consello, do 13 de xuño de 2024, polo que se establecen normas harmonizadas en materia de intelixencia artificial e polo que se modifican os regulamentos (CE) n° 300/2008, (UE) n° 167/2013, (UE) n° 168/2013, (UE) 2018/858, (UE) 2018/1139 e (UE) 2019/2144, e as directivas 2014/90/UE, (UE) 2016/797 e (UE) 2020/1828 (Regulamento de intelixencia artificial). En particular, establece unhas normas comúns para os sistemas de intelixencia artificial de alto risco co obxecto de garantir un nivel elevado e coherente de protección dos intereses públicos no que respecta á saúde, á seguridade e aos dereitos fundamentais. Tamén debe ter en conta a Declaración europea sobre os dereitos e principios dixitais para a década dixital e as Directrices éticas para unha intelixencia artificial fiable do Grupo independente de expertos de alto nivel sobre intelixencia artificial.
Así mesmo, o Consello de Europa adoptou en maio de 2024 o Convenio marco sobre intelixencia artificial e dereitos humanos, democracia e Estado de dereito, que proporciona un marco xurídico común a nivel mundial para aplicar as obrigas xurídicas internacionais e nacionais existentes que son aplicables na esfera dos dereitos humanos, a democracia e o Estado de dereito e os seus obxectivos, co fin de garantir que as actividades dentro do ciclo de vida dos sistemas de intelixencia artificial por parte de actores públicos e privados cumpran con estas obrigas, estándares e compromisos.
No caso da Comunidade Autónoma de Galicia, esta conta cunha traxectoria destacable no desenvolvemento e despregamento de tecnoloxías intelixentes. Galicia foi pioneira na aprobación da Estratexia galega de intelixencia artificial 2030, aprobada polo Consello da Xunta na súa sesión do 10 de xuño de 2021, cun investimento de máis de 330 millóns de euros públicos da Xunta de Galicia no período 2021-2030, que xerará un impacto na creación de riqueza duns 472 millóns de euros nese período. Esta estratexia prevé un investimento per cápita en intelixencia artificial superior á media da Unión Europea.
Galicia conta cun ecosistema de intelixencia artificial fortalecido ao redor de tres fases de xeración de valor. Na primeira fase de ideación destacan, ademais das tres universidades públicas de Galicia, que imparten o Grao en Intelixencia Artificial e o Mestrado Interuniversitario en Intelixencia Artificial, os centros tecnolóxicos e os centros de investigación. Na fase de oferta, Galicia posúe un potencial significativo para desempeñar un rol protagonista no desenvolvemento de intelixencia artificial, non se limitando unicamente á adopción de tecnoloxías doutras rexións, senón xerando coñecemento e solucións tecnolóxicas propias. Esta capacidade de crear tecnoloxía avanzada non só reforza a competitividade de Galicia na economía dixital, senón que tamén asegura a súa autonomía tecnolóxica, fomentando o crecemento sustentable e a creación de emprego cualificado. Ademais, Galicia conta cunha infraestrutura de computación de altas prestacións de referencia: o Centro de Supercomputación de Galicia, como axente fundamental no impulso da investigación e a innovación no ámbito da intelixencia artificial, consolidándose como un laboratorio natural para a integración da supercomputación no desenvolvemento da intelixencia artificial, factor clave para acadar avances significativos na resolución de retos complexos e no perfeccionamento de modelos de intelixencia artificial. Isto contribuirá, de forma determinante, ao impulso da investigación e da innovación en intelixencia artificial, facilitando o avance de proxectos tanto científicos como empresariais, ademais de dar apoio ás empresas no desenvolvemento de casos de uso e na formación de modelos, poñendo os seus recursos ao servizo de solucións innovadoras e do progreso tecnolóxico relacionadas co desenvolvemento desta tecnoloxía. En canto á fase de demanda, en Galicia estase a experimentar un crecente investimento en intelixencia artificial por parte dos ámbitos públicos, así como por parte da industria e dos servizos. De feito, de acordo con datos recentes do Instituto Nacional de Estatística, en Galicia o 10,2 por cento das empresas de dez ou máis persoas traballadoras con sede e/ou actividade nesta comunidade empregan intelixencia artificial, superando en 1,9 puntos porcentuais a media estatal. No caso das microempresas, o emprego da intelixencia artificial alcanza o 7,6 por cento das empresas e supera tamén a media estatal en 4,1 puntos porcentuais.
Esta proposta responde á Recomendación sobre intelixencia artificial adoptada polo Consello da Organización para a Cooperación e o Desenvolvemento Económico o 22 de maio de 2019, na que se establece que os gobernos deben desenvolver unha contorna de políticas que facilite o camiño para a adopción de sistemas de intelixencia artificial fiables, capacitar as persoas con competencias en intelixencia artificial e apoiar as persoas traballadoras con miras a asegurar unha transición equitativa. Así mesmo, establece o fomento de ecosistemas de intelixencia artificial accesibles con tecnoloxías e infraestrutura dixitais e mecanismos para o intercambio de datos e coñecementos. Aséntase tamén no informe «Gobernando con intelixencia artificial», publicado pola Organización para a Cooperación e o Desenvolvemento Económico o 13 de xuño de 2024, no que se afirma que a aplicación de normativas en todas as institucións do sector público pode axudar a promover o desenvolvemento de enfoques baseados no risco recollido no Regulamento de intelixencia artificial.
A proposta recolle as conclusións e recomendacións emitidas por un grupo de persoas expertas do eido universitario de Galicia no «Estudo sobre o marco ético e normativo e o potencial impacto da intelixencia artificial en Galicia», presentado en marzo de 2023, onde se expón que «hai marxe para que os estados da Unión Europea e as comunidades autónomas reforcen os obxectivos da Lei de intelixencia artificial da Unión Europea (AI Act), mesmo desde antes da súa entrada en vigor». Neste sentido, «a Comunidade Autónoma podería regular xa a utilización das tecnoloxías baseadas en intelixencia artificial polo propio sector público autonómico e, se é o caso, polas entidades locais galegas, no exercicio das súas competencias de autoorganización (artigos 27.1 e 28.2 do Estatuto de autonomía de Galicia) e sobre o réxime local (artigo 27.2 do Estatuto). Para iso, poderíanse modificar a Lei 4/2019, do 17 de xullo, de administración dixital de Galicia, e, se é o caso, a Lei 5/1997, do 22 de xullo, de Administración local de Galicia, co fin de introducir os principios que deben rexer a implantación das tecnoloxías baseadas na intelixencia artificial tanto no sector público autonómico como no local. Así mesmo, as competencias da Comunidade Autónoma de desenvolvemento lexislativo e execución en materia de contratos e concesións administrativas (artigo 28.2 do Estatuto de autonomía) permitirían introducir as especificacións xerais exixibles a toda aplicación, produto ou servizo baseado en intelixencia artificial que as administracións públicas adquiran do sector privado, respectando en todo caso as regras de carácter básico sobre o establecemento de prescricións técnicas que recollen o artigo 126 e seguintes da Lei 9/2017, do 8 de novembro, de contratos do sector público. Do mesmo xeito, a Comunidade Autónoma tamén podería desenvolver unha política propia de fomento do desenvolvemento das tecnoloxías baseada na intelixencia artificial en Galicia, sobre a base das súas competencias estatutarias en materia de fomento da actividade económica. E, na medida en que a actividade de fomento permite á Administración orientar os fins de interese xeral aos que se debe dirixir a actuación privada beneficiaria daquela, as medidas autonómicas de impulso do desenvolvemento das tecnoloxías baseadas na intelixencia artificial teríanse que condicionar ao cumprimento por estas tecnoloxías dos estándares éticos que, na falta dun marco regulador, son xeralmente admitidos na actualidade».
Tamén responde, así mesmo, ás peticións explícitas do Parlamento de Galicia, que solicitou á Xunta de Galicia, no mes de abril de 2023, o impulso das actuacións necesarias para que a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público adopten, como marco de actuación, o establecido polo Regulamento europeo de intelixencia artificial, previamente á súa entrada en vigor, prevista para o ano 2024, así como o desenvolvemento da normativa necesaria para a aplicación da intelixencia artificial na Administración autonómica. O Parlamento de Galicia tamén levou a cabo importantes accións no ámbito da intelixencia artificial, como a Declaración institucional do Parlamento de Galicia en favor dunha intelixencia artificial ética e centrada no ser humano, asinada en xuño de 2022.
Tamén responde á oportunidade que supón a localización da Axencia Española de Supervisión de Intelixencia Artificial na Coruña. O Regulamento europeo de intelixencia artificial establece as «autoridades nacionais de supervisión» que se encarguen de supervisar a aplicación e a execución do disposto no mencionado regulamento, así como de coordinar as actividades encomendadas aos devanditos estados membros, actuar como o punto de contacto único para a Comisión e representar o estado membro en cuestión ante o Comité Europeo de Intelixencia Artificial. Esta axencia, creada polo Real decreto 729/2023, do 22 de agosto, polo que se aproba o Estatuto da Axencia Española de Supervisión de Intelixencia Artificial, é a primeira axencia deste tipo que se crea en Europa.
Responde, así mesmo, ao compromiso para a lexislatura 2024-2028 de desenvolver a normativa necesaria para facilitar a adopción de tecnoloxías dixitais de alto impacto, tanto no sector público como nos diferentes sectores económicos, a través de mecanismos que favorezan a atracción de investimentos e talento dixital, garantindo que a incorporación de tecnoloxías disruptivas se leve a cabo baixo os criterios éticos e de seguridade.
Por último, responde ás recomendacións emitidas polo Consello de Europa no Convenio marco sobre intelixencia artificial e dereitos humanos, democracia e Estado de dereito, adoptado en maio de 2024, no relativo aos principios relacionados coas actividades dentro do ciclo de vida dos sistemas de intelixencia artificial.
Atendendo ao Regulamento polo que se establecen as normas harmonizadas en materia de intelixencia artificial, recóllese que o seu fundamento xurídico radica no artigo 114 do Tratado de funcionamento da Unión Europea, que permite ao Parlamento adoptar medidas apropiadas para establecer o funcionamento do mercado común. Con isto preténdese avanzar cara a unha regulación europea sólida para conseguir unha intelixencia artificial fiable, que garanta a igualdade, protexa as persoas e fomente a competitividade industrial.
No plano normativo estatal, a aprobación durante os últimos anos de leis que prevén dar resposta aos retos que implican este gran cambio e a demanda de seguridade xurídica no desenvolvemento e exercicio dos dereitos da cidadanía é notable. En materia de procedemento administrativo común e réxime xurídico do sector público, a Lei 39/2015, do 1 de outubro, do procedemento administrativo común das administracións públicas, e a Lei 40/2015, do 1 de outubro, do réxime xurídico do sector público, introducen con carácter transversal o emprego dos medios electrónicos nas relacións entre a Administración e a cidadanía. A tecnoloxía tamén impacta notablemente na protección de datos de carácter persoal; así, o regulador europeo introduce o Regulamento (UE) 2016/679, relativo á protección das persoas físicas no que respecta ao tratamento de datos persoais. No referente á ciberseguridade, o Real decreto 311/2022, do 3 de maio, polo que se regula o Esquema nacional de seguridade, establece os principios básicos e requisitos mínimos que aplican a aqueles sistemas de información de entidades públicas, garantindo unha adecuada seguridade da información tratada. No referente á innovación en materia de intelixencia artificial, o Real decreto 817/2023, do 8 de novembro, que establece unha contorna controlada de probas para o ensaio do cumprimento da proposta de regulamento do Parlamento Europeo e do Consello pola que se establecen normas harmonizadas en materia de intelixencia artificial, establece espazos de probas para ensaiar o cumprimento de certos requisitos por parte dalgúns sistemas de intelixencia artificial que poidan supoñer riscos para a seguridade, a saúde e os dereitos fundamentais das persoas.
No marco da Estratexia España dixital 2026 e co obxectivo de liderar o desenvolvemento e a integración da intelixencia artificial na sociedade e na economía española, aprobouse a Estratexia nacional de intelixencia artificial. Aliñado con esta estratexia, elaborouse a Carta de dereitos dixitais, que recolle no seu apartado XXV a base dos dereitos das persoas ante a intelixencia artificial, en virtude de garantir a non discriminación, transparencia e supervisión humana nas decisións tomadas por tecnoloxías intelixentes. En liña con iso, aprobouse a Lei 15/2022, do 12 de xullo, integral para a igualdade de trato e a non discriminación, que regula o uso de algoritmos na toma de decisións por parte das administracións públicas e obriga a implementar medidas que minimicen nesgos e garantan a rendición de contas, buscando así un uso ético e responsable da intelixencia artificial para fomentar a confianza na tecnoloxía, así como garantir o establecido no artigo 41.2 da Lei 40/2015, do 1 de outubro.
No eido autonómico, os alicerces da regulación do desenvolvemento da intelixencia artificial en Galicia xa contan cun corpo legal, integrado pola Lei 16/2010, do 17 de decembro, de organización e funcionamento da Administración xeral o do sector público autonómico de Galicia, reguladora da organización e do réxime xurídico da Administración xeral da Comunidade Autónoma de Galicia e das entidades instrumentais integrantes do sector público autonómico; pola Lei 14/2013, do 26 de decembro, de racionalización do sector público autonómico, que promoveu a optimización dos recursos públicos, a eficacia na xestión e o logro da máxima coordinación dos distintos órganos e unidades administrativas como principios básicos que guían a actuación do sector público autonómico; pola Lei 1/2015, do 1 de abril, de garantía da calidade dos servizos públicos e da boa administración, que consagra legalmente o dereito da cidadanía á boa administración e a que se lle presten uns servizos públicos de calidade, así como a participar na avaliación da calidade dos servizos públicos, como parte imprescindible do ciclo das políticas públicas; e pola Lei 4/2019, do 17 de xullo, de administración dixital de Galicia.
Máis recentemente, a Lei 7/2022, do 27 de decembro, de medidas fiscais e administrativas, recolle no artigo 52 unha nova disposición adicional na Lei 5/2013, do 30 de maio, de fomento da investigación e da innovación de Galicia, pola que a Administración autonómica, no seu ámbito de competencias, poderá establecer bancos de probas regulatorias que permitan a execución de proxectos piloto de I+D+i conforme un marco normativo e administrativo adecuado para garantir o respecto á legalidade e á competitividade internacional.
Xa que logo, resulta clave dotar o ordenamento xurídico autonómico dunha regulación única, coherente, actualizada e ordenada, contando cunha lei que sistematice nun único corpo toda a regulación relativa ao desenvolvemento e uso da intelixencia artificial na Administración xeral da Comunidade Autónoma de Galicia e no seu sector público.
Polo que atinxe ao fundamento competencial, esta lei dítase no exercicio das competencias autonómicas exclusivas en materia de organización das institucións de autogoberno e en materia de procedementos administrativos que deriven do específico dereito galego ou da organización propia dos poderes públicos galegos, así como da competencia autonómica de desenvolvemento lexislativo e execución da lexislación do Estado en materia de réxime xurídico da Administración pública de Galicia, recollidas, respectivamente, no artigo 27, apartados 1 e 5, e mais no artigo 28.1 do Estatuto de autonomía de Galicia. Xunto a estes títulos competenciais, tamén procede invocar, atendidas as previsións en materia de emprego público e de contratación contidas na lei, as competencias autonómicas de desenvolvemento lexislativo e execución da lexislación do Estado en materia de réxime estatutario dos seus funcionarios e en materia de contratos, previstas no artigo 28, apartados 1 e 2, do Estatuto de autonomía de Galicia.
Por todo o exposto, o proceso de deseño, desenvolvemento, implementación e uso de sistemas de intelixencia artificial ten que dispoñer dunha norma, coa lexitimidade que só confire o Parlamento, que ofreza instrumentos suficientes e axeitados que permitan un deseño e desenvolvemento sustentable e un uso seguro. Esta tarefa é abordada co respaldo dun estado de opinión colectivo: o convencemento de que Galicia pode e debe asumir o papel de liderado que lle corresponde na conformación dunha «Galicia intelixente» a través da ordenación e xestión dunha das tecnoloxías que marcará o futuro da humanidade: a intelixencia artificial.
Esta lei estrutúrase nun título preliminar e cinco títulos, unha disposición adicional, unha disposición transitoria e tres disposicións derradeiras.
O título preliminar recolle as disposicións xerais, referidas ao obxecto, ao ámbito de aplicación e aos fins da lei e aos principios para unha xestión responsable da intelixencia artificial, así como aos dereitos da cidadanía.
Esta lei define por primeira vez os principios xerais que deben rexer a actuación da Administración autonómica no deseño, desenvolvemento, implementación e uso da intelixencia artificial. Estes principios están en plena conexión coas ideas xa trasladadas por organismos multilaterais como a Organización para a Cooperación e o Desenvolvemento Económico, a Comisión Europea ou o Consello de Europa, que animaban os gobernos a desenvolver unha contorna de políticas que faga posible a adopción de sistemas de intelixencia artificial dun xeito fiable e seguro. Tamén o están cos principios e obrigas recollidos no Regulamento de intelixencia artificial, non supoñendo requisitos adicionais para os sistemas de alto risco aos xa previstos na norma comunitaria.
Como principios para unha xestión responsable da intelixencia artificial, enúncianse os principios de boa administración dixital e dilixencia debida; de auditabilidade, rastrexabilidade e explicabilidade; de transparencia; de claridade; de imparcialidade e de ausencia de nesgos; de seguridade e privacidade; de reserva de humanidade e de revisión humana; de proactividade e personalización; de universalidade e accesibilidade; de fiabilidade e responsabilidade; de avaliación do impacto organizativo, económico, social e medioambiental; de avaliación continua; de precaución; de formación continua; de colaboración e transferencia; e de capacidade técnica, proporcionalidade e suficiencia financeira.
Como dereitos da cidadanía, enúncianse os dereitos de transparencia e supervisión humana, os dereitos de igualdade e os dereitos de tutela.
O título I regula a organización administrativa e os suxeitos intervenientes nos procesos de deseño, adquisición, implementación e uso da intelixencia artificial e a planificación para o impulso e desenvolvemento da intelixencia artificial en Galicia; os órganos promotores funcionais e os responsables tecnolóxicos; a coordinación, a través da creación da Oficina de Intelixencia Artificial e o apoio da Comisión estratéxica para o asesoramento estratéxico en intelixencia artificial, cando o nivel de risco, o impacto e a súa complexidade así o requiran; o Consello Galego de Intelixencia Artificial, como máximo órgano colexiado de participación, consulta e asesoramento en materia de intelixencia artificial; e a esencial participación dos centros de investigación, o tecido empresarial, os colexios profesionais e a sociedade civil no desenvolvemento ético e seguro da intelixencia artificial.
No relativo á planificación, a lei articula un sistema en cadoiro que toma como punto de partida a procura dun impulso e desenvolvemento da intelixencia artificial ordenado, tanto no ámbito público como no ámbito privado. Así, regúlase a Estratexia galega de intelixencia artificial, coa finalidade de establecer os obxectivos xerais e particulares que se pretenden acadar no ámbito da intelixencia artificial en Galicia nun período temporal definido, así como a coordinación da participación da Comunidade Autónoma de Galicia nos programas e estratexias nacionais e internacionais, o fomento da innovación e do desenvolvemento tecnolóxico e da súa xestión e mais a medición e avaliación dos resultados obtidos en relación cos obxectivos propostos.
Regúlanse os programas sectoriais de intelixencia artificial propostos polas consellarías competentes por razón da materia. O sistema de planificación en cadoiro péchase coa regulación dos proxectos de intelixencia artificial que definirán para a súa execución as características esenciais dun sistema de intelixencia artificial e o establecemento das características e especificacións técnicas do sistema de intelixencia artificial, así como o plan de xestión de datos, ou a cuantificación dos medios humanos, económicos e materiais necesarios para a súa posta en marcha.
Esta planificación completará a que ata agora viña levándose a cabo a través da Estratexia galega de intelixencia artificial e doutros instrumentos recollidos na lexislación sectorial, que serán revisados para se adaptaren a esta nova regulación.
O título II regula os instrumentos para a xestión dos sistemas de intelixencia artificial e as fórmulas para garantir a colaboración entre administracións públicas e destas co sector privado.
O Inventario de sistemas de intelixencia artificial será o elemento central da xestión e reflectirá todo o ciclo de vida dos sistemas de intelixencia artificial, desde o seu deseño ata a súa desactivación.
A lei establece unha nova figura: as persoas comisionadas de intelixencia artificial, que velarán polo cumprimento dos principios e obrigas en materia de prevención, detección e eliminación de riscos e de resultados negativos da implementación de sistemas de intelixencia artificial, constituíndo estes un elemento crucial no mecanismo de goberno interno da Administración autonómica, no seu rol de provedor e responsable do despregamento de sistemas de intelixencia artificial.
No relativo á cooperación interadministrativa e á colaboración público-privada, establécese unha constante comunicación e colaboración coa Oficina de Intelixencia Artificial na Unión Europea, coa Axencia Española de Supervisión da Intelixencia Artificial e con outros organismos análogos, nacionais ou internacionais, co obxectivo de intercambiar coñecementos e experiencias no campo da regulación e supervisión da intelixencia artificial no eido das súas competencias.
Regúlase tamén o repositorio de sistemas de intelixencia artificial, polo que a Administración autonómica pon á disposición das demais administracións os sistemas de intelixencia desenvolvidos ou adquiridos, co obxectivo de fomentar a reutilización destes sistemas e promover a eficiencia nas administracións públicas.
O título III, relativo ao procedemento para a definición e a posta en marcha de proxectos de intelixencia artificial na Administración xeral da Comunidade Autónoma de Galicia e no seu sector público, recolle algunhas das novidades máis salientables da lei.
Regúlase o informe do proxecto de intelixencia artificial como elemento nuclear do procedemento e establécese o seu contido mínimo: unha identificación das necesidades funcionais que deben ser cubertas e unha identificación da necesidade e oportunidade de deseñar ou adquirir, implementar e empregar concretos sistemas de intelixencia artificial; e a relación de características e especificacións técnicas e o conxunto de datos proposto para o adestramento, a validación e a proba, especificando se este contén unha combinación de datos persoais e non persoais, así como un plan para a súa xestión. Cómpre salientar que inclúe unha avaliación de impacto relativa aos dereitos fundamentais, de acordo co modelo facilitado pola Oficina Europea de Intelixencia Artificial, consonte a normativa vixente de aplicación.
O título IV, relativo ao uso de sistemas de intelixencia artificial, recolle algunhas novidades que están en sintonía coas iniciativas que se están a promover desde as institucións europeas e que teñen por misión facilitar a adopción e o uso dos sistemas de intelixencia artificial por parte das institucións públicas. Deste modo, asegúrase a posta á disposición da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público de guías para o uso de sistemas de intelixencia artificial e as devanditas ferramentas de autodiagnose.
Por último, sobre a base das competencias estatutarias en materia de fomento da actividade económica, a intelixencia artificial require unha política propia de fomento do seu desenvolvemento. Por iso, considerarase que os proxectos cuxa actividade teña relación directa coa intelixencia artificial pertencen a un sector estratéxico aliñado cos obxectivos da Unión Europea. Do mesmo xeito, considerarase o sector da intelixencia artificial como de especial importancia, para os efectos da valoración da concorrencia das circunstancias previstas no artigo 75.1.a) da Lei 3/2022, do 18 de outubro, de áreas empresariais de Galicia.
Así, o título V da lei recolle as medidas para o impulso da intelixencia artificial en Galicia, desde o punto de vista enerxético; de impulso empresarial, emprendemento e investimento; de fiscalidade; en materia de I+D+i; e de apoio á formación, á capacitación e ao emprego.
Recoñécese o uso da intelixencia artificial para facilitar a consecución de impactos socioeconómicos positivos no territorio e contribuír a alcanzar os obxectivos de descarbonización e neutralidade climática fixados nos plans, programas e estratexias de transición elaborados pola Unión Europea, a Administración xeral do Estado e a propia Administración autonómica.
En primeiro lugar, establécese un conxunto de medidas innovadoras para a promoción do ecosistema empresarial de intelixencia artificial, coa creación dun sistema de vixilancia tecnolóxica en intelixencia artificial para as empresas en colaboración cos European Digital Innovation Hubs estratéxicos.
En segundo lugar, establécese un conxunto de medidas para o fomento do investimento en solucións de intelixencia artificial, como a creación de programas de incubación, aceleración e consolidación de start-ups en intelixencia artificial e deep tech e a creación dun fondo de participación en empresas que desenvolvan en Galicia sistemas de intelixencia artificial.
En terceiro lugar, establécense as medidas de fomento da investigación e innovación no ámbito da intelixencia artificial e recóllense algunhas das novidades máis salientables da lei. Impúlsanse factorías de intelixencia artificial, en total sintonía coas recomendacións da Comisión Europea nesta materia, que contarán co Centro de Supercomputación de Galicia como actor nuclear para dinamizar o ecosistema de intelixencia artificial de Galicia, facilitando o acceso ás empresas emerxentes, así como a todos os axentes do ecosistema de intelixencia artificial que necesiten desenvolver, adestrar e validar sistemas de intelixencia artificial. Así mesmo, establécese un espazo controlado de probas para o tecido investigador e empresarial.
Por último, recóllense distintas medidas destinadas a promover a alfabetización en materia de intelixencia artificial, tanto para os empregados públicos como para a cidadanía no seu conxunto, o que contribúe ao obxectivo da Comisión Europea de asegurar que as persoas involucradas no desenvolvemento e uso da intelixencia artificial estean debidamente capacitadas, promovendo así un uso responsable e ético desta tecnoloxía.
A lei remata cunha disposición adicional, unha disposición transitoria e tres disposicións derradeiras.
Esta lei axústase aos principios de boa regulación previstos no artigo 37.a) da Lei 14/2013, do 26 de decembro, de racionalización do sector público autonómico, no que se exixe que «en todas as iniciativas normativas xustificarase a adecuación destas aos principios de necesidade, proporcionalidade, seguridade xurídica, transparencia, accesibilidade, simplicidade e eficacia».
Desta maneira, o principio de necesidade desta iniciativa lexislativa vén determinado por canto as medidas propostas unicamente poden ser introducidas mediante unha norma con rango de lei, por afectar materias que están reservadas a este tipo de norma.
Respéctase o principio de proporcionalidade, dado que para conseguir os obxectivos da lei se realiza un esforzo de simplificación e integración da normativa vixente.
Préstase especial atención á efectividade do principio de seguridade xurídica, directamente conectado coa integración coherente da nova norma no ordenamento xurídico vixente, de maneira que o resultado sexa un marco normativo estable, claro, integrado e de certeza; e ao principio de transparencia, promovendo a máis ampla participación da cidadanía en xeral e, en particular, dos operadores técnicos e xurídicos implicados na materia, tanto na elaboración da propia lei como na fase de planificación, e sen menoscabo dos procedementos de participación que poidan estar previstos noutras normas, así como ao principio de accesibilidade, garantindo o acceso a toda a información de que dispoña a Administración na materia obxecto de regulación.
Finalmente, en virtude dos principios de simplicidade e eficacia, e dentro do obxectivo de simplificación administrativa e da normativa de aplicación, evítanse as cargas administrativas innecesarias ou accesorias, o que supón a racionalización dos recursos públicos asociados á tramitación dos procedementos administrativos relacionados con elas.
Na tramitación do anteproxecto de lei observáronse todas as garantías exixidas pola lexislación vixente en materia de participación pública, promovendo unha participación pública real e efectiva ao longo de todo o procedemento de tramitación.
Por todo o exposto, o Parlamento de Galicia aprobou e eu, de conformidade co artigo 13.2 do Estatuto de Autonomía de Galicia e co artigo 24 da Lei 1/1983, do 22 de febreiro, de normas reguladoras da Xunta e da súa Presidencia, promulgo, en nome do rei, a Lei para o desenvolvemento e impulso da intelixencia artificial en Galicia.
Artigo 1. Obxecto
1. Esta lei ten por obxecto establecer o marco para o deseño, a adquisición, a implementación e o uso da intelixencia artificial na Administración xeral da Comunidade Autónoma de Galicia e no seu sector público de conformidade coa regulación da Unión Europea e coa normativa básica estatal nesta materia, das cales constitúe o seu desenvolvemento e execución na Comunidade Autónoma de Galicia.
2. Para estes efectos, a lei regula o réxime xurídico do uso da intelixencia artificial polo sector público galego no desenvolvemento da súa actividade e nas súas relacións coa cidadanía, empresas, entidades e demais administracións públicas, promovendo a adopción dunha intelixencia artificial centrada no ser humano, segura, fiable, cun alto nivel de protección da saúde e dos dereitos fundamentais e respectuosa co medio ambiente.
3. Así mesmo, a lei ten por obxecto impulsar o desenvolvemento da intelixencia artificial no tecido empresarial e no ecosistema de investigación e innovación da Comunidade Autónoma de Galicia, co fin de mellorar a súa produtividade e competitividade.
Artigo 2. Finalidade
Os fins desta lei son os seguintes:
a) Fixar as bases da gobernanza e planificación dos sistemas de intelixencia artificial pola Administración xeral da Comunidade Autónoma de Galicia e no seu sector público, prestando unha especial atención á promoción da calidade na ordenación e no uso dos devanditos sistemas.
b) Establecer os principios xerais reitores do deseño, adquisición, implementación e uso de sistemas de intelixencia artificial pola Administración xeral da Comunidade Autónoma de Galicia e no seu sector público, dentro do marco regulador da Unión Europea e da normativa básica estatal aplicable. En particular:
1º. Garantir que os devanditos sistemas sexan fiables e respectuosos cos dereitos fundamentais da cidadanía e outorgar unha axeitada protección a esta nos procesos e procedementos administrativos nos que se empreguen tales sistemas.
2º. Garantir a incorporación ao funcionamento da Administración xeral da Comunidade Autónoma de Galicia e no seu sector público de sistemas de intelixencia artificial que promovan a eficacia e a eficiencia na tramitación dos procedementos administrativos e na prestación dos servizos públicos, para un mellor servizo á cidadanía.
c) Establecer o marco esencial das medidas destinadas a apoiar e impulsar o desenvolvemento de tecnoloxías e sistemas de intelixencia artificial innovadores e de alta calidade en Galicia, promovendo a comunidade autónoma como un lugar idóneo para o investimento empresarial e o desenvolvemento industrial no sector da intelixencia artificial.
d) Promover e facilitar a elaboración de guías ou códigos de conduta de aplicación voluntaria para os sistemas de intelixencia artificial que non sexan de alto risco, consonte os requisitos exixidos pola Unión Europea e a demais normativa de aplicación.
e) Impulsar a implantación e o uso de sistemas de intelixencia artificial seguros, eficientes e de calidade nas empresas galegas, en particular nas pequenas e medianas empresas, incluídas as de nova creación, promovendo a súa mellora competitiva.
f) Implantar medidas de capacitación no sector público e privado, para os efectos de incrementar os coñecementos en intelixencia artificial tanto da poboación en xeral como dos operadores especializados no sector público e privado, mediante accións formativas abertas ao público en xeral, nos distintos niveis educativos e na formación continua.
g) Garantir o uso normal da lingua galega nos procesos de desenvolvemento de sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral e potenciar o desenvolvemento de sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral en galego.
Artigo 3. Ámbito de aplicación
1. As disposicións contidas nesta lei serán aplicables a:
a) O sector público autonómico, integrado, de conformidade co artigo 3 da Lei 16/2010, do 17 de decembro, de ordenación e funcionamento da Administración xeral e do sector público autonómico de Galicia, pola Administración xeral e polas entidades instrumentais.
b) A cidadanía e os operadores de sistemas de intelixencia artificial nas súas relacións coa Administración xeral e o sector público autonómico de Galicia.
Para estes efectos, as referencias á cidadanía neste apartado comprenderán as persoas físicas, as persoas xurídicas e, cando legalmente teñan recoñecida capacidade de obrar ante as administracións públicas, se é o caso, os grupos de afectados, as unións e entidades sen personalidade xurídica e os patrimonios independentes ou autónomos.
c) Nos casos en que así se indique expresamente, as relacións entre o sector público autonómico e as restantes administracións públicas, dentro do ámbito territorial da Comunidade Autónoma de Galicia, con pleno respecto ás competencias destas.
2. Esta lei non se aplicará aos sistemas de intelixencia artificial ou modelos de intelixencia artificial de uso xeral, incluídos os seus resultados de saídas, desenvolvidos e postos en servizo especificamente co único fin da investigación e do desenvolvemento científico pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público, sen prexuízo da aplicación do establecido no capítulo II do título V.
Artigo 4. Definicións
Para efectos desta lei, entenderase por:
a) Sistema de intelixencia artificial: sistema baseado nunha máquina deseñado para funcionar con distintos niveis de autonomía e que pode mostrar capacidade de adaptación tras o seu despregamento e que, para obxectivos explícitos ou implícitos, infire, a partir da entrada que recibe, como xerar resultados de saídas tales como predicións, contidos, recomendacións ou decisións que poden influír en contornas físicas ou virtuais, de acordo co establecido no Regulamento (UE) 2024/1689 do Parlamento Europeo e do Consello, do 13 de xuño de 2024, polo que se establecen normas harmonizadas en materia de intelixencia artificial.
b) Modelo de intelixencia artificial de uso xeral: un modelo de intelixencia artificial, tamén un adestrado cun gran volume de datos utilizando autosupervisión a grande escala, que presenta un grao considerable de xeneralidade e é capaz de realizar de maneira competente unha gran variedade de tarefas distintas, independentemente da forma en que o modelo se introduza no mercado, e que pode integrarse en diversos sistemas ou aplicacións posteriores, excepto os modelos de intelixencia artificial que se utilizan para actividades de investigación, desenvolvemento ou creación de prototipos antes da súa introdución no mercado, de acordo co establecido no Regulamento (UE) 2024/1689 do Parlamento Europeo e do Consello, do 13 de xuño.
c) Operador: un provedor, fabricante de produto, responsable do despregamento, representante autorizado, importador ou distribuidor, de acordo co establecido no Regulamento (UE) 2024/1689 do Parlamento Europeo e do Consello, do 13 de xuño.
d) Proxecto de intelixencia artificial: iniciativa que ten por obxecto resolver problemas definidos de maneira clara e obxectiva a través do deseño, adquisición, implementación, uso ou mellora de sistemas ou modelos de intelixencia artificial de uso xeral, orientados a cubrir necesidades funcionais específicas. Este proxecto deberá estar aliñado coas estratexias e programas sectoriais aplicables á intelixencia artificial.
e) Ciclo de vida do sistema de intelixencia artificial: serie de etapas consecutivas e interrelacionadas que teñen como finalidade o deseño, a implementación, o mantemento e a desactivación, se é o caso, dun sistema de intelixencia artificial.
f) Funcionamento dun sistema de intelixencia artificial: a capacidade dun sistema de intelixencia artificial para lograr a súa finalidade prevista.
g) Datos de adestramento: datos utilizados para adestrar un sistema de intelixencia artificial mediante o axuste dos seus parámetros obxecto de aprendizaxe.
h) Datos de validación: datos utilizados para proporcionar unha avaliación do sistema de intelixencia artificial adestrado e para axustar os seus parámetros non susceptibles de ser aprendidos e o seu proceso de aprendizaxe, co fin, entre outras cousas, de evitar a adaptación insuficiente ou excesiva.
i) Datos de proba: os datos utilizados para proporcionar unha avaliación independente do sistema de intelixencia artificial co fin de confirmar o funcionamento previsto do devandito sistema antes da introdución no mercado ou posta en servizo.
j) Desactivación dun sistema de intelixencia artificial: calquera medida destinada a impedir que un sistema de intelixencia artificial sexa utilizado.
k) Risco: a combinación da probabilidade de que se produza un dano e a gravidade dese dano.
l) Datos persoais: os datos persoais definidos no artigo 4, punto 1, do Regulamento (UE) 2016/679, do 27 de abril.
m) Datos non persoais: datos distintos dos datos persoais definidos no artigo 4, punto 1, do Regulamento (UE) 2016/679, do 27 de abril.
n) Actuación administrativa automatizada: calquera acto ou actuación realizada integramente a través de medios electrónicos por unha administración pública no marco dun procedemento administrativo e na que non interveña de forma directa persoal empregado público, de conformidade co establecido no artigo 41 da Lei 40/2015, do 1 de outubro, do réxime xurídico do sector público.
ñ) Actuación administrativa semiautomatizada: aquela actuación para que o sistema de información que pode ser producido por algoritmos xere unha previsión, recomendación ou borrador total ou parcial e que pode constituír fundamento ou apoio a un acto dun empregado público ou órgano administrativo.
o) Factoría de intelixencia artificial: ecosistema aberto formado arredor dun supercomputador público no que conflúen recursos humanos e materiais esenciais para o desenvolvemento de modelos e aplicacións de intelixencia artificial. Entre estes recursos atoparanse os supercomputadores para intelixencia artificial, os centros de datos asociados adxacentes ou conectados a través de redes de alta velocidade e o capital humano para utilizar estes recursos de maneira eficaz, constituído tanto por persoas expertas en supercomputación como especialistas en datos, investigadores e investigadoras, empresas emerxentes e usuarios e usuarias finais.
Artigo 5. Principios para unha xestión responsable da intelixencia artificial
1. Para a consecución dos fins enumerados nesta lei, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público adecuarán a súa actuación e funcionamento, cando deseñen, adquiran, implementen ou empreguen sistemas de intelixencia artificial, aos principios xerais recollidos neste capítulo, así como aos demais principios e obrigas exixidos na correspondente normativa europea e estatal que lles resulte aplicable.
2. En particular, no suposto de sistemas de intelixencia artificial de alto risco e modelos de intelixencia artificial de uso xeral serán aplicables os principios e requisitos recollidos no Regulamento (UE) 2024/1689 do Parlamento Europeo e do Consello, do 13 de xuño de 2024, polo que se establecen normas harmonizadas en materia de intelixencia artificial.
Artigo 6. Boa administración dixital e dilixencia debida
1. O deseño, a adquisición, a implementación e o uso de sistemas de intelixencia artificial por parte da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público faranse con pleno respecto á boa administración, así como aos principios e dereitos previstos nesta lei e na normativa aplicable.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público deberán ser capaces de facilitar unha motivación comprensible das decisións propostas ou adoptadas nos procedementos administrativos nos que se empreguen sistemas de intelixencia artificial, recollendo, como mínimo, o marco xurídico de referencia, os criterios aplicados, os datos empregados e as características do propio sistema de intelixencia artificial.
3. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público deberán ser capaces de identificar, rastrexar e xestionar de forma activa os riscos relacionados co deseño e implementación dos sistemas de intelixencia artificial, coa participación, se é o caso, de todos os axentes públicos e privados.
Artigo 7. Auditabilidade, rastrexabilidade e explicabilidade
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público adoptarán as medidas necesarias para que os sistemas de intelixencia artificial que deseñen ou empreguen poidan ser revisados en calquera momento do seu ciclo de vida, co fin de comprobar o axuste ao establecido nesta lei e na normativa aplicable.
2. Así mesmo, a Administración autonómica deseñará e empregará sistemas de intelixencia artificial, cuxas decisións deberán ser rastrexables.
3. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público deberán deseñar e empregar sistemas de intelixencia artificial que, de forma apropiada para o contexto e acorde co estado da tecnoloxía, poidan proporcionar información sinxela e fácil de entender sobre as fontes de datos/entradas, factores, procesos e/ou lóxica que levaron á predición, contido, recomendación ou decisión, para permitir aos afectados por un sistema de intelixencia artificial comprender o resultado. Así mesmo, deberán proporcionar información que permita a aqueles afectados negativamente por un sistema de intelixencia artificial cuestionar o seu resultado.
Artigo 8. Transparencia
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público deberán ofrecer no Portal de Transparencia e Goberno Aberto a información pertinente sobre a arquitectura e o funcionamento dos sistemas de intelixencia artificial que desenvolvan ou empreguen na súa actividade, sen prexuízo das limitacións previstas no artigo 14 da Lei 19/2013, do 9 de decembro, de transparencia, acceso á información pública e bo goberno, e no artigo 25 da Lei 1/2016, do 18 de xaneiro, de transparencia e bo goberno.
2. En particular, deberán indicar os procedementos administrativos nos que se empregan, especificando os datos que utilizan, os parámetros de funcionamento e precisión, o nivel de risco e o impacto dos seus resultados nos devanditos procedementos, en especial se son ou non directamente decisorios deles.
3. Coidarase, especialmente, que esta información sexa facilmente accesible para persoas menores, maiores e grupos vulnerables.
Artigo 9. Claridade
1. A información publicada en virtude do principio de transparencia, ou notificada como consecuencia do dereito de acceso á información, será facilitada nunha linguaxe clara que permita que todas as persoas, independentemente das súas capacidades ou da súa situación socioeconómica, comprendan o procedemento no que intervén un sistema de intelixencia artificial e os seus resultados.
2. Para o efectivo cumprimento do disposto no punto anterior, recorrerase ao uso de expresións concisas e claras, ao emprego de estruturas lingüísticas efectivas e iconas estandarizadas e ao bo deseño dos documentos.
Artigo 10. Imparcialidade e ausencia de nesgos
Nos procesos de deseño, adquisición, implementación e uso de sistemas de intelixencia artificial adoptaranse as garantías necesarias para os efectos de mitigar calquera resultado discriminatorio ou calquera tipo de nesgo.
Artigo 11. Seguridade e privacidade
1. Nos procesos de deseño, adquisición, implementación e uso de sistemas de intelixencia por parte da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público deberase garantir que estes aseguren a integridade, confidencialidade, dispoñibilidade e autenticidade dos datos e da información tratada mediante o establecemento das oportunas medidas de seguridade, exixidas na normativa aplicable e nos protocolos internos de actuación, que garantan, ademais, que estes sistemas sexan seguros e resilientes fronte a terceiros que intenten explotar as súas vulnerabilidades.
2. Os datos persoais serán tratados consonte o disposto no Regulamento (UE) 2016/679 do Parlamento Europeo e do Consello, do 27 de abril de 2016, e na Lei orgánica 3/2018, do 5 de decembro, de protección de datos persoais e garantía dos dereitos dixitais, así como na restante normativa de aplicación, garantindo a seguridade e privacidade desde o deseño e por defecto e a aplicación dos principios reitores do tratamento de datos persoais. En particular, deberanse ter en conta no tratamento dos datos os principios de licitude, transparencia, lealdade, limitación da finalidade, minimización dos datos, exactitude, seguridade, limitación do prazo de conservación e responsabilidade proactiva.
3. Todo isto entenderase sen prexuízo da necesidade de observar e protexer os dereitos de propiedade intelectual e industrial, a información empresarial confidencial e os segredos comerciais, de conformidade coa normativa europea e estatal que lle resulte aplicable.
Artigo 12. Reserva de humanidade e de revisión humana
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán empregar sistemas de intelixencia artificial tanto na súa actividade material ou técnica como na adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de acordo co sinalado neste artigo e de conformidade co establecido na normativa europea e estatal de aplicación.
2. No caso de uso de sistemas de intelixencia artificial que sirvan de apoio ou fundamento para a adopción de actos ou decisións administrativas, adoptaranse as garantías necesarias para os efectos de mitigar calquera nesgo por parte do órgano competente resolutorio. En ningún caso tales actuacións nas que se empreguen sistemas de intelixencia artificial constituirán de seu decisións ou actos administrativos sen validación pola persoa titular do órgano competente.
3. Nos supostos de uso de sistemas de intelixencia artificial que sirvan para a adopción de actos administrativos formalizados, tanto de trámite como resolutorios, de xeito automatizado sen intervención humana directa, de acordo co establecido no artigo 76 de Lei 4/2019, do 17 de xullo, deberá tratarse de actos administrativos que non requiran dunha valoración subxectiva das circunstancias concorrentes ou dunha interpretación xurídica.
4. No caso contrario, non poderán realizarse actuacións administrativas automatizadas a través do uso de sistemas de intelixencia, agás que se cumpran todos os requisitos seguintes:
a) O órgano competente da actuación administrativa automatizada aprobará previamente, e serán incorporadas na resolución conxunta á que se refire o artigo 76.4 da Lei 4/2019, do 17 de xullo, as instrucións administrativas que permitan concretar os requisitos necesarios para definir de forma detallada e inequívoca os casos ordinarios aos que resulte aplicable.
b) O órgano competente en materia de tecnoloxías da información e da comunicación, innovación e desenvolvemento tecnolóxico preparará o deseño tecnolóxico do sistema de intelixencia artificial no que se baseará a actuación administrativa automatizada, que respecte a norma correspondente reguladora do procedemento e as instrucións administrativas indicadas no apartado anterior, que non permita a alteración non supervisada do funcionamento do sistema ou modelo e que proporcione información sinxela e fácil de entender sobre o seu funcionamento para permitir aos afectados comprender e cuestionar o resultado.
5. Na regulación dos procedementos administrativos para a adopción de decisións administrativas automatizadas nas que se empreguen sistemas de intelixencia artificial preveranse o momento, o modo e o alcance da intervención de persoas físicas para garantir o cumprimento dos principios e dereitos recollidos nesta lei.
En todo caso, nos casos nos que as decisións, previsións ou recomendacións xeradas por sistemas de intelixencia artificial teñan un impacto irreversible ou de difícil reversión, ou impliquen actuacións que poidan xerar riscos para a vida ou a integridade física ou psicosocial dos individuos, será necesaria unha validación dunha persoa física no proceso decisorio, así como unha decisión humana final.
6. Sen prexuízo dos correspondentes recursos administrativos ou accións xudiciais, recoñecerase o dereito a presentar suxestións ou queixas relativas ao funcionamento dos propios sistemas de intelixencia artificial empregados pola Administración autonómica e polo seu sector público. O procedemento ou canle para a presentación destas suxestións ou queixas será o previsto no artigo 16 da Lei 1/2015, do 1 de abril, de garantía da calidade dos servizos públicos e de boa administración.
Artigo 13. Proactividade e personalización
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán deseñar procedementos xestionados a través de sistemas de intelixencia artificial no exercicio das súas funcións e competencias para satisfacer as necesidades das persoas sen necesidade de que estas formulen unha solicitude previa, o que se realizará de acordo co sinalado no artigo 25 da Lei 4/2019, do 17 de xullo, en relación cos servizos proactivos personalizados que pode prestar a Administración autonómica.
2. Así mesmo, procurarase que o deseño de tales procedementos permita ofrecer á cidadanía prestacións e servizos de forma individualizada, atendendo ás características persoais, sociais e económicas de cada persoa, sempre que se apliquen as medidas adecuadas para a protección dos dereitos, liberdades e intereses lexítimos das persoas destinatarias.
Artigo 14. Universalidade e accesibilidade
A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público asegurarán que o deseño, a adquisición, a implementación e o uso dos sistemas de intelixencia artificial cumpren cos máis altos estándares de accesibilidade e de deseño para todos os usuarios que, de seren destinados a ter interactuacións coa cidadanía, sexan accesibles a todas as persoas, independentemente das súas circunstancias persoais e socioeconómicas, establecendo as medidas oportunas para superar as fendas dixitais, en especial as determinadas por razóns económicas, de idade e de discapacidade.
Artigo 15. Fiabilidade e responsabilidade
1. Todos os sistemas de intelixencia artificial empregados pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público deberán contar coas debidas garantías que aseguren a máis alta probabilidade do seu bo funcionamento.
2. Os danos causados polos sistemas de intelixencia artificial deseñados ou empregados pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público, independentemente do seu grao de autonomía, deberán ser reparados integramente por ela, de acordo co establecido na Lei 40/2015, do 1 de outubro, e na Lei 39/2015, do 1 do outubro. O disposto anteriormente entenderase sen prexuízo da posibilidade de reclamar, se é o caso, aos provedores de tales sistemas. En todo caso, nestas cuestións haberá que aterse á normativa europea que resulte aplicable.
Artigo 16. Avaliación do impacto organizativo, económico, social e medioambiental
1. Sen prexuízo da correspondente avaliación de impacto relativa a dereitos fundamentais para os sistemas de intelixencia artificial de alto risco, de acordo co disposto no Regulamento (UE) 2024/1689, do 13 de xuño, ou, se é o caso, a relativa á protección de datos de acordo co Regulamento (UE) 2016/679, do 27 de abril, a Administración autonómica establecerá procesos dirixidos a avaliar os posibles riscos asociados aos sistemas de intelixencia artificial que a propia Administración autonómica pretenda deseñar ou empregar.
2. A finalidade de tales avaliacións de impacto será determinar, coa anticipación suficiente, cales son os potenciais riscos que pode implicar a implantación dun concreto sistema de intelixencia artificial en relación coa súa efectividade, seguridade, uso de recursos e custos económicos e mais impacto organizativo, social e ambiental, así como os mecanismos de mitigación ou compensación dos seus efectos.
3. As avaliacións de impacto clasificarán os riscos en función da súa gravidade e probabilidade e propoñerán medidas adecuadas para mitigar, atenuar ou compensar aqueles, de conformidade cos principios de capacidade técnica, proporcionalidade e suficiencia financeira.
Artigo 17. Avaliación continua
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público deberán realizar avaliacións de forma continua dos sistemas de intelixencia artificial que empreguen en resposta a cambios normativos, sociais e tecnolóxicos e aos coñecementos adquiridos no despregamento dos devanditos sistemas para asegurar a súa calidade e que as persoas afectadas reciban un trato xusto e non discriminatorio, de conformidade coa normativa aplicable.
2. Así mesmo, avaliarase que eses sistemas empreguen enerxías renovables como fonte de enerxía, sexan eficientes no seu consumo e empreguen, sempre que sexa posible, recursos de orixe sustentable.
Artigo 18. Precaución
No caso de que unha avaliación de impacto indique que o uso dun determinado sistema de intelixencia artificial puider causar danos de moi difícil reparación ás persoas, á sociedade ou ao medio ambiente, deberá valorarse o abandono do uso dese sistema. Con esta finalidade, ponderarase se as vantaxes da súa utilización ou as desvantaxes da súa non utilización son ou non superiores aos eventuais danos que poida ocasionar.
Artigo 19. Formación continua
A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público velarán porque o persoal empregado público que intervén ao longo do ciclo de vida dos sistemas de intelixencia artificial manteña as capacidades precisas para que poida garantir un debido uso destes.
Artigo 20. Colaboración e transferencia
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán mecanismos de colaboración público-pública e público-privada para o desenvolvemento de ferramentas, tecnoloxías e servizos baseados en sistemas de intelixencia artificial.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público velarán porque os coñecementos, técnicos, éticos e normativos, sobre sistemas de intelixencia artificial xerados sexan axeitadamente transferidos á sociedade.
Artigo 21. Capacidade técnica, proporcionalidade e suficiencia financeira
As obrigas establecidas nesta lei para a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público serán interpretadas de forma razoable á luz das solucións tecnolóxicas existentes relacionadas coa intelixencia artificial, do estado actual da técnica xeralmente recoñecido e das dispoñibilidades orzamentarias para o cumprimento delas.
Artigo 22. Os dereitos da cidadanía
Os procesos de deseño, adquisición, implementación e uso de sistemas de intelixencia artificial desenvolvidos pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público respectarán todos os dereitos recoñecidos ou atribuídos á cidadanía nesta lei e na demais normativa europea e estatal de aplicación.
Artigo 23. Transparencia e supervisión humana
1. Toda persoa na que na súa relación coa Administración xeral da Comunidade Autónoma de Galicia e co seu sector público interveñan sistemas de intelixencia artificial terá dereito a:
a) Recibir a debida información, clara e comprensible, coa posibilidade do uso de iconas ou símbolos facilmente recoñecibles, sobre:
1º. O carácter automatizado das interaccións e das decisións, en particular a saber se está a interactuar cun sistema de intelixencia artificial.
2º. A configuración xeral do sistema, tipos de decisións, recomendacións ou predicións que se pretenden facer e as consecuencias do seu uso para as persoas afectadas.
3º. A racionalidade e a lóxica do sistema de intelixencia artificial ou modelo de intelixencia artificial de uso xeral.
4º. A identificación da titularidade do sistema de intelixencia artificial ou modelo de intelixencia artificial de uso xeral.
5º. O grao de contribución ou participación do sistema de intelixencia artificial e do persoal empregado público no proceso de toma de decisión, predición ou recomendación.
6.º As categorías de datos persoais utilizados polos sistemas de intelixencia artificial e a súa orixe ou fontes.
7.º As medidas de seguridade, de non discriminación e de fiabilidade adoptadas.
8º. O modo de exercitar o dereito á transparencia e supervisión humana, así como outros dereitos que a asistan.
b) Recibir unha explicación da decisión tomada polo sistema de intelixencia artificial. As persoas afectadas por tales decisións poderán requirir unha explicación coa información debida respecto dos factores, criterios e procedementos que incidan nas devanditas decisións, previsións ou recomendacións, en particular sobre a ponderación dos criterios para a adopción da decisión se é o caso particular, o nivel de intervención humana na adopción da decisión que a afecta e os mecanismos por medio dos que pode reclamar contra a decisión adoptada.
c) Requirir a intervención dunha persoa empregada pública no proceso de adopción dunha decisión por parte dun sistema de intelixencia artificial, cando esta produza efectos xurídicos ou impacte significativamente de modo similar nos seus intereses.
2. En todo caso, teranse en conta os dereitos que na materia de transparencia se recollen no artigo 50 do Regulamento (UE) 2024/1689, do 13 de xuño.
Artigo 24. Igualdade
Toda persoa na que na súa relación coa Administración xeral da Comunidade Autónoma de Galicia e co seu sector público interveña un sistema de intelixencia artificial terá dereito a:
a) Que en ningún caso as limitacións técnicas ou orzamentarias poidan implicar a imposición de condicións nin requisitos que teñan como efecto directo ou indirecto algunha discriminación.
b) Unha interacción co sistema de intelixencia artificial que garanta os principios de universalidade, accesibilidade, asequibilidade e calidade, velando pola defensa e non discriminación daqueles colectivos que necesiten unha especial protección por se atoparen en situación ou risco de exclusión.
c) Obter un tratamento xusto e isonómico, non ser discriminada polos resultados ofrecidos polo sistema de intelixencia artificial e obter a corrección de nesgos discriminatorios, directos ou indirectos.
Artigo 25. Tutela
1. Toda persoa na que na súa relación coa Administración xeral da Comunidade Autónoma de Galicia e co seu sector público interveña un sistema de intelixencia artificial terá dereito a:
a) Facer valer todos os dereitos en materia de protección de datos persoais que lle recoñece a lexislación vixente fronte ás decisións, previsións ou recomendacións efectuadas polo sistema de intelixencia artificial ou fronte ao propio funcionamento deste.
b) Solicitar a revisión de decisións, previsións ou recomendacións efectuadas polo sistema de intelixencia artificial que produzan efectos xurídicos ou que impacten significativamente de modo similar, non só de actos decisorios senón tamén de actuacións materiais. A devandita solicitude poderase fundar nas deficiencias técnicas, como o uso de sistemas ou métodos imprecisos ou non confiables, na arbitrariedade das súas premisas ou dos resultados, no carácter discriminatorio das súas premisas ou dos resultados ou en calquera outra que conculque principios como o principio da boa fe.
2. Así mesmo, terase en conta o disposto na sección 4 do capítulo IX do Regulamento (UE) 2024/1689, relativo ás vías de recurso.
Artigo 26. Exercicio dos dereitos
A exixencia do cumprimento dos principios reitores e dos dereitos previstos nesta lei poderá ser efectuada individualmente ou de xeito colectivo por asociacións representativas de intereses supraindividuais.
Artigo 27. Os órganos promotores funcionais e responsables tecnolóxicos
1. As consellarías e as entidades instrumentais do sector público autonómico identificarán os órganos promotores funcionais, dentro da súa estrutura, que se encargarán da definición funcional e do seguimento dos proxectos de intelixencia artificial.
2. As persoas titulares de tales órganos desempeñarán as seguintes funcións:
a) Identificar as necesidades funcionais no exercicio das súas funcións e competencias.
b) Definir, de forma clara e obxectiva, as necesidades que se pretenden cubrir ou os problemas que se pretenden solucionar, en particular fixando obxectivos específicos para acadalos.
c) Elaborar o informe do proxecto de intelixencia artificial, en colaboración co órgano responsable tecnolóxico.
d) Realizar o seguimento funcional do proxecto de intelixencia artificial e comunicar ao responsable tecnolóxico calquera incidencia del.
3. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico designará os órganos responsables tecnolóxicos para cada consellaría ou entidade instrumental que coordinarán xunto cos órganos promotores funcionais todos os proxectos de intelixencia artificial.
4. As persoas titulares de tales órganos responsables tecnolóxicos desempeñarán as seguintes funcións:
a) Identificar a necesidade e oportunidade de implantar sistemas de intelixencia artificial, avaliando os seus beneficios e riscos e as capacidades para a súa implementación.
b) Establecer as características e especificacións técnicas dos sistemas de intelixencia artificial, así como o plan de xestión de datos.
c) Elaborar o informe do proxecto de intelixencia artificial, en colaboración co órgano promotor funcional.
d) Supervisar o adestramento dos sistemas de intelixencia artificial.
e) Realizar o seguimento e o control da implantación, o mantemento, a execución e, se é o caso, a desactivación dos sistemas de intelixencia artificial.
Artigo 28. A Oficina de Intelixencia Artificial
1. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico contará dentro da súa estrutura organizativa cunha oficina coordinadora para a implantación de proxectos de intelixencia artificial que supervisará e apoiará as actuacións dos órganos promotores funcionais e responsables tecnolóxicos indicados no artigo anterior no relativo á posta en marcha de sistemas de intelixencia artificial e que coordinará a implantación destes sistemas na Administración xeral da Comunidade Autónoma de Galicia e no sector público autonómico.
2. A persoa titular da Oficina de Intelixencia Artificial terá as seguintes funcións:
a) Analizar o informe do proxecto de intelixencia artificial, supervisando a necesidade e a oportunidade de implantar o sistema de intelixencia artificial identificado polo órgano promotor e responsable tecnolóxico.
b) Apoiar os órganos promotores funcionais e responsables tecnolóxicos na identificación de oportunidades e na elaboración da documentación necesaria durante todo o proceso de definición e posta en marcha do proxecto de intelixencia artificial.
c) Supervisar os riscos relacionados coa implementación e co uso dos sistemas de intelixencia artificial.
d) Identificar e asesorar de forma continua sobre as tendencias en intelixencia artificial que permitan definir e desenvolver iniciativas innovadoras en Galicia.
e) Coordinar a relación da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público coas autoridades nacionais e internacionais competentes en materia de intelixencia artificial.
f) Calquera outra función que regulamentariamente se lle atribúa ou encomende.
Artigo 29. Comisión estratéxica para o asesoramento en intelixencia artificial
1. A persoa titular da entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico poderá constituír unha comisión para a análise e valoración daqueles proxectos que polo seu nivel de risco, impacto ou complexidade teñan, ao seu xuízo, carácter estratéxico. A comisión poderá estar formada por autoridades e persoal ao servizo da Administración xeral da Comunidade Autónoma e do seu sector público con competencias relacionadas coa natureza do proxecto ou coa intelixencia artificial, así como por persoas expertas do ámbito científico e/ou académico para un asesoramento especializado. En particular, en canto ás autoridades que poderán formar parte, serán as relacionadas con competencias en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, sustentabilidade financeira, impacto económico, asesoramento en dereito, inclusión social, enerxías renovables, sustentabilidade e innovación.
2. A comisión terá a natureza de grupo de traballo. A persoa titular da entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico terá en conta o resultado dos estudos ou valoracións efectuados polo grupo de traballo para os efectos da adopción da súa decisión sobre o correspondente proxecto de intelixencia artificial.
Artigo 30. O Consello Galego de Intelixencia Artificial
1. Créase o Consello Galego de Intelixencia Artificial como un órgano colexiado de carácter estratéxico para o asesoramento e impulso en materia de intelixencia artificial na Comunidade Autónoma de Galicia, adscrito á consellaría competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
2. O Consello Galego de Intelixencia Artificial desenvolverá as seguintes funcións:
a) Coñecer a Estratexia galega de intelixencia artificial e os programas sectoriais de intelixencia artificial e, se procede, formular observacións e suxestións.
b) Propoñer melloras na planificación, xestión e avaliación das políticas públicas en materia de intelixencia artificial.
c) Responder ás consultas que lle formulen e elaborar os informes que lle solicite a entidade instrumental con competencias en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
d) Identificar estratexias reguladoras eficaces do deseño e da implementación de sistemas de intelixencia artificial a nivel nacional e internacional.
e) Identificar posibles barreiras e desafíos no deseño e na implementación de sistemas de intelixencia artificial.
f) Calquera outra función que regulamentariamente se lle atribúa ou encomende.
3. O Consello Galego de Intelixencia Artificial terá a seguinte composición:
a) Presidente/a: a persoa titular da entidade instrumental competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
b) Secretario/a: unha persoa designada pola persoa titular da entidade instrumental competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, que actuará con voz pero sen voto.
c) Vogais:
1º. A persoa titular da área competente en materia de intelixencia artificial da entidade instrumental competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
2º. A persoa titular do órgano de dirección competente no relativo a sistemas e tecnoloxías da información no ámbito sanitario.
3º. A persoa titular da entidade instrumental con competencias en materia de innovación no ámbito sanitario.
4º. A persoa titular do órgano de dirección competente en materia de industria.
5º. A persoa titular da entidade instrumental competente en materia de promoción económica.
6º. A persoa titular do órgano de dirección competente en materia de universidades.
7º. A persoa titular da entidade instrumental con competencias en materia de investigación e innovación.
8º. A persoal titular do órgano de dirección competente en materia de política lingüística.
9º. Unha persoa representante de cada unha das universidades públicas de Galicia.
10º. A persoa titular do órgano de dirección da Fundación Centro de Supercomputación de Galicia.
11º. Unha persoa en representación dos centros tecnolóxicos de Galicia, proposta por acordo entre eles.
12º. Unha persoa en representación da Asociación Clúster TIC de Galicia.
13º. Unha persoa proposta polo Colexio Profesional de Enxeñaría en Informática de Galicia.
14º. Unha persoa proposta polo Colexio Profesional de Enxeñaría Técnica en Informática de Galicia.
15º. Unha persoa en representación da Confederación de Empresarios de Galicia.
16º. Unha persoa en representación do Consello Galego de Economía Social.
17º. A persoa que exerza como delegada de protección de datos da Axencia para a Modernización Tecnolóxica de Galicia.
18º. Unha persoa en representación das entidades sociais de promoción da normalización lingüística.
4. No caso de ausencia ou de enfermidade e, en xeral, cando concorra algunha causa xustificada, os membros titulares do órgano colexiado serán substituídos polos seus suplentes que sexan designados.
5. O Consello adecuará o seu funcionamento ao previsto nesta lei, ao establecido respecto dos órganos colexiados na Lei 40/2015, do 1 de outubro, e na Lei 16/2010, do 17 de decembro, e ao regulamento interno de funcionamento que, de ser o caso, se elabore.
6. Así mesmo, poderán asistir ás sesións do Consello Galego de Intelixencia Artificial, logo da invitación do presidente ou presidenta, as persoas representantes daquelas entidades e organismos da Administración xeral e do sector público autonómico de Galicia que teñan relación relevante coas materias incluídas na orde do día.
7. As persoas que integran o Consello Galego de Intelixencia Artificial non percibirán ningunha remuneración polo exercicio das súas funcións no devandito órgano.
Artigo 31. Ordenación da planificación
A planificación da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público para o impulso e desenvolvemento da intelixencia artificial, tanto no ámbito público como no ámbito privado, levarase a cabo a través dos seguintes instrumentos:
a) A Estratexia galega de intelixencia artificial.
b) Os programas sectoriais de intelixencia artificial.
c) Os proxectos de intelixencia artificial.
Artigo 32. Estratexia galega de intelixencia artificial
1. A Estratexia galega de intelixencia artificial terá por obxecto o establecemento dos obxectivos xerais e particulares que se pretendan acadar co seu desenvolvemento no ámbito da intelixencia artificial en Galicia nun período temporal definido. Así mesmo, procurará a coordinación da participación da Comunidade Autónoma de Galicia nos programas e estratexias nacionais e internacionais, asegurando ademais o aliñamento desta estratexia coas demais estratexias vixentes en materia de innovación e desenvolvemento tecnolóxico, e promoverá a xestión, medición e avaliación dos resultados obtidos en relación cos obxectivos propostos.
2. A elaboración da Estratexia galega de intelixencia artificial corresponderalle á entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico. A súa aprobación correspóndelle ao Consello da Xunta de Galicia.
3. A información básica que, de forma xeral, incluirá a Estratexia galega de intelixencia artificial, así como a estruturación das súas bases e do seu desenvolvemento, será como mínimo a seguinte:
a) Unha análise da situación de partida dos principais aspectos e indicadores relacionados coa intelixencia artificial no contexto galego e da súa relación con estes no ámbito estatal e internacional. Incluirase unha definición e caracterización do ecosistema galego de intelixencia artificial.
b) Os programas sectoriais de intelixencia artificial achegados polas diferentes consellarías da Administración xeral da Comunidade Autónoma de Galicia, no exercicio das súas competencias.
c) Os recursos humanos, materiais, técnicos e tecnolóxicos existentes e as súas posibilidades de evolución, actualización e expansión, así como as necesidades previsibles a este respecto no período previsto de duración da Estratexia, ou ata onde o horizonte temporal da prospección tecnolóxica poida permitir considerar con fiabilidade.
d) A proposta das estruturas de cooperación público-privada máis adecuadas para favorecer a consecución dos obxectivos da Estratexia de acordo coas estratexias e coas políticas que se promoverán no seu período de vixencia, así como coa articulación cos axentes do ecosistema de intelixencia artificial de Galicia.
e) O financiamento previsto con cargo aos orzamentos da Comunidade Autónoma, as demais achegas estatais ou comunitarias e as de entidades de carácter público ou privado.
f) As posibilidades de concertación con outras estratexias e plans relativos de ámbito estatal ou internacional que, polos seus contidos ou polo seu contexto de desenvolvemento, resulten de interese para Galicia.
g) O aliñamento coas demais estratexias vixentes na Comunidade Autónoma en materia de innovación e desenvolvemento tecnolóxico.
h) Os indicadores ou métodos para realizar o seguimento da execución e da eficacia dos programas previstos, coa indicación do alcance e do xeito en que esta información se vai difundir entre os axentes interesados e a sociedade en xeral.
i) Os resultados obtidos da execución de estratexias previas, en relación co nivel de cumprimento dos obxectivos previstos.
4. O período de vixencia da Estratexia será de cinco anos con carácter xeral. Non obstante, poderá establecerse un período de vixencia inferior, coa debida motivación das razóns que o xustifiquen.
5. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico promoverá un proceso participativo para a obtención de información e a redacción da Estratexia. Neste sentido, estableceranse os mecanismos necesarios para a achega de propostas e suxestións e a obtención de consensos nas grandes liñas de actuación.
Artigo 33. Programas sectoriais de intelixencia artificial
1. As distintas consellarías da Administración xeral da Comunidade Autónoma de Galicia propoñerán os programas e as actuacións para a elaboración da Estratexia galega de intelixencia artificial.
2. A información básica que, de forma xeral, incluirá cada programa sectorial de intelixencia artificial, así como a estruturación das súas bases e do seu desenvolvemento, será como mínimo a seguinte:
a) Unha análise da situación de partida dos principais aspectos e indicadores relacionados do desenvolvemento da intelixencia artificial no concreto sector da actividade pública ou da actividade económica ou social que teñan como obxecto.
b) Os recursos humanos, materiais, técnicos e tecnolóxicos existentes e as súas posibilidades de evolución, actualización e expansión, no concreto sector da actividade pública ou da actividade económica ou social que teñan como obxecto.
c) O financiamento previsto con cargo aos orzamentos da Comunidade Autónoma, as demais achegas estatais ou comunitarias e as de entidades de carácter público ou privado.
d) Os indicadores ou métodos para realizar o seguimento da execución e da eficacia dos programas previstos, coa indicación do alcance e do xeito en que esta información se vai difundir entre os axentes interesados e a sociedade en xeral.
3. A proposta dos programas sectoriais de intelixencia artificial corresponderalle á consellaría competente por razón da materia, coa colaboración da entidade instrumental do sector público galego con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
Artigo 34. Os proxectos de intelixencia artificial
1. Os proxectos de intelixencia artificial definirán, para a súa execución, as características esenciais dun sistema de intelixencia artificial e as pautas específicas para o seu deseño, adquisición ou implementación.
2. Os proxectos de sistemas de intelixencia artificial terán, polo menos, o seguinte contido:
a) A identificación da necesidade e oportunidade de implantar un concreto sistema de intelixencia artificial, avaliando os seus beneficios e riscos e as capacidades para a súa implementación, no marco da Estratexia galega de intelixencia artificial e, de ser o caso, no marco concreto do programa sectorial de intelixencia artificial.
b) A definición das necesidades ou problemas que se pretenden cubrir ou solucionar co sistema de intelixencia artificial, en particular fixando obxectivos específicos e a forma para acadalos.
c) O establecemento das características e especificacións técnicas do sistema de intelixencia artificial, así como o plan de xestión de datos.
d) A determinación da forma de creación do sistema de intelixencia artificial, ben por deseño polos propios medios, ben por adquisición.
e) A cuantificación dos medios humanos, económicos e materiais necesarios para a posta en marcha do proxecto.
Artigo 35. O Inventario de sistemas de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público inscribirán de oficio todos os sistemas de intelixencia artificial que deseñen ou empreguen no Inventario de sistemas de intelixencia artificial, coa finalidade de mellorar a eficacia e a eficiencia da actuación administrativa, así como a transparencia desta; todo iso sen prexuízo da obriga de rexistro, se é o caso, na base de datos da Unión Europea para os sistemas de intelixencia artificial de alto risco, de acordo co establecido no Regulamento (UE) 2024/1689, do 13 de xuño de 2024.
2. A inscrición e a xestión do Inventario de sistemas de intelixencia artificial correspóndenlle á entidade instrumental do sector público galego con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
3. O Inventario de sistemas de intelixencia artificial reflectirá todo o ciclo de vida dos sistemas de intelixencia artificial, desde o seu deseño ata a súa desactivación.
4. Os datos inscritos no Inventario de sistemas de intelixencia artificial serán públicos e agruparanse en dúas categorías: datos identificativos e datos de funcionamento e rendemento.
5. Os datos identificativos son todos aqueles que permiten coñecer, de forma xeral, a existencia, a finalidade, a actuación, os resultados, o responsable e os destinatarios dun sistema de intelixencia artificial. Estes datos serán obxecto de publicación, por capas, no portal web da entidade instrumental do sector público galego con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
6. Os datos de funcionamento e rendemento son todos aqueles que permiten coñecer, de forma específica, o funcionamento dun sistema de intelixencia artificial, así como todos os fitos do seu ciclo de vida. Estes datos poderán ser consultados, agás que razóns da garantía para a efectividade do sistema, da súa seguridade ou dos dereitos de propiedade intelectual ou industrial existentes o impidan.
Artigo 36. As persoas comisionadas de intelixencia artificial
1. As persoas comisionadas de intelixencia artificial velarán polo cumprimento dos principios e obrigas na materia de prevención, detección e eliminación de riscos e de resultados negativos da implementación dos sistemas de intelixencia artificial deseñados ou empregados pola Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, de conformidade coa normativa aplicable.
2. As persoas que desempeñen as funcións de comisionadas de intelixencia artificial deberán ter coñecementos técnicos, xurídicos, éticos, de normas de seguridade e de toma de decisións automatizadas.
3. As persoas comisionadas de intelixencia artificial desenvolverán as seguintes funcións:
a) Velar por un uso ético e responsable da intelixencia artificial.
b) Supervisar o deseño, o desenvolvemento, a implementación e o uso dos sistemas de intelixencia artificial.
c) Asesorar e advertir sobre os riscos presentes e futuros do deseño, desenvolvemento e uso dos sistemas de intelixencia artificial.
d) Recibir as suxestións e as queixas de irregularidades no deseño, desenvolvemento, implementación e uso dos sistemas de intelixencia artificial.
4. Con carácter previo á presentación dunha reclamación ou recurso ante o órgano competente, a persoa que se considere afectada poderá dirixirse á persoa comisionada correspondente do órgano ou entidade competente contra a que pretende reclamar. Neste caso, no prazo máximo de dous meses, a persoa comisionada comunicará á persoa afectada se se vai proceder á adopción de medidas ao respecto.
O procedemento e canle para a presentación destas suxestións ou queixas, así como a contestación á persoa afectada, será o previsto no artigo 16 da Lei 1/2015, do 1 de abril, de garantía da calidade dos servizos públicos e de boa administración.
Así mesmo, no caso de que se presente un recurso ou reclamación ante o órgano competente, este dará traslado para informe á persoa comisionada.
Artigo 37. A cooperación entre administracións públicas
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, a través da entidade instrumental con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, manterán unha constante comunicación e colaboración coa Oficina de Intelixencia Artificial na Unión Europea, coa Axencia Española de Supervisión da Intelixencia Artificial e con outros organismos análogos, nacionais ou internacionais, coa finalidade de intercambiar coñecementos e experiencias no campo da regulación e supervisión do deseño e implementación de sistemas de intelixencia artificial no eido das súas competencias.
2. Coa mesma finalidade, estableceranse vías de colaboración para compartir experiencias e boas prácticas coas entidades locais galegas, coas universidades galegas e cos organismos estatutarios da Comunidade Autónoma.
3. A entidade instrumental con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico creará un espazo específico para facilitar o desenvolvemento colaborativo de sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral entre diversas administracións públicas, nacionais e doutros estados membros da Unión europea.
Artigo 38. O repositorio de sistemas de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán poñer á disposición das demais administracións que operan na Comunidade Autónoma de Galicia os sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral desenvolvidos polos seus servizos, exclusivamente ou en colaboración con outras entidades públicas ou privadas, ou que fosen adquiridos a terceiros, sempre que teñan os dereitos de propiedade intelectual sobre eles ou que alcancen un acordo coa persoa titular destes dereitos para tal fin.
2. A entidade instrumental con competencias no campo das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico publicará, a través do seu portal web, unha relación dos sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral aos que se refire o apartado anterior.
Artigo 39. Colaboración entre o sector público e o sector privado
1. A Administración xeral e o seu sector público impulsarán a colaboración público-privada para o desenvolvemento de proxectos de intelixencia artificial.
2. A devandita colaboración, no marco da lexislación básica e autonómica de desenvolvemento, poderase instrumentar a través de mecanismos institucionais, como consorcios ou sociedades de economía mixta, e de mecanismos negociables, como convenios de colaboración ou contratos administrativos.
Artigo 40. A definición de proxectos de intelixencia artificial e a valoración dos seus riscos
1. No ámbito da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público, a definición dos proxectos de intelixencia artificial será iniciada conxuntamente polos órganos promotores funcionais e responsables tecnolóxicos.
2. A devandita definición formalizarase nun informe do proxecto de intelixencia artificial. A entidade instrumental con competencias en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico elaborará unha guía sobre o contido mínimo e os criterios que se deberán seguir para a elaboración do informe.
3. Os órganos promotores funcionais e responsables tecnolóxicos darán traslado do informe do proxecto de intelixencia artificial á Oficina de Intelixencia Artificial, a cal formalmente acordará a iniciación da súa tramitación, salvo que da clasificación do nivel de risco asociado ao sistema de intelixencia artificial ou modelo de intelixencia artificial de uso xeral se conclúa que se trata dun sistema ou modelo prohibido ou que estea presente un nivel de risco inaceptable, de conformidade coa regulación da Unión Europea. Neste suposto arquivarase sen máis trámite a proposta de proxecto de intelixencia artificial.
Artigo 41. A elaboración do informe do proxecto de intelixencia artificial
1. Os órganos promotores funcionais e responsables tecnolóxicos serán os responsables de elaborar o informe do proxecto de intelixencia artificial.
2. O informe do proxecto de intelixencia artificial deberá conter, polo menos:
a) A identificación das necesidades funcionais que deban ser cubertas e unha definición clara e obxectiva dos problemas que se pretenden solucionar, en particular establecendo os obxectivos específicos para acadalo.
b) A identificación da necesidade e oportunidade de deseñar ou adquirir, implementar e empregar sistemas de intelixencia artificial, avaliando os seus beneficios e riscos e as capacidades técnicas, humanas e económicas e de sustentabilidade para a súa posta en marcha e mantemento.
c) A relación de características e especificacións técnicas do sistema de intelixencia artificial proposto.
d) O conxunto de datos proposto para o adestramento, a validación e a proba, especificando se aquel contén unha combinación de datos persoais e non persoais, sinalando de xeito específico se se tratarían datos persoais de categoría especial, segundo o disposto no artigo 9.1. do Regulamento (UE) 2016/679, do 27 de abril, así como un plan para a súa xestión.
e) A proposta inicial de medidas de seguridade que hai que aplicar, en cumprimento do principio de seguridade desde o deseño consonte o disposto no Regulamento (UE) 2016/679, do 27 de abril, e o disposto na disposición adicional primeira da Lei orgánica 3/2018, do 5 de decembro.
f) A avaliación de impacto relativa aos dereitos fundamentais. No caso de tratarse dun sistema de intelixencia artificial de alto risco, seguirase o modelo de cuestionario elaborado pola Oficina Europea de Intelixencia Artificial de acordo coa normativa vixente de aplicación.
g) A coherencia e o encaixe do proxecto de intelixencia artificial na Estratexia galega de intelixencia artificial e no correspondente programa sectorial de intelixencia artificial.
Artigo 42. A aprobación de proxectos de intelixencia artificial
1. A Oficina de Intelixencia Artificial analizará o informe do proxecto de intelixencia artificial e emitirá proposta para a súa aprobación no prazo máximo dun mes desde a súa recepción. No caso de que entenda que existen cuestións que hai que emendar, procederá á súa devolución aos órganos promotor funcional e responsable tecnolóxico para a súa mellora, acompañado dunha memoria explicativa dos puntos que hai que corrixir ou completar. Tras a emenda, o informe someterase novamente á análise da Oficina de Intelixencia Artificial.
2. A persoa titular da entidade instrumental competente en materia das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico aprobará todos os proxectos de intelixencia artificial, logo da proposta da Oficina de Intelixencia Artificial. A aprobación implicará que o proxecto de intelixencia artificial pasa á fase de deseño, desenvolvemento ou adquisición e implementación regulada no capítulo II deste título.
3. O prazo máximo para ditar a resolución de aprobación será de dous meses, contados desde a entrada do informe do proxecto de intelixencia artificial no rexistro do órgano competente para resolver. O proxecto entenderase denegado polo transcurso do dito prazo sen que se ditase resolución expresa.
Artigo 43. Deseño dos sistemas de intelixencia artificial
1. Tras a aprobación do proxecto de intelixencia artificial, o órgano responsable tecnolóxico procederá ao deseño do sistema de intelixencia artificial, coa colaboración da Oficina de Intelixencia Artificial.
2. O deseño do sistema de intelixencia artificial ten como finalidade definir as súas especificacións técnicas. Como mínimo, este conterá información sobre a tipoloxía de datos que se empregarán e un plan para a súa xestión, os algoritmos e modelos que o conforman, o deseño da súa arquitectura, a interface de usuario e as especificacións relativas á mitigación de riscos.
3. O deseño do sistema de intelixencia artificial documentarase seguindo os procedementos e estándares definidos pola entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
4. Cando o sistema de intelixencia artificial teña por finalidade a adopción de actos administrativos automatizados, o deseño do sistema de intelixencia artificial recollerá os requisitos exixidos polo artigo 41.2 da Lei 40/2015, do 1 de outubro, e polo artigo 76 da Lei 4/2019, do 17 de xullo.
Artigo 44. Desenvolvemento dos sistemas de intelixencia artificial
1. O desenvolvemento do sistema de intelixencia artificial levarase a cabo seguindo os procedementos e estándares definidos pola entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico.
2. O desenvolvemento deberá garantir o cumprimento das especificacións técnicas recollidas no artigo 43, especialmente aquelas relacionadas coa mitigación de riscos.
Artigo 45. Procedemento para a adquisición dos sistemas de intelixencia artificial
1. A adquisición de sistemas de intelixencia artificial realizarase conforme o previsto na normativa de aplicación correspondente segundo os distintos modos de adquisición, que, no caso de procedementos de adquisición por compra, será a normativa básica estatal e autonómica en materia de contratación pública. En particular, procurarase a elección de modalidades de contratación pública de innovación.
2. Os sistemas de intelixencia artificial adquiridos deberán contar coas certificacións e cos selos exixidos pola normativa vixente.
3. De forma adicional, o sistema de intelixencia artificial adquirido deberá cumprir as especificacións técnicas recollidas no artigo 43, especialmente aquelas relacionadas coa mitigación de riscos.
Artigo 46. Adestramento, validación e proba dos sistemas de intelixencia artificial
1. O órgano responsable tecnolóxico levará a cabo o adestramento do sistema de intelixencia artificial, co fin de axustar os parámetros obxecto de aprendizaxe deste, así como a validación do sistema adestrado, co fin de realizar unha avaliación do seu resultado de aprendizaxe e axustar os parámetros non susceptibles de ser aprendidos.
2. O órgano promotor funcional levará a cabo a proba do sistema de intelixencia artificial, co fin de confirmar o rendemento agardado do sistema antes da súa activación.
Artigo 47. O plan de xestión de datos
1. O órgano responsable tecnolóxico velará pola realización das verificacións e accións necesarias co fin de asegurar que os conxuntos de datos que se van utilizar para o adestramento, a validación e a proba están estruturados e documentados da maneira máis completa posible de acordo coas mellores prácticas e coa normativa europea e estatal aplicable, en particular no relativo á normativa en materia de dereitos de autor e dereitos afíns.
2. Con tal fin, elaborarase un plan de xestión de datos co obxectivo de facilitar a xestión da información ao longo de todo o seu ciclo de vida, desde a creación ou recepción dos datos ata a súa análise, pasando pola súa organización, limpeza e preservación.
3. O plan de xestión de datos deberá conter, polo menos, os seguintes aspectos:
a) O manexo de datos durante e despois do final do proxecto.
b) Os datos que se recompilarán, procesarán e/ou xerarán.
c) A dispoñibilidade e a calidade dos datos que se van empregar no proxecto.
d) As metodoloxías e os estándares que se aplicarán na xestión dos datos.
e) A posibilidade de compartir os datos en acceso aberto.
f) O procedemento de curado e conservación dos datos, incluso despois da finalización do proxecto.
g) O procedemento de anonimización, se procede.
Artigo 48. Activación, mantemento e avaliación continua dos sistemas de intelixencia artificial
1. Unha vez probado o sistema de intelixencia artificial, o órgano responsable tecnolóxico procederá á súa activación e posta en funcionamento.
2. O órgano promotor funcional e o órgano responsable tecnolóxico levarán a cabo a avaliación continua do rendemento do sistema de intelixencia artificial e dos riscos relacionados co seu uso.
3. O procedemento de avaliación continua será definido pola entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, a cal elaborará unha guía sobre o contido mínimo e os criterios que hai que seguir para a elaboración do informe.
4. A Oficina de Intelixencia Artificial levará a cabo a supervisión da avaliación continua.
Artigo 49. Espazos controlados de probas
1. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico dotarase de espazos de probas controladas, simulando contornas de uso real, nas que se poderán desenvolver, adestrar, probar e validar sistemas de intelixencia artificial antes de ser empregados pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público, para garantir a máxima calidade e seguridade deles, así como para asegurar o cumprimento óptimo dos principios xerais recollidos nesta lei.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público velarán porque, na medida en que os sistemas de intelixencia artificial impliquen o tratamento de datos persoais, a autoridade competente en materia de protección de datos estea vinculada ao funcionamento do espazo controlado de probas.
Artigo 50. O alcance do uso de sistemas de intelixencia artificial na toma de decisións: actuacións administrativas automatizadas e semiautomatizadas
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán adoptar actos administrativos, de forma automatizada e sen a intervención directa dunha persoa empregada pública, mediante sistemas de intelixencia artificial, no marco dun procedemento administrativo, cando exerzan potestades regradas e, excepcionalmente, potestades discrecionais, no caso de que a marxe de discrecionalidade se esgotase previamente no deseño do sistema de intelixencia artificial.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán apoiar a súa toma de decisións nas previsións ou recomendacións emitidas por sistemas de intelixencia artificial.
Artigo 51. Guías para o uso de sistemas de intelixencia artificial
A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico elaborará e actualizará de forma continua as oportunas guías que terán como finalidade facilitar o cumprimento desta lei, en particular garantir o bo deseño, implementación e uso dos sistemas de intelixencia artificial. Estas guías tomarán en consideración as directrices e as guías previstas na normativa específica europea.
Artigo 52. Ferramentas de autodiagnose
A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico desenvolverá os instrumentos tecnolóxicos necesarios que permitan avaliar, de xeito continuado, o correcto cumprimento dos principios xerais sobre os sistemas de intelixencia artificial recollidos nesta lei por parte da Administración xeral da Comunidade Autónoma de Galicia e do seu sector público.
Artigo 53. As respostas fronte ao fallo dun sistema de intelixencia artificial
1. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico desenvolverá un protocolo de reacción inmediata no caso de que detecte un posible fallo no funcionamento dun sistema de intelixencia artificial.
2. Este protocolo basearase nos principios de recurso inmediato á revisión humana, celeridade na adopción de resolucións e minimización das repercusións dos fallos e dos prexuízos derivados deles.
3. O sinalado nos apartados anteriores entenderase sen prexuízo das obrigas na materia de intercambio de información e vixilancia do mercado para sistemas de intelixencia artificial de alto risco recollidas no capítulo IX do Regulamento (UE) 2024/1689, do 13 de xuño de 2024.
Artigo 54. Plans directores dos sectores industriais da Comunidade Autónoma de Galicia
Na elaboración dos plans directores dos distintos sectores industriais previstos no Decreto lexislativo 1/2015, do 12 de febreiro, polo que se aproba o texto refundido das disposicións legais da Comunidade Autónoma de Galicia en materia de política industrial, analizarase o potencial da intelixencia artificial no desenvolvemento da actividade industrial no sector concreto que corresponda e, de ser o caso, terase en conta na definición das medidas de impulso que os ditos plans inclúan.
Artigo 55. Proxectos industriais estratéxicos
Para os efectos do requisito establecido na alínea c) do artigo 78 do Decreto lexislativo 1/2015, do 12 de febreiro, considerarase que os proxectos que teñan relación directa coa intelixencia artificial pertencen a un sector estratéxico aliñado cos obxectivos da Unión Europea.
Artigo 56. Proxectos empresariais singulares
Para os efectos do cumprimento dos requisitos exixidos para a determinación dos proxectos empresariais singulares, considerarase o sector da intelixencia artificial como de especial importancia, para os efectos da valoración da concorrencia das circunstancias previstas no artigo 75.1.a) da Lei 3/2022, do 18 de outubro, de áreas empresariais de Galicia.
Artigo 57. Transición enerxética
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, no ámbito das súas competencias e nun contexto dunha transición enerxética xusta, integradora e de loita contra o cambio climático, promoverán o uso da intelixencia artificial nos proxectos de xeración, distribución e almacenamento de enerxía a partir de fontes renovables, así como proxectos que promovan tanto o aforro e a eficiencia enerxética como a óptima xestión dos recursos enerxéticos, na medida na que o seu uso facilite a consecución de impactos socioeconómicos positivos no territorio e contribúa a alcanzar os obxectivos de descarbonización e neutralidade climática fixados nos plans, programas e estratexias de transición elaborados pola Unión Europea, pola Administración xeral do Estado e pola propia Administración autonómica.
2. Igualmente, dada a necesidade de fornecer de materiais como base para a creación de tecnoloxía verde que propicie a transición enerxética, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán, no ámbito das súas competencias, o emprego da intelixencia artificial nos proxectos relacionados coa investigación e co abastecemento de materias primas estratéxicas, de xeito seguro, resiliente e sustentable, garantindo asemade un elevado nivel de protección do medio ambiente.
3. Para tal fin, nas convocatorias de subvencións en réxime de concorrencia competitiva realizadas pola Administración xeral da Comunidade Autónoma de Galicia e polo seu sector público que teñan relación co proceso de transición enerxética ou coa investigación e co abastecemento de materias primas estratéxicas poderase establecer, sempre que sexa posible, nas bases da convocatoria un criterio de valoración específico que pondere positivamente o emprego da intelixencia artificial cando implique unha mellora da eficiencia do proxecto.
Artigo 58. Promoción do ecosistema empresarial de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, co fin de impulsar e promover a intelixencia artificial e o seu ecosistema, poñerán o órgano responsable da xestión dos instrumentos previsto na Lei 9/2021, do 25 de febreiro, de simplificación administrativa e de apoio á reactivación económica de Galicia, como canle única á disposición das empresas que desenvolvan e impulsen as novas tecnoloxías e a intelixencia artificial. Este órgano facilitará, a través do seu sistema de atención ao investimento, un marco de apoios económicos específicos para as empresas tecnolóxicas que fomenten o desenvolvemento da intelixencia artificial en Galicia, en coordinación cos demais axentes do ecosistema.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público crearán un sistema de vixilancia tecnolóxica en intelixencia artificial para as empresas en colaboración cos European Digital Innovation Hubs estratéxicos, co fin de impulsar o desenvolvemento tecnolóxico endóxeno da intelixencia artificial para a súa comercialización nacional e internacional e a aplicación nos sectores económicos emerxentes e tradicionais.
3. Así mesmo, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público apoiarán a fabricación intelixente e mais a automatización e a modernización de procesos das empresas, en particular das pequenas e medianas, a través da intelixencia artificial e impulsarán a posta en marcha de novos centros de fabricación avanzada e infraestruturas estratéxicas en materia de intelixencia artificial.
Artigo 59. Apoio á actividade emprendedora en intelixencia artificial
A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, co fin de impulsar o ecosistema de emprendemento innovador, crearán programas de incubación, aceleración e consolidación de start-ups en intelixencia artificial e deep tech.
Artigo 60. Fomento do investimento en solucións de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público, co fin de impulsar o investimento en intelixencia artificial, deseñarán novos instrumentos financeiros que fomenten o investimento empresarial en solucións de intelixencia artificial e tecnoloxías emerxentes.
2. En particular, crearase un fondo de participación en empresas que desenvolvan en Galicia sistemas de intelixencia artificial a través da sociedade mercantil pública autonómica da Xunta de Galicia con competencia na materia.
Artigo 61. Incentivos fiscais
A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán medidas normativas nos tributos nos que a Comunidade Autónoma de Galicia teña atribuídas competencias, orientadas a unha redución dos custos fiscais que teñan que afrontar as empresas innovadoras no ámbito da intelixencia artificial que se instalen en Galicia, así como beneficios fiscais para as persoas que invistan nas ditas empresas ou en proxectos de intelixencia artificial.
Artigo 62. Fomento da investigación e innovación no ámbito da intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público fomentarán un ecosistema galego de investigación e innovación en materia de intelixencia artificial no que o talento investigador, as empresas emerxentes e as pequenas e medianas empresas poidan traballar en estreita colaboración cos usuarios industriais, atraer investimentos para a Comunidade Autónoma de Galicia e ter acceso aos principais compoñentes da intelixencia artificial de maneira fiable e accesible, que funcione para a cidadanía, que respecte os dereitos fundamentais e a democracia e a seguridade e no que confíen as empresas e as persoas consumidoras.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público apoiarán os avances algorítmicos que sexan fiables, en consonancia coa normativa europea, estatal e autonómica, en particular poñendo á disposición fondos de apoio á I+D+i para promover o uso responsable desta tecnoloxía.
En particular, promoverán a investigación e a capacitación en solucións innovadoras en computación sustentable e algoritmos verdes, establecendo colaboracións cos axentes do ecosistema de intelixencia artificial de Galicia.
3. Así mesmo, os organismos de investigación da Administración da Comunidade Autónoma de Galicia promoverán e apoiarán o uso responsable da intelixencia artificial nas actividades de investigación.
En particular, facilitarán formación especialmente sobre a verificación dos resultados, o mantemento da privacidade, o tratamento dos nesgos e a protección dos dereitos de propiedade intelectual. Así mesmo, proporcionarán apoio e directrices para garantir o cumprimento dos requisitos éticos e legais.
4. A Administración xeral da Comunidade Autónoma de Galicia e aquelas entidades instrumentais do sector publico autonómico que financien a investigación e a innovación deseñarán os seus instrumentos de financiamento de forma favorable ao uso responsable e ético das tecnoloxías de intelixencia artificial nas actividades de investigación e exixirán que a investigación financiada e os seus beneficiarios se axusten á lexislación autonómica, nacional, comunitaria e internacional vixente e ás boas prácticas para un uso responsable da intelixencia artificial.
5. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público favorecerán a colaboración e a transferencia de coñecemento en intelixencia artificial entre o Sistema universitario de Galicia e o tecido empresarial e social.
Artigo 63. Ecosistema de intelixencia artificial de Galicia
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán un ecosistema emerxente de investigación e innovación en intelixencia artificial como unha contorna que inclúa todos os actores, infraestruturas, dinámicas de colaboración e factores necesarios para fomentar o desenvolvemento, a adopción e o uso responsable desta tecnoloxía.
A entidade instrumental con competencias no campo das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico creará o Mapa do ecosistema de intelixencia artificial de Galicia, identificando os axentes que operan na Comunidade Autónoma de Galicia investindo, deseñando, creando ou operando con solucións de intelixencia artificial innovadoras.
2. A entidade instrumental con competencias no campo das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico promoverá fórmulas de colaboración cos axentes identificados no Mapa do ecosistema de intelixencia artificial de Galicia.
3. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público impulsarán a participación do ecosistema de intelixencia artificial de Galicia nos ecosistemas promovidos polas autoridades nacionais e internacionais competentes.
Artigo 64. Grandes infraestruturas de supercomputación para o desenvolvemento do ecosistema de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público impulsarán a dotación e a mellora das grandes infraestruturas de supercomputación para o desenvolvemento do ecosistema de intelixencia artificial de Galicia.
2. En particular, impulsará modelos de colaboración e acceso ás infraestruturas tecnolóxicas do Centro de Supercomputación de Galicia, infraestrutura científico-técnica singular, para o ecosistema de investigación e innovación en materia de intelixencia artificial, compatibles cos compromisos de dispoñibilidade de uso vinculados ao seu carácter de infraestrutura científico-técnica singular, a súa pertenza a consorcios nacionais ou internacionais ou outros condicionantes de financiamento destas infraestruturas.
3. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán sinerxías coa Empresa Común Europea de Computación de Alto Rendemento (EuroHPC) e con outras iniciativas de supercomputación a nivel europeo, co obxectivo de manterse na vangarda no acceso ás principais iniciativas, proxectos e grandes infraestruturas de supercomputación e intelixencia artificial.
Artigo 65. Espazos de datos
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público desenvolverán espazos de datos dentro dunha contorna de soberanía, confianza e seguridade, mediante mecanismos integrados de gobernanza, organizativos, normativos e técnicos, que garantan que os datos sexan fáciles de encontrar, accesibles, interoperables e reutilizables, conforme o establecido no Regulamento 2022/868, do 30 de maio de 2022, relativo á gobernanza europea de datos e polo que se modifica o Regulamento (UE) 2018/1724 e a demais normativa vixente de aplicación.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público facilitarán o acceso a conxuntos de datos de alta calidade e mellorarán a súa dispoñibilidade para o ecosistema de intelixencia artificial de Galicia, en particular para as empresas emerxentes e a comunidade científica e de innovación.
Artigo 66. Factorías de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público impulsarán a posta en marcha de factorías de intelixencia artificial ou outras iniciativas similares arredor de infraestruturas tecnolóxicas do Centro de Supercomputación de Galicia, que englobarán a capacidade informática e os servizos de supercomputación, así como actividades para atraer talento a grande escala orientadas a potenciar sectores estratéxicos na Comunidade Autónoma de Galicia. Tales iniciativas fomentarán a colaboración público-privada entre os diferentes axentes do ecosistema de intelixencia artificial de Galicia.
2. Co fin de fomentar o posterior desenvolvemento e a capacidade de ampliación do ecosistema de intelixencia artificial, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público seguirán apoiando a mellora das infraestruturas tecnolóxicas do Centro de Supercomputación de Galicia e definirán os protocolos de acceso aos axentes do ecosistema de intelixencia artificial de Galicia, en particular ás empresas emerxentes, ás pequenas e medianas empresas e á comunidade científica e de innovación que necesiten adestrar sistemas de intelixencia artificial e modelos de intelixencia artificial de uso xeral.
Artigo 67. Espazos controlados de probas para o tecido investigador e empresarial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán dotar de espazos controlados de probas o tecido investigador e empresarial, simulando contornas de uso real, nos que se poderán desenvolver, adestrar, probar e validar os sistemas de intelixencia artificial, de acordo co establecido no artigo 57.2 do Regulamento (UE) 2024/1689, do 13 de xuño.
2. Estes espazos estarán á disposición das empresas e organizacións que desenvolvan sistemas de intelixencia artificial en Galicia, así como daqueloutras entidades que queiran desenvolver, adestrar, probar e validar os sistemas existentes, simulando contornas de uso real no ámbito da Comunidade Autónoma galega.
3. Regulamentariamente, estableceranse as características destes espazos, que poderán ser xestionados directa ou indirectamente, coa colaboración de entidades do ecosistema de intelixencia artificial de Galicia ou doutras entidades privadas, polo organismo do sector público galego con competencias no eido das tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, de conformidade co establecido nos artigos 58 e 59 do Regulamento (UE) 2024/1689, do 13 de xuño.
Artigo 68. Compra pública estratéxica de intelixencia artificial
1. Co fin de acelerar o desenvolvemento, ensaio e implantación de solucións innovadoras baseadas na intelixencia artificial, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán empregar contratos públicos que teñan por obxecto o deseño, o desenvolvemento e, se é o caso, a adquisición deste tipo de solucións para a mellora dos servizos públicos e actuar como usuario pioneiro dos ditos sistemas.
Tales contratos poderán adxudicarse por calquera dos procedementos previstos na lexislación básica na materia de contratación pública e, se é o caso, polas modalidades de contratación pública de innovación cando así se xustifique. En particular, atenderase ao procedemento de asociación para a innovación que permitirá a adquisición ulterior das solucións innovadoras sempre que se acaden os niveis de rendemento e se respecten os custos máximos acordados entre o órgano de contratación e os participantes.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán cooperar con outras administracións que non teñan os coñecementos e recursos necesarios para poñer en marcha este tipo de procedementos de contratación. En particular, a entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico poderá dar apoio mediante a colaboración na preparación e definición de especificacións técnicas e/ou no deseño dos proxectos.
3. Así mesmo, a Administración xeral da Comunidade Autónoma de Galicia e o seu sector público poderán acordar a realización conxunta de determinadas contratacións específicas con outras administracións para impulsar o desenvolvemento e o uso da intelixencia artificial na mellora da prestación de servizos públicos no ámbito territorial da Comunidade Autónoma de Galicia. Esta contratación conxunta esporádica poderá consistir, entre outras formas, nunha contratación coordinada mediante a preparación de especificacións técnicas comúns de obras, servizos ou subministracións que vaian ser contratados por varios poderes adxudicadores, seguindo cada un deles un procedemento de contratación independente ou ben asumindo a xestión do procedemento de contratación en nome de todos os poderes adxudicadores que participen no acordo. A dita colaboración formalizarase a través de acordos de contratación conxunta nos que se recollerá, entre outros aspectos, a responsabilidade das partes de conformidade co disposto no artigo 31.3 da Lei 9/2017, do 8 de novembro, de contratos do sector público. No caso de financiamento conxunto destes contratos, os acordos precisarán os compromisos alcanzados, as cantidades obxecto de financiamento por cada un deles, a orde de aboamento das achegas, a forma en que serán obxecto de achega ao órgano de contratación que se ocupa da adxudicación e formalización do contrato ou a forma de pagamento ao contratista polos órganos financiadores.
4. Coa finalidade de promover un uso responsable e ético da intelixencia artificial a través dos contratos públicos, a entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, coa asistencia da Asesoría Xurídica Xeral e da Secretaría da Xunta Consultiva de Contratación Administrativa da Comunidade Autónoma de Galicia, elaborará un catálogo de cláusulas segundo o nivel de risco dos sistemas de intelixencia artificial para incorporar nos pregos de cláusulas administrativas e técnicas empregados polo sector público autonómico que teñan por obxecto o deseño, o desenvolvemento e, se é o caso, a adquisición deste tipo de solucións innovadoras en materia de intelixencia artificial.
Entre outros aspectos, as devanditas cláusulas garantirán:
a) O mantemento de rexistros de eventos polos sistemas de intelixencia artificial.
b) A adopción de medidas axeitadas de transparencia, de supervisión humana e de altos niveis de precisión, robustez, seguridade e ciberseguridade.
c) A inclusión de interfaces que permitan a efectiva supervisión del por persoas físicas.
d) A obriga de explicar, en todo momento, sobre como un sistema de intelixencia artificial ten chegado a un resultado concreto, de conformidade co estado da tecnoloxía.
e) O deber de non empregar os datos recibidos para fins alleos ao contrato.
f) A entrega dunha documentación técnica detallada que conteña a descrición xeral do sistema de intelixencia artificial, así como dos seus elementos e do seu proceso de desenvolvemento.
g) A posta á disposición de instrucións de uso detalladas.
h) A vixencia do principio de responsabilidade ao longo do ciclo de vida do sistema de intelixencia artificial, precisando a quen e en que circunstancias se lle atribúen os erros ou fallos derivados do uso ou resultados do sistema de intelixencia artificial.
5. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, en colaboración coa Asesoría Xurídica Xeral, a Secretaría da Xunta Consultiva de Contratación Administrativa da Comunidade Autónoma de Galicia e as entidades instrumentais do sector público competentes en materia de formación das persoas empregadas públicas, impulsará formación especializada nesta materia e, se é o caso, aos operadores económicos, especialmente as pequenas e medianas empresas, que interveñan neste tipo de procedementos de contratación.
Artigo 69. A formación e capacitación das persoas empregadas públicas en materia de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público habilitarán os medios necesarios para garantir o acceso á capacitación inicial e formación continua das persoas empregadas públicas, de acordo coas características dos seus postos de traballo, para o desenvolvemento das súas competencias en relación cos sistemas de intelixencia artificial e co uso eficiente destes na prestación dos servizos públicos.
2. A capacitación inicial e a formación continua dos empregados públicos en materia de intelixencia artificial, ademais de comprender os aspectos técnicos, teñen que abranguer os aspectos éticos e legais do emprego deles.
Artigo 70. O apoio na formación e capacitación do tecido produtivo en materia de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público promoverán accións formativas das persoas traballadoras en materia de intelixencia artificial e mais medidas de apoio ás empresas e ás entidades do terceiro sector que despreguen plans de capacitación e formación na materia.
2. Impulsaranse programas de actualización profesional para permitir ás persoas traballadoras adaptarse aos cambios nas súas funcións ou pasar a novas funcións que requiran competencias diferentes.
3. Entre os contidos da oferta formativa para persoas desempregadas incluirase a formación en intelixencia artificial para asegurar a adaptación ao cambio de competencias necesarias nos postos de traballo.
Artigo 71. A formación universitaria e profesional en materia de intelixencia artificial
1. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público impulsarán actividades de formación, capacitación e actualización profesional no ámbito da intelixencia artificial, por exemplo apoiando programas de mestrado e doutoramento específicos e, en particular, animando á participación das mulleres, introducindo as medidas necesarias que faciliten e potencien a incorporación das mulleres en condicións de igualdade a este sector.
2. A Administración xeral da Comunidade Autónoma de Galicia e o seu sector público fortalecerán o talento en Galicia en materia de intelixencia artificial mediante o desenvolvemento e a integración de capacidades de intelixencia artificial con habilidades sectoriais específicas, ademais de promover a atracción e retención de talento especializado nesta materia.
Artigo 72. A formación da cidadanía para a loita contra os riscos dos sistemas de intelixencia artificial
1. A Administración autonómica adoptará medidas para a alfabetización da sociedade galega en materia de intelixencia artificial baseadas na aprendizaxe, uso e aplicación de ferramentas de intelixencia artificial, promovendo o desenvolvemento de capacidades emprendedoras, creativas, sociais e culturais.
2. Así mesmo, adoptará medidas para concienciar as persoas sobre os malos usos dos sistemas de intelixencia artificial e as formas de contrarrestalos para asegurar unha sociedade consciente, cunha opinión pública axeitadamente informada.
Disposición adicional única. Atribución de funcións das persoas comisionadas de intelixencia artificial
As funcións das persoas comisionadas na Administración xeral da Comunidade Autónoma de Galicia e no seu sector público serán desempeñadas polas persoas delegadas de protección de datos. A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico, en colaboración coas entidades instrumentais do sector público competentes en materia de formación dos empregados públicos, impartirá cursos de formación específicos na materia para os efectos da súa capacitación.
Disposición transitoria única. Identificación e rexistro de sistemas de intelixencia artificial existentes
A entidade instrumental do sector público competente en materia de tecnoloxías da información e da comunicación e a innovación e o desenvolvemento tecnolóxico realizará unha identificación dos sistemas de intelixencia artificial existentes na Administración xeral da Comunidade Autónoma de Galicia e no seu sector público e procederá ao seu rexistro no inventario ao que se refire o artigo 35.
Disposición derradeira primeira. Modificación da Lei 1/2016, do 18 de xaneiro, de transparencia e bo goberno
Engádese a alínea f) ao artigo 8 da Lei 1/2016, do 18 de xaneiro, de transparencia e bo goberno, coa seguinte redacción:
«f) A relación de sistemas de intelixencia artificial ou modelos de intelixencia artificial de uso xeral que teñan impacto nos procedementos administrativos ou na prestación dos servizos públicos, coa descrición de maneira comprensible da súa arquitectura e funcionamento, dos datos que utilizan, do nivel de risco que implican e do impacto dos seus resultados nos procedementos administrativos, en especial se son ou non directamente decisorios deles».
Disposición derradeira segunda. Desenvolvemento regulamentario
Autorízase o Consello da Xunta para ditar as disposicións para o desenvolvemento regulamentario desta lei.
Disposición derradeira terceira. Entrada en vigor
Esta lei entrará en vigor aos vinte días naturais da súa publicación no Diario Oficial de Galicia.
Santiago de Compostela, dous de abril de dous mil vinte e cinco