[es] La opacidad algorítmica se ha erigido como un importante obstáculo en la relación entre los seres humanos y los sistemas informáticos, especialmente en lo que respecta a la aplicación de la inteligencia artificial por parte del sector público, poniendo en peligro la transparencia, la comprensión y la capacidad de revisar e impugnar las decisiones algorítmicas y, en consecuencia, afectando a diversos derechos fundamentales de los ciudadanos. Ante esta realidad, esta tesis propone y defiende la creación de un derecho fundamental a la explicación de los algoritmos públicos, con el objetivo de mitigar los riesgos relacionados con la opacidad y reforzar la confianza en las decisiones tomadas por los algoritmos públicos. Este nuevo derecho fundamental pretende garantizar que los ciudadanos tengan la capacidad de comprender, cuestionar e impugnar los actos y decisiones realizados con la ayuda de algoritmos públicos, poniendo de manifiesto la necesidad de la explicabilidad algorítmica para hacer frente a los retos que plantea la práctica de actos exclusivamente por sistemas informáticos, protegiendo así los derechos individuales y contribuyendo a la comprensión efectiva de la acción pública, así como a la participación de los individuos en el control del ejercicio del poder. La consolidación de este derecho abarca dimensiones tanto teóricas como prácticas, con el objetivo de establecer procedimientos que garanticen la transparencia algorítmica y permitan una explicación accesible de los sistemas de inteligencia artificial, sin poner en peligro su seguridad o eficacia. La articulación de tales mecanismos requiere un enfoque multidisciplinar que implique no sólo al Derecho, sino también a la informática y a la ética, para garantizar que la explicabilidad algorítmica se convierta en una realidad práctica, preservando al mismo tiempo los derechos de los ciudadanos. La propuesta de un derecho fundamental a la explicación de los algoritmos públicos es un avance hacia una sociedad algorítmica transparente, responsable e inclusiva, que oriente el desarrollo de tecnologías de inteligencia artificial centradas en el ser humano, al tiempo que legitime las interfaces informáticas que se convierten en el medio de interacción entre el Estado algorítmico y el ciudadano.

[pt] A opacidade algorítmica surge como um obstáculo significativo na relação entre o ser humano e sistemas computacionais, especialmente no que tange à aplicação da inteligência artificial pelo setor público, comprometendo a transparência, a compreensão e a capacidade de revisão e contestação das decisões algorítmicas e, por conseguinte, afetando diversos direitos fundamentais do cidadão. Diante dessa realidade, a presente tese propõe e defende a criação de um direito fundamental à explicação dos algoritmos públicos, com o intuito de mitigar os riscos relacionados à opacidade e reforçar a confiança nas decisões proferidas por algoritmos públicos. Este novo direito fundamental visa garantir que os cidadãos tenham a capacidade de entender, questionar e desafiar os atos e decisões proferidas com o auxílio de algoritmos públicos, evidenciando a necessidade de explicabilidade algorítmica para enfrentar os desafios impostos pela prática de atos exclusivamente por sistemas computacionais, protegendo, assim, os direitos individuais e contribuindo para a compreensão efetiva da ação pública, bem como para a participação dos indivíduos no controle do exercício do poder. A consolidação desse direito abarca tanto dimensões teóricas quanto práticas, com o objetivo de estabelecer procedimentos que assegurem a transparência algorítmica e permitam uma explicação acessível dos sistemas de inteligência artificial, sem que isso prejudique sua segurança ou eficácia. A articulação de tais mecanismos requer uma abordagem multidisciplinar que envolva não apenas o direito, mas também a ciência da computação e a ética, para garantir que a explicabilidade algorítmica se torne uma realidade prática, preservando os direitos dos cidadãos. A proposta de um direito fundamental à explicação dos algoritmos públicos constitui um avanço na direção de uma sociedade algorítmica transparente, responsável, inclusiva, orientando o desenvolvimento de tecnologias de inteligência artificial centrada no humano, ao passo em que legitima as interfaces computacionais que passam a ser os meios de interação do Estado algorítmico com o cidadão.