[ca] La intel·ligència artificial (IA) és essencial per a diversos propòsits crucials a la vida humana. Tot i això, molts algorismes d'IA, especialment els models d'aprenentatge profund (AP), són caixes negres, cosa que implica que no comprenem com prenen decisions. Per evitar una societat autoritària basada en algoritmes, és fonamental que les decisions basades en l'aprenentatge automàtic siguin "explicables" per inspirar confiança. Hi ha dues metodologies principals per generar explicacions. Els mètodes d'explicació que utilitzen components interns dels models d'AP (explicacions específiques del model) són més precisos i efectius que els basats només en entrades i sortides (explicacions independents del model). Malauradament, els usuaris de models caixa negra no tenen accés als components interns dels proveïdors. Tot i això, perquè els usuaris confiïn en les prediccions i s'alineïn amb normes ètiques, aquestes han d'estar acompanyades d'explicacions generades local i independentment per ells mateixos (en lloc de les ofertes pels proveïdors del model). En aquesta tesi s'exploren tècniques d'explicabilitat específiques i agnòstiques del model. Es proposa un mètode d"explicació independent del model basat en l"ús de boscos aleatoris de decisió com a model substitut, protegint les prediccions de models caixa negra en entorns centralitzats i descentralitzats. També es proposa un explicador específic del model que utilitza els gradients del model per generar exemples contradictoris i explicar per què un exemple dentrada es classifica en una classe específica. Aquests mètodes superen tècniques d'avantguarda en proporcionar explicacions més representatives i més protecció del model, amb menys cost computacional.

[es] La inteligencia artificial (IA) es esencial para diversos propósitos cruciales en la vida humana. Sin embargo, muchos algoritmos de IA, especialmente los modelos de aprendizaje profundo (AP), son cajas negras, lo que implica que no comprendemos cómo toman decisiones. Para evitar una sociedad autoritaria basada en algoritmos, es fundamental que las decisiones basadas en el aprendizaje automático sean "explicables" para inspirar confianza. Existen dos metodologías principales para generar explicaciones. Los métodos de explicación que utilizan componentes internos de los modelos de AP (explicaciones específicas del modelo) son más precisos y efectivos que los basados solo en entradas y salidas (explicaciones independientes del modelo). Desafortunadamente, los usuarios de modelos caja negra carecen de acceso a los componentes internos de los proveedores. Sin embargo, para que los usuarios confíen en las predicciones y se alineen con normas éticas, estas deben estar acompañadas de explicaciones generadas local e independientemente por ellos mismos (en lugar de las ofrecidas por los proveedores del modelo). En esta tesis, se exploran técnicas de explicabilidad específicas y agnósticas del modelo. Se propone un método de explicación independiente del modelo basado en el uso de bosques aleatorios de decisión como modelo sustituto, protegiendo las predicciones de modelos caja negra en entornos centralizados y descentralizados. También se propone un explicador específico del modelo que utiliza los gradientes del modelo para generar ejemplos contradictorios y explicar por qué un ejemplo de entrada se clasifica en una clase específica. Estos métodos superan técnicas de vanguardia al proporcionar explicaciones más representativas y mayor protección del modelo, con menor costo computacional.