[en] Sheaf Neural Networks (SNNs) naturally extend Graph Neural Networks (GNNs) by endowing a cellular sheaf over the graph, equipping nodes and edges with vector spaces and defining linear mappings between them. While the attached geometric structure has proven to be useful in analyzing heterophily and oversmoothing, so far the methods by which the sheaf is computed do not always guarantee a good performance in such settings. This work draws inspiration from opinion dynamics concepts to propose novel sheaf learning methods to provide a more intuitive understanding of the sheaf and address oversmoothing and heterophily more explicitly than previous works. These focus on exploring modifications of the graph Laplacian with richer sets of equilibrium points. For this purpose, an exhaustive explanation of the mathematical concepts behind sheaves and oversmoothing is done. Then we go over some of the most popular GNN models, including SNNs, and cover the concepts of oversmoothing and heterophily in the context of GNNs. After this, we dive into the concepts of opinion dynamics theory that are useful for heterophilic data. With all the background done, two new models, JdSNN and RiSNN, are proposed to be used on heterophilic data where oversmoothing might be a problem. To test these models against regular SNNs in a controlled environment we propose a new framework to generate synthetic data to test sheaf-based graph neural networks. Using said framework we test our models against regular SNNs and draw meaningful conclusions from said results. Then these new models are tested on previously used benchmarks, new benchmarks, a fake news detection dataset and some hypergraph datasets. Finally, there's a methodology and planning section which explains how this thesis was developed as well as a sustainability report.

[es] Las Redes Neuronales sobre Fajos (SNNs) extienden de forma natural las Redes Neuronales sobre Grafos (GNNs) otorgando un fajo celular sobre el grafo, equipando sus nodos y aristas con espacios vectoriales y definiendo aplicaciones lineales entre estos. Aunque se ha demostrado que la estructura geométrica añadida al grafo es útil para analizar la heterofilia y el sobre alisamiento, hasta ahora los métodos por los cuales el fajo se ha calculado no siempre garantizan un buen rendimiento en estas circumstancias. Este proyecto coge inspiración de conceptos de dinámica de opiniones para proponer nuevos métodos para aprender el fajo para que sea más intuitivo entenderlo y traten el sobre alisamiento y la heterofilia de forma más explícita. Estos se focalizan en explorar modificaciones del Laplaciano para grafos con conjuntos de puntos de equilibrio más ricos. Con este propósito, en primer lugar tenemos una explicación exhaustiva de todos los conceptos matemáticos que hay destrás de los fajos y el sobre alisamiento. Después repasamos algunas de las GNNs más populares, incluyendo las SNNs, y cubrimos los conceptos de sobre alisamiento y heterofília en el contexto de las GNNs. Entonces entramos en la teoria de dinámica de opiniones para extraer procesos útiles para datos heterofílicos. Con toda la base teórica cubierta, proponemos dos nuevos modelos, JdSNN y RiSNN, para ser usados en datos heterofílicos donde las GNNs tengan problemas de sobre alisamiento. Para comparar estos modelos con las SNNs originales en un problema controlado proponemos una nueva forma de generar datos sintéticos para evaluar redes neuronales basades en fajos. Usando estos datos, evaluamos nuestros modelos y las SNNs para extraer conclusiones significativas sobre su comportamiento. Después, evaluamos nuestros modelos en datos referentes que se habían usado previamente, nuevos datos referentes, un problema de detección de notícias falsas y algunos datos referentes de hipergrafos.