Visualization and interpretation in large Bayesian networks

Dentro de la Inteligencia Artificial, el campo del aprendizaje automatico es un subcampo que estudia desarrollar tecnicas que permiten inducir conocimiento a partir de un conjunto de datos de entrada. En los ultimos anos, se ha visto un auge en este campo, debido en parte a la posibilidad de acceso a grandes cantidades de datos y al aumento en la capacidad de computacion. Uno de los problemas mas acuciantes dentro de este campo es la baja interpretabilidad de la mayoria de los modelos mas utilizados, siendo estos sistemas tipicamente considerados cajas negras, lo que vendria a decir que son sistemas a los que se les proporciona una entrada y dan una salida pero sin que se pueda llegar a concretar el razonamiento que hay detras de dicha decision. Uno de los modelos de aprendizaje automatico que si que permite la interpretabilidad del razonamiento resultante son las redes Bayesianas. En los ultimos tiempos, se esta viendo una tendencia investigadora que mira hacia la interpretabilidad de los modelos de aprendizaje automatico, impulsado en gran medida por el hecho de que para que se puedan implementar estos modelos en sistemas en la vida real, es necesaria una interpretacion y explicacion del razonamiento que hay detras para garantizar su buen funcionamiento, la confianza por parte de los usuarios en el sistema y el hallazgo de posibles responsabilidades en caso de fallo. En el presente trabajo, se busca estudiar la visualizacion e interpretacion de este modelo de aprendizaje automatico para poder extraer conocimiento a traves de los resultados devueltos por el mismo. Este estudio surge para poder aplicarse al proyecto Neurosuites, concretamente a su analisis de redes de regulacion genetica que relaciona genes segun sus relaciones y permite analizar estas relaciones en diferentes circunstancias. Gracias a esta visualizacion, un experto en la materia podria utilizar la herramienta para, dado un caso de estudio donde se tengan las alteraciones genomicas de un paciente, extraer una prediccion del impacto de estas respecto a las enfermedades con las que estan relacionadas. El problema de visualizacion en este caso de estudio, viene en parte por la complejidad de la red generada, con de decenas de miles de nodos y conexiones, de las que es muy complicado extraer conocimiento solamente con las tecnicas que actualmente son el estado de la cuestion en visualizacion e interpretacion de redes Bayesianas. El uso de estas grandes redes es posible gracias a los ultimos avances en potencia computacional y especialmente en las GPUs. Teniendo en cuenta esto, se ha tomado como punto base el estado de la cuestion y se ha buscado mejorar y adaptar las tecnicas de visualizacion para poder extraer conocimiento, buscando que el estudio sea interesante no solamente para este caso concreto de aplicacion sino para el estudio de la visualizacion e interpretacion de modelos de aprendizaje automatico, especialmente para redes Bayesianas. ---ABSTRACT---Within artificial intelligence (AI), machine learning is a sub-field that investigates the development of techniques that enable the induction of knowledge from a set of input data. In recent years, this field has experimented an impressive period of development, in part thanks to the access to big data sets and the increase in the computational power. One of the most pressing problems in this field is the low interpretability of the majority of the most used algorithms, usually considering these systems to be black boxes. A black box is a system that given some input data, it processes them and produces and output result but with the problem that there is no good understanding of how the system has reached that result or is untraceable. One of the machine learning algorithms that lets a user to interpret and visualize the reasoning followed to reach a conclusion is Bayesian networks. In recent times, a research trend is observed that investigates the interpretation and explanation of machine learning models, mainly driven by the fact that in order to make use of these models in real-world risk environments, it is necessary an interpretation and explanation of the reasoning behind a certain result so its proper functioning is guaranteed and possible responsibilities in case of failure are found. In this project, the visualization and interpretation of this machine learning model are studied to be able to extract knowledge through the results that it returns. This investigation is created to be applied in Neurosuites project, specifically in its analysis of gene regulatory networks that connects genes based on their relationships and enables the investigation of how these relationships behave in different situations. Thanks to the visualization, a human expert could use the application to a given case study. The visualization problem in this case study, appears partly because of the complexity of the network generated by the genome data, creating tens of thousands of nodes and connections between them. Having such an enormous network, it is really complicated to extract knowledge using only the already known techniques that are today the state of the art in visualization and interpretation of Bayesian networks. The use of these huge networks is possible in part thanks to the latest developments in computational power, especially in GPUs. Considering this situation, the starting point for this project is the current state of the art in Bayesian network visualization and interpretation. The work presented in the project implements improvements and adaptations of the visualization techniques in order to extract knowledge, trying to make this project’s improvements useful not only for the case study but for the general investigation in visualization and interpretation in machine learning models and specially for Bayesian networks.