Diffusion, methods and applications

Big Data es un problema importante hoy en dia, que puede ser entendido en terminos de un amplio numero de patrones, una alta dimension o, como sucede normalmente, de ambos. En esta tesis nos vamos a centrar en los problemas de alta dimension, aplicando tecnicas de aprendizaje de subvariedades para visualizar y analizar dichos patrones. La tecnica central sera Diffusion Maps (DM) y su version anisotropica, Anisotropic Diffusion (AD), introducida por Ronald R. Coifman y su escuela en la Universidad de Yale, la cual va a ser tratada de manera completa, sistematica, compacta y auto-contenida. Esto se llevara a cabo tras un breve repaso de metodos previos de aprendizaje de subvaridades. Las contribuciones algoritmicas de esta tesis estan centradas en dos de los grandes retos en metodos de difusion: el potencial alto coste que tiene el analisis de autovalores de la matriz de similitud necesaria para definir las coordenadas embebidas, y la dificultad para calcular este mismo embedding sobre nuevos datos que no eran accesibles cuando se realizo el analisis de autovalores inicial. Respecto al primer tema, se muestra como la aproximacion AD se puede utilizar para evitar el computo del embedding cuando estamos interesados en definir modelos locales. En este caso, se pueden seleccionar patrones cercanos por medio de la busqueda de vecinos proximos (k-Nearest Neighbors (k-NN)), usando como distancia una media de Mahalanobis local que permite encontrar vecinos sobre las variables latentes existentes bajo el modelo de AD, pero todo esto trabajando directamente sobre los patrones observables y, por tanto, evitando el costoso calculo que supone el calculo de autovalores de la matriz de similitud. El segundo algoritmo propuesto, que llamaremos Auto-adaptative Laplacian Pyramids (ALP), se centra en la extension del embedding para datos fuera de la muestra, y consiste en una modificacion del metodo denominado Laplacian Pyramids (LP). En este nuevo algoritmo, las iteraciones de LP se combinan con una estimacion del error de Leave One Out CV (LOOCV), permitiendo definir directamente en el periodo de entrenamiento, un criterio para estimar el punto de parada optimo en este metodo iterativo. Esta tesis presenta tambien una serie de contribuciones de aplicacion de estas tecnicas a importantes problemas en energias renovables e imagenes medicas. Mas concretamente, se muestra como DM es un buen metodo para reducir la dimension de predicciones del tiempo meteorologico, sirviendo por tanto de herramienta de visualizacion y descripcion, asi como de clasificacion de los datos con vistas a definir modelos locales sobre cada grupo descrito. Posteriormente, se aplica nuestro metodo de busqueda localizada basado en AD tanto a la busqueda de la correspondiente posicion de imagenes de escaneres en el cuerpo humano, como para la deteccion de rampas de energia eolica en parque individuales y de manera global en Espana. En ambos casos, los resultados obtenidos mejoran los metodos del estado del arte actual. Finalmente se ha comparado ALP, nuestra propuesta, frente al conocido metodo de Nystrom y al metodo de LP asi como frente a algunas variantes del problema de extension de coordenadas de difusion en dos problemas de alta dimension: el problema de compresion temporal de datos meteorologicos y el analisis de variables meteorologicas relevantes para la prediccion de la radiacion diaria. En ambos casos se muestra como ALP compara favorablemente con las otras aproximaciones al problema de extension para puntos fuera de la muestra.