Deep learning for spatio-temporal forecasting: benchmarks, methods, and insights from mobility and weather predictions
Authors:   , Herruzo Sánchez Pedro 
Published: March 2024

(English) This thesis explores the intersection of deep learning and spatio-temporal forecasting, focusing on the challenges and opportunities present in applying machine learning methods to predict complex geospatial and temporal phenomena. Specifically, we focus on two critical domains: weather prediction and traffic forecasting.

Firstly, we delve into the nuances of encoding traffic data optimally for deep learning models, recognizing the potential of these methods to revolutionize mobility patterns, city planning, and freight delivery services. Our work aims to provide a clear pathway to effectively harness GPS data and utilize deep learning models for accurate traffic prediction, thereby influencing real-world decision-making significantly.

Next, we turn our attention to weather forecasting. Given the substantial impact of weather on human activities and the environment, our aim is to establish best practices for encoding weather data for deep learning applications. We explore various machine learning models, assessing their performance, and identifying the most efficient and accurate approach for weather prediction.

Throughout the thesis, we emphasize the urgent need for a robust benchmark in the field of spatio-temporal forecasting, to enable systematic comparison of methods and accelerate research advancements. We discuss the essential components of such a benchmark, including open data of free access, specific tasks, relevant metrics, viable baselines, and comprehensive evaluation methodologies.

To further illustrate the practical application of these principles, we have contributed to the scientific community by publishing two novel benchmarks. The first is a high-resolution, multimodal weather forecasting benchmark, derived from satellite data, which provides comprehensive insights into the complexities of meteorological prediction. The second is a ground-breaking high-resolution precipitation benchmark, which innovatively utilizes satellite to radar data at the surface level. This latter benchmark promotes a deeper understanding of rainfall patterns and their potential implications.

Our exploration culminates in the organization of the Weather4cast competition at the competitive venues NeurIPS, IEEE Big Data and CIKM. This sets unprecedental benchmarks for spatio-temporal prediction in weather domains, promoting innovative solutions in this intricate field. By bridging the gap between deep learning and spatio-temporal forecasting, this thesis makes a significant contribution to both machine learning methodologies and the accuracy of weather and traffic predictions. The findings promise to inspire further advancements in the application of deep learning to complex spatio-temporal processes.

(Català) Aquesta tesi explora la intersecció entre l'aprenentatge profund i la predicció espaiotemporal, centrant-se en els reptes i oportunitats presents en l'aplicació de mètodes d'aprenentatge automàtic per predir fenòmens geoespacials i temporals complexos. Específicament, ens centrem en dos àmbits crítics: la predicció del temps i la predicció del trànsit.

En primer lloc, ens endinsem en les matisos de la codificació òptima de les dades de trànsit per a models d'aprenentatge profund, reconeixent el potencial d'aquests mètodes per revolucionar els patrons de mobilitat, la planificació urbana i els serveis de lliurament de mercaderies. El nostre treball té com a objectiu proporcionar un camí clar per aprofitar eficaçment les dades del GPS i utilitzar models d'aprenentatge profund per a una predicció precisa del trànsit, influenciant significativament la presa de decisions en el món real.

A continuació, dirigim la nostra atenció cap a la predicció del temps. Donat l'impacte substancial del temps en les activitats humanes i l'entorn, el nostre objectiu és establir les millors pràctiques per codificar les dades meteorològiques per a aplicacions d'aprenentatge profund. Explorem diversos models d'aprenentatge automàtic, avaluant el seu rendiment i identificant l'enfocament més eficient i precís per a la predicció del temps.

Al llarg de la tesi, emfatitzem la necessitat urgent de marcs de referència en el camp de la predicció espaiotemporal, per permetre la comparació sistemàtica de mètodes i accelerar els avenços en la recerca. Discutim els components essencials d'un marc de referència, incloent dades obertes d'accés lliure, tasques específiques, mètriques rellevants, línies de base viables i metodologies d'avaluació exhaustives.

Per il·lustrar encara més l'aplicació pràctica d'aquests principis, hem contribuït a la comunitat científica publicant dos marcs de referències nous. El primer és un marc de referència de predicció meteorològica multimodal d'alta resolució, derivat de dades de satèl·lit, que proporciona una visió completa de les complexitats de la predicció meteorològica. El segon és un marc de referència innovador de precipitació d'alta resolució, que utilitza de manera innovadora les dades de satèl·lit a radar al nivell de la superfície. Aquest últim marc de referència promou una comprensió més profunda dels patrons de pluja i les seves possibles implicacions.

La nostra exploració culmina en l'organització de la competició Weather4cast als llocs de competició NeurIPS, IEEE Big Data i CIKM. Això estableix marcs de referència sense precedents per a la predicció espaiotemporal en àmbits meteorològics, promovent solucions innovadores en aquest camp intricat. En fer la connexió entre l'aprenentatge profund i la predicció espaiotemporal, aquesta tesi fa una contribució significativa tant a les metodologies d'aprenentatge automàtic com a la precisió de les prediccions meteorològiques i de trànsit. Les troballes prometen inspirar més avenços en l'aplicació de l'aprenentatge profund a processos espaiotemporals complexos.