title: Verification in complex terrain with ensemble-analysis
Creators: name: Kloiber, Simon Wolfgang
Publisher: name: :none
Year: 2017

description: Das Ziel vom Mesoscale Verification Inter-comparison over Complex Terrain (MesoVICT) Projekt ist es, räumliche Verifikationsmethoden miteinander zu vergleichen, um Informationen über die sinnvollsten Verfahren zu erhalten. Dies wird mittels Deterministischer- und Ensemblevorhersagen gemacht, welche gegen eine Beobachtung verifiziert werden. Das MesoVICT Projekt stellt allerdings zwei Beobachtungsensembles, von der Universität Wien, zur Verfügung. Dabei wird die Vienna Enhanced Resolution Analysis (VERA) als Basis für Ensembles, welche Stationsunicherheiten und räumliche Muster beinhalten, verwendet. Diese werden für die, bis jetztwenig beachtete, Verifikation zweier Ensembles gegeneinander verwendet. Da dieses Thema sehr komplex ist, sind die räumlichen Verifikationsmethoden hinten angestellt. Zuerst wird eine Punktverifikationen durchgeführt, bei der der Methodenvergleich im Vordergrund steht. Die Vorhersage wird vom italienischen Wetterdienst Emilia-Romagna (COSMO-LEPS) bereitgestellt. Als Parameter sind Windgeschwindigkeit, potentielle Temperatur, Niederschlag und Druck vorhanden. Bevor mit den Vergleichen begonnen wird, muss die Verteilung der Ensembles durch Tests festgestellt werden (Lilliefors-, Jarque-Bera- und Anderson-Darling-Test).Die Ergebnisse zeigen keine andauernde Gaußsche-Verteilung, was nicht parametrische Verfahren für die Verifikation notwendig macht. Die Evaluierung selbst wird als Abstandsmessung für probability density functions (PDF’s), cumulative distribution functions (CDF’s) und Histogrammen durchgeführt. Insgesamt sind sechs Methoden als sinnvoll befundet worden. Die integrated quadratic distance (IQD) verwendet zwei CDF’s und misst die Summe der quadratischen Differenzen. Der perfect receiver operating characteristic comparison (PROCC) benötigt das Beobachtung- und das Vorhersageensembles repräsentiert als PDF’s. Dieser Score ist ziemlich kompliziert. Am Einfachsten kann er als Vergleich mit einem perfekten Ergebnis dargestellt werden. Wahrscheinlichkeitsvektoren sind notwendig für die Kullback-Leibler Divergence (KLD). Hier wird die Differenz von diesen gebildet. Die Euclidean, Seorgel und Lorentzian distance basiert auf Histogrammen und den damit verbundenen Wahrscheinlichkeiten in den Bins. Die gefundenen Methoden können zum Beispiel auch für den Vergleich zweier Vorhersageensembles verwendet werden. Um der nicht parametrischen Statistik Rechnung zu tragen wird der kernel density estimate angewandt. Dieser Ansatz passt die PDF’s und CDF’s an den Datensatz an, ohne jedoch ihre Eigenschaft zu verändern. Die Verifikation mit den verschiedenen Parametern hat ergeben, dass die Windgeschwindigkeit und die potentielle Temperatur am brauchbarsten für den hier durchgeführten Ensemblevergleich sind. Der Niederschlag und der Druck müssen mit anderen Verifikationsmethoden betrachtet werden. Mittels einer Tabelle wird ein Überblick der Verifikationsmaße angeboten. Diese gibt Entscheidungshilfen, wie das Ergebnis jeder Methode bewertet werden kann, an. Der kernel density estimate beeinflusst das Ergebnis sowohl positiv als auch negativ. Zusätzlich werden die score specific uncertainty und die uncertainty between different observations berechnet. Beide Verfahren interagieren miteinander. Dadurch wird bei einer kleinen score specific uncertainty die Lage der Beobachtungsensembles zueinander wichtiger für die Berechnung der uncertainty between different observations. Umgekehrt beeinflusst eine breite score specific uncertainty die uncertainty between different observations mehr, als die Lage der Beobachtungen zueinander. Abschließend sind verschiedene Beobachtungsensembles, ein Überblick für eine mögliche Modellverifikation und die Extremwert-Theorie Thema.
description: The aim of the Mesoscale Verification Inter-Comparison over Complex Terrain (MesoVICT) project is to compare spatial verification methods with each other to gather information about proper ones. This is done for deterministic and ensembles forecasts. They are compared with a certain observation. However, the MesoVICT project provides two observation ensembles, which are computed from the University Vienna. Here, the Vienna Enhanced Resolution Analysis (VERA) is the basis for ensembles were station observation uncertainties and spatial patterns are represented. They are used for a so far little discussed topic, the verification from two ensembles against each other. Since this issue is complex, the spatial part is postponed and a point to point verification method inter-comparison, in the spirit of the MesoVICT project, is done. The forecast ensemble is provided by the weather service of Emilia-Romagna (COSMO-LEPS). As parameters the wind speed the potential temperature, precipitation and the pressure are chosen. Before starting with the evaluation, distribution tests are performed for the ensembles (Lilliefors-, Jarque-Bera- and Anderson-Darling-Test). The conclusion is that non parametric statistics are useful, because the Gaussian distribution is not valid all the time. The verification is done with distance measurements from probability density functions (PDF), cumulative distribution functions (CDF) and via histograms. Six methods are selected. The integrated quadratic distance (IQD) uses two CDF’s and measures the sum of squared differences. The perfect receiver operating characteristic comparison (PROCC) needs the observation and forecast ensemble represented as PDF’s. This score is rather complex, but based on a comparison with a perfect result. Probability vectors are required for the Kullback-Leibler Divergence (KLD). It provides the difference of those. The Euclidean, Seorgel and Lorentzian distances are based on histograms and the related probabilities in each bin. The used methods can also be applied for a comparison of, for example, two forecast models. For satisfying the non parametric statistics restriction kernel density estimates are applied. This approach fits the PDF’s and CDF’s to the data without losing any previous properties. The ensemble verification with different parameters showed, that it is reasonable to use wind speed and potential temperature. The precipitation and the pressure have to be modified or evaluated with different methods. A table provides an overview of the used verification methods and defines a judgmental interval for each score. The kernel density estimate improves as well as deteriorates the results. Additionally, the score specific uncertainty and the uncertainty between different observations are calculated. Those estimates interact with each other. If the score specific uncertainty is small, the location difference between the observation ensembles are more important for the uncertainty between different observations. In the other hand, a big extent, due to the score specific uncertainty suppresses the location influence from the observations in the uncertainty between different observations and the score specific uncertainty is more prominent. Finally, different observation ensemble possibilities, a brief overview for a model comparison and extreme value approaches are shown.