title: Towards robust inference for Bayesian filtering of linear Gaussian dynamical systems subject to additive change
title: Hin zu einer robusten Inferenz für Bayes'sche Filterung linearer gaußscher dynamischer Systeme bei additiver Veränderung
Creators: name: Reimann, Hans
Publisher: name: Universität Potsdam
Year: 2024
Subjects: subject: 510 Mathematik

description: State space models enjoy wide popularity in mathematical and statistical modelling across disciplines and research fields. Frequent solutions to problems of estimation and forecasting of a latent signal such as the celebrated Kalman filter hereby rely on a set of strong assumptions such as linearity of system dynamics and Gaussianity of noise terms.
We investigate fallacy in mis-specification of the noise terms, that is signal noise
and observation noise, regarding heavy tailedness in that the true dynamic frequently produces observation outliers or abrupt jumps of the signal state due to realizations of these heavy tails not considered by the model. We propose a formalisation of observation noise mis-specification in terms of Huber’s ε-contamination as well as a computationally cheap solution via generalised Bayesian posteriors with a diffusion Stein divergence loss resulting in the diffusion score matching Kalman filter - a modified algorithm akin in complexity to the regular Kalman filter. For this new filter interpretations of novel terms, stability and an ensemble variant are discussed. Regarding signal noise mis-specification, we propose a formalisation in the frame work of change point detection and join ideas from the popular CUSUM algo-
rithm with ideas from Bayesian online change point detection to combine frequent reliability constraints and online inference resulting in a Gaussian mixture model variant of multiple Kalman filters. We hereby exploit open-end sequential probability ratio tests on the evidence of Kalman filters on observation sub-sequences for aggregated inference under notions of plausibility.
Both proposed methods are combined to investigate the double mis-specification problem and discussed regarding their capabilities in reliable and well-tuned uncertainty quantification. Each section provides an introduction to required terminology and tools as well as simulation experiments on the popular target tracking task and the non-linear, chaotic Lorenz-63 system to showcase practical performance of theoretical considerations.
description: Modelle im Zustandsraum finden breite Anwendung in der mathematischen und statistischen Modellierung verschiedener Disziplinen und Forschungsgebiete. Häufige Lösung von Problemen der Schätzung und Vorhersage von latenten Signalen wie der populäre Kalman Filter benötigen hierbei eine Reihe von starken annahmen wie Linearität der Dynamiken des Systems und Normalität der Fehlerterme.
Wir untersuchen Hürden in der Modellierung durch Mis-Spezifizierung der Fehlerterme, hier des Signalfehlers und des Beobachtungsfehlers, bezüglich schweren Rändern. Die wahre Dynamik produziert häufig Beobachtungsausreißer oder plötzliche Sprünge des Signals als Realisationen dieser schweren Ränder, diese werden aber nicht durch das Modell berücksichtigt. Wir schlagen eine Formalisierung der Mis-Spezifizierung des Beobachtungsfehlers im Sinne von Hubers Epsilon-Kontaminierung sowie eine rechnerisch kosteneffiziente Lösung vor. Diese Lösung durch generalisierte Bayes'sche a-posteriori Verteilungen mit einer Diffusion Stein Divergenz resultiert in dem Diffusion-Score-Matching Kalman Filter - ein modifizierter Algorithmus ähnlich dem regulären Kalman Filter in Komplexität. Für diesen neuen Filter diskutieren wir Interpretationen neuer Terme, der Langzeitstabilität und eine Ensemble
Variante. Bezüglich der Mis-Spezifizierung des Signalfehlers schlagen wir eine Formalisierung durch Wechselpunktdetektierung vor und verknüpfen Ideen des populären CUSUM Algorithmus mit Ideen der Bayes'schen Online Wechselpunktdetektierung um Eigenschaften in Zuverlässigkeit und Online-Inferenz zu erhalten. Das Ergebnis ist eine Gaussian-Mixture-Model Variante aus mehreren Kalman Filtern. Hierbei nutzen wir explizit die Open-End sequentielle Probability-Ratio-Tests zwischen den verschiedenen Kalman Filtern, um Inferenzen unter Plausibiltätsargumenten zu aggregieren.
Beide vorgeschlagenen Ansätze werden gemeinsam untersucht für den Fall der zweifachen Mis-Spezifizierung und die Ergebnisse werden diskutiert bezüglich ihrer Zuverlässigkeit und Unsicherheitsquantifizierung. Jedes Kapitel beinhaltet eine Einführung in die notwendige Terminologie und mathematischen Werkzeuge, sowie Simulationsexperimente für das populäre Beispiel des Target Trackings und das nicht-lineare, chaotische Lorenz-63 System, um die praktische Performance die Theorie zu veranschaulichen.