title: On periodograms and efficient nonparametric toeplitz covariance matrix estimators
Creators: name: Klockmann, Karolina Hella
Publisher: name: :none
Year: 2023

description: Die Schätzung von Kovarianz- und Präzisionsmatrizen ist ein grundlegendes Problem der statistischen Datenanalyse mit unzähligen Anwendungen in den Natur- und Sozialwissenschaften. Für die Klasse der stationären stochastischen Prozesse weist die Kovarianzmatrix eine besonders einfache Struktur auf: sie ist eine Toeplitz-Matrix. In dieser kumulativen Dissertation werden zwei neue datengetriebene nicht-parametrische Methoden zur Schätzung von Toeplitz-Kovarianzmatrizen in zwei unterschiedlichen Szenarien vorgeschlagen und deren theoretische Eigenschaften diskutiert. Der Hauptansatz besteht darin, das Problem der Schätzung der Toeplitz-Kovarianzmatrix mit dem Problem der Schätzung der (Log-)Spektraldichtefunktionen in Verbindung zu setzen. Insbesondere wird gezeigt, dass die diskrete Kosinustransformationsmatrix und die Demmler-Reinsch-Basismatrix Toeplitz-Matrizen asymptotisch diagonalisieren. Unter Verwendung dieses Ergebnisses werden zwei modifizierte Versionen des Periodogramms und der Whittle-Likelihood hergeleitet, die eine Schätzung der Spektraldichtefunktion mit doppelt so feiner Frequenzauflösung ermöglichen. Im ersten Szenario liegen die Daten als n unabhängige und identisch verteilte Realisierungen eines stationären Gauß-Prozesses mit einem Mittelwert von Null und einer α-Hölder stetigen, beschränkten Spektraldichtefunktion vor. Insbesondere beinhaltet dieses Szenario bestimmte Prozesse mit Langzeitpersistenz. Die Toeplitz-Kovarianzmatrix und die Präzisionsmatrix werden aus einem Schätzer der Log-Spektraldichtefunktion in einer approximativen Gaußschen Regression gewonnen. Das wichtigste theoretische Ergebnis ist der Beweis, dass alle vorgeschlagenen Schätzer minimax-optimal sind: der Spektraldichte-Schätzer erreicht die minimax-optimale Konvergenzrate unter der L ∞ -Norm, der Toeplitz-Kovarianz- und der Präzisionsmatrix-Schätzer erreichen die minimax-optimale Rate unter der Spektralnorm. Als separates Ergebnis leiten wir einen Näherungsausdruck für die Kovarianz des Log-Durchschnitt-Periodogramms her. Im zweiten Szenario wird eine einzelne stationäre Gauß-Zeitreihe mit kurzfristiger Abhängigkeit und einer unbekannten stetigen Mittelfunktion betrachtet. Die Kovarianz-matrix und die Mittelfunktion werden gleichzeitig mithilfe eines adaptiven, empirischen Bayes-Ansatzes geschätzt. Beide Methoden sind vollständig datengetrieben und rechentechnisch sehr effizient. Ihre Leistungsfähigkeit wird anhand von Simulationen und Beispielen echter Daten evaluiert. Die beiden Methoden sind in den R-Paketen vstdct und eBsc implementiert.
description: The estimation of covariance and precision matrices is a fundamental problem in statistical data analysis with numerous applications in the natural and social sciences. For stationary stochastic processes, the covariance matrix takes the simple form of a Toeplitz matrix. This cumulative dissertation presents two novel data-driven nonparametric methods for estimating Toeplitz covariance matrices in different scenarios and discusses their theoretical properties. The main idea is to establish a connection between the estimation of the Toeplitz covariance matrix and the estimation of the (log-)spectral density function. Specifically, it is demonstrated that the Discrete Cosine Transform matrix and the Demmler-Reinsch basis matrix diagonalize Toeplitz matrices asymptotically. Utilizing this result, two modified versions of the periodogram and the Whittle likelihood are derived, enabling the estimation of the spectral density function on a grid with a twice as fine frequency resolution. In the first scenario, the data consist of n independent and identically distributed realizations of a stationary Gaussian process with zero mean and a bounded, α-Hölder continuous spectral density function. In particular, this setting includes certain processes with long-range dependence. The Toeplitz covariance matrix and the precision matrix are obtained through an estimator of the log-spectral density function in an approximate Gaussian regression. The main theoretical result is the proof that all proposed estimators are minimax optimal: the spectral density estimator attains the minimax optimal convergence rate under the L ∞ norm, the Toeplitz covariance and the precision matrix estimator attain the minimax optimal rate under the spectral norm. As a separate result, we derive an approximate expression for the covariance of the log-average periodogram. In the second scenario, a single stationary Gaussian time series with short-term dependence and an unknown smooth mean function is considered. The covariance matrix and the mean function are simultaneously estimated using an adaptive, empirical Bayesian approach. Both methods are entirely data-driven and computationally efficient. Their performance is evaluated through simulations and real data examples. The two method are implemented in the R packages vstdct and eBsc.