Εκτίμηση Εντροπίας Μεταφοράς σε Μη-Στάσιμες Χρονοσειρές
Creators: name: Καραγιωτας, Ιωάννης Δημητρίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2018
Subjects: Ανάλυση μη στάσιμων χρονοσειρών
Αιτιότητα
Θεωρία πληροφορίας
Χαοτικά δυναμικά συστήματα σύζευξης
Non stationary time series analysis
Causality
Information theory
Coupled chaotic dynamical systems

description: Στο 1ο Κεφαλαίο της παρούσας εργασίας παρουσιάζεται μια εισαγωγή κατά την οποία σημειώνεται τόσο το θέμα της όσο και μια γενική και ιστορική περιγραφή του φαινόμενου της «Αιτιότητας». Αναλύεται η βασική ιδέα για την οποία συντάσσεται η παρούσα διπλωματική εργασία και παρουσιάζονται κάποιες παρόμοιες προσεγγίσεις Στο 2ο κεφάλαιο παρουσιάζεται η βασική θεωρία που χρειάστηκε για την σύνταξη της εργασίας. Αρχικά αναφέρεται στην ανάλυση χρονοσειρών παρουσιάζοντας γνωστές μεθόδους μετασχηματισμού μιας μη στάσιμης χρονοσειράς σε στάσιμη όπως αυτές παρουσιάζονται στην διεθνή βιβλιογραφία έχοντας κάποια παραδείγματα. Αναλύονται οι βασικές έννοιες που χρειάζονται για να κατανοηθεί η ανάλυση χρονοσειρών με έμφαση στις χρονοσειρές που προκύπτουν από δυναμικά συστήματα. Παρουσιάζονται οι βασικές αρχές που διέπουν το πεδίο των χαοτικών συστημάτων καθώς και στην συνέχεια γίνεται μια εισαγωγή στην Θεωρία Συγχρονισμού των συζευγμένων Χαοτικών Συστημάτων. Στην συνέχεια γίνεται μια αναφορά στη Θεωρία Πληροφορίας, κατά την οποία παρουσιάζονται και αναλύονται τα βασικά στατιστικά μέτρα που την συντελούν όπως είναι η Εντροπία και η Αμοιβαία Πληροφορία. Παρουσιάζονται διαφορετικές προσεγγίσεις και εκτιμητές τόσο της Εντροπίας όσο και της Αμοιβαίας Πληροφορίας καθώς και αναλύεται η μέθοδος των κοντινότερων γειτόνων για την εκτίμηση της Αμοιβαίας Πληροφορίας που θα χρησιμοποιήσουμε. Στο 3ο κεφάλαιο εντάσσεται το βασικό θεωρητικό υπόβαθρο γύρω από το φαινόμενο της Αιτιότητας κατά το οποίο παρουσιάζονται οι διαφορετικές του προσεγγίσεις. Αρχικά γίνεται μια αναφορά στην φύση της Αιτιότητας όπως έχει αναλυθεί κατά καιρούς και γίνεται μια εισαγωγή στις μαθηματικοποιημένες προσεγγίσεις της. Αναφέρεται η πρώτη μορφή μαθηματικοποίησης της αιτιότητας κατά Granger και στην συνέχεια επικεντρωνόμαστε στα κύρια στατιστικά μέτρα από το πεδίο της Θεωρίας Πληροφορίας, σύμφωνα με τα οποία εξελίσσεται η πιθανοθεωρητική πλευρά της Αιτιότητας. Στο 4ο κεφάλαιο παρουσιάζεται η κύρια ιδέα του θέματος της παρούσας διπλωματικής. Επιλέγουμε να εφαρμόσουμε έναν μετασχηματισμό απευθείας στα ανακατασκευασμένα διανύσματα από την μη-στάσιμη χρονοσειρά. Ως αποτέλεσμα προκύπτει τα ανακατασκευασμένα διανύσματα μετά την εφαρμογή του μετασχηματισμού να έχουν συνιστώσες στοιχεία μιας στάσιμης χρονοσειράς. Κάνοντας αναφορά σε στοιχεία Γραμμικής Άλγεβρας παρουσιάζουμε την θεωρία αλλά και τις ιδιότητες του μετασχηματισμού που παρουσιάζουμε έχοντας τεκμηριώσει με αυστηρό μαθηματικό τρόπο και διαγράμματα τα αποτελέσματά μας. Η μεθοδολογία που δημιουργήθηκε φέρει το όνομα Εντροπία Μεταφοράς με Διόρθωση Μέσου Όρου (Mean Corrected Transfer Entropy,MCTE). Στο 5ο κεφάλαιο γίνονται εφαρμογές πάνω σε χαοτικά συζευγμένα δυναμικά συστήματα (Chaotic Coupled Dynamical Systems),κατά τα οποία γνωρίζουμε τις φυσικές ιδιότητές και την συνδεσιμότητά τους. Σύμφωνα με αυτά εξετάζουμε εάν ο μετασχηματισμός μας μπορεί να αναγνωρίσει τις αιτιακές σχέσεις ανάμεσα σε αυτά τα συστήματα όταν οι χρονοσειρές που προκύπτουν από αυτά είναι στην φυσική στάσιμη μορφή τους καθώς και όταν προσθέτουμε στοχαστική τάση μέσω μοντέλου τυχαίου περιπάτου (RW Stochastic Trend) καθώς και μέσω φίλτρου κινούμενου μέσου τάξης q (MA(q) filter). Στο 6ο κεφάλαιο ακολουθεί μια εφαρμογή σε πραγματικά δεδομένα χρονοσειρών οικονομικού χαρακτήρα,τα οποία ελήφθησαν κατά την περίοδο 05/01/2004 έως 18/05/2012.Οι χρονοσειρές αναφέρονται στις τιμές των 3-month Treasury Bill of Secondary Market Rate (Χ_1), 10-year Treasury Constant Maturity Rate (X2) και Chicago Board Options Exchange (CBOE) Volatility Index or VIX (X3). Στο 7ο κεφάλαιο παρουσιάζουμε την διαμόρφωση της τοπολογίας των στοιχείων και της συμπεριφοράς της χρονοσειράς όταν προσαρμόσουμε το ερευνητικό κομμάτι της παρούσας διπλωματικής εργασίας περιορίζοντάς το στη διατήρηση της αρχικής γειτονιάς του έπειτα από την εφαρμογή του παρόντος ερευνητικού μετασχηματισμού. Γίνεται μια σύγκριση με τις άλλες μεθόδους και τα αποτελέσματά προβάλλονται με τα κατάλληλα διαγράμματα και την αντίστοιχη ερμηνεία τους, πάνω σε χαοτικά συζευγμένα δυναμικά συστήματα.Εξετάζεται η περίπτωση των συζευγμένων απεικονίσεων Hénon.. Στο 8ο κεφάλαιο παρουσιάζονται τα συμπεράσματα όπως προέκυψαν από την όλη ανάλυση κάνοντας μια σκιαγράφηση των αποτελεσμάτων που προέκυψαν κατά την εξέλιξη της εργασίας παρουσιάζοντας τις κατάλληλες συγκρίσεις.
description: In the 1st Chapter of the current MSc Thesis, the introduction is presented in which main topic of this Thesis is detailed with some general and historical information about Causality. The main topic of this Thesis is presented among different configurations. In the 2nd Chapter the fundamental theory is presented needed to complete the current Thesis. First of all we deal with Time Series Analysis presenting a variety of methods that convert a non-stationary time series to stationary with some examples. The basic definitions and theorems forming the main background of time series analysis specializing in time series from dynamical systems is presented. The main aspects of chaotic time series analysis are a part of this chapter combined with an introduction to Synchronization Theory of Coupled Chaotic Systems. Furthermore we focus on some of the fundamental elements of Information Theory such as Entropy and Mutual Information. In this part of the chapter different estimators for Entropy and Mutual Information are discussed. Finally we focus on the estimator of Mutual Information making use of nearest neighbors, having a central role in the MSc Thesis. In the 3rd Chapter we concentrate on Causality and it’s different meanings. First we present the term Causality as it has been analyzed through the time and finally we discuss it’s mathematical concepts. We make a reference to the first mathematical expression of Causality which belongs to Granger and then we use terms of the Information Theory in order to describe Causality on it’s probabilistic nature. In the 4th Chapter the main idea of the current MSc Thesis is presented. We choose to use a transformation directly to the reconstructed vector from a non-stationary time series. As a result, the components of the new reconstructed vectors are elements from a stationary time series. Making use of elements of Linear Algebra we build the basic theory and the properties of this transformation with strictly mathematical procedure and according to specific diagrams and plot results. The new methodology is named Mean Corrected Transfer Entropy (MCTE). In the 5th Chapter we choose to use Chaotic Coupled Toy Models, from which we know their behavior and connectivity. According to this assumption we examine if our methodology is able to detect Causality relationships among these systems when the time series from them are both stationary and non stationary. For non-stationarity we choose to use two kinds of stochastic trend, i.e. Random Walk (RW Stochastic Trend) and moving average filter of order q (MA(q) filter). In the 6th Chapter we examine causality detection on real samples given from economic time series from the period 05/01/2004 to 18/05/2012.The variables represent the 3-month Treasury Bill of Secondary Market Rate (Χ_1), 10-year Treasury Constant Maturity Rate (X2) and the Chicago Board Options Exchange (CBOE) Volatility Index or VIX (X3). In the 7th Chapter we present the change of topological properties of the elements of our time series after the transformation we mentioned above, targeting on the new number of nearest neighbors and on the new neighborhood of each element. We make a comparison with the other detrending methods, interpret the results displayed in appropriate diagrams. In particular, we examine the case of Coupled Henon Maps. In the 8th Chapter we present our conclusions from the analysis making a reference to the suitable comparisons.