# Concept Drift

Concept Drift oder data drift bedeutet im Bereich der prädiktiven Analysen und des Maschinellen Lernens, dass sich die statistischen Eigenschaften der Zielvariable, die ein Modell vorherzusagen versucht, im Laufe der Zeit unvorhergesehen ändern. Das führt dazu, dass die Vorhersagen, die dieses Modell trifft, im Laufe der Zeit ungenauer werden.
Der Term Concept Drift bezieht sich grundlegend auf das Phänomen einer sich ändernden Zielvariable, wird aber auch für zeitabhängige Änderungen von Eingabedaten, die sich gleichwohl auf Vorhersageergebnisse auswirken, verwendet.

## Beispiele

Im Bereich der Vorhersage der Bonität existiert das Zielkonzept eines binären Attributs kreditwürdig mit den Werten „ja“ oder „nein“, welche angeben, ob ein Kunde kreditwürdig oder nicht kreditwürdig ist. Relevant für die Vorhersage der Kreditwürdigkeit können u. a. Attribute wie die Verdienstsituation, das Alter oder die Familienverhältnisse des Kunden sein. Wenn auf Basis dieser Attribute eine Vorhersage getroffen wird, ist davon auszugehen, dass das Modell bedingt durch Inflation oder Krisen mit der Zeit ungenauer wird und falsche Vorhersagen trifft.
In einer Anwendung bei einer Vorhersage von Absatzzahlen von Automodellen können Prämien für Elektroautos oder ein Verbot von Verbrenner-Fahrzeugen stark und unerwartet Abweichungen von den prognostizierten Absatzzahlen bewirken.
In einer Applikation zur Wettervorhersage können mehrere Zielkonzepte wie die Temperatur, der Luftdruck oder die Luftfeuchtigkeit existieren. Wenn ein Modell auf Basis eines begrenzten Zeitraumes, beispielsweise im Sommer, trainiert wird, ist es abzusehen, dass eine Vorhersage der Temperatur zu anderen Jahreszeiten ungenau ist.
Auch im Bereich des Elektronischen Handels existieren Zielkonzepte wie das Kundenverhalten. Wenn der wöchentliche Absatz vorhergesagt werden soll, kann mithilfe von Attributen wie des Geldbetrages, der für Werbung ausgegeben wird, und weiterer Metriken, die den Absatz betreffen, ein Vorhersagemodell erstellt werden. Dieses ist zum Zeitpunkt des Trainings akkurat und trifft zuverlässige Vorhersagen. Es ist allerdings zu erwarten, dass die Güte von Vorhersagen mit der Zeit schlechter wird, was Concept Drift genannt wird. Die Ursache findet sich beispielsweise in der Saisonalität, da sich Kaufinteressen möglicherweise ändern, oder in Budgetänderungen oder Veränderungen am Markt durch u. a. neue Wettbewerber.
In einem größeren Rahmen stellen auch die Corona-Lockdowns Concept Drifts dar. In zahllosen Branchen wurden Vorhersagen und die Vorhersagemodelle durch die Lockdowns in kürzester Zeit unbrauchbar. Beispielsweise konnten ÖPNV Belegungen und Verspätungen, Onlinehandel Absätze oder Flugpreise überhaupt nicht mehr vorhergesagt werden.

## Möglichkeiten zur Vermeidung von Concept Drift

Um die Verschlechterung der Vorhersagegenauigkeit durch Concept Drift zu vermeiden, gibt es aktive und passive Lösungsansätze. Aktive Ansätze basieren auf Auslösemechanismen wie z. B. Tests zum Erkennen von Veränderungen um Concept Drift als Veränderung in der Statistik des datenerzeugenden Prozesses zu erkennen. Unter stationären Bedingungen kann jede neu verfügbare Information zur Verbesserung des Modells berücksichtigt werden. Wenn jedoch eine Konzeptabweichung festgestellt wird, ist das aktuelle Modell nicht mehr aktuell und muss durch ein neues ersetzt werden, damit die Vorhersagegenauigkeit erhalten bleibt. Im Gegensatz dazu wird bei passiven Lösungen das Modell ständig aktualisiert, z. B. durch Neutraining des Modells anhand der zuletzt beobachteten Stichproben oder durch den Einsatz eines Ensembles von Klassifikatoren. Auch deskriptive Lösungen zur Erkennung von Concept Drift können bei der Behandlung sich verschlechternden Vorhersagen helfen.
Falls Kontextinformationen verfügbar sind, können diese verwendet werden, um die Ursachen von Concept Drift zu erklären. Beispielsweise kann Concept Drift in einer Umsatzvorhersage ausgeglichen werden, indem man Informationen über die Jahreszeit zum Vorhersagemodell hinzufügt. Dadurch wird die Verschlechterung des Modells abnehmen, Concept Drift wird damit allerdings nicht vollständig beseitigt werden können. Dies liegt daran, dass das tatsächliche Kaufverhalten keinem statischen, endlichen Modell folgt. Neue Faktoren, die das Kaufverhalten beeinflussen können entstehen oder bestehende Faktoren sowie ihr Einfluss können sich mit der Zeit verändern.
Bei komplexen Phänomenen, die keinen festen Naturgesetzen unterliegen, lässt sich Concept Drift nicht vermeiden. Alle Prozesse, die durch menschliche Aktivität entstehen wie sozioökonomische oder biologische Prozesse, unterliegen irgendwann Concept Drift. Deshalb ist regelmäßiges Neutraining eines Modells notwendig.

## Software

* RapidMiner: zuvor Yet Another Learning Environment (YALE): freie Open-Source-Software für Knowledge Discovery, Data-Mining und Machine Learning, die auch Data-Stream Mining, das Lernen von zeitabhängigen Veränderungen und die Erkennung von Concept Drift ermöglicht. Es existiert hierfür ein Data-Stream Mining Plugin (zuvor Concept Drift Plugin).
* EDDM (Early Drift Detection Method): freie Open Source Implementierung von Methoden zur Drift-Erkennung in Weka.
* MOA (Massive Online Analysis): freie Open-Source-Software für die Analyse von Datenströmen, welche Concept Drift unterliegen.

## Datensätze
### Realdatensätze

* USP Data Stream Repository, 27 reale Datenstrom-Datensätze zusammengestellt von Souza u. a.(2020). Zugriff
* Airline, ungefähr 116 Millionen Aufzeichnungen über Ankunft und Abflug von Flügen (bereinigt und sortiert) zusammengestellt von E. Ikonomovska. Referenz: Data Expo 2009 Competition community.amstat.org. Zugriff
* Chess.com (Online-Spiel) und Luxembourg (Umfrage), Datensätze zusammengestellt von I. Zliobaite. Zugriff
* ECUE spam, 2 Datensätze mit jeweils mehr als 10.000 E-Mails, die über einen Zeitraum von etwa 2 Jahren von S.J.Delany gesammelt wurden. Zugriff
* Elec2, Strombedarf, 2 Klassen, 45.312 Instanzen. Referenz: M. Harries, Splice-2 comparative evaluation: Electricity pricing, Technical report, The University of South Wales, 1999. Zugriff von J.Gama. Kommentar zur Anwendbarkeit des Datensatzes.
* PAKDD'09 Wettbewerb, Daten zur Kreditbewertung, gesammelt über 5 Jahre. Nur der erste Teil der Daten ist gelabelt. Zugriff
* Sensor stream und Power supply stream Datensätze von X. Zhus Stream Data Mining Repository. Zugriff
* SMEAR ist ein Benchmark-Datensatz mit einigen Fehlwerten. Umweltbeobachtungen über 7 Jahre, um die Bewölkung vorherzusagen. Zugriff
* Text mining, eine Sammlung von Texten mit Concept Drift, zusammengestellt von I. Katakis. Zugriff
* Gas Sensor Array Drift Dataset, eine Sammlung von 13.910 Messwerten von 16 chemischen Sensoren verwendet für die Driftkompensation in einer Diskriminierungsaufgabe von 6 Gasen in verschiedenen Konzentrationen. Zugriff

### Sonstiges

* KDD'99 Wettbewerb, Datensätze über simuliertes Eindringen in ein militärisches Netzwerk. Oft als Benchmark benutzt, um den Umgang mit Concept Drift zu bewerten. Zugriff

### Künstlich erzeugte Datensätze

* Extreme verification latency benchmark, Souza, V.M.A.; Silva, D.F.; Gama, J.; Batista, G.E.A.P.A.: Data Stream Classification Guided by Clustering on Nonstationary Environments and Extreme Verification Latency. SIAM International Conference on Data Mining (SDM), 2015, S. 873–881. Zugriff auf das Nonstationary Environments – Archiv.
* Sine, Line, Plane, Circle and Boolean Data Sets, L.L. Minku, A.P.White, X. Yao, The Impact of Diversity on On-line Ensemble Learning in the Presence of Concept Drift, IEEE Transactions on Knowledge and Data Engineering, Vol. 22, No. 5, 2010, S. 730–742. Zugriff auf der Seite von L. Minku.
* SEA concepts, N.W.Street, Y.Kim, A streaming ensemble algorithm (SEA) for large-scale classification, KDD'01: Proceedings of the seventh ACM SIGKDD international conference on Knowledge discovery and data mining, 2001. Zugriff auf der Seite von J. Gama.
* STAGGER, J.C. Schlimmer, R.H. Granger, Incremental Learning from Noisy Data, Mach. Learn., Vol. 1, No. 3, 1986.
* Mixed, J. Gama, P. Medas, G.Castillo, P. Rodrigues, Learning with drift detection, 2004.

### Frameworks zur Erzeugung künstlicher Datensätze

* L. L. Minku, A. P. White, X. Yao: The Impact of Diversity on On-line Ensemble Learning in the Presence of Concept Drift. In: IEEE Transactions on Knowledge and Data Engineering. Vol. 22, No. 5, 2010, S. 730–742. Download from L.Minku webpage.
* P. Lindstrom, S. J. Delany B. MacNamee (2008): Autopilot: Simulating Changing Concepts in Real Data. In: D. Bridge, K. Brown, B O’Sullivan H Sorensen (Hrsg.): Proceedings of the 19th Irish Conference on Artificial Intelligence Cognitive Science. S. 272–263. (PDF)
* A. Narasimhamurthy, L. I. Kuncheva: A framework for generating data to simulate changing environments. In: Proc. IASTED, Artificial Intelligence and Applications. Innsbruck 2007, S. 384–389. PDF Code