title: Machine Learning for Industry 4.0: Methods and Applications of Time Series Reconstruction and Outlier Detection
title: Maschinelles Lernen in der Industrie 4.0: Methoden und Anwendungen der Rekonstruktion von Zeitreihen und der Erkennung von Ausreißern
Creators: name: Schlieper, Philipp
Publisher: name: Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU)
Year: 2025
Subjects: subject: Machine Learning, Industry 4.0, Time Series, Anomaly Detection, Deep Learning

description: The fourth industrial revolution, known as Industry 4.0, signifies a pivotal era in human history characterized by the fusion of digital, cyber-physical, and biological technologies. This transformative phase, fueled by breakthroughs in artificial intelligence (AI), robotics, and the Internet of Things (IoT), displays new levels of efficiency and innovation across various industrial domains. In the industrial domain, AI-based algorithms and Big Data enabled the rapid development of novel applications and use cases. This thesis explores practical applications of Machine Learning (ML) within the context of Industry 4.0. Through the lens of real-world industrial use cases, the effi- cacy of ML technologies, particularly Deep Learning (DL) models, is demonstrated in tasks ranging from Time Series Regression (TSR) to Outlier Detection (OD). Furthermore, novel methodologies are introduced to improve the applicability of ML algorithms, addressing hurdles such as computational resource constraints, missing labeled data, and preventing misclassifications. The first part of this thesis investigates the TSR domain. In a real-world case study, various neural network models are applied to reconstruct forces at the wheels of tractor units. Here, the results show that DL approaches outperform classical ML regression methods. One of the challenges faced during this case study, was to decide which model architectures to employ for the task of reconstructing forces. Therefore, I contribute to the field by presenting research on selecting suitable modelsfromadata-centricperspective. Commonneuralnetworkarchitectureswere benchmarked on synthetic datasets with controlled characteristics. The generated insights allow recommendations on which architectures are suitable given said characteristics. The work in the second part addresses the OD domain. The presented case study displays how a State-of-the-Art (SOTA) approach detects faulty products in a test sta- tion and improves the detection rate of abnormal samples. I further present adjust- ments to create a three-class OD task, which prevents costly misclassifications. Since sufficient amounts of labeled data are often missing, this part contains research exploring the field of Unsupervised Outlier Detection Model Selection (UOMS) by improving the applicability of the algorithm. One of very few stand-alone UOMS methods. By delving into the space between theoretical advancements and practical imple- mentations, this thesis offers valuable insights that can promote the utility of intelligent, data-driven operations within the Industry 4.0 landscape. Through a comprehensive analysis of ML applications in industrial settings, this work aims to bridge the gap between theoretical research and real-world applications, fostering the progression of industrial practices in alignment with the demands of the digital age.
description: Die vierte industrielle Revolution, bekannt als Industrie 4.0, markiert eine entschei- dende Ära in der Menschheitsgeschichte, die durch die Verschmelzung von dig- italen, analogen und biologischen Technologien charakterisiert ist. Diese Trans- formation, die durch Durchbrüche in der künstlichen Intelligenz (KI), Robotik und dem Internet der Dinge (IoT) angetrieben wird, zeigt neue Ebenen der Effizienz und Innovation in verschiedenen Bereichen der Industrie. Im industriellen Umfeld haben KI-basierte Algorithmen und Big Data die schnelle Entwicklung von neuar- tigen Anwendungen und Fallstudien ermöglicht. Diese Arbeit untersucht praktische Anwendungen des maschinellen Lernens (ML) im Kontext von Industrie 4.0. Anhand von realen Anwendungsfällen aus der Indus- trie wird die Effizienz von ML-Technologien, insbesondere von Deep Learning (DL) Modellen demonstriert. Dabei werden Anwendungen in den Bereichen der Zeitrei- henregression bis zur Anomalieerkennung behandelt. Darüber hinaus werden neue Methoden vorgestellt, um die Anwendbarkeit von ML-Algorithmen zu verbessern, wobei Hürden wie die Beschränkung von Rechenressourcen, fehlende beschriebene Daten und die Vermeidung von Fehlklassifikationen berücksichtigt werden. Im ersten Teil dieser Arbeit wird die Zeitreihenregressions-Domäne untersucht. In einem realen Anwendungsfall, werden verschiedene neuronale Netzmodelle zur Rekonstruktion der Kräfte an den Rädern von Zugmaschinen genutzt. Hier zeigen die Ergebnisse, dass DL-Ansätze die klassischen ML-Methoden übertreffen. Darüber hinaus präsentiere ich einen Beitrag zur Forschung über die Auswahl geeigneter Modelle aus einer datenzentrierten Perspektive. Gängige neuronale Netzwerk Architekturen wurden auf synthetischen Datensätzen mit kontrollierten Eigenschaften getestet. Die gewonnenen Erkenntnisse ermöglichen eine fundierte Einschätzung, welche Architekturen mit den besagten Eigenschaften am besten umgehen können. Die Arbeit im zweiten Teil befasst sich mit dem Anomalieerkennungs-Bereich. Der vorgestellte Anwendungsfall zeigt, wie ein State-of-the-Art (SOTA)-Ansatz fehler- hafte Produkte in einer Testumgebung erkennt und die und die Erkennungsrate von anormalen Proben verbessert. Ich präsentiere außerdem Anpassungen, um eine Drei-Klassen-Aufgabe zu erstellen, die kostspielige Fehlklassifizierungen ver- hindert. Darüber hinaus enthält dieser Teil Forschungsarbeiten auf dem Gebiet der unüberwachten Outlier Detection Model Selection (UOMS) durch Verbesserung der Anwendbarkeit des Algorithmus. Eine der wenigen eigenständigen UOMS- Methoden. Indem sie den Raum zwischen theoretischen Fortschritten und praktischen Umset- zungen ausleuchtet, bietet diese Arbeit wertvolle Erkenntnisse, die den Nutzen von intelligenten datengesteuerte Abläufen in der Industrie 4.0-Landschaft fördern kön- nen. Durch eine umfassende Analyse von ML-Anwendungen in der Industrie soll diese Arbeit die Lücke zwischen theoretischer Forschung und realen Anwendungen weiter schließen und die Weiterentwicklung industrieller Praktiken in Einklang mit den Anforderungen des digitalen Zeitalters bringen.