title: Dynamic Dependency-based Scheduling in Osmotic Computing
Creators: name: Sochovsky, Josef Nikolaus
Publisher: name: TU Wien
Year: 2021
Subjects: subject: Osmotic computing
subject: dynamic scheduling
subject: edge computing
subject: latency reduction
subject: tracing

description: Henry Ford optimierte 1903 seine Produktionsstätten maßgeblich, indem er Transportwege zwischen den Prozessschritten minimierte.In modernen Cloudumgebungen und Rechenzentren sind diese Transportwege zwischen den einzelnen Komponenten weitestgehend optimal und die Latenz nur abhängig von der jeweiligen Anfrage.Edgecomputing und das Internet of Things bieten Kapazitäten am Rande des Netzwerks an. Diese sind typischerweise näher bei den Usern und bieten Funktionen an, welche in Cloudumgebungen nicht existieren (Mobiltelefone, Smartwatches, Sensorgeräte etc.).Henry Ford optimierte 1903 seine Produktionsstätten maßgeblich, indem er Transportwege zwischen den Prozessschritten minimierte.In modernen Cloudumgebungen und Rechenzentren sind diese Transportwege zwischen den einzelnen Komponenten weitestgehend optimal und die Latenz nur abhängig von der jeweiligen Anfrage.Edgecomputing und das Internet of Things bieten Kapazitäten am Rande des Netzwerks an. Diese sind typischerweise näher bei den Usern und bieten Funktionen an, welche in Cloudumgebungen nicht existieren (Mobiltelefone, Smartwatches, Sensorgeräte etc.).Osmotic Computing verbindet Vorteile aus beiden Welten, um vorhandene Ressourcen sowohl in der Cloud als auch am Rande des Netzwerks optimal miteinander zu verbinden.Orchestrierungsplattformen verwalten diese heterogenen Ressourcen, um verteilte Applikationen darin zu installieren.In einer solchen heterogenen Umgebung lassen sich nicht alle Netzwerkanbindungen kontrollieren. Dies führt dazu, dass einzelne Komponenten unterschiedliche Transportzeiten messen.Ford's Erkenntnis kann hier angewandt werden, um hohe Transportzeiten zwischen Komponenten zu reduzieren. Applikationen können strategisch auf Rechenknoten installiert, welche beim Bearbeiten der jeweiligen Applikationsaufgaben weniger zusätzlicher Latenz ausgesetzt sind, wenn sie mit anderen Ressourcen kommunizieren.Diese Arbeit entwirft und implementiert eine Zuweisungsstrategie, welche geeignet ist, Applikationen in einer Orchestrierungsplattform, innerhalb einer Osmotic-Computing-Umgebung dynamisch zu installieren. Die Strategie verringert die Latenz (die Zeit, um eine Antwort auf eine spezifische Anfrage zu erhalten) zwischen verteilten Applikationen dynamisch, indem Zuweisungen mit erwartbaren höheren Latenzen durch geringere ersetzt werden. Aufgrund dessen, dass Edgegeräte und Netzwerke normalerweise eine geringere Zuverlässigkeit und Stabilität aufweisen, werden kontinuierlich die bestehenden Zuweisungen, basierend auf neuen Abhängigkeitsinformationen und erwartbaren Latenzen, reevaluiert und bei Bedarf verändert.Wir vergleichen unsere Strategie mit verwandten wissenschaftlichen Arbeiten und bestehenden Lösungen im Bereich von IoT, Cloud- und Edgecomputing. Im Rahmen der Design-Science-Methodik werden Experimente in unterschiedliche Applikationsarchitekturen durchgeführt um die vorgestellte Strategie zu evaluieren.Wir zeigen auf, dass unsere Strategie im Stande ist, Latenz innerhalb und außerhalb einer Orchestrierungsplattform zu verringern. Die Experimente werden in einer Osmotic-Computing-Umgebung durchgeführt, um unsere Strategie in Bezug auf ihre Effektivität zu prüfen.
description: In 1903, Henry Ford figured out that by putting all steps to produce a car in a line and reducing the time between workstations to a minimum by delivering it automatically to the construction engineers, a crucial reduction in the production time of his cars could be achieved. In cloud computing and data centers, distance and travel time between physical machines are professionally optimized, while in the newly emerging osmotic computing paradigm, resources are spread among cloud, edge, and even the Internet of Things. This paradigm strives to benefit from resources wherever they can be found and tries to combine benefits from cloud and edge into a seamless environment. To facilitate all of the vast spread resources jointly, orchestration platforms help to manage applications among these various resource hosts. As we now are back in an environment where it matters if we put a workstation closer to or further away from another one, Ford's solution to reducing the unwanted waiting time is of use. This thesis designs and implements a scheduling strategy suited to deploy applications to an orchestration platform in an osmotic environment. The strategy's goal is to reduce latency, i.e. the time required to get an answer from an application, in an environment where nodes are distributed among distant networks that are limited in their computational capacity.As usually expected in edge and IoT environments, the reliability and stability of the nodes and their networks closer to the application's user can change drastically. Hence, dependencies between nodes and their hosted applications need to be surveyed constantly.Due to the expected constant changes, our strategy dynamically treats this scheduling problem, reevaluating earlier decisions and redeploying applications on demand.We compare our approach with in-place solutions used in production-grade environments and strategies designed in the related literature of IoT, osmotic , cloud and edge computing. Furthermore, we experiment with different application environments and evaluate our latency-reducing strategy using the design science methodology.It will be shown that our approach is, in fact, able to reduce latency within and also outside the orchestration platform. Most notably, the design is critically assessed to prove its readiness in an osmotic environment.