title: Design and evaluation of microservice placement strategies in cloud infrastructures
title: Σχεδίαση και αξιολόγηση στρατηγικών τοποθέτησης μικροϋπηρεσιών σε υποδομές νέφους
Creators: name: Τσακος Κωνσταντινος
Publisher: name: Technical University of Crete
Year: 2025

description: The design and evaluation of microservice placement strategies in cloud infrastructures is crucial for optimizing resource utilization, reducing operational costs, and ensuring high performance. This thesis explores the Service Placement problem on cloud environments, with a focus on improving resource allocation and minimizing egress traffic. Service Placement is modeled as a graph clustering problem, and various clustering algorithms are investigated—specifically Affinity Propagation, Maximum Standard Deviation Reduction (MSDR), and Markov Clustering—and are combined also with a placement strategy called Heuristic Packing to develop efficient service placement solutions.
The study is based on two benchmark microservice applications, iXen (IoT prototype) and Online Boutique (e-commerce platform), deployed on Kubernetes clusters in a Google Cloud environment. Through load stressing, criteria like the performance of different placement strategies in terms of node utilization, egress traffic reduction, execution time, and cost efficiency are evaluated. The results show that Affinity Propagation with Heuristic Packing and Maximum Standard Deviation Reduction with Heuristic Packing consistently outperform other strategies, offering low resource utilization, reduced egress traffic, and minimal costs in total.
The findings suggest that while Affinity Propagation provides fast execution, making it suitable for dynamic environments, MSDR offers superior long-term optimization at the expense of execution time. These strategies are recommended for applications with high inter-service communication and varying traffic loads. This work contributes to the field by providing insights into the application of clustering algorithms for microservice placement and suggests future directions for integrating machine learning and adaptive strategies to further optimize service deployment in cloud-based systems.
description: Ο σχεδιασμός και η αξιολόγηση στρατηγικών τοποθέτησης μικρο-υπηρεσιών(microservices) σε cloud υποδομές είναι κρίσιμα για τη βελτιστοποίηση της χρήσης των πόρων, τη μείωση των λειτουργικών εξόδων και τη διασφάλιση υψηλής απόδοσης. Αυτή η διατριβή εξετάζει το πρόβλημα της τοποθέτησης Υπηρεσιών σε Cloud περιβάλλοντα, με στόχο τη βελτίωση της κατανομής των πόρων και την ελαχιστοποίηση της εξαγόμενης κίνησης (egress traffic). Η τοποθέτηση Υπηρεσιών μοντελοποιείται ως ένα πρόβλημα ομαδοποίησης κόμβων ενός γράφου, και διερευνόνται διάφοροι αλγόριθμοι ομαδοποίησης—συγκεκριμένα οι Affinity Propagation, Maximum Standard Deviation Reduction (MSDR) και Markov Clustering—τόσο μεμονωμένα όσο και σε συνδυασμό  με μια στρατηγική τοποθέτησης ονόματι  Heuristic Packing ένα είδος Bin Packing αλγορίθμου, για την ανάπτυξη αποδοτικών λύσεων τοποθέτησης υπηρεσιών.
Η μελέτη βασίζεται σε δύο εφαρμογές αναφοράς βασισμένων σε  microservices, το iXen (πρωτότυπο IoT) και το Online Boutique (πλατφόρμα ηλεκτρονικού εμπορίου), οι οποίες έχουν αναπτυχθεί σε Kubernetes clusters στο  Google Cloud. Μέσω φόρτισης του συστήματος (load stressing), αξιολογούνται κριτήρια όπως η απόδοση των διαφορετικών στρατηγικών τοποθέτησης ως προς τη χρήση των κόμβων, τη μείωση της εξαγόμενης κίνησης, το χρόνο εκτέλεσής τους στην λήψη απόφασης και η οικονομική αποδοτικότητα. Τα αποτελέσματά δείχνουν ότι ο Affinity Propagation αλγόριθμος σε συνδυασμό με  Heuristic Packing και ο Maximum Standard Deviation Reduction σε συνδυασμό με Heuristic Packing ξεπερνούν σταθερά άλλες στρατηγικές, προσφέροντας χαμηλή χρήση πόρων, μειωμένη εξαγόμενη κίνηση και ελάχιστα κόστη συνολικά.
Τα ευρήματα υποδεικνύουν ότι, ενώ ο Affinity Propagation προσφέρει ταχεία εκτέλεση, καθιστώντας τον κατάλληλο για δυναμικά περιβάλλοντα, ο MSDR προσφέρει ανώτερη βελτιστοποίηση μακροπρόθεσμα εις βάρος του χρόνου εκτέλεσης. Αυτές οι στρατηγικές συνιστώνται για εφαρμογές με υψηλή επικοινωνία μεταξύ των υπηρεσιών και μεταβαλλόμενα φορτία κίνησης. Αυτή η εργασία συνεισφέρει στον τομέα προσφέροντας γνώση σχετικά με την εφαρμογή αλγορίθμων ομαδοποίησης για την τοποθέτηση microservices και προτείνει μελλοντικές κατευθύνσεις για την ενσωμάτωση τεχνητής νοημοσύνης και προσαρμοστικών στρατηγικών, με στόχο την περαιτέρω βελτιστοποίηση της τοποθέτησης υπηρεσιών σε cloud υποδομές.