Software policies and techniques for improving the energy and cost efficiency of cloud and high-performance computing infrastructures
Authors: Καλογήρου Χρήστος 
Published: May 2024

Η κατανάλωση ενέργειας αποτελεί ένα σημαντικό πρόβλημα στον τομέα της υπολογιστικής νέφους και υπολογιστικής υψηλών επιδόσεων λόγω οικονομικών και περιβαλλοντικών αιτιών. Για να εξυπηρετήσουν τις απαιτήσεις των υπολογιστικών εργασιών, τα κέντρα δεδομένων είναι εξοπλισμένα με πολυπύρηνους επεξεργαστές και μεγάλης χωρητικότητας μνήμης τυχαίας προσπέλασης, που αυξάνουν σημαντικά το ενεργειακό αποτύπωμα των υπολογιστικών κόμβων. Επομένως, η ελαχιστοποίηση της κατανάλωσης ενέργειας είναι ένα δύσκολο εγχείρημα, καθώς οι πάροχοι υπολογιστικών υποδομών χρειάζονται την ίδια στιγμή να παρέχουν την απαιτούμενη ποιότητα για τις τρέχουσες υπηρεσίες και εφαρμογές. Οι πάροχοι υποδομών υπολογιστικής νέφους είναι δεσμευμένοι με συμφωνητικά επιπέδου υπηρεσιών με τους χρήστες τους και η παραβίαση αυτών των συμφωνητικών μεταφράζεται σε κυρώσεις για τον πάροχο που αυξάνουν το λειτουργικό κόστος. Υπάρχουν διάφοροι μηχανισμοί/τεχνικές που μπορούν να μειώσουν την κατανάλωση ενέργειας των κέντρων δεδομένων, ικανοποιώντας ταυτόχρονα την απαιτούμενη ποιότητα υπηρεσιών. Η ανακατανομή των εικονικών μηχανών στοχεύει στην τοποθέτηση όσο το δυνατόν περισσότερων εικονικών μηχανών στους κόμβους, ιδανικά χωρίς απώλεια επίδοσης, ώστε να μειωθεί ο αριθμός των ενεργών υπολογιστικών κόμβων. Επίσης, η ετερογένεια μπορεί να βελτιώσει την ενεργειακή αποδοτικότητα των υπολογιστικών κόμβων καθώς οι επιταχυντές όπως οι κάρτες γραφικών υπερέχουν σε απόδοση ανά Watt σε σχέση με τους συμβατικούς επεξεργαστές. Αν η ετερογένεια συνδυαστεί με την προσεγγιστική υπολογιστική, τα ενεργειακά κέρδη μπορεί να είναι ευρύτερα, καθώς η χαλάρωση της ποιότητας κάποιων υπολογισμών μπορεί να ευνοήσει την ενεργειακή αποδοτικότητα, ειδικά σε ορισμένες υπολογιστικές αρχιτεκτονικές. Από την πλευρά του υλικού, οι κατασκευαστές έχουν εισάγει τη δυναμική κλιμάκωση τάσης και συχνότητας του επεξεργαστή, επιτρέποντάς τον να λειτουργεί σε πιο ενεργειακά αποδοτικά επίπεδα, όταν τα χαρακτηριστικά του υπολογιστικού φορτίου προσφέρουν αυτό το παράθυρο ευκαιρίας, χωρίς να μειώνεται η απόδοση. Ταυτόχρονα όμως, οι κατασκευαστές επεξεργαστών και μνημών τυχαίας προσπέλασης εισάγουν περιθώρια ασφαλείας στις παραμέτρους λειτουργίας των επεξεργαστών (τάση για κάθε επίπεδο συχνότητας) και των μνημών (τάση και ρυθμός ανανέωσης) για να εγγυηθούν τη σωστή λειτουργία σε δυσμενείς συνθήκες. Αυτά τα όρια ασφαλείας είναι αρκετά απαισιόδοξα για τη λειτουργία σε κοινές, ρεαλιστικές συνθήκες, και αυξάνουν αχρείαστα την κατανάλωση ενέργειας. Σε αυτή τη διατριβή, επικεντρωνόμαστε στη βελτιστοποίηση της ενεργειακής αποδοτικότητας για τους παρόχους υποδομών υπολογιστικής νέφους, χαλαρώνοντας τα περιθώρια ασφαλείας στη λειτουργία του επεξεργαστή και της μνήμης. Μοντελοποιούμε το πρόβλημα για να αξιολογήσουμε τη σχέση μείωσης του ενεργειακού κόστους και του ρίσκου πιθανών παραβιάσεων των συμφωνητικών επιπέδου υπηρεσιών, λαμβάνοντας υπόψιν τις υπολογιστικές απαιτήσεις των εικονικών μηχανών και το γεγονός ότι αυτές αλλάζουν με την πάροδο του χρόνου. Επιπλέον, εισάγουμε πολιτικές δρομολόγησης που χρησιμοποιούν αυτά τα μοντέλα και αξιοποιούν την τεχνική των μειωμένων περιθωρίων ασφαλείας των παραμέτρων λειτουργίας του επεξεργαστή και της μνήμης ώστε να μειώσουμε το ενεργειακό κόστος για τα κέντρα υπολογιστικής νέφους. Τέλος, συνδυάζουμε την ετερογένεια με την προσεγγιστική υπολογιστική για εφαρμογές υψηλών επιδόσεων και αξιολογούμε την επιλογή μεταξύ της διαχείρισης της ποιότητας του τελικού αποτελέσματος και της μείωσης του ενεργειακού αποτυπώματος αυτών των εφαρμογών. Πιο συγκεκριμένα: Μοντελοποιούμε το κόστος για τους παρόχους υποδομών υπολογιστικής νέφους μελετώντας την επίδραση συμβατικών τεχνικών όπως της δυναμικής κλιμάκωσης της συχνότητας και της τάσης του επεξεργαστή καθώς και πιο επιθετικών προσεγγίσεων όπως της μείωσης της τάσης και του υπερχρονισμού. Παρουσιάζουμε μοντέλα που εκτιμούν την πιθανότητα αστοχίας (crash) των υπολογιστικών συστημάτων για τις παραπάνω τεχνικές. Τα μοντέλα μας λαμβάνουν υπόψιν την εκτιμώμενη κατανάλωση ενέργειας των εργασιών, όπως και τις ενδεχόμενες κυρώσεις λόγω της παραβίασης των συμφωνητικών επιπέδου υπηρεσιών. Η μελέτη μας δείχνει μείωση του κόστους λειτουργίας ως και 13.31% στην περίπτωση της μείωσης της τάσης σε σχέση με την κανονική λειτουργία του επεξεργαστή. Σαν επόμενο βήμα, χρησιμοποιούμε ένα περιβάλλον προσομοίωσης για να μελετήσουμε σε κλίμακα την αξιοποίηση των μειωμένων ορίων ασφαλείας για τον επεξεργαστή για παρόχους υποδομών υπολογιστικής νέφους. Εισάγουμε μια πολιτική δρομολόγησης εικονικών μηχανών και διαχείρισης των υπολογιστικών κόμβων που εκμεταλλεύεται τα μειωμένα όρια ασφαλείας λειτουργίας του επεξεργαστή, σε συνδυασμό με τις συμβατικές τεχνικές της δυναμικής κλιμάκωσης της τάσης και της συχνότητας του επεξεργαστή και της ανακατανομής των εικονικών μηχανών. Η πολιτική βασίζεται σε αναλυτικά μοντέλα που εφαρμόζονται ανεξαρτήτως της αρχιτεκτονικής και λαμβάνουν υπόψιν το αντιστάθμισμα του ενεργειακού κόστους και του πιθανού κόστους της παραβίασης των συμφωνητικών επιπέδου υπηρεσιών. Αξιολογούμε την προσέγγισή μας και τη συγκρίνουμε με μια υπερσύγχρονη πολιτική δρομολόγησης και διαχείρισης εικονικών μηχανών. Χρησιμοποιούμε χαρακτηριστικά για τους υπολογιστικούς κόμβους που προέρχονται από τη μελέτη εμπορικών διαθέσιμων διακομιστών. Επιπλέον, για τα πειράματά μας χρησιμοποιούμε πραγματικές τιμές για την τιμή της ενέργειας και την τιμή χρέωσης των εικονικών μηχανών. Παραθέτουμε αποτελέσματα με σταθερή και δυναμικά μεταβαλλόμενη τιμή ενέργειας. Τα αποτελέσματά μας δείχνουν κέρδη ως και 17.24% και 17.72% για το συνολικό κόστος και την ενέργεια αντίστοιχα, σε σύγκριση με ανταγωνιστική πολιτική αιχμής που συνδυάζει τη δυναμική κλιμάκωση της τάσης και της συχνότητας του επεξεργαστή με την ανακατανομή των εικονικών μηχανών. Επιπλέον αξιολογούμε την επιλογή μεταξύ της ενεργειακής αποδοτικότητας και της ενδεχόμενης υπερφόρτωσης των υπολογιστικών κόμβων, στα πλαίσια της διαχείρισης της ανακατανομής εικονικών μηχανών με κοστο-κεντρικό τρόπο. Πιο συγκεκριμένα, εισάγουμε ένα μοντέλο που χρησιμοποιεί πληροφορία που συλλέγεται κατά τη διάρκεια εκτέλεσης για να διαχειριστεί το φόρτο εργασίας των υπολογιστικών κόμβων, αναγνωρίζοντας τη συσχετιζόμενη συμπεριφορά για έργα που εκτελούνται στον ίδιο υπολογιστικό κόμβο. Καθώς οι απαιτήσεις των εικονικών μηχανών δεν είναι εκ των προτέρων γνωστές, είναι σημαντικό να λαμβάνουμε υπόψιν την πρόσφατη συμπεριφορά τους ώστε να συγκλίνουμε στον επιθυμητό φόρτο για τον κάθε κόμβο. Συνδυάζουμε την προσέγγιση της μείωσης των περιθωρίων ασφαλείας για την τάση του επεξεργαστή με τη δυναμική κλιμάκωση της τάσης και της συχνότητας. Δείχνουμε πως η πολιτική μας επιτυγχάνει αποτελέσματα ταυτόσημα ή και καλύτερα σε σχέση με 2 πολιτικές αιχμής που συνδυάζουν την ανακατανομή των εικονικών μηχανών με τη δυναμική κλιμάκωση της συχνότητας και της τάσης - με τη δεύτερη ανταγωνιστική πολιτική να αξιοποιεί και αυτή την τεχνική μείωσης των περιθωρίων ασφαλείας για την τάση του επεξεργαστή. Μια σημαντική διαφορά με τις προηγούμενες πολιτικές είναι ότι η μέθοδός μας δεν απαιτεί την εκ των προτέρων -- μη ρεαλιστική -- ανάλυση των χαρακτηριστικών του φόρτου των εργασιών. Επίσης μελετούμε την αξιοποίηση των μειωμένων περιθωρίων ασφαλείας, αυτή τη φορά στις παραμέτρους λειτουργίας της μνήμης, και συγκεκριμένα στην τάση και το ρυθμό ανανέωσης. Σε αντίθεση με τους επεξεργαστές, όπου ένα λάθος κυρίως μεταφράζεται σε απότομη διακοπή λειτουργίας του συστήματος (crash), για τις μνήμες μελετούμε το φαινόμενο πιθανών ποινών λόγω των αυτοδιορθούμενων μονού- και ανιχνεύσιμων διπλού-bit σφαλμάτων. Όπως και κατά τη μελέτη για τους επεξεργαστές, εισάγουμε ένα αναλυτικό μοντέλο που εφαρμόζεται ανεξαρτήτως της αρχιτεκτονικής και μια καινοτόμα πολιτική διαχείρισης του φόρτου εργασίας και της διαμόρφωσης των παραμέτρων του συστήματος. Το μοντέλο μας λαμβάνει υπόψιν του τη διαχείριση των εικονικών μηχανών και τη ρύθμιση της μνήμης. Η πολιτική που εισάγουμε, αξιοποιεί το μοντέλο ώστε να εκμεταλλευτεί τις δυνατότητες μείωσης των ορίων ασφαλείας στις παραμέτρους λειτουργίας των μνημών, σε συνδυασμό με την ανακατανομή των εικονικών μηχανών. Δεδομένου ότι τα μελλοντικά υπολογιστικά συστήματα αναμένεται να ενσωματώνουν μεγάλη χωρητικότητα μνήμης DRAM, μελετούμε το πρόβλημα για διάφορα μεγέθη μνήμης. Και σε αυτή την περίπτωση, αξιολογούμε την προσέγγισή μας σε μεγάλη κλίμακα σε περιβάλλον προσομοίωσης, χρησιμοποιώντας πραγματικά χαρακτηριστικά των κόμβων και πραγματικές τιμές για την τιμή της ενέργειας και το κόστος των εικονικών μηχανών. Τα αποτελέσματά μας δείχνουν πως κέρδος της τάξης του 29.53% και 34.84% σε κόστος και ενέργεια αντίστοιχα μπορεί να επιτευχθεί, σε σύγκριση με ανταγωνιστική πολιτική αιχμής που εκμεταλλεύεται την ανακατανομή των εικονικών μηχανών. Τα κέρδη ενισχύονται καθώς κινούμαστε προς κόμβους με μεγαλύτερη ποσότητα μνήμης. Τέλος, μελετούμε την επιρροή της ετερογένειας και της προσεγγιστικής υπολογιστικής στο ενεργειακό αποτύπωμα εφαρμογών υπολογιστικής υψηλών επιδόσεων. Η ποιότητα του αποτελέσματος δεν επηρεάζεται με τον ίδιο τρόπο από όλους τους υπολογισμούς του προγράμματος, επομένως μπορούμε να εκτελέσουμε επιλεγμένους υπολογισμούς προσεγγιστικά για να βελτιώσουμε την ενεργειακή αποδοτικότητα. χωρίς να πλήττεται σε μεγάλο βαθμό η ποιότητα του αποτελέσματος. Σε αυτή τη μελέτη, χρησιμοποιούμε 4 εφαρμογές από διαφορετικούς τομείς, που κυμαίνονται από μεγάλες εφαρμογές μέχρι υπολογιστικούς πυρήνες. Τροποποιούμε αυτές τις εφαρμογές για να εκμεταλλευτούμε τόσο την ετερογένεια όσο και την προσεγγιστική υπολογιστική. Αξιολογούμε την προσέγγισή μας σε ετερογενή συστήματα (εξοπλισμένα με επεξεργαστές και κάρτες γραφικών) και αποτιμούμε τα οφέλη της ετερογένειας και της προσεγγιστικής υπολογιστικής, λαμβάνοντας υπόψιν την επιλογή μεταξύ της κατανάλωσης ενέργειας και της ποιότητας του αποτελέσματος. Τα αποτελέσματά μας δείχνουν πως η ετερογένεια και η προσεγγιστική υπολογιστική μπορούν να προσφέρουν συνδυασμένα ενεργειακά κέρδη.