Online parameter adaptation methods for population-based metaheurisistics

Τα προβλήµατα βελτιστοποίησης βρίσκονται στον πυρήνα της επιστηµονικής και τεχνολογικής έρευνας. Εµφανίζονται σχεδόν σε κάθε διαδικασία λήψης αποφάσεων, υπό διάφορους τύπους καιµορφές. Για την επίλυση προβληµάτων βελτιστοποίησης έχουν προταθεί πολλοί αλγόριθµοι στησχετική βιβλιογραφία. Ωστόσο, θεωρητικές µελέτες έδειξαν ότι είναι αδύνατη η ανάπτυξη ενός καθολικά βέλτιστου αλγορίθµου. Για το λόγο αυτό, η έρευνα επικεντρώνεται στην ανάπτυξη αλγορίθµων βελτιστοποίησης για συγκεκριµένα προβλήµατα, οι οποίοι ενσωµατώνουν ποικίλα χαρακτηριστικά και ad hoc λειτουργίες που εκµεταλλεύονται συγκεκριµένες ιδιότητες του αντίστοιχου προβλήµατος βελτιστοποίησης. Τυπικά, οι αλγόριθµοι βελτιστοποίησης έχουν παραµέτρους ελέγχου που προσαρµόζουν τη δυναµική τους µε κρίσιµο αντίκτυπο στην απόδοσή τους. Έτσι, η σωστή προσαρµογή παραµέτρων αποτελεί ακρογωνιαίο λίθο για την αποτελεσµατική επίλυση προβληµάτων. Για το λόγο αυτό, υπάρχει συνεχές και αυξανόµενο ερευνητικό ενδιαφέρον για τις µεθόδους προσαρµογής παραµέτρων. Η πλειονότητα αυτών των µεθόδων αντιµετωπίζει το πρόβληµα προσαρµογής παραµέτρων offline, δηλαδή πριν από την εκτέλεση του αλγορίθµου. Καθιερωµένες µέθοδοι αυτού του τύπου βασίζονται σε στατιστικές µεθοδολογίες και τα αποτελέσµατά τους δύνανται να επαναχρησιµοποιηθούν σε παρόµοια προβλήµατα. Ωστόσο, δεν λαµβάνουν υπόψη δεδοµένα που προκύπτουν κατά την εκτέλεση του αλγορίθµου, καθώς και πιθανές διακυµάνσεις στην απόδοσή του. Η εναλλακτική προσέγγιση είναι η χρήση online µεθόδων που προσαρµόζουν δυναµικά τις παραµέτρους κατά την εκτέλεση του αλγορίθµου. Αυτές οι µέθοδοι εκµεταλλεύονται δεδοµένα απόδοσης του αλγορίθµου που προκύπτουν σε πραγµατικό χρόνο και, ως εκ τούτου, µπορούν να ενηµερώνουν άµεσα τις παραµέτρους. Ωστόσο, τα αποτελέσµατα αυτών των µεθόδων συνήθως δεν είναι επαναχρησιµοποιήσιµα σε παρόµοια προβλήµατα. Ο κύριος στόχος της παρούσας διατριβής είναι η ανάπτυξη νέων online µεθόδων προσαρµογής παραµέτρων, µε ιδιαίτερη στόχευση στις µεταευρετικές µεθόδους βελτιστοποίησης. Το πρώτο µέρος της διατριβής περιλαµβάνει τις απαραίτητες βασικές πληροφορίες σχετικά µε το τρέχον state-of-the-art και τους αλγορίθµους βελτιστοποίησης που θα χρησιµοποιηθούν για την επίδειξη των νέων µεθόδων. Στο δεύτερο µέρος της διατριβής προτείνονται δύο νέες µέθοδοι προσαρµογής παραµέτρων. Η πρώτηµέθοδος, που ονοµάζεται Grid-based Parameter Adaptation Method, βασίζεται στην αναζήτησηπλέγµατος στο χώρο των παραµέτρων. Η προτεινόµενη µέθοδος µπορεί να χρησιµοποιηθεί σεοποιονδήποτε αλγόριθµο και αντιµετωπίζει τόσο τις πραγµατικές όσο και τις διακριτές παραµέτρους(συµπεριλαµβανοµένων των κατηγορικών παραµέτρων). Η νέα µέθοδος εφαρµόζεται σε δύοδηµοφιλείς µεταευρετικούς αλγορίθµους. Για το σκοπό αυτό, χρησιµοποιούνται δύο βασικές σουίτεςδοκιµαστικών προβληµάτων. Η δεύτερη προτεινόµενη µέθοδος, η οποία ονοµάζεται Gradient-basedParameter Adaptation Method with Line Search, αντικαθιστά την αναζήτηση πλέγµατος µεπροσεγγιστική αναζήτηση παραγώγων στο χώρο των παραµέτρων. Η διαδικασία αναζήτησης είναιεπιπλέον εφοδιασµένη µε µια πρόσφατη τεχνική ευθύγραµµης αναζήτησης χωρίς παραγώγους. Οιπαραπάνω τροποποιήσεις προσφέρουν πρόσθετη βελτίωση απόδοσης σε σχέση µε τη µέθοδοπλέγµατος, όπως αποκαλύπτεται από τη σχετική πειραµατική αξιολόγηση.