Εφαρμογές αναδρομικών νευρωνικών δικτύων στην επίλυση προβλημάτων συνδυαστικής βελτιστοποίησης:
Creators: name: Χότζογλου, Φιλάρετος Νικολάου
Publisher: name: Aristotle University of Thessaloniki
Year: 2012
Subjects: μηχανή μπολτζμαν
δίκτυο χοπφιλντ
προσομοιωμένη ανόπτηση
boltzmann machine
hopfield network
simulated annealing

description: Η εισαγωγή των νευρωνικών δικτύων στη Συνδυαστική Βελτιστοποίηση συμβάλλει στην υιοθέτηση τέτοιων μεθόδων που βασικά στοχεύουν στην υπολογιστική επίδοση και την αντιμετώπιση των προβλημάτων πολυπλοκότητας που παρουσιάζονται. Στην εργασία παρουσιάζονται οι αρχές της προσαρμογής ενός προβλήματος Συνδυαστικής Βελτιστοποίησης σε ένα κατάλληλα τροποποιημένο μοντέλο τεχνητών δικτύων και της εκπαίδευσης ενός νευρωνικού δικτύου προκειμένου να πάρουμε ποιοτικές λύσεις σε τέτοια προβλήματα .Αυτή η διαδικασία περιλαμβάνει τη ρύθμιση των παραμέτρων ,την έκφραση των περιορισμών ,την προσεκτική ρύθμιση των στοιχείων του δικτύου και σε αρκετές περιπτώσεις τον έλεγχο της λειτουργικότητας του δικτύου. Η φύση αυτών των προβλημάτων και η εμπειρία από τη χρήση αναλυτικών τεχνικών υποδεικνύει την κατάλληλη κλάση νευρωνικών δικτύων που πρέπει να χρησιμοποιηθούν απ’τη στιγμή που τα δίκτυα εμπρόσθιας τροφοδοσίας δεν διαθέτουν δυναμική συμπεριφορά. Τα αναδρομικά νευρωνικά δίκτυα επιτυγχάνουν αυτό το στόχο και μάλιστα επιδεικνύουν μεγαλύτερη αποδοτικότητα όταν ενσωματώνουν τη στοχαστικότητα. Η λειτουργία του δικτύου του Hopfield παρέχει μια θεμελιώδη υπολογιστική λειτουργία βελτιστοποίησης. Οι δυναμικές του δικτύου του Hopfield εξετάζονται και ειδικά οι ερμηνείες του στο πλαίσιο της Συνδυαστικής Βελτιστοποίησης για την επίλυση προβλημάτων. Το δίκτυο του Hopfield αποτελεί την υποδομή για την ανάπτυξη της μηχανής του Boltzmann. Μαζί με τις δυναμικές της μηχανής του Boltzmann εξετάζονται οι δυνατές επιταχύνσεις του βασικού αλγορίθμου εκπαίδευσης. Η χρήση της ιδέας της προσομοιωμένης ανόπτησης μπορεί να βοηθήσει σημαντικά να αντιμετωπιστούν ορισμένες πτυχές του προβλήματος της Βελτιστοποίησης αν και στην εφαρμογή εμφανίζονται ανεπάρκειες. Ασχολούμαστε επίσης με την προσέγγιση Mean Field. Μέσα από την αλγοριθμική υλοποίηση και την εκπαίδευση των δικτύων πάνω σε διαφορετικά σύνολα δεδομένων ,αποκτάμε πρόσβαση και εκτιμούμε τις ιδιότητες της σύγκλισης καθώς και την εξέλιξη της πολυπλοκότητας και την εφικτότητα επίλυσης προβλημάτων. Εξετάζονται οι περιπτώσεις συγκεκριμένων προβλημάτων(πρόβλημα ανάθεσης, πρόβλημα του πλανόδιου πωλητή) και γίνεται εκτίμηση των υπολογιστικών αποτελεσμάτων
description: Combinatorial Optimization provides a wide area of work and the introduction of neural networks enabled the adoption of such methods ,mainly focusing on computational performance and dealing with the appearing complexity issues.We present the principles of adapting a Combinatorial Optimization problem to a suitably modified model of artificial network and training a NN in order to gain qualitative solutions to such problems .This includes parameter configuration, constraint expression careful setting of the network’s elements and in some cases testing of the network’s functioning. The nature of these problems and the experience gained by using analytical techniquesreveals the appropriate classes of ANNs to be used, since feedforward neural networks luck dynamical behavior. Recurrent NNs achieve this goal and prove more efficient when incorporating stochasticity.Hopfield network’s functionfundamentally provides a computational process of Optimization. The dynamics of the Hopfield network are being examined and especially its “interpretations” in the context of Combinatorial Optimization problem solving .Hopfield network is the background for developing the stochastic Boltzmann machine. Together with Boltzmann Machine’s dynamics, possible accelerations of the algorithms are being investigated.The use of the idea of Simulated Annealing can significantly help in dealing with some of the Optimization issues while implementation still presents notable inefficiencies. A Mean Field approach is also being mentioned .Through recurrent network’s algorithmic implementation and training the networks over different datasets, we can assess and identify convergence properties as well as complexity evolution and feasibility from a problem-solving perspective. Specific problems (TSP,Credit Assignment,e.t.c) are being considered towards these notionsand computational results are being evaluated.