Σχεδιασμός Πειραμάτων και Εξωτερικά Μεταπρότυπα για την Υποβοήθηση της Διαδικασίας Βελτιστοποίησης με Εξελικτικούς Αλγορίθμους

Abstract

Η παρούσα διπλωματική εργασία ασχολείται με το συνδυασμό τεχνικών σχεδιασμού πειραμάτων, προτύπων παλινδρόμησης και εξελικτικών αλγορίθμων (ΕΑ), στο πλαίσιο μεθόδων βελτιστοποίησης. Η αποτελεσματικότητα των μεθόδων διερευνάται σε διάφορα μαθηματικά και ρευστοδυναμικά προβλήματα.

Η βελτιστοποίηση με Εξελικτικούς Αλγορίθμους (ΕΑ) έχει αναπτυχθεί επαρκώς τα τελευταία χρόνια στη Μονάδα Παράλληλης Υπολογιστικής Ρευστοδυναμικής & Βελτιστοποίησης (ΜΠΥΡ&Β) του Εργαστηρίου Θερμικών Στροβιλομηχανών (ΕΘΣ) του ΕΜΠ. Πλέον αποτελεί μια παγιωμένη και αξιόπιστη μέθοδο που μπορεί να εφαρμοστεί σε προβλήματα οποιασδήποτε φύσης. Το λογισμικό EASY, που αναπτύχθηκε στο ΜΠΥΡ&Β, συνδυαζόμενο με το κατάλληλο λογισμικό αξιολόγησης κάθε φορά, μπορεί να παρέχει τις έλτιστες λύσεις του προβλήματος, που μελετάται. Παρ' όλα αυτά, οι ΕΑ απαιτούν μεγάλο αριθμό αξιολογήσεων για την εύρεση των βέλτιστων λύσεων, γεγονός που μπορεί να οδηγήσει σε μεγάλο υπολογιστικό κόστος, αναλόγως με το κόστος κάθε αξιολόγησης. Το πρόβλημα αυτό έχει ξεπεραστεί με τη χρήση μεταπροτύπων (Metamodel Assisted Evolutionary Algorithms, MAEAs), τα οποία προσεγγίζουν τις τιμές της αντικειμενικής συνάρτησης που παρέχει το πραγματικό λογισμικό αξιολόγησης. Μέχρι τώρα, στον EASY είχαν χρησιμοποιηθεί μεταπρότυπα συνδεδεμένα με την εξέλιξη του ΕΑ, συνήθως, τεχνητά νευρωνικά δίκτυα. Αυτά εκπαιδεύονται με τα δεδομένα από πραγματικές αξιολογήσεις που πραγματοποιήθηκαν και, στη συνέχεια, προσεγγίζουν τα πραγματικά αποτελέσματα, με σκοπό να μην γίνουν οι αντίστοιχες πραγματικές αξιολογήσεις. ΄Ετσι μειώνεται το υπολογιστικό κόστος καθώς τα μεταπρότυπα εκτελούνται σε μηδαμινό χρόνο σε σχέση με το πραγματικό λογισμικό αξιολόγησης.

Στην παρούσα διπλωματική εργασία, μελετώνται τα μεταπρότυπα, που είναι αποσυνδεδεμένα από την εξέλιξη του ΕΑ. ΄Εμφαση δόθηκε στα πρότυπα παλινδρόμησης, τα οποία προσεγγίζουν τα πραγματικά αποτελέσματα με πολυωνυμικές συναρτήσεις.

Η μέθοδος εκπαίδευσης των προτύπων παλινδρόμησης είναι αυτή των ελαχίστων τετραγώνων. Για την εύρεση των αρχικών δεδομένων για την εκπαίδευση των μεταπροτύπων, χρησιμοποιείται ο σχεδιασμός πειραμάτων. Ο σχεδιασμός αυτός επιλέγει τα διανύσματα τιμών των μεταβλητών που θα χρησιμοποιηθούν για τις απαιτούμενες αξιολογήσεις. Τα είδη, που αναλύονται εκτενώς, είναι ο πλήρης και ο κλασματικός παραγοντικός, ο τυχαιοποιημένος και ο κεντρικής σύνθεσης σχεδιασμός. Κάθε είδος παρέχει συγκεκριμένα πλεονεκτήματα και χρησιμοποιείται σε κατάλληλες περιστάσεις. Οι μέθοδοι αυτοί καταλήγουν σε έναν ΕΑ ο οποίος πραγματοποιεί βελτιστοποίηση χρησιμοποιώντας ως λογισμικό αξιολόγησης τα εκπαιδευμένα μεταπρότυπα. Περιοδικά, ελέγχεται η προσέγγιση των μεταπροτύπων με το ακριβές λογισμικό αξιολόγησης, εμπλουτίζοντας τη σχετική βάση δεδομένων και εκπαιδεύοντας ξανά τα μεταπρότυπα με περισσότερα δεδομένα.

Η διαδικασία αυτή χρησιμοποιείται για την επίλυση διαφόρων προβλημάτων βελτιστοποίησης. Το υπολογιστικό κόστος και τα αποτελέσματα, που παρέχονται, συγκρίνονται με τη διαδικασία βελτιστοποίησης με απλό ΕΑ ή με ΜΑΕΑ συνδεδεμένο με την εξέλιξη, ώστε να παρατηρηθούν τα πλεονεκτήματα και μειονεκτήματα της διαδικασίας αυτης.

The aim of this diploma thesis is to present optimization methods based on the combined use of design of experiments, regression models and evolutionary algorithms (EAs) for the solution of optimization problems. The effectiveness and efficiency of the methods is investigated with the application in several mathematical and fluid dynamics problems. EA-based optimization has been adequately developed over the last years at the Parallel CFD & Optimization Unit (PCOpt) of the Laboratory of Thermal Turbomachines (LTT) NTUA. Nowadays, it is a reliable method, which can be implemented in almost any problem. Program EASY, which was developed by PCOpt, can compute the optimal solutions,provided that the corresponding evaluation tool is available. On the other hand, it is well known that EAs demand many evaluations, so as to find the optimal solutions. Depending on the CPU cost of evaluation tool, this might lead to prohibitively high optimization turnaround time. The use of Metamodel Assisted Evolutionary Algorithms (MAEAs) is a way to overcome this problem. The metamodels approximate the objective function values, the evalution tool will produce. Til now, in EASY, artificial neural networks have been used as metamodels and these are trained online, which means that they were connected with the EA. The training is based on data from real evaluations. After the training, metamodels are used to approximate the real evaluations, instead of using the evaluation tool. This reduces the computational cost, because the evaluations with metamodels are done very quickly. In this diploma thesis, the use of offline metamodels within an EA is investigated. Emphasis was laid on the regression models, which approximate the objective function using polynomial functions. For the process of training, the least squares method is used. Design of experiments is used for selecting the training data to train the metamodels, after being trained on the problem-specific evaluation tool. The types analyzed in this diploma thesis are the full and partial/fractional factorial design, the randomized and central composite designs. Each design has each own advantages and is used in certain occasions. The EA uses the so-trained regression models as the only evaluation model and, occasionally, compares the outcome of the surrogate model with the exact one,so as to decide whether the database is to be enriched and the EA be repeated using an updated surrogate model. In this diploma thesis, the above procedure is used to solve several optimization problems. The results and the computational cost are compared to this of EAs or MAEAs with online trained metamodels. By doing so, the advantages and disadvantages of the procedure are shown.