Αλγόριθμοι στοχαστικής βελτιστοποίησης με υπερ-γραμμικούς συντελεστές.

Μάκρας, Νικόλαος; Makras, Nikolaos

dc.contributor.author	Μάκρας, Νικόλαος	el
dc.contributor.author	Makras, Nikolaos	en
dc.date.accessioned	2022-11-21T10:25:42Z
dc.date.available	2022-11-21T10:25:42Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/56198
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.23896
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Langevin Algorithms	en
dc.subject	Markov Chain Monte Carlo	en
dc.subject	Euler-Maruyama	en
dc.subject	Tamed Schemes	en
dc.subject	Super-linear drift	en
dc.subject	Προσεγγίσεις Euler	el
dc.subject	Αλγόριθμοι Langevin	el
dc.subject	Αριθμητικές μέθοδοι επίλυσης Σ.Δ.Ε.	el
dc.subject	Υπεργραμμικοί όροι τάσης	el
dc.subject	Βελτιστοποίηση	el
dc.title	Αλγόριθμοι στοχαστικής βελτιστοποίησης με υπερ-γραμμικούς συντελεστές.	el
heal.type	bachelorThesis
heal.secondaryTitle	Stochastic Optimization Algorithms with super-linear coefficients	en
heal.classification	Mathematics	en
heal.classification	Stochastic Analysis	en
heal.classification	Computational Statistics	en
heal.classification	Μαθηματικά	el
heal.classification	Στοχαστική Ανάλυση	el
heal.classification	Υπολογιστική Στατιστική	el
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2022-07-15
heal.abstract	This dissertation studies how mathematical optimization problems can be solved via Stochastic Differential Equations and most notably Langevin Dynamics. In the first chapter, we give a brief review of well-known algorithms, discussing the advantages that they offer and their limitations. Hence, making our motivations behind developing and studying the methods presented in the following chapters clear. It is the purpose of the second chapter to introduce the taming technique to the classical explicit Euler approximations for SDEs, allowing us to relax the conditions called upon their coefficients. Specifically, we show that by taming the super-linearly growing term of the drift on the Euler discretization, we obtain a new numerical explicit scheme which converges to the true solution of the SDE in L^p sense. To prove the latter its essential to bound the moments of the approximation. Last but not least, we present the Tamed Unadjusted Langevin Algorithm (TULA) which can be viewed as a Markov Chain Monte Carlo (MCMC) type of algorithm for sampling from a target distribution. Key to this method is to seek a SDE (overdamped Langevin equation) which produces a continuous time process with stationary distribution our desired target and then discretize the process by implementing the techniques mentioned in chapter 2. By doing so we are able to simulate paths for extended lengths of time whose behavior corresponds to the distribution of interest, a limitation of the previous framework which assumed a finite time. The algorithm's capabilities are illustrated through numerical examples.	en
heal.abstract	Κύριος σκοπός του παρόντος πονήματος είναι η μελέτη των Στοχαστικών Διαφορικών Εξισώσεων και ιδιαίτερα των εξισώσεων διάχυσης που προέρχονται απο δυναμικά συστήματα Langevin και το πως μπορούν να χρησιμοποιηθούν για την επίλυση προβλημάτων βελτιστοποίησης. Το πρώτο κεφάλαιο είναι εισαγωγικό και περιγράφεται το κίνητρο πίσω απο την χρήση των εν λόγω εξισώσεων, τίθεται το πλαίσιο εργασίας των επόμενων κεφαλαίων και δίνεται μια σύντομη χαρτογράφηση του επιστημονικού πεδίου, σχολιάζοντας συγκενικά αποτελέσματα και προβλήματα που παρουσιάζονται σε αυτά. Στο δεύτερο κεφάλαιο εισάγουμε την έννοια του taming στα κλασσικά αριθμητικά σχήματα Euler για ΣΔΕ, δίνοντας μας την δυνατότητα να χαλαρώσουμε τις συνθήκες που απαιτούμε να ικανοποιούνται απο τους συντελεστές τους. Πιο συγκεκριμένα όταν ο όρος τάσης που συναντάμε είναι υπεργραμμικός, εφαρμόζοντας τις μεθόδους του κεφαλαίου, κατασκευάζουμε ένα νέο σχήμα αριθμητικής επιλύσης ΣΔΕ που καταφέρνει να συγκλίνει ισχυρά στην λύση υπό την έννοια L^p χώρων. Οι Markov Chain Monte Carlo αλγόριθμοι που υλοποιούν τις παραπάνω τεχνικές ονομάζονται Tamed Unadjusted Langevin Algorithms (TULA) και αποτελούν τον πυρήνα του τελευταίου κεφαλαίου. Το κεντρικό ζήτημα είναι να δείξουμε πως προσομοιώνοντας στιγμιότυπα της λύσης μιας Langevin ΣΔΕ μέσω των εν λόγο αλγορίθμων, πράγματι αυτά προσεγγίζουν ικανοποιητικά την δειγματοληψία απο την κατανομή ενδιαφέροντος, που δεν είναι άλλη απο την αναλλοίωτη κατανομή της ΣΔΕ. Πέρα απο την θεωρητική θεμελίωση των παραπάνω, προχωράμε στην υλοποίηση των αλγορίθμων και παρέχουμε αριθμητικά παραδείγματα που καταδεικνύουν τα προτερήματα τους.	el
heal.advisorName	Σαμπάνης, Σωτήριος	el
heal.advisorName	Sabanis, Sotirios	en
heal.committeeMemberName	Βόντα, Φιλία	el
heal.committeeMemberName	Παπανικολάου, Βασίλης	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Εφαρμοσμένων Μαθηματικών και Φυσικών Επιστημών. Τομέας Μαθηματικών	el
heal.academicPublisherID	ntua
heal.numberOfPages	54 σ.	el
heal.fullTextAvailability	false