Αποδοτικοί αλγόριθμοι μάθησης δυνάμεων πουασσόν διωνυμικών κατανομών

Κοντονής, Βασίλειος; Kontonis, Vasileios

dc.contributor.author	Κοντονής, Βασίλειος	el
dc.contributor.author	Kontonis, Vasileios	en
dc.date.accessioned	2018-02-15T11:53:49Z
dc.date.available	2018-02-15T11:53:49Z
dc.date.issued	2018-02-15
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/46527
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.14712
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-sa/3.0/gr/	*
dc.subject	Κατανομές	el
dc.subject	Στατιστική	el
dc.subject	Αλγόριθμοι	el
dc.subject	Μάθηση	el
dc.subject	Θεωρία πιθανοτήτων	el
dc.subject	Probability distributions	en
dc.subject	Statistics theory	en
dc.subject	Learning theory	en
dc.subject	Distribution learning	en
dc.subject	Algorithms	en
dc.title	Αποδοτικοί αλγόριθμοι μάθησης δυνάμεων πουασσόν διωνυμικών κατανομών	el
heal.type	bachelorThesis
heal.classification	Αλγοριθμική στατιστική	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2017-10-11
heal.abstract	Σε αυτήν την διπλωματική εργασία εισάγουμε το πρόβλημα της μάθησης όλων των δυνάμεων μιας Πουασσόν Διωνυμικής Κατανομής (Poisson Binomial Distribution, PBD). Μια n-PBD είναι η κατανομή του αθροίσματος X =∑ni=1Xi, n ανεξάρτητων 0/1 κατανομών Bernoulli, όπου EXi[=] pi. H k-οστή δύναμη της X, για ένα k ∈ [m], είναι η κατανομή Pk=∑ni=1X(k)i, όπου EX(k)i[=] (pi)k. O αλγόριθμος μάθησης μπορεί να τραβήξει δείγματα από οποιαδήποτε δύναμη Pkκαι λέμε ότι πετυχαίνει στην ταυτόχρονη εκμάθηση όλων των δυνάμεων στο εύρος [m] αν με πιθανότητα το λιγότερο 1 − δ: δεδομένου ενός k ∈ [m] επιστρέφει μια κατανομή Qk τέτοια ώστε dtv(Pk, Qk) ≤ ε. Δείχνουμε αρχικά ένα πληροφοριό-θεωρητικό κάτω φράγμα για την δειγματική πολυπλοκότητα του παραπάνω προβλήματος στην περίπτωση που οι παράμετροι pi-s της PBD είναι αρκετά διαχωρισμένες. Το κάτω φράγμα αυτό δείχνει ότι χρειαζόμαστε περίπου έναν σταθερό αριθμό δειγμάτων για κάθε ξεχωριστή παράμετρο pi, δηλαδή συνολικά Ω(n) δείγματα για τις δυνάμεις μιας n-PBD. Στη συνέχεια γίνουμε ένα σχεδόν βέλτιστο πάνω φράγμα για την δειγματική πολυπλοκότητα στην περίπτωση που η PBD έχει μορφή παρόμοια με αυτή του κάτω φράγματός μας. Επεκτείνουμε το κλασικό ορισμό του minimax risk της Στατιστικής και επεκτείνοντας τις τεχνικές μελέτης της δειγματικής πολυπλοκότητας για την προσέγγιση συναρτήσεων ακολουθιών κατανομών. Συγκεκριμένα επεκτείνουμε τις κλασικές μεθόδους των Le Cam και Fano για να παράγουμε κάτω φράγματα στο δικό μας μοντέλο μάθησης ακολουθιών κατανομών. Μελετούμε το βασικό πρόβλημα της μάθησης των δυνάμεων μιας Διωνυμικής κατανομής και παρέχουμε έναν βέλτιστο αλγόριθμο μάθησης των δυνάμεων χρησιμοποιώντας O(1/eps2) δείγματα από τις δυνάμεις της Διωνυμικής κατανομής. Αποδεικνύουμε ότι ο αλγόριθμός είναι βέλτιστος δείχνοντας ένα κάτω φράγμα Ω(1/ε2) χρησιμοποιώντας το νέο minimax framework μας. Η μάθηση των παραμέτρων piμιας PBD είναι ένα γνωστό δύσκολο πρόβλημα. Οι Διακονικόλας, Kane, και Stewart [COLT’16] έδειξαν ένα εκθετικό κάτω φράγμα Ω(21/ε) δειγμάτων για την μάθηση των piμε αθροιστικό σφάλμα το πολύ ε. Ένα φυσικό ερώτημα, λοιπόν, είναι αν η δυνατότητα δειγματοληψίας τόσο από την ίδια την PBD όσο και από τις δυνάμεις της βοηθάει στο να μειωθεί η δειγματική πολυπλοκότητα του προβλήματος αυτού. Δίνουμε αρνητική απάντηση σε αυτό το ερώτημα δείχνοντας το ίδιο κάτω φράγμα στο δικό μας μοντέλο των δυνάμεων. Τέλος, παρέχουμε έναν σχεδόν βέλτιστο αλγόριθμο παραμετρικής μάθησης των piχρησιμοποιώντας δείγματα από τις δυνάμεις μιας PBD.	el
heal.advisorName	Φωτάκης, Δημήτρης	el
heal.committeeMemberName	Παπασπύρου, Νικόλαος	el
heal.committeeMemberName	Παγουρτζής, Αριστείδης	el
heal.committeeMemberName	Φωτάκης, Δημήτρης	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	60 σ.
heal.fullTextAvailability	true