Παραλληλοποίηση αλγορίθμων εκπαίδευσης νευρωνικών δικτύων σε μαζικά πολυπύρηνες αρχιτεκτονικές

Τριαντάφυλλος, Ανδρέας; Triantafyllos, Andreas

dc.contributor.author	Τριαντάφυλλος, Ανδρέας	el
dc.contributor.author	Triantafyllos, Andreas	en
dc.date.accessioned	2018-11-22T12:40:53Z
dc.date.available	2018-11-22T12:40:53Z
dc.date.issued	2018-11-22
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/48089
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.16298
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Παραλληλοποίηση	el
dc.subject	Νευρωνικά δίκτυα	el
dc.subject	Αναδρομικά νευρωνικά δίκτυα	el
dc.subject	Οπτική αναγνώριση χαρακτήρων	el
dc.subject	Εκπαίδευση νευρωνικών δικτύων	el
dc.subject	LSTM	el
dc.subject	OCR	el
dc.subject	Intel Xeon Phi	el
dc.subject	OpenMP	el
dc.subject	Long short-term memory	el
dc.subject	Parallelization	en
dc.subject	Neural networks	en
dc.subject	Recurrent neural network	en
dc.title	Παραλληλοποίηση αλγορίθμων εκπαίδευσης νευρωνικών δικτύων σε μαζικά πολυπύρηνες αρχιτεκτονικές	el
heal.type	bachelorThesis
heal.classification	Παράλληλοι αλγόριθμοι	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2018-07-05
heal.abstract	Αντικείμενο της παρούσας διπλωματικής εργασίας είναι η παραλληλοποίηση της εκπαίδευσης ενός αναδρομικού νευρωνικού δικτύου. Ειδικότερα, επιχειρείται η επιτάχυνση της εκπαίδευσης ενός long short-term memory (LSTM) δικτύου που χρησιμοποείται για την οπτική αναγνώριση χαρακτήρων. Η δυσκολία της παραλληλοποίησης τέτοιου είδους νευρωνικών δικτύων εντοπίζεται στη σειριακή φύση της εκπαίδευσης και της λειτουργίας τους καθώς αντιμετωπίζουν το εκάστοτε δείγμα και είσοδο αντίστοιχα ως μία ακολουθία δεδομένων. Στα πλαίσια της εργασίας παρουσιάζεται η διαδικασία της εκπαίδευσης, υλοποιούνται τρία στάδια παραλληλοποίησης του αλγορίθμου εκπαίδευσης του νευρωνικού δικτύου και αξιολογείται η επίδοσή τους από τα πειραματικά αποτελέσματα που τους αντιστοιχούν.	el
heal.abstract	This diploma thesis addresses the parallelization of the training of a recurrent neural network. More specifically, it is attempted to accelerate the training of a LSTM (long short-term memory) network. which is used for OCR (optical character recognition) purposes. Training and running of such neural networks manage each sample or input correspondingly as a sequence of data and as a consequence parallelization becomes a difficult task. In the course of this thesis, the procedure of the training is analyzed, three stages of training parallelization are implemented and the performance for each one of the aforementioned stages is evaluated.	en
heal.advisorName	Γκούμας, Γεώργιος	el
heal.committeeMemberName	Κοζύρης, Νεκτάριος	el
heal.committeeMemberName	Παπασπύρου, Νικόλαος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	69 σ.
heal.fullTextAvailability	true