Ενίσχυση της αποδοτικότητας βαθιών νευρωνικών δικτύων µέσω βελτιστοποιηµένων στρατηγικων πρόωρης εξόδου

Καϊμάκης, Κωνσταντίνος; Kaimakis, Konstantinos

dc.contributor.author	Καϊμάκης, Κωνσταντίνος	el
dc.contributor.author	Kaimakis, Konstantinos	en
dc.date.accessioned	2025-11-10T11:25:54Z
dc.date.available	2025-11-10T11:25:54Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/62823
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.30519
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Μηχανική Μάθηση	el
dc.subject	Βαθιά Μάθηση	el
dc.subject	Συνελικτικά Νευρωνικά ∆ίκτυα	el
dc.subject	Πρόωρες Έξοδοι	el
dc.subject	Ευφυής Υπολογιστική Παρυφών	el
dc.subject	Machine Learning	en
dc.subject	Deep Learning	en
dc.subject	Early Exits	en
dc.subject	Convolutional Neural Networks	en
dc.subject	Edge Computing	en
dc.title	Ενίσχυση της αποδοτικότητας βαθιών νευρωνικών δικτύων µέσω βελτιστοποιηµένων στρατηγικων πρόωρης εξόδου	el
dc.title	Enhancing the efficiency of deep neural networks through optimized early exit strategies	en
heal.type	bachelorThesis
heal.classification	Machine Learning	en
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2025-03-13
heal.abstract	Η επιστήµη της Τεχνητής Νοηµοσύνης έχει γνωϱίσει εκϱηκτική άνοδο, κυϱίως χάϱη στις εξελίξεις στη Βαθιά Μάθηση, στην αφθονία δεδοµένων λόγω του διαδικτύου και στην µεγάλη εξέλιξη στον τοµέα των υπολογισµών, όπως η αύξησητηςυπολογιστικής ισχύος, η παϱάλληλη επεξεϱγασία και οι πϱοηγµένες κάϱτες γϱαφικών. Πϱωταϱχικός στόχος των ερευνητών ήταν η αύξηση της ακρίβειας στις προβλέψεις των µοντέλων, όµως αυτή η αύξηση επιφέρει υψηλότερη πολυπλοκότητα, η οποία µε την σειρά της απαιτεί σηµαντικά περισσότερο χϱόνο και πόϱους για την επεξεργασία των δεδοµένων. Τα τελευταία χϱόνια λόγω της ανάπτυξης του κινητού υπολογισµού καθώς και της διάδοσης του διαδικτύου των πραγµάτων (IoT) υπάρχει έντονο ερευνητικό ενδιαφέρον για την ανάπτυ ξη τεχνικών που ϑα καθιστούν εφικτή την αξιοποίηση τέτοιων µοντέλων από συσκευές µε περιορισµένους πόϱους. Μια τέτοια πϱοτεινόµενη τεχνική είναι ο εφοδιασµός των µοντέλων µε Πϱόωϱες Εξόδους (Early Exits). Σε αντίθεση µε τα παϱαδοσιακά µοντέλα, όπου κάθε δείγµα διέϱχεται από όλο το µοντέλο, η ιδέα πίσω από τις Πϱόωϱες Εξόδους είναι να επιτϱαπεί στο µοντέλο να σταµατάει την επεξεϱγασία αξιοποιώντας µόνο ένα µέϱος του. Αντί να γίνεται επεξεϱγασία από ολόκληϱη τη δοµή του δικτύου για κάθε εισεϱχόµενο δείγµα, το µοντέλο µποϱεί να παϱάγει πϱοβλέψεις νωϱίτεϱα, µόλις η πεποίθηση του ϕτάσει σε ένα ικανοποιητικό επίπεδο ϐεβαιότητας. Η παϱαπάνω στϱατηγική επιτυγχάνεται µε την τοποθέτηση ταξινοµητών σε ενδιάµεσα επίπεδα του µοντέλου. Στόχος αυτής της διπλωµατικής εργασίας είναι η αναβάθµιση ήδη γνωστών αρχιτεκτονι κών µε πρόωρες εξόδους, καθώς και η διερεύνηση της αποδοτικότητάς τους, αλλά και της ϐελτίωσης που µπορούν να επιτύχουν τα αναβαθµισµένα µοντέλα.	el
heal.abstract	The science of AI has experienced an explosive growth, mainly thanks to advances in Deep Learning, the abundance of data due to the internet, and major developments in computing, such as increased computing power, parallel processing and advanced graphics cards. The primary goal of researchers has been to increase the accuracy of model predic tions, but this increase brings higher complexity, which in turn requires significantly more time and resources to process the data. In recent years due to the growth of mo bile computing as well as the proliferation of the Internet of Things, (IoT) there has been a strong research interest in developing techniques to enable the exploitation of such models by resource-constrained devices. One such proposed technique is to provide models with Early Exits. Unlike traditional models, where each sample is passed through the entire model, the idea behind Early Exits is to allow the model to "stop" processing by utilizing only part of the model. Instead of processing through the entire network structure for each incoming sample, the model can provide output early, once it’s predictions reach a sufficient level of certainty. The above strategy is achieved by placing classifiers at intermediate levels of the model. The goal of this thesis is to upgrade existing architectures with early exits, and to investigate their efficiency and the improvement that the upgraded models can achieve.	en
heal.advisorName	Βενιέρης, Ιάκωβος	el
heal.committeeMemberName	Συµβώνης, Αντώνιος	el
heal.committeeMemberName	Κακλαµάνη, ∆ήµητρα-Θεοδώρα	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Εφαρμοσμένων Μαθηματικών και Φυσικών Επιστημών	el
heal.academicPublisherID	ntua
heal.numberOfPages	94 σ.	el
heal.fullTextAvailability	false