Κατανεμημένο Σύστημα Συμπερασματολογίας με Ευέλικτες Διασυνδέσεις Ζευγών Νευρωνικών Δικτύων

Αθανασιά, Αικατερίνη; Athanasia, Aikaterini

dc.contributor.author	Αθανασιά, Αικατερίνη	el
dc.contributor.author	Athanasia, Aikaterini	en
dc.date.accessioned	2023-04-03T11:07:13Z
dc.date.available	2023-04-03T11:07:13Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/57481
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.25178
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Μηχανική Μάθηση	el
dc.subject	Βαθιά Μάθηση	el
dc.subject	Κατανεμημένο Σύστημα Συμπερασματολογίας	el
dc.subject	Ζεύγος Νευρωνικών Δικτύων	el
dc.subject	Κινητός Υπολογισμός	el
dc.subject	Edge Intelligence	en
dc.subject	Machine Learning	en
dc.subject	Deep Learning	el
dc.subject	Neural Network Pair	el
dc.title	Κατανεμημένο Σύστημα Συμπερασματολογίας με Ευέλικτες Διασυνδέσεις Ζευγών Νευρωνικών Δικτύων	el
dc.title	Distributed Inference System with Flexible Neural Network Pair Interconnections	en
dc.contributor.department	Τομέας Μαθηματικών, Intelligent Communications & Broadband Networks Laboratory (ICBNet)	el
heal.type	bachelorThesis
heal.classification	Νευρωνικά Δίκτυα	el
heal.classification	Μηχανική Μάθηση	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2023-02-24
heal.abstract	Τα τελευταία χρόνια, η χρήση εφαρμογών Tεχνητής Nοημοσύνης έχει αυξηθεί κατακόρυφα, τόσο λόγω της προόδου που έχει σημειωθεί στη Bαθιά Mάθηση, όσο και στην τεχνολογική ανάπτυξη στον τομέα του Κινητού Υπολογισμού και τη διάδοση του Διαδικτύου των Πραγμάτων (IoT). Η βελτίωση της ακρίβειας συμπερασματολογίας οφείλεται στην αύξηση της πολυπλοκότητας των μοντέλων, που συνεπάγεται σημαντική αύξηση στον χρόνο και στους απαιτούμενους πόρους για την εξαγωγή προβλέψεων. Οι κινητές συσκευές όμως, λόγω των περιορισμένων πόρων τους, δεν επωφελούνται στο μέγιστο από τα αποτελέσματα αυτά. Ο κλάδος της Κατανεμημένης Μηχανικής Μάθησης επιδιώκει να δώσει λύση στο πρόβλημα αυτό, μεταξύ άλλων, με τη χρήση Ζευγών Νευρωνικών Δικτύων, αποτελούμενων από δύο μοντέλα Βαθιάς Μάθησης με διαφορετικά χαρακτηριστικά. Το πρώτο μοντέλο είναι ελαφρύ και με μειωμένη συγκριτικά ακρίβεια, ώστε να μπορεί να εκτελεστεί τοπικά στη συσκευή. Το δεύτερο μοντέλο προσφέρει υψηλή ακρίβεια, η οποία όμως συνοδεύεται από την ανάγκη για πρόσβαση σε αυξημένους υπολογιστικούς πόρους, γι’ αυτό και το μοντέλο εκτελείται σε ισχυρό εξυπηρετητή ο οποίος βρίσκεται στα άκρα του δικτύου ή στο νέφος. Μέσω αυτού του Κατανεμημένου Συστήματος Συμπερασματολογίας, επιτρέπεται η παραμετρική βελτιστοποίηση του χρόνου και της ακρίβειας συμπερασματολογίας με συμβιβασμούς στις απαιτήσεις του χρήστη. Ο βέλτιστος συμβιβασμός επιτυγχάνεται με τη δυναμική προσαρμογή του συστήματος τόσο σε αυτές τις απαιτήσεις όσο και στις αλλαγές στο περιβάλλον του προβλήματος, όπως το πλήθος και το είδος των συσκευών. Στόχος, λοιπόν, της παρούσας διπλωματικής εργασίας, είναι η σχεδίαση και ανάπτυξη ενός ολοκληρωμένου, ευέλικτου, σε σχέση με την στρατηγική εκτέλεσης και του τρόπου διασύνδεσης των μοντέλων, Κατανεμημένου Συστήματος Συμπερασματολογίας, με σκοπό την αποδοτική, ως προς τις ανάγκες του χρήστη και την κατάσταση του συστήματος, εκτέλεση εφαρμογών Βαθιάς Μάθησης σε κινητές συσκευές. Εκ του αποτελέσματος, παρατηρήθηκε πως πράγματι ένα σύστημα με τις παραπάνω ιδιότητες μπορεί από τη μία να αυξήσει την ακρίβεια σε σχέση με το αν υπήρχε μόνο το μοντέλο της συσκευής, και από την άλλη να επιταχύνει την συμπερασματολογία σε σχέση με την αποστολή όλων των εικόνων σε εξυπηρετητή.	el
heal.abstract	In recent years, the use of AI applications has increased dramatically, mainly driven by advances in Deep Learning, technological developments in Mobile Computing and the proliferation of the Internet of Things (IoT). The improvement in inference accuracy is attributed to the increase in model complexity, which in turn results in significant growth in time and resources required to make predictions. Mobile devices, however, given their limited resources, are not taking full advantage of these achievements. The field of Distributed Machine Learning seeks to provide a solution to this problem, by using, among others, Neural Network Pairs, consisting of two Deep Learning models with different characteristics. The first model is lightweight and has comparatively reduced accuracy so that it can be executed locally on the device, while the second model offers high accuracy, but requires increased computational resources, hence it is executed on a powerful server located at the network edges or in the cloud. Through this Distributed Inference System, parametric optimization of inference time and accuracy is enabled trade-offs to user demands. The optimal trade-off is achieved by dynamically adapting the system to both these demands while considering changes in the problem environment, such as the number and type of devices in the system. The aim of this thesis is to design and develop an integrated and flexible Distributed Inference System, with respect to its execution strategy and the way the models are interconnected, for the efficient, in terms of user demands and system state, execution of Deep Learning applications on mobile devices. Indeed, it was observed that a system with the above properties can, on the one hand, increase the accuracy compared to only executing inference on the model on the device, and on the other hand, it speeds up the inference process in relation to sending all the images to the server for inference.	en
heal.advisorName	Βενιέρης, Ιάκωβος	el
heal.committeeMemberName	Κακλαμάνη, Δήμητρα-Θεοδώρα	el
heal.committeeMemberName	Συμβώνης, Αντώνιος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Εφαρμοσμένων Μαθηματικών και Φυσικών Επιστημών. Τομέας Μαθηματικών	el
heal.academicPublisherID	ntua
heal.numberOfPages	86 σ.	el
heal.fullTextAvailability	false