Efficient Deep Learning in Mobile and Embedded Computing Environments

Panopoulos, Ioannis; Πανόπουλος, Ιωάννης

dc.contributor.author	Panopoulos, Ioannis
dc.contributor.author	Πανόπουλος, Ιωάννης
dc.date.accessioned	2025-09-22T09:24:35Z
dc.date.available	2025-09-22T09:24:35Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/62501
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.30197
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Deep learning	en
dc.subject	Mobile computing	en
dc.subject	Embedded computing	en
dc.subject	Efficient AI	en
dc.subject	Internet of Things	en
dc.subject	Βαθιά μάθηση	el
dc.subject	Κινητός υπολογισμός	el
dc.subject	Ενσωματωμένος υπολογισμός	el
dc.subject	Αποδοτική τεχνητή νοημοσύνη	el
dc.subject	Διαδίκτυο των πραγμάτων	el
dc.title	Efficient Deep Learning in Mobile and Embedded Computing Environments	en
dc.title	Αποδοτική Βαθιά Μάθηση σε Κινητά και Ενσωματωμένα Υπολογιστικά Περιβάλλοντα	el
dc.contributor.department	DIVISION OF INFORMATION TRANSMISSION SYSTEMS AND MATERIAL TECHNOLOGY	el
heal.type	doctoralThesis
heal.classification	Deep Learning	en
heal.classification	Edge Computing	en
heal.classification	Computer Science	en
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2025-04-29
heal.abstract	Deep learning has fundamentally transformed the field of artificial intelligence, enabling significant advancements in areas such as natural language processing, computer vision, and autonomous decision-making. However, the ever-increasing complexity of modern models entails substantial computational demands, rendering the use of powerful cloud infrastructures essential. This dependence on centralized computing introduces limitations in terms of latency, privacy, and availability, posing a challenge for the deployment of AI applications on mobile and embedded systems. This dissertation investigates the intersection of deep learning and efficiency in resource-constrained environments, with the aim of establishing a holistic framework for the efficient development and execution of AI systems at the network edge. The research focuses on three key studies: (a) the development of CARIn, an adaptive inference framework designed to execute multiple neural networks on heterogeneous mobile devices using multi-objective optimization techniques; (b) the thorough evaluation and adaptation of Transformer models for mobile environments through low-cost architectural and hardware-aware optimizations; and (c) the design of A-THENA, an efficient intrusion detection system for IoT networks, based on Transformers with time-aware positional encodings. Through these contributions, this dissertation formulates a comprehensive approach to efficient deep learning in mobile and embedded computing environments. By exploring the interplay between model optimization, hardware adaptation, and real-world application requirements, this work bridges the gap between cutting-edge AI research and its practical deployment. The findings emphasize that efficiency is not merely an optimization objective but a foundational enabler for the future of AI, ensuring that deep learning technologies can operate seamlessly, sustainably, and intelligently across a wide range of computing platforms.	en
heal.abstract	Η βαθιά μάθηση έχει μετασχηματίσει ριζικά το πεδίο της τεχνητής νοημοσύνης, προσφέροντας σημαντικές προόδους σε τομείς όπως η επεξεργασία φυσικής γλώσσας, η όραση υπολογιστών και η αυτόνομη λήψη αποφάσεων. Ωστόσο, η συνεχώς αυξανόμενη πολυπλοκότητα των μοντέλων συνεπάγεται σημαντικές υπολογιστικές απαιτήσεις, καθιστώντας αναγκαία την αξιοποίηση ισχυρών υποδομών νέφους. Η εξάρτηση αυτή από κεντρικοποιημένους πόρους δημιουργεί περιορισμούς σε ό,τι αφορά την καθυστέρηση, την ιδιωτικότητα και τη διαθεσιμότητα, αποτελώντας εμπόδιο για την ανάπτυξη εφαρμογών τεχνητής νοημοσύνης σε κινητά και ενσωματωμένα συστήματα. Η παρούσα διατριβή διερευνά τη διασταύρωση βαθιάς μάθησης και αποδοτικότητας σε περιβάλλοντα με περιορισμένους υπολογιστικούς πόρους, με στόχο τη διαμόρφωση ενός ολιστικού πλαισίου για την αποδοτική ανάπτυξη και εκτέλεση συστημάτων τεχνητής νοημοσύνης στις παρυφές του δικτύου. Η έρευνα εστιάζει σε τρεις επιμέρους μελέτες: (α) την ανάπτυξη του CARIn, ενός προσαρμοστικού πλαισίου για την εκτέλεση πολλαπλών νευρωνικών δικτύων σε ετερογενείς κινητές συσκευές, με χρήση τεχνικών βελτιστοποίησης πολλαπλών στόχων· (β) την ενδελεχή αξιολόγηση και προσαρμογή μοντέλων μετασχηματιστών για κινητά περιβάλλοντα, μέσω αρχιτεκτονικών βελτιστοποιήσεων χαμηλού κόστους· και (γ) τη σχεδίαση του A-THENA, ενός αποδοτικού συστήματος ανίχνευσης εισβολών σε IoT δίκτυα, βασισμένου σε μετασχηματιστές με χρονικά ευαίσθητες κωδικοποιήσεις θέσης. Μέσα από αυτές τις συνεισφορές, η διατριβή διαμορφώνει ένα ολοκληρωμένο πλαίσιο για αποδοτική βαθιά μάθηση σε κινητά και ενσωματωμένα υπολογιστικά περιβάλλοντα. Εξερευνώντας τη διασύνδεση μεταξύ της βελτιστοποίησης μοντέλων, της προσαρμογής στο υλικό και των απαιτήσεων πραγματικών εφαρμογών, η έρευνα γεφυρώνει το χάσμα μεταξύ των τελευταίων εξελίξεων στην τεχνητή νοημοσύνη και της πρακτικής τους ανάπτυξης. Τα ευρήματα υπογραμμίζουν ότι η αποδοτικότητα δεν αποτελεί απλώς στόχο βελτιστοποίησης, αλλά θεμελιώδη παράγοντα για το μέλλον της τεχνητής νοημοσύνης, διασφαλίζοντας ότι οι τεχνολογίες βαθιάς μάθησης μπορούν να λειτουργούν απρόσκοπτα, βιώσιμα και ευφυώς σε ένα ευρύ φάσμα υπολογιστικών πλατφορμών.	el
heal.sponsor	This research work was supported by the Hellenic Foundation for Research and Innovation (HFRI) under the 3rd Call for HFRI PhD Fellowships (Fellowship Number: 5578).	en
heal.advisorName	Venieris, Iakovos
heal.committeeMemberName	Venieris, Iakovos
heal.committeeMemberName	Kaklamani, Dimitra
heal.committeeMemberName	Koziris, Nectarios
heal.committeeMemberName	Varvarigos, Emmanouel
heal.committeeMemberName	Varvarigou, Theodora
heal.committeeMemberName	Askounis, Dimitris
heal.committeeMemberName	Vergados, Dimitrios D.
heal.academicPublisher	Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	176
heal.fullTextAvailability	false