Σχεδιασμός και υλοποίηση ευφυούς μηχανισμού διαμοιρασμού κοινόχρηστων πόρων, σε πολυπύρηνα συστήματα, με χρήση βαθιάς ενισχυτικής μάθησης

Μανδηλαράς, Νικηφόρος; Mandilaras, Nikiforos

dc.contributor.author	Μανδηλαράς, Νικηφόρος	el
dc.contributor.author	Mandilaras, Nikiforos	en
dc.date.accessioned	2020-11-12T05:57:31Z
dc.date.available	2020-11-12T05:57:31Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/51897
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.19595
dc.description	Εθνικό Μετσόβιο Πολυτεχνείο--Μεταπτυχιακή Εργασία. Διεπιστημονικό-Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών (Δ.Π.Μ.Σ.) “Επιστήμη Δεδομένων και Μηχανική Μάθηση”	el
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Πολυεπεξεργαστικά συστήματα	el
dc.subject	Ενισχυτική Μάθηση	el
dc.subject	Νευρωνικά Δίκτυα	el
dc.subject	Κοινόχρηστη κρυφή μνήμη	el
dc.subject	Deep Reinforcement Learning	en
dc.subject	Shared cache	en
dc.subject	Multiprocessors	en
dc.subject	Intel RDT	en
dc.subject	ΔΠΜΣ 'Επιστήμη Δεδομένων και Μηχανική Μάθηση'	el
dc.subject	DQN	en
dc.title	Σχεδιασμός και υλοποίηση ευφυούς μηχανισμού διαμοιρασμού κοινόχρηστων πόρων, σε πολυπύρηνα συστήματα, με χρήση βαθιάς ενισχυτικής μάθησης	el
dc.contributor.department	Εργαστήριο Υπολογιστικών Συστημάτων	el
heal.type	masterThesis
heal.generalDescription	Η διπλωματική εργασία εκπονήθηκε για τις ανάγκες του Δ.Π.Μ.Σ. "Επιστήμη Δεδομένων και Μηχανική Μάθηση"	el
heal.classification	Επιστήμη Υπολογιστών	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2020-08-31
heal.abstract	Η μέση χρήση των εξυπηρετητών στα σύγχρονα κέντρα δεδομένων είναι εξαιρετικά χαμηλή, μη ξεπερνώντας το 50%. Αιτία για αυτό αποτελούν τα όρια επίδοσης που συνάπτουν οι πάροχοι με τους πελάτες, καθώς προκειμένου αυτά να διασφαλίζονται, προτιμάται η απομονωμένη εκτέλεση των υπηρεσιών. Η ανάγκη για απομόνωση προκύπτει λόγω του ανταγωνισμού για κοινόχρηστους πόρους, όπως είναι η κρυφή μνήμη τελευταίου επιπέδου. Ο ανταγωνισμός που εμφανίζεται μεταξύ των συνεκτελούμενων εφαρμογών, επηρεάζει αρνητικά την απόδοση των υπηρεσιών και θέτει εν αμφιβόλω την διατήρηση του επιπέδου επίδοσής τους. Για την αντιμετώπιση τέτοιων καταστάσεων, έχουν πλέον ενσωματωθεί στους σύγχρονους επεξεργαστές, τεχνολογίες που παρέχουν υποστήριξη για την επίβλεψη της χρήσης αλλά και για το διαμοιρασμό κοινόχρηστων πόρων. Στην παρούσα διπλωματική, αξιοποιώντας τις εν λόγω τεχνολογίες, όπως και μεθόδους βαθιάς ενισχυτικής μάθησης, υλοποιούμε έναν ευφυή μηχανισμό διαμοιρασμού της κρυφής μνήμης τελευταίου επιπέδου, ενός πολυπύρηνου συστήματος. Στόχος είναι η διατήρηση της επίδοσης μιας κρίσιμης υπηρεσίας, όταν αυτή συνεκτελείται με άλλες εφαρμογές, αλλά ταυτόχρονα και η αύξηση της χρησιμοποίησης των πόρων του συστήματος. Η ενισχυτική μάθηση επιτρέπει την αυτοματοποιημένη υλοποίηση τέτοιων στόχων, με τη χρήση πρακτόρων που διερευνούν έναν χώρο καταστάσεων και αξιοποιούν τη γνώση που συλλέγουν για το περιβάλλον, ώστε να λάβουν τις κατάλληλες αποφάσεις για την επίτευξη του τελικού στόχου. Αξιολογούμε τον μηχανισμό μας σε συνεκτελέσεις της υπηρεσίας Memcached με εφαρμογές μηχανικής μάθησης. Αποδεικνύουμε πως ο μηχανισμός μπορεί να προφυλάξει με συνέπεια την επίδοση της κρίσιμης υπηρεσίας και ταυτόχρονα να αυξήσει τη διεκπεραιωτικότητα των εφαρμογών χαμηλής προτεραιότητας. Τέλος δείχνουμε πως η μάθηση νευρωνικών δικτύων προσφέρει δυνατότητες γενίκευσης της αποκτώμενης γνώσης και χρήσης αυτής σε νέες εφαρμογές.	el
heal.abstract	The average usage of servers in modern data centers is extremely low, not exceeding 50 %. The reason for this, is the Service-Level Agreements (SLAs) that the providers sign with their customers. In order to ensure those agrements, the isolated execution of the services is preferred. The need for isolation arises due to the competition for shared resources, such as the last level cache memory. The competition that occurs between the coexecuted applications, negatively affects the performance of the services and calls into question the maintenance of their level of performance. To deal with such situations, technologies have now been integrated into modern processors, that provide support for usage monitoring as well as for partitioning of shared resources. In the present thesis, we utilize these technologies along with deep reinforcement learning methods, in order to implement an intelligent mechanism for partitioning the last level cache of a multicore system. The goal is to maintain the performance of a latency critical service when it is coexecuted with other applications, but also to increase the utilization of system resources. Reinforcement learning enables the automated implementation of such goals, using agents who explore a state space and utilize the knowledge they gather from the environment, in order to make the appropriate decisions and achieve their ultimate goal. We evaluate our mechanism in coexecutions of Memcached service with machine learning workloads. We prove that the mechanism can consistently protect the per- formance of the critical service and at the same time increase the throughput of low priority applications. Finally, we show that the training of neural networks offers opportunities to generalize the acquired knowledge and use it in new applications.	en
heal.advisorName	Κοζύρης, Νεκτάριος
heal.committeeMemberName	Γκούμας, Γεώργιος
heal.committeeMemberName	Πνευματικάτος, Διονύσιος
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	87
heal.fullTextAvailability	false