Runtime resource management on serverless
computing architectures

Φακίνος, Ιωάννης; Fakinos, Ioannis

dc.contributor.author	Φακίνος, Ιωάννης	el
dc.contributor.author	Fakinos, Ioannis	en
dc.date.accessioned	2022-07-25T09:24:28Z
dc.date.available	2022-07-25T09:24:28Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/55487
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.23185
dc.rights	Αναφορά Δημιουργού 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού - Μη Εμπορική Χρήση - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-sa/3.0/gr/	*
dc.subject	Υπολογιστική χωρίς διακομιστή	el
dc.subject	Υπολογιστικό νέφος	el
dc.subject	Συναρτήσεις-σαν-υπηρεσία	el
dc.subject	Ποιότητα υπηρεσίας	el
dc.subject	Ακολουθίες	el
dc.subject	Κυβερνήτης	el
dc.subject	Cloud	en
dc.subject	Serverless computing	en
dc.subject	Function as a service	en
dc.subject	Quality of service	en
dc.subject	Target latency	en
dc.subject	Sequences	en
dc.subject	Pipelines	en
dc.subject	Openwhisk	en
dc.subject	Kubernetes	en
dc.subject	Containerization	en
dc.title	Runtime resource management on serverless computing architectures	en
dc.title	Διαχείριση πόρων κατά τον χρόνο εκτέλεσης σε αρχιτεκτονικές χωρίς διακομιστή	el
heal.type	bachelorThesis
heal.classification	Νεφοϋπολογιστική χωρίς διακομιστή	el
heal.classification	Serverless computing	en
heal.language	el
heal.language	en
heal.access	campus
heal.recordProvider	ntua	el
heal.publicationDate	2022-03-04
heal.abstract	Η έννοια Συναρτήσεις-σαν-Υπηρεσία μπορεί να χαρακτηριστεί ως το μέλλον της νεφοϋπολογιστικής, αποτελώντας μία αναδυόμενη φιλοσοφία που απαλλάσσει τον προγραμματιστή από διαχειριστικά θέματα. Σύμφωνα με αυτό το μοντέλο, η γνωστή μονολιθική αρχιτεκτονική κάθε εφαρμογής απαιτείται να αντικατασταθεί από έναν γράφο ανεξάρτητων και εφήμερων συναρτήσεων. Μάλιστα, αυτές είθισται να ενεργοποιούνται και να εκκινούν έπειτα από εξωτερικά γεγονότα, όπως την αποστολή διαπιστευτηρίων από έναν χρήστη. Ταυτόχρονα, από την πλευρά του παρόχου, προβλήματα όπως η διαθεσιμότητα, η κλιμακωσιμότητα, η κατανομή φορτίου κ.α. πρέπει να αντιμετωπιστούν χωρίς προϋπάρχουσα γνώση της συμπερ- ιφοράς και των υπολογιτικών απαιτήσεων του κώδικα των χρηστών τους. Σε αυτά τα πλαίσια, οι πάροχοι προσφέρουν διάφορα πακέτα χρεώσεων ανάλογα με τους διαθέσιμους πόρους (επεξεργαστής, μνήμη, αποθηκευτικός χώρος κ.τ.λ.) για τα κοντέινερ, που αξιοποιούνται για την εκτέλεση των συναρτήσεων αυτών. Δυστυχώς, αυτά αναγκαστικά συνυπάρχουν με άλλα ομοειδή μέσα σε ένα μηχάνημα οικοδεσπότη πεπερασμένων πόρων. Η προαναφρθείσα, λοιπόν, ανεπίβλεπτη τεχνική κατανομής πόρων δεν εγγυάται καμία καλώς ορισμένη ποιότητα υπηρεσιών αναφορικά με τον χρόνο εκτέλεσης των συναρτήσεων και συνόλων αυτών. Κατά καιρούς, διάφορες εναλλακτικές έχουν προταθεί για την επίλυση αυτής της αδυναμίας και την παροχή της Ποιότητας Υπηρεσίας, οι οποίες αν και επιτυγχάνουν ενδιαφέροντα αποτελέσματα, υστερούν σε συμβατότητα με υπάρχοντες βιβλιοθήκες/εργαλεία ή επικεντρώνονται σε περιορισμένες εφαρμογές. Σε αυτήν τη διπλωματική, εξερευνούμε το Ρολόι Ακολουθίας, ένα εργαλείο ελέγχου χρονοκαθυστέρησης το οποίο δυναμικά παρακολουθεί τις κλήσεις συναρτήσεων σε μία συστοιχία υπολογιστών και επιτρέπει την εκτέλεση συναρτησιακών ακολουθιών εντός του προκαθορισμένου χρονικού ορίου. Δύο μεθοδολογίες ελέγχου ακολουθήθηκαν, με την μία να πετυχαίνει έως και 82% μείωση στη σοβαρότητα των χρονικών παραβιάσεων και σε ορισμένες περιπτώσεις να τις εξαλείφει πλήρως.	el
heal.abstract	Function as a service or FaaS represents the next frontier in the evolution of cloud computing being an emerging paradigm that removes the burden of configuration and management issues from the developer’s perspective. However, this relatively new technology, like any other, surely comes with its caveats. For starters, the whole well known monolithic approach has to be replaced by a DAG of standalone, small, stateless, event driven components called functions. At the same time, at the cloud provider’s side, problems like availability, load balancing, scalability and others has to be resolved without ever knowing the functionality, behavior or resource requirements of their tenants code. In this context, vendors offer certain billing plans concerning the available resources (CPU, memory & cold storage size etc) of the containers/sandboxes that functions run on. Unfortunately, these containers have to coexist with others in a runtime of a host with finite shared resources. Thus, with the latter passive resource allocation technique there’s no guarantee of a well defined quality of service or QoS in regards to functions’ and function sets’ latency. Various efforts have been made towards the holy grail of QoS, but they either lack in compatibility with existing serverless frameworks, or they are limited in specific applications. In this thesis, we explore Sequence Clock, a latency targeting tool that actively monitors serverless invocations in a cluster and offers execution of sequential chain of functions, also known as pipelines or sequences, while achieving the targeted time latency. It was developed in Go, wrapped as a helm chart (a packaging format for kubernetes) and focuses on Openhisk deployments on top of kubernetes clusters. Two regulation methods were utilized, with one of them achieving up to a 82% decrease in the severity of time violations and in some cases even eliminating them completely.	en
heal.advisorName	Σούντρης, Δημήτριος	el
heal.committeeMemberName	Σούντρης, Δημήτριος	el
heal.committeeMemberName	Τσανάκας, Παναγιώτης	el
heal.committeeMemberName	Ξύδης, Σωτήριος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	147 σ.	el
heal.fullTextAvailability	false