Ανάλυση Επίδοσης Μηχανισμών TLB Prefetching

Βαβουλιώτης, Γεώργιος; Vavouliotis, Georgios

dc.contributor.author	Βαβουλιώτης, Γεώργιος	el
dc.contributor.author	Vavouliotis, Georgios	en
dc.date.accessioned	2018-06-14T08:00:22Z
dc.date.available	2018-06-14T08:00:22Z
dc.date.issued	2018-06-14
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/47047
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.15498
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Αποθήκευση δεδομένων	el
dc.subject	Εικονική Μνήμη	el
dc.subject	Προανάκληση Μεταφράσεων	el
dc.subject	BadgerTrap	en
dc.subject	Tournament Predictor	en
dc.subject	Address Translation	en
dc.subject	TLB Prefetching	en
dc.title	Ανάλυση Επίδοσης Μηχανισμών TLB Prefetching	el
heal.type	bachelorThesis
heal.classification	Advanced Computer Architecture	en
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2018-03-19
heal.abstract	Πολλοί είναι οι μηχανισμοί που έχουν προταθεί για τη διατήρηση υψηλής απόδοσης του συστήματος μνημών. Χαρακτηριστικό παράδειγμα αποτελεί η προσωρινή αποθήκευση δεδομένων (caching). Ωστόσο, οι πολυάριθμες αστοχίες της Kρυφής Μνήμης Αναζήτησης Μετάφρασης (TLB) αποτελούν ακόμα ένα απο τα σοβαρότερα προβλήματα στη προσπάθεια διατήρησης υψηλής απόδοσης. Επιτυχείς αναζητήσεις στην TLB, ικανοποιούν την ανάγκη για ταχύτατη μετάφραση διευθύνσεων. Αν οι αναζητήσεις στη TLB οδηγούν σε αποτυχίες, γίνεται διάσχιση του πίνακα σελίδων στην ιεραρχία μνήμης για εύρεση της ζητούμενης μετάφρασης, κάτι που προκαλεί μεγάλες επιβαρύνσεις. Τα υπολογιστικά συστήματα που χρησιμοποιούν τη τεχνική της Εικονικής Μνήμης έχουν ανάγκη απο όσο το δυνατόν ταχύτερη μετάφραση εικονικών διευθύνσεων σε φυσικές. Καθώς τα working sets αυξάνονται με ρυθμό τον οποίο δεν μπορεί να ακολουθήσει η αύξηση του μεγέθους της TLB, οι αστοχίες της TLB γίνονται ολοένα και περισσότερες, προκαλώντας μεγάλες επιβαρύνσεις και επηρεάζοντας τελικά τη συνολική απόδοση του υπολογιστικού συστήματος. Στην παρούσα Διπλωματική Εργασία εστιάζουμε στην βελτίωση της επίδοσης της TLB μέσω Προανάκλησης Μεταφράσεων (TLB Prefetching). Σκοπός είναι να εξεταστεί αν και κατά πόσο η ιδέα του TLB Prefetching μπορεί να ανταποκριθεί στη προσπάθεια μείωσης των TLB αστοχιών με ταυτόχρονη μείωση της επιβάρυνσης όταν κάποιες απο τις αστοχίες δεν μπορούν να εξαλειφθούν. Συγκεκριμένα, υλοποιούνται διάφορα ήδη γνωστά Σχήματα TLB Prefetching, όπως για παράδειγμα ο Ακολουθιακός Προανακλητής, ο Προανακλητής Απόστασης και ο Προανακλητής Τυχαίου Βήματος με κάποιες διαφοροποιήσεις απο την αρχική τους έκδοση. Τα πειραματικά αποτελέσματα δείχνουν πως η Προανάκληση Μεταφράσεων μπορεί να βελτιώσει την επίδοση ορισμένων εφαρμογών. Όμως δεν υπάρχει ένας μοναδικός απλός μηχανισμός προανάκλησης που πετυχαίνει τα καλύτερα αποτελέσματα για όλες τις εφαρμογές.Συνεπώς, στην μελέτη αυτή παρουσιάζουμε τον σχεδιασμό και την υλοποίηση νέων μηχανισμών, και πιο συγκεκριμένα κάποια Υβριδικά Σχήματα TLB Prefetching που συνδυάζουν ταυτόχρονα πολλαπλούς απλούς προανακλητές, καθώς επίσης και έναν Tournament Προβλέπτη ο οποίος επιλέγει την ενεργοποίηση μόνο ενός από πολλαπλούς προανακλητές. Τα πειραματικά αποτελέσματα δείχνουν πως τα σχήματα αυτά καταφέρνουν να συνδυάσουν τα οφέλη πολλαπλών προανακλητών και να πετύχουν καλύτερα αποτελέσματα στο σύνολο των εφαρμογών. Ωστόσο, παρατηρείται πως σε κάποιες φάσεις της εκτέλεσης κάθε εφαρμογής, θα ήταν ευεργετική η απενεργοποίηση του TLB Prefetching λογώ πολλαπλών ανεπιτυχών προβλέψεων. Για το λόγο αυτό, προτείνουμε Μηχανισμούς Ελέγχου Προανάκλησης που είναι υπεύθυνοι για την αποφυγή άχρηστων προβλέψεων που επιφέρουν επιβάρυνση σε λειτουργίες μνήμης, με ταυτόχρονη διατήρηση της απόδοσης του εκάστοτε Σχήματος TLB Prefetching. Υλοποιούμε τέσσερις διαφορετικούς Μηχανισμούς Ελέγχου Προανάκλησης, οι δύο λαμβάνουν υπόψην τις πετυχημένες αναζητήσεις στον Prefetch Buffer ενώ οι άλλοι δύο το κόστος που έχει η προανάκληση κάθε μετάφρασης σε λειτουργίες μνήμης. Η πειραματική αξιολόγηση δείχνει πως ο Tournament Προβλέπτης με το Μηχανισμό MMU Confidence Throttling είναι ο καλύτερος Μηχανισμός TLB Prefetching της εν λόγω Διπλωματικής Εργασίας.	el
heal.abstract	Many are the mechanisms that have been proposed for maintaining a high-performance memory system. A typical example is caching. However, the numerous TLB misses are yet one of the most serious problems in keeping up high performance. Successful searches on the TLB satisfy the need for fast address translation. If searches on the TLB lead to failures, the page table is crossed in the memory hierarchy to find the requested translation, something that causes great overheads. Computer systems using Virtual Memory need the fastest address translation possible. As the working sets grow at a rate that can not be followed by the increase in TLB size, TLB failures are becoming more and more, causing great overheads and ultimately affecting the overall performance of the computing system. In this Diploma Thesis we focus on improving the performance of the TLB through TLB Prefetching. The aim is to examine whether and how the TLB Prefetching concept can respond to the TLB misses reduction effort while reducing the load when some of the misses can not be eliminated. In particular, various already known TLB Prefetching schemes are implemented, such as the Sequential Prefetcher, Distance Prefetcher and the Arbitrary Stride Prefetcher with some differentiations from their original version. The experimental results show that TLB Prefetching may improve the performance of certain applications. But there is no single simple prefetch mechanism that achieves the best results for all the applications. Therefore, in this study we present the design and implementation of new mechanisms, and more specifically some Hybrid TLB Prefetching Schemes that combine multiple simple prefetchers, as well as a Tournament Predictor who chooses to activate only one of multiple predictors. The experimental results show that these schemes manage to combine the benefits of multiple prefetchers and achieve better results across applications. However, it is noticeable that in some phases of execution of each application, it would be beneficial to disable TLB Prefetching due to multiple unsuccessful predictions. For this reason, we suggest Control Prefetching Mechanisms that are responsible for avoiding unnecessary predictions that impose overheads in memory references, while maintaining the performance of each TLB Prefetching Scheme. We implement four different Control Prefetching Mechanisms, the two take into account the successful searches in the Prefetch Buffer while the other two the cost of preloading each translation into memory references. The experimental evaluation shows that the Tournament Predictor with the MMU Confidence Throttling is the best TLB Prefetching mechanism of this Diploma Thesis.	en
heal.advisorName	Γκούμας, Γεώργιος	el
heal.committeeMemberName	Γκούμας, Γεώργιος	el
heal.committeeMemberName	Κοζύρης, Νεκτάριος	el
heal.committeeMemberName	Παγουρτζής, Αριστείδης	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Μηχανολόγων Μηχανικών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών. Εργαστήριο Υπολογιστικών Συστημάτων	el
heal.academicPublisherID	ntua
heal.numberOfPages	97 σ.	el
heal.fullTextAvailability	true