FPGA-Acceleration of Machine Learning Algorithm, a case study using Gaussian Naive Bayes

Τζάνος, Γεώργιος; Tzanos, Georgios

dc.contributor.author	Τζάνος, Γεώργιος	el
dc.contributor.author	Tzanos, Georgios	en
dc.date.accessioned	2019-09-13T08:55:33Z
dc.date.available	2019-09-13T08:55:33Z
dc.date.issued	2019-09-13
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/49219
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.16824
dc.rights	Αναφορά Δημιουργού-Μη Εμπορική Χρήση-Όχι Παράγωγα Έργα 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-nc-nd/3.0/gr/	*
dc.subject	Gaussian naive bayes	en
dc.subject	Aapache spark	en
dc.subject	HLS	en
dc.subject	Machine learning	en
dc.subject	Hardware acceleration	en
dc.subject	Κατανεμημένα συστήματα	el
dc.subject	Επιταχυντής υλικού	el
dc.subject	Σύνθεση υψηλού επιπέδου	el
dc.subject	Pynq	en
dc.subject	Μηχανική μάθηση	el
dc.title	FPGA-Acceleration of Machine Learning Algorithm, a case study using Gaussian Naive Bayes	en
heal.type	bachelorThesis
heal.classification	Επιστήμη υπολογιστών	el
heal.classification	Ενσωματωμένα συστήματα	el
heal.language	el
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2019-03-28
heal.abstract	Ζούμε σε μια εποχή που η μηχανική μάθηση και γενικότερα η τεχνητή νοημοσύνη αποτελεί αναπόσπαστο κομμάτι της προσπάθειάς μας να επιλύσουμε προβλήματα με ευφυείς προσεγγίσεις εκμεταλλευόμενοι την δυνατότητά μας να εκπαιδεύσουμε ένα σύστημα. Η μηχανική μάθηση μπορεί να οριστεί ως το φαινόμενο κατά το οποίο ένα σύστημα βελτιώνει την απόδοσή του, κατά την εκτέλεση μιας συγκεκριμένης εργασίας, χωρίς να υπάρχει ανάγκη να προγραμματιστεί εκ νέου. Μαζί όμως με την άνθιση της Μηχανικής Μάθησης και την εύρεση συνεχώς νέων και πιο αποδοτικών αλγορίθμων, η διαρκώς αυξανομένη ανάγκη για επεξεργασία όλο και μεγαλύτερου όγκου δεδομένων μας οδηγεί σιγά σιγά στα όρια των κλασικών λύσεων επεξεργασίας. Με τον διαφαινόμενο κορεσμό να πλησιάζει όλο και περισσότερο, μεγάλο κομμάτι της ερευνάς έχει στραφεί στην αναζήτηση εναλλακτικών λύσεων που εξαιτίας της διαφορετικής φύσης του προσφέρουν και διαφορετικά οφέλη. Μια από τις ποιοτικότερες εναλλακτικές έναντι ενός κλασικού επεξεργαστή, αποτελεί το FPGA, το οποίο σε συγκεκριμένες εργασίες, καταφέρνει τόσο καλύτερη χρονική επίδοσή λόγω της ικανότητάς του να πραγματοποιεί παράλληλους υπολογισμούς όσο και καλύτερης ενεργειακή επίδοση λόγω της χαμηλής ισχύος που καταναλώνει. Στα πλαίσια αυτής της διπλωματικής δημιουργήσαμε έναν επιταχυντή υλικού για τον αλγοριθμό του Gaussian Naive Bayes με στόχο την καλύτερη δυνατή χρονική επίδοση. Προσπαθήσαμε μέσω αυτής της μελέτης να παρουσιάσουμε τα οφέλη της χρήσης ενός FPGA σε ενσωματωμένα συτήματα χαμηλής ενέργειας αλλά και να παρουσιάσουμε μια μεθοδολογία δημιουργίας ενός ετερογενούς κατανεμημένου συστήματος με χρήση πολλαπλών FPGA. Η διπλωματική αυτή αποτελεί παράλληλα κομμάτι μιας συνολικότερης προσπάθειας για την δημιουργία βιβλιοθηκών οι οποίες θα περιέχουν βασικές εργασίες ενός Data Center υλοποιημένες σε FPGA. Για τις παραπάνω ενέργειες εγίνε χρήση των πλακετών Zedboard και Pynq-Z1 και αξιολογήσαμε τα αποτελέσματα μας χρησιμοποιώντας τον αλγόριθμο του Gaussian Naive Bayes που αποτελεί μια ευρέως χρησιμοποιούμενη τεχνική Μηχανικής Μάθησης για στατιστική ταξινόμηση. Για τον προγραμματισμό των FPGA έγινε μελέτη και αξιοποίηση των δυνατοτήτων της Σύνθεσης Υψηλού Επιπέδου προκειμένου να υλοποιήσουμε έναν αποδοτικό επιταχυντή υλικού.	el
heal.abstract	We live at a time that machine learning is an integral part of our effort to solve problems with intelligent approaches by taking advantage of our ability to train a system. Machine Learning can be defined as the phenomenon where a system improves its performance, while it is executing a particular task, without the need for re-programming. But with the bloom of Machine Learning and the ever-increasing need, for more and more data processing, is slowly leading us, to the limits of classical processing solutions. Thats’ why a big part of the research is trying to find alternatives solutions, that due to their different nature, offer and different benefits. One of the most qualitative alternative to a classic processor is FPGA which, in specific tasks, is capable of better performance in time due to its ability to perform parallel calculations and better performance in energy because of the low power it consumes. In the context of this diploma, we implemented a Hardware accelerator on Gaussian Naive Bayes algorithm trying to optimize its time performance. We have attempted to present the benefits of using a FPGA in embedded low energy systems and to present a method for creating a heterogeneous distributed system using multiple FPGAs This diploma is also part of a larger effort to create libraries that will contain basic tasks of a Data Center implemented in FPGA. For the needs of our work we used the Zedboard and Pynq-Z1 boards and evaluated our results using the Gaussian Naive Bayes algorithm, a widely used Machine Learning technique for statistical classification. We have studied and exploited the capabilities of High-Level Composite in order to implement an efficient hardware accelerator for the programming of FPGA.	en
heal.advisorName	Σούντρης, Δημήτριος	el
heal.committeeMemberName	Γκούμας, Γεώργιος	el
heal.committeeMemberName	Πεκσμετζή, Κιαμάλ	el
heal.committeeMemberName	Σούντρης, Δημήτριος	el
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών. Τομέας Τεχνολογίας Πληροφορικής και Υπολογιστών. Εργαστήριο Μικροϋπολογιστών και Ψηφιακών Συστημάτων VLSI	el
heal.academicPublisherID	ntua
heal.numberOfPages	107 σ.
heal.fullTextAvailability	true