Hybrid Recommendation Systems using Neural Networks

Bizimis, Michael; Μπιζίμης, Μιχαήλ

dc.contributor.author	Bizimis, Michael	en
dc.contributor.author	Μπιζίμης, Μιχαήλ	el
dc.date.accessioned	2023-01-18T08:55:10Z
dc.date.available	2023-01-18T08:55:10Z
dc.identifier.uri	https://dspace.lib.ntua.gr/xmlui/handle/123456789/56744
dc.identifier.uri	http://dx.doi.org/10.26240/heal.ntua.24442
dc.description	Εθνικό Μετσόβιο Πολυτεχνείο--Μεταπτυχιακή Εργασία. Διεπιστημονικό-Διατμηματικό Πρόγραμμα Μεταπτυχιακών Σπουδών (Δ.Π.Μ.Σ.) "Επιστήμη Δεδομένων και Μηχανική Μάθηση"	el
dc.rights	Αναφορά Δημιουργού - Παρόμοια Διανομή 3.0 Ελλάδα	*
dc.rights.uri	http://creativecommons.org/licenses/by-sa/3.0/gr/	*
dc.subject	Deep Learning	en
dc.subject	Recommendation Systems	en
dc.subject	Neural Collaborative Filtering	en
dc.subject	Attention	en
dc.subject	Graph Neural Networks	en
dc.subject	Βαθιά Μάθηση	el
dc.subject	Συστήματα Συστάσεων	el
dc.subject	Συνεργατικό Φιλτράρισμα	el
dc.subject	Προσοχή	el
dc.subject	Νευρωνικά Δίκτυα Γράφων	el
dc.title	Hybrid Recommendation Systems using Neural Networks	en
heal.type	masterThesis
heal.secondaryTitle	Υβριδικά Συστήματα Συστάσεων βασισμένα σε Νευρωνικά Δίκτυα	el
heal.classification	Deep Learning	en
heal.classification	Recommendation Systems	en
heal.language	en
heal.access	free
heal.recordProvider	ntua	el
heal.publicationDate	2022-10-27
heal.abstract	As consumers of the 21st century, deciding where to focus our limited time and attention, when faced with making a choice over a vast number of alternatives, can quickly become overwhelming. To alleviate this problem, recommendation systems, capable of automatically filtering these options and suggesting to us only a smaller subset of relevant ones, tailored to our preferences, have been widely employed. In this thesis, we develop a hybrid recommendation system, based on three increasingly complex neural network architectures, which we then apply for movie recommendations. More specifically, we start by combining the Neural Collaborative Filtering framework, a Collaborative Filtering method based on neural networks, with content-based methods for creating item and user profiles, in order to acquire said hybrid recommendation system. Then, we extend this architecture in two separate ways. In the first, instead of relying on fixed user profiles, we create them dynamically during the forward pass, wherein each aggregated item profile that is part of the user profile is assigned a different weight as a result of an item-item attention mechanism. This mechanism, not only improves the model's performance, but also offers some useful explainability. In the second, we revert back to using fixed user profiles, except now we incorporate Graph Neural Networks into the embedding process, in an attempt to explicitly capture the collaborative signal on the user-item bipartite graph and, in this way, acquire better user and item embeddings. For the purposes of this thesis, we create a custom dataset by combining of a popular Collaborative Filtering dataset for movies with movie metadata as their content. We proceed to train models from the three aforementioned architectures on it, under both a regression and a ranking setting and, then, we evaluate and compare them using suitable regression as well as ranking metrics. In our experiments, we found that the regression training setting works best. Out of the three architectures, the second performs the best on the test set, whilst simultaneously offering some much desired explainability. On the contrary, we found that the third did not perform any better on our dataset than the much simpler first one, possibly due to the lack of complicated enough patterns in it. Finally, to showcase our best model, we deploy it in a demo web application, where a user can receive explainable movie recommendations after rating movies in our dataset.	en
heal.abstract	Ως καταναλωτές του 21ου αιώνα, είναι δύσκολο να επιλέξουμε που να εστιάσουμε την προσοχή και τον χρόνο μας, όταν καλούμαστε να πάρουμε μια απόφαση ανάμεσα σε ένα τεράστιο πλήθος επιλογών. Για την ελάττωση αυτού του προβλήματος, συστήματα συστάσεων, ικανά να εξετάζουν αυτόματα αυτές τις επιλογές και να μας προτείνουν μόνο ένα μικρότερο υποσύνολο τους, έχουν χρησιμοποιηθεί ευρέως. Σε αυτήν τη διπλωματική εργασία, αναπτύσσουμε ένα υβριδικό σύστημα συστάσεων, βασισμένο σε τρεις αύξουσας πολυπλοκότητας αρχιτεκτονικές νευρωνικών δικτύων, το όποιο εφαρμόζουμε για τη σύσταση ταινιών. Πιο συγκεκριμένα, ξεκινάμε συνδυάζοντας μία μέθοδο Συνεργατικού Φιλτραρίσματος, που βασίζεται σε νευρωνικά δίκτυα, με μεθόδους δημιουργίας προφίλ χρηστών και αντικειμένων βασισμένα στο περιεχόμενο, έτσι ώστε να καταλήξουμε με ένα υβριδικό σύστημα συστάσεων βασισμένο σε νευρωνικά δίκτυα. Ύστερα, επεκτείνουμε αυτήν την αρχιτεκτονική με δύο διαφορετικούς τρόπους. Στον πρώτο, αντί να στηριχθούμε σε στατικά προφίλ χρηστών, τα δημιουργούμε δυναμικά, ως μέρος του νευρωνικού δικτύου, υπολογίζοντας το βάρος με το οποίο θα συναθροιστεί κάθε αντικείμενο-μέρος του προφίλ μέσω ενός μηχανισμού προσοχής μεταξύ δύο αντικειμένων. Αυτός ο μηχανισμός προσφέρει, όχι μόνο καλύτερη απόδοση, αλλά και έναν βαθμό επεξηγησιμότητας. Στον δεύτερο, επιστρέφουμε στη χρήση στατικών προφίλ χρήστη, αλλά τώρα ενσωματώνουμε Νευρωνικά Δίκτυα Γράφων στη διαδικασία παραγωγής διανυσματικών αναπαραστάσεων για χρήστες και αντικείμενα, έτσι ώστε να συλλέξουμε άμεσα το συνεργατικό σήμα του διμερούς γράφου χρηστών-αντικειμένων. Στα πλαίσια αυτής της εργασίας, δημιουργούμε ένα δικό μας σύνολο δεδομένων, συνδυάζοντας ένα δημοφιλές σύνολο δεδομένων Συνεργατικού Φιλτραρίσματος για ταινίες με μεταδεδομένα ταινιών. Στη συνέχεια, εκπαιδεύουμε μοντέλα από τις τρεις προαναφερθείσες αρχιτεκτονικές σε αυτό για παλινδρόμηση αλλά και για κατάταξη και, έπειτα, τα αξιολογούμε με αντίστοιχες μετρικές. Στα πειράματά μας, διαπιστώσαμε ότι η εκπαίδευση για παλινδρόμηση είναι προτιμότερη, ότι η δεύτερη αρχιτεκτονική αποδίδει καλύτερα, ενώ ταυτόχρονα προσφέρει έναν σημαντικό βαθμό επεξηγησιμότητας, και ότι η τρίτη αρχιτεκτονική δεν αποδίδει καλύτερα από την απλούστερη πρώτη στα δικά μας δεδομένα. Τέλος, δημιουργούμε μία ενδεικτική εφαρμογή διαδικτύου, όπου ένας χρήστης μπορεί να λάβει επεξηγήσιμες συστάσεις ταινιών, έχοντας πρώτα βαθμολογήσει ταινίες του συνόλου δεδομένων μας.	el
heal.advisorName	Potamianos, Alexandros	en
heal.committeeMemberName	Potamianos, Alexandros	en
heal.committeeMemberName	Papavassiliou, Symeon	en
heal.committeeMemberName	Giannakopoulos, Theodoros	en
heal.academicPublisher	Εθνικό Μετσόβιο Πολυτεχνείο. Σχολή Ηλεκτρολόγων Μηχανικών και Μηχανικών Υπολογιστών	el
heal.academicPublisherID	ntua
heal.numberOfPages	73 σ.	el
heal.fullTextAvailability	false