Analysis of recommender system algorithms in the Movielens dataset
Creators: name: Φουδούλη, Αναστασία Κωνσταντίνου
Publisher: name: Aristotle University of Thessaloniki
Year: 2020
Subjects: Συστήματα συστάσεων
Μηχανική Μάθηση
Νευρωνικά Δίκτυα
Μάθηση με επίβλεψη
Σημασιολογικά χαρακτηριστικά
Recommender systems
Collaborative Filtering
Alternating least squares (ALS)
Singular value decomposition (SVD)
Latent Features
Embeddings
Neural Networks

description: Recommender Systems encompass a class of techniques and algorithms which are able to suggest “relevant” items to users. Ideally, the suggested items are as relevant to the user as possible, so that the user can engage with those items: YouTube videos, news articles, online products and so on. Items are ranked according to their relevancy, and the most relevant ones are shown to the user. The relevancy is something that the recommender system must determine and is mainly based on historical data. Recommender systems are generally divided into two main categories: collaborative filtering and content-based systems. In this thesis are focusing on Collaborative Filtering algorithms. In the first part, and introduction to recommendation engines, classification of recommender systems algorithms and evaluation metrics are defined. In chapter 2, the Movielens dataset is presented and alterations that were made to the original data due to limitation of the machine that run the algorithms. In chapter 3, a variety of algorithms that generate item to item recommendations is presented. These algorithms work solely on the interaction matrix and transformation that are based on natural language preprocessing techniques. In the 4th and 5th part, three algorithms that predict user – item rating are created. The first two of them, alternating least squares (ALS) and singular vale decomposition (SVD) are matrix factorization techniques and the last one is a recommender system based on a neural network of latent features. The evolution of errors as the training iterations pass is also presented. Concluding the analysis, it was made clear that even though the dataset on hand had a very limited amount of information, consisting only with user and movie ids along with the given rating, a recommender system could be build and achieve astonishing results in terms of error. The strength of using latent features representations was underlined, as all algorithms that used them generated very promising results, being able to achieve very low errors in their test sets. Neural network architectures of embeddings showed the best results, having the lowest rating prediction error.
description: Τα συστήματα συστάσεων αποτελούν μία κατηγορία από τεχνικές και αλγορίθμους οι οποίοι μπορούν να προτείνουν «σχετικά» αντικείμενα στους χρήστες ενός συστήματος. Ιδανικά, τα αντικείμενα που προτείνονται βρίσκονται όσο το δυνατόν πιο κοντά στις προτιμήσεις του χρήστη, αυξάνοντας έτσι την πιθανότητα αλληλεπίδρασης του χρήστη με αυτά. Τέτοια παραδείγματα αποτελούν βίντεο στο YouTube, άρθρα, προϊόντα και άλλα. Το πόσο σχετικά θεωρούνται τα αντικείμενα αυτά με τον συγκεκριμένο χρήστη ορίζεται συνήθως βασιζόμενο σε πληροφορία που υπάρχει στα ιστορικά δεδομένα. Τα συστήματα αυτοματοποιημένων συστάσεων χωρίζονται σε δύο μεγάλες υποκατηγορίες: «Συνεργατικό» φιλτράρισμα (collaborative filtering) και σε φιλτράρισμα με βάση το περιεχόμενο (content-based filtering). Στην παρούσα εργασία δίνεται έμφαση στους αλγορίθμους που υπάγονται στην πρώτη κατηγορία. Στο πρώτο μέρος της εργασίας γίνεται μία εισαγωγή στα συστήματα συστάσεων, κατηγοριοποίηση των αλγορίθμων στις υποκατηγορίες και παρουσίαση των μετρικών που χρησιμοποιούνται για την αξιολόγηση των παραγόμενων αποτελεσμάτων. Στο δεύτερο κεφάλαιο παρουσιάζεται το σύνολο δεδομένων Movielens και όσες αλλαγές έγιναν σε αυτό για τις ανάγκες της παρούσας εργασίας. Στο 3ο κεφάλαιο, παρουσιάζεται μία γκάμα αλγορίθμων που πραγματοποιούν συστάσεις νέων αντικειμένων βασιζόμενες σε άλλα αντικείμενα (item-to-item recommendations). Οι αλγόριθμοι αυτοί εφαρμόζονται απευθείας στον πίνακα των δράσεων χρήστη-αντικειμένου και βασίζονται σε τεχνικές επεξεργασίας λόγου. Στα επόμενα δύο κεφάλαια παρουσιάζονται τρείς αλγόριθμοι που πραγματοποιούν συστάσεις ταινιών στους χρήστες. Οι δύο πρώτοι αλγόριθμοι, alternating least squares και singular value decomposition αποτελούν τεχνικές παραγοντοποίησης πίνακα, ενώ ο τρίτος είναι ένα σύστημα συστάσεων που βασίζεται σε ένα νευρωνικό δίκτυο με «κρυφά» χαρακτηριστικά (latent features). Για κάθε έναν από τους αλγορίθμους δίνονται διαγράμματα που περιγράφουν την εξέλιξη των σφαλμάτων όσο τα μοντέλα εκπαιδεύονται για περισσότερες εποχές. Ολοκληρώνοντας την εργασία, γίνεται εμφανές ότι παρόλο που το σύνολο δεδομένων που χρησιμοποιήθηκε είχε ελάχιστη πληροφορία, ήταν δυνατό να παραχθούν μοντέλα συστάσεων που κατάφεραν να έχουν πολύ χαμηλά σφάλματα στο σύνολο τεσταρίσματος. Επιπλέον, υπογραμμίζεται η σημαντικότητα μοντελοποίησης με χρήση latent features καθώς τα μοντέλα που τα χρησιμοποίησαν είχαν χαμηλότερα σφάλματα σε σχέση με τα άλλα. Τέλος, η καλύτερη επίδοση σημειώθηκε από το νευρωνικό δίκτυο που παρουσίασε το μικρότερο σφάλμα πρόβλεψης.