Γένεση Κριτικής και Πρόβλεψη Διαβάθμισης
Creators: name: Γιονανίδης, Εμμανουήλ Ιορδάνη
Publisher: name: Aristotle University of Thessaloniki
Year: 2020
Subjects: Υπόδειξη γνώμης
Επεξεργασία Φυσικής Γλώσσας
Νευρωνικά Δίκτυα
Opinion Recommendation
Natural Language Processing
Neural Networks

description: Η έννοια της σύστασης (υπόδειξης) έγκειται στην παροχή μίας υπηρεσίας ή ενός προϊόντος σε ένα χρήστη ή αντιστοίχως καταναλωτή βασισμένη στα ιδιαίτερα ενδιαφέροντά του και τις προτιμήσεις του. Η επιτυχία της προαναφερθείσας διαδικασίας είναι υψίστης σημασίας για ένα σύστημα υποδείξεων (recommendation system), καθορίζοντας κατά μεγάλο βαθμό την απήχησή του. Στην διπλωματική εργασία αναλύεται το πρόβλημα της υπόδειξης γνώμης (opinion recommendation). Αναλυτικότερα, το πρόβλημα αυτό αφορά την πρόβλεψη γραπτής κριτικής και διαβάθμισης ενός χρήστη σε ένα προϊόν, με το οποίο ο συγκεκριμένος χρήστης δεν έχει αλληλεπιδράσει ποτέ στο παρελθόν. Προτείνεται η χρήση τεχνικών βαθιάς μάθησης, λόγω της πρόσφατης προόδου του συγκεκριμένου πεδίου, αλλά και της ευχέρειας των εν λόγω τεχνικών στη μοντελοποίηση φυσικής γλώσσας. Κατά συνέπεια, ο αντικειμενικός στόχος είναι η μοντελοποίηση του χαρακτήρα του χρήστη και η σύλληψη των ιδιαιτεροτήτων του προϊόντος. Χρησιμοποιήθηκαν βαθιά νευρωνικά δίκτυα για την επίτευξη του προαναφερόμενου στόχου. Απαραίτητη προϋπόθεση είναι η διανυσματική αναπαράσταση του κειμένου προς επεξεργασία, η οποία επιτυγχάνεται χρησιμοποιώντας το μοντέλο Skip-Gram. Λαμβάνοντας υπόψιν τις διανυσματικές αναπαραστάσεις των δεδομένων, χρησιμοποιήθηκαν δίκτυα Μακροπρόθεσμης Βραχυπρόθεσμης Μνήμης (LSTM) για τη μοντελοποίηση της προσωπικότητας του χρήστη και του χαρακτήρα του προϊόντος. Η αναδρομική φύση των εν λόγω δικτύων ενδείκνυται για την επεξεργασία ακολουθιακών δεδομένων, όπως είναι η φύση των γραπτών κριτικών. ́Ενας μηχανισμός προσοχής είναι υπεύθυνος για την εξαγωγή των κριτικών του χρήστη που περιέχουν την περισσότερη πληροφορία, καταλήγοντας σε μία καλύτερη αναπαράσταση του χαρακτήρα του χρήστη. Για τη σύλληψη λανθανουσών αλληλεπιδράσεων μεταξύ των εν λόγω οντοτήτων είναι υπεύθυνο ένα δίκτυο Δυναμικής Μνήμης. Η λειτουργία του συγκεκριμένου δικτύου αποτελείται από έναν επαναληπτικό μηχανισμό προσοχής. Με το πέρας της διαδικασίας παρέχεται η διανυσματική αναπαράσταση της αλληλεπίδρασης μεταξύ των οντοτήτων. ́Εχοντας συλλάβει όλη την παρεχόμενη πληροφορία, η διαδικασία αποκωδικοποίησης του διανύσματος σε γραπτή κριτική γίνεται χρησιμοποιώντας ένα δίκτυο LSTM. Η πρόβλεψη της διαβάθμισης αποτελείται από μία στάθμιση μεταξύ του σταθμισμένου αθροίσματος όλων των διαβαθμίσεων για το συγκεκριμένο προϊόν και της πρόβλεψης του δικτύου. Σε επίπεδο εφαρμογής, αναπτύχθηκε ένα μοντέλο, βασισμένο σε δίκτυα LSTMs και στον μηχανισμό προσοχής, σε γλώσσα προγραμματισμού Python για την πρόβλεψη της γραπτής κριτικής και της διαβάθμισης. Χρησιμοποιήθηκαν δημόσια διαθέσιμοι πόροι, όπως είναι το σύνολο δεδομένων του Yelp για ακαδημαϊκή χρήση. Το συγκεκριμένο σύνολο δεδομένων περιέχει γραπτές κριτικές και διαβαθμίσεις χρηστών σε εστιατόρια. Το μοντέλο συγκρίθηκε με ήδη υπάρχοντα μοντέλα στο πρόβλημα που μελετάται
description: Recommendation aims at providing a service or a product to a consumer based on consumer’s special interests. By doing so, a personalized recommendation is provided, which is a feature of utmost importance for a recommendation system. Here, we are interesting in the opinion recommendation task. That is, to consistently generate a text review and a rating score that a certain user would give to a certain product, which has never seen before. The mathematical modeling of natural language, as well as the recent progress in the specific field, suggests that deep learning methods are justified. As a consequence, deep neural networks will be employed for modeling the text reviews with the objective of capturing user and product profiles. As a first step, a vector representation of the text is derived using the Skip-Gram model. Taking into account the extracted text representation, Long Short-Term Memory networks (LSTMs) are used to model user and product profile. The recurrent nature of the foresaid networks can model sequential data, as the existing reviews are. An attention mechanism is used to extract the most informative reviews yielding a better vector representation of the user under consideration. Higher level of abstraction and latent interactions between user and product will be obtained using the Dynamic Memory Network (DMN). The core of the previously mentioned network consists of a recurrent attention mechanism. Having all the information captured in a vector representation, the decoding procedure consists of a standard LSTM to generate the text review in natural language. The rating score prediction is an average between the weighted sum of all the previous ratings for the specific product and model prediction. At a application level, a model for generating customized text review and rating score in Python has been developed. Publicly available sources containing users text reviews will be used, such as Yelp academic data set. Comparisons will be made against state-of-the-art models tested on the same task