Σύνδεση Οντοτήτων χωρίς παραδείγματα σε Βάσεις Γνώσης μέσω Μετασχηματιστή
Creators: name: Παρταλίδου, Ελένη Δημητρίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2021
Subjects: Σύνδεση Οντοτήτων χωρίς παραδείγματα σε Βάσεις Γνώσης
Παραγωγή Υποψήφιων
Ταξινόμηση Υποψήφιων
Μετασχηματιστής
Βάση Γνώσης
Αναγνώριση Ονοματικών Οντοτήτων
Zero-shot Entity Linking
Candidate Generation
Candidate Ranking
Transformers
BERT
Knowledge Base
Named Entity Recognition

description: Στην παρούσα διπλωματική εργασία γίνεται μια εισαγωγή στη Σύνδεση Οντοτήτων χωρίς παραδείγματα σε Βάσεις Γνώσης, ένα έργο της Επεξεργασίας Φυσικής Γλώσσας, όπου ένα μοντέλο αναθέτει ένα μοναδικό αναγνωριστικό σε ονοματικές οντότητες που εντοπίζονται μέσα σε κείμενο, εστιάζοντας στην κατανόηση της φυσικής γλώσσας. Αρχικά παρουσιάζονται τα βασικά βήματα αυτού του έργου, καθώς και οι εφαρμογές που έχει σε πραγματικά προβλήματα. Οι μέθοδοι που βρίσκονται στην αιχμή της τεχνολογίας και υλοποιούν Σύνδεση Οντοτήτων χωρίς παραδείγματα σε Βάσεις Γνώσης χρησιμοποιούν τους Μετασχηματιστές, μια πρόσφατη κατηγορία μοντέλων βαθιάς μάθησης που εκμεταλλεύονται τεχνικές εύρεσης της χρήσιμης πληροφορίας κατά την επεξεργασία και γίνεται μια εισαγωγή σε αυτούς. Στα πλαίσια της διπλωματικής εργασίας έγινε διεξαγωγή πολλών πειραμάτων που αφορούσαν τον τρόπο που εξάγει ένα μοντέλο υποψήφιους και τους αναθέτει πιθανότητες, τη μορφή που πρέπει να έχει η πληροφορία όταν δίνεται στους Μετασχηματιστές, εάν ο τύπος της ονοματικής οντότητας θα πρέπει να χρησιμοποιείται ή να παραβλέπεται, καθώς και άλλα πειράματα που αναλύονται περισσότερο. Τα πειράματα είχαν καλά αποτελέσματα και φάνηκε ότι η τιμή της μετρικής recall ενός μοντέλου που εμπεριέχει τη σωστή οντότητα μέσα σε ένα μικρό σύνολο υποψήφιων (50 υποψήφιοι) είναι περίπου 84%. Ακόμη, τα πειράματα υποδεικνύουν την ανάγκη για ύπαρξη κατάλληλων μεθόδων που υπολογίζουν την ομοιότητα μεταξύ ενός εγγράφου που διαθέτει την αναφορά και μιας περιγραφής της οντότητας, ώστε να εξάγονται καλά αποτελέσματα. Τέλος, γίνεται συζήτηση των αποτελεσμάτων και προκύπτουν κάποια συμπεράσματα
description: This thesis is an introduction to Zero-shot Entity Linking, a Natural Language Processing (NLP) task, where a model assigns a unique identity to named entities mentioned in text, focusing mainly on language comprehension. The basic steps to apply this task and its applications are presented. State-of-the-art Zero-shot Entity Linking methods use Transformers, a newly introduced deep learning model that exploits Attention to process information, and standard methodologies are introduced. Within this thesis, many experiments were conducted, concerning the way that the model extracts a set of candidate entities and assigns probabilities to them, the form information has when it is fed to a Transformer, whether the entity type of a mention should be used or overlooked and other experiments that are further analyzed. The experiments had good results and it is showed that the recall value of a model to contain the correct entity description in a very small candidate set (50 candidates) is about 84%. The experiments that were conducted indicate the need for having proper methods that compute the similarity between a document mention and an entity description, in order to have good results. Finally, the evaluation results are discussed and conclusions are drawn