Eurostat's Knowledge Graph Enrichment
Creators: name: Σκαπέρδας, Ευστράτιος Γρηγορίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2024
Subjects: Μηχανική μάθηση
Γράφοι γνώσης
Βαθιά μάθηση
Εμπλουτισμός γράφων γνώσης
Νευρωνικά δίκτυα γράφων
Machine learning
Knowledge graphs
Deep learning
Knowledge graph enrichment
Graph neural networks

description: In recent years, the enrichment of knowledge graphs (KGs) has become increasingly important in various domains, providing a robust foundation for data integration, information retrieval, and artificial intelligence applications. This thesis investigates the enrichment of a knowledge graph that was developed in the first half of 2022, using data mainly from Eurostat. This knowledge graph consists of 307.444 triples in total, 171.050 unique entities, with 59.735 of them as subjects and 150.588 as objects, and 43 unique relations. Knowledge graphs are organized representations of knowledge, including entities, properties, and the connections between them. Knowledge graphs are essential for structuring data in a machine-understandable manner, facilitating complex data processing, and aiding in semantic search and reasoning. The importance of knowledge graphs is that they facilitate the precise and efficient retrieval of information and decision-making by connecting a variety of categories of information. Machine learning, a subset of artificial intelligence, has become increasingly dependent on structured information representations, such as knowledge graphs, to enhance its capacity to understand and analyze complex data. It plays a crucial role in the development and improvement of knowledge graphs. Through the use of machine learning methods, we can automate the process of extracting, classifying, and predicting connections within the data. This leads to a substantial improvement in the accuracy and scalability of constructing knowledge graphs. This thesis investigates several machine learning approaches to tackle significant obstacles in knowledge graph augmentation. Graph neural networks (GNNs) have become powerful methods for extracting meaningful representations from knowledge graphs. They enable various tasks such as entity categorization, link prediction, and semantic similarity evaluation. Furthermore, the combination of machine learning and knowledge graphs enables activities such as discovering new information and conducting semantic searches. In knowledge graphs and machine learning, triple classification and relation prediction problems are critical issues. The objective of triple classification is to ascertain the accuracy or validity of a particular triple (consisting of a subject, predicate, and object) within a knowledge graph. This task entails assigning labels to triples depending on whether they are present or absent in the knowledge graph, such as "true" or "false." It has a vital function in verifying the coherence and comprehensiveness of knowledge graphs. Conversely, relation prediction is concerned with forecasting the specific sort of connection (predicate) that links two entities (subject and object) in a knowledge network. This job is critical for tasks such as link prediction and knowledge base completion, where successfully forecasting associations aids in filling in missing links and improving the graph's structure. Both tasks use machine learning methodologies, such as graph neural networks and embedding models, to acquire information about items and connections. This enables precise categorization and prediction inside knowledge graphs. Combining triple classification and relation prediction tasks entails leveraging machine learning models to make accurate predictions within knowledge graphs. One approach is to use triple classification models that can predict the validity of triples across all possible relations, thereby indirectly performing relation prediction. This method typically involves the following steps: First, encode the subject and object entities, as well as candidate relations, into a model that can produce a probability score for each relation. Second, for each triple (subject, relation, object), the model evaluates the likelihood that the triple is valid under each candidate relation. Finally, the model selects the relation associated with the highest probability score as the predicted relation for that triple. The triple classification model effectively combines the tasks by determining the likelihood of three things having different connections. This makes it easier to accurately predict relationships in knowledge graphs. By combining these tasks, researchers can enhance the completeness and accuracy of knowledge bases, supporting applications such as semantic search, recommendation systems, and automated reasoning in various domains.
description: Τα τελευταία χρόνια, ο εμπλουτισμός των γράφων γνώσης (KGs) έχει γίνει όλο και πιο σημαντικός σε διάφορους τομείς, παρέχοντας ένα ισχυρό θεμέλιο για την ολοκλήρωση δεδομένων, την ανάκτηση πληροφοριών και τις εφαρμογές τεχνητής νοημοσύνης. Η παρούσα εργασία διερευνά τον εμπλουτισμό ενός γράφου γνώσης που αναπτύχθηκε το πρώτο εξάμηνο του 2022, χρησιμοποιώντας δεδομένα κυρίως από την Eurostat. Ο συγκεκριμένος γράφος γνώσης αποτελείται από 307.444 τριπλέτες συνολικά, 171.050 μοναδικές οντότητες, με 59.735 από αυτές ως υποκείμενα και 150.588 ως αντικείμενα, και 43 μοναδικές σχέσεις. Οι γράφοι γνώσης είναι οργανωμένες αναπαραστάσεις της γνώσης, συμπεριλαμβάνοντας τις οντότητες, τις ιδιότητες και τις μεταξύ τους συσχετίσεις. Οι γράφοι γνώσης είναι απαραίτητοι για τη δόμηση των δεδομένων με τρόπο κατανοητό από τις μηχανές, τη διευκόλυνση της σύνθετης επεξεργασίας δεδομένων και την υποβοήθηση της σημασιολογικής αναζήτησης και συλλογιστικής. Η ιδιαίτερη σημασία τους έγκειται στο γεγονός ότι διευκολύνουν την ακριβή και αποτελεσματική ανάκτηση πληροφοριών και τη λήψη αποφάσεων συνδέοντας ποικίλες κατηγορίες πληροφοριών. Η μηχανική μάθηση, ένα υποσύνολο της τεχνητής νοημοσύνης, εξαρτάται όλο και περισσότερο από δομημένες αναπαραστάσεις πληροφοριών, όπως οι γράφοι γνώσης, για να ενισχύσει την ικανότητά της να κατανοεί και να αναλύει πολύπλοκα δεδομένα. Διαδραματίζει κρίσιμο ρόλο στην ανάπτυξη και τη βελτίωση των γράφων γνώσης. Μέσω της χρήσης μεθόδων μηχανικής μάθησης, μπορούμε να αυτοματοποιήσουμε τη διαδικασία εξαγωγής, ταξινόμησης και πρόβλεψης συνδέσεων εντός των δεδομένων. Αυτό οδηγεί σε σημαντική βελτίωση της ακρίβειας και της επεκτασιμότητας της κατασκευής γράφων γνώσης. Η παρούσα εργασία διερευνά διάφορες προσεγγίσεις μηχανικής μάθησης για την αντιμετώπιση σημαντικών εμποδίων στον εμπλουτισμό γράφων γνώσης. Τα νευρωνικά δίκτυα γράφων (GNN) έχουν ανελιχθεί σε ισχυρές μεθόδους για την εξαγωγή ουσιαστικών πληροφοριών και αναπαραστάσεων από γράφους γνώσης. Επιτρέπουν διάφορες εργασίες όπως η κατηγοριοποίηση οντοτήτων, η πρόβλεψη συνδέσμων και η αξιολόγηση σημασιολογικής ομοιότητας. Επιπλέον, ο συνδυασμός της μηχανικής μάθησης και των γράφων γνώσης επιτρέπει δραστηριότητες όπως η ανακάλυψη νέων πληροφοριών και η διεξαγωγή σημασιολογικών αναζητήσεων. Τα προβλήματα κατηγοριοποίησης τριπλετών και πρόβλεψης σχέσεων αποτελούν κρίσιμα ζητήματα στους γράφους γνώσης και στη μηχανική μάθηση. Ο στόχος της κατηγοριοποίησης τριπλετών είναι να εξακριβωθεί η ακρίβεια ή η εγκυρότητα μιας συγκεκριμένης τριπλέτας (που αποτελείται από ένα υποκείμενο, ένα κατηγόρημα και ένα αντικείμενο) μέσα σε έναν γράφο γνώσης. Το έργο αυτό συνεπάγεται την ανάθεση ετικετών στις τριπλέτες ανάλογα με το αν είναι παρούσες ή όχι στον γράφο γνώσης, όπως "αληθής" ή "ψευδής". Έχει ζωτική σημασία για την επαλήθευση της συνοχής και της πληρότητας των γράφων γνώσης. Αντίθετα, η πρόβλεψη σχέσεων ασχολείται με την πρόβλεψη συγκεκριμένης σύνδεσης (κατηγόρημα) που συνδέει δύο οντότητες (υποκείμενο και αντικείμενο) σε έναν γράφο γνώσης. Αυτό είναι κρίσιμο για εργασίες όπως η πρόβλεψη συνδέσεων και η συμπλήρωση βάσεων γνώσης, όπου η επιτυχής πρόβλεψη συνδέσεων βοηθά στη συμπλήρωση των συνδέσεων που λείπουν και στη βελτίωση της δομής του γράφου. Και οι δύο εργασίες χρησιμοποιούν μεθοδολογίες μηχανικής μάθησης, όπως τα νευρωνικά δίκτυα γράφων και τα μοντέλα διανυσματικών αναπαραστάσεων (embeddings), για την απόκτηση πληροφοριών σχετικά με τις οντότητες και τις συνδέσεις. Αυτό επιτρέπει την ακριβή κατηγοριοποίηση και πρόβλεψη εντός των γράφων γνώσης. Ο συνδυασμός εργασιών ταξινόμησης τριπλετών και πρόβλεψης σχέσεων περιλαμβάνει την αξιοποίηση μοντέλων μηχανικής μάθησης για την επίτευξη ακριβών προβλέψεων, σε διαφόρους τομείς, σε γράφους γνώσης. Μια προσέγγιση είναι η χρήση μοντέλων ταξινόμησης τριπλετών που μπορούν να προβλέψουν την εγκυρότητα των τριπλετών σε όλες τις πιθανές σχέσεις, εκτελώντας έτσι έμμεσα την πρόβλεψη σχέσεων. Αυτή η μέθοδος περιλαμβάνει συνήθως τα ακόλουθα βήματα: πρώτα, κωδικοποίηση των οντοτήτων υποκειμένου και αντικειμένου μαζί με τις υποψήφιες σχέσεις σε ένα μοντέλο ικανό να παράγει μια πρόβλεψη πιθανότητας για κάθε σχέση. Δεύτερον, για κάθε τριπλέτα, το μοντέλο αξιολογεί την πιθανότητα η τριπλέτα να είναι έγκυρη κάτω από κάθε υποψήφια σχέση. Τέλος, η σχέση που σχετίζεται με την υψηλότερη βαθμολογία πιθανότητας επιλέγεται ως η προβλεπόμενη σχέση για τη συγκεκριμένη τριπλέτα. Αυτή η προσέγγιση ενσωματώνει αποτελεσματικά τις εργασίες πρόβλεψης σχέσεων και κατηγοριοποίησης τριπλετών αξιοποιώντας την ικανότητα του μοντέλου ταξινόμησης τριπλετών να αξιολογεί την πιθανότητα τριπλετών κάτω από διαφορετικές σχέσεις, διευκολύνοντας έτσι την ακριβή πρόβλεψη σχέσεων μέσα σε γράφους γνώσης. Συνδυάζοντας αυτές τις εργασίες, οι ερευνητές μπορούν να ενισχύσουν την πληρότητα και την ακρίβεια των βάσεων γνώσης, υποστηρίζοντας εφαρμογές όπως η σημασιολογική αναζήτηση, τα συστήματα συστάσεων και η αυτοματοποιημένη συλλογιστική σε διάφορους τομείς.