言語処理学会 第30回年次大会 発表論文集（2024年3月）

一部のエンティティに紐づくテキスト情報を知識グラフ埋め込みに活用するための手法
風間 健太郎 1 中村 光祐 1 乙村 浩太郎 1 小路 悠介 1
1 三菱電機株式会社 情報技術総合研究所{ kazama.kentaro@cw, nakamura.kosuke@ds,otomura.kotaro@df,koji.yusuke@bx }.mitsubishielectric.co.jp

概要
知識グラフ埋め込みは知識グラフの構成要素をベクトルとして埋め込む手法で，近年，構成要素に紐づくテキストを利用して性能を向上させる手法が提案されている．一方，実用上対象となる知識グラフにおいては，有効なテキスト情報を持つ要素と持たない要素が混在する場合がありえる．本研究では，一部のエンティティのみ有効なテキスト情報が紐づく知識グラフにおいてもテキスト情報を活用可能な手法を提案する．実際の社内技術文書から構築した知識グラフを対象にリンク予測タスクによって精度を評価したところ，ベースとなる TransE を上回る精度を達成し，提案手法が一部のエンティティにのみ有効なテキスト情報が紐づく知識グラフに対して効果があることを確認した．

1

はじめに

知識グラフは現実世界の知識を計算機で扱いやすい形で記述する手段の一つであり，質問応答やレコメンデーションなどに広く利用されている．知識グ
ラフは，ノードがエンティティを，エッジがその両端のエンティティ間の関係性を表す有向グラフであり，1 つのファクトをエッジの始点エンティティ ℎと終端エンティティ 𝑡 およびリレーション 𝑟 からなるトリプル (ℎ, 𝑟, 𝑡) で表す [1]．
知識グラフは多くの場合不完全であり，欠落した知識を補完する必要がある．知識補完のためのメジャーなアプローチの 1 つとして，知識グラフ埋め込みモデルを用いたリンク予測がある．知識グラフ
埋め込みは，エンティティとリレーションを低次元のベクトルとして埋め込む手法で，上述したリンク予測の他，エンティティやトリプルの分類・クラスタリングなど離散的なグラフの状態では難しい様々なタスクに応用される [2]．
初期の知識グラフ埋め込みモデルは，グラフの構造情報のみに基づいて埋め込みを学習するため，グラフが不完全だったり疎な場合，その精度が低下してしまう．この問題に対処するため，近年ではエンティティやリレーションを説明するテキストの情報を活用した埋め込み手法が提案されている [3]．
こうした既存のテキスト情報を活用する手法では，全てのエンティティやリレーションに対応するテキスト情報が与えられたり，検索により対応するテキストを見つけられることを前提として，学習プロセスやモデルの構造が設計されている．
しかし，実用において対象とされる実際の知識グ
ラフにおいては，エンティティやリレーションのタイプによって有効なテキスト情報を持たなかったり，テキスト情報を正しく獲得できないことがある．例えば，企業の持つ文書データベースから構築した知識グラフでは，書類の作成者の人物のタイプのエンティティは人名以外に直接関連するテキスト情報を持たないことが考えられる．また，文書がPDF 等で保存されている場合，テキスト情報を保持しているとは限らない．
そこで本研究では，一部のエンティティにのみ有効なテキスト情報が紐づいている知識グラフを対象に，効果的にテキスト情報を活用する知識グラフ埋め込みモデルを提案する．

2

関連研究

リンク予測は ℎ か 𝑡 が欠けたトリプル(ℎ, 𝑟, ?), (?, 𝑟, 𝑡) に 対 し て，そ の 欠 け た エ ン テ ィ
ティを予測する問題として定式化される．知識グ
ラフ埋め込みモデルでは一般に，トリプル (ℎ, 𝑟, 𝑡)に対して，その尤もらしさを評価するスコア関数
𝑓 (ℎ, 𝑟, 𝑡) を定義し，既知のトリプルに対してこれを― 2937 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

最大化するように，埋め込みベクトルを学習する．

表1

知識グラフ埋め込みモデルの最も典型的な例としてあげられる TransE[4] では，エンティティをユー
クリッド空間上の超球面上の点を指すベクトルとして，リレーションを平行移動として表現し，既知の技術文書 KG 中のエンティティのタイプと件数
タイプ
説明件数Document
技術文書
56,816
Person
著者
2,126
KeyPhrase 重要語 (概要から抽出) 86,621
Aﬃliation
所属部署
1,085

トリプルに対して，h + r = t が成り立つように，すなわち以下のスコア関数を最大化するように学習する．
𝑓 (ℎ, 𝑟, 𝑡) = − ∥h + r − t∥ 𝑝(1)

ここで ∥·∥ 𝑝 は 𝑙 𝑝 ノルムを表す．TransE の派生モデルとして，埋め込み空間を複素空間とする RotatE[5]表 2 技術文書 KG 中のリレーションと件数
リレーション名
説明件数
CONTAIN
概要にその重要語を持つ 1,759,871
WRITTEN ﬁrst
文書の筆頭著者を指す
56,816
WRITTEN subsequent 文書の筆頭以外の著者を指す 51,767
BELONG TO
人物の所属を指す
4,103
IS PART OF
上位の部署を指す732

や，四元数空間に埋め込む QuatE[6] などが提案されレーションの対応するテキスト情報が，十分に利用ている．

できることを前提としている．そこで以降では，一また，グラフの隣接テンソルのテンソル分解に基部のエンティティにのみ有効なテキスト情報が紐づづいて埋め込みを獲得する手法 [7, 8] や，畳み込みいている知識グラフを対象に，テキスト情報を活用ニューラルネットワークやグラフニューラルネットする知識グラフ埋め込みモデルを提案する．

ワークを用いて埋め込みベクトルを獲得する手法も提案されている [9, 10]．
これらの手法はすべて，グラフの構造情報のみ（既知のトリプルの情報のみ）を用いて埋め込みを

3

提案手法

3.1

データセット: 技術文書 KG

学習しており，グラフの誤りやスパースネスに対し

本研究では，社内のデータベースに 2013 年からて脆弱であるという問題がある [3]．これに対処す

2020 年の間に登録された約 57,000 件の技術文書から，概要，著者，著者の所属部署，重要語を抽出しるため，構造情報に加えてエンティティやリレーションに関連するテキスト情報を活用する埋め込み方式が提案されている．

作成された知識グラフ: 技術文書 KG を構築し，デー

例えば文献 [11, 12] では，学習済みの単語ベクトンティティのタイプ一覧と数を表 1 に，リレーショルを使い，エンティティの説明文に登場する単語のン一覧と数を表 2 に，各エンティティタイプと接続平均ベクトルを計算して，そのエンティティの埋め関係を表した知識グラフスキーマを図 1 に示す．な込みベクトルを得るのに利用している．

お，KeyPhrase(重要語) は各文書につき TF-IDF 値のタセットとして用いる．技術文書 KG に含まれるエ

文献 [13] では，エンティティのラベルを含む文章上位 30 語を抽出している．技術文書 KG は，技術文を Wikipedia から収集して対応付け，対応する文章書 (Document) の場合にのみ，その概要をテキスト情の埋め込みとエンティティの埋め込みが同一のベク報として保持しており，その他のエンティティ及びトルになるように 1 つの空間に埋め込んでいる．

リレーションはテキスト情報を持たないため、技術また文献 [14, 15] では，エンティティの説明文を畳み込みニューラルネットワークや再帰ニューラルネットワークによりエンコーディングし、得られたテキスト埋め込みベクトルを利用してグラフとして

文書 KG は一部のエンティティにのみ有効なテキスト情報が紐づく知識グラフである．

3.2

モデルと学習方法

本研究では一部のエンティティにのみ有効なテのエンティティの埋め込みベクトルを学習している．文献 [16] では，エンティティに対応するテキスキスト情報が紐づく知識グラフに対する埋め込み

トを Wikipedia から収集し，エンコーディングには手法として，テキスト情報活用モデルと，テキス学習済み言語モデルを用いて，リンク予測と言語モ

ト+ID 埋め込みモデル (以下，+ID 埋め込みモデルとデルタスクを同時に学習している．

呼ぶ) を提案する．テキスト情報活用モデルと+ID

これらの，テキスト情報を活用する既存の手法で埋め込みモデルの概観図を図 2， 3 にそれぞれ示

は，ほとんどの場合，すべてのエンティティやリす．これらのモデルは，利用可能な場合に文章の― 2938 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

図1

技術文書 KG の知識グラフスキーマ
図 3 テキスト + ID 埋め込みモデルの構成

図 2 テキスト情報活用モデルの構成埋め込み情報を付加するよう拡張した TransE と見

図4

変換層の構成詳細ることができる．技術文書 KG から得られるトリ
プルは，ℎ が Document である場合テキスト情報がAﬃliation である場合，Document タイプのエンティ利用できる．この際，テキスト情報活用モデルはティが含まれないため，そのトリプルはテキスト情SentenceBERT[17] により Document に紐づく概要の埋め込み表現 hsum を獲得し，変換層 (図 4) を通し報を持たない．またそれぞれのデータセット中のトリプル集合 𝑇 を，訓練データ，検証データ，テストて概要のテキスト情報を用いた ℎ の埋め込み表現 h

データ，に分割比率 7 : 2 : 1 で分けた．

を獲得する．+ID 埋め込みモデルは，hsum に加えて評価指標には，各タスクにおいて学習済みモデル

Document の ID に紐づく固有の埋め込み表現 hdocIDが予測する ℎ か 𝑡 の候補をスコアで並び替えたとを生成・結合させ，更に変換層を通して次元調節

きの順位をもとに，Hits@k と MRR(Mean Reciprocal

し得られるベクトルを ℎ の埋め込み表現 h とする，Rank) を計算し用いる (A.1 節参照)．モデルは Python

ノードの構造的な情報も反映するモデルである．ℎ

向け知識グラフ埋め込みライブラリ PyKEEN[18] をが Document でない場合，テキスト情報活用，+ID 埋用いて実装した．ベースラインには TransE と RotatEめ込みモデルのどちらも，TransE と同様に埋め込みを採用した．提案手法含め全てのモデルでベクトル表現 h, r, t を獲得する．埋め込み学習のためのスコア関数 𝑓 (ℎ, 𝑟, 𝑡) は TransE と同様で，式 (1) においてh, r, t の次元は 200 次元とした．また提案手法にお𝑝 = 2 とした関数を用いる．の事前学習済みの多言語対応モデル1）を用いた．こ4実験

4.1

実験方法

いて，概要の文章の埋め込みには SentenceBERT[17]のモデルから得られる文章埋め込みベクトルの次元は 768 で，SentenceBERT モデルのパラメータは学習時に更新されない設定とした．学習時，Optimizer はAdaGrad[19]，学習率は 0.01，バッチサイズは学習時提案した手法の有効性を評価するために，技術文書 KG に対するリンク予測性能の実験を行った．
実験では，任意のトリプル (ℎ, 𝑟, 𝑡) について，(𝑟, 𝑡)に 512， 評価時には 32 とした．

4.2

結果から ℎ を予測するタスクと，(ℎ, 𝑟) から 𝑡 を予測す

4.1 節の条件で，フル DS 使用時のリンク予測性能るタスクを実行し，2 つの結果の平均をとる Bothの評価結果を表 3 に示す．提案手法の精度はベース

Prediction タスクで評価する．実験においては，準とした TransE より高く，概要の埋め込み表現を組備した全てのデータセット (以下，フル DS と呼ぶ)

み込むことでリンク予測精度が向上することを確だけでなく，テキスト情報が全く含まれないトリプ認した．一方，最高精度を達成したのは全評価指標

ルの影響を検証するために，Aﬃliation タイプのエンティティが含まれるトリプルを削除した所属削除

で RotatE であった．次に，所属削除 DS 使用時の結DS の 2 種類を用いる．図 1 より，ℎ か 𝑡 のタイプが1） https://huggingface.co/sentence-transformers/
paraphrase-multilingual-mpnet-base-v2― 2939 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

表 3 フル DS 使用時のリンク予測精度．太線: 最良値，下線: 次点．

RotatE が最良であるものの，テキスト情報活用モデルは精度が大きく上昇している．以上より，提案手モデル

MRR Hits@1 Hits@5 Hits@10

法は文章情報を含まないトリプルの除外によって精TransERotatE

0.052

0.000

0.101

0.146

度向上が期待できる．逆に言えば，文章情報を全く0.140

0.096

0.180

0.224

含まないトリプルは提案手法にとって性能低下に繋テキスト情報活用 0.108

0.067

0.140

0.187

がる恐れがあると推察される．

0.068

0.144

0.188

+ID 埋め込み表40.109

5.2

所属削除 DS 利用時のリンク予測精度モデル

MRR Hits@1 Hits@5 Hits@10TransE

0.052

0.000

0.100

0.146

RotatE

0.139

0.095

0.179

0.223

テキスト情報活用 0.143

0.094

0.185

0.235

0.064

0.140

0.183

+ID 埋め込み

0.105

果を表 4 に示す．この場合，提案手法は RotatE と同等か上回る精度を残した．表 3 の結果と比べると，RotatE はほとんど性能に差が見られなかった一方で，提案手法は性能が大きく向上しており，提案手法に対して，テキスト情報を全く含まないトリプルの排除がリンク予測精度向上に寄与することを確認した．

PCA による埋め込み空間の可視化

テキスト情報による知識グラフ埋め込み空間の性質の変化を定性的に見るために，知識グラフ埋め込み空間を PCA[20] によって低次元化し可視化する．
ただし，RotatE は複素空間への埋め込みみで，PCAによる次元削減後の解釈が困難なため，ここでは考察対象から除く．
図 5，6(A.3 節) に TransE，テキスト情報活用モデルの可視化結果をそれぞれ示す．この場合，Document以外のエンティティは一つのクラスタに集まり，WRITTEN {ﬁrst, subsequent} や CONTAIN ののベク
トルは Document から他エンティティのクラスタへ向いているが，互いにほとんど差がない．以上から，ℎ が Document であるトリプルのリンク予測時に，Document 以外のエンティティの重なりが大きい

5

考察

5.1

各リレーション毎のリンク予測性能ため，𝑡 の判別が難しくなることが予想できる．図 7に+ID 埋め込みモデルの可視化結果を示す．TransE

トリプル中のテキスト情報の有無による影響
を 考 察 す る た め に，各 リ レ ー シ ョ ン 毎 の リ ン ク
予測精度を見る．フル DS 使用時の各リレーショ
ン 毎 の リ ン ク 予 測 精 度 を 表 5(A.2 節) に 示 す．この 場 合，4.2 節 と 同 様，全 リ レ ー シ ョ ン で RotatEが 最 高 精 度 で あ っ た．CONTAIN，WRITTEN ﬁrst，
WRITTEN subsequent では提案手法の精度が RotatEの次点であるが，IS PART OF におけるリンク予測精度は TransE が RotatE の次点となっている．加えて，WRITTEN ﬁrst における+ID 埋め込みモデルの精度は，TransE の 0.109 に対し大幅に精度向上し0.254 あった．以上より，文章埋め込みを利用可能なトリプルに対して，提案手法は精度向上に寄与すると推察される．
所属削除 DS 利用時の各リレーション毎のリン
ク 予 測 精 度 を 表 6(A.2 節) に 示 す．表 5 か ら の 変化に注目すると，CONTAIN の精度は RotatE ではほとんど変化が見られないのに対し，テキスト情報活用モデルでは精度向上し RotatE を上回った．
WRITTEN ﬁrst と WRITTEN subsequent は 引 き 続 きやテキスト情報活用モデルの場合と異なり，各エンティティタイプ毎にクラスタが分離している．加えて WRITTEN {ﬁrst, subsequent} や CONTAIN のベク
トルは異なる方向を向いており，またその方向もDocument から Person や KeyPhrase のクラスタを向いている．リンク予測時に他のエンティティを混同しにくい埋め込み空間を獲得していることが伺える．

おわりに6

社内技術文書から，概要，著者，所属部署，重要語を用いて作成された，一部のエンティティにのみ有効なテキスト情報が紐づく知識グラフのデータセット: 技術文書 KG を構築した．知識グラフ中のテキスト情報を活用したテキスト情報活用モデルとテキスト+ID 埋め込みモデルを提案し，技術文書
KG を用いて提案手法のリンク予測タスクによって精度を評価した．結果，ベースとなる TransE を上回る精度を達成し，提案手法が一部のエンティティにのみ有効なテキスト情報が紐づく知識グラフに対して効果があることを確認した．今後は TransE 以外のモデルをベースにした手法への拡張を進めたい．

― 2940 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

Empirical Methods in Natural Language Processing(EMNLP), pp. 1591–1601, Doha, Qatar, October 2014.

参考文献[1] 蛭子琢磨, 市瀬龍太郎. 知識グラフの補完における translation-based models の発展と課題. 人工知能学会第二種研究会資料, Vol. 2018, No. SWO-044, p. 03,2018.
[2] Quan Wang, Zhendong Mao, Bin Wang, and Li Guo.
Knowledge graph embedding: A survey of approaches
and applications. IEEE Transactions on Knowledge
and Data Engineering, Vol. 29, No. 12, pp. 2724–2743,
dec 2017.
[3] Fengyuan Lu, Peijin Cong, and Xinli Huang. Utilizing
textual information in knowledge graph embedding: Asurvey of methods and applications. IEEE Access, Vol. 8,pp. 92072–92088, 2020.
[4] Antoine Bordes, Nicolas Usunier, Alberto Garcia-Duran,
Jason Weston, and Oksana Yakhnenko. Translating embeddings for modeling multi-relational data. In C. J. C.
Burges, L. Bottou, M. Welling, Z. Ghahramani, and K. Q.
Weinberger, editors, Advances in Neural Information
Processing Systems, Vol. 26. Curran Associates, Inc.,
2013.
[5] Zhiqing Sun, Zhi-Hong Deng, Jian-Yun Nie, and Jian Tang.
Rotate: Knowledge graph embedding by relational rotationin complex space.
[6] Shuai Zhang, Yi Tay, Lina Yao, and Qi Liu. Quaternion knowledge graph embeddings. In H. Wallach,H. Larochelle, A. Beygelzimer, F. d'Alché-Buc, E. Fox,and R. Garnett, editors, Advances in Neural Information Processing Systems, Vol. 32. Curran Associates,
Inc., 2019.
[7] Bishan Yang, Wen tau Yih, Xiaodong He, Jianfeng Gao,and Li Deng. Embedding entities and relations for learningand inference in knowledge bases. December 2014.
[8] Théo Trouillon, Johannes Welbl, Sebastian Riedel, ÉricGaussier, and Guillaume Bouchard. Complex embeddings
for simple link prediction.
[9] Tim Dettmers, Pasquale Minervini, Pontus Stenetorp, andSebastian Riedel. Convolutional 2d knowledge graph embeddings. In Thirty-Second AAAI Conference on Artiﬁcial Intelligence, 2018.
[10] Rui Wang, Bicheng Li, Shengwei Hu, Wenqian Du, andMin Zhang. Knowledge graph embedding via graph attenuated attention networks. IEEE Access, Vol. 8, pp.
5212–5224, 2020.
[11] Richard Socher, Danqi Chen, Christopher D Manning,and Andrew Ng. Reasoning with neural tensor networks
for knowledge base completion. In C.J. Burges, L. Bottou, M. Welling, Z. Ghahramani, and K.Q. Weinberger,editors, Advances in Neural Information Processing
Systems, Vol. 26. Curran Associates, Inc., 2013.
[12] Teng Long, Ryan Lowe, Jackie Chi Kit Cheung, and Doina
Precup. Leveraging lexical resources for learning entity
embeddings in multi-relational data. May 2016.
[13] Zhen Wang, Jianwen Zhang, Jianlin Feng, and Zheng
Chen. Knowledge graph and text jointly embedding.
In Alessandro Moschitti, Bo Pang, and Walter Daelemans, editors, Proceedings of the 2014 Conference on

Association for Computational Linguistics.
[14] Ruobing Xie, Zhiyuan Liu, Jia Jia, Huanbo Luan, andMaosong Sun. Representation learning of knowledge
graphs with entity descriptions. In Proceedings of theThirtieth AAAI Conference on Artiﬁcial Intelligence,AAAI’16, p. 2659–2665. AAAI Press, 2016.
[15] Jiacheng Xu, Xipeng Qiu, Kan Chen, and Xuanjing Huang.
Knowledge graph representation with jointly structural andtextual encoding. In Proceedings of the 26th International Joint Conference on Artiﬁcial Intelligence, IJCAI’17, p. 1318–1324. AAAI Press, 2017.
[16] Xiaozhi Wang, Tianyu Gao, Zhaocheng Zhu, ZhengyanZhang, Zhiyuan Liu, Juanzi Li, and Jian Tang. KEPLER:
A uniﬁed model for knowledge embedding and pre-trained
language representation. Transactions of the Association for Computational Linguistics, Vol. 9, pp. 176–194, mar 2021.
[17] Nils Reimers and Iryna Gurevych. Sentence-bert: Sentence embeddings using siamese bert-networks. In Proceedings of the 2019 Conference on Empirical Methods in Natural Language Processing (EMNLP), pp.

3982–3992, 2019.
[18] Mehdi Ali, Max Berrendorf, Charles Tapley Hoyt, Laurent Vermue, Sahand Sharifzadeh, Volker Tresp, and Jens
Lehmann. PyKEEN 1.0: A Python Library for Training
and Evaluating Knowledge Graph Embeddings. Journalof Machine Learning Research, Vol. 22, No. 82, pp.
1–6, 2021.
[19] John Duchi, Elad Hazan, and Yoram Singer. Adaptivesubgradient methods for online learning and stochastic optimization. Journal of Machine Learning Research,Vol. 12, No. 61, pp. 2121–2159, 2011.
[20] Karl Pearson. On lines and planes of closest ﬁt to systems of points in space. The London, Edinburgh, and― 2941 ―Dublin Philosophical Magazine and Journal of Science, Vol. 2, No. 11, pp. 559–572, 1901.

This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).

A

付録

A.1

評価指標の定義

A.3

PCA による可視化結果

図 5,6, 7 に，TransE, テキスト情報活用モデル，テキスト+ID 埋め込みモデルの埋め込みベクトルを

ト リ プ ル の Head か Tail を 削 除 し て 作 っ た 組

PCA にて低次元化・可視化した結果を示す．データ(?, 𝑟, 𝑡) と (ℎ, 𝑟, ?) をクエリ 𝑞 𝑖 ，評価に用いたクエリセット中のエンティティ・リレーションを各モデの集合を 𝑄，クエリ 𝑞 𝑖 に対する正解を 𝑦 𝑖 とする．

ルで埋め込んだ結果に PCA を適用し，第二主成分

また，𝑞 𝑖 の予測部分にエンティティ 𝑒 を代入し得までを可視化した．(ℎ, 𝑟, 𝑡) の埋め込みベクトルがられるトリプルを (𝑞 𝑖 , 𝑒)，スコア関数 𝑓 (𝑞 𝑖 , 𝑒) の値

h + r = t という関係を満たしている場合，PCA のによって降順に並び替えたときの順位を rank(𝑞 𝑖 , 𝑒)

線形性から低次元化後のベクトル h′ , r′ , t′ 間でも，とする．すると，Hits@k と MRR は以下の式で表h′ + r′ ≃ t′ の成立が期待でき，解釈がし易い．これせる．

は t-SNE などの他の低次元化手法に対して PCA が|{𝑞 𝑖 ∈ 𝑄|rank(𝑞 𝑖 , 𝑦 𝑖 ) ≤ 𝑘 }||𝑄|
1 ∑1
MRR =|𝑄| 𝑞 ∈𝑄 rank(𝑞 𝑖 , 𝑦 𝑖 )Hits@k =有利な点であると言える．
(2)
(3)𝑖

ここで 𝑘 はしきい値となる順位の数値が入り，実験では 𝑘 = (1, 5, 10) の 3 パターンで評価をする．

A.2

リレーション毎のリンク予測結果

表 5, 6 に フ ル DS，所 属 削 除 DS に 対 す る リ

図 5 PCA に よ る 埋 め 込 み 表 現 可 視 化 (TransE モ デ ル)
AF:Aﬃliation, DC:Document, KP:KeyPhrase, PN:Person

レ ー シ ョ ン ご と の リ ン ク 予 測 精 度 を 示 す．指 標は MRR である．評価に用いたサンプル数はそれ
ぞれ CONTAIN が 311, 724, WRITTEN ﬁrst が 11, 144,
WRITTEN subsequent が 10, 469, BELONG TO が 816,
IS PART OF が 137 である．
表 5 リ レ ー シ ョ ン ご と の リ ン ク 予 測 精 度 (フ ルDS,MRR)．
モデル
CONTAIN WRITTEN ﬁrst WRITTEN subsequentTransE
0.048
0.109
0.085
RotatE
0.130
0.318
0.235
テキスト情報活用 0.111
0.102
0.077
+ID 埋め込み
0.102
0.254
0.168
モデル
BELONG TO IS PART OF
TransE
0.159
0.077
RotatE
0.301
0.149
0.086
0.042
テキスト情報活用+ID 埋め込み
0.171
0.057

表 6 リ レ ー シ ョ ン ご と の リ ン ク 予 測 精 度 (所 属 削 除DS,MRR)
モデル
CONTAIN WRITTEN ﬁrst WRITTEN subsequentTransE
0.048
0.108
0.085
RotatE
0.129
0.326
0.219
テキスト情報活用 0.138
0.281
0.185
+ID 埋め込み
0.097
0.2500.170

図 6 PCA による埋め込み表現可視化 (テキスト情報活用モデル)

図 7 PCA による埋め込み表現可視化 (+ID 埋め込みモデル)― 2942 ―This work is licensed by the author(s) under CC BY 4.0(https://creativecommons.org/licenses/by/4.0/).