第3回ナレッジグラフ推論チャレンジ2020「ナレッジグラフ埋め込みに基づく犯人探し」
2021年3月16日
株式会社KDDI総合研究所
黒川 茂莉

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

目次◼ 推論の方針◼ 推論方法◼ 推論結果◼ 推論根拠◼ 謝辞◼ 参考文献Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

2

はじめに、ホームズの言葉“I say now, as I said then, that a man should keep
his little brain-attic stocked with all the furniturethat he is likely to use, and the rest he can put
away in the lumber-room of his library, where he canget it if he wants it.”(THE FIVE ORANGE PIPS)「あのときと同じように言わせてもらうと、人間が頭脳という屋根裏の小部屋にいつも置いておかねばならぬのは、
よく使う道具だけ、それ以外は書斎という物置に片づけておいて、入り用の際にそこへ取りに行けばいい。」(橙の種五粒)
出典: https://www.aozora.gr.jp/cards/000009/files/57322_57272.html

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

3

推論の方針知識グラフの要素をベクトル空間に埋め込んで推論

犯人は誰？

埋め込み空間内に登場人物、凶器、犯行場所などをマッピング

埋め込み空間知識グラフ
今年度の特徴外部の常識知識である
ConceptNetを
組み合わせ

推論クエリ

推論結果
推論根拠

犯人はXX

推論結果に寄与する部分グラフを特定

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

4

推論方法～推論クエリ
推論をリンク予測の問題として定義
し、クエリを定義＜詳細＞
リンク予測：知識グラフに欠けたリンクを予測
作品

推論タスク

埋め込み空間

知識グラフ

推論クエリ

推論結果

推論クエリ

まだらの紐

推論根拠

正解

ジュリアを殺したのは誰か？
?, kill, julia
roylott
ブレンダを殺したのは誰か?, kill, brenda
mortimer
悪魔の足モーティマーを殺したのは誰か？
?, kill, mortimer
standale
同一事件
花婿はなぜ消えたか？
?, hide, hozma
windybank背中の曲がった男 バークリはなぜ死んだのか？
berkeley, die, ?
apoplexia
僧坊荘園
ブラックンストール卿を殺したのは誰か？ ?, kill, sir_eustace_brackenstall jack_crocker
elderly_man
young_man
入院患者
ブレシントンを殺したのは誰か？
?, kill, blessington
helper_boy※3人組の犯行
白銀号事件
白銀号を連れ出したのは誰か？
?, take, silver_blaze
john_straker
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

正解が欠損
不完全
不完全
完全
（-10%） （-25%）
〇
〇
〇
×
〇
〇
〇
〇
〇
〇
〇
〇
×
〇
〇
×
×
〇
〇

〇

〇

×

〇

〇
5

推論方法～知識グラフの整備
埋め込み空間与えられた作品知識グラフに加え、常識知識グラフ=ConceptNetも追加

知識グラフ

推論クエリ

推論結果

＜詳細＞
・作品知識グラフは2018年度野村総研のソリューションを利用*

推論根拠*https://challenge.knowledge-graph.jp/submissions/2018/tamura/submission

・作品知識グラフと常識知識グラフをリンク- 作品に登場するEntityとConceptNetのEntityを紐付け1ホップ先までのTripleを収集- 作品に登場するRelationとConceptNetのEntityを紐付け1ホップ先までのTripleを収集
まだら
の紐

悪魔の足

同一事件

背中の曲
がった男

踊る人形

僧坊荘園

白銀号
事件

7作品
知識グラフ

Concept
Net#Entity

277

597

655

389

253

347

446

438

2,272

#Rel

107

161

186

149

74

194

151

198

750

#Triple

596

794

798

563

390

497

561

734

4,847

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

6参考）ConceptNet◼ 多言語で構築された常識知識に関する知識グラフ◼ オープンデータとして公開 https://conceptnet.io/◼ 含まれる三つ組例：kill motivated_by revenge

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

7推論方法～埋め込み空間の構築
埋め込み空間

複数知識グラフ間で共通の要素の埋め込みを共通化＜詳細＞
知識グラフ3種類x3手法で評価

知識グラフ

推論クエリ

推論結果
推論根拠

知識グラフ埋め込み

7作品知識グラフ

TransE[1]

7作品知識グラフ+ConceptNet(E-E*)

PTransE[2]

7作品知識グラフ+ConceptNet(E-E+E-R*)

R-GCN
[3]

*E-EはEntity間の埋め込みを共有
DistMult
4)[4]

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

*E-Rは作品のRelation
ConceptNetのEntity間の埋め込みも共有
8

推論方法～推論結果+推論根拠
埋め込み空間推論クエリの?の候補をランキングし、推論根拠を埋め込みから導出

知識グラフ

推論クエリ

推論結果
推論根拠

＜詳細＞
推論：埋め込み手法に応じたスコア関数で候補を評価
推論根拠：埋め込みまたはR-GCNから推論に寄与する部分グラフを導出
・埋め込みからの部分グラフ（正解の三つ組の迂回パス）の導出：XKE[5]・R-GCNからの部分グラフの導出：GNNExplainer[6]Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

9参考）推論手順詳細◼ 埋め込み手法に応じたスコア関数で候補をランキング◼ 絞り込み①「作品内」：各作品のEntityに絞り込み◼ 絞り込み②「登場人物内」：各作品の登場人物に絞り込み
登場人物リスト
まだらの紐
julia
helen
roylott
mother_of_helen
sistermother_of_sister
holmeswatson

悪魔の足standalemortimerbrendaholmeswatsonround_hayowengeorgedoctor_richard
portertin_miner
servant
former_wife

同一事件
sutherland_s_mother
the_horseman
etheridge
hozma
sutherland
windybankhardywatsonholmescoworkerball_people

背中の曲がった男 僧坊荘園
morrisonjack_crocker
nancy
stanley_hopkins
berkeleyservant
simpsonman_of_the_elderly
watsonlady_brackenstallholmesrandall_gang
teddy
sir_eustace_brackenstalljane
holmescoachmanwatsoncook
theresamurphyhenry

入院患者
young_man
father_of_young_man
russian_nobility
moderator_of_tobinelderly_man
helper_boy
blessington
holmeswatsonpercy_trevelyan

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

白銀号事件
gypsy
two_young_men
wife_of_john_straker
ned_hunter
ned_hunter_and_two_young_men
jockey_of_colonel_ross
edith_baxter
silver_blaze
cyrus_browncolonel_ross
fitzroy_simpson
william_derbyshire_women
watsondesboroughwilliam_derbyshire
lord_backwaterholmesstablemanjohn_straker
10推論結果（完全データ）
作品によって優位な手法は異なるが、いずれかの手法で1位で犯人を当てる＜詳細＞
まだらの紐、入院患者→R-GCN
悪魔の足(2)、僧坊荘園→いずれの手法でも1位それ以外→ITransE/IPTransEConceptNetを組み合わせたほうがよい例も見られるが、なしでも当てられる例も多い…根拠説明で対象とした手法
正解が欠損→

〇

×

まだらの紐

悪魔の足

?, kill, julia?, kill, brenda

作品内 登場人物内

×

同一事件

背中の曲がった男?, hide, hozma

berkeley, die, ?

作品内 登場人物内

×

〇

×

僧坊荘園
白銀号事件
?, kill,sir_eustace_bracken ?, take, silver_blazestall

作品内 登場人物内 作品内 登場人物内?, kill, blessington

ITransE

KG

2

5

1

1

1

1

2

3-

1

1

2

1

1

2

2

KG+ConceptNet (E-E)

2

2

2

2

1

1

3

3-

2

1

1

2

2

2

2

KG+ConceptNet (E-E + E-R)

4

4

1

2

5

7

1

1-

30

1

1

3

3

2

2

KG

2

6

1

1

3

4

3

4-

1

2

2

1

1

3

13

KG+ConceptNet (E-E)

3

3

3

3

1

1

3

3-

1

1

1

1

1

3

3

KG+ConceptNet (E-E + E-R)

2

2

2

2

5

6

1

1-

67

3

3

1

1

4

7

KG

1

7

3

3

6

76

2

53 -

9

1

1

3

4

1

46

KG+ConceptNet (E-E)

5

154

4

99

1

4

2

55 -

62

5

175

10

290

6

244

KG+ConceptNet (E-E + E-R)

5

82

7

139

5

84

2

17 -

267

5

66

3

40

3

40

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

作品内 登場人物内

入院患者

KG

R-GCN

作品内 登場人物内?, kill, mortimer〇

手法

IPTransE

登場人物内〇

作品内 登場人物内

作品内

11

推論結果（不完全データ -10%）
作品によって優位な手法は異なるが、白銀号事件を除き1位で正解を当てる＜詳細＞
同一事件→R-GCN
それ以外→ITransE/IPTransEConceptNetを組み合わせたほうがよい例が完全データの場合に比べて増加…根拠説明で対象とした手法
正解が欠損→

〇

〇

まだらの紐

悪魔の足

?, kill, julia?, kill, brenda

作品内 登場人物内〇

同一事件

背中の曲がった男?, hide, hozma

berkeley, die, ?

作品内 登場人物内

×

〇

〇

僧坊荘園
白銀号事件
?, kill,sir_eustace_bracken ?, take, silver_blazestall

作品内 登場人物内 作品内 登場人物内?, kill, blessington

ITransE

KG

2

5

5

6

2

2

5

12 -

-

1

1

5

5

3

3

KG+ConceptNet (E-E)

3

6

4

4

2

2

3

3-

-

2

2

6

6

4

4

KG+ConceptNet (E-E + E-R)

2

2

2

2

3

4

2

2

1

1

8

8

3

4

KG

2

4

4

4

2

2

3

3

1

1

7

7

1

1

KG+ConceptNet (E-E)

1

1

1

1

1

1

4

4

1

1

6

6

2

2

KG+ConceptNet (E-E + E-R)

1

1

3

3

4

5

4

34

2

2

5

6

1

1

KG

7

264

7

311

8

516

1

4-

-

2

2

16

415

3

371

KG+ConceptNet (E-E)

7

267

3

116

10

576

8

607 -

-

3

113

10

228

5

213

KG+ConceptNet (E-E + E-R)

1

20

6

164

2

20

2

56

7

261

13

228

7

224

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

作品内 登場人物内

入院患者

KG

R-GCN

作品内 登場人物内?, kill, mortimer〇

手法

IPTransE

登場人物内〇

作品内 登場人物内

作品内

12

推論結果（不完全データ -25%）
まだらの紐、悪魔の足(1)、同一事件、僧坊荘園では1位で正解を当てる＜詳細＞
悪魔の足(2)、同一事件、僧坊荘園→R-GCN
それ以外→ITransE/IPTransEConceptNetを組み合わせたほうがよい例が完全データの場合に比べて増加
正解が欠損→

〇

〇

まだらの紐

悪魔の足

?, kill, julia?, kill, brenda

〇

同一事件

背中の曲がった男?, hide, hozma

berkeley, die, ?

作品内 登場人物内 作品内 登場人物内

作品内 登場人物内

〇

〇

〇

僧坊荘園
白銀号事件
?, kill,sir_eustace_bracken ?, take, silver_blaze
stall

KG

2

4

6

26

8

14

7

51 -

-

9

196

4

4

3

12

KG+ConceptNet (E-E)

2

4

5

5

4

4

5

5-

-

7

56

11

20

4

5

KG+ConceptNet (E-E + E-R)

1

1

2

2

4

5

2

3

5

6

9

13

3

3

KG

2

2

3

4

8

17

5

5

7

46

7

9

2

4

KG+ConceptNet (E-E)

2

3

1

1

5

6

5

5

7

32

7

7

4

5

KG+ConceptNet (E-E + E-R)

1

1

2

2

6

8

1

2

5

37

6

7

4

27

KG

6

227

7

245

3

126

1

1-

5

137

6

77

4

138

KG+ConceptNet (E-E)

7

251

7

495

7

491

8

532

4

106

7

179

3

70

KG+ConceptNet (E-E + E-R)

5

183

6

347

2

70

4

239

1

48

7

139

5

206

-

作品内 登場人物内?, kill, blessington

ITransE

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

作品内 登場人物内

入院患者

KG

R-GCN

作品内 登場人物内?, kill, mortimer〇

手法

IPTransE

登場人物内〇

作品内 登場人物内

作品内

13

参考）白銀号事件の3人の犯人の順位
白銀号事件では犯人によって当てやすさが異なる＜詳細＞
helper_boy は完全データと不完全データ(-10%)で1位で当てられている
elderly_manとyoung_manは同様に当てにくい
完全データ

不完全データ(-10%)

（犯人：
（犯人：
（犯人：
elderly_man）
young_man）
helper_boy）
登場人物
登場人物
登場人物
作品内
作品内
作品内
作品内
内
内
内

不完全データ(-25%)

（犯人：
（犯人：
（犯人：
elderly_man）
young_man）
helper_boy）
登場人物
登場人物
登場人物
作品内
作品内
作品内
作品内
内
内
内

（犯人：
（犯人：
（犯人：
elderly_man）
young_man）
helper_boy）
登場人物
登場人物
登場人物
作品内
作品内
作品内
作品内
内
内
内

?, kill, blessington?, kill, blessington?, kill, blessington

登場人物
内

登場人物
内

登場人物
内

2

2

3

3

2

2

4

5

3

3

3

3

6

8

5

5

3

12

3

12

5

24

8

212

2

2

2

2

6

9

3

3

4

4

4

4

5

5

6

12

4

5

4

5

5

14

6

71

2

2

5

5

4

4

2

2

3

4

3

4

6

15

4

7

3

3

3

3

8

78

5

37

3

13

3

13

5

15

4

14

1

1

4

5

3

3

1

1

2

4

3

6

6

14

2

4

3

3

6

6

5

5

3

3

2

2

5

5

6

8

2

2

4

5

4

5

5

8

6

33

4

7

5

33

6

45

4

7

1

1

5

6

6

10

1

1

4

27

4

27

8

178

7

166

1

46

6

375

5

367

1

46

3

371

5

423

4

416

3

371

4

138

6

254

8

385

4

138

6

244

9

364

8

322

6

244

5

213

5

213

7

320

6

224

3

70

5

315

7

368

3

70

3

40

3

40

4

47

6

69

7

224

7

224

8

228

9

232

5

206

5

206

6

209

9

215

…根拠説明で対象とした手法
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

14

埋め込みの可視化
犯人、被害者のクラスタに対し、ConceptNetに現れる凶器、動機が関連

ホームス

ワトソン

・ホームス、ワトソンは被害者、犯人の近くに存在

被害者
犯人

凶器

・犯人、被害者は近い領域に存在
し、その他Entityとは異なる領域に存在
・凶器は犯人、被害者の比較的近くに存在し、動機はそれよりは少し離れた領域に存在動機

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

15推論根拠 ＊完全データ「まだらの紐」について、2種類の説明法で説明1位を出したR-GCNに対応する説明*GNNExplainer[6]による
順位

重要エッジ

2位を出したITransEに対応する説明*XKE[5]による
スコア

重要度

head

rel

tail

1 watsonnotseesnake

0.7928901

2 helencallroylott

0.7843633

3 sisterincludejulia

0.7458835

4 sisterincludehelen

0.7421242

5 roylott

call

snake

0.7163633

6 snakereturnroylott

0.710008

7 snakebiteroylott

0.7042671

1.2589E-07 roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia

8 doctor_of_stoke_moran investigate julia

0.6847599

9 watson

snake

0.6770099

roylott

0.6750671

see

10 villager_of_stoke_moran escapeパス

凶器(snake)や家族構成に着目

1.2589E-07

roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)-roylott(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia

1.18073E-07

roylott-(take)-money-(_take)-roylott-(live)first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia

1.18023E-07

roylott-(see)-ceiling-(_see)-roylott-(live)first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia

1.16624E-07

roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)-roylott(go)-mansion_of_roylott-(_live)-julia

1.1617E-07

roylott-(call)-snake-(_call)-roylott-(live)first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia

1.15812E-07

roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia(hear)-1881-11-30t03:00:00-(_hear)-julia

間取りに着目
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

16

推論根拠 ＊完全データ「まだらの紐」について、GNNExplainerでConceptNetの凶器、動機をスコアリング
凶器

動機
head

relation

tail

スコア

head

relationtail

1 metal_pipe UsedFor kill

0.380134

1 killMotivatedByGoal

mean

0.38185

2 violence

UsedFor kill0.379413

2 killMotivatedByGoal

stay_alive

0.381069

3 gun

UsedFor kill0.3791

3 killMotivatedByGoal

angry

0.3801194 poisons

UsedFor kill0.379015

4 killMotivatedByGoal

soldier

0.379631

5 machine

UsedFor kill

0.378773

5 killMotivatedByGoal

die

0.378362

6 killMotivatedByGoal

dead

0.378166

7 killMotivatedByGoal

evil

0.37778

8 killMotivatedByGoal

lunch

0.377672

9 killMotivatedByGoal

money

0.376137

10 kill

MotivatedByGoal

revenge

0.375407

11 kill

MotivatedByGoal

fool0.375383

12 kill

MotivatedByGoal

being_raped

19 以下略38

4位/19で正しい凶器を当てる

スコア

0

以下略

9位/38でもっともらしい動機を当てる

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

17

推論根拠
「まだらの紐」の説明について、完全データと不完全データ(-10%)で比較[完全データ]2位を出したITransEに対応する説明*XKE[5]による[不完全データ(-10%)]
1位を出したIPTransEに対応する説明*XKE[5]による

スコア

スコア

パス

roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)julia
roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)1.2589E-07 roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)julia
1.18073E- roylott-(take)-money-(_take)-roylott-(live)07 first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia
1.2589E-07

1.18023E- roylott-(see)-ceiling-(_see)-roylott-(live)07 first_floor_of_one_building_of_mansion_of_roylott-(_live)-julia
1.16624E- roylott-(live)-first_floor_of_one_building_of_mansion_of_roylott-(_live)07 roylott-(go)-mansion_of_roylott-(_live)-julia

間取りに着目（機会寄りの解釈）着目点が変化パス
roylott-(_meet)-helen-(go)-house_of_holmes-(_go)8.11E-08
helen-(return)-julia
roylott-(_meet)-helen-(go)-house_of_holmes-(_come)7.53E-08
helen-(return)-julia
roylott-(_meet)-helen-(come)-house_of_holmes6.53E-08(_come)-helen-(return)-julia
roylott-(go)-death_day_of_julia-(_return)-helen-(return)5.17E-08
julia
roylott-(go)-death_day_of_julia-(_meet)-helen-(return)4.86E-08
julia

Juliaの死亡日の犯人の動向に着目（状況証拠寄りの解釈）

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

18推論根拠 ＊不完全データ(-10%)「悪魔の足」の説明について、完全データと不完全データ(-10%)で比較[事件1]1位を出したIPTransEに対応する説明*XKE[5]による[事件2]
1位を出したIPTransEに対応する説明*XKE[5]による

スコア

スコア

パス
mortimer-(equalto)-victim_of_case_2-(_equalto)-mortimer8.91E-08(_meet)-standale-(love)-brenda
mortimer-(say)-304-(_say)-holmes-(investigate)-table5.70E-08(_sit)-brenda
mortimer-(say)-304-(_say)-holmes-(investigate)-table5.51E-08(_stand)-brenda
mortimer-(say)-136-(_think)-holmes-(investigate)-table5.37E-08(_sit)-brenda
mortimer-(say)-136-(_think)-holmes-(investigate)-table5.25E-08(_stand)-brenda

犯人が事件2の被害者であること（事件2とのつながり）に着目

パス
6.34E-07 standale-(say)-422-(_say)-standale-(meet)-mortimer
standale-(meet)-mortimer-(_meet)-standale-(meet)3.81E-07
mortimer
3.79E-07 standale-(meet)-mortimer
standale-(have)-former_wife-(_have)-standale-(meet)3.30E-07
mortimerstandale-(equalto)-explorer-(_equalto)-standale-(meet)2.98E-07
mortimer

犯人と被害者の関係性に着目

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

19推論根拠 ＊不完全データ(-10%)「悪魔の足」について、 GNNExplainerでConceptNetの凶器、動機をスコアリング
[事件1]
凶器

動機

[事件2]
head

relationtail

1 swordUsedForkill

2 bombUsedFor

3 gun

凶器

スコア

head

relationtail0.382507

1 hockey_puck

UsedForkill

0.385576

kill

0.378007

2 machine_gun UsedForkill

0.381625

UsedForkill

0.374582

3 violence

UsedForkill

0.380703

4 bullet

UsedForkill

0.374553

4 poison

UsedForkill

0.380056

5 poison

UsedForkill

0.374078

5 gunsUsedForkill

0.380027

5位/19で正しい凶器を当てる
head

relationtail

1 killMotivatedByGoal evil

2 kill

スコア

動機

スコア

4位/19で正しい凶器を当てる
head

relation

0.384326

1 killMotivatedByGoal lunch

0.378346

MotivatedByGoal lunch

0.380652

2 killMotivatedByGoal fool

0.378065

3 killMotivatedByGoal die

0.378907

3 killMotivatedByGoal money

0.377686

4 killMotivatedByGoal money

0.37761

4 killMotivatedByGoal revenge

0.377475

5 killMotivatedByGoal fool

0.377581

5 killMotivatedByGoal soldier

0.377367

4位/38で正しい動機を当てる

tail

スコア

4位/38で正しい動機を当てる

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

20推論根拠 ＊完全データ「同一事件」について、XKEで説明1位を出したITransEに対応する説明*XKE[5]による
スコア

同じく1位を出したIPTransEに対応する説明*XKE[5]による
スコア

パス

パス

7.39375E-06 windybank-(equalsto)-hozma

2.31134E-05 windybank-(equalsto)-hozma

windybank-(equalsto)-hozma-(_equalsto)-windybank-(equalsto)7.39375E-06
hozma

2.31134E-05

windybank-(equalsto)-father-in-law_of_sutherland-(_equalsto)windybank-(equalsto)-hozma

5.08397E-07

windybank-(say)-128-(_say)-percy_trevelyan-(shouldvisit)holmes-(find)-hozma

5.08397E-07

windybank-(say)-128-(_say)-percy_trevelyan-(wanttoconsult)holmes-(find)-hozma

5.08397E-07

windybank-(say)-128-(_say)-percy_trevelyan-(wouldcome)holmes-(find)-hozma

1.00155E-06 windybank-(exist)-france-(_exist)-windybank-(equalsto)-hozma
1.9745E-07

windybank-(say)-420-(_say)-standale-(hear)-holmes-(find)hozma

1.20501E-07 windybank-(sit)-chair-(_sit)-holmes-(find)-hozma

ウィンディバックとホズマが同一人物であることに着目
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

21

推論根拠 ＊不完全データ（-10%）「同一事件」について、2種類の説明法で説明2位を出したITransEに対応する説明*XKE[5]による
スコア

パス
1.92E-05 windybank-(equalsto)-hozma
windybank-(equalsto)-father-in-law_of_sutherland1.92E-05(_equalsto)-windybank-(equalsto)-hozma
windybank-(say)-419-(_say)-standale-(hear)-holmes-(find)2.24E-07
hozma
windybank-(say)-125-(_say)-percy_trevelyan-(visit)-holmes2.20E-07(find)-hozma
windybank-(say)-125-(_say)-percy_trevelyan-(shouldvisit)2.18E-07
holmes-(find)-hozma

ウィンディバックとホズマが同一人物であることに着目

1位を出したR-GCNに対応する説明*GNNExplainer[6]による
順位

重要エッジ
head

rel

tail

1 sutherland

notworrywindybank

2 sutherland

getengagedhozma

3 sutherland

believehozma

4 sutherland

unforgettablehozma

5 sutherland

love

hozma

重要度
0.883310.874116
40.840619
0.834437
70.833752
8

サザーランド嬢とホズマの信頼関係に着目（ホズマの機会に着目）

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

22推論根拠 ＊完全データ「僧坊荘園」について、GNNExplainerで説明1位を出したR-GCNに対応する説明*GNNExplainer[6]による
順位

重要エッジ

重要度

head

rel

tail

1 lady_brackenstall

trytohidecriminal

0.8278015

2 theresa

see

old_man0.8006672

3 theresafind

sir_eustace_brackenstall

0.7893999

4 jack_crocker

believeholmes

0.7648007

5 jack_crocker

tie

lady_brackenstall

0.7597466

事件の要点であるブラックンストーン卿婦人の隠蔽行動に着目(その他、犯行の周辺状況にも着目)
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

23推論根拠 ＊不完全データ（-10%）「僧坊荘園」について、XKEで説明1位を出したITransEに対応する説明*XKE[5]による
スコア

パス
jack_crocker-(meet)-330-(_meet)-theresa-(see)-old_man1.90E-07(hit)-sir_eustace_brackenstall
jack_crocker-(disguise)-death_of_sir_eustace_brackenstall1.87E-07 (_disguise)-theresa-(see)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(disguise)-death_of_sir_eustace_brackenstall1.87E-07 (_upset)-criminal-(equalto)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(hate)-sir_eustace_brackenstall-(_bebeaten)1.87E-07 lady_brackenstall-(_notsilence)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(hate)-sir_eustace_brackenstall-(_bebeaten)1.87E-07 lady_brackenstall-(_tie)-old_man-(hit)sir_eustace_brackenstall

1位を出したIPTransEに対応する説明*XKE[5]による
スコア

パス
jack_crocker-(meet)-330-(_meet)-theresa-(see)-old_man9.71E-08(hit)-sir_eustace_brackenstall
jack_crocker-(disguise)-death_of_sir_eustace_brackenstall9.09E-08 (_disguise)-theresa-(see)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(disguise)-death_of_sir_eustace_brackenstall9.09E-08 (_upset)-criminal-(equalto)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(hate)-sir_eustace_brackenstall-(_bebeaten)9.09E-08 lady_brackenstall-(_notsilence)-old_man-(hit)sir_eustace_brackenstall
jack_crocker-(hate)-sir_eustace_brackenstall-(_bebeaten)9.09E-08 lady_brackenstall-(_tie)-old_man-(hit)sir_eustace_brackenstall

事件の前後状況およびブラックンストーン卿婦人が暴行を受けていた事実（動機）に着目
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

24推論根拠 ＊完全データ「僧坊荘園」について、GNNExplainerでConceptNetの凶器、動機をスコアリング
凶器

動機
スコア

head

relation

UsedFor kill0.381017

1 killMotivatedByGoal soldier

UsedFor kill

0.380589

2 killMotivatedByGoal die

3 underground_area UsedFor kill0.379987

3 killMotivatedByGoal revenge

0.381225

4 machine_gun

UsedFor kill0.379389

4 killMotivatedByGoal lunch

0.379409

5 machine

UsedFor kill0.379303

5 killMotivatedByGoal angry

0.378732

6 killMotivatedByGoal money

0.37781

7 killMotivatedByGoal fool

0.37764

8 killMotivatedByGoal evil

0.377372

9 killMotivatedByGoal stay_alive

0.376953

10 kill

MotivatedByGoal dead

0.376933

11 kill

MotivatedByGoal mean

0.376143

12 kill

MotivatedByGoal need_to_eat

0.375682

13 kill

MotivatedByGoal non_violent_world

head

relation

1 gun

2 metal_pipe

tail19 以下略

2位/19で正しい凶器を当てる

tail

スコア

0.382589
0.38190

9位/38でもっともらしい動機を当てる

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

25

推論根拠 ＊完全データ「白銀号事件」について、2種類の説明法で説明1位を出したITransEに対応する説明*XKE[5]による同じく1位を出したIPTransEに対応する説明*XKE[5]による

スコア

スコア

パス

2.8305E-06 john_straker-(hurt)-silver_blaze

パス

4.25865E-07 john_straker-(hurt)-silver_blaze

2.8305E-06

john_straker-(hurt)-silver_blaze-(_hurt)-john_straker-(hurt)silver_blaze

4.25865E-07

john_straker-(hurt)-silver_blaze-(_hurt)-cyrus_brown-(hurt)silver_blaze

5.97527E-08

john_straker-(have)-1896-02-01t21:00:00-(_have)fitzroy_simpson-(hide)-silver_blaze

1.21439E-07

john_straker-(hurt)-silver_blaze-(_deal)-cyrus_brown(nothurt)-silver_blaze

5.95835E-08

john_straker-(hurt)-silver_blaze-(_deal)-cyrus_brown(deal)-silver_blaze

1.21439E-07

john_straker-(hurt)-silver_blaze-(_enter)-holmes-(_follow)cyrus_brown-(nothurt)-silver_blaze

5.95835E-08

john_straker-(hurt)-silver_blaze-(_enter)-holmes-(_follow)cyrus_brown-(deal)-silver_blaze

1.21439E-07

john_straker-(hurt)-silver_blaze-(_enter)-holmes-(canmeet)cyrus_brown-(nothurt)-silver_blaze

ストレイカーが白銀号に傷つけたこと（直接の死因）に着目
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

26

推論根拠
「白銀号事件」の説明について、完全データと不完全データ(-10%)で比較[完全データ]1位を出したITransEに対応する説明*XKE[5]による[不完全データ(-10%)]
5位を出したITransEに対応する説明*XKE[5]による

スコア

スコア

パス

2.8305E-06 john_straker-(hurt)-silver_blaze
2.8305E-06

john_straker-(hurt)-silver_blaze-(_hurt)-john_straker-(hurt)silver_blaze

5.97527E-08

john_straker-(have)-1896-02-01t21:00:00-(_have)fitzroy_simpson-(hide)-silver_blaze

5.95835E-08

john_straker-(hurt)-silver_blaze-(_deal)-cyrus_brown(deal)-silver_blaze

5.95835E-08

john_straker-(hurt)-silver_blaze-(_enter)-holmes-(_follow)cyrus_brown-(deal)-silver_blaze

ストレイカーが白銀号に傷つけたことに着目

パス
john_straker-(_lookfor)-edith_baxter-(bring)-1896-025.24E-08
01t21:00:00-(_go)-gypsy-(notkidnap)-silver_blaze
john_straker-(_lookfor)-wife_of_john_straker-(lookfor)5.24E-08
silver_blaze-(_have)-gypsy-(notkidnap)-silver_blaze
john_straker-(_lookfor)-wife_of_john_straker-(lookfor)5.24E-08
silver_blaze-(_notkidnap)-gypsy-(notkidnap)-silver_blaze
john_straker-(notexist)-116-(_notexist)-silver_blaze-(_have)5.24E-08
gypsy-(notkidnap)-silver_blaze
john_straker-(notexist)-116-(_notexist)-silver_blaze5.24E-08(_notkidnap)-gypsy-(notkidnap)-silver_blaze
john_straker-(nothave)-good_relation-(_nothave)3.39E-08
cyrus_brown-(deal)-silver_blaze

白銀号とジプシーの関わりに着目（ストレイカーが白銀号を傷つけたことは最後のほうで明かされ、不完全データだと取り込まれない）

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

27

推論根拠 ＊不完全データ（-10%）「入院患者」について、犯人ごとにXKEで説明
3位を出したElderly_man(ITransE)に対する
説明

3位を出したYoung_man(IPTransE)に対する
説明

1位を出した
Helper_boy(IPTransE)に対す
る説明

スコア

スコア

スコア

パス
elderly_man-(tie)-blessington-(have)6.10E-09
pistol-(_have)-blessington
elderly_man-(tie)-blessington-(go)6.10E-09
examination_room-(_go)-blessington
elderly_man-(tie)-blessington-(equalto)6.10E-09 patients_and_living_person-(_equalto)blessington
elderly_man-(tie)-blessington-(_tie)6.10E-09
young_man-(tie)-blessington
6.10E-09 elderly_man-(tie)-blessington

ブレッシントンを縛ったことに着目

パスyoung_man-(stay)-blessington_room5.30E-09 (_stay)-elderly_man-(enter)examination_room-(_go)-blessington
young_man-(stay)-blessington_room7.88E-09 (_go)-percy_trevelyan-(say)-047-(_say)blessington
young_man-(smoke)-cigar-(_smoke)4.48E-09 elderly_man-(enter)-examination_room(_go)-blessington
young_man-(say)-107-(_say)5.55E-09 young_man-(enter)-examination_room(_go)-blessington
young_man-(say)-107-(_say)1.22E-07
percy_trevelyan-(stop)-blessington

診察室周りでの関係者の接点に着目
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

パス
helper_boy-(enter)-blessington_room8.04E-08 (_go)-percy_trevelyan-(say)-047-(_say)blessington
helper_boy-(stay)-blessington_room3.42E-08 (_go)-percy_trevelyan-(say)-047-(_say)blessington
helper_boy-(enter)-holmes-(_go)3.18E-08
watson-(approach)-blessington
helper_boy-(enter)-holmes-(_go)3.13E-08 watson-(_drag)-holmes-(approach)blessington
helper_boy-(enter)-holmes-(_go)3.13E-08 watson-(_visit)-holmes-(approach)blessington

ブレッシントンの部屋に入った
状況に着目
28

まとめ
◼ 知識グラフ埋め込みにより、多くの犯人をいずれかの手法で当てることができた⚫ 正解データが欠損している不完全データ(-10%)でも白銀号事件以外は当てることができている◼ ConceptNetと組み合わせることにより、特に不完全データの場合に推論の精度が向上したり、凶器や動機をそれなりに当てることができた◼ 今後の課題⚫ 可視化の結果からも、ConceptNetの知識との関連付けは不十分（埋め込み空間上はあまり混ざっていない）⚫ 推論根拠となる部分グラフだけでなく、機会、動機、凶器などの因果の構造を取り出したい⚫ 知識グラフの埋め込みは既知の知識に嘘がないことが前提となっているが、嘘を見破れるアル
ゴリズムも考えたい⚫ 手法の選択手法も考えたい
Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

29

謝辞◼ 本研究は、JST、CREST、J181401085の支援を受けたものである。

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

30

参考文献
[1] Bordes, A., Usunier, N., Garcia-Duran, A., Weston, J., & Yakhnenko, O., Translating embeddings for modelingmulti-relational data, In Advances in neural information processing systems, pp. 2787-2795, 2013.
[2] Lin, Y., Liu, Z., Luan, H., Sun, M., Rao, S., & Liu, S., Modeling Relation Paths for Representation Learning ofKnowledge Bases, In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing,pp. 705-714, 2015.
[3] Schlichtkrull, M., Kipf, T. N., Bloem, P., Van Den Berg, R., Titov, I., & Welling, M. (2018, June). Modeling
relational data with graph convolutional networks. In European Semantic Web Conference (pp. 593-607). Springer,
Cham.
[4] Bishan Yang, Wen-tau Yih, Xiaodong He, Jianfeng Gao, and Li Deng. 2015. Embedding entities and relations forlearning and inference in knowledge bases. The 3rd International Conference on Learning Representations.
[5] Gusmão, A. C., Correia, A. H. C., De Bona, G., & Cozman, F. G., Interpreting Embedding Models of Knowledge
Bases: A Pedagogical Approach, ICML Workshop on Human Interpretability in Machine Learning (WHI 2018), 2018.
[6] Ying, Z., Bourgeois, D., You, J., Zitnik, M., & Leskovec, J. (2019). Gnnexplainer: Generating explanations forgraph neural networks. In Advances in neural information processing systems (pp. 9244-9255).

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

31

Copyright(C) 2021 KDDI Research, Inc. All Rights Reserved.

32