DEIM Forum 2022 G21-1

Human-in-the-loop 潜在空間学習による空間型インタラクティブ文献管理システム
渡邉 真悟†

伊藤寛祥††

松原 正樹††

森嶋 厚行††† 筑波大学 知識情報・図書館学類 〒 305-8550 茨城県つくば市春日 1-2†† 筑波大学 図書館情報メディア系 〒 305-8550 茨城県つくば市春日 1-2
E-mail: †shingo.watanabe.2021b@mlab.info, ††{ito,masaki,mori}@slis.tsukuba.ac.jp
あらまし

昨今，研究者が管理しなければならない研究論文やドキュメントの数は膨大なものになっている．管理す

る文書が増え続ける中で，研究者が一貫した基準に則って文書を管理し続けるということは，各個人の基準を明示的に表現する方法が明らかになっていないため困難である．本論文では、潜在空間中に配置された各文書の位置に対して，ユーザがフィードバックを与えることによる Human-in-the-Loop 潜在空間学習を適用して，ユーザの文書管理の基準を得る文書管理システムを提案する．このようなシステムを設計する上での重要な課題は，文書間の関係を表現するグラフ表現をどのように学習するかである．提案するフレームワークでは，meta-path を文書管理の基本的な基準とし，meta-path によって構築される文書グラフの表現を学習する．実験では，ユーザからのフィードバックを考慮に入れ，ユーザの文献管理の基準を推定することで，ユーザが求める位置に正しく文献を配置できるかを検証した．
実験結果により，提案するフレームワークは既存手法などと比較して，ユーザが求める位置に正しく文献を配置できていることを示した．
キーワード Human-in-the-loop，Graph Auto-Encoders, グラフ埋め込み, meta-path,

異種混合ネットワーク

1 はじめに現在，研究者が管理しなければならない研究論文やドキュメ
ントの数は膨大なものになっている．Michael らの研究 [1] では，2014 年以降は減少傾向にあるものの，近年では，毎年 700万件以上の新しい学術論文が発表されており，そのうち，5 件
以上文献を引用している論文は毎年 180 万件を超えていること

図 1: 空間型インタラクティブ文献管理システムのイメージ：が示されている．研究者が電子文献を管理する場合，主にオンユーザは，潜在空間中に配置された文書の位置に対しフィード

ラインの文献管理ソフトを使用することが考えられ，どの程度バックを与える．システムは，与えられたフィードバックを基オンラインの文献管理ソフトが使用されているか [2] や，文書に，ユーザの文書管理の基準を推定し，より良い潜在空間を表管理システムの機能性 [3] に関する研究がこれまでに行われて示する．

きた．[2] では，トリノ大学の学生や研究者を対象に，どの程度オンラインの文献管理ソフトを使用しているかが調査された．

在空間中に配置された各文書の位置に対して，ユーザがフィー調査の結果，文献管理ソフト上に 200 以上の文書を保存していドバックを与えることによる Human-in-the-loop 潜在空間学

る研究者の割合が半分を超えていることが示されている．

習を適用することで，ユーザの文書の管理基準を推定する．本

文献を研究者の基準に従って適切に分類し，管理することは研究では，管理の対象とする文献を異種混合ネットワークとし研究者が関連研究の発見や，その分野の研究動向などを把握すてモデル化し，ユーザの文献の管理基準を meta-path として表るなどの点で重要であるが，管理する文書が増え続ける中で，現する．ここで，異種混合ネットワークとは複数の種類のノー研究者が，単なる文献検索を超えて，一貫した基準に則って文ドやエッジをもつネットワーク構造であり，たとえば文献情報書を管理し続けることは困難である．したがって，このようなの異種混合ネットワークであれば，文書が持つ属性として，著文献管理を支援するシステムがあれば望ましいと考えられるが，者や出版年，文書中に出現する単語などが挙げられる．また，

そこで大きな問題となるのが，各個人の文書管理の基準をどの

meta-path とは異種混合ネットワーク中におけるスキーマレベ

ように取得し，表現するかが明らかになっていないことである．

ルのパスのことである．文献情報の異種混合ネットワークであ以上の問題を解決するために，本論文ではユーザと対話を繰

れば，共著関係の文書であることや，同じ年に発表された文書

り返すことでユーザの文書の管理基準を取得するインタラクなどといったような意味情報を含んだ関係を表現できる．本研

ティブな文献管理システムの提案を行う．より具体的には，潜究では meta-path が表現する，文献間の意味情報を利用する

ことで，各個人の文献管理基準を表現する．
提案手法の有効性を検討するために，未知の文書が与えられたときにその文書を潜在空間中でユーザが求める位置に正しく配置できるかどうかを実験した．被験者実験では，ある文書について，その文書を潜在空間中において配置されて欲しい位置に動かしてもらった．被験者には文献が持つ情報として毎回，文書のタイトル，著者，発表された会議，発表された年を与えた．実験の評価では，潜在空間中で被験者が求める文書の配置と，提案手法による文書の配置を比較し，被験者が潜在空間中
で近くに配置した文書を正しく推定できているかどうかを検証した．評価の結果，提案手法は設定したベースライン手法と比較して，未知の文書を被験者が求める位置に正しく配置できていることを示した．
本論文の貢献は次の通りである．(1) 研究者の文書管理の基準として meta-path が有効である可能性を示した．(2) 研究者の評価基準を自動的に推定する Human-in-the-loop 潜在空間
学習のフレームワークを提案した．(3) 複数回にわたる被験者
実験によって提案手法の有効性を示した．
本論文の構成は以下である．2 章で関連研究と本論文の位置付けについて説明を行い，3 章では本論文に必要な予備知識に関する説明を行う．4 章では本論文で扱う問題設定についての定義を記述する．5 章では本論文で提案する Human-in-the-loop
潜在空間学習の方法について説明する．6 章において被験者実験とその結果を示し，7 章で実験の結果に対する考察を行う．
最後に 8 章にて本論文をまとめる．

2 関連研究うなフォルダ分けによる管理や文書にタグを付与する必要がな
くなり，自分が管理している文書集合の全体像を把握することが可能になる点が挙げられる．

2. 2 推薦システムに関する研究
e コマースの普及に伴って，多くの e コマースプラットフォー
ムでは，内容ベースの推薦や協調フィルタリングによる推薦が広く利用されている．ユーザやアイテム，クエリなどが属性として挙げられるような異種混合ネットワークを用いて，ユーザに新しいアイテムやクエリを推薦するような研究は，近年さまざま行われている．たとえば，Yu ら [6] が提案するフレーム
ワークでは，まず，モデルがユーザの嗜好に合わせていくつかのクエリを生成する．そしてモデルは，ユーザがクエリをクリッ
クして閲覧するなどの行動をフィードバックとして受け取ることでより良いアイテムの推薦を可能にした．実際の e コマース
プラットフォーム上で行われた A/B テストでは，提案したフレームワークを利用した場合に閲覧数の向上が確認された．既存のフレームワークでは，嗜好が似ているユーザに，彼らが好むであろうアイテムを推薦できるようにユーザの嗜好を推定す
るが，本論文で提案するフレームワークではユーザ 1 人ごとにユーザの管理基準を推定する．

2. 3 アクティブラーニングに関する研究
近年では，機械学習モデルと人間の対話によるインタラク
ティブな推薦シシテム [7] に関する研究が盛んに行われている，ユーザの興味関心を取得する方法として，アクティブラーニン
グの手法をとっている研究 [8] もある．アクティブラーニング
でキーとなっている考え方は，たとえば分類問題であれば，分

本節では，本研究の関連研究として，文献管理の方法に関す類するのに不確実なものを選択し問い合わせるということである研究，推薦システムに関する研究，アクティブラーニングにる．このように，アクティブラーニングはモデルの性能を向上関する研究，そしてネットワークの表現学習に関する研究につさせるために，性能を向上させられると考えられるようなデー

いてそれぞれ述べる．

タをオラクルに問い合わせることによる半教師あり学習を行う．本研究では，ユーザが潜在空間中に配置された文書の位置

2. 1 文献管理の方法に関する研究
関連研究の整理や研究動向の把握のための研究者を支援するにフィードバックを与えるが，このフィードバックをオラクルとして潜在空間学習を行う．

ようなツールは広く利用されており，このようなツールを対象に行われている研究がある．Francese [2] は，学生や研究者が2. 4 ネットワークの表現学習に関する研究

どのように参考文献を管理しているかについて，トリノ大学を近年，ネットワークの構造を分析するための研究として，ネッ

対象に調査を行なった．調査の結果，研究者がオンライン上でトワークの埋め込み手法が注目を集めている．ネットワークの電子文献を管理する際，最も利用されている文献管理ソフトは，

埋め込み手法として有名なものに，ランダムウォークを用いてEndNote [4] であり，回答者の 49 ％が利用している，次点でノードの分散表現を獲得する Deepwalk [9] や Node2vec [10]BibTex が 11 ％，Mendley [5] が 9 ％で続くという結果になっが，直接エッジが貼られていないようなノード同士でも，同た．EndNote や Mendley などの文献管理ソフトは，プロジェ

じようなノードの特徴が見られればそれを考慮して埋め込む

クトや研究分野によって分けられたフォルダ内に文書を保存しLINE [11] などが挙げられる．また，Kipf と Welling が提案たり，それぞれの文書にタグをつけることによって，文書を管した GCN [12] は，ネットワークの構造を加味しながらノード

理するという方法をとっている．一方で，本論文で提案する文の潜在ベクトルを学習する．さらに，この GCN を用いてオー

献管理システムは，ユーザの文書の管理基準を推定し，文書を

トエンコーダ [13] にネットワークデータを当てはめた Graph

空間上にマッピングするという点で既存の文献管理システムとAutoencoders（GAE）や，オートエンコーダに確率分布を仮は異なる．本論文で提案するように，文書を空間上にマッピン

定することによる変分オートエンコーダをネットワークデータ

グする利点としては，既存の文献管理システムがとっているよに当てはめた，Variational Graph Autoencoders（VGAE）を

用いることでネットワークの表現学習をする手法 [14] などが存在する．GAE や VGAE は 2 層のグラフ畳み込みネットワー

表 1: 主な記号と定義記号

定義クを持ち，エンコーダ・デコーダのアルゴリズムによって隣接

d∈D

文書の集合

行列を再構成する．本論文では，文書同士の関係をもとに文書

p∈P

meta-path の集合

を空間に埋め込む方法として，GAE を用いる．

v∈V

ノードの集合e∈E

エッジの集合3 予備知識本節では，本論文で提案するフレームワークで用いられる，G(D, E)

無向グラフ

A∈A

ノードの属性R∈R

エッジの属性

いくつかの前提知識について記述する．

L

埋め込み次元数ある meta-path p の寄与率

異種混合ネットワーク：我々の実世界に普遍的に存在する

γp ∈ Γ P

ソーシャルネットワークや文献情報のネットワークは，異種混

wp ∈ W P

合ネットワーク [15] [16] というもので構成されている．異種混Ap ∈ RD×D

合ネットワークは複数種類の属性のノードと，複数種類の関係Ã ∈ RD×D

W で重み付けされた隣接行列

Ãdi ,djÃ の (i, j) 要素を表現するエッジから構成されており，有向グラフ G(V, E) にある meta-path p の重みある meta-path p についてのの隣接行列

おいて，ノードから属性に写像する関数 τ : V → A と，エッジX ∈ RD×D

ノードの特徴量

から属性に写像する関数 ρ : E → R をもつ．加えて，A と R⃗
z ∈ RL

埋め込みベクトルZ ∈ RD×L⃗z の行列(z, ẑ) ∈ Ẑ

ユーザがフィードバックを与えたノード

はそれぞれ，ノードの属性とエッジの関係を表すラベルの集合
だが，これらは |A| + |R| > 2 という関係を満たす，たとえば，
文献情報ネットワークでは，文書（P），著者（A），文書中に登場する用語（T）そして，文書が発表された年（Y）などの属性が考えられる．そして，これらの属性をもとに，文書と著者のθ

デコーダのパラメータϕ

エンコーダのパラメータ

q∈Q

未知の文書

zq ∈ Z Q

未知の文書の潜在変数間の共著関係といった，意味情報を含んだ関係を表現することが可能である．

meta-path：異種混合ネットワークにおいて，異なる属性のノードを結ぶパスを meta-path と呼ぶ．meta-path は，ノードの属性 A1 ∈ A と Al+1 ∈ A の間の二項関係 R = R1 ◦R2 ◦· · · Rl
R1

R2

学習のためのモデルに関して記述する．提案手法は次の 3 つの段階からなる．
（ 1 ） GAE による各文書の潜在ベクトル zd の学習 （5. 1）

Rlを用いて，A1 −−→ A2 −−→ . . . −→ Al+1 で表される．ただし◦ は二項関係を合成する演算子である．本論文では文書同士の関係を対象とするため，meta-path の始点と終点の両方が文書（P）であるものを考える．たとえば，「文書（P）− 著者（A）− 文書（P）」という meta-path は，共著の論文であるという（ 2 ） ユーザからのフィードバックを元に，各 meta-path の重み付けによる隣接行列の再計算（5. 2）（ 3 ） meta-path の重み付けによる，ユーザの文献管理基準の推定（5. 3）関係を表している．

5. 1 GAE による各文書の潜在ベクトル zd の学習

4 問題定義本節では，本研究で対象とする問題の定義について記述する．本論文で用いる主な記号とその定義は表 1 に示す．本研
究では入力として，重みなし無向グラフ G の隣接行列 A と各ノードの特徴量 XD が与えられるとする．ここで，A はある

meta-path による隣接行列である．また，ユーザの文書管理の基準を推定するために，ユーザとのインタラクションの過程も入力として与える．本研究の目的は，未知の文書集合 Q が与えられたときに，ユーザのインタラクションの結果をもとに Qが潜在空間中でユーザが求めるような位置に配置できるかを扱う．したがって，ユーザからのフィードバックによって重み付けされた隣接行列 Ã の潜在変数 ZQ を出力する．

5 提案手法
本節では，本論文で提案する Human-in-the-loop 潜在空間

ここでは，ユーザの文書管理基準によって重み付けされた隣接行列 Ã を用いて，以下に続く GAE に基づいて，各文書の潜在空間中での埋め込みベクトルを獲得する．なお，ユーザの文書管理基準の推定方法については，5. 3 にて説明する．
エンコーダの構成 エンコーダは 2 層の GCN [12] によって構成され，各文書の潜在ベクトルに関する提案分布 qϕ (Z⃗D |XD , Ã)に基づき．以下の式で潜在表現 z⃗d を推定することによって ϕが計算される．また，本提案手法では，各ノードの特徴量 XD
は各文書の文書番号のみを与える．これは，たとえば特徴量として各文書のタイトルを Bag-of-Words 化したのもを与えた
場合，ネットワークの構造に基づいて特徴量を畳み込む際に，ネットワークの隣接関係と各特徴量を考慮に入れながら畳み込
まれるが，提案手法では meta-path ベースの隣接関係のみを参照し畳み込むためである．
ここで，Z = GCNϕ (XD , Ã)(1)

であり，GCNϕ (XD , Ã) は，

GCNϕ (XD , Ã) = ȦReLU (ȦXD W0 )W1(2)で表される．ここで，ϕ = {W0 , W1 } であり，GCN のパラ
メータ集合である．ただし，W0 は 1 層目の重み，W1 は 2 層目の重みである．また，Ȧ は，
1

1Ȧ = D− 2 ÃD− 2(3)
図 2: ユーザが与えるフィードバックのイメージ：赤い枠で囲で表される．
デコーダの構成 デコーダでは各文書の潜在ベクトルに基づく
エッジの生成確率 pθ (Ã|ZD ) を計算することで隣接行列 Ã を再構成する．ただし，pθ (Ã|ZD ) =∏ ∏まれたノードについて潜在空間中の位置対し，図中矢印の方向に向かってフィードバックを与えた場合，Nϵ (Z) は，図 2 の大きな青い円で囲まれたノードの潜在表現の集合を表す．同様に，Nϵ (Ẑ) は，図 2 において，ユーザがフィードバックを与えpθ (Ãdi ,dj |z⃗di , z⃗dj )(4)

di ∈D dj ∈Dた先にある大きな緑色の円で囲まれたノードの潜在表現の集合を表す．

である．本研究で提案する生成モデルでは，各潜在表現のユー
クリッド距離によってデコーダを構成する．これはユーザが枠で囲まれたノードについて，潜在空間中の位置対し，図中矢システムにフィードバックを与える際に，文書同士の距離で印の方向に向かってフィードバックを与えた場合，Nϵ (Z) は，

フィードバックを与えることから，より近くに配置された文書

図 2 の大きな青い円で囲まれたノードの潜在表現の集合を表同士のエッジの生成確率を大きくすることを狙いとしている．
)(apθ (Ãdi ,dj |z⃗di , z⃗dj ) = σ+b(5)∥z⃗di − z⃗dj ∥22す．同様に，Nϵ (Ẑ) は，図 2 において，ユーザがフィードバッ

ここで，σ(·) はシグモイド関数である．θ = {a, b} はパラメー
タ集合である．

クを与えた先にある大きな緑色の円で囲まれたノードの潜在表
現の集合を表す．

Algorithm 1 インタラクションによる隣接行列の再構成
Input: Ẑ

目的関数 本研究の目的関数は以下のクロスエントロピー誤Output: {Ap |p ∈ P}

差関数であり，これを最大化するようにパラメータ ϕ, θ を学習

1: for p ∈ P do

する．

2:
3:

for (⃗z, ⃗ẑ) ∈ Ẑ do
for z⃗ˆj ∈ Nϵ (z⃗d ) doi

5:if Apd ,d >1 theni j =Apd ,d ← 0

6:

end if4:

ϕ, θ = arg max log pθ (Ã|GCNϕ (XD , Ã)))ϕ,θ

= arg maxϕ,θ∑ ∑log pθ (Ãdi ,dj |z⃗di , z⃗dj )

(6)
(7)

di ∈D dj ∈D

5. 2 インタラクションによる隣接行列の再構成提案手法では，潜在空間中に配置された文書の位置に対し，ユーザがフィードバックを与えることによる Human-in-the-

i

j

8:

end forfor z⃗ˆj ∈ N̂ϵ (z⃗d ) do

9:

Apd ,d + = 1

7:

i

i

11:

j

end for10:

end for

12: end forloop 潜在空間学習によって，隣接行列を再構成し，ユーザがどの meta-path を重要だと考えているかを推定する．より具体的には，各 meta-path による隣接行列について，フィードバックが与えられたノードに対し，そのノードが移動する前に周辺に

5. 3 meta-path の重み付けによる，ユーザの文献管理基準の推定いた上位 k 件のノードとはエッジが貼られていないとみなす．

ここでは，ユーザの文献管理の基準を推定することで，各さらに，移動した後にそのノードの周辺の上位 k 件のノード

meta-path に対し重み付けをする．meta-path の重みを計算すとエッジが貼られるとみなして，隣接行列を再構成する．再構るために，まず meta-path p の寄与率として対数尤度を計算

成後の隣接行列は，以下の Algprithm 1 で表される．ただし，する．

Nϵ (Ẑ) は，ユーザがフィードバックを与えたノードにおいて，フィードバックを与えた後の状態の潜在空間中での近傍を表す．
加えて，Nϵ (Z) は，ユーザがフィードバックを与えたノードにおいて，フィードバックを与えた前の状態の潜在空間中での近傍を表す．より具体的に図 2 を用いて説明する．ユーザが赤い

γp =

∑ ∑

Apdi ,dj log pθ (Adi ,dj |z⃗di , z⃗dj )(8)

di ∈D dj ∈D

その後，全ての meta-path の寄与率の合計に対するそれぞれの meta-path の寄与率の比を，その meta-path の重みとして算出する．

DCG@k =

γp
wp = ∑
γq(9)p

最後に，各 meta-path ベースの隣接行列 A にそれぞれの

meta-path の重み w をかけ，それを足し合わせたものを重み付けされた隣接行列 Ã とする．

Ã =が大きいほど精度が良いことを示している．

6. 3 ベースライン手法
本論文の提案手法と比較したベースライン手法には次に示す

wp A

p

(10)

ものを用いた．

• VGAE ：

p∈P

6 実

(13)

で表される．評価で用いる Recall@k，nDCG@k はどちらも値q∈P∑

2reli − 1
log2 (i + 1)

VGAE は Kipf ら [14] が提案したネットワー

クの表現学習の手法である．評価実験では，4 節の (5) 式で構験

成されていたデコーダを通常の GAE と同じように各潜在表現

本節では，データ収集フェイズによって得られたデータを用同士の内積：

いて，未知の文書に対し，本提案手法がどれだけ正確に被験者

pθ (Adi ,dj |z⃗di , z⃗dj ) = σ(z⃗di · z⃗dj )が求める位置に配置できるかを検証する．

(14)で構成し，本提案手法を当てはめた．ただし，σ(·) はシグモイ

6. 1 実 験 設 計
予測精度の評価実験のためのデータ収集フェイズ：評価実験のためのデータ収集フェイズでは，図 3 のようなインターフェ
イスを用いてある文書について，その文書を潜在空間中において配置されて欲しい位置に動かしてもらうとい，そのログを取った．表示される文書は，それぞれの被験者がこれまでに参考文献として目を通したことのあるもので，被験者には表示される文書について，毎回，文書のタイトル，著者，発表された会議，発表された年を，それぞれ文書がもつ情報として与えた．文書の数については，被験者 1 人あたり 50 件を操作してもらった．
予測精度の評価実験フェイズ：評価実験フェイズでは，データ収集フェイズで獲得したデータを利用して，提案手法の有効性を検討した．具体的には，被験者が求める潜在空間の最後のド関数である．
また，用いる meta-path の数を変更することで，予測の精度に変化が見られるかを調べた．用いた meta-path は以下の通りである．また，各 meta-path の意味については以下の表 2 に示す．

• ALL+others(PAP, PTP, PYP, PVP, others) ：PAP, PTP, PYP, PVP に加えて，これらの meta-path では抽出できなかった関係 (others) を隣接行列に取り入れたもの．

• ALL(PAP, PTP, PYP, PVP) ：PAP, PTP, PYP,
PVP によるもの．
• PAP Only ：PAP のみで隣接行列を構成したもの．
• PTP Only ：PTP のみで隣接行列を構成したもの．
• PYP Only ：PYP のみで隣接行列を構成したもの．

状態を対象に，そのデータを 5 分割し，10 件ずつ学習データを増やしたときにテストデータの精度がどのように変化するかを検証した．

6. 2 評 価 指 標
評価には Liang らの研究 [17] にて用いられている Recall@k

表 2: 各 meta-path の意味
meta-path

意味

PAP

共著経験のある著者同士の論文

PTP

同じ単語について言及している論文

PYP

同じ年に発表された論文

PVP

同じ会議で発表された論文と nDCG@k を用いる．なお，今回の実験の評価では k=6 で行った．

6. 4 実 験 結 果

評価指標である Recall@k は次の式で表される．

Recall@k =|U ∩ Pk |
|U |

(11)

実験結果は次の図 4a〜図 5b に示す．それぞれの図の赤い線
は，入力として与える隣接行列が（6.3）で挙げた ALL+others

ここで，U はユーザが実際に配置した潜在空間中で，テストによって構成されたものである．また，図 4a と図 5a の青い線

データに対しユークリッド距離が小さい上位 k 件の文書の集は，（6.3）で挙げた VGAE を提案手法に当てはめ，入力とし合，Pk はモデルが予測した潜在ベクトルのうち，テストデータて ALL+others で構成される隣接行列を与えたものである．

に対しユークリッド距離が小さい上位 k 件の集合である．

また，図 4b と図 5b の緑，桃，紫色の線は提案手法において，

また nDCG@k は，DCG@k の値を，最も理想的な，すなわ

入力として与える meta-path の種類を限定したものである．

ちモデルの予測が全て正しかったと仮定したときの DCG@k の

図 4a と図 4b は，フィードバックの回数を変化させたときの recall@k の値の変化を，図 5a と図 5b はフィードバックの値で割ったものである．すなわち，

nDCG@k =ただし，DCG@k は

DCG@k
IdealDCG@k

回数を変化させたときの nDCG@k の値の変化を表している．

(12)

図を見ると，提案手法は，今回比較した手法の全てと比べて，フィードバックの回数を増やしたことで精度が向上することが図 3: 被験者実験で使用したインターフェイス：毎回潜在空間中の原点の位置に置かれる点を，被験者が好みの位置に配置する．
被験者には，文献が持つ情報として，文書のタイトル，著者，会議名，発表された年を表示した．

確認された．

ドで作られる潜在空間中の角度が大きいものほどエッジの生成

また，図 6a と図 6b には，実際の潜在空間の様子を示す．図

確率が大きくなる，ユーザは潜在空間中で，文書同士の角度で6a はある被験者が求めた潜在空間の最終状態を表す．図 6b ははなくユークリッド距離に基づいてフィードバックを与えるこ提案手法による潜在空間の状態である．図中の紫色の点が未知とから，文書同士のユークリッド距離によってエッジの生成確の文書であり，図 6a の桃色の点が，紫色の点に対してユーザ率を計算する提案手法の方が精度が良くなったと言える．

が近くに配置した 6 つの文書である．図 6b は，紫色の点が未知の文書として与えられたときのモデルの予測結果である．プ

7. 2 提案手法と使用する meta-path の種類を限定した場合

ログラムの都合上，未知の文書以外の潜在表現についても再計

ここでは，提案手法と，使用する meta-path の種類を限定し算されてしまうため，潜在空間の形そのものは変わってしまった場合での実験結果に対する考察を行う．図 4b を見ると，提案てはいるものの，紫色の点と桃色の点の相対的な位置関係は比手法（図の赤の線）はフィードバックの回数が増えると recall@k較的近いものになっている，また，文書同士の相対的な位置関の値が大きくなっているのに対し，使用する meta-path の種類係が重要であるため，図 6a と図 6b 中の横軸，縦軸の数値の大を限定した場合（図の緑・桃・紫の線）ではフィードバックのきさ自体に意味はない．

回数が増えても recall@k の値に大きな変化はない，もしくは

7 議

フィードバックの回数を増やしたことで，使用する meta-path

値が減少するという結果となった．また，図 5b からも同様に，

論の種類を限定した場合と比べて，提案手法は nDCG@k の値が本節では上記の実験結果に対する議論と考察を行う．

7. 1 提案手法と既存手法を比較した場合
ここでは，提案手法と，VGAE を使用した場合での実験結果に対する考察を行う．図 4a，図 5b を見ると，フィードバックを 40 回与えた段階の recall@k，nDCG@k の値はどちらも提案増加していく様子がわかる．このことから，研究者の文献管理の基準は単一のものではなく，複数の meta-path を用いてユー
ザの文献管理の基準を推定できる提案手法が有効であったことが確認できる．

7. 3 今後の展望

手法の方が大きいという結果になった．提案手法と既存手法の最後に実験結果に基づいて，課題と今後の展望について大きな違いは，生成モデルであるデコーダを提案手法では（5）記述する．図 4a〜図 5b の赤い線は，使用した meta-path が式で構成したのに対し，VGAE は（14）式によって構成していALL+others の場合である．今回の実験では，基本的にはこる．これによって，提案手法は潜在空間中で距離が近いノードの赤い線が最も良い精度を実現していた．このようになった要ほどエッジの生成確率が大きくなり，VGAE では 2 つのノー

因の 1 つとして，多くの meta-path を使用したということが

(a) 提案手法と VGAE の recall@k の値(b) 提案手法と，meta-path の種類を限定したときの recall@k の値

図 4: 横軸はユーザからのフィードバックの回数，縦軸は recall@k の値を表す．設定したベースライン手法と比較して，提案手法（赤）はフィードバックの回数を増やすごと recall@k の値が大きくなっている．

(a) 提案手法と VGAE の ndcg@k の値(b) 提案手法と，meta-path の種類を限定したときの ndcg@k の値

図 5: 横軸はユーザからのフィードバックの回数，縦軸は nDCG@k の値を表す．平均値で見ると，提案手法（赤）は設定したベー
スライン手法よりも大きな nDCG@k の値を獲得している．

(a) ある被験者が求める潜在空間(b) モデルが出力した潜在空間

図 6: 未知の文書（紫）が与えられたとき，図 6a はある被験者が求める文書配置を，図 6b は提案手法が予測した文書配置を表す．
また，桃色の点は紫色の点に対して被験者が近くに配置した 6 つの文書である．潜在空間は再計算されるため，形自体は異なるが，紫色の点と桃色の点の相対的な位置関係は，図 6a と図 6b で，比較的似ていると言える．

挙げられるが，今回の実験では，今回用意した meta-path だけの meta-path を使用した．今後は「文書（P）− 著者（A）−

では抽出できなかった関係（others）も含めて隣接行列を構成

文書（P）− 単語（T）− 文書（P）− 著者（A）− 文書（P）」

してしまっている．したがって，今後の展望の 1 つ目として，のように複雑な meta-path を導入することで，今回の実験で複雑な meta-path を導入することが挙げられる．今回の実験

others とされてしまったような関係を抽出できるようにする．

では，「文書（P）− 著者（A）− 文書（P）」のような最小構成

そして，文書同士の関係性の表現力を高めることによって，ユーザの文書の管理基準をより良い精度で推定できるようにするこ

研費（JP21H03552） および株式会社熊谷組の支援による．

とが必要である．
また，本実験において，多くの場合ではフィードバックの回数が少ない段階から設定したベースライン手法よりも高い精度を実現していたが，たとえば図 5a では，インタラクションの回数が増えた段階から提案手法の精度がベースラインを追い抜くという結果になった．したがって，今後の展望の 2 つ目として，少ないフィードバックの回数で効率よくモデルが学習できるような手法の考案が挙げられる．これを実現するためには，
どのような文書に対してユーザがフィードバックを与えればモデルが効率よく学習できるのかについて，考察が必要である．
今後は，ユーザに問い合わせる文書の順番を変更して被験者実験を行うなどして，ユーザが操作する回数が少ない段階から，より高い制度になるようなフレームワークの考案を計画している．また，今回の実験では，Recall@k や nDCG@k の値には，まだまだ精度が向上する余地が残っている．今後は，上に記したようなフレームワークの考案の計画と同時に，高い精度を実現するための仕組みも必要になってくると考えられる．

8 ま と め本研究では，Human-in-the-loop 潜在空間学習を適用することでユーザの文献管理の基準を獲得し，その基準に基づいて文書を低次元空間に埋め込む手法を提案した．提案手法ではまず，ユーザの文書の管理基準を推定し，各 meta-path による隣接行
列に重みをつける，次に，Graph Autoencoders（GAE）を用
いて各文書の潜在表現 z の学習を行う．そして，ユーザから与えられたフィードバックをもとに各 meta-path による隣接行
列を作り直し，再度隣接行列の重み付けを行い潜在表現 z の学
習をすることで，より良い潜在空間を作る．また，ユーザは潜在空間中において，文書同士の距離に基づいてフィードバックを与えるため，（5）式のように，文書同士のユークリッド距離
によってデコーダを構成した．
提案手法の有効性を検討するために，未知の文書を被験者が求める位置にどれだけ正確に配置できるかを評価する実験を行なった．実験の結果，提案手法はベースラインの手法と比較して，未知の文書をユーザが求める位置に配置できていた．加えて，複数の meta-path を用いて実験した場合と，使用する

meta-path の種類を限定して実験した場合で比較すると，複数の meta-path を用いた場合の方が精度が高く，ユーザが様々な基準で文書を管理する場合でも，提案手法が有効であることが明らかになった．
今後の展望として，(1) 複雑な meta-path の導入 (2) 少ない
フィードバックの回数で効率よくモデルが学習できるような手法の考案の 2 つが挙げられる．この 2 つを実現することで，より良い Human-in-the-loop 潜在空間学習のフレームワークの構築が行える．

謝辞本研究の一部は JST CREST (＃ JPMJCR16E3)，JSPS 科

文献[1] Michael Fire and Carlos Guestrin. Over-optimization ofacademic publishing metrics: Observing goodhart’s law inaction. GigaScience, Vol. 8, , 06 2019.
[2] Enrico Francese. Usage of reference management softwareat the university of torino. JLIS.it, Vol. 4, pp. 145–174,
2013.
[3] Bo-Christer Björk. Electronic document management inconstruction – research issue and results. Electronic Journalof Information Technology in Construction, ITcon, 2003,
Vol. 8, pp. 101-113, Vol. 8, , 05 2003.
[4] Clarivate. Endnote. https://endnote.com. (Accessed on
12/30/2021).
[5] ELSEVIER. Mendekey. https://www.mendeley.com/. (Accessed on 12/30/2021).
[6] Yu Zhu, Yu Gong, Qingwen Liu, Yingcai Ma, Wenwu Ou,
Junxiong Zhu, Beidou Wang, Ziyu Guan, and Deng Cai.
Query-based interactive recommendation by meta-path andadapted attention-gru. CIKM ’19, p. 2585–2593, New York,NY, USA, 2019. Association for Computing Machinery.
[7] Michael Jugovac and Dietmar Jannach. Interacting withrecommenders―overview and research directions. ACM
Trans. Interact. Intell. Syst., Vol. 7, No. 3, sep 2017.
[8] Neil Rubens, Mehdi Elahi, Masashi Sugiyama, and Dain
Kaplan. Active Learning in Recommender Systems, pp.
809–846. Springer US, Boston, MA, 2015.
[9] Bryan Perozzi, Rami Al-Rfou, and Steven Skiena. Deepwalk: Online learning of social representations. p. 701–710,
2014.
[10] Aditya Grover and Jure Leskovec. node2vec: Scalable feature learning for networks, 2016.
[11] Jian Tang, Meng Qu, Mingzhe Wang, Ming Zhang, Jun Yan,
and Qiaozhu Mei. Line: Large-scale information network
embedding. Proceedings of the 24th International Conference on World Wide Web, May 2015.
[12] Thomas N. Kipf and Max Welling. Semi-supervised classiﬁcation with graph convolutional networks. In International
Conference on Learning Representations (ICLR), 2017.
[13] Diederik P Kingma and Max Welling. Auto-encoding variational bayes. In 2nd International Conference on Learning Representations, ICLR 2014, Banﬀ, AB, Canada, April
14-16, 2014, Conference Track Proceedings, 2014.
[14] Thomas N Kipf and Max Welling. Variational graph autoencoders. NIPS Workshop on Bayesian Deep Learning,
2016.
[15] Yizhou Sun and Jiawei Han. Meta-path-based search andmining in heterogeneous information networks. Tsinghua
Science and Technology, Vol. 18, No. 4, pp. 329–338, 2013.
[16] Yuxiao Dong, Nitesh V. Chawla, and Ananthram Swami.
Metapath2vec: Scalable representation learning for heterogeneous networks. In Proceedings of the 23rd ACM
SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD ’17, p. 135–144, New York, NY,
USA, 2017. Association for Computing Machinery.
[17] Dawen Liang, Rahul G. Krishnan, Matthew D. Hoﬀman,
and Tony Jebara. Variational autoencoders for collaborative ﬁltering, 2018.