# 文書レベル関係抽出における根拠認識の統合

Youmi Ma An Wang 岡崎直観
東京工業大学
\{youmi.ma@nlp., an.wang@nlp., okazaki@\}c.titech.ac.jp

## 概要

文書レベル関係抽出（DocRE）は文書中のすべてのエンティティの組の関係を推定するタスクである.この関係抽出に必要最小限かつ十分な情報を含む文の集合を根拠と呼ぶ。根拠は関係抽出の性能を改善できるが，既存研究では DocRE と根拠認識を別々のタスクとしてモデル化していた. 本稿では,根拠認識を関係抽出のモデルに統合する手法を提案する。 さらに，根拠のアノテーションが付与されていないデータに根拠の疑似的な教師信号を付与し，大量の自動ラベル付けデータを活用する方法を提案する. 提案手法は DocRED において DocRE と根拠認識の両方で現時点の世界最高性能を達成した ${ }^{11}$.

## 1 はじめに

関係抽出はテキストにおけるエンティティ（実体）の関係を認識するタスクである。関係抽出では，文内に閉じて関係を認識するタスク設定の研究が多く $[1,2,3,4,5]$, テキスト中で複数の文にまたがって表現される関係は対象外となってしまうため，適用範囲が狭いという課題があった [6]. これに対して, 複数の文で言及される関係にも対応したタスク，すなわち文書レベル関係抽出（DocRE: Document-level Relation Extraction）が提案された $[6,7,8]$. DocRE では，複数の文の情報の取捨選択や統合をしながらエンティティ間の関係を推定する必要がある $[9,10,11]$.

DocRE において情報の取捨選択に用いられるのが根拠 (evidence) である。根拠は，関係を推定するために必要最小限かつ十分な情報を含む文の集合と定義され，DocRE で広く用いられるデータセッ卜 DocRED [6] でもラベル付けされている. 図 1 の例では, Prince Edmund と Blackadder における関係 present in work を認識するための必要最小限かつ十
公開している。

 \\

図 1 DocRED [6] のアノテーションの例。斜体は関係を予測したいエンティティの言及（メンション）であり，下線はその他のエンティティの言及である.

分な情報は文 1 と 2 であるため，この関係の根拠は文 1 と 2 とラベル付けされる. 既存研究では， DocRE のサブタスクとして根拠認識に取り組み，エンティティ組の関係を推定する際に必要な情報の取捨選択を行うことが多かった $[6,9,10,12]$.

既存研究では，DocRE と根拠認識を別々の夕スクとしてモデル化しているため $[9,10,12]$, 両タスクの関連性を考慮できない。これに対し，本稿では DocRE と根拠認識のモデルを統合した新手法として，Document-level Relation Extraction with Evidence-guided Attention Mechanism (DREEAM) を提案する．DREEAM では，根拠を単語や文の重要度に関する情報としてテキストのエンコーダに統合する. 具体的には，BERT [13] などの事前学習済み言語モデルのエンコーダにおける自己注意機構 [14] への教師信号として根拠を導入し，根拠に高い重みを配分するように誘導しながら DocRE のモデルを学習する。これにより，文書レベル関係抽出から根拠認識モデルを削除し，パラメータ数の削減や推論時のメモリ使用量の低減も実現できる。

なお，文書レベルの関係アノテーションはコストが高いため，学習データが不足しがちな状況にある. 表 1 に示すように，現時点で最大規模のデー タセットである DocREDでも，人手でラベルが付
表 1 DocRED [6] データセットの統計情報

与された文書は 5,051 件しかない. DocRED ではデータ不足を緩和するため，関係ラベルを Distant Supervision [15] を用いて自動付与しているが，根拠ラベルの自動付与は行われていない. 本研究では,提案手法である DREEAM を用いて根拠の疑似的な教師信号を自動的に付与し, 大量の自動ラベル付与データを活用する．最終的に，提案手法は DocRED において DocRE と根拠認識の両方で現時点の世界最高性能を達成した。

## 2 予備知識

## 2.1 タスクの定義

DocRE の目的は, 文 $X_{D}=\left.\{x_{i}\right.\}_{i=1}^{\left|x_{D}\right|}$ からなる文書 $D$ における全てのエンティティ $\mathscr{C}_{D}=\left.\{e_{i}\right.\}_{i=1}^{\left|\mathscr{D}_{D}\right|}$ の組が持つ関係を推定することである。文書 $D$ におけるエンティティ $e \in \mathscr{E}_{D}$ の言及（メンション）を $M_{e}=\left.\{m_{i}\right.\}_{i=1}^{\left|\cdot M_{e}\right|}$ とし, エンティティの組 $\left(e_{s}, e_{o}\right)$ が持つ全ての関係から成る集合を $\mathscr{R}_{s, o} \subseteq \mathscr{R}$ とする. ただし， $\mathscr{R}$ は関係ラベルの集合である. $\left(e_{s}, e_{o}\right)$ の間に関係 $r \in \mathscr{R}$ が存在する場合, $\left(e_{s}, r, e_{o}\right)$ に関する根拠を $\mathscr{V}_{s, r, o} \subseteq X_{D}$ で表す. 根拠認識の目的は，全ての関係抽出における根拠を認識すること，すなわち $\left(e_{s}, r, e_{o}, \mathscr{V}_{s, r, o}\right)$ を得ることである.

## 2.2 ベースモデル: ATLOP

提案手法のベースとなる手法 ATLOP [16] を説明する。まず，各エンティティの言及の冒頭と末尾に特殊トークン「*」を挿入したトークン列 $\mathscr{T}_{D}=\left.\{t_{i}\right.\}_{i=1}^{\left|\mathcal{F}_{D}\right|}$ を BERT [13] などを用いてエンコードする. エンコーダの出力から，トークンの分散表現 $\boldsymbol{H} \in \mathbb{R}^{\left|\mathcal{T}_{D}\right| \times d}$ と自己注意機構の重み ${ }^{2)} \boldsymbol{A} \in \mathbb{R}^{\left|\mathcal{I}_{D}\right| \times\left|\mathscr{I}_{D}\right|}$ を記録し，前者をトークン埋め込み，後者をトークン間の依存度と呼ぶ（ $d$ はエンコーダの隠れ層の次元数である).

次に，エンティティ埋め迄みを計算する。言及

2）マルチヘッド自己注意の全ヘッドの平均として計算する. $M_{e}=\left.\{m_{i}\right.\}_{i=1}^{\left|M_{e}\right|}$ を持つエンティティ $e$ に対して，埋め込み $\boldsymbol{h}_{e} \in \mathbb{R}^{d}$ を $\boldsymbol{h}_{e}=\log \sum_{i=1}^{\left|. M{ }_{e}\right|} \exp \left(\boldsymbol{h}_{m_{i}}\right)$ と計算する. ただし， $\boldsymbol{h}_{m_{i}} \in \mathbb{R}^{d}$ は言及 $m_{i}$ の開始位置に挿入した特殊トークン「*」の埋め込みである。これにより， エンティティ $e_{s}, e_{o}$ の埋め込み $\boldsymbol{h}_{s}, \boldsymbol{h}_{o} \in \mathbb{R}^{d}$ を得る.

さらに，エンティティの組 $\left(e_{s}, e_{o}\right)$ に対する局所文脈埋め迄みを計算する。局所文脈埋め込みは文書 $D$ における全トークンの埋め込みの重み付き和であり, 重みは $e_{s}, e_{o}$ 両方に対する重要度を反映する. トークンの重要度は，トークン間の依存度 $\boldsymbol{A}$ の強さとする。具体的には，エンティティ $e_{s}$ の各言及 $m_{i} \in M_{e_{s}}$ と他のトークンの依存度から $\boldsymbol{a}_{s} \in \mathbb{R}^{\left|\mathcal{I}_{D}\right|}$ を求める. ここで $\boldsymbol{a}_{s}$ は全ての $\boldsymbol{a}_{m_{i}} \in \mathbb{R}^{\left|\mathscr{T}_{D}\right|}$ の平均であり， $\boldsymbol{a}_{m_{i}}$ は $m_{i}$ の冒頭にある「*」に対応する $\boldsymbol{A}$ のスライスである. 同様に $\boldsymbol{a}_{o} \in \mathbb{R}^{\left|\mathcal{T}_{D}\right|}$ を求め, $\left(e_{s}, e_{o}\right)$ に対する各トークンの重要度 $\boldsymbol{q}^{(s, o)} \in \mathbb{R}^{\left|\mathfrak{T}_{D}\right|}$ および局所文脈埋め込み $\boldsymbol{c}^{(s, o)} \in \mathbb{R}^{d}$ を, 式 1 と 2 で求める.

$
\begin{aligned}
& \boldsymbol{q}^{(s, o)}=\frac{\boldsymbol{a}_{s} \circ \boldsymbol{a}_{o}}{\boldsymbol{a}_{s}^{\top} \boldsymbol{a}_{o}} \\
& \boldsymbol{c}^{(s, o)}=\boldsymbol{H}^{\top} \boldsymbol{q}^{(s, o)}
\end{aligned}
$

ただし。は要素ごとの積である. 局所文脈埋め込みは重要度の高い箇所に注目した分散表現であることから，異なる文の情報を効果的に統合できる。

最後に， $\left(e_{s}, e_{o}\right)$ の関係分類を行う. 関係分類器の入力はエンティティ埋め込みと局所埋め込みを統合した分散表現で, $\boldsymbol{z}_{s}=\tanh \left(\boldsymbol{W}_{s}\left[\boldsymbol{h}_{s} ; \boldsymbol{c}^{(s, o)}\right]+\boldsymbol{b}_{s}\right) \in$ $\mathbb{R}^{d}$ と計算する. ここで $[\cdot ; \cdot]$ はべクトルの連結, $\boldsymbol{W}_{s} \in \mathbb{R}^{d \times 2 d}, \boldsymbol{b}_{s} \in \mathbb{R}^{d}$ はパラメータである. $z_{o} \in \mathbb{R}^{d}$ も同様に計算し, 全関係ラベルのスコアを $\boldsymbol{y}^{(s, o)}=\boldsymbol{z}_{s}^{\top} \mathrm{W}_{r} z_{o}+\boldsymbol{b}_{r} \in \mathbb{R}^{|\mathscr{R}|}$ で計算する. ただし $\mathrm{W}_{r} \in \mathbb{R}^{|\mathscr{R}| \times d \times d}, \boldsymbol{b}_{r} \in \mathbb{R}^{|\mathscr{R}|}$ はパラメータである. エンティティ $e_{s}, e_{o}$ の間の関係 $r \in \mathscr{R}$ の確率推定は $P(r \mid s, o)=\operatorname{sigmoid}\left(y_{r}^{(s, o)}\right)$ として計算される.

ATLOP の学習は適応間値損失 (ATL: Adaptive Threshold Loss）に基づく.すなわち，間值に対応する仮想的な関係ラベル TH を導入し，エンティティ組 $\left(e_{s}, e_{o}\right)$ に存在する関係ラベルのスコアは THより高く, 存在しない関係ラベルのスコアは TH より低くなるようにモデルを学習する。

## 3 提案手法

ATLOP では関係推定に重要なトークンに注目して情報を統合するため，局所文脈埋め込みを採用し, BERT の自己注意機構がエンティティ組 $\left(e_{s}, e_{o}\right)$ に対するトークンの重要度 $\boldsymbol{q}^{(s, o)}$ を暗黙的に学習で

図 2 DREEAM の概要

きると仮定した. 本研究では，根拠を用いて $\boldsymbol{q}^{(s, o)}$ の教師信号を与えることを提案し，根拠認識の関係抽出モデルへの統合，および関係抽出の性能向上を目指す (§3.1). さらに根拠の教師信号を自動で付与し，データ不足の緩和を目指す（§3.2）.

## 3.1 DREEAM

提案手法である DREEAM の概要を図 2 に示す.自己注意機構から計算されるトークン重要度と根拠から計算される分布が近づくように誘導し, 根拠に基づいた局所文脈埋め込みが得られると期待する。

根拠分布の算出あるエンティティ組 $\left(e_{s}, e_{o}\right)$ が持つ関係 $r \in \mathscr{R}_{s, o}$ 毎に, 根拠べクトル $\boldsymbol{v}^{(s, r, o)} \in$

り, 文 $x_{i} \in X_{D}$ が関係 $\left(e_{s}, r, e_{o}\right)$ の根拠である時に $v_{i}^{(s, r, o)}=1$ とする. さらに, 全ての関係 $\forall r \in \mathscr{R}_{s, o}$ における根拠べクトル $\boldsymbol{v}^{(s, r, o)}$ から, 関係ラベルに依存しない根拠の分布 $\boldsymbol{v}^{(s, o)}$ を次式で求める.

$
\boldsymbol{v}^{(s, o)}=\frac{\sum_{r \in \mathscr{R}_{s, o}} \boldsymbol{v}^{(s, r, o)}}{\sum_{r \in \mathscr{R}_{s, o}} \mathbf{1}^{\top} \boldsymbol{v}^{(s, r, o)}}
$

ティ組 $\left(e_{s}, e_{o}\right)$ に関する文の重要度を全関係ラベル共通に根拠のアノテーションから求めている.

根拠分布を用いた学習自己注意機構によるトー クン重要度 $\boldsymbol{q}^{(s, o)}$ を文の重要度 $\boldsymbol{p}^{(s, o)} \in \mathbb{R}^{\left|X_{D}\right|}$ に変換する。トークン列 $t_{\mathrm{START}\left(x_{i}\right)}, \ldots, t_{\mathrm{END}\left(x_{i}\right)}$ からなる文 $x_{i} \in X_{D}$ に対し, その重要度を和

$
p_{i}^{(s, o)}=\sum_{j=\operatorname{START}\left(x_{i}\right)}^{\operatorname{END}\left(x_{i}\right)} q_{j}^{(s, o)}
$

として計算する. ただし $p_{i}^{(s, o)}$ は $\boldsymbol{p}^{(s, o)}$ の $\mathrm{i}$ 番目の要素の值である。そして，根拠アノテーションから得られる文の重要度 $\boldsymbol{v}^{(s, o)}$ を教師信号とし，自己注意機構から計算される文の重要度 $\boldsymbol{v}^{(s, o)}$ が近くなるように，カルバック・ライブラー距離（ $\left.D_{\mathrm{KL}}\right)$ によ

図 3 DREEAM による自動ラベル付けデータの活用方法

る損失関数を導入する（式 5 ）.

$
\mathscr{L}_{\mathrm{ER}}=-D_{\mathrm{KL}}\left(\boldsymbol{v}^{(s, o)} \| \boldsymbol{p}^{(s, o)}\right)
$

モデルのパラメータ推定に用いる損失関数として，根拠抽出の損失関数と式 5 の和を採用することで，関係抽出と根拠認識を同時に学習する。

推論関係抽出では ATLOP と同様に，適応的間値を採用する．各エンティティ組 $\left(e_{s}, e_{o}\right)$ の関係ラベルのスコアを計算し，仮想的な閾値ラベル TH より高いスコアを持つラベルを関係として出力する。根拠認識では静的な閾値（付録 A 参照）を採用し， $\boldsymbol{p}^{(s, o)}$ が閾値より高い文を根拠として出力する.

## 3.2 根拠の教師信号の自動付与

DREEAM ではエンコーダの自己注意機構から計算されるトークン重要度に基づいてエンティティ組の関係の予測に役立つ箇所（根拠）を推定できる. ところで，1節で述べたように，DocRED には人手で付与された少量のデータの他に，Distant Supervision で関係ラベルを自動付与した大量のデータがあるが，根拠のラベルが付与されていない. そこで， DREEAM から推定される根拠の応用として, DocRE の根拠の教師信号の自動付与を行い，大量の自動ラベル付けデータを活用する方法を提案する。

その概要を図 3 に示す. Tan ら [17] に倣い，教師と学生の二つのモデルを学習する. 教師モデルの役割は，根拠の正解ラベル付けデータから根拠認識に関する知識を獲得し，根拠のラベルが無いデータに根拠の疑似的な教師信号を自動付与することである.これは，図 3 のステップ 1 と 2 で実現される.学生モデルは，手動および自動で付与された根拠のラベル付けデータから DocRE と根拠認識のモデルを学習する（図 3 のステップ 3 と 4 ).

疑似根拠分布を用いた学習根拠の正解ラベルで学習した教師モデルを用い，まだ根拠のラベル付けがされていないデータにおけるエンティティ組
$\left(e_{s}, e_{o}\right)$ のトークンの重要度 $\hat{\boldsymbol{q}}^{(s, o)}$ を予測・記録し，根拠の疑似的な教師信号とする。学生モデルのトー クン重要度 $\boldsymbol{q}^{(s, o)}$ を疑似的な根拠 $\hat{\boldsymbol{q}}^{(s, o)}$ に近づけることで，根拠抽出を学習する（式 6).

$
\mathscr{L}_{\mathrm{ER}}=-D_{\mathrm{KL}}\left(\hat{\boldsymbol{q}}^{(s, o)} \| \boldsymbol{q}^{(s, o)}\right)
$

## 4 実験と考察

## 4.1 実験結果

DREEAM を DocRED [6] で評価した結果を表 2 に示す. 実験設定の詳細は付録 $\mathrm{A}$ に示す.

## 人手のラベル付けデータだけでモデルを学習する

場合 DREEAM は EIDER [10] に匹敵する性能を示した. DREEAM と SAIS [12] の間では性能の差があるが，これはマルチタスク学習によるものと考えられる3)。なお，DREEAM は根拠認識を DocRE のエンコーダに統合したため, 根拠認識モデルが不要となり，学習・予測時のメモリ使用量を大幅に削減できた（詳細な結果は付録 $\mathrm{B}$ を参照されたい）.

## 人手に加えて自動でラベル付けしたデータも用 いてモデルを学習する場合 提案手法 (DREEAM*) は関係抽出において SSAN* [18] や KD-DocRE* [17] の性能を上回り，このデータセットにおける最高性能を達成した. これらの既存研究も自動でラベル付 けした訓練データを用いているため，提案手法の優位性が示唆される。また，根拠認識においても，提案手法は既存手法の最高性能モデル SAIS [12]を大 きく上回った.これにより，提案した根拠の教師信号の自動付与手法が DocRE と根拠認識の両方で有効であることが示された.

## 4.2 分析

本研究の提案事項の貢献度合いを調べるため，アブレーション実験を行った結果を表 3 亿示す4).

教師モデル教師モデルを学習する際に根拠認識の学習（式 5）を無効化し，性能に与える影響を調べた. 表 3 の通り，関係抽出と根拠認識の両方において性能の低下が見られる。㳊に，DocREのエンコーダの自己注意機構を根拠で誘導することは，関係抽出にも有益であることが示唆される。

3） SAIS は DocRE と根拠認識以外にも, 共参照解析等の多夕スクでモデルを学習し，豊富な教師信号を活用している。

4）表 2 の DREEAM* と表 3 (b) の DREEAM は同じ実験設定であるが，表 2 の実験では RoBERTalarge [19]を，表 3 の実験では $\mathrm{BERT}_{\text {base }}[13]$ をエンコーダとして用いているため，性能に差が現れる。表 2 DocREDでの関係抽出と根拠認識の性能. *が付い $\frac{\text { ている行は自動でラベル付けしたデータを学習に用いた. }}{\text { 検証データ }}$

表 3 DocRED の検証データでのアブレーション実験

学生モデル疑似的な教師信号による根拠認識の学習 (式 6), および手動でラベル付けしたデータによる根拠認識の学習（式 5）の片方および両方を無効化し，タスクの性能に与える影響を調べる。表 3 から，疑似根拠による根拠認識の学習を無効化すると，DocRE と根拠認識ともに性能が低下することが分かる。一方，人手でラベル付けした根拠データによる根拠認識の学習を無効にしても，性能への影響は限定的であった。これにより，根拠認識に関する知識が教師モデルから学生モデルに期待通り引き継がれていることが示唆される.

## 5 おわりに

本稿では，文書レベル関係抽出において根拠を活用する手法を提案した. 関係抽出器のエンコーダの自己注意機構において，関係予測の根拠に高い重みを配分するように誘導する DREEAM を提案した。続いて，DocREにおけるデータ不足問題を緩和するため，根拠ラベルの持たないデータを活用する手法を提案した. DocRED データセットで評価したところ，提案手法は関係抽出および根拠認識の両方の夕スクで現時点での世界最高性能を達成した。

今後は，根拠認識による関係抽出の説明可能性の検討や，長い文書において情報の統合や取捨選択を要する他タスクへの DREEAM の適用，日本語の文書レベル関係抽出の研究に取り組みたい。

## 謝辞

この成果は、国立研究開発法人新エネルギー・産業

技術総合開発機構 (NEDO) の委託業務 (JPNP18002)

の結果得られたものです。

## 参考文献

[1] George Doddington, Alexis Mitchell, Mark Przybocki, Lance Ramshaw, Stephanie Strassel, and Ralph Weischedel. The automatic content extraction (ACE) program - tasks, data, and evaluation. In Proceedings of the Fourth International Conference on Language Resources and Evaluation (LREC'04), Lisbon, Portugal, May 2004. European Language Resources Association (ELRA).

[2] Xu Han, Hao Zhu, Pengfei Yu, Ziyun Wang, Yuan Yao, Zhiyuan Liu, and Maosong Sun. FewRel: A large-scale supervised fewshot relation classification dataset with state-of-the-art evaluation. In Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pp. 4803-4809, Brussels, Belgium, October-November 2018. Association for Computational Linguistics.

[3] Iris Hendrickx, Su Nam Kim, Zornitsa Kozareva, Preslav Nakov, Diarmuid Ó Séaghdha, Sebastian Padó, Marco Pennacchiotti, Lorenza Romano, and Stan Szpakowicz. SemEval-2010 task 8: Multi-way classification of semantic relations between pairs of nominals. In Proceedings of the 5th International Workshop on Semantic Evaluation, pp. 33-38, Uppsala, Sweden, July 2010. Association for Computational Linguistics.

[4] Yuhao Zhang, Victor Zhong, Danqi Chen, Gabor Angeli, and Christopher D. Manning. Position-aware attention and supervised data improve slot filling. In Proceedings of the 2017 Conference on Empirical Methods in Natural Language Processing, pp. 35-45, Copenhagen, Denmark, September 2017. Association for Computational Linguistics.

[5] Christoph Alt, Aleksandra Gabryszak, and Leonhard Hennig. TACRED revisited: A thorough evaluation of the TACRED relation extraction task. In Proceedings of the 58th Annual Meeting of the Association for Computational Linguistics, pp. 15581569, Online, July 2020. Association for Computational Linguistics.

[6] Yuan Yao, Deming Ye, Peng Li, Xu Han, Yankai Lin, Zhenghao Liu, Zhiyuan Liu, Lixin Huang, Jie Zhou, and Maosong Sun. DocRED: A large-scale document-level relation extraction dataset. In Proceedings of the 57th Annual Meeting of the Association for Computational Linguistics, pp. 764-777, Florence, Italy, July 2019. Association for Computational Linguistics.

[7] Jiao Li, Yueping Sun, Robin J. Johnson, Daniela Sciaky, ChihHsuan Wei, Robert Leaman, Allan Peter Davis, Carolyn J. Mattingly, Thomas C. Wiegers, and Zhiyong Lu. BioCreative V CDR task corpus: a resource for chemical disease relation extraction. Database, Vol. 2016, , 05 2016. baw068.

[8] Patrick Verga, Emma Strubell, and Andrew McCallum. Simultaneously self-attending to all mentions for full-abstract biological relation extraction. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers), pp. 872-884, New Orleans, Louisiana, June 2018. Association for Computational Linguistics.

[9] Quzhe Huang, Shengqi Zhu, Yansong Feng, Yuan Ye, Yuxuan Lai, and Dongyan Zhao. Three sentences are all you need: Local path enhanced document relation extraction. In Proceedings of the 59th Annual Meeting of the Association for Computational Linguistics and the 11th International Joint Conference on
Natural Language Processing (Volume 2: Short Papers), pp. 998-1004, Online, August 2021. Association for Computational Linguistics.

[10] Yiqing Xie, Jiaming Shen, Sha Li, Yuning Mao, and Jiawei Han. Eider: Empowering document-level relation extraction with efficient evidence extraction and inference-stage fusion. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 257-268, Dublin, Ireland, May 2022. Association for Computational Linguistics.

[11] Wang Xu, Kehai Chen, Lili Mou, and Tiejun Zhao. Documentlevel relation extraction with sentences importance estimation and focusing. In Proceedings of the $\mathbf{2 0 2 2}$ Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 2920-2929, Seattle, United States, July 2022. Association for Computational Linguistics.

[12] Yuxin Xiao, Zecheng Zhang, Yuning Mao, Carl Yang, and Jiawei Han. SAIS: Supervising and augmenting intermediate steps for document-level relation extraction. In Proceedings of the 2022 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, pp. 2395-2409, Seattle, United States, July 2022. Association for Computational Linguistics.

[13] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[14] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, L ukasz Kaiser, and Illia Polosukhin. Attention is all you need. In I. Guyon, U. Von Luxburg, S. Bengio, H. Wallach, R. Fergus, S. Vishwanathan, and R. Garnett, editors, Advances in Neural Information Processing Systems, Vol. 30. Curran Associates, Inc., 2017.

[15] Mike Mintz, Steven Bills, Rion Snow, and Daniel Jurafsky. Distant supervision for relation extraction without labeled data. In Proceedings of the Joint Conference of the 47th Annual Meeting of the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP, pp. 1003-1011, Suntec, Singapore, August 2009. Association for Computational Linguistics.

[16] Wenxuan Zhou, Kevin Huang, Tengyu Ma, and Jing Huang. Document-level relation extraction with adaptive thresholding and localized context pooling. In Proceedings of the AAAI Conference on Artificial Intelligence, 2021.

[17] Qingyu Tan, Ruidan He, Lidong Bing, and Hwee Tou Ng. Document-level relation extraction with adaptive focal loss and knowledge distillation. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 1672-1681, Dublin, Ireland, May 2022. Association for Computational Linguistics.

[18] Benfeng Xu, Quan Wang, Yajuan Lyu, Yong Zhu, and Zhendong Mao. Entity structure within and throughout: Modeling mention dependencies for document-level relation extraction. Proceedings of the AAAI Conference on Artificial Intelligence, Vol. 35, No. 16, pp. 14149-14157, May 2021.

[19] Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke Zettlemoyer, and Veselin Stoyanov. Ro\{bert\}a: A robustly optimized $\{$ bert $\}$ pretraining approach, 2020.

[20] Ilya Loshchilov and Frank Hutter. Decoupled weight decay regularization. In International Conference on Learning Representations, 2019 .

## A 実験設定

4 節の実験設定を説明する. DREEAM は ATLOP [16] をべースとしているが，トークン埋め込み $\boldsymbol{H}$ とトークン間依存度 $\boldsymbol{A}$ の計算方法が異なる. 2.2 節で述べたように, ATLOP はエンコーダの出力層のみから $\boldsymbol{H}$ と $\boldsymbol{A}$ を計算するのに対し, DREEAM はエンコーダの上部 3 層の平均で $\boldsymbol{H}$ と $\boldsymbol{A}$ を求める.

モデルの学習根拠認識が DocRE のモデルに与える影響を調整するため，損失関数 $\mathscr{L}_{\mathrm{ER}}$ に係数をかけてから関係抽出の損失との和を計算し, 全体の損失関数とした。具体的には，BERT base を用いたモデルでは係数を $0.1, \mathrm{RoBERTa}_{\text {large }}$ を用いたモデルでは係数を 0.05 とした. なお，パラメータの更新には Adam [20]を採用した。その他のハイパー・パラメータの値を表 4 に示す.

モデルによる関係抽出と根拠認識関係抽出では，各エンティティの組 $\left(e_{s}, e_{o}\right)$ における間値ラべル THより高い関係ラベルを予測結果とする．根拠認識では, 重要度 $p_{i}^{(s, o)}$ が 0.2 より高い文を予測とする。 さらに，根拠認識の結果を活用するため, 予測融合を行う [10]. 具体的には, 予測結果 $\left(e_{s}, r, e_{o}, \mathscr{V}_{s, r, o}\right)$ 毎に，根拠 $\mathscr{V}_{s, r, o}$ のみからなる部分文書 $\hat{D}_{s, r, o}$ を構成し, 関係抽出を行う. 最終的な関係抽出結果は, 元文書 $D$ と全ての部分文書における予測から算出する。詳細な説明は原著論文 [10]を参照されたい。評価指標は DocRED に従い，関係抽出と根拠認識の F1 スコアとする。本稿では，検証・評価データから訓練データとの重複を取り除いたうえで，F1 スコアを計測している [6]. なお，全てのスコアは，5つの異なるランダムシードを用いてモデルを初期化し，学習した結果の平均である.

## B パラメータ数及びメモリ使用量

従来研究では，根拠認識に特化したモデルを設計し, DocRE とは別に根拠認識器を適用することが多い。このとき，各文がエンティティ組の関係判断の根拠となる確率を計算するため，全ての文とエンティティ組を列挙しなければならない. 例えば EIDER [10] では, 文 $x_{i}$ がエンティティの組 $\left(e_{s}, e_{o}\right)$ の関係予測の根拠である確率を式 7 で求める.

$
\mathrm{P}\left(x_{i} \mid e_{s}, e_{o}\right)=\operatorname{sigmoid}\left(\boldsymbol{x}_{i}^{\top} \boldsymbol{W} \boldsymbol{c}^{(s, o)}+b\right),
$

ただし $\boldsymbol{x}_{i} \in \mathbb{R}^{d}$ はトークン埋め込みから得た文 $x_{i}$ の埋め込み, $\boldsymbol{c}^{(s, o)} \in \mathbb{R}^{d}$ は $\left(e_{s}, e_{o}\right)$ における局所文脈埋表 4 実験に用いたハイパー・パラメータ

(教師) (学生) （学生）

表 5 パラメータ数及び推論時のメモリ使用量

 &  \\

ATLOP [16] & & \\
SSAN [18] & 115.4 & 10.8 \\
KD-DocRE [17] & 113.5 & 6.9 \\
根拠認識の学習あり & 200.1 & 15.2 \\
EIDER [10] & & \\
SAIS [12] & 120.2 & 43.1 \\
DREEAM & 118.0 & 46.2 \\

め込みであり， $\boldsymbol{W} \in \mathbb{R}^{d \times d}$ と $b \in \mathbb{R}$ はパラメータである. 例えば $n$ 個の文からなる文書に $m$ 個のエンティティがあるとすると，式 7 の演算を $n \times m \times(m-1)$回行うため, 特に $n$ や $m$ が大きい場合は, 膨大なメモリを消費する。

一方，DREEAM は根拠認識をエンティティの組のエンコーダに組み込み，根拠はエンコーダから計算した文の重要度を用いて直接推定できるため,根拠認識器を外部に用意する必要がない。 よって,式 7 による確率の計算が不要となり，パラメータ $\boldsymbol{W}$ と $b$ を導入せずに済む。

DREEAM と既存手法のパラメータ数およびメモ

揃えた．DREEAMを根拠認識モデルの学習を行う既存手法と比較すると，モデルのパラメータ数は既存研究よりも低く抑えられることが確認できる。また，推論時のメモリ使用量に関しては，DREEAM は EIDER [10] の 27.4\%, SAIS の 25.5\%まで抑えることが可能で，既存手法に対して大きなアドバンテージとなる。なお，根拠認識モデルを学習しない KD-DocRE [17] と比較しても，DREEAM のパラメー 夕数およびメモリ使用量は少ないことが分かる．以上のことから，DREEAM は既存手法よりも少ないパラメータ数およびメモリ使用量で，既存手法の同等以上の性能を達成できることが分かる.