# 手がかり表現に基づく非論理的な言語推論の学習

張 辰聖子 1 持橋 大地 ${ }^{2}$ 小林 一郎 1
1 お茶の水女子大学 2 統計数理研究所
\{g1920524,koba\}@is.ocha.ac.jp daichi@ism.ac.jp

## 概要

人間が行っている推論は論理的な含意関係だけではなく, 日常的な知識を背景にした常識推論が大きな役割を果たしている. 本研究はこの際の知識を,複雑な内容を表現できる自然言語文自体ととらえ,「から」「ため」のような手がかり表現を利用することで, 前提と帰結がともに文となる自然言語推論をコーパスから深層学習モデルとして直接学習する。 コーパスから抽出した 157 万文ぺアについて学習し, テストデータにおいて, 前提から生成した帰結文について人手評価を行ったところ, $65.8 \%$ が妥当な推論であるとの結果を得た. さらにエラーの原因について考察し, 改善と今後の可能性について議論する.

## 1 はじめに

ロボットのような人工知能が人間と共生する未来社会において, 人間と同等の推論や知的判断が行える方法を開発することは, 重要な研究課題だと考えられる. 自然言語処理の最近の推論の研究は含意関係認識のような論理的な推論を扱っていることが多いが,これでは扱えない自然な「推論」も実際には重要である. たとえば, 富士山と湖の写った写真を見て 「富士山がある」「湖が見える」と判断するだけでなく,そこから「キャンプによい」「日本的な風景だ」 と判断することは論理的な推論ではないが, 人間が常に行っている常識的な推論である. そこで本研究では，「〜ため」のような手がかり表現とニューラル言語モデルを用いることで, 大量のコーパスから直接,こうした常識的推論を学習する. 提案法の特徴は, 前提と帰結がどちらも自然言語の文となる言語的推論であり, 従来のように論理構造を介していないことにある。

## 2 関連研究

こうした非論理的な1) 推論は, 自然言語処理では常識推論 (commonsense reasoning) とよばれて長く議

図 1 Wikipedia からのデータ生成と, 推論の学習の概要.論されており, 特に最近活発に研究されている分野である [1]. ただし,このためのデータセット [2][3] がそうであるように, 従来はこうした知識はあくまで知識グラフのような離散的な知識構造で表されていた.こうしたグラフの作成やラベル付けには大量の人手が必要である上,多くは単語間のグラフ関係であるため, 複雑な知識を表すことができず, 表現力にそしいという大きな欠点がある.

いっぽう, 推論についてこうした知識構造を介さず, 文から直接文を導く自然言語推論が行われ始めている [4].こうした自然言語推論は論理的含意を対象にしているが,この方法は常識推論にも自然に適用でき, 本研究ではその可能性を模索する. Yu ら [5] は, 短い文のペアを人手でラベル付けしたデータセット ASER [6] から, 文の連続をグラフ上のランダムウォークとしてサンプリングし, そのデータに基づく常識推論の学習を提案している. ASER は大量のコーパスからあらかじめ作成されたものであるが, 本研究は関係を絞って, 常識推論を直接コーパスから学習するものであるといえる。

## 3 自然言語による推論

## 3.1 研究概要

図 1 に研究の概要を示す. 日本語 Wikipedia コー パスから，「理由」を表現する手がかり表現を元に

1）論理的推論と区別するために, あえて「非論理的」という言葉を使っているが,これは推論に結果として論理的推論が含まれることを排除するものではない.
根拠と結論がペアになった文を抽出する. 根拠部分を大力, 結論部分を出力とし, 文を生成する深層学習モデルである $\mathrm{T} 5$ に学習させる. これにより根拠に相当する文から結論を示す文を生成することを通じて, 自然言語推論を実現する。

## 3.2 データ作成

データの収集には日本語版 Wikipedia コーパスを用いた. 以下にデータ作成の手続きを示す.

Step 1. 正規表現で理由節を持つものを抽出日本語版 Wikipedia 本文から，理由節を持つ 1 文を正規表現を用いて抽出する. その際，手がかり表現として「から」「ので」「ため」「おかげで」「せいで」の 5 つを用いた．また，理由節を持つ文の文頭が指示詞（「この」，「その」）であった場合，前文で置換をするという簡単な指示詞の補完を行った.

Step 2. 形態素解析によるフィルタリング正規表現によって抽出された理由節を持つ文に対し，1文ごとに MeCabを用いて形態素解析を行う．正規表現での抽出では，5つの手がかり表現は，理由を表す以外の意味を持つことがある. そこで，形態素解析により主に理由を表す品詞として使われている場合のみを抽出する. 以下に品詞による使われ方の違いの例を示す。

・信号が青から赤に変わった. (格助詞, 変化の 「から」)

・楽器を持っていなかったからボーカルになった. (接続助詞, 理由の「から」)

例に挙げたように「から」の品詞細分類が接続助詞である時，主に理由を表すことから解析により抽出を行う．上記により，解析の結果，理由節が以下の形態素として含まれていた場合に，抽出を行う.

・から助詞, 接続助詞

・ので助詞, 接続助詞

$\cdot$ため名詞, 非自立, 副詞可能

-せい名詞,非自立,一般

十で助詞, 格助詞, 一般

・おかげ名詞,一般

+ 助詞, 格助詞, 一般

Step 3. 機械学習によるフィルタリング形態素解析によって残った文のうち，名詞で用いられる「ため」はいくつかの意味を持つ. そのため, 理由を表す「ため」のみを抽出することを目的として，訓練済み日本語 BERT モデルを用いて二値分類を行っ表 1 訓練データの例と，それに類似する前提を与えたときのファインチューニングを行った $\mathrm{T} 5$ の文生成出力例.

た. ここで用いた BERT モデルは Hugging Face ${ }^{1)} の$自然言語ライブラリ Transformers ${ }^{2}$ に基づく, 東北大学公開の事前学習済み日本語 BERT モデル3)を使用した.「ため」を手がかりとして抽出した文から， ランダムに 300 文を抜き出し，手動で理由を表すかそうでないかのタグ付けをし，二値分類の機械学習を行くった. 300 文での 5 分割交差検証では $88.7 \%$ の精度で理由を表すかそうでないかの分類を行えていることがわかった. 分類を行った結果, 1,288,304 文の「ため」を含む文から，730,133 文 (56.7\%) の理由を表す文を抽出することができた。

Step 4. 根拠表現と結果表現の抽出日本語自然言語処理ライブラリである $\mathrm{GiNZA}^{4)}$ を用いて，抽出した文に対して係り受け解析を行う. 坂地ら [7]の手法を用いて, 根拠表現と結果表現の抽出を行った。

## 3.3 推論モデル

収集した文ぺアを日本語 T5 モデルに与え，前提から結果を生成する深層学習モデルを学習することで，自然言語による推論を実現する。

## 4 実験

## 4.1 実験設定

本研究では，3.2 節で収集した 1,572,956 件の根拠と結果のぺア文をデータとして用いる. 実験の際は，このデータを訓練：開発：評価 $=0.95: 0.025: 0.025$ として評価を行う。評価は評価データからランダムで 100 文を抽出し手動で行い，それに伴い

1) https://huggingface.co

2) https://github.com/huggingface/transformers

3) https://huggingface.co/cl-tohoku/bert-base-japanese

4) https://megagonlabs.github.io/ginza/
表 3 評価データに対するファインチューニングを行った $\mathrm{T} 5$ の文生成出力例と, 出力に対する人手評価の例.

 &  \\

BERT-Score[8] によって, 生成文と正解文との意味的類似度を検証した. 評価指標は 4.2 節に示す. 本研究で用いる T5 モデルは Hugging Face ${ }^{5}$ の自然言語ライブラリ Transformers ${ }^{6}$ に基づく，Isao Sonobe 公開の事前学習済み日本語 T5 モデル7)を使用した。

## 4.2 評価基準

表 3 の生成例 2 にあるように，評価データの正解と比べると全く違う出力であるが，出力内容自体は前提から妥当に導かれるものが多くあった. したがって，生成データセットにおけるモデルの性能は，出力の妥当性を人手で判断することで評価する。評価基準は，自然言語による演繹的な文生成を行うモデルの提案をしている関連研究 [4] を参考にし，以下の 6 つの分類とする。

i 妥当な推論である出力は前提から妥当に導かれる結論である。

ii 妥当な推論であるが文法的な間違いがある出力は前提から導かれうる結論だが，主語などの成分が久けていたり, 動詞の活用に違和感があるなど内容の理解を妨げない程度の文法的な間違いがある。

iii 前提を繰り返す出力は，前提文の繰り返し，もしくは言い換えであり前提と同意である。または，前提に含まれる単語を組み合わせているだけである.

iv 前提から導かれない出力は文，内容は正しいが，前提から導かれ得る結論ではない。

$\mathbf{v}$ 矛盾している出力は, 前提と矛盾する, もしくは本質的に間違っている.

5) https://huggingface.co

6) https://github.com/huggingface/transformers

7) https://huggingface.co/sonoisa/t5-base-japanese vi 結論が理解し得ない結論が文をなしていない. もしくは前提が文をなしていない。

表 4 人手評価されたデータに対する生成文と正解文の BERT-Score $の$ 平均.

## 4.3 実験結果

実験でファインチューニングされたモデルに評価データを与えると，表 3 のように文生成が行われた. その他の推論結果は, 付録 A の表 7 に示した. 前提はモデルに与えた文，出力はモデルから生成された文，正解は収集データ中の前提に対する結論文のことである. 生成データセットにおけるモデルの性能に対する人手で行った評価結果は, 各評価者ごとの評価数を表 5 に，全ての評価者の平均をグラフに

口i.妥当な推論である

口ii.妥当な推論であるが文法ミスがある

口iii.前提の繰り返しである

口iv.前提から導かれない

曰v.矛盾している

口vi.結論が理解できない

図 2 評価データからランダムに抽出した 100 文に対する人手評価の結果 (平均)
表 5 評価データからランダムに抽出した 100 文に対する人手評価の結果 (件数).

したものを図 2 に示す. 人手で評価したデータに対する，生成文と正解文の BERT-Score [9] による類似度を表 4 に示す。また, 訓練データにあるような形の前提であれば妥当な推論を行えるという仮定の下，訓練データの例と，それに伴うモデルによる出力例を表 1 に示す. 出力が妥当な推論である，もしくは妥当な推論であるが文法的な間違いがあると評価された割合は $65.8 \%$ となった.

## 4.4 考察

前提を与えることで，文生成の形で推論を行うことができた．BERT-Score による文の類似度（表 4) を見ると，妥当な推論が行われている場合（評価 i) は他の評価指標の結果に比べ，類似度の平均が高くなっていることがわかる. しかし, 評価 $\mathrm{v}$ の類似度の平均が最も高くなっている. これは, 生成文が表 3 の例 4 のように，矛盾はしているが矛盾理由が文末尾による否定によるものである場合に, 文全体の類似度自体は上がってしまったからだと考えられる.

エラーについて，3つ目の評価指標である前提を繰り返すことに注目すると, 表 3 の例 2 のように,前提を繰り返したのちに「ため」をつけるという事例がいくつかあった. 理由としては, 訓練データに結論が「ため」で終わる文が，4,293 件と多く含まれていたことが考えられる. そのようなデータが含まれてしまう原因は 2 つほど考えられる。

1つ目は，「ため」によって収集された文に「のためにしていたため」といった表 6 の例 1,2 に示したように「ため」を多重で使った文が多くあったことが原因だと思われる.このような「ため」多重文に対し，データ生成における Step 4 を行うと，結果部分が「ため」で終わるデータが抽出されてしまう. また，3.2 節のデータ作成で説明したように「ため」 はいくつかの意味を持つ. その中でも，「ため」多重文で用いられる「ため」は例 2 のように「目的」 の意味で使われていることが多くあり，「ため」に表 6 エラー分析の結果，原因であると考えられる訓練データのノイズ例. 元の文と, 抽出した文ぺアを示した.

例 1

子供を増やすことは世帯所得増加に繋がるため,子供を産むインセンティブとなるために少子化対策となりうるという考えがある。前提子供を増やすことは世帯所得増加に繋がる結果子供を産むインセンティブとなるため例 2

彼らに対抗するために資金を調達するためにツアーに行くと，彼らはギャングによって絶えず脅かされています.

前提彼らに対抗する結果資金を調達するため

例 3

必要以上の事件を寄せ付けないためにクラス Aの身分を隠し，小さな探偵事務所を構える悪行の元に，今日もまた事件がやってくる.

前提必要以上の事件を寄せ付けない結果必要以上の事件を寄せ付けないため

対する機械学習の精度の向上が望まれる.

2つ目の原因としては，訓練データの結果の中に，表 6 の例 2 のように前提を繰り返した後に「ため」 をつけたものもあった. こうしたことが起こった原因は，係り受け解析時に「ため」の前で文が区切られてしまっていたからである．例 2 の文では，「必要以上の事件を寄せ付けないために」で区切られてしまい，データ生成における Step 4 を行うと, 前提を繰り返す文を結果として抽出してしまう。これは，係り受け解析器を用いて自動的に前提と結果を抽出しているため起こりうるエラーである.

## 5 おわりに

本研究では，自然言語文そのままの形で推論を行う手法の開発を目的に，自然言語による推論を自然言語文生成として表現する研究に取り組んだ. 日本語 Wikipediaコーパスから，理由節を手がかり表現として根拠と結論を抽出した. 抽出した因果関係のデータを用いて，根拠部分を入力，結論部分を出力として深層学習を行うことで，推論を行う形の文生成が可能なことがわかった. モデルによって生成された文に対して人手で評価を行った結果，前提から導かれる推論として妥当だと言える割合は $65.8 \%$ となった. 今後は, 発生したエラーを改善して収集データのノイズを減らし, 推論文生成の精度を上げたい。また，作った推論モデルを用いて，多段推論および前提を予測する帰納的推論などに挑戦していきたいと考えている.

## 参考文献

[1] Maarten Sap, Vered Shwartz, Antoine Bosselut, Yejin Choi, and Dan Roth. Commonsense Reasoning for Natural Language Processing. In ACL 2020, pp. 27-33, 2020.

[2] Robyn Speer, Joshua Chin, and Catherine Havasi. ConceptNet 5.5: An Open Multilingual Graph of General Knowledge. In AAAI 2017, p. 4444-4451, 2017.

[3] Maarten Sap, Ronan Le Bras, Emily Allaway, Chandra Bhagavatula, Nicholas Lourie, and Hannah Rashkin. ATOMIC: An Atlas of Machine Commonsense for If-Then Reasoning. In AAAI 2019, p. 3027-3035, 2019.

[4] Kaj Bostrom, Xinyu Zhao, Swarat Chaudhuri, and Greg Durrett. Flexible Generation of Natural Language Deductions. In EMNLP 2021, pp. 6266-6278, 2021.

[5] Changlong Yu, Hongming Zhang, Yangqiu Song, and Wilfred Ng. CoCoLM: Complex commonsense enhanced language model with discourse relations. In Findings of the Association for Computational Linguistics: ACL 2022, pp. 1175-1187, 2022.

[6] Hongming Zhang, Xin Liu, Haojie Pan, Yangqiu Song, and Cane Wing-Ki Leung. ASER: A Large-scale Eventuality Knowledge Graph. In $W W W$ 2020, p. 201-211, 2020.

[7] 坂地泰紀. 構文パターンを用いた因果関係の抽出. 言語処理学会第 14 回年次大会論文集, 2008, pp. 1144-1147, 2008.

[8] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, and Yoav Artzi. Bertscore: Evaluating text generation with BERT. CoRR, Vol. abs/1904.09675, , 2019.

[9] Tianyi Zhang, Varsha Kishore, Felix Wu, Kilian Q. Weinberger, and Yoav Artzi. BERTScore: Evaluating Text Generation with BERT. In International Conference on Learning Representations, 2020.

## 付録 A 推論結果の例

表 7 学習した $\mathrm{T} 5$ 深層学習モデルによる推論結果の例.

} & 前提 & 騎兵隊という部隊名が付いているが馬の輸送が間に合わずまた連発銃の普及により \\