# 含意関係と感情極性は対立的談話関係を捉えられるか

佐藤 拓真 ${ }^{1}$ 窪田 愛 1 峯島 宏次 ${ }^{1}$
1 慶應義塾大学
takuma.sato.keio@gmail.com
ai .kubota.m@gmail.com
minesima@abelard.flet.keio.ac.jp

## 概要

本稿では、含意関係と感情極性が対立的談話関係をどれだけ捉えられるかについて、解析と考察を行った。具体的には、節ぺアに対して判定器を用いて含意関係ラベルと感情極性のスコアをそれぞれ算出し、それらの結果と談話関係コーパスにおける談話関係ラベルを変換して対応付けたうえで、一致率を求めることで各要素の関連を分析した。

解析の結果、含意関係は逆接の談話関係を検出する上で、十分ではないものの一定程度注目に値する要素であることが示唆された。また、感情極性については、極性の判定と逆接の談話関係が同時に発生するという仮説に反して、逆接の談話関係の検出において必須の要素ではないことが分析された。

## 1 はじめに

談話関係 (discourse relation) は人間がどのようにして文を理解・構成しているかを分析するために重要な言語要素である。しかしながら、この談話関係が他の言語要素との間にもつ関係、すなわち、どのような言語要素が談話関係を決定するかについての日本語の研究は、言語処理や言語学の領域において必ずしも十分になされているとはいえない。

本稿においては、上述の談話関係のなかで、とりわけ対立的談話関係について、これが含意関係および感情極性との間にもつ関係について、実験・解析を行った。具体的には、対立的談話関係の代表例として、逆接の談話関係を対象とした。逆接の談話関係がもつ特質として、それが推論 (inference)を含む点がある。たとえば、

(1) 小学生でありながら、哲学書を読む。

という逆接の文においては、「小学生であるならば、哲学書（のような難しい本）は読まない」と
いう非明示的な推論が隠れて存在している。そのほかにも、文中に明示的に現れない対立や不一致 (disagreement)、矛盾の関係を内包するなど、逆接の談話関係は言語的な情報に富んだものである。

窪田ら [1] は、文中に潜む推論の存在に着目して、 とりわけ「ながら」「つつ」という接続詞によって結ばれる文に対して、逆接の談話関係アノテーションを行った。本稿においては、このコーパス（以下単に「談話関係コーパス」と呼ぶ）を用いて、逆接の談話関係を付与された節ぺアを抽出し、多様な対立的関係を含むデータセットを構築した。このデー タセットを用いて、含意関係および感情極性がどの程度逆接の対立的談話関係を捉えているかを解析した。

逆接の談話関係にある文においては、接続詞以前と以降の間になんらかの対立があることが多い。たとえば、

（2）心中悲しみに打ちのめされながら、表情では平然を装っていた。

という文においては、前述したような推論的対立のみならず、「悲しい」と「平然な表情」という感情極性の対立など、さまざまな観点からの対立が発見される。このように、逆接はさまざまな対立関係を含む。

ここで、この逆接の談話関係と含意関係および感情極性について、以下のような仮説を立てる。

仮説 1 「P ながら（つつ） $\mathrm{Q} 」$ が逆接を表すのは、 $P$ と $Q$ が矛盾するとき、つまり、 $P \Rightarrow \neg Q$ という含意関係における矛盾が成立するときである。

仮説 $2 「 \mathrm{P}$ ながら（つつ） $\mathrm{Q} 」$ が逆接を表すのは、 $P$ の感情極性と $Q$ の感情極性が反転しているときである。

これらの仮説を立てられるのは、矛盾 (contradiction）の含意関係や感情極性の反転が、implicit でありながらも定量的に観察される言語的な対立といえるためである。

このような言語学的仮説をコーパスと言語処理のツール（解析器）を用いて検証することで、言語学と言語処理の双方に新たな知見がもたらされることが期待される。理論言語学の領域では、逆接の談話関係と感情極性との関係は十分に注目されていないが、本研究は両者の関係に光を当てるものである。自然言語処理の領域では依然として困難な課題として存在している論理や矛盾の問題における進展に寄与することができる。これらの領域における進展によって、たとえば、テキスト生成等における生成文中の論理的な矛盾や hallucination [2] といった課題への貢献が期待できる。

## 2 関連研究

言語学では、英語の “A but B” が表すいわゆる逆接・譲歩の関係の分析として、条件文 (“If A, B”) や連言文 (“A and B")、選言文 (“A or B”) との比較のもと、多くの研究が蓄積されている $[3,4,5,6]$ 。日本語の「A、しかし、B」を典型とする逆接・譲歩の関係についても、条件文や理由文と比較して様々な分析が提案されている $[7,8,9]$ 。これら日本語・英語の逆接関係の分析に共通するのは、“A but B” や「A、 しかし、B」の典型的用法では、Aと B の間にある種の論理的な矛盾があり、「Aならば（通常は）B ではない」といった対立的推論が前提されている、という観点である ${ }^{1)}$ 。 1 節の仮説 1 はこの分析に基づくものである。

同時に次の例が示すように、A と B の間には必ずしも「Aならば（通常は）Bではない」という推論が前提されず、単に意味的な対比 $[3,5,4,6]$ を表すケースもある。

(3) John is rich but Bill is poor. (ジョンは金持ちだが、ビルは貧乏だ）

感情極性に着目した仮説 2 はこの種の用法に適合していると予想される。計算言語学・自然言語処理で

1）「Aならば（通常は）Bではない」といった対立的推論を前提するのは「直接型 (Direct consessive)」と呼ばれるタイプの逆接で、それに対して、「Aならば（通常は）C、かつ、B ならば（通常は）Cではない」といった対立的推論を前提する「間接型 (Indirect consessive)」と呼ばれるものも存在する ([1] 参照)。「直接型」「間接型」の下位分類の詳細については今後の課題とする。
は、Socher et al. [10] は、仮説 2 を英語で検証した試みとみなせる。

英語では、談話関係コーパス [11]から含意関係ぺアを抽出するという試み [12]があるが、逆接・譲歩の矛盾関係は扱われていない。他方で、既存の含意関係認識データセット $[13,14,15]$ は、含意関係に加えて矛盾関係を含むが、“not”や「ない」のような否定語を伴うケースなど、比較的単純なパターンに限られる傾向がある [16]。コーパス上で逆接・譲歩が付与された談話関係に着目することで、より多様で複雑な対立的推論関係を取り出すことが可能になると考えられる。

## 3 実験設定

## 3.1 データセットの構築手法

使用した文はすべて Kainoki Treebank [17] から抽出した。抽出対象としては、「ながら」「つつ」のそれぞれ（以下、「対象接続詞」と呼ぶ）が前後の節を結ぶ接続詞として機能している文を対象とした。

対象接続詞によって接続される文として、「文前半・文後半」と「 $\operatorname{Arg} 1 \cdot \operatorname{Arg} 2 」 の$ 二種類を抽出した。「文前半・文後半」については、該当する文の文頭から対象接続詞以前を「文前半」、対象接続詞以降から文末までを「文後半」とした。「Arg1・Arg2」については、Kainoki Treebankにおいてそれぞれ「つつ」直上の IPノード、「つつ」節を直接支配する IP ノー ドに支配される部分が該当する。

こうして抽出された「文前半・文後半」「Arg1・ $\operatorname{Arg} 2 」$ 対して、文頭および文末の処理を行った。文頭の処理としては、「話しつつ、私は」「思いながらも、やはり」といった接続部から適切に後半部分を文として抽出するために、「も」「、」を取り除く処理を行った。文末の処理としては、対象となる文の末尾が動詞・助動詞となる場合に、末尾を終止形に変換する処理を行った。処理には MeCab [18] を使用した。

構築されたデータセットの具体例を表 1 に示す。 また、対象接続詞の談話関係コーパスにおける各ラベルの件数を表 2 に示す 2$)$ 。本コーパスにおいては、陽性に相当する逆接ラベルが少ない不均衡なラベル分布がみられる点が特徴的である。

表 1 構築されたデータセットの例

 & 逆接 \\

表 2 談話関係コーパスの各ラベル件数

## 3.2 含意関係と談話関係

含意関係と談話関係の関連を明らかにするため、既存の含意関係データセットを用いて構築した含意関係判定器の出力と、談話関係コーパスから機械的に変換した含意関係ラベルの一致率を、各種評価指標を用いて算出した。

含意関係判定器構築のための学習データには、 JSICK [19]、JNLI(JGLUE [20]に含まれる)、JSNLI [21] を使用した。これらはそれぞれ、文ぺアに対する含意関係ラベルが 3 值 (entailment, contradiction, neutral）で付与された含意関係データセットである。これらの含意関係データセットに対して処理を行い、学習に使用した。各含意関係データセットのサイズを表 3 に示す。

判定器の構築にあたっては、事前学習済み言語モデル BERT [22]をベースラインモデルとした。実装においては、python フレームワーク transformers $^{3}$ における cl-tohoku/bert-base-japanese モデルを使用した $^{4)}$ 。epoch 数は 5 に設定し、最適化アルゴリズムには AdamW を使用した。学習率は 2e-5 に設定した。

上記含意関係データセットのうち JSICK を用いて構築した判定器については、ほとんど全ての入力に対して neutral ラベルを出力する挙動が見られ、有意味な実験結果が獲得されなかったため、以下では JNLI と JSNLI によって構築された判定器を用いた実験結果のみを記載する。

含意関係ラベルへの変換は、談話関係コーパスにおいて、アノテーターが一人でも逆接ラベルと判

3) https://huggingface.co/docs/transformers/index

4) https://huggingface.co/cl-tohoku/bert-base-japanese表 3 各含意関係データセットのサイズ

定した文を contradiction、それ以外を neutral と変換した。

## 3.3 感情極性と談話関係

感情極性 (sentiment polarity) と談話関係の関係を明らかにするために、節ペアのそれぞれに対する感情極性の一致・不一致を用いて、ルールベースで談話関係ラベルに変換した。感情極性の算出モデルには、 huggingface において公開されている事前学習済みモデルである daigo/bert-base-japanese-sentiment ${ }^{5}$ を使用した。

節ペアに対する上記モデルの出力において、label （極性を指す）が異なる場合、談話関係ラベルを逆接ラベルとする変換を行った。この変換手法は、逆接の談話関係においては節ぺア間でのなんらかの対立が発生しているという予想から、感情極性の反転がおこる場合には逆接ラベルの談話関係が発生しやすいという仮説を立てたことによる。

## 4 実験結果

## 4.1 含意関係

含意関係と談話関係の関係についての、「つつ」「ながら」のデータセットに対する実験結果を表 4 に示す。評価においては、逆接ラベルに対応する contradiction ラベルに対する各種スコアを観察した。

## 4.2 感情極性

感情極性と談話関係の関係についての、「つつ」「ながら」のデータセットに対する実験結果を表 4

5) https://huggingface.co/daigo/bert-base-japanese-sentiment
表 4 含意関係に関する実験結果

表 5 感情極性に関する実験結果

に示す。評価においては、逆接ラベルに対する各種スコアを観察した。

## 5 考察

## 5.1 含意関係

多くの実験設定において、Recall が高く Precision が低い傾向がみられた。このことから、「つつ」「ながら」で接続される節ペアにおいては、含意関係として contradiction と予測されるものであっても、逆接の談話関係を示さない場合が多いことが読み取れる。一方で、逆接ラベルの出現は contradiction の判定によってある程度網羅的に予測される。

以上のことから、含意関係において contradiction のラベルが付与されることは、逆接の談話関係の出現を予期させるものの、含意関係ラベルのみで逆接の談話関係の予測に十分とはいえないことが示唆される。

F1-score に注目すると、「文前半・文後半」を用いた実験よりも「Arg1・Arg2」を用いた実験のほうが高いスコアが観察された。このことから、複雑な推論や論理的関係を内包する節ぺアにおいては、使用する文を長くして情報量を増大するよりもむしろ、統語構造的に文のトリミングを行って情報量を絞るほうが含意関係の認識がしやすくなることが示唆された。

## 5.2 感情極性

多くの実験設定において、Recall よりも Precision が高い傾向がみられた。このことから、感情極性において反転のある節ぺアは談話関係としても逆接ラベルを示しやすいが、極性の反転がない節ぺアであっても逆接の談話関係をもつ場合は多いことが読み取れる。つまり、逆接の談話関係を検出するにあたって、感情極性の反転は必ずしもクリティカルな判断要素ではないことが示唆される。

## 6 おわりに

本稿においては、含意関係と感情極性が対立的談話関係、とりわけ逆接の談話関係を検出するうえでどの程度有効かについて、実験と解析を行った。その結果、まず、contradiction の含意関係の出現は逆接の談話関係の出現を予期することに一定程度有効であるが、それだけで逆接の談話関係の出現を断定するには十分でないことが示された。また、感情極性の反転は、逆接の談話関係を捉えるにあたって必ずしも決定的な要素でないことが示された。

今後の課題としては、モーダルや直接・間接性に着目した逆接の談話関係における下位分類に解析の対象を広げることや、Penn Discourse Treebank (PDTB) [23] を使用した英語データでの実験の実施、「ながら」「つつ」以外の接続詞における同様な実験・解析を行うことが存在する。

## 謝辞

本研究は、JST CREST、JP-MJCR2114 の支援を受けたものである。

## 参考文献

[1] 窪田愛, 佐藤拓真, 天本貴之, 秋吉亮太, 峯島宏次. 逆接の推論関係に着目した日本語談話関係アノテー ション. 言語処理学会第 29 回年次大会発表論文集, 2023.

[2] Kurt Shuster, Spencer Poff, Moya Chen, Douwe Kiela, and Jason Weston. Retrieval augmentation reduces hallucination in conversation. In Findings of the Association for Computational Linguistics: EMNLP 2021, pp. 37843803, Punta Cana, Dominican Republic, November 2021. Association for Computational Linguistics.

[3] Robin Lakoff. If's, and's and but's about conjunction. In Charles J. Fillmore and D. Terence Langèndoen, editors, Studies in Linguistic Semantics, pp. 3-114. Irvington, 1971.

[4] Eve Sweetser. From Etymology to Pragmatics: Metaphorical and Cultural Aspects of Semantic Structure. Cambridge University Press, 1990.

[5] Mitsuko Narita Izutsu. Contrast, concessive, and corrective: Toward a comprehensive study of opposition relations. Journal of Pragmatics, Vol. 40, pp. 646-675, 2008.

[6] Grégoire Winterstein. What but-sentences argue for: An argumentative analysis of but. Lingua, Vol. 122, No. 15, pp. 1864-1885, 2012

[7] 小泉保. 譲歩文について. 言語研究, Vol. 91, pp. 1-14, 1987.

[8] 坂原茂. 日常言語の推論. 東京大学出版会, 1985.

[9] 衣畑智秀. 日本語の「逆接」の接続助詞について: 情報の質と処理単位を軸に. 日本語科学, Vol. 17, pp. 47-64, 2005 .

[10] Richard Socher, Alex Perelygin, Jean Wu, Jason Chuang, Christopher D. Manning, Andrew Ng, and Christopher Potts. Recursive deep models for semantic compositionality over a sentiment treebank. In Proceedings of the 2013 Conference on Empirical Methods in Natural Language Processing, pp. 1631-1642, Seattle, Washington, USA, October 2013. Association for Computational Linguistics.

[11] Rashmi Prasad, Bonnie Webber, and Aravind Joshi. Reflections on the Penn Discourse Treebank, comparable corpora, and complementary annotation. Computational Linguistics, Vol. 40, No. 4, pp. 921-950, 2014.

[12] Sara Tonelli and Elena Cabrio. Hunting for entailing pairs in the penn discourse treebank. In Proceedings of COLING 2012, pp. 2653-2668, 2012.

[13] Samuel R. Bowman, Gabor Angeli, Christopher Potts, and Christopher D. Manning. A large annotated corpus for learning natural language inference. In Proceedings of the 2015 Conference on Empirical Methods in Natural Language Processing (EMNLP). Association for Computational Linguistics, 2015.

[14] Adina Williams, Nikita Nangia, and Samuel Bowman. A broad-coverage challenge corpus for sentence understanding through inference. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long Papers), pp. 1112-1122, New Orleans, Louisiana, 2018. Association for Computational Linguistics.

[15] Hitomi Yanaka and Koji Mineshima. Compositional Evaluation on Japanese Textual Entailment and Similarity. Transactions of the Association for Computational Linguistics, Vol. 10, pp. 1266-1284, 112022.

[16] Suchin Gururangan, Swabha Swayamdipta, Omer Levy, Roy Schwartz, Samuel Bowman, and Noah A. Smith. Annotation artifacts in natural language inference data. In Proceedings of the 2018 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 2 (Short Papers), pp. 107-112, New Orleans, Louisiana, 2018. Association for Computational Linguistics.

[17] Ed Kainoki. The Kainoki Treebank - a parsed corpus of contemporary Japanese, 2022. https://kainoki. github. io (accessed September 2022).

[18] Taiichi Hashimoto Toshinori Sato and Manabu Okumura. Implementation of a word segmentation dictionary called mecab-ipadic-neologd and study on how to use it effectively for information retrieval (in japanese). In Proceedings of the Twenty-three Annual Meeting of the Association for Natural Language Processing, pp. NLP2017-B6-1. The Association for Natural Language Processing, 2017.

[19] Hitomi Yanaka and Koji Mineshima. Compositional evaluation on Japanese textual entailment and similarity. Transactions of the Association for Computational Lin- guistics, Vol. 10, pp. 1266-1284, 2022.

[20] Kentaro Kurihara, Daisuke Kawahara, and Tomohide Shibata. JGLUE: Japanese general language understanding evaluation. In Proceedings of the Thirteenth Language Resources and Evaluation Conference, pp. 2957-2966, Marseille, France, June 2022. European Language Resources Association.

[21] 吉越卓見, 河原大輔, 黒橋禎夫. 機械翻訳を用いた自然言語推論データセットの多言語化. 情報処理学会第 244 回自然言語処理研究会, 72020.

[22] Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the 2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language Technologies, Volume 1 (Long and Short Papers), pp. 4171-4186, Minneapolis, Minnesota, June 2019. Association for Computational Linguistics.

[23] Rashmi Prasad, Nikhil Dinesh, Alan Lee, Eleni Miltsakaki, Livio Robaldo, Aravind Joshi, and Bonnie Webber. The Penn Discourse TreeBank 2.0. In Proceedings of the Sixth International Conference on Language Resources and Evaluation (LREC'08), Marrakech, Morocco, May 2008. European Language Resources Association (ELRA).