# 含意や推意への論理的なアプローチでの関係把握の検討

太田 博三
放送大学教養学部
9924658973@campus.ouj.ac.jp

## 1 はじめに

GPT-3 をはじめとした AI の文生成が向上している中で, 解釈可能性などの視点から, かつての国際的な言語処理タスクやその評価方法が見直されようとしている。本稿では，機械というより人間の視点も考慮しながら，含意や推意を論理的に把握することを考察したものである. 最近では，人間に近い解釈可能なものを対象とする動きが主流になりつつある.マーケティングの消費者行動モデルの分野では，解釈できないものは取り入れない姿勢もあり，ヒトから機械へ, 機械からヒトへの相互作用が, 今どき,必要とされていると言える.

得に，語用論の面白さは，書き言葉としての文章だけではなく，話し言葉としての対話にも含まれ，機械に落とし込み際には, 大きな課題となっている.

既存の RoBERTa や T5 などの言語モデルは, 省略された語句を mask させ，予測させるものであると言える。この語句と語句との間の関係を捉えることでは，その精度面から成功したと言えるが，チャットボットなどの短い発話から，相手の背景まで推測させることは，まだ発展途上にあると思われる．文と文の間の関係は明示的にはないままである。

ここで, 人間から機械への落とし込みを行う際に，数理論理学を並行して機能させることで，その背景を複数のパターンで捉えることができる. 含意関係認識の文や書き言葉や話し言葉，更には，親子や友人同士などの人間関係を認識したうえで考察する関係性理論において，論理的なアプローチの可能性を検討したものである.

## 2 研究の目的・新規性

本研究では, 日常生活で用いられる基本的な書き言葉や話し言葉に対して, 数理論理学を用いた応用とし

捉え, 機械での処理にも，適用する上で，人間関係や含意や推意をいくつかに捉えることを考察した。一昔前の人工知能で用いられたのが記号推論学であるが，成功例は専門知としてのエキスパートシステムなどである。ここでは，＜IF-THEN>で分岐させる手法が中心であった。これを拡張し，現在の深層学習に記号推論も並べて適用したものである. <IF-THEN-BECAISE>であれば，文と文の間の関係が，直感的に捉えられる. 更に，短い文や発話でも， その前後の文脈の背景を，よくありがちなパターンで落とし込み，解釈可能な接近が可能となる.

## 2.1 記号論理学によるアプローチ

本節では，日常生活に必要な日本語を機械でどのくらい捕捉できるかを検討する. まず, 記号論理学による表現と推論の視点から入り, 次に, 含意関係認識 (Recognition of Textual Entailment; RTE)を取り上げ, Multi-Hop Reasoning による会話断片に照らし合わせて,考察する. [Arabishahi 2021]の研究では, 人間の $65 \%$ に対して, 35\%であり, SOTA であるとされた.このアプローチを，書き言葉と話し言葉への適用例とを，それぞれ検討する。

## 2.1 記号論理学による表現と推論

機械での知識表現の成功例として,「IF-THEN $\rfloor$ 形式のエキスパートシステムが挙げられる. 1 つつの論理命題の列挙が分岐する内容で捉えられるものに限る. 日常生活で出てくるものには弱く, 医師の診察など専門性の高いものに限られる.この要因の一つに，記号論理学の一階述語論理での表現 (図 2-1-1)にある.この場合, 数字の単位は表せず, 非常に曖昧なものに限られる.

ここで 1 つ 1 つの知識抽出は Web で可能になったものの，それを捕捉するフレームワークが記号論理学では曖昧なものになり，具体性のあるものは，その対象にならなかった。

 & $\exists \mathrm{x}($ have(I, computer(x)) \\

## 2.2 含意関係認識による対象範囲

含意関係認識とは, 2 つの文を想定し, 1 つは前提となる文(Text; T)を，もう 1 つは仮定となる文(Hypothesis; $\mathrm{H})$ を設定し, それらの関係が成立するかを Yes,No $(0,1)$ で判定するタスクである. 例を以下に示す(図 2-2-1 参照).

ここでは，京都で食事をしていた行為と滞在していた行為とを，直接的に確認する手間を省くものであるが，論理命題となる 1 つ 1 が確認される訳ではないため, ニュース記事なのでは，事実関係が必要になることもあり, 注意が必要である. 使用される場合は, ポライトネスなどのように, 長年, 付き合いのある友人や家族同士の会話で, 省略する方がくどくなく自然な場合が妥当と考えられる。

2000 年代の前半の国際的な言語タスクは,この含意関係認識が主流であった. その後, 2019 年頃から BERT による深層学習が出てくると, 店舗の広告文と相性の良い消費者の SNS との相性分析が行われるなど,文脈を考慮した活用が消費者の意思を表すとして, マ一ケテイング分野で広く使われるようになった.このように, 気持ちや思考などを捉えるのには事実確認がされにくい分野では, 利便性は高くなるが, 知識や事実関係に照らし合わせる際は, 不得手となる.

BERT による含意関係認識は, 言葉と言葉の距離によるものであり，論理的推論も加わることが期待されている.

## 2.3 Multi-Hop Reasoning での適用

Multi-Hop Reasoning には, 広い概念のため, 本項では， Arbashahi(2020)の IF(State)-THEN(action) -BECAUSE(Goal)のアプローチを検討する. 深層学習での処理に並行して, 論理テンプレートを採用したものである.この IF-THEN-BECAUSE は 3 段論法を始めとしたモーダスポーネンスなど, 非単調推論などがある. しかし, 逐次段階で, 人間の感覚で十分にわかってしまうなどで，あまり効果的ではなかった. これに対して, 論理展開が早く, 且つ仮設を基にしたアブダクションの推論法を応用したものが，前述の Multi-Hop Reasoning である. 隠れた背景や意図・推意を聞き手や読み手に委ねることができる。 つまり，BECAUSE 節は複数の選択肢が考えられ， IF-THEN で固定できるのがメリットである.

 & 早く起きよう. &  \\

 &  &  \\

IF-THEN-BECAUSE で捉えると図 2-3-1 のようになり，字義的にも，そのまま捉えることができる.

## 2.4 書き言葉への適用

最近, よくニュースでも取り上げられたコロナ下の政府の依頼文を取り上げて考察する(図 2-4-1 参照)，ヒトの認知機能では, 論理学の対偶関係で捉える傾向があり, ここを起点として考えるが, 「午後 8 時前なら, 飲食店での食事は構わない」とい文脈で捉えてはいけないといら政府側の指摘も受け，国民的には混乱した覚えがある.この対偶での解釈では，私たちがよく考えがちで，語用論的には誘導推論と言われている.

午後 8 時を過ぎたら, 飲食店での食事は避けて下さい.図 2-3-1 書き言葉の例: 緊急事態宣言での政府の依頼文

この対偶関係では, 論理学上は $\mathrm{p} \Rightarrow \mathrm{q}$ から $\Rightarrow \mathrm{q} \Rightarrow \mathrm{p}$ が成立するが注意が必要である. 直観主義論理の立場で，排中律の除去を行う必要がある. 排中律とは,「p V ᄀp」の姿勢をとり, 1 つつの命題を確認するものである. 含意関係認識の際も同様の注意が必要となる.

 &  \\

 &  &  \\

IF-THEN-BECAUSE で捉えると図 2-4-1 のようになり,字義的にも，そのまま捉えることができる.

## 2.5 話し言葉への適用

以下, 夫婦間の会話を取り上げて考察する（図 2-5-1 参照).

同じくIF-THEN-BECAUSE で捉えると図 4-5-2 のようになり, 捉えることができる.

 &  \\

ここでは，「コーヒーを飲むと，早く寝付ける」の間に，「コーヒーにはカフェイン効果があり, 寝つきが悪くなることもある」という知識が含まれているのか明確ではない.直観主義的には, 命題を 1 つつ, 確認する必要があり, ここが知識活用と論理展開との間でネックになっていると思われる. しかし, 「コーヒーを飲むと, カフェイン効果で寝つきが悪くなる」という捉え方はやや強引になるため, 常識レベルで捉えることも考えられる.

## 2.6 関係性理論への適用

以下, 関連性理論での親と子の会話の背景の捕捉について, 考察する. 母と娘との会話であり, たった 1 対の対話でしかないが，これを推論するのには，単なる文の省略を補完するだけでは不十分であり, 母と娘との共通認識や背景の理解が必要となる. 背景を 5 つ場面で記し(図 2-6-1 参照), 会話断片を記す(図 2-6-2 参照).

 \\

ここで, IF-THEN-BECAUSE で捉えると, 図 2-6-3 のようになり, 字義的にも，そのまま捉えることができる.この場面は, 文化交流の中でも，ローカル性の高いものだが，よく見かける場面である.

 &  & \\

## 3 反実仮想への拡張

「IF-THEN-BECAUSE」など論理フレーム以外にも, 反実仮想の「IF would, I would... ,But I really want to.」が，日常生活の後悔の念を背景にした場合に考えられる (図 2-6-1).ここでは, 実際に「帰省できた」 のは実在していないため，発話者の過去の経験を踏まえて，その意図が反映・内包される．事実とは反対の「次はどうしても帰省したい.」などを表している.このように，論理フレームに話者の意図や後悔を含めることができ，ある一定の文脈を設立させることができる点で, 有効と思われる.また必ずしも，字義上の文と文の関係を解釈できるとは限らないが，日常生活の多くの場面では，定性的に成立するものであれば，適用はそう難しくないと考えられる。

「コロナになっていなければ，お正月に帰省できたのに, しかし出来なかった, 残業だ, 次回, 行きたい」

図 2-6-1 IF would, I would... ,But I really want to.

Next I will.

## 4 おわりに

本稿は, 記号論理学の応用である Multi-Hop Reasoning の異なる談話や発話をまたいで,「IF-THEN-BECAUSE 」や「IF would, I would $\cdots$,But.」などの論理フレームで, 知識を捕捉できる可能性を確認した. 解釈可能なアプローチの一つとして, 書き言葉だけではなく話し言葉の場面でも直感的にも受け入やすいと考えられる. 自然言語だけでのアプローチは, $35 \%$ に過ぎないが，今後は，画像等を取り入れたマルチモー ダルなアプローチで考察してゆくことで, 人間の $65 \%$ に近づけていきたい. 画像や動画では, 場面と場面との繋がりが精度に直結すると思われ, 引き続き, 取り組みたい.

## 5 参考文献

[1] 新田「知識と推論」, サイエンス社, 2002

[2] 加藤・土屋「記号論理学」, 放送大学出版会, 2014

[3] 時本「あいまいな会話はなぜ成立するのか」, 岩波書店, 2020

[4] 坂原「日常言語の推論」, 東京大学出版会, 1985

[5] Minsky（竹林訳）「ミンスキー博士の脳の探検」,共立出版会, 2009

[6] 小出「Common Lisp と人工知能プログラミング

(下巻)」オントロノミー合同会社, 2017

[7] Peter Norvig Paradigms of Artificial Intelligence Programming: Case Studies in Common Lisp, Morgan Kaufmann, 1991

[8] 長尾「知識と推論」, 岩波書店, 1988

[9] 宇佐美まゆみ監修(2020)『BTSJ 日本語自然会話

コーパス（トランスクリプト・音声）2020 年版』

[10] Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches Shane Storks, Qiaozi Gao, Joyce Y. Chai, 2019

[11] ブラウン \& レヴィンソン「ポライトネス言語使用における、ある普遍現象」“Politeness : Some Universals in Language Usage” , 1987

[12] 生田「ポライトネスの理論」大修館書店, 『月刊言語』, pp.66-71, 1997

[13] 松井「関連性理論から見たポライトネス」30 巻 No. 3 特集月刊言語, 2001

[14] 井之上「言語データからの知識獲得と言語処理への応用」人工知能 33 巻 3 号, 2018

[15] 太田「言語学の語用論や配慮表現の先端技術への適用に関する一考察」第 23 回 SIG-AM 人工知能学会合同研究会, 2019

[16] 米盛「アブダクション一仮説と発見の論理」勁草書房, 2007

[17] 麻生深層学習と知識・記号推論の融合による AI 基盤技術の発展,報告書, 研究開発戦略センター（CRDS）, 科学技術振興機構研究開発戦略センター, 2020

[18] Arabshahiet.al "Conversational Neuro-Symbolic Commonsense Reasoning", AAAI Conference on AI, 2020

[19] Arabshahi et.al 2021]"Conversational Multi-Hop Reasoning with Neural Commonsense Knowledge and Symbolic Logic Rules" arXiv preprint, 2021
[20] Arabshahi et.al "Conversational Multi-Hop Reasoning with Neural Commonsense Knowledge and Symbolic Logic Rules" arXiv preprint, 2021

[21] Maarten, Shwartz, Choi et .al., Introductory Tutorial: Commonsense Reasoning for Natural Language Processing, Computational Linguistics, pages 27-33, 2020

[22] Mueller Commonsense Reasoning: An Event Calculus Based Approach, Morgan Kaufmann, 2nd edition, 2014

[23] Lehman, Laird. A Gentle Introduction to Soar, an Architecture for Human Cognition, 2006

[24] Shwartz Maarten, Choi et .al., Introductory Tutorial: Commonsense Reasoning for Natural Language Processing, Computational Linguistics, pages 27-33, 2020

[25] Lin et.al "CommonGen: A Constrained Text Generation Challenge for Generative Commonsense Reasoning, EMNLP2020, 2020

[26] Mueller, Erik "Commonsense Reasoning: An Event Calculus Based Approach”, Morgan Kaufmann, 2nd edition, 2014