# 会話文の常識推論の実現に向けた一考察 -関連性理論及びポライトネスによるローカル化をつうじて-

太田 博三
放送大学教養学部
9924658973@campus.ouj.ac.jp

## 1 はじめに

人工知能における推論は，ここ数年で技術的に飛躍したが，理論的には新たな進展はあまり見受けられない. 本稿では，後者についてこれまでの動向を検討し，新たな提案を行う.

物理的な人工知能の推論は, 最近の BERT や

RoBERTa などの派生モデルの発展をつうじて, 自然言語処理でも質問応答や情報検索で精度が向上し， pre-trained moel 及び masked model の構造は, 確立したと言える.

また，言語資源としての国際的なタスクでも，主にクラウドソーシングの活用により Wikidata から ConceptNet に至るまで進展が見込まれている.

しかし, このままでは会話文での常識推論の実現は難しく, 当面, 書き言葉での常識推論に終止している。そこで，理論的側面での進展は決して多くない.この理由は，各国の言語的特徴にあると考え,関連性理論やポライトネスの視点と常識推論に当てはめながら，家族内や親友同士などのプライベート間，もしくはローカル環境における共有される推論を，言語的な視点で大枠を示したい.

以下に本稿の大きな流れを示す. これまでの各推論の流れと課題を検討し, 先行研究も含めた議論とする. 1）記号論理学の推論から字義的推論（フレ一ム）へ，2）字義的推論の書き言葉から Wikidata を加えた常識推論へ，3）国際的なベンチマーク・ タスクによる常識推論の資源について，ここでは含意関係認識のタスクは本当に含意を類推していたか, また，NN による言語モデル（BERT）への常識推論資源の適用は可能か，さらに時間的推論の活用法なども考察する.

4 ）ローカル環境に向けて, 敬語コーパスの必要性を吟味し, 書き言葉の常識推論から話し言葉の会話推論の課題や枠組みを提供する.

## 2 研究の背景と目的

以下の対話応答の実現に向けて, 次の 3 つを追求することに始まる。

1) 言語学の語用論や敬語・ポライトネス,

2) 認知科学や脳科学でのプログラミング言語やアーキテクチャへの適用

3) BERT などの深層学習の適用とその可能性

妻:「コーヒー飲む？」

夫: 「明日、早いから」

この会話には，まず，(「おたし」や「あなた」、「飲まないよ」）などの主語・述語などの省略が考えられる (主に言語学の視点). 次に, 仕事があるなどのプライベートでの共通認識や暗黙知もしくは含意や推意が存在している (主に関連性理論)。さらに，コー ヒーを飲むとカフェイン効果で眠れないといった，一般常識(Commonsense)による推論が考えられる.

ここでは，記号論理や意味ネットワークやフレー ム理論，そしてスクリプトによる知識表現 (knowledge representation)による推論 (inference) が,認知科学(cognitive science)や脳科学の分野で研究され，コンピューターのハードウェアやソフトウェアでのアーキテクチャやプログラム上で具現化され実用に至っていると想定する.

この上で，昨今のビッグデータやディープラーニング以降ではなく, 一昔前の人工知能の時代まで遡り, 言語学の語用論やポライトネスなどの豊かな発想の諸説をヒントにしながら，再考察する。そして深層学習に適用することを目的としている。認知科学や脳科学, 言語学などの諸科学をコンピューター サイエンスに結びつけられる確率は非常に少ない. Minsky の「心の社会」では 100 個のアイデアがあるが, 実用化されているのはわずかである.おそらく, ここ数年の深層学習から構築し直すのが正解と思われるが, 今一度, Minsky のようなアイデアをかえりみて，敬意表現などの不足分を補い，国別のローカ

ル化に向けて, 言語資源としても, 整備されていないなら，その分を本稿で検討する機会を設けられればと考えている.

## 2.1 記号論理学による表現と推論

一昔前の知識表現には，一階述語論理で表されている（図 2.1）.ここでは, 同值や含意の除去を基礎としており(スコーレム標準形), 堅い書き言葉が中心となっている.曖昧性や多義性の除去だけでなく,意味的な飛躍は許されないため, 非常に多くの述語論理表現が必要となる. 推論の中でも, ボトムアップの演繹的推論にとどまっている事も, 商業的には真新しさがなく, 複雑でなければ至極当然な結果と見なされてしまい，これが評価を落とした原因の一つである. また, 記号推論とディープラーニングとを共存させる事では, そこで得る推論の進展は大きくはないと思われる.

$
\begin{array}{r}
\text { 私はコンピューターを持っている } \\
\quad \exists x(\text { have }(I, x) \wedge \operatorname{computer}(x))
\end{array}
$

すべての作家は書物が好きだ

$
\forall \mathrm{x}(\operatorname{writer}(\mathrm{x}) \rightarrow \exists \mathrm{y}(\operatorname{likes}(\mathrm{x}, \mathrm{y}) \wedge \text { documents }
$

図 2.1 一階述語論理式の例

## 2.2 フレーム理論・スクリプトによる推論

認知科学によるSOAR のアーキテクチャとフレー ムワークやスクリプトを用いた推論は, 記号論理学に比べて, 次の 2 点において, 大きな飛躍を遂げたと言える.

1）自然言語の場面や時などを含む知識表現の実現

2） IF-THEN ルールと複数の同值の判断の実現

これらは，プロダクション・システムに代表される.

ここで用いられている常識推論 (Commonsense Reasoning)は IF-THEN ルール内で定められているものとして，限定的である事が，対話システムに向けて課題となっていた。

そこで, 自然言語処理では, 次のような含意関係を含むか否かの会話の判別から着手する国際的な夕スクが 2000 年代に行われた。

含意関係認識(Recognition of Textual Entailment; RTE)である. 含意関係認識とは 2 つの文を想定し，

る文(Hypothesis; $\mathrm{H}$ )を設定し, それらの関係が成立するかを Yes,No $(0,1)$ で判定するタスクである. 例を次
に2つ示す.

例 1

$\mathrm{T}$ : 私は昨日、京都で晚御飯を食べた。

$\mathrm{H}$ : 私は昨日、京都にいた。

$\rightarrow$ 判定: Yes(含意である).

## 例 2

$\mathrm{T}$ : 川端康成は「雪国」などの作品でノーベル文学賞を受賞した。

$\mathrm{H}$ : 川端康成は「雪国」の著者である.

$\rightarrow$ 判定: Yes(含意である).

ここで注目すべきは, コンピューターが Wikipedia などの知識から判断されているのか，語句間で結び付けられているためなのかである.

実装されているコードから, Wikipedia などによる一般常識が直接的に働いているとは見受けられない。 むしろ Attention や BERT の Masked Model などの一文内，もしくは前後の文の語句との結びつきによるものと考えるのが妥当かもしれないと考えられる。

## 2.3(言語I 画像)資源による常識推論

一般常識が必要と考えた MIT メディアラボでは Cyc や Open Mind Common Sense のプロジェクトが発足し, これが現在の常識推論 (Commonsense Reasoning)に至っていると考えられる(図 2.3.1, 図 2.3.2).

ここでは, 固有表現認識の国際的なタスクの限界とも言える内容になっている. 固有表現認識（NER： Named Entity Recognition）とは、テキストに出現する人名や地名などの固有名詞や、日付や時間などの数值表現を認識する知識抽出である. ここではエンティティリンキングや関係抽出, そして共参照問題の解決といった自然言語処理タスクを要素技術としており, Wikidata などを対象としている.この固有表現認識での常識推論が存在している.

図 2.3.1 (言語/画像)常識資源の流れ
今後に向けては，上記とは一線を画する形で，

ConceptNet や ATOMIC などのように, 因果関係に特化したものや時間的推論には十分に対応出来ておらず，対話応答の QA 形式の実践に向けたタスクと言える.

このような状況の上で, BERT の派生モデルが State-Of-Art を競い合っているとも言え，ある特定のデータセットの分布に見合う言語モデルになりがちであり,依然としてスケール化も課題となっている。

しかし, これ以外に実現可能な方法がないのも事実である.

図 2.3.2(言語/画像)常識資源のボリューム

## 3 今後の常識推論に向けた提案

現行では, 書き言葉での常識推論に終始しており，対話応答などの会話の実現は今後の課題となっている. ここで, 次の 2 つの要素が国別更には地域別の単位で個別のタスクとして見込まれる。

1）敬意表現を用いた推論

2）母と娘との間の共通認識の推論

まず，1)は修辞句などの慣用表現がどのコーパスにも含まれておらず，国際的なタスク (ConceptNet など）でも除外されている.メタファーなどの表現は認知言語学での捉え方や言語学寄りでの捉え方がいくつか存在し, 統一されていない.これと同様に,日本語の敬語や敬語を用いない敬意を表す表現も諸学説がある. 更に, コンピューターに対応させる事となると, 実現可能であるかの疑問が生じるため,実行に移すのは, 書き言葉の常識推論の後と考えているかもしれない. 社会的に, もしくは産業的な優先順位では決して高くはないが，コンピューターによる言語理解や言語認識技術は少子高齢社会での人間の代わりをするものと想定するならば，できる限り, 早期に着手すべきとも考えられる. 1 人の高齢者を 4 人の若い人が支える時代は数年前の事である.

ここで2）に通じることであるが，Siri や Alexa $の$
ような話しかけは私達の日常会話の範囲内と言えるが, 親子や友人同士の会話の内ではないとも言える. まずは慣用表現として対話応答で実現されることが現実的と考えられ，その範疇を超えるものはその後に続く位置づけと捉えられる。

## 3.1 敬意表現を用いた推論の展開

1)に関しては，言語学の語用論やポライトネスの研究がヒントになる. 次に示す, 生田(1997)の例文で考察してみる。

3.1.1 生田(1997)の例文

以下の状況のもとでの会話である. 注目すべきは, この例では，敬語や丁寧な表現は一切使われていないことである.

状況は i と ii が考えられる。

( i )「B のペンが何本か目の前の机の上に置いてある」

（ii）「相手 B が，既にペンを筆入れ，さらに鞄にしまっており，席を立とうとしている」

ここで，A3に，敬語を用いた表現を入れると不自然になる.敬語を用いてはいけない敬意表現である.

「A：あのう，恐れ入りますが，ちょっとペンをお借りできますでしょうか.」

これらから, ポライトネス（語用論）と敬語は異なるものだと言える. よって，ポライトネスの表現がコーパスに取り入れられているか吟味する必要がある。

更に，日本語の非母国語話者のコーパス（宇佐美 2020）から，1)の場面や友人間の分類の有用なアイデアが得られる. 6 の参考情報で図 6.1.1 及び図 6.1.2 にその概要と分類木を示す.

## 3.2 関連性理論と推論の展開

2)に関しては，関連性理論に基づく推論の捉え方が挙げられる. 次に示す, 松井(2001)の例文で考察してみる。

3.2.1 松井(2001)の例文

以下のように，母と娘との会話であり，たった 1 対の対話でしかないが，これを推論するのには，単

なる文の省略を補完するだけでは十分である。この会話を把握するはめには，母と娘との共通認識や背景の理解が必要になる。

背景は(カ)から(コ)にかけて記す。

(カ) 美佐の母親が今日自宅のベランダにふとんを干していた。

(キ) 美佐は美佐の母親が今日自宅のベランダにふとんを干していたと言った。

(ク) ふとんを干すのは, 宿泊する客が来る前の準備である.

(ケ) 美佐の母親は真理のためにふとんを干していた.

(コ) 美佐の母親は真理が明日泊まりに来るのを知っている.

真理「お母さん、私が明日泊まりにゆくの知ってるの?」

美佐「ふとんを干してたわ!

ここでは，表意と推意とに分けて捉えている．発話の言語情報はとそこで意図して伝達する命題は変わらないとしている.敬語や丁寧な表現は一切使われていないことも, 日本独自の言語の表れとして注目し言語資源に取り入れるものと思われる.

## 4 おわりに

本稿は，敬語を使わない敬意表現やポライトネスへの興味とそれを実装したいと思い描いてきた中で得られた知見を基に考察したものである. 宇佐美まゆみ先生から学んだことが少なくない. また, 理論的で行き詰まりを感じていな中で, 小出誠二先生の

「Common Lisp」の講座(cl-aip)を受講させて頂き,常識推論(Commonsense Reasoning) $の$ 存在を知った.特に知識表現やオントロジーの人工知能の専門家から知る事が出来たことは有益であった. ここに感謝の意を表したい. そして，ポライトネスや関連性理論を反映させた対話システムに組み込みたい.

## 5 参考文献

[1] 新田「知識と推論」, サイエンス社, 2002

[2] 加藤・土屋 「記号論理学」, 放送大学出版会, 2014

[3] 時本「あいまいな会話はなぜ成立するのか」, 岩波書店, 2020

[4] 坂原「日常言語の推論」, 東京大学出版会, 1985 [5] Minsky（竹林訳）「ミンスキー博士の脳の探検」,共立出版会， 2009

[6] 小出「Common Lisp と人工知能プログラミング

(下巻)」オントロノミー合同会社, 2017

[7] Peter Norvig Paradigms of Artificial Intelligence Programming: Case Studies in Common Lisp, Morgan Kaufmann, 1991

[8] 長尾「知識と推論」, 岩波書店, 1988

[9] 宇佐美まゆみ監修(2020)『BTSJ 日本語自然会話コーパス (トランスクリプト・音声) 2020 年版』

[10] Recent Advances in Natural Language Inference: A Survey of Benchmarks, Resources, and Approaches Shane Storks, Qiaozi Gao, Joyce Y. Chai, 2019

[11] ブラウン \& レヴィンソン「ポライトネス言語使用における、ある普遍現象」“Politeness： Some Universals in Language Usage” , 1987

[12] 生田「ポライトネスの理論」大修館書店, 『月刊言語』, pp.66-71, 1997

[13] 松井「関連性理論から見たポライトネス」巻 No. 3 特集月刊言語, 2001

[14] 太田「言語学の語用論や配慮表現の先端技術への適用に関する一考察」第 23 回 SIG-AM 人工知能学会合同研究会, 2019

[15] 岩倉・関根「情報抽出・固有表現抽出のための基礎知識」 近代科学社, 2020

[16] Maarten, Shwartz, Choi et .al., Introductory Tutorial: Commonsense Reasoning for Natural Language Processing, Computational Linguistics, pages 27-33, 2020

[17] Mueller Commonsense Reasoning: An Event Calculus Based Approach, Morgan Kaufmann, 2nd edition, 2014

[18] Lehman, Laird. A Gentle Introduction to Soar, an Architecture for Human Cognition, 2006

## 6 参考資料

## 6.1 対人関係の分類

図 6.1.1 は決定木で表わすと, 図 6.1.2 のようになる。例文で考察してみる。対人関係またはプライベ一ト間での分類案を示す(BTSJ 宇佐美 2020, 一部加筆修正した).

対話内容や上下関係, そしてポライトネス(ブラウン\&レヴィンソン, 1987)を基に考案したものである。

1 層目には, 初対面か, 複数回以上会ったことがある親しい友人と分けた。「はじめまして...」は初対
面以外で使用することは考えられなく，仮に用いた際は, 皮肉や嫌味の意味合いを生じることになるが， これは極めて例外的であると考えられる。

2 層目は, 男性同士, 女性同士, 男女混合で分けた，大きく話し方は変わるためである.

3 層目は, LINE などの SNS か, 雑談か, 主に仕事上の依頼の電話に分けられる。ここで, 敬語を力バーするものとして，ビジネス場面での上司と部下の上下関係と敬語や必ずしも敬語を使用しない敬意表現や配慮表現を指している。

最後に, 別のラインとして, 謝罪や隣人同士の挨拶は突発的に起こるものとして区分した.

図 6.1.1 プライベート間での分類案(BTSJ 宇佐美 2020)
Flame と Script の間に位置づけられており, Flame に常識が含まれているものとしてきた。これが知識表現が重たく感じられ限界があると言われた所以であると考えられる。

しかし最近では, 別の枠組みとして, Wikipedia や Wikidata, ConceptNet などがビッグデータとしてのコーパスとして独立して位置づけられるようになり, Flame に掛かる負担は多少は減ったものと捉えることができる．課題はどこでこれらの常識を統合させるかであるが，ConceptNet 以降はニューラルネットワークの入力に用いられ, Flame は別になっている。この場合は自然言語をべクトル空間での表現しか表現できなくなるというトレードオフの関係になってしまい，両立は困難と考えられる.これが，記号論理学による推論とニューラルネットワークの両立は難しいと, 2.1 節で述べた理由である。

しかし Flame は自然言語の文章を柔軟に表現し，ルールベ ースの IF-THEN によるコードに落とし込みやすいというメリットを6.3で示す.常識推論(Commonsense Reasoning) の位置づけ

図 6.2.1 Commonsense Reasoning

の

位置づけ

図 6.1.2 対人関係の分類

## 6.2 常識推論(Commonsense Reasoning)

の位置づけ

従来の常識推論を図 6.2.1 に示す. 注目すべきは

## 6.3 自然言語のフレーム化とスクリプト化

図6.3.1 に示した文章を図6.3.2のようにフレーム化する。 そして, 図 6.3.3 のように IF-THENルー ルで実行するのがプロダクション・システムである.

これらの図から，フレームが自然言語文の表現性に優れているといった長所が挙げられる一方で,

Temporal Commonsense Reasoning といった時間的推論を 1 つのフレームで取り扱うのは難しいといった弱点も挙げられる. ディープラーニングでは時間的推論は困難であることは言うまでもなく，折東案がしばしば求められる。

7 回表。 2 黄と 3 眰に走者がいます。 2 つのアウトがあります。打者のマーティン・プラドは平均. 256 で、打順は 4 番目です。 3-2 で勝ちました。前回、1 人がこのバッターを打ちました。私の目標はイニングを逃れることです。

図 6.3.1 自然言語の文章

イニング : 7 イニング目

回の表裏 : 上

塁上の走者 : 2 位と 3 位

アウトカウント : 2 つ

打者 : プラド

平均 : .287

右l 左打者 : 右利き

点数: 3-2

目標 : イニングを無失点で逃げきること

図 6.3.2 フレーム化

\# (a1)
If I perceive I am at the mound
then suggest a goal to get the batter o
ut
\# (a2)
If there is a goal in WM to get the bat
ter out
then suggest achieving it using the Pit
ch problem space with
an initial state having balls 0 and str

ikes $\theta$

\#(a3)

If using the Pitch problem space

and I perceive a new batter who is left /right handed

then add batter not out and batter left

/right-handed to the state

\#(a4)

If using the Pitch problem space and th e batter is not out

then suggest the throw-curve operator

## \# (a5)

If using the Pitch problem space and th e batter is not out

and the batter is left-handed

then suggest the throw-fast-ball operat or

\#(a6)

If both throw-fast-ball and throw-curve are suggested

then consider throw-curve to be better

than throw-fast-ball

\# (a7)

If the throw-curve operator has been se lected in the Pitch problem space

then send throw-curve to the motor syst em and add pitch thrown to the state

\# (a8)

If using the Pitch problem space and th e pitch was thrown and I perceive a hit then add pitch hit to the state

図 6.3.3 スクリプト化

## 6.4 敬語コーパスの作成

敬語は文法的に規則性が明確になっているため，総称としての敬意表現ではなく，敬語のみの抽出であれば可能である.