言語情報編集のための広義モダリティ解析に向けて
奈良先端科学技術大学院大学
情報科学研究科准教授

乾健太郎

PROFILE

奈良先端科学技術大学院大学 情報科学研究科 准教授。専門は計算言語学．言語情報や知識の自動編集に関する研究に従事。1995 年東京工業大学博士課程修了。同大学助手、九州工業大学助教授を経て、現職。情報処理学会自然言語処理研究会幹事、Computational Linguistics 編集委員。人工知能学会 1997 年度論文賞、COLING/ACL2006 Best Asian NLP Paper Award、言語処理学会年次大会優秀発表賞等、受賞。博士（工学）。

inui@is.naist.jp
奈良先端科学技術大学院大学
情報科学研究科特任助教

松吉

俊0743-72-5241

PROFILE

2003 年京都大学理学部卒。2008 年同大学院情報学研究科博士後期課程修了。現在、奈良先端科学技術大学院大学情報科学研究科特任助教。京都大学博士（情報学）。自然言語処理の研究に従事。

matuyosi@is.naist.jp

1 はじめに0743-72-5243

を自動的に識別することは、情報抽出を含む広い範囲の言語情報編集に必要な処理であり、その課題設計やコーパス作成にもにわかに関心が高まっている [1, 8, 9,

情報抽出や質問応答、複数文書要約や情報分析など、10, 12]。ただし、モダリティと一口に言っても、どの大量の文書集合から特定の種類の情報を抽出し、抽出しような種類の情報をカバーし、どのような粒度で識別すた情報を照合、集約するといった言語情報編集を計算機るかは研究グループによって大きく異なり、課題設定間で実現するためには、一般に意味解析、談話解析と呼ば相互の関係も不明確である。研究者間で一定の合意が得れる、言葉の意味に踏み込んだ処理が必要である。本稿られるまでには、さらに理論的な分析とデータの蓄積をでは、言語学でモダリティと呼ばれている意味情報に焦重ねる必要がある。

点を当て、モダリティ解析の課題設計とモデル構築に関る言及に加え、それらの事象について書き手や第三者が2 モダリティと否定とその周辺どんな心的態度をとっているかが言語的に表現され、伝モダリティは概ね次のように分類される [15, 6]。

する最近の取り組みを報告する。
自然言語の文章では、出来事や状態などの事象に対す達される。例えば (1) では、「（供給事業が）進む」●真偽判断のモダリティ

断定か、推量かを表す。という事象は現在成立しているが、「業者が（事業に）●価値判断のモダリティ必要か、許可できるか。

協力する」という事象や「（燃料を）販売する」という●表現類型のモダリティ

叙述、意志、行為要求、勧誘、事象は成立しておらず、未来においても成立の可能性が疑問、感嘆のいずれかの態度を表す。

高くないことが述べられている。

●丁寧さのモダリティ(1) 環境省主導で進んでいるバイオエタノールとガソリ●伝達態度のモダリティ

ンの混合燃料の供給事業に、石油元売り業者が協力を拒否、今夏に予定している販売開始のめどが立たない状況に陥っている。

普通体か、丁寧体かを表す。
聞き手の存在に対する話し手の意識のありようを表す。
●説明のモダリティ

文と先行文脈との関係づけ。

「表現類型のモダリティ」は、書き手の基本的な態度

このように、書き手や第三者が個々の事象を事実と認を、「真偽判断のモダリティ」は、事象の真偽に対する識しているか否か、また望ましいことと認識しているか書き手の確信度を、「価値判断のモダリティ」は、事象否か、といった情報がモダリティである。こうした情報成立を書き手が望んでいるか否かを表すと見ることがで

128

寄稿集
産業日本語関連

2

きる。一方、丁寧さ、伝達態度、説明のモダリティにつ者の確信度と独自の肯否極性をマークアップする。たいては、情報抽出、分析、編集等の当面の応用を想定す

だし、TimeML におけるモダリティは、英語の助動詞る限り緊急性はない。

（must, may, should など）をそのままラベルとする

上記モダリティに加えて重要なのは肯否の極性であに留まっており、他の言語への適用が困難である。これる。事態の成立を表すことを肯定といい、事態の不成立に対し我々は、表 1 の末尾に示すように、上記項目のを表すことを否定という [7]。文章に否定表現が存在する

うち丁寧さ、伝達態度、説明のモダリティを除くすべて

場合、どの部分が否定されているのか、すなわち、どこの項目をカバーする課題設計を考える。

が否定の焦点であるのかを知ることは、文章の意味を正3確に捉える上で重要である。また、周辺項目として、次のような項目も様々な応用で有用であると期待できる。
●態度表明者

モダリティの態度を表明している人物や広義モダリティ情報のタグ付け団体を指す。デフォルトは文章の書き手であるが、伝上記の背景に基づいて新規に設計したタグ体系の概要

聞や引用の場合にその情報の発信者を特定することがを述べる。タグ付与の例は表 2、詳細は次の URL で公重要になる。

開している作業基準マニュアルを参照されたい。

●仮想性
●時制

http://cl.naist.jp/nltools/modality/

仮想世界の話であるのかどうか。
真偽が確定している過去または現在の事象か、3.1

本質的に真偽が定まらない未来の事象か。
●真偽アスペクトタグ付与の対象

FactBank などと同様に我々も、入力文章が言及す真偽が一方から他方へ変化するアスペクトを持っているかどうか。

るすべての事象について、個別にモダリティ情報を付与

上記項目のうち、先行研究がどれをカバーしているかすることを考える。ここで事象とは、行為、出来事、状をまとめると表 1 のようになり、それぞれ一部しかカ態の総称であり、例えば次の文では「雑誌を購入するコらの FactBank[12]ト」、「来週から購入を中止するコト」、「（略）と思バーできていない。例えば、

では、事象とその時制、肯否、モダリティをマークアッうコト」を事象と解釈し、すべてにタグを付与する。

プする TimeML[10] の体系の上に、事象を対象とし(2) 来週からこの雑誌の購入を中止しようと思う。て、態度表明者ごとに、事実らしさに対する態度表明

なお、文献 [15] に従い、述語に受動と使役のヴォイス

対象

態度表明者

時制

仮想性

肯否
極性

否定の焦点

確信度

Rubin ら [9]

語や句○

○

×××○

×TimeML[10]

事象×○

○○

×

○

Prasad ら [8]談話関係と事象○××○○事象○××○

FactBank[12]

事象

○○

○

川添ら [1]

語や句○×Light ら [4]文×Medlock ら [5]語や句BioScope[14]
本研究

ら [11]

表現
類型

価値判断

事象の範囲

×○××××○

×○

○××○

×○

×○×××××

○

×○

××○

×○

○

○

×○×××××××××○××××××××××

○

××××

×

語や句

××

×

○

×○

××××

×

事象

○○

○

○

○

○

○

○

○

○

×

表1

推量の 真偽アス
焦点
ペクト

広義モダリティ情報の種類と各研究の対象範囲

129

ID

文（下線が事象の対象の核となる述語）

態度表明者時制

仮想態度

真偽判断 価値判断

焦点

1

京都からも近いので京都観光したいけど宿は温泉がいい．

wr

非未来0

叙述

成立

002

日本でも，いよいよ裁判員制度が始まります．

wr

未来

0

叙述

成立

003

投薬はどうやら三半規管の機能を安定させるために続けるのだそうだ．

wr_arb

非未来0

叙述

成立

004

吸入ステロイド剤でも急性副腎不全が起きることを知らなければ，医師も診断できないことがある・ ・ ・

wr

非未来

帰結

叙述

低確率

005

副腎皮質ホルモンから作られるステロイド剤の劇的な効果に医師達が驚き，競って使い始めたのです．

wr

非未来0

叙述

不成立か
ら成立

006

ステロイド剤を使用している場合は，急激に使用を中止するとリバウンド現象が起こり，症状が・ ・ ・

wr

非未来

条件

叙述

成立から不成立

007・ ・ ・ 現在，クローン技術を応用して臓器を供給する試みを否定することは困難であろう．

wr

未来

0

意志

高確率

ポジティブ

08

化膿を防ぐために大切なのは，入浴した時に患部を濡らさないように気をつけることです．

wr

未来

0

意志

低確率

ネガティブ

0

9

新宿行って，なんか食べに行きたい．

wr

未来

0

欲求0

ポジティブ

0

10

ぜひ一度，「還元水」の持つ効果を実感してみてください！

wr

未来

0

働きかけ- 直接

0

ポジティブ

0

11

あなたはその時に彼女に真実を伝えるべきだった．

wr

非未来

0

叙述

不成立

ポジティブ

0

12

彼は東京に仕事で行ったわけではない．

wr

非未来

0

叙述

成立

0

否定（仕事で）

表2

モダリティタグの付与例のは、態度表明時に対する相対的な時制であるのを含めたものを事象と見なす。

で、「態度表明時を基準とする時制」を記述する。
3.2

モダリティ情報タグ

仮想情報抽出においては、文章に記述される情報が事

表 1 に挙げた項目は、以下に述べる 7 つの項目にさ実であるのか、それとも、単なる仮想的な話であるらに整理することができる。文章中の各事象に対し、そのかを区別することが求められるため、仮想性を取のモダリティ情報をこの 7 つ組で表現する。

り扱う。

態度表明者

発信された情報の信憑性を判断する手がか「表現類型のモダリティ」は、態度表明者の中心りとして、態度を表明する人物を特定することは重的な態度を表す重要な項目であるので、これを〈態要である。本研究では、Wiebe ら [16] が導入し度〉に記述する。叙述、意志、欲求、働きかけ - 直た「態度表明者の入れ子構造」を用いて、事象に対接 / 間接 / 勧誘など、8 種類のラベルを用意した。

する態度表明者（の列）を記述する。ここで、“wr”

時制

態度真偽判断「真偽判断のモダリティ」は、事象の真偽には態度表明者が書き手であることを、“wr_arb”

対する態度表明者の確信度を表すため、応用に有用

は態度表明者が不特定の個人や集団であると書き手であるので、これを〈真偽判断〉に記述する。“成が述べていることを表す。

立 / 不成立” は肯定 / 否定の断定、“高 / 低確率”

事象に対する真偽判断が推量の場合、その事象の時制により、次のように解釈することができる。
・時制が未来 : その推量は、いまだ真偽が定まっていないことによる断定保留を表す。
・時制が未来でない : その推量は、事象の真偽を確認していないことによる断定保留を表す。

は肯定 / 否定の推量を表し、これらの間の遷移を“成立から不成立” のように表現する。
価値判断〈価値判断〉では、言語学における「価値判断のモダリティ」の根幹にある、「事象成立の望ま1しさ」という概念を、極性情報 として取り扱う。

言語学の先行研究 [6] において、上記のカテゴリー

そこで、本研究では、事象の時制が未来であるかどの表現は、基本的意味の面から、「必要」、「許可・うかを取り扱う。上記の 2 つの区別に必要である許容」、「不必要」、「不許可・非許容」の 4 つ

1 語句に対して設定される評価極性（例えば、「給料が上がる」は評価極性ポジティブ、「事故に遭う」は評価極性ネガティブ）とは異なる。例えば、「あのとき事故に遭ってよかった。」における事象「あのとき事故に遭うコト」に対する〈価値判断〉は、“ポジティブ”であると判断する。

130

寄稿集
産業日本語関連

2に分類される。本研究では、これらの意味を独自のな精度で行えることが分かる。なお、タグ付与にかかる体系により〈態度〉に記述し、態度表明者が事象成時間は 1,000 事象あたりおよそ 5 時間であった。

立を望ましいと判断しているかを〈価値判断〉に記述する。この記法により、〈態度〉、〈真偽判断〉、〈価値判断〉に関して、表現力があり、かつ、見やすいタグ体系の構築を目指している。
焦点

5 解析モデルの構築

事象が“不成立” であるとき、実際に否定されモダリティ解析の自動化については、他の言語処理タているのは、事象を構成する一部の要素であり、暗スクと同様、人手による語彙的・統語的知識を用いる手に、同類の別の事象の成立が含意されることがあ法 [11, etc.] や機械学習による手法 [5, etc.] が提案さる。例えば、次の文では、態度表明者は、「太郎がれている。例えば、仕事で東京に行くコト」は不成立であると判断して識、否定辞の有無、モダリティ表現を利用して、事象のいるが、この文からは、「太郎が東京に行くコト」

入れ子の外側から、順に事象の事実性を解析するアルゴの成立が読み取れる。

リズムを提案している。こうした既存研究は、表 1 で(3) 太郎は東京に仕事で行ったのではない。

示したように、いずれもモダリティ情報の一部の項目だ

このような含意の存在を表現するため、否定、推けを解析対象とするに留まっており、我々の課題設定の量、問いかけを対象として、その焦点を記述する。

ような包括的なモダリティ解析についてはほとんど報告4

ら [11] は、項と述語間の知がない。

コーパスへのモダリティタグ付与

そこで以下では、前述のタグ付きコーパスで解析モデルを訓練・評価する実験の現状を報告し、残る課題を考察する。

上述のタグ体系に基づき、ブログ記事を含む Web 文書からサンプルした約 1 万 3 千文（約 3 万 9 千事象）

5.1

実験方法に実際にタグ付けを行った。ただし、本コーパスでは、文の構文解析結果と事象の核となる述語の位置を入事象の範囲を明確にマークアップすることはせず、述語力として、その事象のモダリティ情報タグを出力する解に対してタグを付与することで、その述語を核として持析システムを構築した。学習モデルには条件付確率場をつ事象にそのタグを付与したと見なす。また、補助動詞利用した。具体的な学習・実行ツールとしては、タグのや、機能語相当表現 [2] の一部など、事象と見なせな項目間の依存関係を学習できる GRaphical Models in

い表現はタグ付与の対象としない。

Mallet (GRMM)[13] を用いた。本実験では、モダリ紙面の制約で詳細な統計は示せないが、各項目におけティ情報の中心的な項目である〈態度〉をハブにして残る値の分布には大きな偏りが見られた。例えば、〈態度〉

り 6 つの項目を連結させる依存グラフ 2 を構成し、〈態と〈真偽判断〉のそれぞれ約 90% が“叙述”、“成立”度〉と他の各項目の依存関係を学習した。なお、モデルで占められる。しかしながら、実際の応用においては、のハイパーパラメタは初期設定を利用した。

残りの 10%（例えば“不成立”）を正確に識別するこ

素性集合としては、次の 2 種類を用いた。とが重要と考えられる。

基本素性

核となる述語が存在する文節（中心文節）、タグ付与作業の信頼性を評価するために、ランダムにその前後の文節、および、中心文節の係り先 2 つサンプルした 300 事象について 2 名の作業者が独立までの文節における形態素情報（基本形 , 品詞 , 活に付与したタグの一致率を調べたところ、7 つの項目用形）の 2-gram と 3-gram。

に対する κ 統計量 [3] の平均で 0.71 という高い値を得た。この結果から、少なくとも人間はこの課題を十分

知識素性

人手により構築した語彙統語パターン（モダリティ関連 182 個、肯否関連 32 個、条件関連

2 依存グラフの最適化は、今後の課題である。

131

27 個）の有無。

解くべき課題が明らかになった。以下、GRMM 2 の出比較のため、次の 4 つのシステムを構築した。
ベースライン 1

力結果を元にこれを考察する。

コーパスにおいて一番頻度が高いタグを決定的に出力する。
ベースライン 2

まず、係り先の形態素情報のエンコード方法に起因する問題が見られた。例えば、表 2 の ID=1 の「近い」

上記の語彙統語パターンに基づく人手規則により、決定的にタグを出力する。の例では、係り先文節内の「たい」に引っ張られ、〈態度〉が“欲求” に誤って判定される。また、文内を比GRMM 1

基本素性のみで GRMM を利用する。

較的自由に浮遊する副詞などの扱いも同様に課題が残っ

GRMM 2

GRMM 1 に知識素性を加える。

た。例えば、表 2 の ID=2 の「始まる」では、副詞「い訓練、評価には、前述のコーパスの一部 10,545 文

よいよ」をうまく手がかりとできず、〈時制〉を“非未（24,858 事象）を利用し、3 分割交差検定を行なっ来” と誤ってしまう。このように今後は、モダリティた。なお、自由な文字列を含むタグを持つ〈態度表明者〉表現や副詞のスコープをうまく学習できるような素性空と〈焦点〉に関しては、それぞれ、“wr” とそれ以外間を構成する必要がある。また、「いよいよ」や「中止」の 2 択、「焦点あり」と「焦点なし」の 2 択とした。

（例えば表 2 の ID=6）のような、モダリティ解析にまた、〈真偽判断〉タグのうち、真偽の変化を表すタグ有用な手がかり表現の知識を整備する必要がある。の出現はコーパスにおいてあまりにも低頻度であったため、それらを含む文は訓練・評価から除外した。

さらに、紙面の制約で具体的には示せなかったが、タグの分布に大きな偏りがあり、出現頻度の低いクラスの学習が困難になっているという問題もある。能動学習を5.2

結果と考察採用するなど、分類にとって有益な事例、とくに相対的各項目における「正解率」、および各タグに対する精度と再現率の調和平均である F 値の、各項目での平均頻度の小さいクラスの事例を選択的にサンプルし学習する枠組みを検討したい。

をとった「F 値の平均」を表 3 に示す。この表から、を行なった結果、〈時制〉、〈仮想〉、〈態度〉、〈真6 むすび偽判断〉、〈価値判断〉において、GRMM 2 と他の 3

本稿では、自然言語文章中のモダリティ情報の解析つのシステムの間に有意差（有意水準 1%）が認められという問題を取り上げ、包括的な課題設計、コーパス作た。GRMM 2 は、GRMM 1 と同等、もしくは、有意成、モデル構築を進める我々の取り組みを報告した。

すべての項目において、GRMM 2 が他のシステムより高い値を示していることが分かる。正解率に関して検定に高い性能を示しているので、知識素性は有効であった

今後は、まずタグ付きコーパスの作成をさらに拡大と言える。表 3 の結果は十分なものとは言えないが、する必要がある。これについては、科研費特定領域研究

この実験により、試作したシステムの性能向上のために

3「日本語コーパス」プロジェクト で構築が進んでいる

システム

態度表明者

時制

仮想

態度

真偽判断

価値判断

焦点

ベースライン

1

99.7

0.50

92.2

0.48

96.7

0.33

94.4

0.11

87.9

0.19

94.9

0.32

99.6

0.50

ベースライン

2

98.4

0.62

ー

ー

92.8

0.56

95.1

0.50

89.3

0.54

95.9

0.59

ー

ー

GRMM

1

99.6

0.60

92.9

0.69

96.5

0.42

95.0

0.40

89.2

0.48

95.4

0.51

99.8

0.66

GRMM

2

99.7

0.68

95.6

0.82

98.1

0.57

96.7

0.60

94.9

0.68

97.0

0.64

99.8

0.66

表3132

実験結果（左：正解率（%），右：F 値の平均）

寄稿集
産業日本語関連“現代日本語書き言葉均衡コーパス” にタグ付けし、データを公開していく予定である 。データの蓄積と並42[7] 日本語記述文法研究会（編）。 現代日本語文法 3. く
ろしお出版、2007.

行して、タグの仕様に関する検討も進める必要があるだ[8] R. Prasad, N. Dinesh, A. Lee, A. Joshi, and B.

ろう。また、解析モデルについては、前節で考察した内Webber. Annotating attribution in the Penn

容を踏まえ、モダリティ情報の解析に有用な手がかり語

discourse treebank. In the COLING/ACLに関する知識を整備する予定である。

Workshop on Sentiment and Subjectivity in
Text , pp. 31-38, 2006.
[9] V. Rubin, E. Liddy, and N. Kando. Certainty

謝辞
本研究は、（独）情報通信研究機構委託研究「電気identification in texts: Categorization model and

通信サービスにおける情報信憑性検証技術に関する研

manual tagging result. In Computing Attitude究開発」、および科研費特定領域研究「情報爆発時代

and Affect in Text: Theories and Applications ,に向けた新しい IT 基盤技術の研究」の公募研究「経pp. 61-74. Springer-Verlag, 2005.

験 マ イ ニ ン グ 技 術 の 高 度 化 と 実 用 化 」（ 課 題番号：[10] R.

, J. Littman, B. Knippen, R. Gaizauskas,21013036、代表：乾健太郎）、科研費若手研究（スA. Setzer, and J. Pustejovsky. TimeML

タートアップ）「類義述語句同定のための語彙的知識のAnnotation Guidelines Ver. 1.2.1. http://www.

体系化と集積」（課題番号 : 20800029，代表 : 松吉

timeml.org/, 2006.

俊）の支援を受けた。

[11] R.

and J. Pustejovsky. Determining

modality and factuality for text entailment.
参考文献

In the International Conference on Semantic[1] 川添愛、齊藤学、片岡喜代子、戸次大介。確実性

Computing , pp. 509-516, 2007.

判断に関わる意味的文脈アノテーション。情報処[12] R.

and J. Pustejovsky. FactBank: A corpus

理学会研究報告書、 2009-NL-189, pp. 77-84,

annotated with event factuality. In Language

2009.

Resources and Evaluation , 2009.

[2] 国際交流基金、財団法人日本国際教育協会（編）。日[13] C. Sutton. Grmm: Graphical models in

本語能力試験出題基準【改訂版】。 凡人社、 2002.

mallet., 2006. http://mallet.cs.umass.edu/[3] J. R. Landis and G. G. Koch. The measurementof observer agreement for categorical data.

grmm/.
[14] G. Szarvas, V. Vincze, R. Farkas, and J.

Biometrics , Vol. 33, No. 1, pp. 159-174, 1977.

Csirik. The BioScope corpus: Annotation[4] Marc Light, Xin Ying Qiu, and Padmini

for negation, uncertainty and their scope

Srinivasan. The language of bioscience:in biomedical texts. In the Workshop onFacs, speculations,and statements inCurrent Trends in Biomedical Naturalbetween. In Proceedings of BioLink 2004

Language Processing , pp. 38-45, 2008.

workshop on linking biological literature,[15] 益岡隆志。日本語モダリティ探究。くろしお出版、

ontologies and databases ,pp. 17-24, 2004.

2007。

[5] B. Medlock and T. Briscoe. Weakly supervised[16] J. Wiebe, T. Wilson, and C. Cardie.

learning for hedge classification in scientific

Annotating expressions of opinions

literature. In the 45th ACL, pp. 992-999, 2007.

and emotions in language. In Language[6] 日本語記述文法研究会（編）。 現代日本語文法 4. くResources and Evaluation, 39 (2-3) , pp.

ろしお出版。 2003.

165-210, 2005.

3 http://www.tokuteicorpus.jp/
4 タグ付与の作業基準やモダリティ情報解析に関する最新情報を、次のサイトで公開中である。構築したコーパスも同サイトから公開する予定である。
http://cl.naist.jp/nltools/modality/

133