NICT発の基盤的言語資源―言い換え処理向け言語資源を中心に―
独立行政法人情報通信研究機構

PROFILE

ユニバーサルコミュニケーション研究所情報分析研究室主任研究員

橋本

力

京都大学情報学研究科研究員、山形大学理工学研究科助教を経て、情報通信研究機構主任研究員。博士（言語科学、情報学）。情報処理学会論文賞、言語処理学会論文賞、言語処理学会年次大会優秀発表賞等受賞。
ch@nict.go.jp

0774-98-6896

1 はじめに大な文書集合と大規模な並列計算環境、経験豊富な多数

情報爆発時代と呼ばれる今日、ビッグデータから必を誇る。情報分析研究室ではこれまでに、コミュニティ

要とする情報をピンポイントで探しあてる質問応答シス

全体で研究を着実に進展させることを目的として、質問

テムや情報分析システム等の言語情報処理システムがそ応答システムや情報分析システム等、多様な言語情報処の重要性を一層増しているのは明らかである。このよう理システムにとって重要で、かつ、構築に大きなコストな言語情報処理システムは一般に高度な「言語理解」能のかかるものを含む数多くの基盤的言語資源を構築、公力を必要とする。例えば質問応答システムでは、「河津開してきた。

の言語データアノテーター、言語情報処理に精通する研究者を擁しており、高度な基盤的言語資源の構築・配信

川で釣れるのは何？」という質問に対して、「河津川で本稿では、計算機による自動言い換え処理に深く関わ鮎解禁」や「河津川にオオウナギがいる」、「河津川のアるものを中心に、つまり、同義関係や含意関係、矛盾関

マゴは美しい」等の、「河津川で釣れる」とは直接記述

係といった意味的関係に関わるものを中心に、当研究室されていない回答候補の文を大量文書から検出し、「鮎」がこれまでに構築してきた基盤的言語資源を、未公開のや「オオウナギ」、「アマゴ」を回答として読み取れなくものも含めて紹介する。

てはならない。人間は多くの様々な言語知識を元に言語を理解しているものと考えられるが、計算機が言語を理解する場合も多くの様々な言語知識（言語データ）が必要である。本稿ではこのような言語データを総称して「基盤的言語資源」と呼ぶ。

本稿で紹介する基盤的言語資源は高度言語情報融

一般に、高度な言語情報処理システムを構築する際にALAGIN (Advanced LAnGuage Information Forum，

必要な、つまりビルディングブロックとして用いられる

http://www.alagin.jp) の言語資源配信サイト（http://

基盤的言語資源は多岐に渡り、かつ、個々の言語資源のalaginrc.nict.go.jp）から入手できる。また、本稿で紹構築には技術、経験、知識のみならず、大規模な計算機

介しきれない多数の基盤的言語資源や言語処理ツールも資源やマンパワー等の莫大なコストを要することが多い。

上記サイトから入手できるので、興味を持たれた方は是従って、組織によっては必要な基盤的言語資源を全て自

非サイトをチェックしていただきたい。

前で用意するのが困難であり、このことがコミュニティ
全体としての研究の着実な進展の障壁となっている。

212

2

高度言語情報融合フォーラム ALAGIN

ALAGIN は、言語の「壁」を感じさせないコミュニケー
ションを実現する、スーパーコミュニケーション技術

情報通信研究機構（NICT）ユニバーサルコミュニケーの普及・促進を目的としたフォーラムである。平成 21

ション研究所情報分析研究室は、Web から収集した膨

年の設立以降、民間企業、大学、研究機関及び国の関YEAR BOOK 2012

部分を表す語と全体を表す語との語対である。同類語対

ステム、適切に情報を検索する技術や信憑性判定を含

は、「にわか雨」「夕立」など過度に抽象的でない共通のめた情報分析技術、高度情報検索技術、ならびにこれ

上位語をもつ語対である。
本データベースの特色は、普通名詞の意味的関係だけ

書、コーパスなど）の研究開発、実証実験・標準化等

でなく、一般的なシソーラス（類語辞典）などには記載を行い、その成果たるツールや言語資源を広くフォーされることが稀な専門用語や固有表現の意味的関係を多ラムの会員に提供すべく活動している。ALAGIN では数収録している点にある。例えば、サイテス／ワシント

この他にも、情報通信研究機構ユニバーサルコミュニ

ン条約、サンフランシスコ講和条約／対日講和条約、シケーション研究所の多言語翻訳研究室と音声コミュニ

ナイ山／ホレブ、バックカントリースキー／山スキー、

ケーション研究室で開発、構築されたツールやデータ

シナジー効果／相乗効果などといった異形同義語対が収類の配信も行っている。

録されており、これを利用することで、例えば、ユーザー

3

データによる分析と評価

らの技術の前提となる今までにない規模の言語資源（辞寄稿集

係者が集結して、テキスト／音声の翻訳、音声対話シが「ワシントン条約」を検索キーワードとして入力した

3
３．１

体言に関する言語資源
基本的意味関係の事例ベース

際に「サイテス」をキーワードとして自動追加し、より多くの検索結果を得ることなどが可能になる。

３．２

日本語異表記対データベース

本データベースは、約１億ページの Web 文書上に本データベースは、文字レベルの編集距離の近い、語おいて文脈の類似度［1］が高い２語間の意味的関係を句の異表記対（表記揺れの対）の正例と負例を集めたも人手で分類し、ラベル付けした結果を収録したもので、のである。例えば、「ギョウザ、ギョーザ」、「ギョウザ、ぎょ102,436 語対が収録されている。例えば、「電子計算うざ」、「ギョウザ、餃子」は異表記対である。異表記対機」と「電算機」などの略記対、「患部」と「治療部位」の典型的な用途としては情報検索における検索式の拡張などの異形同義対などが収録されている。本データベーが挙げられる。例えば、ユーザーが検索に「餃子」と入スで扱われている語句対の意味的関係の種類全てを以下力している時に、その検索条件を「餃子 OR ギョーザ ORの表に示す。

ギョウザ OR ぎょうざ」に自動展開することが可能になる。

表１

基本的意味関係の事例ベースの分類

分類例

本データベースで収集対象としているのは「ギョウザ、ギョーザ」のように一つの文字だけが異なる語句対、す異表記対

問い合わせ / 問合せ

略記対

つくばエクスプレス／ TX

なわち、編集距離が１の異表記対のみであり、「ギョーザ、

異形同義語対乳飲み子／赤ん坊

対義語対

乾麺／生麺

餃子」のような編集距離が１以上の異表記対は収録して部分・全体語対

たし算／四則計算いない。3.1 節で述べた「基本的意味関係の事例ベース」

同類語対

にわか雨／夕立に収録されている異表記対は編集距離による制限はない

異表記対は、「問い合わせ」と「問合せ」など、読みが、収録数は約３万である。一方、本データベースに収が同じで、かつ、意味が同じ語対である。略記対は、「つ録されている異表記対は、編集距離が１のものに限ってくばエクスプレス」と「TX」など、一方の語が他方のはいるが、収録数は 100 万対以上である。以下は、日語の短縮形あるいは略記の語対である。異形同意語対は、

本語異表記対データベースに含まれている異表記対の例「乳飲み子」「赤ン坊」など、異表記対・略記対に該当しを示している。

ないもので、同一の事象・事物を示す語対である。対義• Center ／ center

語対は、「乾麺」「生麺」など互いに対義の語対である。

• ゴミ置き場／ゴミ置場

部分・全体語対は、「たし算」と「四則計算」のように、• ギタープレー／ギタープレイ

YEAR BOOK 2O12213

• ツィンマーマン／ツィマーマン

(-0.178) シベリウス (-0.18) ハイドン (-0.181)• ブルース・スプリングスティーン／ブルーススプリ

ヘンデル (-0.181) ラヴェル (-0.182) シューベル

グスティーント (-0.187) ベートーヴェン (-0.19) ドヴォルザー

本データベースには、人手で作成した異表記対のデー

ク (-0.192) ラフマニノフ (-0.193) ...

タとテキストから自動獲得した異表記対のデータが収録

文脈類似語は、因果関係などの意味的関係の獲得［4］されている。人手で作成した異表記対のデータは、黒田や Why 型質問応答［5］などの自然言語処理タスクにらの手法［2］で作られた 18,797 の異表記対（我々

おいて、その有用性が確認されている。例えば、「ガンが「準異表記対」と呼ぶものも含む）に加え、2,758の原因は何ですか？」のような病気の原因を求める質問の非異表記対を含んでいる。

の回答にはその病気と関連する有害物質やウィルス、身自動獲得した異表記対のデータは、小島らの手法［3］体の部位などを表す単語を含む場合が多い。言い換えれをもとにして作成されたものである。異表記対の自動獲

ば、質問文に「ガン」あるいは「ガン」と類似する単語、得のため、まず、１億件の Web 文書に出現する語句か

つまり「ガン」の文脈類似語が含まれている場合、そのら頻度上位 1,000 万以内の語句を抽出し、これらから回答として適切な文には、有害物質を表す単語の文脈類

成る全ての単語対のうち、編集距離が１のもののみを異似語や、ウィルスを表す単語の文脈類似語、体の部位を表記対の候補とする。そして、上述した人手作成の異表

表す単語の文脈類似語が含まれる傾向がある。本データ

記対を学習データとして用いて分類器を学習し、異表記

ベースにより、このような質問文とその適切な回答の間対の候補を異表記対か否かに分類する。最後に 95% 以の傾向を明示的に捉えることが可能になり、その結果、上の精度で獲得された約 115 万から 153 万の異表記

質問応答の性能を向上させることができる。文脈類似語

対を日本語異表記対データベース収録した。

の自動獲得手法の詳細については、Kazama ら [6] を参照されたい。

３．３

文脈類似語データベース

文脈類似語データベースは、約 100 万の見出し語そ日本語 WordNet

れぞれに対して、Web 文書上での出現文脈が最も類似

日本語 WordNet は、プリンストン大学で開発されしている名詞最大 500 語を類似度とともに列挙したもた Princeton WordNet 等に着想を得て開発されたものである。以下に例を挙げる。各文脈類似語の直後の数ので、93,834 語を synset 呼ばれる同じ概念を示す

値は類似度を表す。
「ルパン三世」にはアニメタイトルが、語の集合にグループ化したものである。例えば、「行動」「チャイコフスキー」には有名作曲家が文脈類似語とし「営み」「行為」「活動」「営為」といった表現が１つの集て収録されている。

合（sysetID:00030358-n）としてグループ化され• ルパン三世ており、さらに、それに対する定義文として「人々が行▶ルパン３世 (-0.229) 名探偵コナン (-0.259) 宇う、あるいは起こす事」が、例文として「殺人と他の異宙戦艦ヤマト (-0.265) ケロロ軍曹 (-0.28) 鉄腕

常な行動の話があった」が収録されている。なお、日本

アトム (-0.282) ガッチャマン (-0.287) デビルマ

語 WordNet には一部用言も収録されている。

ン (-0.289) サイボーグ００９ (-0.294) 新世紀エ日本語 WordNet は、同義語を１つの synset にグ

ヴァンゲリオン (-0.295) ヤッターマン (-0.305)

ループ化するだけでなく、synset 間の上位下位関係（例

聖闘士星矢 (-0.308) セーラームーン (-0.308) ...

えば、家具・椅子）、構成要素・被構成要素関係（例えば、• チャイコフスキー▶ ブ ラ ー ム ス (-0.152) シ ュ ー マ ン (-0.163) メ
ン デ ル ス ゾ ー ン (-0.166) シ ョ ス タ コ ー ヴ ィ チ

214

３．４

YEAR BOOK 2012

脚・椅子）など synset 間の意味関係も収録している。
日本語 WordNet で扱われている意味関係の一部とその例を以下に示す。

日本語 WordNet の意味関係の例

寄稿集

表２

パターン間の類似度は、パターンの変数 A、B の位置

分類

例

上位概念

動物／変温動物

被構成要素

エアバック／自動車

いては文献［4］にある「SC（Single Class）」手法

因果関係

映写する／表れるの記述を参照されたい。この手法は教師なし学習に基づ

含意

吹っ掛ける／請求する

く自動獲得手法であるため、本データベースに収録されに出現する名詞対の出現分布から計算される。詳細につはじめ、様々な用途で利用されている。また、「基本的データによる分析と評価

日本語 WordNet は、Weblio 辞書の英和和英辞書を3ている言い換えパターン全てが正確であるということは保証されない。

意味関係の事例ベース」と同様に検索クエリの拡張や言い換え認識などにも利用できる。なお、3.1 節で述べた通り、「基本的意味関係の事例ベース」は固有名詞や専
図１

門用語を多く収録しているのに対し、日本語 WordNetは一般的な単語を中心に収録している。つまり両者は相補的な関係にある。

４．２

係り受けパスからのパターン抽出

動詞含意関係データベース

本テータベースは、含意関係が成立している動詞一語または述語フレーズのペア（正例。483,686 ペア）

4
４．
１

用言に関する言語資源と含意関係が成立していない動詞一語または述語フレーズのペア（負例。278,043 ペア）の計 761,729 ペアを列挙したものである。含意関係が成立する動詞また

日本語パターン言い換えデータベース

は述語フレーズのペアとは、一方の指す事態が成立する

本データベースは、文の係り受け解析の結果を利用しなら、同時かそれ以前に、もう一方の指す事態も成立すて「A は B が豊富です」のような、一文中で任意の名ると言えるペアである。以下に正例、負例それぞれの例

詞 A と B を結ぶパターンに対して、言い換えが可能なを挙げる。「→」は、正例の場合は、左の動詞または述別のパターンを収めたデータベースである。例えば <A

語フレーズが右の動詞または述語フレーズを含意するこは B を防ぐ > というパターンに対して、下表にあるよとを、負例の場合は含意しないことを意味する。

うなパターンが、言い換えとしての尤もらしさを表すス• 正例

コアとともに本データベースに収録されている。
本データベースは 5,000 万 Web 文書から獲得した▶チンする → 加熱する
▶酔っぱらう → 飲む

パターンを言い換えの対象としている。パターンは係り▶セリーグ優勝する → リーグ優勝する

受け解析の結果となる構文木の中で、一定の出現頻度を▶粉塵を吸入する → ほこりを吸い込む

超える名詞 A と B をつなぐ係り受けパスに含まれる単▶微生物が水中のよごれを酸化分解する → 物質を微語からなる。例えば、下図にあるように、「交通事故による経済的な損害に関して」という文の断片からは <Aによる > というパターンが抽出される。
表３<A は B を防ぐ > の言い換えパターン

パターン

言い換えスコア

生物が分解する• 負例▶読書する → 寛ぐ
▶深煎りする → 挽く
▶準優勝する → 優勝する

<A が B を防ぐ >0.0224161276<A は B を予防する >0.0186121788<A で B を防ぐ >0.0175963197▶お客さま向けのサービスだ → お勧めのサービスだ<B を防ぐ A>

0.0175141447

含意関係は多くの言語情報処理システムにおいて重要<A は B を防止する >0.0132786565

な役割を果たす意味的関係である。例えば質問応答シス▶お仏壇に手を合わせる → 手に数珠を掛ける

YEAR BOOK 2O12215

テムは、「昨日の巨人 - 阪神戦で先発したのは誰？」と

２．しかし、一方の事態、あるいは両方の事態の示すいう質問に対し、Web 等の大量文書から「昨夜の阪神傾向が極限まで強まると、２つの事態は同時には戦では巨人久保がスタメン出場」等の質問文とは文字列成立し得ない、つまり、矛盾する。

上大きく異なる文を回答として読み取れなくてはならな

準矛盾関係にある述語フレーズペアの例として「緊張い。この場合、「スタメン出場する」が「先発する」を感を伴う⊥緊張感を緩和させる」が挙げられる。緊張感

含意するという知識が必須である。

を緩和させたとしても、依然として緊張感を伴っている

本データベースの負例は、正例とセットで、機械学習

ことは往々にしてある。つまり両者は同時に成立し得るへの入力として利用できる。つまり、ある動詞または述ため、純粋な矛盾関係とはいえない。しかし、緊張感を語フレーズのペアの間に含意関係が成立するかどうかを伴うという事態の傾向が極限まで強まり、かつ、緊張感

識別するモデルを学習する際の学習データとして使用すを緩和させるという事態の傾向が極限まで強まれば、両ることができる。

者は同時には成立し得ない。言い換えれば、極限の緊張

本データベースの述語フレーズ含意関係のうち、正例を感じている事態と、緊張感が完全に緩和しきった事態

312,544 ペ ア、 負 例 24,996 ペ アは、 文 献［7] のは矛盾関係にあると言える。つまり、「緊張感を伴う⊥手法による自動獲得結果をそのまま収録したものである。

緊張感を緩和させる」は我々が言うところの準矛盾関係

つまりこれらについては人手による全数チェックはしていにある述語フレーズペアである。矛盾関係と準矛盾関係

ないが、サンプルを調査した結果、90% 以上が正例、にある述語フレーズペアの例を以下に挙げる。

負例に正しく分類されていることを確認した。動詞間の含• 矛盾関係意関係獲得法の詳細については文献［8］を参照されたい。

▶「アンバランスを是正する⊥アンバランスを生じさ
せる」

４．３

述語フレーズ矛盾関係データベース

このデータベースは、「癌を破壊する⊥癌を進行させ▶「騒音がひどくなる⊥騒音は減少する」

る」や「運転を助ける⊥運転を妨げる」のように矛盾関▶「酸味がます⊥酸味が消える」

係が成立している述語フレーズのペア（正例）と、「癌▶「原発をなくす⊥原発を増やす」に罹る⊥癌を研究する」のように矛盾関係が成立してい▶「ユーロが下落する⊥ユーロが強くなる」

ない述語フレーズのペア（負例）を列挙した、今年度末▶「ウイルスが死滅する⊥ウイルスが活性化する」に公開予定の言語資源である。正例負例あわせて 100

216▶「円安が止まる⊥円安が進行する」• 準矛盾関係

万対前後の述語フレーズペアを収録する予定である。本▶「痛みが発症する⊥痛みを減らす」

データベースの述語フレーズは全て、「癌を破壊する」▶「アクセスが生ずる⊥アクセスを抑制する」のように、名詞、助詞、述語それぞれ１語ずつから構成▶「放射能が放出される⊥放射能が減る」

されるものである。

▶「シェアを有する⊥シェアが低下する」

矛盾関係が成立する述語フレーズペアとは、一方の述述語フレーズ矛盾関係は多くの言語情報処理システ語フレーズの表す事態ともう一方の述語フレーズの表す事

ムにおいて重要な役割を果たす。例えば、NICT で開発態とが同時には成立し得ないペアである。このようなペアした WISDOM（http://wisdom-nict.go.jp/）をはじに加えて、我々が「準矛盾関係」と呼ぶ述語フレーズペめとする Web 情報分析システムは、Web 文書中に書アも正例としてデータベースに収録した。準矛盾関係にあかれているテキスト情報の間の矛盾を自動認識しなくてる述語フレーズペアとは次の条件を満たすペアである。

はならない。ユーザーからの問い合わせが「原発停止に

１．一方の述語フレーズの表す事態ともう一方の述語よる自然環境への影響は？」で、ある Web 文書に「放フレーズの表す事態とは同時に成立しうる。

射能汚染の可能性のある原発を停止することで、自然環

YEAR BOOK 2012

荒牧英治，土田正明，渡辺靖彦，鳥澤健太郎．機械発停止により火力発電の割合が増え、CO2 増加により、学習と種々の素性を用いた編集距離の小さい日本語

自然環境を悪化させる」とある場合、Web 情報分析シ

異表記対の抽出．言語処理学会第第 16 回年次大会

を自動認識し、対立意見を整理してユーザーに提示しなくてはならない。
本データベースは正例と負例の２つに大きく分けられる。負例は正例とセットで機械学習への入力として利用

発表論文集，pp. 928-931，2010.
[4]. Stijn De Saeger, Kentaro Torisawa, Jun'ichi
Kazama, Kow Kuroda, and Masaki Murata.
Large scale relation acquisition usingclass dependent patterns. In ICDM'09:
Proceedings of the 2009 edition of the IEEE

できる。つまり、ある述語フレーズペアの間に矛盾関係

International Conference on Data Miningあるいは凖矛盾関係が成立するかどうかを識別するモデ

series, pp. 764-769, 2009.

ルを学習する際の学習データとして使用することができ[5]. Jong-Hoon Oh, Kentaro Torisawa, Chikara

る。正例と負例は全て、橋本らの手法［9］により自動

Hashimoto, Takuya Kawada, Stijn De獲得した結果から構築した。自動獲得結果の適合率は、Saeger, Junichi Kazama, and Yiou Wang.

スコア上位 100 万ペアで約 70% である。

5 おわりに
本稿では、言い換え処理向けのものを中心に、情報通

Why question answering using sentiment
analysis and word classes. In EMNLP, 2012.
[6]. Jun'ichi Kazama, Stijn De Saeger, Kow
Kuroda, Masaki Murata, and Kentaro
Torisawa. A bayesian method for robust
estimation of distributional similarities. In
Proceedings of The 48th Annual Meeting

信研究機構（NICT）ユニバーサルコミュニケーション研of t he Associat ion f or Com put at io n a l

究所情報分析研究室で構築した基盤的言語資源を紹介しLinguistics (ACL 2010), pp. 247-256, 2010.

た。当研究室では、本稿では紹介しきれなかった多くの言[7]. Chikara Hashimoto, Kentaro Torisawa, Stijn De

語資源や言語処理ツールを開発、公開している。それら

Saeger, Jun'ichi Kazama, and Sadao Kurohashi.

の中には商用利用可能なものも多数含まれる。興味を持

Extracting paraphrases from definition

たれた方は、是非、ALAGIN 言語資源配信サイト（http://alaginrc.nict.go.jp）をチェックしていただきたい。

参考文献

3

データによる分析と評価

ステムは、２つの Web 文書に書かれている見解の矛盾

寄稿集

境を守ることができる」とあり、別の Web 文書に「原sentences on the web. In Proceedings of ACL/
HLT, pp. 1087-1097, 2011.
[8]. 橋本力，鳥澤健太郎，黒田航，デサーガステイン，
村田真樹，風間淳一．WWW からの大規模動詞含意知識の獲得．情報処理学会論文誌，Vol. 52, No.
1，pp.293-307，2011.

[1]. 風間淳一，デサーガステイン，鳥澤健太郎，村田真[9]. Chikara Hashimoto, Kentaro Torisawa, Stijn

樹．係り受けの確率的クラスタリングを用いた大規De Saeger, Jong-Hoon Oh, and Jun'ichi

模類似語リストの作成．言語処理学会第第 16 回年

Kazama. Excitatory or inhibitory: A new

次大会発表論文集，pp. 84-87，2009.

semantic orientation extracts contradiction[2]. 黒田航，風間淳一，村田真樹，鳥澤健太郎．Web デー

and causality from the web. In Proceedings

タに対応できる日本語異表記対の認定基準．言語処

of EMNLP-CoNLL 2012: Conference on

理学会第第 16 回年次大会発表論文集，pp. 990-

Empirical Methods in Natural Language

993，2010.

Processing and Natural Language Learning,[3]. 小島正裕，村田真樹，風間淳一，黒田航，藤田篤，

pp. 619-630. 2012.

YEAR BOOK 2O12217