文脈ネットワークを用いた語の多義性解消◆自由論題＊研究論文◆

文脈ネットワークを用いた語の多義性解消
Word Sense Disambiguation
Using a Contextual Semantic Network
岡本 潤

嘉悦大学ビジネス創造学部専任講師 / 慶應義塾大学 SFC 研究所上席所員（訪問）Jun Okamoto
Assistant Professor, Department of Business Innovation, Kaetsu University/
Senior Visiting Researcher, Keio Research Institute at SFC

石崎 俊

慶應義塾大学環境情報学部教授

Shun Ishizaki
Professor, Faculty of Environment and Information Studies, Keio University

自然言語処理の高度な課題の一つである語の多義性解消のために、連想概念辞書を用いる文脈ネッ
トワークモデルを提案する。これは概念の連想関係と概念間の定量的な距離情報を用いて入力文から文脈ネットワークを作成し、活性拡散により語義を決定する。従来の WordNet を用いる方法と比較し、本提案手法が高い正解率を得た。次の動的文脈ネットワークモデルは、人間が文を読むように文頭から入力語を理解していく仕組みで、多義が解消できるまで順番に文脈ネットワークを拡大させていく
多義性解消モデルであり、有効性を確認している。

We proposed a method of word sense disambiguation using Contextual Semantic Network (CSN).
This network is constructed using concept dictionaries (Associative Concept Dictionary and WordNet)
which include semantic relations among concepts. In the network, an interactive activation method isused to identify meanings of a homographic ideogram on the CSN where the activation values on the
network are calculated using the distance information between concepts. Dynamic Contextual Network
Model is applied to the network, where the network structure changes according to the successive
input words in the sentences. The model enhances the network dynamically by adding words from the
input sentence until the model obtains a certain threshold to decide the appropriate meaning of thehomographic ideograms.
Keywords: 連想概念辞書、多義性解消、文脈理解、動的文脈ネットワークモデル、活性拡散

１

はじめに

解析を行うだけではなく、人間が言語理解に用いて自然言語をコンピュータで処理し自動要約や多義いる一般的な知識や当該分野の背景的知識などの必性の解消などの高度な言語処理を実現するために要な知識（記憶）を整理し、自然言語処理技術としは、言語学的情報に基づいて構文解析や表層的意味て利用可能な形にモデル化することが重要である。

KEIO SFC JOURNAL Vol.12 No.1 2012

97

自由論題

一般性のある自然言語理解のために、現実世界で成ベースの例として、電子化辞書があげられる。日り立つ知識を構造化した知識ベースが必要であり、本ではコンピュータ用電子化辞書として EDR 電子

そのためには人間がどのように言葉を理解している

化 辞 書 (EDR, 1990) が 構 築 さ れ て い る。WordNet

かを調べる必要があると考えている。そこで我々は、(Miller, et al., 1993) は George A. Miller が中心となっ大規模な連想実験を実施し、人間の語に関する連想て構築した電子化シソーラスで、人間の記憶に基づをまとめ構造化した連想概念辞書を構築した。（岡いて心理学的見地から構造化されている。EDR 電

本 & 石崎, 2001）

子化辞書や WordNet は自然言語処理分野などでもまた文章をコンピュータで解析をするとき、語のよく用いられている。

意味を正しく把握することが必要である。たとえば、音声合成分野での同表記異義語の「読み」および「語1.2

語の多義性解消と既存手法義」の曖昧性の解消においては、例えば「額」は文

辞 書 を 利 用 し た 多 義 性 の 解 消 に は、Collins

脈により『金額』や『額縁』の「がく」や『おでこ』

English Dictionary における見出し語とその語義文の「ひたい」などが考えられる。そこで本研究ではを利用したものがある (Veronis & Ide, 1990)。これ

文脈を利用した語の多義性を解消するために、文脈は辞書からネットワークを作成し文脈に応じた語義

ネットワークモデルを提案する。このモデルは、まの選択を行っている。具体的には語義文の「word」

ず多義語を含む文全体に関する文脈ネットワークをとその語義の ID を示す「sense」をノードとして作成する。ネットワークはニューラルネットワーク

大規模なネットワークを作る。語が多義語で、複数を模して作成され、連想概念辞書を背景的な常識との意味がある場合はその語義「sense」同士は抑制して使用する。次にネットワーク内で、ニューロン

リンクで結ぶ。このネットワークモデルを利用し、の活性値を使用して語の多義性を解消する。また、

2 つの語を入力語として与え、各ノードの活性値を

人間が文を読み進める時の言語理解過程を扱う動的計算することで活性値の高いノードの語義を採用す

文脈ネットワークモデルを提案する。このモデルでる方法を取っている。たとえば、多義語「pen」はも連想概念辞書を利用し、文から順番に入力する語「筆記用具のペン」、「動物を入れる檻」、「雌の白鳥」に応じてニューラルネットワークを更新しながら、などの意味があるが、「pen と goat」が与えられた語に対応するニューロンの活性値を使用して語義を場合、「mammal」や「animal」などが発火し、「an決定する。

enclosure in which domestic animals are kept.」の語義が適切であると判断するものである。

1.1

また、多義語を含む文の理解において、ネットワー

人間の記憶モデルと概念辞書

初期の知識に関する研究では、人間の記憶モデ

ク表現を用いた Massively Parallel Parsing (Waltz &ルの１つとして意味的に関係のある概念をリンク

Pollack, 1985) などがある。これは、入力文についで結んだ意味ネットワークモデルが提案されていて統語的な情報や概念情報などをノードとしてネッる。Collins と Loftus は、階層的ネットワークモデ

トワークを作り、活性拡散を用いてノードの値を計

ル (Collins & Quillian, 1969) を改良し、意味的距離

算することで特定の意味や解釈を表すノードのみがの考えを取り入れ活性拡散モデル (Collins & Loftus,

高い活性値となり、多義文の理解をするものである。

1975) を提案した。意味的距離をリンクの長さで表

日本語の多義性解消に関する研究では、シンプルベ

し、概念間で意味的類似性が高いものは短いリンク

イズ法、決定リスト法、サポートベクターマシンなで結び、低いものは長いリンクで結んでいる。このど機械学習手法を融合し高い精度を得ており、解析モデルによって文の真偽判定に関する心理実験や典に必要な素性についてのその有効性や特徴について

型性理論 (Rosch & Mervis, 1975) について説明した。

述べている（村田他 , 2003）。

自然言語をコンピュータで扱う時の大規模な知識98

文脈ネットワークを用いた語の多義性解消

２

連想概念辞書「下位概念」、「部分・材料概念」、「属性概念」、「類

2.1

主な特徴

義概念」、「動作概念」、「環境概念」の 7 課題に関し我々は（岡本 & 石崎, 2001）において、小学生がて連想させ、任意個の連想語をキーボード入力させ学習する基本語彙の中で名詞を刺激語として連想実る。被験者数は 1 刺激語に対し 50 人である。

験を行い、人間が日常利用している知識を連想概念

また、本論文で利用する連想概念辞書は、連想実

辞書として構造化した。また「刺激語」と「被験者験によって得られたデータを元に概念間の距離を定に呈示した刺激語から連想された語（連想語）」の量化している。刺激語 x と連想語 y との概念間の距

2 つの概念間の距離の定量化を行なった。従来の概離 D(x, y) は、連想実験から得られる連想頻度 F(x,念辞書は木構造で表現され、概念のつながりは明示y) と連想順位 S(x, y) のパラメータによる線形結合

されているが距離は定量化されておらず、概念間ので表現し、線形計画法を用いて (1) 式のように最適枝の数を合計するなどのような木構造の粒度に依存解が求められている（岡本 & 石崎, 2001）。ここでしたアドホックなものであった。人間の記憶に関すはパラメータをもとに境界条件を距離 D(x, y) の値る研究や自然言語処理や情報検索などに応用する際が最大で 10.0 程度、最小で 1.0 程度になるように定に、概念間の距離を定量化したデータベースが有用

め、シンプレックス法によって係数の最適解を計算になってくると考えている。従来の概念辞書には概した。

念に関する上位および下位概念や、部分－全体、概念の特徴や類義語などの記述、また「動作」に関し

D(x, y) = 0.81F(x, y) + 0.27S (x, y),て格情報を記したものはあるが、概念同士が密接にF(x, y) = Nx/(n +δ),δ =Nx/10 − 1, (Nx 10）,

関連する「環境」を記述しているものは少ない（岡S(x, y) = 1/n∑i=1 Sxyi ,

(1)

i=nxy

本 & 石崎, 2001）。また連想概念辞書は、表層に表れない文章中の語に関する知識（常識）などを用い

F(x, y) は刺激語 x から連想語 y を連想した被験者

た文書要約（岡本 & 石崎, 2003）（Okamoto, et. al.,の割合、S(x, y) は連想語 y が連想された順位を平均

2011）や比喩理解システム（坂口, 2010）に応用さした値、Nx は刺激語 x を呈示した被験者数、nxy はれている。この比喩理解システムは、連想概念辞書

刺激語 x のとき連想語 y を連想した人数 (n ≧ 1)、を利用しニューラルネットワークを用いて「課長はSxyi は被験者 i が刺激語 x の時に連想語 y を連想し鬼だ」という比喩表現を「課長はとても怖い」と理た順位である。(1) 式では連想頻度 F(x, y) の係数が解して、出力するものである。

連想順位 S(x, y) の係数より大きく、連想人数が概念間の距離に与える影響は大きくなっている。

2.2

図 1 は刺激語「紙」についての連想概念辞書の記

連想実験

被験者に呈示する刺激語として、光村図書出版株

述例である。たとえば「紙」の上位概念として「文式会社の「語彙指導の方法」（甲斐, 1995）に記載

房具」が連想されており、「0.18」は『頻度』（連想されている小学校の学習基本語彙の名詞から「果者数を被験者数で割った値）、「1.00」は『連想順位』、物」、「野菜」、「木」、「乗り物」、「家具」、「人間」な「3.39」は「紙」と「文房具」の『概念間距離』である。

どを中心として 3 ～ 4 階層をなす上位および下位概「下位概念」、「部分材料概念」、「属性概念」、「類義念の語や、「語彙指導の方法」において頻出頻度が概念」、「動作概念」、「環境概念」なども同じ形式で高い基本語彙（名詞）、連想実験で連想頻度が高い

記述してある。多くの被験者が同一の語を連想して語（名詞）、メタファー理解、多義語の解消など数々いる場合は連想頻度が高くなり、その連想語は刺激の研究に用いる名詞を選択した。現在の刺激語数は語にとって連想しやすい語であると考えられ、概念

約 1100 語である。連想実験は自由連想ではなく、間の距離も短くなる。

被験者に名詞を刺激語として呈示して、「上位概念」、

KEIO SFC JOURNAL Vol.12 No.1 2012

99

自由論題

図１

2.3

刺 激 語「 紙 」に つ い て の 連 想 概 念 辞 書 の 記 述 例（ 連 想 語 は 一 部 の み 表 示 ）既存概念辞書との比較に対するリンク数の割合を比較すると、連想概念辞－規模とネットワー

書の方が WordNet よりも多くのリンクが張られて

ク密度－
2.3.1

いることが分かる。

連想概念辞書と WordNet の規模の比較

連想概念辞書では、連想された語を別の連想実
験で刺激語として被験者に呈示する場合がある。

2.3.2

WordNet は 多 重 継 承 な ど も あ り ラ テ ィ ス 構 造 に

連想概念辞書と WordNet のネットワーク密度の比較な っ て い る。 ま た、WordNet の 概 念（synset） の

ここでは、連想概念辞書や WordNet 全体での概ID に日本語の記述を対応させた日本語 WordNet

念（synset）のつながりを一つのネットワークと（Isahara, et al., 2008）が作られている。連想概念辞

みなし、そのネットワーク密度について比較を行

書の刺激語数は 1096 語で、WordNet は名詞の見出う。また、連想概念辞書中の刺激語のみを対象とし語数は約 12000 語である。また日本語 WordNet

したネットワーク密度と刺激語に対応する日本語

は WordNet の概念（synset）の ID に対応する日本

WordNet の synset のみを対象としてネットワーク

語を表記の揺れなども含めて割り当てているので見密度を計算し比較を行う。連想概念辞書の刺激語に出し語数が多くなり、名詞のみでも 66 万語になる。

対応する synset のみを抽出して作成した WordNet

連想概念辞書、WordNet、日本語 WordNet の名詞のネットワークは、刺激語に対応する synset からに関しての規模は表 1 のようになる。連想概念辞書

最上位概念である entity まで順に上位概念を辿ったの概念数は名詞のみに絞ると、連想語全体に比較しネットワークに、各ノード（synset）から関係子をて 16000 語ほど少なくなる。また連想概念辞書の概1 つ分辿った synset を加えて作成する。
ネットワーク密度は、ネットワークに含まれる

念数に対するリンク数の割合と WordNet の概念数100

文脈ネットワークを用いた語の多義性解消

表１

連想概念辞書と WordNet の規模の比較

連想概念辞書（連想語全体） 連想概念辞書（名詞のみ）
概念数
62729 概念数
46400
リンク数
274822 リンク数
176833

表2

WordNet（名詞のみ）
synset 数82115
リンク数231535

日本語 WordNet（名詞のみ）
synset 数51736
リンク数163262

連想概念辞書と WordNet のネットワーク密度の比較

連想概念辞書 ( 全体の概念 )0.82 × 10 -4
連想概念辞書（刺激語のみを対象）
0.04

WordNet0.34 × 10 -4
WordNet（刺激語に対応する synset のみを対象）
0.66 × 10 -4

リンクの数によって決まる。ノード同士を結ぶリンクが多いと密度が高くなり、リンクが少ないと文脈ネットワークモデルによる多義性の解消

密度は低くなる。概念のネットワークを有向グラ

本研究では、同表記異音異義語を対象に語の多義フとしてとらえ、ネットワーク密度 D を以下の式

性解消を行う。たとえば「額」は、「がく」と読むで計算する。

場合は絵を飾る額縁という意味を持ち、また金額をm
D= /n(n-1) ,３表す意味となる場合もある。さらに「ひたい」と読む場合には、「前額部」いわば「おでこ」の意味を(2)表す。このように日本語には同表記で違う読み・意
ここで、m はネットワーク中のリンクの数、n はノー

味の語が数多くあり、たとえば「金（きん）」「金（かド数である。

ね）」や「札（ふだ）」「札（さつ）」などがある。

表 2 は、連想概念辞書と WordNet でのネットワー

本章では、文中の語に関する文脈の意味ネット

ク密度の比較と、連想概念辞書中の刺激語のみを対ワークである Contextual Semantic Network の概要

象とした場合と刺激語に対応する日本語 WordNetと、ニューラルネットワークでの活性値の計算方の synset のみを対象とした場合のネットワーク密法と語の多義性の解消について述べる。また、連度を示す。WordNet はラティス構造になっている

想概念辞書と WordNet の両概念辞書を利用してとはいえ木構造に近いのでネットワーク密度は低い

Contextual Semantic Network を作成し、多義性のと考えられる。連想概念辞書では、下位概念として解消についての精度を比較する。

様々な語を連想する場合が多くその連想頻度は低い。つまり、複数の刺激語から同一の語を下位概念

3.1

文脈ネットワークとして連想することは少ないので、連想概念辞書内

人間は、多義語の適切な意味を前後の文脈から把のすべての概念についてネットワーク密度を算出す握していると考えられる。本研究では多義語を含む

ると値は低くなると考えられる。一方、連想概念辞

文を入力文として、文中の語に関する文脈の意味

書は刺激語から連想される語も刺激語として連想実

ネットワーク（Contextual Semantic Network）を作

験をしているため、刺激語に含まれる語のみでネッ

成し、文中の表層の語のみだけでなく、その語に対トワークを構築すると多くの語がお互いにつながっする背景知識・常識・どのような状況において用いており、ネットワーク密度を計算すると、WordNetられる語であるかなどの情報をネットワークに含めよりも約 1000 倍ほど密なネットワークとなっていることによって、その文脈に合った適切な語義を判ると考えられる。

断する。

KEIO SFC JOURNAL Vol.12 No.1 2012

101

自由論題

連想概念辞書の概念構造
入力文に関する概念のネッ
トワークを作成

Contextual
Semantic
Network

入力語

活性値が高いノードに対応する語義を多義語の適切な語義とする

多義語
入力文
図２

Contextual Semantic Network による多義性の解消

図 2 は、 連 想 概 念 辞 書 を も と に 作 成 す る

期値 ai(0) を (3) 式で表す。Ski は、入力文 k にノーContextual Semantic Network を用いた多義性の解ド Ni が出現した回数とする。また、時間 t+1 のと消の概念図である。概念間の距離が定量化された連きのノード Ni の値（ai(t+1)）は、(4) 式とする。

想概念辞書のデータを用い、刺激語と連想語とその2 つの概念間の連想関係と連想距離から概念のネッ

ai(0)=Ski/2 ,		(3)

トワークを構築する。入力文中の自立語をもとに、

ai(t+1)=ai(t) −θ・ai(t)+εi(t) ,(4)

概念のネットワークから入力語に関する部分を中心に概念関係を抽出し Contextual Semantic Network(4) 式 に お い て、 減 衰 係 数θを (McCelland &を作成する。多義語が入力語となる場合は、その多Rumelhart, 1981) にならい 0.1 とし、εi(t) は、時間義語に対応するすべての語義をしめすノードをネッ

t において、隣接するノードから受ける影響を表す

トワークに追加する。また、多義語同士間などいく値を示す。ノード Ni に隣接するノードから受け取つかの抑制リンクも追加する。文脈により関連のある活性値の合計 ni(t) は以下の (5) 式のように定義る語のネットワークが強化されていると考えられるする。

ため、3.2 節で説明するノードの活性値の算出によni(t)= Σaj(t)/αDij ,		り、適切な語義ほど活性値が高くなる。
3.2

(5)

ここで、aj(t) はノード Ni に接続しているノード Ni

活性拡散を利用した語の多義性解消

3.1 節 で 作 成 し た Contextual Semantic Networkの活性値を示し、αは Contextual Semantic Networkのノードの活性値を、Interactive Activation Modelのリンク数の合計によって算出された補正値であ(McCelland & Rumelhart, 1981) を参考にした式にり、Dij はノード Ni とノード Nj の間の距離としリより算出する。ノードの活性値の最大値を 1.0、最ンクの重みとして利用する。Contextual Semantic

小値を 0 とする算出式を作成する。まずノードの初

Network は、連想概念辞書の概念のネットワークで、

102

文脈ネットワークを用いた語の多義性解消

概念間の距離情報を持った連想関係のリンクを累

入力語 wi とその刺激語 xi までの距離を保存する。

積距離が 5.0 になるまで連想概念辞書の概念ネット

ステップ 2 と同様に刺激語 xi から、リンクしワークを辿ることによって作成される。ネットワーている各概念を順に辿ることで語彙拡張を行な

ク内で、抑制リンクとして働く場合はリンクの重み

い、ネットワークに追加する。ただし、概念間（Dij）を負の値としている。

の距離の累積距離が 5.0 になるまでとする。

また、ni(t)> 0 で、入力全体が興奮状態になるとき、

4. 入力語 wi の係り受け情報から、入力語 wi の係

ノードへの影響εi (t) は、次の (6) 式で与えられる。

り元の語とリンクをネットワークに追加し、リンクの重みを 1.0 とする。

εi (t)=ni(t)[M − ai(t)] ,		(6)（たとえば入力文が「絵を飾る」の時、「飾る」
が入力語の場合は「飾る」の係り元である「絵」

ここで、M は、ノードの最大活性化レベルであり、と「飾る」のリンクをネットワークに追加し、1.0 に設定している。

その重みを 1.0 とする。）

また、ni(t) ≦ 0 で、入力全体が抑制状態にあると

5. 多義語（たとえば Ai と Bi）同士のノードは抑制

き、ノードへの影響は次の (7) 式で与えられる。

リンクをネットワークに追加し、リンクの重みを－ 1.0 とする。

εi (t)=ni(t)[ai(t) − m] ,		

(7)

6. 入力語 wi が多義語 Ai 、Bi だとすると Ai から連想される各々の連想語 aj と Bi の間は抑制リンク

ここで、m は、ノードの最小活性化レベルであり、をネットワークに追加し、リンクの重みを－Dij

0 に設定している。ノードの活性値を計算し、多義とする。

語に相当するノード活性値の大小関係で多義性の解

また同様に Bi から連想される各々の連想語 bj

消を行う。

と Ai の間は抑制リンクをネットワークに追加する。

3.3

連想概念辞書を利用したネットワークの構築

図 3 の 2 つの長方形のノードは、多義語の「額」

語 の 多 義 性 解 消 を 行 う た め に、 連 想 概 念 辞 書に値する 2 つの読み「がく」と「ひたい」を示す。

の概念ネットワークを利用し 3.1 節の Contextual

多義語の場合は、複数の語義を示す刺激語が同時にSemantic Network を以下のステップで作成する。

ネットワークに追加される。読みが「がく」の場合は「額縁」のみならず「金額」の意味の語もネット

1. 多義語を含む入力文に対して、日本語係り受けワークに追加される。これは、連想実験において「額解析器 Cabocha(Kudo & Matsumoto, 2002) を用（がく）」のように漢字とその読みを刺激語として呈いて、語の品詞情報と係り受け情報を取得し、示し、連想語に大きく影響を与えるようなインスト

文中の自立語を入力語 wi とする。

ラクションを与えていないためである。そのため連2. 入 力 語 wi が 連 想 概 念 辞 書 の 刺 激 語 で あ れ

想概念辞書には「額縁」と「金額」に関する連想語

ば、 入 力 語 wi の 上 位 概 念、 部 分 材 料、 類 義が混在している。しかし本研究では同表記異音異義

概念、環境概念としてリンクしている各概念

語でどちらの読みが適切であるかを判断するので、を 順 に 辿 る こ と で 語 彙 拡 張 を 行 な い、 ネ ッ

連想概念辞書はこの構造のまま利用する。

ト ワ ー ク に 追 加 す る。 た だ し、 概 念 間 の

楕円内の語は「額（がく）」「額（ひたい）」を中

距 離 の 累 積 距 離 が 5.0 に な る ま で と す る。

心として、連想語（その連想語が刺激語として連想（入力語 wi が多義語 Ai 、Bi だとすると、Ai と Bi

実験がなされている場合もある）の連想関係をたどを共に語彙拡張してネットワークに追加する。）

りネットワークを作成した例である。実線は興奮リ

3. 入力語 wi が連想概念辞書中の連想語であれば、ンクを示し、リンクの重みには距離情報 Dij を用い

KEIO SFC JOURNAL Vol.12 No.1 2012

103

自由論題

図3

連想概念辞書を用いた Contextual Semantic Network の例

る。点線は抑制リンクを示し、たとえば「額（がく）」upper part of the orbits」、 後 者 は「the part of theと「額（ひたい）」の間のリンクの重みは－ 1.0 とし

face above the eyes」 を 指 し て い る。 ま た、「 額 」ている。また、多義語 Ai から連想される aj は多義を『がく』と読む場合は『金額』の意味で、「sum、語 Bi との抑制リンクを追加し、多義語 Ai から連想

sum_of_money、amount、amount_of_money」

語 aj までの距離情報に－ 1 を乗じた値をリンクの重「quantity」 な ど 複 数 の 概 念 が あ り、 前 者 は「aみ（－ Dij）としている。たとえば、図 3 の「木」とquantity of money」、 後 者 は「an adequate or large「額（ひたい）/hitai/」の点線は抑制リンクとなり、

amount」を指している。さらに『がく』と読み『額縁』

リンクの重みは「－ 1.46」となる。この場合のリンの意味に対応する synset が WordNet にはないため、クの重みは、「木」と「額（がく）/gaku/」の距離

日本語の「額縁」に対応する WordNet の synset をに－ 1 を乗じた値である。

利用する。

や

このように WordNet は日本語の表記に対応する
WordNet を利用したネットワークの構築

synset が複数存在する。そこで WordNet を利用し語の多義性解消を行うために、WordNet の概念

た Contextual Semantic Network で、多義語「額縁構造を利用し 3.1 節の Contextual Semantic Network（がく）」、「金額（がく）」、「額（ひたい）」に対応すを 作 成 す る。WordNet で は synset と い う 類 語る synset において、3.2 節の式を用いてノードの活関係のセットで概念を定義している。たとえば、性値を計算し、多義語ごとの synset（ノード）の活「 額 」 を『 ひ た い 』 と 読 む 場 合 は「frontal_bone、性値を平均し比較することで適切な語義を得るよう

os_frontale、forehead」 や「brow、forehead」 のなモデルを考案した。

3.4

synset が あ り、 前 者 は「the large cranial bone

表 3 は、WordNet の名詞において synset 間の関

forming the front part of the cranium: includes the

係性を示す記号とその意味を示す。「@ と〜」、「@i104文脈ネットワークを用いた語の多義性解消

表3
関係子
@
@i
〜
〜i
#m
#s
#p
%m
%s
%p

WordNet の名詞の関係子とその説明

説明
HypernymInstance Hypernym
Hyponym
Instance Hyponym
Member holonym
Substance holonym
Part holonym
Member meronym
Substance meronym
Part meronym

関係子
+
;c
-c
;r
-r
;u
-u
!
=

説明
Derivationally related form
Domain of synset – TOPIC
Member of this domain – TOPIC
Domain of synset – REGION
Member of this domain – REGION
Domain of synset – USAGE
Member of this domain – USAGE
Antonym
Attributeと〜 i」、「#m と% m」、「#s と% s」、「#p と% p」、「;c

路 内 に あ る と き に は、 同 じ ID に 戻 っ て くと -c」、「;r と -r」、「;u と -u」 は 双 方 向 の リ ン ク のる 経 路 を ネ ッ ト ワ ー ク に 追 加 す る。 た と え関係にある。ここでは、語の多義性の解消を行う

ば、 入 力 語 が「 鼻 」 の 場 合、synset で あ る

ため、WordNet をもとにした Contextual Semantic<nose、olfactory_organ> の part holonym <#p>

Network を以下のステップで作成する。

に <face、human_face>、 そ の hypernym <@>に <external_body_part>、 そ の hypernym<@>

1. 多義語を含む入力文に対して、日本語係り受けに <body_part>、 そ の part holonym <#p> に

解析器 Cabocha を用いて、語の品詞情報と係り<organism、being>、そ の part meronym< % p>

受け情報を取得し、文中の自立語を入力語 wi とに <body_part> と い う 経 路 が 得 ら れ る。

する。

<body_part> が な ん ら か の synset（ 上 記 の 場

2. 日本語 WordNet を利用して、入力語 wi の日本

合 は <organism、being>） を 経 由 し て 再 び

語の表現に対応する WordNet の synset をすべ<body_part> に戻るような経路である。

て取得する。たとえば、「額」なら「額（ひた5. 入力語 wi の係り受け情報から、入力語 wi の係い）」に対応する synset として「frontal_bone、

り元の語に対応する synset とリンクをネット

os_frontale、forehead」

ワークに追加し、リンクの重みを 1.0 とする。

や「brow、forehead」など複数の概念がある。

6. また、多義語 Ai、Bi、Ci 同士の synset は抑制リ

3. 入力語 wi に対応する synset の「@、@i、〜、〜 i、ンクをネットワークに追加し、リンクの重みを#m、#s、#p、 % m、 % s、 % p、+、;c、-c」 の 関－ 1.0 とする。

係子を辿り関係子先の synset をノードとして得

たとえば、多義語「額（ひたい）」に対応する 2

る。さらに累積経路が 5 になるまで順に「@」つの synset のうちの一つが「brow、forehead」のなどの関係子先の synset をノードとして辿り場合、他の語義を示す「額縁（がく）
」
、
「金額（が

語 彙 拡 張 を 行 な い ネ ッ ト ワ ー ク に 追 加 す る。

く）」に対応する各 synset に抑制リンクで結ばれる。

（ 入 力 語 wi の synset が 複 数 あ る 場 合 は、 す べ

7. 入力語 wi が多義語 Ai、Bi、Ci だとすると Ai のて利用して語彙拡張してネットワークに追加す

あ る 一 つ の synset に 隣 接 す る synset aj と 多る。）

義 語 Bi に 対 応 す る synset や 多 義 語 Ci に 対 応

4. 入 力 語 wi に 関 連 性 の 高 い synset を 得 る た

す る synset の 間 は 抑 制 リ ン ク を ネ ッ ト ワ ー

め に、 双 方 向 の リ ン ク を 張 る よ う に「@ とク に 追 加 し、 リ ン ク の 重 み を－ 1.0 と す る。

〜」、「@i と 〜 i」、「#m と % m」、「#s と % s」、

ま た 同 様 に 多 義 語 Bi に 隣 接 す る synset「#p と % p」、「;c と -c」 の 組 み 合 わ せ が 経

bj と 多 義 語 Ai に 対 応 す る synset や 多

KEIO SFC JOURNAL Vol.12 No.1 2012

105

自由論題

義 語 Ci に 対 応 す る synset の 間 は 抑/hitai/」の長方形内のノードのように、synset 同士

制 リ ン ク を ネ ッ ト ワ ー ク に 追 加 す る。

を興奮リンクで結ぶ。また、「額縁（がく）」、「金

たとえば、多義語「額（ひたい）」に対応する

額（がく）」、「額（ひたい）」内の各々の synset は、

2 つの synset のうちの一つが「brow、forehead」

他の多義語同士と抑制リンクで結ばれる。たとえの 場 合、 上 位 概 念 で あ る synset「feature、ば、「brow、forehead」は「quantity」と抑制リンク

lineament」は、他の語義である「額縁（がく）」、で結ばれる。また、多義語に値する synset（「額縁「金額（がく）」に対応する各 synset に抑制リン（がく）」、「金額（がく）」、「額（ひたい）」内のノークで結ばれる。

ド）から伸びた 1 段階の synset（たとえば、「brow、
forehead」の場合「feature、lineament」を示すノー

図 4 は、WordNet を 用 い た Contextual Semanticド）は、他の語義を示す「額縁（がく）」、「金額（がNetwork の例である。実線は興奮リンクを示し、点く）」内の synset 一つ一つに抑制リンクで結ばれる。

線は抑制リンクを示す。また、丸は synset を示す

図 4 で は、「feature、lineament」 と「quantity」 間

ノードである。長方形は、多義語（「額縁（がく）」、の抑制リンクのことである。

「金額（がく）」、「額（ひたい）」）に対応する複数のsynset である。このように WordNet では日本語の3.5表記に対して複数の synset の候補がある。たとえ

連想概念辞書と WordNet を利用した多義性の解消システムの比較ば、「額」なら『ひたい』の意味で「frontal_bone、

3.3 節で、連想概念辞書の利用したネットワーク

os_frontale、forehead」 や「brow、forehead」 な ど構造の作成について述べ、3.4 節で WordNet を利用の synset がある。連想概念辞書で「額（ひたい）」

したネットワーク構造の作成について述べた。多に値するこの２つ synset は、図 4 の「額（ひたい）義語を含む分を入力文として、連想概念辞書を利図4

WordNet を用いた Contextual Semantic Network の例（抑制リンクは一部を省略）

106

文脈ネットワークを用いた語の多義性解消

用 し た 時 と WordNet を 利 用 し た 時 で Contextual

されている。本論文では、同表記異音異義語を対象

Semantic Network を用いた多義性解消の正解率をにした語の多義性解消を行っており、正しい読みが比較する。ネットワーク中のノードの値は 3.2 節の判断できるかを目的としているため、連想概念辞書

式を利用して計算する。

のデータをそのまま利用している。
ネットワーク密度を比較すると、連想概念辞書は

3.5.1

WordNet よりもネットワーク密度が 10 倍ほど高い。

多義性解消手法の比較の手順

Contextual Semantic Network を利用した多義性

2.3.2 項の表 2 における刺激語のみを対象とした連の解消の評価を行うために、多義語「額」が文中に

想概念辞書のネットワーク密度よりも低くなってい

1 語存在する Web 上の文約 2 万 8 千を取得し、そる。これは 3.3 節のステップで作成する Contextualのうち連想概念辞書の刺激語にある概念で文の名詞

Semantic Network が連想語も含めたネットワークが構成されている 26 文を選定した。額（がく）ととなっているためである。しかし刺激語のみを対象

読む文は 16 文で、額（ひたい）と読む文は 10 文でとした連想概念辞書のネットワーク密度よりも低いある。額（がく）と読む文については 16 文のうち、とはいえ、連想概念辞書の方が WordNet よりも多「額縁」の意味の文は 12 文で、残りの 4 文は、「金額」

くの概念が密につながっていることが分かる。

の意味の文である。選定した 26 文を入力文として、

正 解 率 は、 連 想 概 念 辞 書 の 場 合 が 92.3 % で文ごとに Contextual Semantic Network を作成した

WordNet の場合が 58.3%となり、連想概念辞書を用

うえで多義語のノードの活性値を算出し、ノードのいた多義性の解消の正解率の方が WordNet を用い活性値が高い方をシステムが選択した語義とする。

た多義性の解消の正解率より高い。連想概念辞書にContextual Semantic Network は連想概念辞書を利は、「額（がく）」の環境概念は「壁」など、「額（がく）」

用した場合と WordNet を利用した場合で作成し、がどのような状況・環境にあるかなどの文脈情報なシステムが選択した語義が本来の適切な語義であるども記載されている。WordNet にも「;cか正解率を比較する。また、入力文ごとに連想概念

of synset – TOPIC」のようにどのような Domain で辞書と WordNet でネットワーク密度を計算した。

用いられる概念であるかなどの情報もあるが、網羅

Domain数が少ない。そこで、ネットワーク密度を上げるに
3.5.2

は、多量のコーパスなどを利用して、「壁にかかる絵」

結果と考察

表 4 は、3.5.1 項 で 選 定 し た 26 文 を 利 用 し て、「壁の絵」など、係り受け情報や表現のパターンな

連 想 概 念 辞 書 と WordNet を 利 用 し て 作 成 し たどを活用して語の共起情報から、文脈情報を抽出し、Contextual Semantic Network をもとにした多義性

WordNet を補完する方法が考えられる。

解消の正解率を示す。連想概念辞書は「額（がく）」の場合、被験者に提示した刺激語が「額（がく）」４

る語も連想されており２つは明確に分類されていな

動的文脈ネットワークモデル(Dynamic Contextual Network Model)と多義性の解消

いが、WordNet は synset として概念が明確に分類

2 章では、連想概念辞書の構築について述べ、さとなるため、「金額」に関する語も「額縁」に関す

表4

連想概念辞書と WordNet を利用した多義性の解消精度の比較
連想概念辞書

漢字の読み
平均ネッ
トワーク密度
正解数
正解率

額（がく）

額（ひたい）
0.0178

15

9
92.3%

WordNet
額（ひたい）
額（がく・額縁）
額（がく・金額）
0.00186
858.3%

KEIO SFC JOURNAL Vol.12 No.1 2012

107

自由論題

らに連想概念辞書と WordNet の規模とネットワー

よ う に、 文 の 先 頭 部 分 が 多 義 語 で あ る 場 合 のク密度の比較を行った。3 章では、文全体で文脈ネッ

Contextual Semantic Network をどのように拡張す

トワークを作成して連想概念辞書と WordNet で多るか示している。最初の「額」だけではどちらの読義性解消の正解率を比較した。次に本章では、動みが適切であるか判断できないため、次の「入れる」

的文脈ネットワークモデル (Okamoto, et. al., 2010)

や「絵」といった入力語を用いて拡張したネットワー(Okamoto, et. al., 2011) を 提 案 す る。 こ の モ デ ル

クで随時ノードの活性値を計算することで適切な語は、人間が文を読み進めながら内容を理解し多義義を判断する。具体的には、語が入力されるたびに性を解消するように、文中の単語を入力順に用い

3.2 節の式を利用して、時間 t については語が入力て、それぞれの時点での文脈に応じたネットワー

されるたびに 20 サイクル計算する。ネットワーク

ク（Contextual Semantic Network）を動的に構築し、内の最初のノードの初期値は 3.2 節の (3) 式で算出

曖昧性を随時解消するモデルである。動的文脈ネッ

するが、次の語が入力された場合のノードの初期値

トワークモデルは、ネットワークを作ったある時点

は、その時点の活性値の値を継承して (8) 式で計算で語義の同定が十分でない場合、さらに次の入力語

するを加えネットワークを再構築しながら、活性値を計算することで語の多義性を解消する。文中の単語をai(0)=Ski/2 ,(3)

順番に利用してネットワークを動的に作成するため

ai(t)=(Ski + ai(t-1))/2 ,		

(8)

ネットワーク密度が高いことが求められる。そのため連想概念辞書のみを利用し語の多義性解消を行

Ski は、 文 k に ノ ー ド Ni が 出 現 し た 回 数 で あ る。

う。

ai(t-1) は、時間 t-1 におけるノード Ni の活性値である。
また、時間 t+1 におけるノード Ni の値 ai(t+1) は、3.2

4.1

節の (4) から (7) 式を用いて計算する。

ネットワークの動的変化

図 5 は、動的文脈ネットワークモデルの特徴を示す。入力単語列を確定した時点での Contextual

4.2

Semantic Network を作成し多義性の解消を試みた

動的文脈ネットワークモデルを利用した多義性解消のシミュレーション

結果、どの語義が適切か判断できなかった場合、次

4.2.1

多義性解消のシミュレーションと評価方法の入力語を用いて語彙拡張を行う。こうして構築し動的文脈ネットワークモデルを利用すると、「壁たネットワークで活性値を再計算することにより適にかかったピカソの絵の額が、頭に当たって額から切な語義を選択する。

血が出た。」のように、一つの文の中に多義語が複

図 5 の左側部分は、「額に入れて絵を飾る」の

図5

数ある場合や、「額ににじむ汗を手で拭う。写真はContextual Semantic Network の拡張108

文脈ネットワークを用いた語の多義性解消

額に入れられ壁に飾られた。」のように 2 つの文をにじむ汗を手で拭う。写真は額に入れられ壁に飾ら組み合わせた場合や、冒頭が多義語「額」で正しいれた。」のような入力文を 320 個用意した。また「額」

読みを判断できない場合でも、後の文脈を取り入れと同様、多義語「金」が文中に 1 語存在する Web

ることによって多義性の解消に対応できる。入力文

上で取得された約 6 万 8 千文中、連想概念辞書の刺が複数の文で構成される場合は、文の切れ目に関係激語にある名詞で構成されている文を 22 文（「きん」

なくノードの活性値は次の文のネットワークにも継と読む 12 文と「かね」と読む 10 文）用い、2 つの承される。

文を組み合わせた 240 個の入力文を用意した。前の

図 6 は、「額ににじむ汗を手で拭う。写真は額に文と後の文に含まれる多義語について、動的文脈

入れられ壁に飾られた。」を入力文として、動的文

ネットワークモデルを用いて適切な語義が得られる

脈ネットワークモデルを利用した語の多義性解消のかを調べた。

シミュレーション結果である。最初に「額（がく）」と「額（ひたい）」が同時に入力され「汗」が入力

4.2.2

結果と考察

されるまで「額（がく）」と「額（ひたい）」の活性

表 5 は、多義語を含む 2 つの文をつなげて、動的値の差がない。その後は、丸い点線の箇所のように文脈ネットワークモデルで解析した結果である。入「額（ひたい）」が「額（がく）」より高く、この時

力文中の 2 つの文の 2 つの多義語を両方とも正しく

点では「額（ひたい）」と読むのが適切であると読解析できた場合を「正解数 2」とし，2 つの文のうみ取れる。丸い実線の箇所も「額（がく）」、「額（ひ

ち片方の多義語しか正しく解析できなかった場合をたい）」が同時に入力された部分である。「額（がく）」「正解数 1」とし，2 文とも多義語を正しく解析できが「額（ひたい）」より高く、この時点では「額（がなかった場合を「正解数 0」としている。また、入く）」と読むのが適切であると読み取れる。

力文に含まれる 2 か所の多義語の語義（「額」の場

動的文脈ネットワークモデルの評価として 3 章で用合は 320 個× 2=640 か所、「金」の場合は 240 個×

いた 26 文（「がく」と読む 16 文と「ひたい」と読

2=480 か所）の総数に対して、語義を正しく判断でむ 10 文）の「額」を用い、「がく」と読む文と「ひきた割合を正解率とした。

たい」と読む文の 2 つを組み合わせた図 6 の「額に「額」と「金」において多義を含む文が「正解数 2」

図 6 「額ににじむ汗を手で拭う。写真は額に入れられ壁に飾られた。」を入力文としたときの語の活性値の変化

KEIO SFC JOURNAL Vol.12 No.1 2012

109

自由論題

表5

多義語を含む 2 つの文を組み合わせた場合の提案モデルにおける正解数

多義語
額（がく）／額（ひたい）
金（きん）／金（かね）

入力文
320 個
240 個

正解数 2
222 個(69.6% )141 個 (58.8% )正解数 1
92 個 (28.6% )99 個 (41.2% )正解数 0
6 個 (1.8% )
0 個 (0% )

正解率
83.8%
79.4%

だったのは約 6 割から 7 割であった。また、入力文率を比較し、連想概念辞書を利用した方が高い正解の前半の文もしくは後半の文の「正解数 1」だった率を得た。4 章では、人間が入力文の文頭から順番のは約 3 割から 4 割であった。

に語を見ながら意味を理解していくように，入力さ第 3 章 で 述 べ た よ う に、1 文 中 の 語 す べ て でれる語を順番に文脈ネットワークに組み入れて再構

Contextual Semantic Network を作成して多義性の築する動的文脈ネットワークモデルを提案した。ま解消をした場合は正解率が 9 割と高かった。語義がた曖昧性のある語の入力時点で、多義語の意味が判異なる多義語を含む 2 つの文を組み合わせて作成断できない場合は、さらに次の語もネットワークにした入力文に対して、動的に Contextual Semantic

取り込んでから語義を理解するように設計した。同

Network を作り変えながらノードの活性値を計算

表記異音異義語を含む 2 文を組み合わせて入力文とした場合に正解率は 8 割前後と劣るものの、複数し、同モデルを利用した多義性の解消において約 8の多義語が存在する場合であっても前後の文脈を割の正解率を得た。

得ながら多義性の解消ができることが分かる。「正連想概念辞書は、概念間の距離情報を持つと同時解数 1」で誤りが顕著だったのは、後半の文の文頭に、既存概念辞書にはない環境概念（状況）や属性に多義語が来る場合である。前の文のノードの活概念、動作概念などの連想関係にある語も体系化し性値を継承して 2 文目を読み込むため文頭に多義た辞書である。今後は、WordNet などの他の概念語があった場合に誤った判断をすること多かった。

辞書と連想概念辞書とを組み合わせた辞書を用いて今後は、多義語の位置より後ろの文脈によっては、

文脈ネットワークを作成し、連想概念辞書を追加す一度決定した判断を取り消して適切な多義語を選ることの有効性について調査を行っていきたい。

択する仕組みを取り入れる必要があると考える。
また、一語ずつ入力語として利用すると入力数が参考文献

少なく文脈情報を十分にネットワークに反映する

1

ことができないので、Cabocha の係り受け情報を利用し句や節単位でネットワークを再構築するこ2とも進めていく必要がある。

5

3
4

まとめと今後の展開
本論文において、2 章では連想概念辞書の特徴と構築方法について述べ、規模やネットワーク密度を5

WordNet と比較した。3 章では多義語を含む文全体6を対象にした文脈ネットワークモデルによる多義性解消法を提案した。それは、入力文から Contextual

7

Semantic Network を 作 成 し、 活 性 拡 散 に よ っ て
語 の 多 義 性 を 解 消 す る 方 法 で あ る。Contextual

8

Semantic Network は連想概念辞書を利用した場合と WordNet を利用した場合とで多義性解消の正解

110

A. M. Collins and M. R. Quillian,“Retrieval Time fromSemantic Memory,” Journal of Verbal Learning and
Verbal Behavior, vol. 8, pp.240-247, 1969.
A. M. Collins and E. F. Loftus,“A Spreading-Activation
Theory of Semantic Processing,”Psychological Review,
vol.82-6, pp.407-428, 1975.
EDR ,『電子化辞書使用説明書』, 1990 年.
H. Isahara, F. Bond, K. Uchimoto, M. Utiyama and K.
Kanzaki,“Development of Japanese WordNet,”Proc of
LREC 2008, 2008.
甲斐 睦朗・松川 利広 ,『 語彙指導の方法』, 光村図書,
1995 年.
T. Kudo and Y. Matsumoto,“Japanese Dependency
Analysis using Cascaded Chunking,”Proc. of CONLL
2002, pp.63-69, 2002.
J. L. McCelland and D. E. Rumelhart,“An Interactive
Activation Model of Context Effects in Letter Perception:
Part 1. An Account of Basic Findings,”PsychologicalRev., Vol.88, No.5, pp.375-407, 1981.
G. A. Miller, R. Beckwin, C. Fellbaum and D. Gross, K.
Miller and R. Tengi,“Five Papers on WordNet,”CSL
Report 43, Cognitive Science Laboratory Princeton

文脈ネットワークを用いた語の多義性解消

University, 1993.
村田 真樹・内山 将夫・内元 清貴・馬青・井佐原 均,「SENSEVAL2J 辞書タスクの CRL の取り組み－日本語
単語の多義性解消における種々の機械学習手法と素性の比較－」,『自然言語処理』, Vol.10, No.3, pp.115-133,
2003 年 .
10 岡本 潤・石崎 俊 ,「 概念間距離の定式化と電子化辞書との比較」,『自然言語処理』, Vol.8, No.4, pp.37-54,
2001 年 .
11 岡 本 潤・ 石 崎 俊 ,「 連 想 概 念 辞 書 の 距 離 情 報 を 用
いた重要文の抽出」,『自然言語処理』, Vol.10, No.5,
pp.139-151, 2003 年 .
12 J. Okamoto and S. Ishizaki,“Homographic Ideogram
Understanding Using Contextual Dynamic Network,”
Proc. of LREC 2010, 2010.
13 J. Okamoto and S. Ishizaki,“An Associative Concept
Dictionary for Natural Language Processing: Text
Summarization and Word Sense Disambiguation,”
Journal of Cognitive Science, Vol. 12, pp. 259-276, 2011.
14 E. Rosch and C. B. Mervis,“Family Resemblances:
Studies in the Internal Structure of Categories,”
Cognitive Psychology, Vol.7, pp.573-605, 1975.
15 坂口 琢哉 ,「連想概念辞書のニューラルネットワーク
への符号化と比喩理解システムの応用」,『安田女子大
学紀要』, No.38, pp.169-179, 2010 年 .
16 J. Veronis and N. M. Ide,“Word Sense Disambiguation
with Very Large Neural Networks Extracted from
Machine Readable Dictionaries,”Proc. of Coling 1990,
pp. 389-394, 1990.
17 D. L. Waltz and J. B. Pollack,“Massively parallel
parsing: A strongly interactive model of natural
language interpretation,”Cognitive Science, Vol. 9, pp.
51-74, 1985.
9〔2012. 3. 30 受理〕〔2012. 7. 6 採録〕

KEIO SFC JOURNAL Vol.12 No.1 2012111