大規模コーパスと国語辞典の統合的利用によるシソーラスの自動構築
大福 泰樹
東京大学工学部

黒橋 禎夫

河原 大輔

東京大学大学院情報理工学系研究科

       のようなパターンでコーパスから上位下位関係を取り出す手法もあるが ，基本的な語彙についはじめに語の同義・類義関係や上位下位関係をまとめたシソーラスは言語処理の様々な場面で用いられる重要なリソースである．てはこのようなパターンでは収集が困難であるという問題がある．
シソーラスの自動構築はこのような状況であり，国これまでに分類語彙表，  概念辞書， 日本

語辞典を用いる方法も大規模コーパスを用いる方法も，など ，様々なシソーラスが人手

ど ちらも実用的に使えるもの，現在の人手のシソーラによって構築されてきた．これらは膨大なコストと，スの代替となるものを作り出すには至っていない．

人間が意味について徹底的に考えて大規模なものを記

本研究では，国語辞典のシャープであるがぶれの大述する際に常に生じる微妙なバランスの上になりたっ

きい情報と，コーパスの漠然とした情報を統合するこている．そのため，部分的に不満足な部分があってもとで，上で述べたような問題点を解消し，実用レベル語語彙大系，修正することは容易でなく，言語の経年変化への対応のシソーラスを自動構築する方法を提案する．まず国や新たな専門分野シソーラスの構築などを柔軟に行う語辞典から確実な上位下位関係のまとまり，すなわちことも難しい．

シソーラスの核のようなものを抽出し，次にコーパス

これに対して，シソーラスを自動で構築する試みもを用いてそれらの核に属する未知語を獲得したり，核様々に行われており，それらは辞書を用いるものと，を統合することを行う．全体の枠組みを図  に示す．

大規模テキストを用いるものに大別できる．

本研究では対象を名詞に限定する．

国語辞典を用いれば各見出し語の定義文からその上位語を取り出すことができる

．しかし ，上位語が一気に「こと」「もの」のような非常に抽象的な語

なお，現段階では適当な粒度の類義語のクラスターを求めることを目標としており，人手シソーラスのような深い階層構造を求めることは考えていない．に飛んでしまう場合や，意味を捉える，すなわち上位語とその修飾という形で語の定義を与える際に様々な視点があるために，必ずしも所望のまとまりが得られ 国語辞典からの上位下位関係の抽出ないという問題がある．たとえば，単純には「エンジ国語辞典では，定義文末尾の語が見出し語の上位語

ン」「資本主義」「宅配便」の上位語がすべて「しくみ」である場合が多いが，他にも上位語を示すさまざ まなとなってしまう．また，当然のことながら未知語には表現があり，また，上位語ではなく，同義語，下位語対応できない．

が示される場合もある．そこで，次の例に示すような一方，大規模コーパスにおける共起情報をもとに類義語を取り出す研究も行われている ．この場合にパターンとのマッチングによって，各語義の第一文から見出し語との関連語を取り出す．

は，共起分布が非常に近いものは確かに類義語である
場合が多いが，次のレベルには類義語的なものとそうでないものがまじってしまい，いわば，ぼんやりとした結果しかえることができない．また，   

同義語〜のこと／略。
〜のくだけた／乱暴な／丁寧な言い方。

カテゴリ・ユニット

国語辞典

三輪車
自転車
自動車
ジープ
タクシー
救急車
人力車
戦車
飛行機
グライダー
ジェット機
．．．

乗り物
乗り物
乗り物
自動車
自動車
自動車
乗り物
乗り物
乗り物
飛行機
飛行機

名詞と用言・格ペアの共起

カテゴリ・ユニットの統合

上位語

大規模
コーパス

未知語の獲得

見出し語

乗り物
三輪車
自転車
自動車
ジープ
タクシー
...
救急車
人力車
戦車
飛行機
グライダー
ジェット機
旅客機
飛行船
車
トラクター
ロータリー車
荷車
大八車
荷馬車
馬車
ほろ馬車
トロイカ
くつ
ローヒール
雨靴
革靴

<乗る:ガ>
事業:188 経営:91 生産:90 脂:73 再
建:72 人:65 景気:59 乗客:58 者:55
男:45 利:43 ...
<乗る:ニ>
軌道:4485 流れ:1527 相談:1133 大
台:835 波:797 車:728 バス:497 電車:440 勢い:440 ...
<～分だ:デ>
車:780 バス:234 タクシー:100 徒
歩:57 電車:37 船:33 線:33 平均:24
特急:23 飛行機:18 ...
<履く:ヲ>
靴:195 わらじ:76 運動靴:35 スニー
カー:28 シューズ:28 .. ミュール:5 ス
トッキング:5 ...
．．．

…
図  シソーラスの自動構築の概要
下位語! 多義性の問題．たとえば「車」は複数の語義があ〜など 。

り，「 輪」と「乗り物」という二つの上位語がえら〜などをまとめていうことば 。

れる．一方，「 車」は多くの語の上位語となってお上位語〜の一種。
〜の一つ。

〜。他のど のパターンともマッチしない場合は末尾の語を上位語とする

このようにして取り出した関連語のうち，見出し語と上位語との関係をまとめることによってシソーラスを作ることができるが £ ，そのような素朴な方法には次のような問題がある．

 「こと 」「もの」など ，非常に抽象的な語が上位語となり，その下に多様な語が集まってしまう．

 「しくみ」「集まり」など ，ある視点からは確かに上位語であるが，シソーラスとしてはその視点ではまとめたくないというものができてしまう．
£ 現在のところ見出し語と上位語との関係だけを扱っており，同義語や下位語との関係，さらに各語義の第二文以降は今後扱っていく予定である．

り，この関係を単純にまとめてしまうと「輪→車→トラクター ロータリー車 荷車 」と「乗り物→車→トラクター ロータリー車 荷車 」というまとまりができてしまう．
そこで，国語辞典からのシソーラスとしては，次のような上位下位関係を削除し，安定で確実な部分だけを利用することとした．

¯ 「こと」「もの」や，「しくみ」「集まり」など ，特定の語 約 " 語 との上位下位関係は利用しない．
¯ 定義が複数ある見出し語（ 多義語）は，それと上位語との関係は利用せず，下位語との関係のみ利用する．たとえば「車」は「輪」にも「乗り物」にもつなげず，「 車→トラクター ロータリー車 荷車 」の関係だけを取り出す．
この結果，比較的小規模な上位下位関係の木が多数えられる 図  参照．以下では，この各木をカテゴリ・

表  名詞と用言・格ペアの共起車
バス乗る ニ 待つ ヲ     〜分だ デ       

次式で計算される名詞と用言・格ペアの相互情報量で［計］ある．
用言・格ペアと名詞の共起頻度 )*¾ 用言・格ペアの頻度  ¡ 名詞の頻度  

［計］

このとき，用言・格ペアごとに  つの名詞の小さい方の相互情報量の和をとったものを  つの名詞の類似度ユニットとよぶこととし，本文中では『乗り物 三輪車 自転車 自動車

』のように二重かぎ 括弧でかことする．表  の例の場合には # + "" + # + ¡ ¡ ¡ となる．

み，最上位語を先頭，その直接・間接の下位語を丸括

弧でかこんで表示する．

未知語の獲得前節で定義した類似度に基づいて，各カテゴ リ・ユ



共起情報に基づく処理

 コーパスからの共起情報の収集
名詞を特徴付ける共起関係として用言との係り受け関係を考える．大規模コーパスを構文解析し，その結ニットに対して，それに属する未知語 国語辞典の見出し語でない語 の獲得を行う．

この場合，分布を比較する一方は，名詞ではなく，カテゴ リ・ユニットに含まれる名詞の集合とし，名詞集合の頻度を考える．たとえばカテゴリ・ユニット『乗果から係り受け関係が確実なものだけを収集する．そり物 三輪車 自転車 自動車の方法は我々が格フレームの自動構築で用いた方法と「三輪車」「自転車」などの頻度の和を用いる．

同じものである !Ý ．

カテゴ リ・ユニットと分布が似ている可能性がある

この結果，用言と格のペア 用言・格ペア ごとに次のような共起データが収集される．
＜乗るガ＞ 事業## 経営$ 生産$" 脂%! 再建%
人& 景気 $ 乗客 # 者』の場合は，「 乗り物」男 利!

＜乗るニ＞ 軌道# 流れ  % 相談!! 大台#!
波%$% 車%# バス$% 電車" 勢い"＜〜分だ デ＞ 車%#" バス! タクシー"" 徒歩 %電車!% 船!! 線!! 平均 特急! 飛行機#語は，カテゴ リ・ユニット中の語と同じ用言・格ペアに出現する語に限られるので，それらの語をすべて取り出して比較を行う．すなわち，『 乗り物』の未知語を調べる場合には，＜乗るニ＞，＜待つヲ＞などに含まれる「ヘリ」「トレンド 」「ド ナー」などの語を調べる．そして，類似度が閾値以上のものがあれば，そのカテゴ リ・ユニットに属する語と判断する．
なお，閾値を考える際に，カテゴ リ・ユニット（の名詞集合）ごとの頻度の違いを正規化するために，類似度は，カテゴ リ・ユニットと用言・格ペアの相互情報量の和で正規化することとする．



共起分布に基づく類似度の計算方法

用言・格ペアに対する名詞 または名詞集合 の共起分布の類似度を計算する方法として，'() の方法を用いる ．

たとえば，「車」と「バス」の用言・格ペアに対する共起が表  のようにえられたとする．ただし，表  の最下行は用言・格ペアの頻度，最右列は名詞の頻度，最 カテゴリ・ユニット の統合
用言・格ペアに対する共起分布の比較は名詞集合と名詞集合の間でも行うことができるので，まったく同じ計算方法によってカテゴ リ・ユニット間の類似度を計算し ，類似度が閾値以上のカテゴ リ・ユニットを統合する

下行最右列は共起データの総数 次式では  と表す，他の各欄の値は，用言・格ペアに対する名詞の頻度と，
Ýただし，格フレーム構築では既存のシソーラスを用いてクラスタリングを行い，各用言の意味・格パターンの区別を行ったが，今回はシソーラスの学習を目的としているので，既存のシソーラスに依存するクラスタリングは行わず，用言ごとのまとまりとした．

実験と考察実験は，国語辞典として例解小学国語辞典 &，コーパスとして新聞記事  年分 毎日新聞と日本経済新聞 を用いた．

共起情報によって『乗り物』と統合された． 番目のまず，国語辞典からの上位語・下位語の抽出と整理により，名詞約 ##"" 語に対して約 &"" のカテゴ リ・ユニットがえられる．ただし，このうち約半数は  語，すなわち一つの上位下位関係のみからなるカテゴ リ・ユニットであったので，以降の処理ではそれらは対象外とし ，! 語以上からなる約 #"" のカテゴ リ・ユニッ『バス』「自動車」と「風呂」と「声」 も同様の例である．
このような多義語の扱いは，「 多義語であっても，それが最上位語になってカテゴ リ・ユニットを形成する場合には一つの意味で用いられる ことが多い 」という仮定に基づいている．これらの例のように多くの場合はそれが成り立つが， 番目の『市』の例はそれがトのみを処理対象とした．
次に，各カテゴ リ・ユニットについて未知語の獲得成り立たない場合で，「 政令指定都市」と「朝市」ではを行った．この結果について，正規化された類似度が「 市」の意味が異なっており，これらを一つのカテゴ" !" 以上の語をランダムに !"" 個，人手で評価したところ，# !,が妥当な語 そのカテゴ リ・ユニットに属すると考えてよい語 であった．具体例としては次のようなものが抽出された．

リ・ユニットにすること，さらにそれを『町』と統合することは適切ではない．しかし，そのような例は少数であった．

 おわりに『伝記 自叙伝 自伝 立志伝 』

エッセー" & 回顧録"  評伝" ! 回想録" !#まだ基本的な検討と実験，確認ができた段階である『くつ ローヒール 雨靴 革靴 』

が，このように国語辞典と大規模コーパスを統合的に

ル " !& 履物" ! ゲタ" !能なクオリティのものが自動構築できる見通しをえた．

ブ ー ツ" ! ミュール " !% ゾ ウ リ" !% ヒ ー

今後，国語辞典からの関連語の取り出しをより精密『もめごと 小競り合い 内輪もめ  』

内紛" %& 係争" & 不祥事" & ゴ タゴ タ" &"崩落"き"& 市街戦" & 縄張り争い"

あつれ

最後に，カテゴリ・ユニットの統合結果について，類似度が利用することにより，人手のシソーラスに置き換え可"" 以上の & ペアを調査したところ，$ ,について妥当であると判断された．具体的には，類似度の高いものから順に次のようなペアがえられた．

$$  『 乗り物 三輪車 自転車 自動車 』°『車 トラクター 荷車 荷馬車  』
$& $ 『文字 くさび形文字 エジプト文字 ローマ
字  』° 『図形 五角形 四辺形 台形  』
! % 『気分 住み心地 寝心地 雰囲気 夢心地 』° 『感じ ぬくもり スリル ニュアンス 印象  』
! !"『乗り物 三輪車 自転車 自動車 』°『バス スクールバス マイクロバス ワンマンカー 』
! %! 『町 ニュータウン 下町 近郷近在 』°『市 政令指定都市 朝市 年の市#$ $$ 『 乗り物 三輪車 自転車 自動車 』°『車両 デ ィーゼルカー 貨車 列車 汽車  』『車』は  節で議論した例で，「 輪」と「乗り物」の多義性があるため独立のカテゴ リ・ユニットとなるが，にした上で，これまでに人手のシソーラスを利用していた並列構造解析，格解析，省略解析などで自動構築シソーラスの有効性を検証していく予定である．

参考文献 - ( '  . ( /(( ( 0 1231. 0. )* 4 3 5     33 !$6  $$ ) '()  )(7 ( 0. 3 (2 *.      5     33 &#6% $$"
! (8 9:  ; 9( < 2()(= ( 0  0. ( (1 0 >?3   )1( 5     33  6! "" ?2(( 8.  -8  * 4 2( 0  . ( (0. ( 0.  (1*)( ( (1  (  @) ( 5      33  $6& $## '(8( .  '( 8  ;
A(   .3   . (    ( 0.  (1 ?3  )**( (1 5   
33  6% $#&& 田近洵一（ 編） 例解小学国語辞典 三省堂 $$%