英語教育のための分野特徴単語の選定尺度の比較
内山
山本

将 夫†
英 子†

中 條 清 美††井 佐 原 均†特定分野の英語を効率的に学習するためには，その分野に特徴的な語彙を選定し ，その語彙を学習するのが効果的である．しかし ，人手による語彙の選定は，コストが高く，かつ，その質は，選定者の主観や経験に大きく依存する．そのため，特徴的な単語を機械的に抽出することにより，語彙の選定作業のコストを低くし ，かつ，客観的な語彙選定を助けることは重要である．このような背景の下，本稿では，特徴的な単語が抽出可能かという観点から，各種統計的尺度の有効性，および，各種尺度を統合した複合尺度の有効性を比較検討した．その結果，主に以下のことが，明らかになった．まず，英語教育用に選定された単語リストとの一致という観点からは，複合尺度の有効性が示された．また，各種の単独尺度の中では，補完類似度が有効であった．
更に，各種尺度により抽出される単語は，それぞれ，異なったレベルにおける学習者に有効であると考えられることが分かった．
キーワード :

特徴単語，統計的尺度，複合尺度，補完類似度

A Comparison of Measuresfor Extracting Domain-Specific Lexicons
for English Education
Masao Utiyama† , Kiyomi Chujo†† , Eiko Yamamoto†and Hitoshi Isahara†
Mastery of domain-speciﬁc vocabulary in specialized English texts is essential. In
order to identify a cost-eﬀective and eﬃcient means to extract domain-speciﬁc vocabulary, eight individual statistical measures, and combinations of those measures,
were applied to corpora and the resulting lists were then compared to an existing
specialized vocabulary control list. It was found that not only was it possible toeﬃciently produce a list of specialized vocabulary, but a combination of measurescreated the most comparable data. Due to the complexity of applying combinationsof measures, individual measures were also found to be eﬀective and useful for both
English teachers and researchers. The complementary similarity measure was ranked
as the most eﬀective individual measure. Moreover, each measure created a uniquetype of word list which has speciﬁc pedagogical applications to student proﬁciency
levels and lexicons.
KeyWords:

specialized vocabulary, statistical measure, combination of measures, complementary similarity measure† 情報通信研究機構, National Institute of Information and Communications Technology†† 日本大学, Nihon University

1

自然言語処理Vol. 0

No. 0

0

はじめに

1

中学校および 高校で学習する英語の語彙は約 3000 語である．しかし ，ビジネス・コミュニケーション等で必要とされる語彙はもう少し大きい．その大きさを，たとえば，Test of English

for International Communication1 (TOEIC) の試験模擬問題 16 回分に出現した異なり単語数で推定するとすれば約 5000 語である (中條 2003) ．
ここで，この 5000 語には，その重要性により順位関係がある．そのため，そのような重要性により単語を順位付け，その上位から学習することにより，効率的に語彙を増強できる．
効率的な語彙の増強のために，(中條 2003) では，英語学習者向けに TOEIC において重要な語彙を選定し ，それが英語教育に有効なこと 2を確認した．しかし ，その選定方法は，2節で述べるように，人手が多くかかるコストの高いものであり，かつ，選定者の専門や経験等に大きく依存するものである．そのため，その方法を，TOEIC 以外の分野 (たとえば ，情報科学などの分野) の語彙選定に適用するためには，その分野に精通しており，かつ，英語教育の専門家であるような選定者が必要である．しかし ，そのような選定者をすべての分野に求めることは困難である．
そのため，選定者に大きく依存する方法ではなく，なるべく簡単で客観性のある方法で，特定分野における重要な語彙を選定できる方法があれば ，それは意義のあることである．
その方法は，基本的には，以下の 2 段階によると想定している．

(1)

特定分野における単語をその分野における特徴の強さ (特徴度) により順位付ける．

(2)

その上位から重要な単語を選定する．

このような 2 段階の方法を想定する理由は，2節で述べるように，各分野における重要な語彙とは，各分野で特徴的な単語から，更に，学習の必要性等の重要性を勘案して選定するため，まず，特徴的な単語を求めることが必要だからである．ここで，2 番目の段階である，重要な単語の選定は，選定者の主観や経験等に依存するものである．この段階を機械的に実行することは，
我々は想定していない．我々が機械的に精度良く実行したいのは，1 番目の段階，すなわち，単語の特徴度による順位付けの段階である．なぜなら，もしこの段階における順位付けが十分に「良い」場合には，順位付けの上位において特徴単語が効率的に抽出されるため，段階 2 における選定を容易にすることができると考えられるからである．
しかしながら，どのような順位付けの基準が，単語の特徴度として「良い」ものであるかは
現時点では明らかではない．そのため，各種の基準を比較し ，「 良い」基準を探す必要がある．
そのような基準として，我々は，2 単語間の関連性の強さ (関連度) の測定 (Church and Hanks

1989; Manning and Schütze 1999; 山本 梅村 2002) や，各単語の特定分野における特徴度の測定 (Hisamitsu and Niwa 2001) に使われている統計的尺度を利用することを考えた．なぜなら，
1 http://www.toeic.or.jp/toeic/index.html
2 端的にいうと，TOEIC におけるスコアの向上に有効なこと．

2

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

これら各種の統計的尺度は，それぞれの応用において有効であることが報告されている尺度であるため，今回の応用においても有効であることが予想できるからである．
しかし ，ど の尺度がど の程度有効であるかは，実験により確かめる必要がある．そのため，
本稿では，各種尺度を，特定分野における特徴単語抽出に役立つか (有効か ) ど うかという観点から比較する．比較の基準は，各種尺度により抽出された語彙と (中條 2003) で選定された語彙との一致の度合である．更に，本稿では，各種の尺度を単独で用いた場合だけでなく，それら尺度を組み合わせた場合についての有効性についても検討する．その組み合せの方法としては，(内山 井佐原 2003) において，専門用語抽出に対して有効性が示されている Fcum という方法を用いる．
まとめると，本稿での主要な目標は，各種単独尺度の特徴単語抽出への有効性を調べるとともに，Fcum による尺度の統合が，専門用語抽出だけでなく，特徴単語抽出にも有効であることを示すことである．
以下では，まず，2節で，本稿で考察の対象とする「分野」「特徴単語」「重要な語彙」について，その概念を規定する．そして，それ以降の節では，まず，3節で，各種単独尺度について，その説明をし ，次に，4節で，それらを統合する方法について説明する．5節では，実験により各種尺度を比較し ，それらの有効性について考察する．6節は結論である．3

2

分野と特徴単語と重要語彙についての概念規定
本節では，本稿で考察の対象としている，「 英語教育のための分野特徴単語の選定」という観点から，「 分野」と「特徴単語」と「重要語彙」について，その概念を規定する．
まず，英語教育では，EGP (English for General Purposes) のための教育と ESP (English

for Speciﬁc Purposes) のための教育とが区別されている (深山, 野口, 寺内, 笹島, 神前 2000; Orr
2002; Noguchi 2002; Douglas 2003) ．そのため，語彙選定においても，語彙を，EGP のための語彙と ESP のための語彙とに区別することが効果的である (Nation 2001) ．ここで，EGP とは，「一般的な目的のための英語教育」，すなわち，「 何らかの特定の目的というものを定めずに学習する英語」についての教育であり，ESP とは，「 目的限定型教育」，すなわち，個々の英語学習者が関わりあう「それぞれの学問領域や職域等で具体的目標を持って使用される英語」につい3 本稿の内容は (中條 内山 2004) と重なる部分があるが，以下の 3 点が，主に，異なる．
(1)(中條・内山 2004) と本稿とでは補完類似度 (後述) の適用の仕方が異なり，その結果，(中條・内山 2004)の実験では，8 つの単独尺度中で 7 位であった補完類似度の平均精度が，本稿の実験では，1 位になった．

(2)

補完類似度の適用の仕方が異なる結果として，各種尺度の統合において，補完類似度を利用した複合尺度の実験結果も異なる．

(3)(中條・内山 2004) では各種尺度についての説明の大部分を省いているが，本稿では，それらの説明をするとともに，これまで 2 単語間の関連度の測定に使われていた，2 ベクトル間の関連度の尺度を，特徴単語の抽出に使うときにおけるパラメタの解釈を示した．

3

自然言語処理Vol. 0No. 0

0ての教育である (深山他 2000; Orr 2002; Noguchi 2002) ．
本稿では，ESP における語彙選定を想定しているので，そのときの「 分野」とは，「 それぞれの学問領域や職域等」のことである．つまり，この場合の分野とは，ESP 教育における目的「 register 」「 domain 」とする英語の対象により定まるものである．そのため，分野は，「 genre 」「 category 」「 topic 」「 ﬁeld 」「 discipline 」などを包括する大きな範疇を表す．たとえば ，
「 分野」
は，
「 工学」
「語学」
「医学」
「農業」等という大きな専門分野を表すこともある．また，より小さな分野として，「 TOEIC 」や「 TOEFL (Test of English as a Foreign Language) 4 」のように，大きくは「 英語検定試験」という同一分野に分類されるものであっても，試験としての具体的目標がそれぞれ異なる結果として，内容的には，より下位の，小さな異なる分野であることもある (Chujo and Nishigaki 2003) ．
このように定義された分野，すなわち，「 それぞれの学問領域や職域等」ごとに，その使用語彙が異なることは，これまでの研究で明らかにされている (中條 1991) ．たとえば ，「ビジネス」(石川, 田中, 高橋, 竹蓋 1987) 「 医学」(Chung and Nation 2003)「 経済学」(Sutarsyah,

Kennedy, and Nation 1994)「計算機科学」(竹蓋, 高橋, 星野 1987) といった大きな分野で使われる語彙が異なること，更に，「 TIME 」「 Business Week 」「 Newsweek 」などの同じ「定期刊行物 (periodical) 」の分野に属する下位の分野間でも，やはり，異なる語彙が使われていることが，定性的・定量的に示されている (中條 竹蓋 1989) ．すなわち，各分野においては，分野が大きい
場合でも，小さい場合でも，その分野に特有な単語が使用されている (中條 1991) ．
このように，「 各分野に特有な単語」すなわち「それぞれの学問領域や職域等に特有な単語」
を「特徴単語」と定義する．このように定義された特徴単語は，ESP において学習する必要性が高い単語である．
一方，特定分野に限らず一般的に必要性の高い単語としては，たとえば ，British National

Corpus5 (BNC) や Brown コーパス6 など の，広い分野のテキストを集めた一般的なコーパス
における頻出単語や，あるいは，中学・高校の学校英語教科書に出現する単語がある．ここで，BNC や Brown コーパスにおける頻出単語は，特定分野に限らない，一般の英語を反映した語彙であり，学校英語教科書の語彙は，学習者が将来進む分野に関わらず役立つことを目的とした語彙である．これらは，非特徴単語の典型例であり，「 白色語彙」(竹蓋 1981) とも呼ばれている．
白色語彙は，分野を問わずに重要と言えるため，EGP においては，学習する必要性が高い．しかし ，白色語彙である単語は，本稿での考察の対象である ESP における特徴単語には，以下で述べる「特徴語第 II 類」以外は，含まれない．
ここで，特徴単語の具体的な定義は，ESP の語彙選定に関わる研究者により異なる．たとえば ，(竹蓋 1981) によると，ある分野 A の「特徴語第 I 類」とは，A の語彙から白色語彙を除4 http://www.toefl.org/
5 http://www.natcorp.ox.ac.uk/
6 http://clwww.essex.ac.uk/w3c/corpus ling/content/corpora/list/private/brown/brown.html

4

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

いた語彙に含まれる単語であり，「 特徴語第 II 類」とは，A の語彙にも白色語彙にも共通に出現
するが ，相対的な出現頻度の割合からは，特に A に多く出現する単語である．また，(Nation

2001) は，頻度が高く，かつ，その分野の構成テキストに広く使われている単語 (単語が出現するテキストの数をレンジと呼ぶが，そのレンジが広い単語) を特徴単語と定義している．
以上のように定義される特徴単語に基づいた，ESP における「重要な語彙」は，以下のように定義される．すなわち，ESP における「重要な語彙」とは，ESP における「重要単語」からなる語彙であるが，ここでの「重要単語」とは，学習者にとって，「 学ぶ必要のある単語」である．具体的には，本稿の場合には，主な対象と想定している学習者は，大学生や社会人の英語
初級者・中級者であるので，「 中学・高校で学ばなかった単語」でかつ「学習者が必要としている特定分野で特有に用いられる単語 (すなわち特徴単語) 」で，さらに，「 その分野の中でも必要性の高い単語」である．
そのような重要な語彙は，特定分野 (たとえば TOEIC) のテキストのみから抽出された出現
頻度順の単語リストのみからでは，選定することは困難である．その理由は，たとえ特定分野
のみから抽出された出現頻度順の単語リストであっても，その上位には，上述した白色語彙，
すなわち，どの分野にも用いられる単語が多く含まれるからである7 ．このような白色語彙を取り除き，特定分野のみに重要な語彙を選定するためには，特定分野のテキストのみを参照するのではなく，一般的な分野における語彙の出現状況を調べて，それと比較した上で，語彙を選定する必要がある．さらに，学習者に適した語彙を選定するためには，教育者の主観や経験や専門知識も必要となる．以上より分かるように，特定分野のテキストから抽出された出現頻度に基づく単語リストのみでは重要な語彙の選定には不十分である8 ．
たとえば ，1節で述べたように，(中條 2003) で選定され，本稿で，各種尺度の比較の基準として利用される「 TOEIC において重要な語彙」は，上記の (Nation 2001) と (竹蓋 1981) の定義の両方を特徴単語の定義として用い，さらに，教育的配慮など ，部分的には選定者の主観による重要性の判定に基づき選定されたものである．すなわち，この語彙を選定するためには，出現頻度順の単語リストに加えて，様々な要素を考慮している．その選定の方法の概略は，(1)

まず，(Nation 2001) の基準を適用するために，•各単語を TOEIC 試験模擬問題における出現頻度により順位付けたリストを作
成し ，その上位の単語を優先し ，•次に，より多くの TOEIC 試験模擬問題に出現するレンジの広い単語を優先
する．

(2)

次に，(竹蓋 1981) の観点から，

7 たとえば，本稿の実験においては，5.6節の表 6の Freq の欄に，出現頻度順で抽出された上位 20 位以内の単語があるが，これらは典型的な白色語彙である．
8 ただし ，このことは出現頻度順に基づく単語リストが不要であるということは意味しない．出現頻度順に基づくリスト
は，(Nation 2001) による特徴単語の定義に頻度が利用されていることからも分かるように，有用であるが，それに加えて，様々な要素を考慮する必要があるということである．

5

Vol. 0

自然言語処理

•

No. 0

0

特徴語第 I 類として，TOEIC での高頻度単語から，白色語彙 (ここでは中学校・高校教科書に出現する単語) を除去したものを優先し ，•

特徴語第 II 類として，白色語彙と TOEIC に共通し て使用され るが ，TOEIC
において特に顕著に使用される語彙を優先する．

(3)

更に，教育的配慮から，•学習の容易性•

日本人学習者にとっての必要性

等の重要性を考慮して選定するというものである9 ．
このように選定された語彙は，教育効果が高いものであるが，人手が多くかかるコストの高いものであり，かつ，選定者の専門や経験等に大きく依存するものである．そのため，この方法を，TOEIC 以外の分野の語彙選定に適用するためには，その分野に精通しており，かつ，英語教育の専門家であるような選定者が必要である．しかし ，そのような選定者をすべての分野に求めることは困難である．
そのため，本稿では，1節に述べたように，選定者に大きく依存する方法ではなく，なるべく簡単で客観性のある方法で，特徴単語を抽出するために，統計的尺度を利用することを考えた．
次節以降においては，各種尺度を比較し，その特徴単語抽出における有効性を検討する．このときの有効性の検討には，前述の，(中條 2003) で選定された語彙 (特徴単語リスト ) を基準として利用する10 ．すなわち，本稿においては，各種尺度の有効性は，TOEIC での特徴単語リス
トに基づいて判定される．しかし ，本稿で比較検討する尺度自体は，特定の分野に限定されることなく，一般的に利用可能であり，かつ，有効であることを目標としている．

単独尺度

3

本節では，検討対象である 8 つの単独尺度について説明する．これらの尺度は，基本的な尺度である頻度に加えて，3.2節で説明する，2 つの確率変数間の比較に基づく 4 つの尺度•

対数尤度比 (Dunning 1993; 池田 1989)•

χ2 値 (Hisamitsu and Niwa 2001; 池田 1989)•

イエーツ補正 χ2 値 (Hisamitsu and Niwa 2001; 池田 1989)•

自己相互情報量 (Church and Hanks 1989; Manning and Schütze 1999)

9 選定された語彙は 667 語からなるリストである．そのうち 20 語を無作為抽出したものが以下である：accept, bid, bill,budget, coupon, decrease, delay, estate, guarantee, lease, manufacturer, negotiate, output, passenger, physician, recession, responsibility, sale, storage, taxi. なお，前述の通り，選定された語彙には，「 a 」とか「 the 」とかの頻度上位として抽出される白色語彙は含まれない．
10 (中條 2003) で選定された語彙は，上述のように，特徴単語のリストから，更に，重要な単語を抽出したものである．
つまり，本稿で対象とする重要単語は，特徴単語の一部である．そのため，以降では，特徴単語と重要単語とを特に区別しないこととし ，両者をまとめて特徴単語と呼ぶ．また，それと同様に，重要語彙と特徴単語リストとを区別せずに特徴単語リストと呼ぶ．

6

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較と，3.3節で説明する，2 つのベクトル間の比較に基づく 3 つの尺度•

コサイン (Manning and Schütze 1999)•

Dice 係数 (Manning and Schütze 1999)•

補完類似度 (澤木 萩田 1995; 山本・梅村 2002)

である．
これらの尺度は，1節で述べたように，これまで，2 単語間の関連性の強さの測定や，各単語の特定分野における特徴度の測定に使われてきたものである．そのため，これらの尺度を比較することは有意義であると考える．
以下では，まず，これらの尺度を計算するために必要なパラメタ a, b,c, d を 3.1節で定義し ，その後で，各尺度について説明する．

3.1

各尺度に共通するパラメタ

ある特定分野における，単語 α の特徴度を計算するときに，各種尺度で利用するパラメタ a,b, c, d の定義を以下に示す．
a= 特定分野におけるコーパスでの単語αの頻度b= 一般分野におけるコーパスでの単語αの頻度c= 特定分野におけるコーパスでの単語の総頻度 − ad= 一般分野におけるコーパスでの単語の総頻度 − b

なお，n = a + b + c + d とする．これらは表 1のように示される．
ここで，特定分野におけるコーパスとは，たとえば ，TOEIC などの分野におけるコーパス
であり，一般分野におけるコーパスとは，たとえば ，BNC のように，分野を限定しないようなコーパスである．
表 1

尺度計算に必要なパラメタ．

単語 α
単語 α 以外

特定分野
a
c

一般分野
b
d

n

これらのパラメタを利用して特徴度を計算するという考え方の背景には，もし，単語 α が特定分野において特徴的な単語であれば ，その単語の特定分野における出現状況は，一般分野における出現状況よりも顕著であろうという期待がある．そして，そのような顕著性を測定するために，以下で述べる尺度を利用する．まず，基本的な尺度である，特定分野における出現頻
度 (Freq) を定義すると，

Freq = a7(1)

自然言語処理Vol. 0No. 00である．Freq が大きいような単語は，特定分野において多く出現しているので，特徴的な単語である可能性が高いと言える．以下，その他の尺度を定義する．

3.2

2 つの確率変数間の比較に基づく尺度

まず，用語を定義し，次に，それを利用して各尺度 (対数尤度比，χ2 値，イエーツ補正 χ2 値，
自己相互情報量) を定義する．それらの尺度は，2 つの確率変数間の依存性の程度を測定するための尺度であるが，そのうち，自己相互情報量以外は，初めに定義するままでは，特徴度の測定には不都合な点があるので，それを後で補正したものを実際には利用する．
まず，特定分野と一般分野のコーパスにおいて観測された n 個の単語からなる単語列を観測
データ D0 = v1 , v2 , . . . , vn とする．ただし，特定分野のコーパスは 1 ≤ i ≤ a + c なる vi からなり，一般分野のコーパスは a + c + 1 ≤ i ≤ n なる vi からなるとする．
次に，単語 α の特徴度を測定したいとして，ある観測された単語 v についての，二つの確率
変数 W , T を以下のように定義する．

W =

T =

⎧
⎨ 1

if v = α,⎩ 0otherwise.

⎧⎨ 1

if v の出現個所が特定分野のコーパスである，⎩ 0otherwise.

(2)

(3)

このように定義すると，単語 vi に対応する確率変数 W , T の値を，それぞれ，wi , ti としたとき，データ D0 からは，次のような確率変数の値の列 D が得られる．

D = w1 , t1 , . . . , wn , tn 

(4)そして，ある仮設 H を条件として，D の確率を計算すると，以下になる．

Pr(D|H) =n

Pr(W = wi , T = ti |H)

(5)

i=1

ただし ，2 単語 vi と vj とは確率的に独立であると仮定する．
次に，2 つの仮設 Hindep , Hdep を考える．それらは以下である．

Hindep : 確率変数 W と T とは互いに独立である．
Hdep : 確率変数 W と T とは互いに依存 (従属) している．
Hindep の下では次が成り立つ．
Pr(W = w, T = t|Hindep ) = Pr(W = w|Hindep ) Pr(T = t|Hindep ).
8(6)

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

ただし ，w, t = 1, 0．
最後に，各種の確率の値を，表 1を修正した表 2に基づき，最尤推定で推定すると以下になる．

a+b
n
c+d
Pr(W = 0|Hindep ) = Pr(W = 0|Hdep ) =na+cPr(T = 1|Hindep ) = Pr(T = 1|Hdep ) =nb+dPr(T = 0|Hindep ) = Pr(T = 0|Hdep ) =na
Pr(W = 1, T = 1|Hdep ) =nb
Pr(W = 1, T = 0|Hdep ) =nc
Pr(W = 0, T = 1|Hdep ) =ndPr(W = 0, T = 0|Hdep ) =nPr(W = 1|Hindep ) = Pr(W = 1|Hdep ) =表 2

確率変数の値とパラメタの関係．

W =1
W =0

T =1
a
c
a+c

T =0
b
d
b+d

a+b
c+d
n

以上の準備の下で，2 変数間の依存性の度合を測定するための尺度である，対数尤度比，χ2
値，イエーツ補正 χ2 値を定義する11が，その前に，なぜ依存性の度合を測定することにより特徴度が測定できるかについて述べる．ただし，ここでの依存性の度合とは，2 変数が独立でない程度の大きさということであるので，まず，独立の場合の状況を考える．
さて，2 変数が独立であるときには，2 変数は互いに影響を与えない．そのため，T = 1 であろうと T = 0 であろうと，W の値には影響しない，すなわち，Pr(W = w|T = 1, Hindep ) =Pr(W = w|T = 0, Hindep ) = Pr(W = w|Hindep ) である．
これが意味することは，コーパスが特定分野のものであろうと一般分野のものであろうと，
単語 α の出現確率は変化しないということである．したがって，独立である場合には，単語 αは，特定分野にも一般分野にも同様に出現するので，このような単語は，特徴的な単語とは言えない．一方，独立でない程度が大きい (依存性の程度が大きい) ときには，単語 α の出現確率
は，特定分野と一般分野とで大きく変わるので，そのような単語は，特徴的な単語の候補とな
りうる12 ．そのため，依存性の度合を測定することにより，単語の特徴度を測定できる．
11 自己相互情報量は，これら 3 つとは異なる量を測定するので，後で別に説明する．
12 ただし ，単に出現確率が変わるだけでは，一般分野において高確率で出現する単語が，特定分野において低確率で出現する場合もありうるので，そのような場合を排除し ，一般分野において低確率で出現する単語が，特定分野において高確率で出現するときに高い値を取るようにする必要がある．しかし ，対数尤度比，χ2 値，イエーツ補正 χ2 値は，これら 2 つの場合を区別できないので，それを修正する必要がある．そのための手段は後述する．

9

Vol. 0

自然言語処理

No. 0

0

対数尤度比
対数尤度比 (Log-Likelihood Ratio, LLR0 ) は以下のように定義される．

LLR0 = log

Pr(D|Hdep )Pr(D|Hindep )(7)(5) 式と (6) 式および最尤推定された確率に基づき上式を展開すると以下になる．
LLR0

=
=
+
=
+

n


Pr(W = wi , T = ti |Hdep )Pr(W= wi , T = ti |Hindep )i=1
Pr(W = 1, T = 0|Hdep )Pr(W = 1, T = 1|Hdep )+ b loga log
Pr(W = 1, T = 1|Hindep )Pr(W = 1, T = 0|Hindep )Pr(W = 0, T = 0|Hdep )Pr(W = 0, T = 1|Hdep )+ d log
c log
Pr(W = 0, T = 1|Hindep )Pr(W = 0, T = 0|Hindep )bnan+ b loga log(a + b)(a + c)
(a + b)(b + d)dn
cn
+ d log
c log(c + d)(a + c)
(c + d)(b + d)
log

(8)

対数尤度比は，(7) 式に示されるように，2 変数 W と T とが依存しているという条件 (Hdep )，および，独立であるという条件 (Hindep ) の下で，データ D が観測される確率の比の対数である．
したがって，対数尤度比が大きいときには，2 変数は互いに依存している可能性が高い．そのため，対数尤度比は，特徴度の測定に利用できる．なお，LLR0 は，Hindep が完全に成立すると
き13 には 0 となり，それ以外の場合には 0 より大きくなる．すなわち，LLR0 ≥ 0 である．

χ2 値
χ2 値 (Chi20 ) は，Hindep と Hdep における期待頻度を比較することにより，依存性の度合を測定する．その値は，両者の期待頻度の差 (これは依存性の度合に相当する) が大きいほど 大きい値をとるため，依存性の度合の測定，つまり，特徴度の測定に利用できる．
まず，用語を準備する．ある仮設 H を条件としたとき，W = w, T = t という事象の，n 回の観測における期待頻度 f は以下である．

f (W = w, T = t|H) = n Pr(W = w, T = t|H)(9)

このときデータ D から計算される χ2 値はChi20 =

 {f (W = w, T = t|Hdep ) − f (W = w, T = t|Hindep )}2
f (W = w, T = t|Hindep )w,t=0,1(10)である．これを (6) 式と (9) 式および最尤推定された確率に基づいて展開して整理すると以下になる．

Chi20 =n(ad − bc)2
(a + b)(c + d)(a + c)(b + d)

13 Pr(W = w, T = t|Hdep ) = Pr(W = w, T = t|Hindep ) のとき．

10

(11)

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

Chi20 は，Hindep が完全に成立するときには 0 となり，それ以外の場合は 0 より大きくなる．
すなわち，Chi20 ≥ 0 である．Chi20 が大きいほど 依存性の度合は高い．
イエーツ補正 χ2 値

χ2 値は，期待頻度が小さいときには，依存性の度合を測定する信頼性が低くなる．そのため，χ2 値をイエーツの公式により補正した値 (Yates0 ) として，以下がある．

Yates0 =n(|ad − bc| − n2 )2(a + b)(c + d)(a + c)(b + d)(12)

ここでも，Yates0 ≥ 0 である．
上記 3 尺度の補正
これまで，対数尤度比 (LLR0 )，χ2 値 (Chi20 )，イエーツ補正 χ2 値 (Yates0 ) を定義した．これらの尺度は，依存性の度合を測定することはできる．つまり，ある単語について，その単語の出現確率が特定分野と一般分野とで異なる度合を測定することはできる．しかし ，これらの尺度は，特定分野で高確率となる場合と低確率になる場合とを区別できない．たとえば，表 1の
10 1
1
10
と
とは同じ値となる．これらは，依存性の程度は同じであるが，
形式で，
1
10
10 1
前者は，特定分野で高確率であり，後者は，特定分野において低確率となっている．
そのため，特定分野において，一般分野よりも，高確率で出現するような場合には正の値をとり，低確率で出現する場合には負の値をとるように補正する (影浦 1997) ．ここで，より高確率で出現するとは ac > db ，つまり，ad − bc > 0 が成立することであるので，以下のように，

LLR, Chi2, Yates を定義し ，それらを特徴度の測定に利用する．

ただし ，

LLR = sign(ad − bc) × LLR0

(13)

Chi2 = sign(ad − bc) × Chi20(14)

Yates = sign(ad − bc) × Yates0(15)⎧⎨ +1 if z > 0,sign(z) =⎩ −1 otherwise.

(16)

である．
自己相互情報量
自己相互情報量 (Pointwise Mutual Information, PMI) は以下で定義される．

PMI = log

Pr(W = 1, T = 1|Hdep )Pr(W = 1, T = 1|Hindep )
11

(17)

自然言語処理Vol. 0No. 00

これを (6) 式および最尤推定された確率に基づき展開すると以下になる．

PMI = logan(a + b)(a + c)

(18)(17) 式より分かるように，自己相互情報量も，前記 3 尺度と同様に，2 変数 W と T との依存性が高いときに大きい値となる．ただし ，前記 3 尺度と異なり，特定分野において低確率となる
ような場合 (a が小さくなり b と c とが大きくなる場合) には低い値となり，高確率となるような場合 (a が大きくなり b と c とが小さくなる場合) には高い値となるので，補正の必要はない．
自己相互情報量は，2 単語間の関連度の測定に使われてきた (Church and Hanks 1989) が，低頻度語間の関連度を過大評価することが知られている (Manning and Schütze 1999) ．

3.3

2 つのベクト ル間の比較に基づく尺度

本節で定義する，コサインと Dice 係数と補完類似度は，2 つの 01-ベクトル間の類似度を測定するための尺度である．そのため，まず，類似度計算用の 2 つのベクトルを定義する必要がある．それには，(4) 式で定義したデータ D を用いる．D における wi と ti とをそれぞれの要素−→ −→とするベクトル W と T とを以下のように定義する．

−→
W = [w1 , w2 , . . . , wn ]−→T = [t1 , t2 , . . . , tn ]これらを模式図に示すと図 1のようになる．

特定分野コーパス

一般分野コーパス

T

11111111111111111111111

000000000000000000000000000000000000000000000000

W

00010100000001110000010

010100000000000001100001100000001010000100000100
図 1ベクトルの模式図．

−→
W は，特定分野と一般分野のコーパスにおいて，注目している単語 α が出現した位置が 1 と−→なり，それ以外が 0 となるようなベクトルである．つまり，W は α の出現位置を表現している．
−→
一方， T は，特定分野のコーパスにおける全位置が 1 であり，一般分野における全位置が0 であるようなベクトルである．このベクトルは，その特定分野を代表するベクトルと解釈できる．

−→
したがって，本節で定義する尺度は，単語に関するベクトル W と，特定分野の代表ベクト−→ル T との類似度を測定し ，それを特徴度とみなしていると解釈できる．
12

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

コサイン
コサイン (Cosine) は代表的な類似尺度であり，以下のように定義される．

−
→ −
→
a
W· T

Cosine = −→ −→ = (a + b)(a + c)
|W || T |(19)

コサインは，ベクトル間の角度に応じて値が変化し ，その角度が狭いベクトル間において高い値となる．

Dice 係数
Dice 係数 (Dice) は以下の式で定義される．
−
→ −
→
2a
2I(W & T )Dice = −→−→ = (a + b) + (a + c)
I(W ) + I( T )

(20)

−
→ −
→
ただし，I(ベクトル ) はそのベクトルにおける 1 の数である．また，W & T = [w1 t1 , w2 t2 , . . . wn tn ]とする．

Dice 係数は，ベクトルというよりは，むしろ，集合に基づいた尺度であり，共通要素数が多い集合間において高い値となる．
補完類似度
補完類似度 (Complementary Similarity Measure, CSM) は以下の式で定義される．

ad − bc
CSM = (a + c)(b + d)

(21)

補完類似度は，元々文字認識の分野で提案された尺度である (澤木・萩田 1995) が，最近，2
単語間の上位下位関係など の 1 対多関係の推定のための尺度としても有効であることが示されている (山本・梅村 2002) ．
文字認識における補完類似度の利用法は，テンプレートとなるベクトルを各文字について用
意し ，与えられた入力文字について，各文字のテンプレートベクトルとの補完類似度を計算し，最も高い値となる文字テンプレートを認識文字とする方法である．この利用法は，入力文字が帰属する文字テンプレートを求める，というものである．

−→
本稿においては，テンプレートとなるベクトルは，特定分野の代表ベクトル T であり，認
−
→
−
→ −
→
識対象とみなせるベクトルは，単語についてのベクトル W である．そして，W が T に帰属す

る度合を補完類似度で測定し ，それを特徴度とする．このように，本稿における補完類似度の使い方は，文字認識における使い方とほぼ同様であると解釈できる．
文字認識においては，補完類似度は高性能であることが報告されているので，本稿における13

自然言語処理Vol. 0No. 00

特徴単語の抽出においても高性能であることが期待できる．14

複数尺度の組み合せ方法

4

本節では，複数尺度を組み合わせて 1 つの複合尺度とする Fcum という方法について述べる．
この方法は，(内山・井佐原 2003) において，専門用語の抽出に有効なことが示されている．本稿での目標の 1 つは，Fcum による複数尺度の統合が，特徴単語抽出にも有効であることを示す
ことである15 ．

4.1

統合における問題設定

まず，尺度値を割当てたいような単語の集合 X = {x1 , x2 , . . . , xl } について，X の要素には，特徴度により全順序関係が定義できるとする．そしてある関数 g があり，以下が成立するとする．

g(xi ) < g(xj ) ⇐⇒ xi よりも xj が特徴的である．
g(xi ) = g(xj ) ⇐⇒ xi と xj が同等に特徴的である．
我々の目的は，この g を推定することである．
ここで，我々の手元には，f1 , f2 , . . . , fm という m 個の関数 (尺度) があり，それぞれ，g を近似しているとする．つまり，fi について，fi (xj ) < fi (xk ) ならば g(xj ) < g(xk ) が，ある程度は成立しているとする．ここで，ある程度成立しているとは，たとえば ，X を g により順位付
けた場合と fi により順位付けた場合とで，それらの間の順位相関がある程度は高いということである．
このような m 個の fi から g を推定するのが，我々の目的であり，本節で対象とする問題設定である．
14 補完類似度と 他の 7 つの尺度とを比べた場合の顕著な相違は ，他の尺度に おいては ，表 1の形式で ，
a
b

c
d

a
c

b
d

と

とが同一の値になるのに対して，補完類似度においては，両者が異なる値となることである．つまり，CSM

を CSM = √ ad−bc(a+b)(c+d)−→と定義すると，CSM = CSM である．CSM は， T をテンプレートとみなしたときの補完−→類似度の式であり，CSM は，W をテンプレートとみなしたときの補完類似度の式である．ここで，文字認識での補完類似度の利用方法からの類推により補完類似度を定義するとすると，CSM を補完類似度の式とすべきである．しかし ，(中條・内山 2004) では，本稿とは異なり，特にパラメタの意味を考えずに形式的に補完類似度の式を利用していたため，CSM と CSM のど ちらを補完類似度の式として利用するべきかが不明であった．そのため，(中條・内山2004) では，max(CSM, CSM ) を補完類似度の式として利用していた．このように最大値を取るという方法は，2 単語間の関連度の測定のように，ど ちらの単語がテンプレートかが不明な場合には適当であるが，本稿での場合におけ−→−→る，注目している単語に関するベクトル W と，その帰属先となりうる特定分野のコーパスに関するベクトル T のよう−→に， T がテンプレートとみなせる場合には，不適当な使い方である．そのため，(中條・内山 2004) における補完類似
度 max(CSM, CSM ) の平均精度は，単独尺度中 7 位と低い．しかし ，本稿の実験においては，補完類似度の式として
CSM を利用することにより，その平均精度は，単独尺度中 1 位となった．
15 (内山・井佐原 2003) においては，Fmul と呼ばれている統合法も述べられているが，Fcum と Fmul とでは，5節の実験の結果ではほとんど 差がなく，かつ，Fcum の方が若干優れていたため，本稿では，Fcum による統合についてのみ述べる．

14

内山・中條・山本・井佐原

4.2

英語教育のための分野特徴単語の選定尺度の比較

統合方法

本節で述べる方法は，経験確率に基づいたものであり，簡明なものである．すなわち，以下の (22) 式の Fcum (x) をもって，g(x) の推定値とする．
まず，必要な用語を，X と fi に加えて，定義する．それらは以下のようである．

N (x) = x(∈ X) の特定分野における出現頻度
N=



N (x)

x∈X

R(x) = N (x)/N⎧⎨ 1 if f (x ) ≤ f (x)ii[fi (x ) ≤ fi (x)] =⎩ 0 otherwise
R(x) は x の経験確率である．このとき，Fcum (x) =R(x )x ∈Xm[fi (x ) ≤ fi (x)]

(22)

i=1

m
である．ここで， i=1 [fi (x ) ≤ fi (x)] は，全ての fi について，fi (x ) ≤ fi (x) のときに，1 となり，それ以外では 0 となる．(22) 式は，その値が 1 となるような x についてのみ，R(x ) を足した値である．
以下では，Fcum を例により説明するが，その前に，2 要素 x と x の比較のための用語を定義する．まず，x ≡ x とは，全ての fi について，fi (x) = fi (x ) であり，x ≺ x とは，全ての fi について，fi (x) < fi (x ) であり，xする．そして，xx か xx とは，全ての fi について，fi (x) ≤ fi (x ) であると定義

x のいずれかが成立するような x と x とは「比較可能」であると言い，比較可能でないときには，「 比較不能」であると言う．また，xx であるとき，x は xより「劣位」であり，x は x より「優位」であると言う．

Fcum (x) とは，x より劣位なものについての経験確率の和である．
Fcum による統合の性質をみるために，まず，n = 1，つまり，尺度が 1 つの場合をみてみる．
このとき，

Fcum (x) =R(x )[f1 (x ) ≤ f1 (x)]x ∈Xである．この場合，X の要素を適当に並べかえて，i ≤ j なら，Fcum (xi ) ≤ Fcum (xj ) となるよ
うにできて，そのときの f1 (x) と Fcum (x) との関係は図 2のようになる．
図 2より分かるように，Fcum (x) は，f1 (x) の階段関数である．このとき，Fcum (x) は，x より劣位なるものの累積経験確率となっている．したがって，たとえば ，Fcum (x) = 0.95 のとき
には，x ≺ x なる x の出現確率は x≺x Pr(x ) = 1 − Fcum (x) = 0.05 である．つまり，x よ
り，尺度 f1 の観点から特徴的な要素 x が出現する確率は 0.05 である．

15

自然言語処理Vol. 0No. 00Fcum(x)

x1

x2

図 2

x3

x5

x4

f1(x)

f1 (x) と Fcum (x) との関係．

なお，n = 1 のときには，

Fcum (x) ≤ Fcum (x ) ⇐⇒ f1 (x) ≤ f1 (x )が成立している．したがって，n = 1 のときには，Fcum (x) と f1 (x) とは順序尺度の観点からは同等なので，Fcum (x) を f1 (x) の代りに利用することは問題ない．
次に，n = 2 の場合を考える．まず，図 3のように，x1 と x2 とが比較可能な場合を考える．このとき，図中の○により X の要素を指すとすると，x1

x2 であるので，Fcum (x1 ) ≤ Fcum (x2 )である．これは，i = 1, 2 について，fi (x1 ) ≤ fi (x2 ) であるので，こうなって当然であり，問題
はない．
f2

x2

x1

f1

図 3

x1 と x2 とが比較可能な場合．

次に，図 4のように，x1 と x2 とが比較不能な場合を考える．このとき，f1 (x1 ) < f1 (x2 ) かつ

f2 (x1 ) > f2 (x2 ) である．このように，尺度間において，二つの対象に与える尺度値の順位に矛盾がある場合にも，Fcum を利用すれば ，一貫した順位を付けることができる．たとえば ，図 4には，x1 , x2 の他に，7 点が出現し，それぞれの頻度が全て 1 回ずつだとすると，Fcum (x1 ) = 59 ,16

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

Fcum (x2 ) = 39 である．したがって，Fcum (x1 ) > Fcum (x2 ) であるので，Fcum の観点からは，x1の方が特徴的な要素である．Fcum (x) が大きい値となるのは，xx なる x が多いときである．

f2

x1

x2

f1

図 4

x1 と x2 とが比較不能な場合．

これまでに，n = 1, 2 の場合をみたが，n ≥ 3 についても，同様に Fcum を計算できる．Fcumを使うことにより，他と比較して優位な要素が，特徴的な要素として抽出される．

実験

5

本節では，3節で述べた単独尺度，および ，4節の方法により統合された複合尺度の，特徴単語抽出に関する有効性を調べる．以下では，まず，実験に用いた材料と，各種尺度の有効性の評価基準とについて述べる．次に，各種尺度による単語の順位付けの性質について考察したあとで，単独尺度と複合尺度の有効性を検討する．最後に，各種尺度により抽出される単語の実例を調べることにより，各種尺度が有効な状況について考察する．

5.1

実験材料と評価基準

3節で述べた各種の単独尺度を計算するためには，3.1節で述べたパラメタ a,b,c,d を計算する必要がある．そのためには，一般分野および特定分野のコーパスにおける，単語の出現頻度付
きのリストが必要である．そのコーパスやリストとしては，以下を用いた．

•

一般分野のコーパスとしては BNC を用い，そこから，頻度 100 以上の異なり単語 13995
語 (延べ単語数=86112272) を抽出したリスト (Chujo 2004) を用いた．以下では，この単語リストを「 BNC リスト 」と呼ぶ．

•

特定分野のコーパスとしては，TOEIC 試験模擬問題 16 回分より作成した単語リスト (中條 2003) を用いた．このリストの異なり単語数は 5016 語であり，延べ単語数は 107077 語である．なお，このリストには，BNC リストとは異なり，頻度 1 回以上の単語が含まれ17

自然言語処理Vol. 0No. 0

0ている．以下では，この単語リストを「 TOEIC リスト 」と呼ぶ．
なお，これらの単語リストには固有名詞や数詞等は含まれていない．また，同一の基本形を持
つ単語については，基本形のみをリストに登録し ，その頻度は各屈折形の頻度の合計としている16 ．
次に，各種尺度の精度評価の基準となる単語リストとしては，2節で述べたように，•(中條 2003) で選定された，TOEIC 向けの英語教育用の 667 語からなるリストを用いた．
以下では，この単語リストを「正解リスト 」と呼ぶ．なお，正解リストは，TOEIC リス
トに包含される．

ここで，各種尺度の精度を評価するときには，TOEIC リスト中の単語を各種尺度で順位付
けたリスト (候補語リスト ) を作成し，そのリストと正解リストとの一致の度合により評価する．
そのときの評価の基準としては，平均精度 (Average Precision, AP) を利用した．平均精度は，情報検索の評価 (Baeza-Yates and Ribeiro-Neto 1999) や連語抽出の評価 (Schone and Jurafsky2001) にも使われていて，上位に正解が多いほど 高い値を取るので，今回の評価の指標として適切である．
平均精度を求めるためには，候補語リストの上位から順に候補語を調べて，それが正解であったときには，そのときの順位精度 (その順位を r としたとき，それまでの順位での正解の個数を l とすると， rl ) を求めて，リストの最後の時点で，それまでに得られた正解における順位
精度の平均を求めれば良い．その定義式は以下である．

1  l
K
rl
K

平均精度 =(23)

l=1

ただし ，K は，候補語リスト中の全正解数であり， rll は，l 番目の正解が抽出されたときの順位精度であり，rl は，l 番目の正解が抽出されたときの，候補語リストにおける順位である．なお，同一尺度値の単語が複数ある場合には，無作為にタイ (tie, 結び ) を解消した．

5.2

各尺度による順位付けの性質

ここで，ど のような単語を抽出すれば正解となるかの目安を得るために，正解リスト (Ref-erence) と TOEIC リスト中の単語の頻度分布を比較する (図 5参照)．また，図 5の各頻度分布において，1/4, 1/2(中央値), 3/4 に位置する単語の頻度を表 3に示す．
これらの図と表より分かるように，正解リストには，TOEIC リストと比べて，あまり低頻度であるような単語は含まれていない．そのため，効率的に正解を抽出するためには，そのような低頻度な単語を避けることができる尺度が必要である17 ．
16 たとえば，基本形 study に対して，屈折形は study, studies, studied, studying があり，それぞれの頻度が 200, 100,
40, 20 なら，リストには，基本形の study のみを登録し，その頻度は各屈折形の頻度の合計 360(= 200 + 100 + 40 + 20)としている．
17 正解リストには，低頻度単語だけでなく，高頻度単語もあまり含まれていないので，高頻度単語を避けることも必要で

18

英語教育のための分野特徴単語の選定尺度の比較

100
1

10

frequency

1000

10000

内山・中條・山本・井佐原

Reference

図 5

TOEIC

正解リスト (Reference) と TOEIC リストの頻度分布の比較．
表 3

正解リストと TOEIC リストの頻度分布の比較．

正解リスト
TOEIC リスト

1/4 での頻度71

中央値 (1/2)
14
3

3/4 での頻度
279

そこで，各種尺度が低頻度単語をど う順位付けるかを調べた．ここで注目する低頻度単語は，
表 1において，a = 1, b = 0 となるような単語である．このような単語は，TOEIC リストにおいて頻度が 1 であり，かつ，BNC リストには存在しない18 ような単語である．そのような単語は全部で 404 語ある．
ここで，a = 1, b = 0 ということは，一般分野の BNC リストに存在しなかったような単語が，特定分野の TOEIC リストには存在する，ということであるので，特徴的な単語の候補とは言える．しかし，TOEIC リストにおける出現頻度が 1 であるので，それを特徴単語と言うには，信頼度が低い19 ．そのため，このような単語は避けるべきである．なお，以下では，a = 1,

b = 0 の単語 (からなる集合) を W10 と記す．
あるが，高頻度単語の異なり語数は，低頻度単語の異なり語数よりも，ずっと少ないため，高頻度単語を避けるより，
低頻度単語を避けることの方が，相対的に，重要である．
18 BNC リストは頻度 100 以上の単語のみからなるので，BNC リストにないからといって，元コーパスにおける出現頻度が 0 とは限らない．
19 まず，2節で述べた (Nation 2001) による特徴単語の定義として，当該分野における出現頻度が高いことがある．この観点からは，a = 1, b = 0 の単語は，当該分野 (TOEIC) での出現頻度 a が 1 であるので，特徴単語と言うには，出現頻度が低い．次に，効率的な学習という観点からは，語彙に加える単語としては，当該分野の多くのテキストに出現する単語の方が，出現頻度の少ない単語よりも望ましい．この観点からも，a = 1,b = 0 という単語は，当該分野での出現頻度が 1 であるので，たとえ，BNC リストに出現していない (b = 0) としても，特徴単語として語彙に追加する必要性は低い．また，a = 1,b = 0 である 404 語を実際に調べてみたところ，その中には，複合語や派生語など ，その意
味が類推可能なため，語彙に加える必要性が少ない単語が多かった．たとえば，rear-seat, cookbook, misrepresent,
rapidness など の意味は類推可能である．以上より，a = 1, b = 0 の単語は，「 特徴単語と言うには信頼度が低い」，あるいは，「 特徴単語として語彙に追加する必要性が低い」と言える．

19

自然言語処理Vol. 0No. 0

0ranking
1

1000

2000

3000

4000

5000

Freq

Dice

Combo

CSM

LLR

Yates

Cosine

Chi2

PMI

図 6

低頻度単語の順位．

図 6は，W10 と同スコアである単語の順位を各尺度について示したものである．それらは図において色付けされている部分の順位を占めている．図では，左端が 1 位で右端が 5016 位である．また，上から下に，各尺度が並んでいる．ただし ，Freq 等は，3節で述べた単独尺度であり，Combo は，4節で述べた方法により，5 つの尺度 (CSM, PMI, Cosine, Dice, Yates) を統合したものである．Combo としてこれらの尺度の組み合せを選んだ理由は，5.4節で述べるように，任意の尺度の組み合わせのなかで最高の平均精度であったからである．
図 6において，Freq と PMI 以外は，W10 と同スコアのものは W10 以外には存在しない．そ404
れらは，全順位の 8.1%(= 5016
× 100) を占めている．一方，Freq においては，a = 1 であるものは同スコアであり，その数は 1588 (31.7%) である．また，PMI においては，b = 0 であるものが同スコア20であり，その数は 630 (12.6%) である．
図 6より分かるように，PMI では，W10 のような低頻度語が最高順位となる．一方，図 5よ
り分かるように，正解リスト (Reference) にはこのような低頻度語は含まれていない．そのため，

PMI は，正解リスト中の単語を抽出するには不向きであると予想できる．
次に，3.2節で説明した，依存性の度合を測定するための尺度である，LLR, Yates, Chi2 に注目すると , LLR における W10 の順位が一番低く，Yates が中間で，Chi2 における順位が一番高い．このうち，Yates と Chi2 については，Yates は低頻度のときに Chi2 を補正するためのものであるので，Yates が Chi2 より低頻度単語の順位を低くすることは説明できる．しかし ，こn
20 (18) 式において，b = 0 とすると，PMI = log (a+c)
であり，n と a + c とは定数なので，b = 0 の単語はすべて同スコ
アとなる．また，このとき，PMI は最大値になる．

20

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

れは比較的ということであり，LLR に比べると Yates も低頻度単語を高順位としている．また，

LLR については，(Dunning 1993) で述べられているように，低頻度のときには Chi2 よりも信頼できる尺度である．図 6は，それらを反映している．なお，Cosine は，Chi2 同様，低頻度単語を高順位にすると言える．

Freq については，a = 1 は最低順位となる．また，Dice についても W10 の順位は低い．Comboと CSM は，ちょうど 中間に W10 がある．このことから，これらの尺度が，Freq や Dice と同様に，出現頻度が低いものは，あまり，過大評価しない尺度であると言える．
図 6をまとめると，Yates, Cosine, Chi2, PMI は，低頻度単語である W10 を，他の尺度に比べて高順位にする，あるいは，過大評価すると言える．そのため，そのような低頻度単語を含
まない正解単語を抽出するには不向きな尺度であることが予想できる．このことは，5.3節で確認する．
最後に，単独尺度間の関係を調べるために，順位相関係数 (Kendall’s τ ) を計算したところ図7のようになった．図 7では，LLR, Yates, Chi2 は互いの順位相関が 0.91 以上であり，その平均は 0.93 である．また，Dice と Freq の順位相関は 0.92 である．そのため，これらは，それぞれ
順位相関の観点からは良く似た尺度であると言える．また，CSM, PMI, Cosine は，それぞれ，ある程度は独立な尺度であると言える．これより，8 つの尺度は，5 つのグループに分けることができる．これらグループ間には，順位相関の平均21が 0.5 より大きいものについては実線が引いてあり，そうでないものについては点線が引いてある．なお，これらの線に付いている数字
は，グループ 間の尺度間の順位相関の平均である．

LLR
Yates
Chi2

0.16

0.77
CSM

0.93

0.68

0.80

0.58

PMI
0.63

0.56

0.35

Cosine0.07

0.45

Dice 0.92
Freq

図 7

単独尺度間の順位相関．

21 たとえば，CSM と LLR, CSM と Yates, CSM と Chi2 の順位相関は，それぞれ，0.81, 0.76, 0.75 なので，平均は 0.77
である．

21

自然言語処理

5.3

Vol. 0No. 00

単独尺度の平均精度

表 4には各単独尺度の平均精度を示す．表 4から分かるように，Yates, Cosine, Chi2, PMI の平均精度は下位に位置し ，その順番は，ちょうど 図 6における状況と一致している．また，Freqと Yates の間の平均精度の差は 0.08 程度であり，他の尺度間における精度差と比べて大きい．
このことは，5.2節で述べたように，Yates, Cosine, Chi2, PMI は，正解単語を抽出するには不向きな尺度であることを裏付けている．
表 4

単独尺度の平均精度．

尺度
CSM
Dice
LLR
Freq
Yates
CosineChi2
PMI

平均精度 (AP)0.36850.32120.31040.30420.22840.22050.20820.1574

表 4においては，Freq と Dice と LLR とは同程度の平均精度である．しかしながら，5.5節で示すように，Freq や Dice と LLR とでは，精度の高い (正解の多い) 順位の範囲が異なる．つまり，Freq や Dice では，LLR と比べて，遅い順位の方で精度が高いのだが，LLR では，早い順位の方で精度が高い．Freq や Dice で遅い順位の方で精度が高い理由は，Freq や Dice においては，早い順位では高頻度単語が多く，それらは特徴単語ではないため精度が高くないが，後の順位の方で中程度の頻度の単語が現われると，正解数が多くなり精度が高くなると考えられる．

CSM については ，最高の平均精度である．このことから ，CSM が 文字認識 (澤木・萩田
1995) や単語の上位下位関係の推定 (山本・梅村 2002) だけでなく，特徴単語の抽出にも役立つことが言える．
667
なお，平均精度のベースラインとしては， リストに含まれる全正解数= 5016= 0.1330 が適当であ
候補語リストの大きさ

る．なぜなら，もし，候補単語を無作為に順位付けるとすると，上位から候補単語を調べていったとき，候補語が正解であるような順位の間隔は，平均して 1/0.1330 であるので，それを (23)式に適用すると，平均精度は 0.1330 となるからである．
このベースラインと比べたときには，表 4の尺度は，全て，その平均精度がベースラインを上回っている．そのため，ど の尺度も，無作為に順位付けた場合と比較すれば ，何らかの有効性があると言える．

22

内山・中條・山本・井佐原

5.4

英語教育のための分野特徴単語の選定尺度の比較

複合尺度の平均精度

ここでは，どのような尺度の組み合せが特徴単語抽出に有効かを調べるために，単独尺度の組み合せを網羅的に調べて，その組み合せの精度を比較する22 ．
表 5には，上位 10 位の平均精度である複合尺度を示す．表では，同一精度であるような複合尺度は同一順位としている23 ．
表 5
順位

1

5

9

上位 10 位の複合尺度の平均精度．

平均精度

0.39046

0.390120.39008

CSM
CSM
CSM
CSM
CSM
CSM
CSM
CSM
CSM
CSM

PMI
PMI
PMI
PMI
PMI
PMI
PMI
PMI
PMI
PMI

CosineCosineCosineCosineCosineCosineCosineCosineCosine

使われた尺度
Dice Yates
Dice Yates
Dice Yates
Dice Yates
Dice
Dice
Dice
Dice
Dice Yates
Yates

LLR
LLR

Chi2
Chi2

LLR
LLR
LLR

Chi2
Chi2
Chi2

Freq
Freq

表 5と 表 4とを 比べ ると ，単 独 尺 度で あ る CSM(AP=0.3685) に 比べ て ，1 位の 複 合 尺 度(AP=0.39046) の平均精度の 向上は 0.022 程度であ る．これ は ，CSM と Dice(AP=0.3212) における平均精度の差 0.047 程度に比べると小さいため，統合における平均精度の向上は，適切な単独尺度の選択における精度の向上よりも，小さいことが分かる．しかし ，平均精度は向上している．そして，既存の単独尺度を複数組み合わせることは，新たに有効な尺度を探すことに比べると，容易であるので，複数尺度の統合により精度が向上するなら，統合を利用することが好ましい．そのため，複数尺度の統合は有効であると言える．
ここで，表 5で同精度で 1 位である 4 つの複合尺度は，5 つの単独尺度 (CSM, PMI, Cosine,

Dice, Yates) を共有している．そのため，これら 5 つの単独尺度の組み合せが有効であると言える．また，9 位である，8 つの単独尺度全てを使った場合の平均精度は 0.39008 であり，最適 (1位の AP=0.39046) の場合と比べての精度差はわずかである．このことは，4節で述べた複数尺
度の統合法が，最適な尺度の組み合せを越えての尺度の追加に対しても，精度が大きく低下す
ることなく頑健 (robust) に，これら尺度を統合できることを示している．
なお，本稿で，複合尺度の性質を調べるときには，表 5で 1 位の平均精度である 5 つの単独
尺度 (CSM, PMI, Cosine, Dice, Yates) の組み合せからなる複合尺度を Combo と呼び，Comboについての性質を調べる．

88= 255 である．
i
23 表 5における第 9 位と同精度である複合尺度は 16 個あるが，そのうち 2 個のみを示す．
22 単独尺度の数は 8 つであるので，それらの可能な組み合せの数は

23

i=1

Vol. 0

自然言語処理

5.5

No. 0

0

順位と正解数の関係

5.3節と 5.4節とでは，平均精度により各種尺度の有効性を評価した．本節では，各尺度により順位付けたときの順位と，その順位までに抽出された正解数により，各種尺度を比較する．
図 8は，各種尺度により順位付けされた候補語リストについて，100 位から 5000 位まで，100
位ごとに累積正解数を数えたときのグラフである．ただし，縦軸が累積の正解数であり，横軸が順位である．なお，図 8では，Freq, Yates, Chi2 が省略されている．その理由は，Dice と Freqが良く似た折線であり，LLR と Yates と Chi2 が良く似た折線であるため，図を明瞭にするために，それぞれにおいて，表 4の平均精度が最大である Dice と LLR とを表示したためである．なお，これら省略されたものについては図 9に示す．
700

Dice

Dice
Combo
CSM
LLR
Cosine
PMI

600

Combo
CSM

num. of correct words

500

400

LLR

300

Cosine

200

PMI

100

0
0

500

1000

1500

2000

2500
ranking

3000

3500

図 8

順位と正解数の関係．

4000

4500

5000

図 8より，上位の順位である 300 位程度までは，LLR が比較的精度良く正解を抽出している．300 位の時点での順位精度は，LLR が 0.48, Combo が 0.41, CSM が 0.40 である．その後，

1100 位程度までは，CSM の精度が良い．1100 位の時点での順位精度は，CSM が 0.43, Combo
が 0.42 である．また，1700 位程度まで Combo の精度が良い．1700 位の時点での順位精度は，Combo と Dice 共に 0.33 である．それ以降は，Dice の精度が良くなっている．
図 8より，Combo が全区間に渡って，安定して上位の順位精度 (累積正解数) であることがわ
かる．このことは，複数尺度を統合することにより，安定して精度良く正解単語を抽出できることを示している．このことからも，複数尺度を統合することが有効であると言える．
次に，図 8に示されていない Freq, Yates, Chi2 について，図 9に示す．図 9 より分かるよう

24

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

700

Dice,Freq

Dice
Freq
LLR
Yates
Chi2

600

num. of correct words

500

400

LLR

300

200

Yates

100

Chi2
0
0

500

1000

1500

2000

2500
ranking

3000

3500

図 9

順位と正解数の関係．

4000

4500

5000

に，Freq と Dice とは互いに良く似た折線である．また，LLR, Yates, Chi2 については，上位の方で LLR の精度が良いが，途中から，良く似た折線となる．上位の方で，LLR > Yates > Chi2の順で精度が良いのは，5.2節の図 6 のところで述べたように，これらの尺度における，依存性の測定の信頼性に対応していると考える．なお，図 9の LLR, Yates, Chi2 では，正解数が変化していなく水平になっている部分があるが，これは，ちょうど ，図 6における色付きの低頻度単語の部分に相当している．また，図 9と図 7とを比べると，図 7において順位相関の高い Freq とDice，および ，LLR, Yates, Chi2 については，その折線の形も似たものとなっていることが分
かる．

5.6

上位に順位付けられた単語の例

本節では，各尺度により上位 20 位に抽出された単語を観察することにより，各尺度の上位における傾向を考察する．
まず，上位 20 位に抽出された共通単語数により各尺度をグループに分けると，図 10のようになる．図では，まず，グループ A は Freq のみからなる．次に，グループ B については，CSMと Dice とで 16 語が共通している．グループ C についても 16 語が共通している．また，グルー
プ D については，グループ 内の任意の尺度間で，互いに共通する単語の平均は 18.7 語である．
グループ E は PMI のみである．また，グループ間にある線には，それぞれのグループ間の尺度間で共通する単語の平均数が付けられている．なお，線がないグループ 間での共通単語数は 3以下である．

25

自然言語処理Vol. 0

No. 0

0

グループA
Freq

8

グループB

CSM
Dice

グループC
16

11.5

LLR
Combo

16

18.7
PMI

Cosine
Yates
Chi2

グループE

グループD

図 10

尺度間で重複する単語数．

表 6, 7, 8には，各尺度について上位 20 位に順位付けられた単語を示す．各表において，1 行
目には，それぞれの尺度のグループを示し ，2 行目には，各尺度と，その尺度により得られた
単語の頻度 (Freq) の，上位 20 位における中央値を示す．また，括弧内には，その中央値に対応
する Freq によるソートでの順位を示す24 ．たとえば ，表 6では，Freq における頻度の中央値は1272 で，その頻度における Freq の順位は 10 位であり，CSM での中央値は 849 で，その Freq における順位は 18 位であり，Dice での中央値は 332 で，その Freq での順位は 34 位である．最後に，3 行目以降の行には，各尺度により抽出された単語とその頻度が，尺度値の降順で並んでいる．なお，尺度値の表示は省略した．また，これらの表においては，これら同一グループ 内の尺度について，その尺度でしか抽出されていない単語には下線が引いてある．なお，グループ

D については，Yates と Chi2 のみに共通な単語は [] で囲んである．
これら中央値に端的に示されるように，各尺度が抽出する単語の頻度には特徴がある．まず，グループ A である Freq は，当然，高頻度語が上位になる．次に，グループ B (CSM と Dice) も比較的高頻度語が上位になる．グループ C (LLR と Combo) は，これらに比べると頻度が低い
単語からなる．また，グループ E (PMI) は，図 6に示したように，低頻度語のみである．最後に，グループ D (Cosine, Yates, Chi2) も比較的低頻度語からなることがわかる．また，中央値に対応する Freq での順位についても，中央値における傾向に対応して，グループ A,B,C,D,E の順に，Freq における上位から下位の単語を抽出していることがわかる．
図 10のグループに基づいて，それぞれのグループで上位 20 位以内に順位付けられた単語リストの性質を述べると，以下のようになる．

•

グループ A (Freq) については，特定分野や一般分野に関わらず，通常の頻度調査により

24 同一頻度の単語が複数あるときには，最高順位の単語についての順位を示した．

26

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

表 6

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

グループ A
Freq
1272 (10)
THE
7786
BE
5363
A
4115
TO
3457
OF
2263
IN
1862
YOU
1604
WILL
1426
HAVE
1350
FOR
1272
AND
1197
I
1044
DO
961
ON
948
IT
939
AT
901
WE
893
WHAT
849
THIS
786
THEY
768

表 7

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

LLR
OFFICEREFER
EMPLOYEEWILLCOMPANYQUESTION
WHATSALE
PLEASEHOTEL
CUSTOMERFOLLOW
VACATIONSTORECOMPUTERASERVICE
BUSINESS
MAIL
WOMAN

上位 20 位の単語 (グループ A,B)．
CSM
A
WILL
BE
YOU
WHAT
COMPANYATQUESTION
OFFICETODO
FOLLOW
WE
NEW
MAN
FOR
REFER
WOMAN
SERVICEEMPLOYEE

グループ B
849 (18)
Dice
4115
COMPANY
1426
WHAT
5363
WILL
1604
OFFICE
849
QUESTION
402
REFER
901
FOLLOW
332
NEW
312
MAN
3457
YOU
961
EMPLOYEE
318
WOMAN
893
SERVICE
382
SALE
349
A
1272
AT
229
PLEASE
278
BUSINESS
265
DO
193
HOW

332 (34)
402
849
1426
312
332
229
318
382
349
1604
193
278
265
204
4115
901
195
212
961
301

上位 20 位の単語 (グループ C,E)．

グループ C229 (56) Combo
312
OFFICE
229
EMPLOYEE
193
REFER
1426
COMPANY
402
QUESTION
332
SALE
849
HOTEL
204
PLEASE195
CUSTOMER
155
STORE
149
COMPUTER
318
WHAT
57
FOLLOW
129
WILL
153
TRAVEL
4115
BUSINESS265
SERVICE
212
HOUR
74
ORDER
278
ROOM

204 (64)
312
193
229
402
332
204
155
195
149
129
153
849
318
1426
125
212
265
173
184
190

グループ EPMI
RECONFIGURATIONRENOVATEECONOMIZEINFORMATION-SYSTEMCOATROOMREORGANIZE
LUMBERYARD
ATTENDEESEMIANNUALLY
MONOLINGUALENCRYPTIONPREPAIDSHOPLIFTER
INTERMISSIONOBLIGATE
STOCKHOLDER
LITHIUM-ION
SCREENING
DETAIL-ORIENTED
DEDUCTIBLE

2 (2669)
1
5
1
2
1
2
1
4
1
1
3
2
1
4
1
6
1
2
1
3

単語を順位付けた場合と同様な単語が上位 20 位以内に位置している．すなわち，Freq により上位 20 位以内に抽出される単語は，特徴単語とは言えない25 ．
8
25 また，図 9を細かくみると，Freq については，上位 100 位までにおける正解数が 8 ( 100=0.08) であり，200 位までに31
59
おける正解数が 31 ( 200 = 0.155)，300 位までにおける正解数が 59 ( 300 =0.197) であり，かつ，5.3節で述べたように，候補単語を無作為に順位付けるとすると，0.133 の割合が正解であるので，上位 100 位以内に抽出される単語については，正解の割合が無作為に抽出された場合よりも低い．したがって，Freq により，上位 100 位程度以内に抽出され27

自然言語処理Vol. 0

No. 0

0

表 8

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

•

CosineCHECK-OUT
DOWNTOWN
E-MAILUPCOMINGHAMBURGER
COPIERFERRYBOATTHE
TEAL
BEVERAGE
ACCORDANCEREIMBURSE
INTEROFFICEBE
VACATIONPAYLOADSIGHTSEEINGNEWSSTANDFORFEITSALESPEOPLE

10 (1156)
17
17
16
15
13
11
10
7786
9
9
8
8
8
5363
57
7
7
7
7
7

上位 20 位の単語 (グループ D)．
グループ DYates
9 (1225)
CHECK-OUT
17
DOWNTOWN
17
E-MAIL
16
UPCOMING
15HAMBURGER
13
COPIER11
FERRYBOAT
10TEAL
9BEVERAGE
9ACCORDANCE8REIMBURSE
8INTEROFFICE
8VACATION
57
PAYLOAD
7
SIGHTSEEING
7
NEWSSTAND
7
FORFEIT
7
SALESPEOPLE
7[ALUMNI]
7[REQUISITION]
7

Chi2
CHECK-OUT
DOWNTOWN
E-MAILUPCOMINGHAMBURGER
COPIERFERRYBOAT
TEAL
BEVERAGE
ACCORDANCEREIMBURSE
INTEROFFICEPAYLOADSIGHTSEEINGNEWSSTANDFORFEITSALESPEOPLE[ALUMNI][REQUISITION]VACATION

9 (1225)
17
17
16
15
13
11
10
9
9
8
8
8
7
7
7
7
7
7
7
57

グループ B (CSM, Dice) については，Freq 以外の他の尺度に比べると，高頻度のものが上位に抽出されていて，特徴単語を学習する前段階として基本語彙の復習が必要な補習
レベル学習者に適していると考えられる．

•

グループ C (LLR, Combo) については，5.5 節において述べたように，上位で効果的に特徴単語を選択している．このグループで抽出された単語には，TOEIC の特徴であるビ
ジネス・コンテキストで広く使われる単語，たとえば，会社・人事・オフィス・出張の場
面で用いられる business, company, employee, oﬃce, computer, travel, hotel, room 等の基本語，そして日常生活における sale, store, customer, service, order 等買物・購入の場面に分類される基本語がバラン ス良く抽出されており，グループ B で選択される単語よりも一段階上のレベルで学習すると好ましい，初級向けの良質な TOEIC 特徴単語を抽出していると判断できる．

•

グループ D (Cosine, Yates, Chi2) については，グループ C よりも少し高レベルの TOEIC
特徴単語と言える interoﬃce, copier, upcoming, reimburse, forfeit や beverage, check-out, downtown, newsstand, hamburger 等，英語圏の文化背景と共に教えると効果的な日常語が現れる．

•

グループ E (PMI) については，図 6にも示したように，低頻度単語を過大評価する26 ．しかし ，このことは学習者のレベルによっては欠点とは言えない．なぜなら，TOEIC 高得

る単語には，特徴単語と言えないものが (無作為に抽出された場合よりも) 多いと言える．
26 グループ E にリストされている単語は，図 6の説明のところでも述べたように，1 位から 630 位までが同スコアである
ので，それらを無作為に順位付けた上位 20 位をとっている．

28

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較点を目指すような上級レベルの学習者にとっては，このような低頻度単語も学習する必要があるからである．PMI は，そのような目的にとっては有効であると言える．27
以上をまとめると，各グループにより抽出される単語は，それぞれ異なったレベルにおける学習者に有効であると考えられる．そのため，学習者のレベルに応じて，適切な尺度を選ぶ必要がある．
次に，各尺度により上位に抽出される単語が，単純な頻度である Freq を利用した場合には，上位には抽出され難いことを確認する．その理由は，もし ，各尺度により上位に抽出される単語が，Freq においても比較的上位，たとえば ，100 位以内に抽出されるなら，Freq のみを用いても，各尺度で上位に抽出される単語を抽出できるため，特に複雑な尺度を利用する必要がな
いからである．そのため，Freq 以外の尺度の有用性を確認するために，以下の考察をする．
まず，Freq で上位 100 位以内に抽出された単語と各尺度の上位 100 位以内に抽出された単語との共通単語数を求めると表 9のようになる．

尺度
共通単語数

表 9

上位 100 位以内における Freq との共通単語数

Dice
74

CSM
52

Combo
45

LLR
33

Cosine
9

Yates
3

Chi2
2

PMI
0

この表から分かるように，Freq との共通単語数については，尺度ごとに，その共通する程度に差があるが，どの尺度についても，Freq とは異なる単語を上位 100 以内に抽出していることがわかる．一例として，Freq と一番共通単語数が多い Dice について，Dice により上位 100 位以内に抽出された単語のうちで，Freq では上位 100 位以内に抽出されない単語を抜き出すと以下の 26 語になる．
store, manager, car, travel, meet, meeting, pay, product, market, receive, increase, oﬀer,
today, account, letter, staﬀ, building, price, date, morning, conference, check, notice,
speaker, card, request

これらは，表 6で，Dice (グループ B) により上位 20 位以内に抽出される単語の性質を述べたときと同様の傾向を示しており，「 特徴単語を学習する前段階として基本語彙の復習が必要な補習
レベル学習者に適している」と考えられる．更に，その他の尺度についても，各尺度ごとに，Freq では上位 100 位以内に抽出されない単語の傾向について確認したところ，表 6, 7, 8での 20
位以内における単語リストでの考察と同様に，異なるレベルにおける学習者に有効であると考えられる単語が上位 100 位以内に抽出されていた．そのため，Freq だけを使うのではなく，各27 脚注 19 では，低頻度の単語については，特徴単語として語彙に加える必要性は低いとしたが，その理由は，2節で述べたように，本稿で主な対象と想定している学習者が英語初級者・中級者であるので，そのような学習者にとっては，特定分野で重要な単語を効率的に習得するという観点からは，教育用語彙に加える必要性が低いからである．一方，上級者にとっては，このような低頻度単語であっても，初級・中級の語彙を越えて，一層の語彙増強を目的とする場合には，学習する必要性の高い単語となる．実際，図 6のところで述べた「 a = 1,b = 0 」である 404 語については，複合語や派
生語などではない (意味がその単語だけでは類推できないような ) 単語が，約 25%を占めていた．これらの単語は，上級者向けの語彙増強のためには，学習する必要性が高い単語である．

29

自然言語処理Vol. 0No. 00

尺度を適切に選んで利用することにより，異なったレベルにおける学習者に応じた特徴単語を上位に順位付けて効率的に選定できると考える．
ただし，Freq についても，たとえば，上記実験において正解データとして用いた特徴単語リストが，2節で述べたように，頻度を参考にして選定されていることからも分かるように，Freq
が特徴単語の選定に役立つことは既に知られている．それに対して，上記考察で明らかになったことは，Freq 以外の尺度を使うことにより，Freq では上位に抽出できないような特徴単語を上位に抽出でき，かつ，それらが，異なったレベルにおける学習者に対応すると考えられることである．このことから，Freq に加えて，本稿で比較検討した尺度を適切に選択し利用することにより，異なったレベルにおける学習者に応じた特徴単語を効率的に選定できると考える．

おわりに

6

特定分野の英語を効率的に学習するためには，その分野に特徴的な語彙を選定し，その語彙を学習するのが効果的である．そのような語彙を選定するためには，まず，その特定分野における単語を，特徴的な順番に並べて，その上位から選定していくのが良い．しかしながら，現状においては，「 特徴的な単語」を抽出するためには，どのような尺度を利用して単語を順位付けるべきかが分かっていなかった．
そのため，本稿では，各種尺度を比較し，どの尺度が特徴的な単語の抽出に有効かを調べた．
さらに，単独の尺度を利用するだけでなく，それらを統合した複合尺度の有効性も調べた．このときに対象とした分野は，日常生活やビジネスの場面のテキストを多く含む TOEIC である．
その結果，主に以下のことが，明らかになった．

•

各種尺度により順位付けられた単語リストと，英語教育用に人手により選定された単語リストとの一致という観点からは，複合尺度 (Combo) の有効性が示された．また，単独尺度においては，補完類似度 (CSM) が有効であった．

•

各種尺度により抽出される単語は，それぞれ，異なったレベルにおける学習者に有効であると考えられること，そのため，学習者のレベルに応じて，適切な尺度を利用する必要があること，が分かった．

人手による特徴単語の選定は，コストが高いだけでなく，選定者の主観や経験に大きく依存するものである．それに対して，本稿で比較検討した尺度や，別のもっと有効な尺度を探究し利用することにより，それらの選定を，比較的，低コストで，かつ，客観的にできるようになると期待している．
謝辞
情報通信研究機構村田真樹主任研究員との草稿段階での議論が参考になった．

30

内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

参考文献
Baeza-Yates, R. and Ribeiro-Neto, B. (1999). Modern Information Retrieval, chap. 3. AddisonWesley.
中條清美 竹蓋幸生 (1989). “女性向け英語雑誌の語彙.” 時事英語学研究，第 28 号，pp.73–84.
中條清美 (1991). “英語教育基本語彙の選定に関する研究.” 千葉大学自然科学研究科学位論文.
中條清美 (2003). “英語初級者向け「 TOEIC 語彙 1,2 」の選定と効果.” 日本大学生産工学部研究報告 Vol.36, pp.27–42.
中條清美 内山将夫 (2004). “統計的指標を利用した特徴語抽出に関する研究.” 関東甲信越英語教育学会研究紀要第 18 号 pp. 99–108.

Chujo, K. and Nishigaki, C. (2003). “Bridging the Vocabulary Gap: from EGP to EAP.”
JACET Bulletin, 36, 73–84.
Chujo, K. (2004). “Measuring Vocabulary Levels of English Textbooks and Tests Using a
BNC Lemmatised High Frequency Word List.” JAECS(英語コーパス学会)10 周年記念論文集. 掲載予定.

Chung, T. M. and Nation, P. (2003). “Technical vocabulary in specialised texts.” Reading in a
Foreign Language, 15 (2), http://nﬂrc.hawaii.edu/rﬂ/October2003/chung/chung.html.
Church, K. W. and Hanks, P. (1989). “Word Association Norms, Mutual Information, andLexicography.” In Proc. of ACL-89, pp. 76–83.
Douglas, D. (2003). “English for Speciﬁc Purposes vs. English for General Purposes: What
can Testing oﬀer Teachers?.” In Proc. of the KATE (Korea Association of Teachers of English) 2003 Winter International Conference (English for Specific Purposes vs.
English for General Purposes in the EFL Context), pp. 5–8.
Dunning, T. E. (1993). “Accurate methods for the statistics of surprise and coincidence.”
Computational Linguistics, 19 (1), 61–74.
深山晶子, 野口ジュディー, 寺内一, 笹島茂, 神前陽子 (2000). ESP の理論と実践. 三修社.

Hisamitsu, T. and Niwa, Y. (2001). “Topic-Word Selection Based on Combinatorial Probability.” In NLPRS-2001, pp. 289–296.
池田央（ 編） (1989). 統計ガ イドブック. 新曜社.
石川由紀, 田中貴美枝, 高橋秀夫, 竹蓋幸生 (1987). “ビジネス英語の語彙.” 語学教育研究所紀要，第 1 号，pp.53–66.
影浦峡 (1997). “文字単位の bigram 尺度に基づく複合漢字列の単位切り手法.” 言語処理学会第3 回年次大会発表論文集, pp.477–480.
Manning, C. D. and Schütze, H. (1999). Foundations of Statistical Natural Language Processing. The MIT Press.
31

自然言語処理Vol. 0No. 00Nation, I. S. P. (2001). Learning Vocabulary in Another Language. Cambridge University
Press.
Noguchi, J. (2002). “ESP: Where are we and where do we want to go?.” In JACET Summer
Seminar Proceedings (New Perspectives in ESP), No. 2, pp. 18–24.
Orr, T. (2002). “Twelve ESP Program Models for Study and Reﬂection.” In JACET Summer
Seminar Proceedings (New Perspectives in ESP), No. 2, pp. 25–30.
澤木美奈子 萩田紀博 (1995). “補完類似度による劣化印刷文字認識.” 信学技報 PRU95-14,

pp.101–108.
Schone, P. and Jurafsky, D. (2001). “Is Knowledge-Free Induction of Multiword Unit Dictionary Headwords a Solved Problem?.” In EMNLP-2001, pp. 100–108.
Sutarsyah, C., Kennedy, G., and Nation, P. (1994). “How useful is EAP vocabulary for ESP?
A Corpus-Based Study.” RELC Journal, 25, 34–50.
竹蓋幸生 (1981). コンピューターの見た現代英語. エデュカ出版.
竹蓋幸生, 高橋秀夫, 星野昭彦 (1987). “計算機科学の語彙―コンピュータを英語で学ぶために .”千葉大学教育工学研究，第 8 号，pp.27–40.
内山将夫 井佐原均 (2003). “複数尺度の統計的統合法とその専門用語抽出への応用.” 情報処理学会自然言語処理研究会研究報告, 2003-NL-157, pp.69–76.
山本英子 梅村恭司 (2002). “コーパス中の一対多関係を推定する問題における類似尺度.” 自然
言語処理, 9 (2), 45–75.

略歴
内山 将夫:

1992 年筑波大学第三学群情報学類卒業. 1997 年筑波大学大学院工学研究科博士課程修了. 博士 (工学). 1997 年信州大学工学部電気電子工学科
助手．1999 年郵政省通信総合研究所非常勤職員. 2001 年独立行政法人通信総合研究所任期付き研究員. 2004 年情報通信研究機構（ 旧：通信総合研究所）研究員．言語処理学会，情報処理学会，ACL，人工知能学会，大学英語教育
学会，英語コーパス学会，各会員．
中條 清美:

1991 年千葉大学大学院自然科学研究科修了．学術博士．1994 年

千葉大学外国語センター専任講師．1999 年 Manhattanville College (N.Y.)．

M.P.S. (Master of Professional Studies) in TESL. 現在，日本大学生産工学部助教授．英語教育．言語処理学会，大学英語教育学会，英語コーパス学会，

TESOL，各会員．
山本 英子:

1996 年豊橋技術科学大学情報工学課程卒業．2002 年同大学大学院

工学研究科電子・情報工学専攻博士課程修了．博士 (工学)．同年，情報通信研究機構（ 旧：通信総合研究所）専攻研究員．言語処理学会，情報処理学会，

32内山・中條・山本・井佐原

英語教育のための分野特徴単語の選定尺度の比較

人工知能学会，各会員．
井佐原 均:

1978 年京都大学工学部卒業．1980 年同大学院修士課程修了．博士（ 工学）．同年通商産業省電子技術総合研究所入所．1995 年郵政省通信総合研究所関西支所知的機能研究室室長．2001 年情報通信研究機構（ 旧：通信総合研究所）けいはんな情報通信融合研究センター自然言語グループ リーダー．
自然言語処理，機械翻訳の研究に従事．言語処理学会，情報処理学会，人工知能学会，日本認知科学会，ACL，各会員．

33