DEIM Forum 2017 A3-2

能動学習を用いた系列データの自動分類
井上 眞乙†

白井匡人††

三浦 孝夫†† 法政大学理工学部創生科学科 〒 184–8584 東京都小金井市梶野町 3-7-2†† 島根大学大学院総合理工学研究科情報システム学領域 〒 690–8504 島根県松江市西川津町 1060
E-mail: †maoto.inoue.7h@stu.hosei.ac.jp, ††shirai@cis.shimane-u.ac.jp, †††miurat@hosei.ac.jp
あらまし

本稿では、系列データの分類を論じる. 分類器を構築するために学習データが必要となるが，系列データの分類は容易でない．本研究では，隠れマルコフモデル（HMM）に基づく確率分類のアプローチを行う．各クラスにモデルを構築し，系列データを適用し，最大尤度のクラスを推定する．HMM は少量の学習データを必要とするが，HMM が上手く機能するための助けとなる．さらに，分類器の構築に対する能動学習のアプローチを提案する．主たるアイデアは，HMM がより良い構築に役立つ有用なデータが必要だと判断する度に，新しい学習データを自動的・自律的に要求することにある．
キーワード

系列分類，隠れマルコフモデル，能動学習

1. 前 書 き
現在，膨大な量の情報が日々増加しており，インターネット

ぼ出来ない．本研究では，能動学習（Active Learning HMM，

ALHMM と呼ぶ）を用いた HMM に基づく系列分類の新しい手法を提案する．本研究の貢献は以下の 3 点である：

を介して簡単かつ高速にアクセスする事が可能となっている．

(1) 分類器に必要な量の学習データを構築する事が可能．

データマイニングはこれらからの有用な知識の抽出を助長し，(2) 正確な分類器を構築するための十分な少量のデータを現代の興味深い研究テーマの 1 つとなっている．しかし，大規
模な量のため作業を行う事は容易ではなく，情報は瞬時に流れ去っていく．正しい知識を抽出するためには当然，効率的かつ正確で有用な技術が必要になる．

選択する．

(3) モデルの構築のための ALHMM の効率的なアルゴリ
ズムを実装する．
本論文は次のように編成されている．2 章では分類と学習本研究では，系列データの分類問題を論じる．単純な構造やデータについて，3 章では HMM と能動学習について述べる．

形式を持つデータとは異なり，多くの場合は音声やプログラ

4 章では ALHMM のアプローチを提案し，5 章では実験結果をムコード，または文章のような系列データである．系列は要素示し，6 章では結論を述べる．

（場合によってはラベル付き）で構成され，これらのラベルはクラスに応じて独自の役割を果たす．例えば，「ソナタ」という

2. 分類と学習データ

クラスは，4 つの主要な旋律から成る音楽構造を持つ：主題の分類とは，事前に与えられた別個のグループの一つを情報に提示，展開，再現，コーダ．この形式は 18 世紀後期の音楽に広割り当てることをいう．このようなグループをクラス（ラベルく現れている（初期の古典派の時代）[Wiki]．ある音楽の各要付き）と呼び，分類する法則を分類器と呼ぶ．しかし，膨大な素がいずれかの旋律に分類されると，音楽は「ソナタ」の形を量の情報が存在し，それらを分類するのに多くの時間/コストしていると言える．従って，音楽の要素とそのラベルの並びはが掛かってしまう．さらに深刻なことに，分類結果は主観に依クラス「ソナタ」を構成する．

存してしまう可能性がある．

系列データの問題に取り組むため，HMM，MEMM，CRF な

これらの問題を克服するため，情報を自動的に分類する手法

ど，これまでに提案されている確率論に基づく高度な手法がいである分類器を導入する．このような手法は，高速で安価で効

くつか存在している [6]．隠れマルコフモデル（HMM）は少量

率的な処理を提供する．情報の中身を調べることで，情報に特の学習データで済むが，これらのデータは HMM が上手く機能徴を付けて識別し，分類するという幾つかの機能がある．例えする助けになる．最大エントロピーマルコフモデル（MEMM）

ばクラス「野球」は，「ピッチャー」，「イチロー」，「ホームラン」と条件付き確率場（CRF）は，系列モデルに対して強力ではあなどの特徴語で識別出来る．これらの特徴を見つけ，その特徴

るが，事前にある程度の量の学習データが必要である．では最が情報に現れているかどうかを調べる事により，クラス「野球」

初に，どのような学習データを考えることが出来るだろうか．

に正しく分類する事が期待される．

どのようにラベルを（部分/全体の）系列に当てることが可能

データを分類するための特徴をどのように抽出する事が可能

か．特定分野の知識をどの程度まで考慮すべきか？また，ラベか？一般には，分類器を構築するための学習データが用意されル付に対する主観性を避ける事が可能か？

ており [8]，このようなアプローチは教師あり学習と呼ばれて学習データの取得が容易ではないことは明らかであり，多くいる．学習データは，データを調べ，クラスを決定付けるための時間とコストが掛かり，大量の学習データを取得する事はほの知識を提供する．決定木，k-NN 及びいくつかのベイズ手法

が提案されている [8]．しかし，主に 2 つの問題がある．第 1

可能性が最も高い経路を取得する事が可能である．ビタビアルに，分類器は多くの学習データを必要とし，第 2 に単純で整理

ゴリズムにより，動的計画法を用いて効率的に最尤経路を推定されたデータを前提としている．基本的に学習データが多いほする．また，フォワードアルゴリズムは観測系列の確率を計算

どより良い分類器が得られる．膨大な量の学習データが必要でする．

あるが，大きな変化にすばやく追随する事は難しく（バースト

1 つの重要な適用は，最尤原理法（MLP）を利用し，HMM現象と呼ばれる），系列などの構造化された情報の扱いが困難

を系列データの分類器としてみなすことが出来る．つまり，各である．

クラスにマルコフモデルを構築し系列の尤度（ビタビによる）系列分類に関して，N-gram に基づく文書分類などの手法がを得て，最大尤度の系列をもつクラスを決定する．例えば，ソいくつか提案されている．連続する N 語を 1 つにまとめるこ

ナタマルコフモデルと音楽が与えられたとする．出力観測値ととにより，頻度，共起及びそれらの関係を調べる事が可能となして考慮したこの音楽を区切り，主題・展開・再現・コーダのる．しかし，系列が大規模になると N-gram は疎な分布を持つ

状態遷移を推測する．同様にロンド，バラードに対しても値を傾向にあり，計算が複雑になる [8]．

取得する．次に，この音楽を最大の尤度である音楽形式に分類

ここでは，系列データの分類に対する隠れマルコフモデル

する．

（HMM）に基づく確率論的アプローチをとる．この目的のため

HMM の第 3 の貢献は，マルコフモデルの推定が可能なことに，各クラスに対し分類器を構築し，系列データを適用する．

である．つまり状態遷移確率 P (sj |si )，状態 si における観測系列の概念が論じられていないため既知の分類手法を系列に適値 ok の確率 P (ok |si ) 及び開始時の初期状態確率 P (si ) を推定

用する事は容易ではない．本稿では，確率的手法と最尤原理にする事が可能である．基本的に HMM を推定するために EM

よりクラスを推定する．

アルゴリズムを適用する．始めから EM アルゴリズムによる

3. 隠れマルコフモデルと能動学習
本章では，HMM と能動学習の背景と動機づけについて検討
する．

3. 1 マルコフモデル

調整過程を繰り返すことにより，データの尤度を最大化していく．事前に学習データを必要としない．隠れマルコフモデルにはいくつか知られたアルゴリズムが存在し，特に Baum Welch（BW）アルゴリズムは，（学習されていない）データ集合から効率的にマルコフモデルを推定する．

確率過程とは，確率変数が一組の状態に関連付けられ，時間

しかし，十分なサイズの「学習データ」は，（繰り返し過程にの経過と共にモデルがランダムに変化する数学的な手法を意味おける）高速な収束と精度の良い結果を得るための助けとなり，し，確率的有限オートマトン（出力観測値付）と考えられる．

局所的最小値を回避するのに役立つ．学習データまたは不良な

このアプローチは，様相がランダムに変化する現象及びシステ

初期値が無いという条件が無ければ，これらの問題を回避する

ムの数学的モデルに広く使用されている．一般的な例として，事は困難である．本研究では，この側面に取り組み，関連する

音声認識などが挙げられる．マルコフモデル（MM）は未来のパラメータを改善する．

状態が現在の状態のみに依存し，それ以前に発生した状態/出来事の影響は受けないという仮定を伴う確率論の枠組みの 1 つである．これはマルコフ性と呼ばれる．一般的にこの仮定は，単純で効率的な方法で予測モデリングや確率的推測を容易にし，扱いにくいシステムへの推論や計算を可能にする [9]．
しかし，マルコフモデルには 2 つの深刻な欠点がある．どの状態にいるのかを見極める方法と，学習データを構築する方法が不明な事である．学習データによってモデルを構築し，状態遷移と出力観測値を求める必要があるため，真の問題は，多くの学習データを正確に，かつ効率的に取得する方法である．

3. 3 能 動 学 習
能動学習とは，高い分類精度を達成するため，学習に有用なデータを自動・自律的に選定する枠組みである．ここでいう「有用」とは，分類器の精度を向上させるためのデータを意味する．
幾つかのデータから始め，出来るだけ少量の学習データでの推測を可能にする．ここで注意しなければならないのは，どのような条件でデータを選定するかである．
能動学習には少なくとも 2 つの利点がある．第 1 に，大規模な学習データを扱うことなく効率的に高精度の分類を達成する事が可能である．第 2 に，結果が注釈者の主観に依存しない，

3. 2 隠れマルコフモデルと分類

つまり，学習データを構築するため合理的で統一された条件を隠れマルコフモデルとは，状態が部分的にしか観測できない

定めることが出来る．

マルコフモデルの一種である [3]．出力観測値はシステムの状

これまで，未知データのラベル付を可能にする 3 つの手法

態に関連付けられるが，状態を正確に決定するには不十分であが提案され，能動学習に関する研究がいくつか行われてきた．

る．では，どのような潜在意味が，最も適した解釈に対する観第 1 の手法は，プールベース型能動学習（Pool-Based Active

測値と関連した状態であるのか？隠れマルコフモデルは 3 つのLearning）である [10]．プール内の全ての実例を評価するため問題に対する解決策を持つ．観測系列 O = o1 ...oN と仮定する．

の情報尺度に従い，大規模なデータのプールからいくつかデー

第 1 に，観測系列 O の確率を得る事が可能である．実際には，タをしきりに選択する．

マルコフモデルを仮定すると，O を生成する全ての経路を探索

第 2 は，ストリームベース型能動学習（Stream-Based Active

し，その確率の合計をとる．第 2 に，観測系列 O を生成する

Learning）と呼ばれ，新しいデータが入るたびに学習データに入れるべきかを尋ねる [4],[5]．ここではラベルの無い実例を取査する．EM アルゴリズムに基づき収束するまでの値を最大に得する事は安価であると想定し，ラベル付けを要求するかどうする．ここでは，どんなに大きな尤度に関わらず所属確率を区かの決定を求められる．この決定には，情報量の測定やクラス別するだけで十分である．

タリングなどの他の機械学習手法を使用するなど，いくつかの方法で組むことが出来る．
最後は，クエリ生成型能動学習法（Membership Query Syn-theses）である [2]．これは入力ストリーム内の未知データに対

本稿では，クエリ生成型能動学習の手法により，分類するテ
スト系列データの集合と，能動学習のための開発データと呼ばれる各クラスへのモデル開発のための系列データの集合が存在すると仮定する．

しラベルの付与を要求する．任意のデータにラベルを付ける注ALHMM では，HMM 推定の過程を以下のように設定する．

釈者を仮定し，定理が難しい場合がある．ここでは，HMM を（Step0） 新しい各系列データに対し（1）〜（4）を行う．

改善するためのアプローチとする．
能動学習の手法には，未知データの情報性を評価する事が含まれている．不確実性サンプリング (Uncertaity Sampling)，（Step1） 現在のパラメータから各クラスに対する新しいHMM パラメータを推定する．
（Step2） テスト系列データ 1 件に最尤原理（MLP）を適用

Query By Committee, 推定されるモデルを変えるなど，方法し，最大の尤度と 2 番目に大きい尤度の差を比較し，閾値 q をを策定する提案は多く存在する [9]．とりわけ，「不確実性サン

上回るかどうかを調べる．

プリング (Uncertainty Sampling)」手法，周辺確率（Margin（Step3） 以下であれば，新たな系列データとクラスを選択

Sampling）[12]，エントロピーに基づく方法（Entropy-Based

し学習を行い，そのクラスのモデルの新しい HMM パラメータ

Approach），最小/最大確信度法（Least/Largest Confident）を推定する．新しい開発系列データにはクラスラベルが付いて[6] に基づく 3 つの方法に注目する．

いるが，状態の情報は含まれていないため，クラスの尤度を改周辺確率（Margin Sampling）とは，最大の確率と 2 番目に大きい確率との差が最小となるデータを選択する．エントロ
ピーを用いる方法では，クラス内で最小のエントロピーを維持善するのに役立つ．
（Step4） 再度，最尤原理（MLP）を適用し，Step2 の系列
データのクラスを決定（分類）する．

できる新しいデータを選択する．最後に最小/最大確信度法は，ALHMM の Step（3）では，（a）系列の長さが閾値σ以下でクラスの最小所属確率の最大（または最大所属確率の最小）をあり，（b）系列が最小確信度または最大確信度を満たす場合に持つ新しいデータを提供する．

限り，1 件の開発系列データを選択する．閾値σは，全ての開

一方，学習データの構築には少なくとも 2 つの欠点がある．

発データの平均サイズとする．一般的に，系列が短いほど尤度

第 1 に，いわゆるサンプリングバイアス問題，すなわち，いくが高くなる可能性があることに注意すべきである．これは，新つかの条件に従いサンプルを取得する場合，常に最良とは限らしい開発データによってクラスの平均尤度が改善される可能性ない場合がある．可能な解決策として例えば，サンプリングのがあることを意味する．最小確信度法を採用すると，曖昧なクために関心のあるトピックに重きを置く重点サンプリングがあラスの所属確率を上げることができるが，最大確信度法では小る．第 2 の欠点は，パラメータの条件を途中で変更する場合，

規模クラスを回避し，クラスサイズを洗練するのに役立つ．

同一のデータを学習のため何度も利用する事（再利用性）である．

さらに，Step（4）で再度閾値 q 以下であった場合，その系
列データの分類を止め，閾値 q の値を下げて次のテスト系列
データのため Step（1）へ戻る．また，閾値 q 以上であるデー

4. HMM に対する能動学習
本章では，HMM と能動学習，または HMM に対し能動学習を組み合わせる新しいアプローチを提案する．HMM の繰り返
し推定の間ではデータの選択を決定するのに十分な所属確率が分からないため，このアプローチは常に改善するとは限らないことに注意したい．

Anderson らは，能動学習の観点から HMM パラメータ，状態遷移，最良な状態の推定について述べている [1]．学習デー
タを使用してモデルのどの部分を改善すべきかを教える損失関数が含まれている．不確実性サンプリングと比較し，少量の学習データでも有効であり，効率的な状況が臨める事を示した．
しかし，彼らはモデル尤度（及び分類）については言及していない．
ここでは，能動学習を用いた HMM の ALHMM と呼ばれるモデル計算を提案する．到来の素朴な HMM においては，学習
データ（ラベル付きデータ）は想定せず，系列の尤度のみを調タが続いた場合は，閾値 q を上げて次のデータの分類を行う．
本研究では初期の閾値 q を 0.5 に設定し，上げ幅・下げ幅を変
更する．

5. 実

験

5. 1 実 験 手 順
隠れマルコフモデル（以下，HMM と呼ぶ．
），最大確信度法で選定する能動学習を用いる隠れマルコフモデル（以下，Largest-ALHMM と呼ぶ．
）を用い，HMM をベースラインとし提案手法である ALHMM を評価する．各々により所属尤度を推定し，適合率および再現率を比較する．さらに，HMM では学
習データ数 15 件，21 件，27 件，30 件，36 件，42 件，45 件のHMM の精度及び f 値を求める．実験では「DAILY YOMIURI
記事データ集 2007 年版」の 1 月 1 日の先頭から，学習データとしてスポーツ，経済，科学クラスにそれぞれ同じデータ数を割り当てる．HMM，ALHMM のどちらの場合においても扱う
テストデータの中身は同じものとする．

「DAILY YOMIURI 記事データ集 2007 年版」コーパスは
予め GoTagger により前処理をする．各文章の単語に品詞付け

データから学習データに追加する場合には，この正解ラベルを用いて該当のクラスのモデルの再計算を行う．

をし，名詞と動詞のみの自立語を抽出する．全 465 件中の記事

閾値として平均サイズである 15.93 を仮定する．サイズがこデータから，テストデータとしてスポーツ，経済，科学記事にの条件を満たす開発データは，スポーツ記事から 59 件，科学50 件ずつ用いる．開発データにはスポーツ，経済，科学記事に記事から 41 件，経済記事から 30 件あり，計 130 件が能動学習

90 件ずつ割り当てる．

での選定対象となる．

本研究では，ALHMM を学習データ全 15 件から開始する．
能動学習で選定されるデータは開発データ 270 件より選定されるものとし，学習データ数に上限を設けない．
図 1 に品詞付けを行った「DAILY YOMIURI 記事データ集

2007 年版」の記事データの一部を示す．

分類器の評価には適合率及び再現率を用いる．適合率はMicroPrecision で評価する．
5. 2 実 験 結 果
能動学習を施した回数及び選定されたデータを表 2 に示す．

表 2 能動学習を施した回数及び選定データ
能動学習を施した回数設定した閾値 q閾値以下のテストデータ（記事番号）選定された開発データ

初期（1 回目）

0.5

2

科学記事 (記事番号：102)

2 回目

0.5 → 0.1

2, 3

科学記事 (記事番号：116)

3 回目

0.1 → 0.01

3, 7

経済記事 (記事番号：236)

4 回目

0.01 → 0.0001，0.0001 → 0.01

7, 20

経済記事（記事番号：251）

5 回目

0.01 → 0.0001，0.0001 → 0.01

20, 32

スポーツ記事（記事番号：54）

6 回目

0.01 → 0.0001，0.0001 → 0.01

32, 46

経済記事（記事番号：230）

7 回目

0.01 → 0.0001，0.0001 → 0.01

46, 62

経済記事（記事番号：244）

8 回目

0.01 → 0.0001，0.0001 → 0.01

62, 80

スポーツ記事（記事番号：14）80, 91

科学記事（記事番号：109）

10 回目

0.01 → 0.0001，0.0001 → 0.01

91, 102

経済記事（記事番号：241）

11 回目

9 回目

0.01 → 0.0001, 0.0001 → 0.01 → 0.1 → 0.5

0.01 → 0.0001，0.0001 → 0.01

102, 133

科学記事（記事番号：147）

12 回目

0.5 → 0.1

133, 134

経済記事（記事番号：261）

13 回目

0.1 → 0.01, 0.01 → 0.1

134, なし

なし

図 1 品詞付済みの記事データ

HMM での精度は表 3 で示すように，全 15 件の場合では適各開発データのサイズを求め，閾値以下である記事を表 1 に示す．

合率が 47.3 ％，再現率は 33.3 ％である．学習データ全 45 件の場合では適合率が 75.3 ％，再現率が 60.7 ％である．図 2 に学習データ全 45 件の場合の各クラスのマルコフモデルを示す．
状態名は，状態から出力される頻出語に基づき推定している．

表 1 閾値以下の開発データ
閾値

15.93

正解ラベル

スポーツ

記事番号

3

Largest-ALHMM の精度の結果を表 4 に示す．ここで能動
5

6

7

11

14

15

16

17

18

サイズ

14

9

12

13

8

15

13

7

12

12

学習により開発データから選定された記事データは，科学記

記事番号

22

24

25

26

27

28

32

33

34

35

事から 4 件（記事番号：102,109,116,147），スポーツ記事か

サイズ

7

11

5

12

5

13

10

7

11

9

記事番号

36

37

38

39

41

42

44

45

46

48

サイズ

15

8

10

10

13

11

9

12

15

14

230,236,241,244,251,261）であり，学習データは最終的に全 27

記事番号

49

50

54

55

60

61

62

64

65

66

サイズ

15

15

15

15

13

10

12

8

8

14

件となる．適合率は 71.3 ％，再現率は 54.7 ％である．図 3 に

記事番号

67

68

69

70

71

75

76

78

79

80

各クラスのマルコフモデルを示す．

サイズ

12

12

10

15

6

15

13

13

3

6

記事番号

81

82

83

84

86

87

88

89

90

サイズ

12

12

7

9

15

10

10

7

12

正解ラベル

科学

記事番号

91

92

93

97

98

102

104

105

109

112

サイズ

9

12

13

13

9

15

6

8

15

10

記事番号

113

114

116

117

121

124

128

129

132

133

サイズ

15

8

15

11

13

9

5

6

14

5

記事番号

138

141

143

147

149

151

153

156

157

160

サイズ

6

7

14

15

15

14

11

11

13

8

記事番号

162

163

166

167

171

172

173

176

177

178

13

13

12

15

8

12

12

14

9

ら 2 件（記事番号：14,54），経済記事から 6 件（記事番号：

表 3 HMM（ベースライン）における精度

サイズ

13

記事番号

180

サイズ

13

正解ラベル

経済

記事番号

181

182

184

190

192

200

201

204

205

サイズ

10

13

15

13

9

13

11

7

13

11

記事番号

215

219

225

230

233

235

236

238

241

243

表 4 Largest-ALHMM における精度

213

サイズ

10

12

15

14

9

8

15

7

15

14

記事番号

244

249

251

253

255

256

260

261

262

263

サイズ

15

13

15

15

11

8

14

15

14

14

各記事には所属するクラスラベルが付与されているが，開発

図 2 HMM（ベースライン）における各クラスのマルコフモデル（学習データ全 45 件）
図 3 Largest-ALHMM における各クラスのマルコフモデル

Largest-ALHMM において，全 15 件の HMM 場合よりス
ポーツクラス記事の正しい割り当てが 4.0 ％，科学クラス記
事では 10.0 ％，経済クラス記事では 50.0 ％大幅に改善している．また，適合率が 24.0 ％，再現率が 21.4 ％向上している．さらに，全 45 件の HMM の場合の適合率 75.3 ％，再現率 60.7％と比べると，ほぼ変わらない精度となっている．

Largest-ALHMM におけるマルコフモデルについては，どちらも各クラスの状態遷移確率が増加している．また，ALHMMと 45 件の HMM の場合の科学，経済クラスのマルコフモデルには頻出経路及び構造に差が見られなく，類似した振る舞いをしていると見れる．しかしスポーツクラスにおいて違いがよく現れている．
頻出経路を比較すると，全 45 件の場合では「選手」→「世界」⇔「試合」の 3 通りの経路というモデルを構築している．

ALHMM では，「選手」→「世界」の 2 経路で構築されている．
どの方法でも，共通する頻出語「matsuzaka」「murofushi」か

表7
理論値：HMM45 世界，標本値：HMM45 試合
ラベルら推定する状態名「選手」が初期状態となっている．
さらに，学習データ量別の HMM と ALHMM との精度及び適合性検定による各分布の差異

is

year

are

league

cup

do

reds

has

japan

be

world

team

make

urawa

理論値

0.02173913 0.195652174 0.02173913 0.02173913 0.02173913 0.02173913 0.02173913 0.086956522 0.086956522 0.130434783 0.152173913 0.086956522 0.065217391 0.065217391

標本値0.083333333

LOG

1.662757832 0.708515322 1.662757832 1.662757832 1.662757832 1.662757832 1.662757832 1.06069784 1.06069784 0.884606581 0.817659792 1.06069784 1.185636577 1.185636577

0.25

0.083333333 0.083333333 0.138888889 0.083333333 0.083333333 0.027777778 0.027777778 0.027777778 0.027777778 0.027777778 0.027777778 0.027777778

1.079181246 0.602059991 1.079181246 1.079181246 0.857332496 1.079181246 1.079181246 1.556302501 1.556302501 1.556302501 1.556302501 1.556302501 1.556302501 1.556302501
0.204817337 0.015995049 0.204817337 0.204817337 0.39014098 0.204817337 0.204817337 0.231568285 0.231568285 0.51002945 0.667261687 0.231568285 0.115881401 0.115881401

f 値の比較を表 5 に示す．

X2

3.533981507

理論値：HMM45 世界，標本値：ALHMM 世界ラベル

表 5 HMM と ALHMM との精度及び f 値比較
適合率

HMM

再現率

0.473333333 0.333333333 0.391184573

全 21 件0.593333333 0.473333333 0.526583333

全 27 件
全 30 件0.62

0.42

全 42 件0.706666667

全 45 件0.753333333 0.606666667 0.672091503

world

university

yen

has

year

team

make

urawa

LOG

1.041392685 0.865301426 1.643452676 1.643452676 0.798354636 1.643452676 1.643452676 1.041392685 0.689210167 1.041392685 1.166331422 1.166331422
0.004889285 0.012677078 0.27593674 0.27593674 0.002736811 0.387823839 0.27593674 0.15810128 0.833541048 0.15810128 0.067616788 0.067616788
2.520914417「理論値：HMM45 世界，標本値：HMM45 試合」での場合，語数は 14，X 二乗値は 3.533982 である．この時，有意水準を 50.486666667 0.574157303
0.46

are

0.970036777 0.970036777 0.970036777 0.970036777 0.84509804 0.84509804 0.970036777 1.447158031 1.447158031 1.447158031 1.447158031 1.447158031

0.500769231

0.7

tokyo

0.107142857 0.107142857 0.107142857 0.107142857 0.142857143 0.142857143 0.107142857 0.035714286 0.035714286 0.035714286 0.035714286 0.035714286

X2

0.646666667 0.413333333 0.504318658

全 36 件be0.090909091 0.136363636 0.022727273 0.022727273 0.159090909 0.022727273 0.022727273 0.090909091 0.204545455 0.090909091 0.068181818 0.068181818

標本値

f値

全 15 件japan

理論値

0.557257143％とし自由度を 13 とすると X 二乗分布表により 22.36 である．
「理論値：HMM45 世界，標本値：ALHMM 世界」での場合，

適合率

ALHMM
全 27 件再現率f値

語数は 12，X 二乗値は 2.520914417 である．この時，有意水0.713333333 0.546666667 0.618977072

準を 5 ％とし自由度を 11 とすると X 二乗分布表により 19.68
である．

表 5 より，学習データ量が増加するほど適合率，f 値が伸びどちらの分布も各臨界値以下であるため，ALHMM と全 45ていることが分かる．ALHMM での適合率は 71.3 ％，f 値は件の HMM での状態「世界」と「試合」は本来類似した振る舞

0.618977 であるが，4 割程少ない学習データ量で全 42 件のいをしていると見てよい．

HMM 以上の性能を示している．
5. 3 考6. 結論

察

能動学習により Largest-ALHMM の適合率，再現率が向上
し，全体として全 15 件の場合の HMM よりも改善している．
また，27 件という少量の学習データ数で全 42 件の HMM 以上の性能を示している．この原因として，各テストデータの所属
クラスの尤度に違いが出て，無所属の記事が本来の正解クラスに分類されたからであると考える．例えば，HMM（全 15 件）
ではどのクラスにも属さなかった記事（本来経済クラスの記事）
が経済クラスに属すようになっている．表 6 に HMM 全 15 件
（能動学習適用前）と Largest-ALHMM（能動学習適用後）の本研究では，能動学習による有用なデータの選定方法を提案
し，隠れマルコフモデルを用いた系列データの自動分類を行った．この能動学習を隠れマルコフモデルに組み込むことで，自律的にデータを選定する ALHMM を提案した．各クラスの特徴を抽出し分類器を構築したことにより未知データのクラス推定が可能となり，各クラスのマルコフモデルを図式化することで，系列データにはクラスを特徴づける構造が存在することが分かった．全 15 件の場合の HMM に比べて Largest-ALHMMの適合率は 24.0 ％，再現率は 21.4 ％向上した．
学習データ量別の HMM との比較では，全 42 件の場合以上

テストデータの所属尤度の一部を示す．

の高い適合率・再現率，f 値を示した．従って，Largest-ＡＬ
表6
能動学習適用前（HMM 全 15 件）
正解クラス
経済

ＨＭＭでの少ない学習量 27 件で得た性能が、ＨＭＭでは学習

テストデータの所属尤度の変化
能動学習適用後（Largest-ALHMM）

番号 スポーツ尤度

科学尤度

経済尤度

101 4.00817E-47 9.69406E-52 4.71131E-49

正解クラス
経済

番号 スポーツ尤度

科学尤度

経済尤度

101 1.75021E-50 1.3714E-50

2.4086E-48

102 9.72295E-34 9.75243E-34 9.75243E-34

102 9.78194E-34 9.81927E-34 9.85679E-34

103 1.16909E-26 3.81107E-26 2.83387E-26

103 9.80153E-28 9.82713E-28 2.46568E-26

104 1.16675E-32 9.75243E-34 9.75243E-34

104 9.78194E-34 9.81927E-34 2.4642E-32

105 2.39051E-64 3.75806E-68 3.12208E-67

105

106

1.66E-75

3.75E-77

1.73E-77

106 9.63623E-79 2.83055E-77

107

9.59E-76

9.62E-76

1.73E-74

107 9.64588E-76 9.76443E-76 1.17786E-74

108

9.74E-28

9.77E-28

9.77E-28

108 9.80153E-28 9.84689E-28 9.86271E-28

109

9.76E-22

9.79E-22

9.79E-22

109 9.82117E-22 9.85478E-22 9.86863E-22

110

1.16E-56

9.67E-58

3.13E-55

110 1.74671E-56 9.80758E-58 2.45829E-56

9.6652E-70 3.96753E-67 1.69713E-66
1.413E-76

さらに，ALHMM と全 45 件の HMM のスポーツクラスのマ
ルコフモデルのみ，頻出経路及び構造に差が見られた．全 45 件
では「選手」→「世界」⇔「試合」の 3 経路であるが，ALHMM
では「選手」→「世界」の 2 経路である．これらが類似したマ
ルコフモデルであるかを確かめるため，各状態の出力語の確率分布の差異を検定する．各方法での状態「世界」と「試合」のそれぞれから出力される語を全て列挙し，多項分布の MAP 推定を行うことにより出現確率を求める．検定には適合性検定を用いる．検定結果を表 7 に示す．

データ量 42 件以上に相当し、極めて高い性能を示すことを本実験で確認した．
文

献[1] Anderson, B., Moore, A, ”Active Learning for Hidden
Markov Models : Objective Functions and Algorithms ,ICML, 2005.
[2] Angluin, D., ”Queries and concept learning”, Machine
Learning, 2, pp.319―342, 1988.
[3] Bilmes, J.A., ”A Gentle Tutorial of the EM Algorithm andits Application to Parameter Estimation for Gaussian Mixture and Hidden Markov Models”, ICSI, 1998
[4] Bouguelia, M.R., Belad, Y., and Belad, A., ”A StreamBased Semi-Supervised Active Learning Approach for Document Classification”, ICDAR, 2013[5] D. Cohn, L. Atlas, and R. Ladner. , ”Improving generalization with active learning”, Machine Learning, 15(2), pp.201―221, 1994.
[6] Dredze, M. and Crammer, K., ”Active Learning with Confidence”, ACL-08, pp.233―236, 2008
[7] Dasgupta, S. and Langford, J., ”A tutorial on active learn-ing”, ICML, 2009[8] Han, J., Kamber, M. and Pei, J., ”Data Mining: Concepts
and Techniques” (3rd ed.), Morgan Kaufmann, 2011[9] Jurafsky, D., Martin, J.H., ”Hidden Markov Model”, Speechand Language Processing, 2016[10] Lewis, D. and W. Gale, W., ”A sequential algorithm fortraining text classifiers”, ACM SIGIR Conference on Research and Development in Information Retrieval, 1994, pp.
3―12[11] Settles, B., ”Active Learning Literature Survey”, Computer
Sciences Technical Report 1648 University of Wisconsin
Madison, 2010[12] Zhou, J. and Sun, S., Improved Margin Sampling for Active Learning Communications in Computer and Information Science 483, 2014, pp.120-129