部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習
Training Conditional Random Fields Using
Partial and Ambiguous Structured Labels
坪井祐太*1*3 鹿島久嗣*1 森信介*2 小田裕樹 松本裕治*3*1 日本アイ・ビー・エム株式会社*2 京都大学*3 奈良先端科学技術大学院大学

部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による部分的アノテーションの学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
2

研究の背景単語分割タスク・品詞付与タスク
辞書方式では不十分→ルールや統計的手法により文脈を考慮する必要性
単語分割タスク：入力文を単語に分割– 複数の単語分割候補を含み周辺文脈を考慮し決定する必要性
切り

傷

動詞

Infl.

名詞

や名詞

すり

傷

infl.

infl.

名詞

名詞
名詞

名詞

助詞

名詞

文字列「切り傷やすり傷」内で単語になりうる文字列“｜”：正しい単語境界“￤”：間違った単語境界（infl.=活用語尾語尾）

品詞付与タスク：単語に品詞を付与– 同じ単語でも複数の品詞候補が存在し周辺文脈を考慮し決定する必要性– 英語：files → 飛ぶ（動詞） or ハエ（名詞）– 日本語 ： 高め→高め[た]（動詞） or 高め[の球]（名詞）3

研究の背景構造出力問題としての単語分割タスク
文字境界列→単語境界ラベル列 を予測
文字列境界の列を表す入力列X
単語境界・非境界の列を表す出力ラベルの列Y
構造出力問題：文字列境界列Xから単語境界・非境界の列Yを予測する問題
単語y○×

単語×○

単語○

×

単語×

○

単語○×

○

予測

x
切り

傷

やすり

傷の治

療

ラベル： ×:非単語境界 ○:単語境界4

研究の背景構造出力問題としての品詞付与タスク
単語列→品詞列を予測
単語の列を表す入力列X品詞の列を表す出力ラベルの列Y
構造出力問題：単語列Xから品詞列Yを予測する問題

y

名詞

助詞

動詞

助詞

名詞

x

切り傷

やすり傷の治療

y

冠詞

名詞

動詞

冠詞

名詞

記号

x

The

mansawagirl.

予測

予測5

研究の背景教師付き学習による構造出力学習アプローチ
正しい入力列・ラベル列の対データを元に統計モデルを学習

学習データ（ 正しいx,yペア）

y(1)
x(1)

B

A

bc

ay(2) CC

Bx(2)bcaCaB

モデル
(写像):

X→Ya

予測（復号）

y(3)

AA

B

C

yx(3)accbx…

6A

パラメータ推定（学習）

ラベル無しデータ?

?

?

?

baca部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
7

部分的アノテーションと曖昧なアノテーション

コーパスに存在する不完全なデータを扱う必要性
部分的アノテーション– 文の一部にのみラベルが与えられたアノテーション– 日本語単語分割問題を例に説明

曖昧なアノテーション– 文の一部のラベルに複数の候補があるアノテーション– 英語品詞付与問題を例に説明

定式化は数ページ先までお待ち下さい
8部分的アノテーション

文の一部にのみラベルが与えられたアノテーション
特に分野適応時に文全体にラベルを全て付与するのに比べて効率的
日本語単語分割の分野適応における部分的アノテーションの効果
1. 学習効果の高い事例のラベル付けに集中でき効果的•分野特有の用語の出現箇所を集中的にアノテーション

2. 判断できない箇所のラベル付けが省略可能→アノテーションミス削減•

機能語などは単語分割基準を理解している必要があり専門家には困難。
例２：機能語例１：専門用語

y○

×

○

○

○

×

○

○

○

○

×x
咬合（こうごう）
9とは上下の歯のか…

部分的アノテーション

単語リストを用いたKWIC形式インターフェース(森, 2006)

専門用語の出現箇所の文脈を表示し未知語にのみ集中的にアノテーションするGUI
適応先の単語リスト：専門用語辞書や商品名リストなど
部分的ラベル付与例：
対象分野の単語リスト
内単語の出現箇所をKWIC表示し、単語として用いられている文に○をつける。

一単語分だけアノテーション付与y?

?

?

?

○××?

○x
切
10り

傷やすり

傷の曖昧なアノテーション
文の一部のラベルに複数の候補があるアノテーション
作業者が付与するラベルを決定できない場合に、候補を列挙しておくことが可能になる。

Penn Treebankコーパスにおける品詞が曖昧な単語の例– “pending” の品詞タグは”VBGまたはJJ”としてアノテーション

yDT

NN

VBZ

VBG | JJ

SYM

xThat

suit

ispending.

– DT：限定詞 NN：名詞単数 VBZ：動詞3人称単数現在形
VBG：動名詞または動詞現在分詞 JJ：形容詞 SYM: 記号
Penn Treebank コーパスでは、タグの候補が複数ある場合の記述の順番は重要ではなくその順番には一貫性は無い(Part-of-Speech Tagging
Guidelines for the Penn Treebank Project, 1995)。
11曖昧なアノテーション
文の一部のラベルに複数の候補があるアノテーション
Penn Treebankコーパスには品詞に曖昧性が在る単語を含む文が100文以上存在
品詞に曖昧性のある例が頻度3以上の単語– 候補品詞が3つある単語も存在： dividing/JJ|NN|VBG
意味を扱うタスクでは作業者間での一致率も低く、より曖昧性が残りやすい– 曖昧性が残らないタスク設計が基本だが、現実には困難
12

部分的アノテーションと曖昧なアノテーション

コーパスに存在する不完全なデータを扱う必要性
部分的アノテーション– 文の一部にのみラベルが与えられたアノテーション
曖昧なアノテーション– 文の一部のラベル候補が複数あるアノテーション– 注：複数のラベル(multi label)を付与する問題とは異なり、予測時はラベルは一意に決定

参考：それ以外の不完全なデータ：– 入力に誤りがあるデータ（欠損値） → 協調フィルタリング、素性削
除学習– ラベルの間違いを含むデータ → 頑健推定、外れ値検出13部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次研究の背景– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
14

部分的アノテーションと曖昧なアノテーションの定式化

ラベル集合列Lで表現。要素Ltは点tで取りうるラベル候補集合。

LLt

Y for t 1LT

ラベルが付与された箇所のLtの要素は一つ
部分的アノテーション– ラベルが付与されていない箇所(?)のLtは全てのラベルの集合

部分的アノテーション

L

{○,×}

{○,×}

{○,×}

{○,×}

{○}

{×}

{×}

{○}

{○,×}

x
切り

曖昧なアノテーション– 点tのラベル候補をLtで表現

15

傷

やすり

傷のL｛DT｝

｛NN｝

｛VBZ｝

｛VBG,JJ}

{SYM}

x

That

suitispending.

部分的かつ曖昧な構造アノテーションからの教師付き学習

入力列xとラベル集合列Lの対データを用いて統計モデルを学習

LLt

Y for t 1LT

学習データ（x,Lペア）

L(1)
x(1)

{A,B}

bca

L(2) C

C

B

x(2)

bca…

16

A

{A,B}

B
a

{B,C}

モデル

パラメータ推定
（学習）

(写像):

X→Ya

予測
（復号）

ラベル無しデータ
文全体のアノテーションがある場合は全てサイズ1のL

y?

?

?

?

xbaca

部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
17

部分的かつ曖昧なアノテーションを用いた条件付確率場の学習

条件付確率場 (Conditional Random Fields; CRF)
入力xが与えられた時の出力ラベル構造yの条件付確率をモデル化（識別モデル）

あるラベル構造ｙのスコア

Pθ (y | x)exp θ, Φ(x, y )exp θ, Φ(x, ~y)あらゆるラベル構造yのスコアの合計（マルコフ性を仮定すると動~y Y的計画法で効率的に計算可能）
Φ：X×Y Rd はx, yのペアの特徴を現す任意の素性ベクトル
θ∈ Rdは素性に対する重みを表すモデルパラメータ
θが決まった下では、ラベル構造予測は柔軟な素性情報を用いることが可能
構造全体の整合性を評価してモデルを学習
18yˆ

arg maxPθ y | xy Y

部分的かつ曖昧なアノテーションを用いた条件付確率場の学習

CRFのパラメータ推定（学習）の概要
勾配法による目的関数の最大値探索問題

1. 現在のパラメータの目的関数と偏微分(傾き)の計算(MAP推定)

O(θ)

logPθ (y (i ) | x (i ) ) logP(θ)
i data
対数尤度

O(θ)
θ

パラメータの事前分布=正則化項

logPθ (y (i ) | x (i ) ) logP θi dataθ

2. 勾配が0ならば終了
そうでなければ、パラメータθを（たとえば、最大勾配方向に）更新して、１に戻る
19

O(θ)

Θ

部分的かつ曖昧なアノテーションを用いた条件付確率場の学習

CRFが入力列xとラベル列yの組を学習データとして要求する→xとラベル列集合Lから学習でない。
素朴な解決方法→ラベル集合Lを展開して、複数のx, y組を生成する

LA

{A,B}

A

B

{B,C}

xbcaaa

展開y A A A B B

A B A B Bx b c a a ab c a a ay A A A B C

A B A B Cx b c a a ab c a a a

問題１：完全にアノテーションがある文の4倍の学習データ！？
問題2：サイズ2以上のラベル集合Lｔが増えると指数的に事例数が増える→適切な重み付けと動的計画法により解決
20

部分的かつ曖昧なアノテーションを用いた条件付確率場の学習

周辺尤度最大化によるCRFの学習

YL（Lを満たす全てのラベル列”集合”）の尤度 Pθ ( YL | x) を最大化
CRFの目的関数拡張→ Lを満たすラベル列の尤度合計（周辺化）

O(θ)

Pθ (y | x (i ) ) logP(θ)

logi datay Y (i )LPθ (YL( i ) | x (i ) )周辺尤度最大化の直感的な解釈– 学習中のモデルPθで展開したx, y組それぞれに重み付け– Pθは他の学習データの尤度を最大化するように決まるため、他のアノテーションからの学習の邪魔をしにくい
21凸関数

各点tで ytL(it ) となるラベル

重みy A A A B C

列の 集合 の条件付確率Pθ (y '| x' )Pθ ( y"| x" )xb c a a ay” A B A B Cx” b c a a a

Lを満たす全てのラベル列の尤度合計の計算
ラベル間の依存関係にマルコフ性を仮定すると動的計画法により効率的に計算可能(詳細略)例：1次のマルコフ性を仮定（各点のラベルは前後のラベルにのみ依存）

y○××○○××○○×○x
切り

傷やすり

傷の

各点tで yt Lt となる全てのラベル列の合計スコアは、前後ラベルまでの合計スコアで再帰的に計算可能
○×

∑

○○

∑○

×

部分的アノテーション
22×

∑ ○
∑ ×治

療

重複計算を避けるために配列に計算結果を格納∑ ○ ∑ ○ ∑○∑ ×t×t( y)t( y)

∑ ○
∑ ×

部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
23日本語単語分割の分野適応実験

分野適応実験データ（会話辞典の例文から医療マニュアルへの分野適応）
適応元データ(source domain) ：会話辞典の例文– 例文：こんな 失敗 は ご 愛敬 だ よ ．
適応先データ(target domain)：医療マニュアル– 例文：細胞膜には受容体があり、これによって細胞を識別することができます。
分野文数

単語数

分割済

目的A

会話例文(source)

11,700145,925 ○学習・素性選択B

会話例文(source)

1,300

16,348 ○ハイパーパラメータのチューニング

C

医療マニュアル(target)

1,000

29,216 ○アノテーション・学習・テスト

D

医療マニュアル(target)

53,834

N/A ×

素性選択

– 適応先の単語リストは、会話例文Aに出てこない医療マニュアルCの単語（未知語）から作成
24

日本語単語分割の分野適応実験

分野適応の必要性
学習データとは分野が異なるデータでは性能低下– 「会話例文」で学習した単語分割器で「医療マニュアル」文書を処理→5%性能低下• 会話例文：こんな 失敗はご愛敬だよ ．
• 医療マニュアル：細胞膜には受容体があり、これによって細胞を識別することができます。
– 特に、学習データには出現しない単語（未知語）がエラーの主要因

25

日本語単語分割の分野適応実験

実験シナリオ：単語リストによるアノテーション結果から学習
単語リストを使用したKWIC形式のUIによる部分的アノテーションを想定

重要度に基づいた表示順
ラベルエントロピーによる選択的サンプリング
単語リスト内の単語の出現箇所を選
択的サンプリング
適応先C1:
500文
分割済データ
Cを半分に分けて交差検定

選択文

学習

CRF

テスト

C2:
500文

適応元A:
11,700文
適応先C2:
500文

26

部分的アノテーション

選択文

平均F値

学習

CRF

テスト

C1:
500文

日本語単語分割の分野適応実験

実験の設定と評価方法
入力xｔの素性：各文字境界の前後2文字(4文字)の範囲から抽出できる文字
N-gram (n=1,2,3)と字種N-gram (n=1,2,3)すべて。
– 字種は、ひらがな(H)、カタカナ、漢字(C)、アルファベット、アラビア数字、記号– 例：「やすり傷」の中央文字境界を表す素性→{す|，| り，やす|，す|り，| り傷，やす| り，す| り傷，H|，|H，HH|，H|H，|HC，
HH|H，H|HC} (“|” は注目する文字境界との相対位置を示す補助記号)– パラメータ数削減のため高頻度の素性のみを選択– 素性数は298, 363
CRFは1次のマルコフモデル
評価指標：Ｆ値– 精度と再現率の調和平均 Ｆ=2PR/(R+P)
27

単語のアノテーション箇所数を変化させたときの単語分割性能向上（交差検定）
提案手法は文全体をアノテーションするのに比べて、9%のアノテーション箇所で性能向上の73％を達成 (F値は精度と再現率の調和平均)97
argmax96

全ての単語をアノテーション(14,608箇所)

単語リストの単語の出現1箇所をアノテーション(948.5箇所)

最大2箇所をアノテーション(1,355箇所)

mrg
F

95
9473%

93

適応元CRF920010200300040050600070080

単語アノテーション数
9%28900/
a18.
4955835 460
1/1a2p/mcoargmax:
適応元モデルで確率最大のラベル列を学習デー
タとした方法mrg:
周辺尤度最大化（提案手法）

部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

目次
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題29曖昧なアノテーションを用いた品詞付与実験

実験データ
学習データ：品詞が曖昧な単語と曖昧でない単語を含む文

異なるデータで5回試行

評価用データ：品詞が曖昧でない単語を含む文(11, 840文)

Penn Treebank コーパス品詞タグ付け学習データ
That/DT suit/NN is/VBZ pending/VBG|JJ ./SYM… calls/VBZ for/IN MCI/NNP to/TO provide/VB

data/NN|NNS service/NN ,/SYM…

…
… on/IN the/DT pending/VBG spinoff/NN disclosed/VBD that/IN….

…
Penn Treebank コーパス品詞タグ付けテストデータ…. than/IN the/DT pending/JJ deal/NN suggests/VBZ ./SYM…

30

品詞が曖昧な単語を含む文(118文)

全ての単語の品詞が確定した文(1,480文 or 2,960）

全ての単語の品詞が確定した文 (11,840文）

曖昧なアノテーションを用いた品詞付与実験

実験の設定
入力xｔの素性：二値素性– 単語自身の文字列– 単語末尾1,2,3 文字列– 先頭が大文字– 先頭が数字– 先頭が大文字かつドット（．）を含む– 全て大文字– 全て小文字– ハイフン（-）を含む– 句読点を含む，文の最後が“,”，“?”，“!” で終わる
CRFは1次のマルコフモデル

31

曖昧なアノテーションを用いた品詞付与実験

提案手法との比較手法
品詞の曖昧性をルールによって解消し学習データとする
That/DT suit/NN is/VBZ pending/VBG|JJ ./SYM →（品詞を一つ選択） That/DT suit/NN is/VBZ pending/VBG ./SYM
1. ランダム： 乱数によって曖昧な品詞集合から1つ品詞を選択
pending/VBG|JJ→ pending/JJ
2. 記述順： 最初に記述された品詞を選択
pending/VBG|JJ → pending/VBG
3. 頻度順： 高頻度の品詞を選択
pending/VBG|JJ → pending/VBG（VBGの頻度 ＞ JJの頻度）32曖昧な品詞タグからの学習
品詞タグ付けタスクの性能（試行５回の平均）
曖昧性をルールで解消に比べて安定した性能（データ全体の性能を保持しつつ、曖昧な品詞の単語の性能も満たす。）
評価指標：

全体正解率

曖昧語正解率

全単語品詞タグ正解数
100
全単語出現数
1w の品詞タグ正解数
100|A|w Aw の出現数
A:曖昧な品詞アノテーションが存在する単語82 種の集合

実験結果

品詞確定文
(1,480文)

品詞曖昧文 +（118文）
品詞確定文(2,960文)
33

部分的かつ曖昧なラベル付き構造データからのマルコフ条件付確率場の学習

発表の概要
研究の背景
– 構造出力問題としての単語分割・品詞付与タスク
部分的アノテーションと曖昧なアノテーション– 部分的かつ曖昧なアノテーションと教師付き学習の定式化
部分的かつ曖昧なアノテーションを用いた条件付確率場の学習– 条件付確率場(Conditional Random Fields: CRF)
– 周辺尤度最大化による学習法の提案
実験– 単語リストによる部分的アノテーションを活用した日本語単語分割の分野
適応実験– Penn Treebank コーパスの曖昧なアノテーションを用いた品詞付与実験
まとめと今後の課題
34

まとめと今後の課題
曖昧かつ部分的アノテーションを用いた条件付確率場の学習方法提案– 日本語単語分割の分野適応実験において、部分的アノテーションによって効率的な適応先性能向上を実現– Penn Treebankコーパスに存在する曖昧な品詞タグからの学習において、ルールによる解決に比べて安定的な性能を示した
今後の課題– 部分的アノテーションの追加に関して必ずしも性能が単調増加しない
アノテーション数500-800の区間で短く切るべき単語を誤って長めに区切るエラーが増加。ラベルエントロピーによる選択的サンプリングでは、長めの単語が500-700に選択されていた。
性能劣化→単語非境界ラベル（×）が学習データに多く出現
部分的アノテーションによる分布の歪みの補正が必要
97

argmax

96mrg
F9594
93
92
00
10020

030

040

050

060

070

080

単語アノテーション数35

090.555
0848
13 14 6/ 9 a2/p/a1mco