Learning Latest Classifiers
without Additional Labeled Data
(IJCAI 2017)熊谷 充敏（NTTセキュアプラットフォーム研究所）
岩田 具治 (NTTコミュニケーション科学基礎研究所)

Copyright©2017 NTT corp. All Rights Reserved.

背景NTT Confidential• 多くのドメインで分類器の性能は経年劣化− セキュリティ、IoT、マーケティング、…

• ラベルありデータによる分類器の更新が有効⇒しかし、ラベルありデータの収集は高コスト• 本研究では、ラベルありデータに加え、ラベルなしデータを用いて性能劣化を抑える手法を考える

Latestclassifiers

GDF Morales et al, IoT Big Data Stream Mining Tutorial

Copyright©2017 NTT corp. All Rights Reserved.

1

経年劣化の２つの主要因
NTT Confidential• 分類器の経年劣化の要因は主に２つ− 新たな特徴(features)の出現− データ分布の変化

増加

スパムメールにおける特徴の増加

スパムのデータ分布の変化(時期の異なるスパムをt-SNEでマッピング)
Copyright©2017 NTT corp. All Rights Reserved.

2

新たな特徴の出現
NTT Confidential• “特徴”の数が時間とともに増えることがある− スパムメール分類：
スパムメールを表す単語(特徴)が増える− センサーデータマイニング：
新たなセンサー(特徴)が設置される• 学習データに現れなかった“特徴”が増えると、分類性能が落ちるfeaturessamples

学習データ

特徴に重複がない⇒分類不可

テストデータCopyright©2017 NTT corp. All Rights Reserved.

3データ分布の変化
NTT Confidential• 学習/テストでデータ分布が変化することがある− スパムメール,マルウェア,センサーデータ,BCI,…

• データ分布が変化すると、最適な決定境界も変わるため、分類性能が落ちる
乖離
学習データから推定された決定境界

学習フェーズ

テストデータに最適な決定境界
テストフェーズ
Copyright©2017 NTT corp. All Rights Reserved.

4本研究の概要
NTT Confidential• ラベルなしデータを活用し、“新たな特徴の出現”と“データ分布の変化”という２つの問題を同時に解決する分類器学習法を提案• それぞれの問題を解ける研究はいろいろある−−

D. Williams et al, Incomplete-data classification using logistic
regression,ICML2005
H.Shimodaira et al, Improving predictive inference under covariate shiftby weighting the log-likelihood function, JSPI2000• 両問題を明示的に扱い、かつ同時に解く点が新しいところ
Copyright©2017 NTT corp. All Rights Reserved.

5

タスク（1/3）
NTT Confidential

入力：• ある時刻までに得られたラベルありデータ：
ｎ番目の𝑫𝒐 次元特徴ベクトル•クラスラベル（0 or 1)

それ以降の時刻に得られたラベルなしデータ(テストデータ)：

m番目の𝑫𝒐 + 𝑫𝒉 次元特徴ベクトル

注：ラベルなしデータはラベルありデータの後に収集されるため、ラベルなしデータには新しい特徴𝒙h が含まれる
Copyright©2017 NTT corp. All Rights Reserved.

6

タスク（2/3）データ分布の変化に対する仮定
NTT Confidential•

学習/テストのデータ分布の変化のモデルとして、共変量シフト(covariate shift)の仮定をおく

𝒑 𝒙 ≠ 𝒑′ 𝒙 , 特徴ベクトル𝒑 𝒚 𝒙 = 𝒑′ (𝒚|𝒙) クラスラベル•𝑝：学習時の分布𝑝’：テスト時の分布

この状況は多くの実問題で現れることが報告されている⁃⁃⁃

スパムメール分類
HIV検査
センサーデータによる行動認識
Copyright©2017 NTT corp. All Rights Reserved.

7

タスク（3/3）
NTT Confidential

出力：
テスト分布𝑝′ (𝒙o , 𝒙h )からのサンプルを精度よく分類できる分類器

missing
missing

本タスクで取り扱うデータ
Copyright©2017 NTT corp. All Rights Reserved.

8

提案法 (1/9)
NTT Confidential•

テスト分布における汎化誤差Gを最小化する分類器hを求めたい

任意のロス関数••

テスト分布

通常はテスト分布からのサンプルでGを近似して求める
今はテスト分布からラベルｙのサンプルが得られない⇒単純には求められない

Copyright©2017 NTT corp. All Rights Reserved.

9提案法 (2/9)
NTT Confidential•

仮定𝑝 𝑦|𝒙o , 𝒙h = 𝑝′ (𝑦|𝒙o , 𝒙h )を使うと、Gはテスト分布のラベルyを使わずに書ける

学習分布

•

さらに以下の仮定をおく

𝑝 𝒙h |𝒙o = 𝑝′ 𝒙h |𝒙o
学習テスト• ラベルありデータには𝒙h はない⇒学習時の分布p 𝒙h |𝒙o を直接知ることは不可能• そのため、学習/テストで両分布が等しいと仮定
Copyright©2017 NTT corp. All Rights Reserved.

10提案法 (3/9)
NTT Confidential•

汎化誤差Gは、ラベルありデータ𝐷の重み付き経験損失で近似できる

Copyright©2017 NTT corp. All Rights Reserved.

11提案法 (4/9)
NTT Confidential•

汎化誤差Gは、ラベルありデータ𝐷の重み付き経験損失で近似できる

ラベルありデータ𝒙o𝑛 における未観測の特徴𝑥𝑛h を予測する分布
ラベルありデータ𝒙o の分類器学習における重要度(密度比)を表す量•

条件付き分布𝑝(𝒙h |𝒙o )と密度比𝜏(𝒙o )が決まれば、分類器ｈを学習できる
Copyright©2017 NTT corp. All Rights Reserved.

12提案法 (5/9) 条件付き分布
NTT Confidential•𝑝(𝒙h |𝒙o )のモデルとしてガウス分布を仮定

A

•

=BC

diag(λ) =パラメータ𝐁, 𝐂, 𝐚, 𝝀は、仮定𝑝 𝒙h |𝒙o = 𝑝′ 𝒙h |𝒙oにより、ラベルなしデータだけで推定可能
Copyright©2017 NTT corp. All Rights Reserved.

13

提案法 (6/9) 条件付き分布
NTT Confidential• MAP推定でパラメータを推定
尤度

ガウス分布

ガウス分布

ガンマ分布

Copyright©2017 NTT corp. All Rights Reserved.

14

提案法 (7/9) 密度比τ 𝒙o•𝑝′ (𝒙o )=𝑝(𝒙o )NTT Confidential

ナイーブな方法⁃ 𝑝′ 𝒙o と𝑝(𝒙o )をそれぞれ独立に推定し、比をとる⁃ 比を取ることで推定誤差増大の恐れあり• 密度比推定法
𝑝′ (𝒙o )⁃ 密度比 𝑝(𝒙o) を“直接”推定する方法⁃ ナイーブな方法より高性能⁃ 様々な方法が提案

Copyright©2017 NTT corp. All Rights Reserved.

15

提案法 (8/9) 密度比τ 𝒙o•𝑝′ (𝒙o )=𝑝(𝒙o )NTT Confidential

Unconstrained LSIF1•

密度比𝜏を線形モデルで表す•パラメータ𝜶は目的関数Jの解析解として得られる正則化項

𝜶=1

T.Kanamori et al, Efficient direct density ratio estimation for non-stationarity adaptation and outlier detection,NIPS2009
Copyright©2017 NTT corp. All Rights Reserved.

16

提案法 (9/9)
NTT Confidential••

推定した条件付き分布𝑝(𝒙h |𝒙o )と密度比𝜏(𝒙o )を経験損失Gに代入
識別モデルとしてロジスティック回帰を採用

p 𝑦 𝒙, 𝒘

1=, 𝒘 = 𝒘o , 𝒘h ∈ ℝ𝑫𝒐+𝑫𝑯1+exp −𝒙∙𝒘
新特徴𝒙h に対応する分類器のパラメータ•

分類器のパラメータ𝒘 = (𝒘o , 𝒘h )は勾配ベースの最適化法で学習可能

Copyright©2017 NTT corp. All Rights Reserved.

17

実験NTT Confidential

データセット•••Spam: スパム/ハムメールの公開データセット1
URL-reputation：悪性/良性サイトの公開データセット2
Malicious-proxy：悪性/良性の通信データ

比較手法•

LR：ラベルありデータのみで学習•

ILR：𝑝 𝑥 h 𝑥 o で新特徴を補完して学習••

IWLR：密度比推定uLSIFによる分類器学習
MER：ロジスティック回帰の半教師あり学習版

特徴増加のみ対応
分布変化のみ対応
特徴増加のみ対応

実験設定• ある時刻までのデータをラベルありデータ、それ以降のデータをラベルなしデータとテストデータに設定• 分割時刻を変えながら10個のデータセットを生成し，AUCの平均で評価
1
2

http://www.comp.dit.ie/sjdelany/Dataset.htm
https://archive.ics.uci.edu/ml/datasets/URL+Reputation
Copyright©2017 NTT corp. All Rights Reserved.
18

実験：
ラベルあり(N個)とラベルなし(M個)の比率を変えた場合の特徴数
NTT ConfidentialCopyright©2017 NTT corp. All Rights Reserved.

19

結果:ラベルあり(N個)とラベルなし(M個)の比率を変えた場合のAUC
Proopsed

NTT Confidential

多くのケース(11/15)で提案法が最高性能を達成
Copyright©2017 NTT corp. All Rights Reserved.

20

結果：行列分解のパラメータK依存性
NTT Confidential

KA

•
•

=B

C

K

Kの増加⇒AUC向上ではない
分類性能の観点からは小さいKでも十分であることが示唆される
Copyright©2017 NTT corp. All Rights Reserved.

21

まとめNTT Confidential• 分類器の性能劣化の要因として、“新たな特徴量の増加”と“データ分布の変化”を仮定• ラベルあり/なしデータを使って両問題を解決する分類器学習法を提案• 実データを使った実験で有効性を確認

Copyright©2017 NTT corp. All Rights Reserved.

22