情報処理学会第 80 回全国大会

1K-02
誤ラベルを含むデータ集合を用いた統計的機械学習
美香 †鈴木安田† 山形大学大学院理工学研究科

宗樹 ‡‡ 山形大学大学院理工学研究科
Y − 1 は規格化条件のための定数である．式 (1) の尤度関数を最大1化するパラメータ θ を求める．尤度関数を式 (2) のように拡張する

はじめに
深層学習 [1, 2] の発展によって，パターン認識システムの高い有用性が示されてきている．本稿では，条件付確率で記述される確率的パターン認識システムに注目する．確率的パターン認識システムは機械学習の方法（最尤法）によって最適化される．通常の機械学ことで，最尤法を使う際に捨てていた誤りデータも有効に利用できる最尤法の枠組みが実現する．

3

提案法 2 正誤データを用いない最尤法

習の方法は，教師データ（ラベルデータ）が正しいことを前提とし本節では，ラベルデータのどこに誤ラベルを含むか分からないよているため，誤ったラベルデータが混入する可能性を考慮していな

うなより一般的な場合について考える．通常，誤ラベルがどこにあい．本稿では，ラベルデータに誤りが含まれている場合の，確率的るか不明な場合が多い．2 節ではデータ構成は入力 x(µ) , 出力 y (µ) ,パターン認識システムに対する統計的機械学習の方法を提案する．

正誤データ l(µ) の３つで 1 セットとなっているが, データの正誤情

まず，2 節で，ラベルデータの正誤情報（正誤データ）が既知の場報を知らない状態での学習は正誤データ l(µ) の情報がないことであ合の学習方法（提案法 1）[5] について説明し，次に，3 節で，正誤る．そこで出力データは確率 ρ で誤りになると仮定し，正誤データデータが未知の場合の学習方法（提案法 2）[5] について説明する．

l に対する次のベルヌイ分布 B(l | ρ) = ρl (1 − ρ)1−l を定義する．
尤度関数 L(θ) を拡張し，次の新しい尤度関数を定義する．

実用上は提案法 2 が重要である．提案法 1 に類似の手法が別の観点から提案されている [4]．
しかし，提案法 2 はラベルデータの誤り率 ρ をハイパーパラメーL1 (θ) =タとしてもっており，その値を人手で設定する必要があるという欠N∏

p1 (y (µ) | x(µ) , θ, ρ)(3)µ=1点をもつ．4 節で，ハイパーパラメータ ρ の推定法を提案し，5 節

式 (3) は正誤データを含まないので，データの正誤情報を必要との数値実験により，提案法の有効性を示す．

しない．式（2）の条件付確率 p0 (y | x, l, θ) から l を消すために式 (2) と B(l) をかけて l に関して周辺化すると新しい条件付確率2

提案法 1 正誤データを用いる最尤法

p1 (y | x, θ) が次のように得られる．

本節ではラベルデータの誤り部分が既知の場合の最尤法にp1 (y | x, θ, ρ) =つ い て 考 え る ．ラ ベ ル デ ー タ に 誤 り を 含 む 場 合 の 最 尤 法 は 誤りデータを捨て，正解データのみで学習する．しかし，捨てるρY (1 − ρ) − 1p(y | x, θ) +Y −1
Y −1

(4)

式 (3) の尤度関数を最大化するパラメータ θ を求める．

デ ー タ も 情 報 を 持 っ て い る の で 非 効 率 で あ る ．学 習 デ ー タ をD = {(x(µ) , y (µ) )|µ = 1, 2, . . . , N } と定義する．(x(µ) , y (µ) ) はT4

提案法 2 ハイパーパラメータ ρ の推定µ 番目のデータである．データは入力データ x = (x1 , x2 , . . . , xn )Tとその入力データに対する出力データ y = (y1 , y2 , . . . , yY ) の組
∑Yの構成からなる．yk ∈ {0, 1}, k=1 yk = 1 である．この出力はラについて考える．提案法２はデータの誤り率 ρ がハイパーパラメー

ベルデータと呼ばれ 1-of-K 表現のベクトルである．データ D を用タであり，人手で設定する必要がある．設定値とデータの誤り率 ρ

いた最尤法によりパラメータ θ の最適な値を得ることを考える．尤

が一致しない場合は学習の精度が大幅に下がるためデータの最適な度関数 L(θ) =∏N

本節では 3 節提案法２の誤り率 ρ であるハイパーパラメータ推定

誤り率 ρ を推定する必要がある．

(µ)| x(µ) , θ) とする．
µ=1 p(y正誤データが既知の場合の学習なので，ラベルデータの正誤情報

そ こ で 一 部 の 正 誤 デ ー タ が 判 明 し て い る と す る ．N 個 のを示す正誤データ l(µ) を追加する．l(µ) ∈ {0, 1} は出力データ y (µ)

データ中 M 個の正誤データが判明している場合を考える．

が正解なら 0，間違いなら 1 となるデータとする．尤度関数 L(θ)

正誤データが判明しているデータを M 個のデータからなるを拡張し，次の新しい尤度関数を定義する．

DM = {(x(µ) , y (µ) , l(µ) ) | µ = 1, 2, . . . , M } と す る ．正 誤データが判明してないデータを N − M 個のデータからなる

L0 (θ) =N∏

p0 (y (µ) | x(µ) , l(µ) , θ)(1)はすべてのデータを信用できるので，正誤データあり学習とし考えµ=1

出力 y(µ)が正解データなら lを高くする．出力 y(µ)

DR = {(x(µ) , y (µ) , l(µ) ) | µ = M + 1, M + 2, . . . , N } とする．DM(µ)= 0 となり p(yが間違いデータなら l(µ)|x(µ), θ) の確率(µ)(µ)= 1 となり y 以
外のデータが正解なので，他のデータの確率 (1 − p(y (µ) | x(µ) , θ))ることができる．DR はラベルデータを信用できないので正誤デー
タなし学習とし，提案法 2 を用いて学習することができる．次の新しい尤度関数を定義する．

を高くする．このとき条件付確率は次のように得られる{p0 (y | x, l, θ) = p(y | x, θ)1−l

1 − p(y | x, θ)
Y −1

L2 (θ, ρ) =}l

Statistical machine learning using data including error†Mika Suzuki ‡Yasuda Muneki†Graduate School of Science and Engineering ,Yamagata University‡Graduate School of Science and Engineering ,Yamagata UniversityM∏

p2 (y (µ) , l(µ) | x(µ) , θ)µ=1(2)+N∏

p1 (y (µ) | x(µ) , θ, ρ)(5)µ=M +1

DM は尤度関数の第 1 項に対応し，DR 第 2 項に対応する．p1 (y |∑l=0,1 p2 (y, l | x, θ, ρ) より新しい条件付確率は次のよx, θ, ρ) =1-283

Copyright 2018 Information Processing Society of Japan.
All Rights Reserved.

情報処理学会第 80 回全国大会

100

conventional method
proposed method 1100

proposed method 2conventional method

proposed method 2
proposed method 3

10−1

10−1

10−20.0KLDKLDKLD

10−110−20.20.4

ρ [%]0.60.81.00.0

図 1: 提案法 1 の性能比較

10−20.20.4

ρ [%]0.60.81.00.2

図 2: 提案法 2 の性能比較

うに得られる．

0.4

ρ [%]

0.60.8

図 3: 提案法 3 の性能比較を信用して正解データとして学習する方法しかない．提案法 2 では

p2 (y, l | x, θ, ρ) = p0 (y | x, l, θ)B(l)(6)

すべてのデータが何らかの確率で間違っているとする学習であり，正誤データが未知の場合は高性能である．
図 3 では誤り率を推定する学習である提案法 3 の方が精度が高い

式 (5) の尤度関数を最大化するパラメータ θ, ρ を求める．

ことが分かる．提案法 3 はハイパーパラメータを推定し，各データ5の誤り率 ρ に最適化させるため，提案法 2 のような特定誤り率に影

数値実験響されず，データの誤り率 ρ に関係なく全体的に高性能である．
本節では人工データに対する数値実験を用いて，2〜4 節で提案した提案法 1〜3 の性能を調べる．数値実験では確率モデルとして多値ロジスティック回帰モデル (multi-valued logistic regression;

6まとめMLR)[6] を用いて人工的に最適なデータ確率 p(y | x, θ ∗ ) を設定

本稿では誤ラベルを含むデータ集合をデータの正誤情報により二する．θ ∗ は N (θ ∗ | 0, 1) から生成する．次にデータ D を生成してつの提案手法を用いた新しい統計的機械学習を提案した．またより提案法の学習を行う．データ D の生成過程は以下の通りである．

実用性を考え，3 節の正誤データなし学習を拡張し，誤ラベルの誤∗最適なデータ確率 p(y | x, θ ) に従ってランダムに決められた入り率 ρ を人手で設定するハイパーパラメータの推定法を導出したこ

力 x に対応した出力 y を生成する．この方法でまず N 個のデーとで，従来法の性能の向上を実現することができた．正誤データが∗タを生成する．p(y | x, θ ) から生成された出力はすべて正解デー

あれば 2 節の提案法１，なければ 3 節の提案法２を使い分けることタであるので，確率 ρ（誤り率）でいくつかの出力を選択し，選ばで高精度の学習を得られる．また一部の正誤データが判明しているれた出力の値をランダムに変更する．変更された出力の正誤ラベル

信用できるデータがあれば 4 節の提案法３よりデータの誤り率のハは l(µ) = 1 に変更される．提案法３ではさらに正誤が判明していイパーパラメータを推定するすることで，提案法２よりも更に高精るデータ DM と判明していないデータ DR にラベルを付け, 区別す度の学習が得られる．提案法の枠組みはすべての確率的識別モデルる．プロットは 100 回の試行の平均である．データ数 N = 10000,に対して適用可能である．今後は MNIST などの画像データを用い入力データ n = 10, 出力データ Y = 5 で数値実験を行う．て画像認識への適用を進める．

図 1 に 2 節提案法 1 の誤ラベルデータを考慮する学習と従来法の誤ラベルデータを捨てる学習との比較を示す．図 2 に 3 節提案

謝辞

法 2 のデータ集合に誤ラベルデータを含むことを前提とする学習と従来法のすべてのデータを正解とする学習の比較を示す．図 3 に 4節提案法 3 の一部の正誤が判明しているラベルデータによるハイ本研究の一部は，JSPS 科研費（15K00330，15H03699）及び，JST CREST（JPMJCR1402）の補助を受けて行われたものである.

パーパラメータ ρ を推定した学習と 3 節提案法２との比較を示す．
それぞれの横軸は誤り率 ρ，縦軸はカルバック・ライブラー情報量(Kullback-Leibler divergence;KLD) である．KLD は人工的に設定した最適なデータ確率と最尤法により求まった学習モデルとの差であり，小さいほど精度が良い．
図 1 では提案法 1 が従来法より高精度であることが分かる．従来法は誤りデータを捨てて学習するため学習できる情報が少なく精度が悪い．提案法 1 では捨てるデータも情報を持っているので学習に参考文献[1] 上嶌敏弘（編）: 深層学習，近代科学社，2015.
[2] 岡谷貴之: 機械学習プロフェッショナルシリーズ 深層学習，
講談社，2015.
[3] 杉山将: 統計的機械学習 生成モデルに基づくパターン認識，
オーム社，2011.

図 2 では提案法 2 が従来法に対して全体的に高精度であることが[4] T. Ishida, G, Niu, W. Hu and M. Sugiyama: Learning from
Complementary Labels, In proceedings in NIPS2017, 2017.
[5] 小堀美香，安田宗樹: 誤り教師データを含むデータセットを用分かる．誤り率 ρ = 0.8 の特異点付近で精度が下がる原因は誤り率

いた統計的機械学習に関する研究，情報処理学会第 79 回全国

ρ が出力の数 Y と ρ = 1 − Y1 の関係になる時である．この場合はすべての出力データの確率が同等でり，ρ を式 (3) の尤度関数に代入するとパラメータの項が 0 になるため学習することができない．

[6] C. M. Bishop: Pattern Recognition and Machine Learning,
Springer, 2006.

取り入れたことで精度が向上した．

大会，2017.

通常の最尤法では誤り部分を知らないということはすべてのデータ

1-284

Copyright 2018 Information Processing Society of Japan.
All Rights Reserved.