混沌系工学特論 配布資料 #7
担当 : 井上 純一 (情報科学研究科棟 8-13)
URL : http://chaosweb.complex.eng.hokudai.ac.jp/˜j inoue/

平成 17 年 1 月 17 日

目次
3

例題からの学習と汎化

3.1

101
学習機械パーセプトロン . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
3.1.1
3.1.2

3

拡張 Hebb 則とその収束性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102
パーセプトロンの収束定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 102

3.2
3.3

教師機械の導入 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 104

3.4

統計力学による性能評価 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

学習の 2 つの指標 — 訓練誤差と汎化誤差 — . . . . . . . . . . . . . . . . . . . . . . . . . . 105

3.4.1

解空間とギブス学習 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 107

3.4.2
3.4.3

学習曲線の評価 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 108
例題数無限大での漸近評価 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 111

例題からの学習と汎化
ここからは神経回路網の例題からの学習 (learning from examples) を統計力学の方法を用いて調べて行くことにする. この「学習」を既に述べたように「外界からの信号 (環境) に応じて自らの構造を変化させていくこと」と定義するのであれば, 神経回路網の場合には素子間の結合を変えること (調節すること)がここでの学習に相当する. そのときの学習の仕方として大きく次の 2 種類 :• 教師あり学習 (supervised learning)• 教師なし学習 (un-supervised learning)が考えられる. 前者は回路網に与える入力信号と, それに対する望ましい出力が陽に与えられる場合の学習であり, この入出力関係のことを例題 (examples, あるいは training sets) と呼ぶ. 一方, そのような例
題が陽に与えられない学習を考えることもできる. 例えば, [連想記憶の数理] のときに学んだシナプス結合の学習では, 記憶させたいパターン ξ µ を各結合 wij に分散的に蓄えさせる段階で
µ+1
wij

=

µ
wij
+

1 µ µ
ξ ξ
N i j

(1)

のような学習則を採用した. この各々のパターン ξ µ に対する望ましい出力 (回路網の状態) : S はそのパターン ξ µ そのものであるが, そのこと自体を学習則 : (1) 式は用いているわけではない (実際の回路網のµ µ

出力値に応じて結合を変えているわけではなく, パターンの個数だけ (1) 式で ξi ξj を足しあげているだけ101

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)である). このような学習を教師なし学習と呼んでいる. ここでは主に前者の教師あり学習を考えることにする.
また, 与えられる例題の用い方として• バッチ学習 (Batch learning)• オンライン学習 (On-line learninig)の 2 つの様式が考えられる. 前者は学習機械がいくつかの例題をまとめて受け取り, その例題全てに正解を与えるように自分の結合を変えていくような学習様式であり, 一方, 後者は学習機械に一つずつ例題が与えられ, その例題に対する結合変化を終えた段階でその例題は破棄され, 新たな例題が一つ与えられる, というように逐次的に学習が進んで行く. ここでははじめにバッチ学習について学び, その後にオンライン学習
について見ていくことにしょう.
計算時間 (処理時間) の観点から言って, ロボット制御などに神経回路網の学習を適用する際には, いくつかの例題をかき集めてその学習機械に与え, その全てに正解するように結合を調節することは, リアルタイ
ム処理が重要となるこの種の課題には向いておらず, オンライン型の学習を用いた方が好ましい. しかし,一般的にオンライン学習は後に見る「汎化誤差」という指標で評価される精度がバッチ学習に比べて落ちる場合が多く, 学習則の工夫等が必要となってくる.

3.1

学習機械パーセプトロン

まずは代表的な学習機械であるパーセプトロンについて復習し, その学習を簡単に述べよう. パーセプト
ロン自体は [連想記憶の数理] で既に学んだように, 出力 y が入力ベクトル x = (x1 , x2 , · · · , xN ) に対して
N
y = sgn(w · x) = sgn
wi xi
(2)
i=1

で与えられるものである. このパーセプトロンに対して, 入出力の組 : (x, y) を与え, それを実現させるよ
うにある規則によって結合を変化させることをここでの学習と呼ぶとすれば, どのような規則が存在し, その規則で状態更新した結合が有限の状態更新で収束するのか否かを確認しておくことは意味のあることであろう. そこで, ここでは拡張 Hebb 則という学習則を導入し, それの収束性を議論してみることにしょう.

3.1.1

拡張 Hebb 則とその収束性

入出力 (x, y) に対して, パーセプトロンの結合ベクトル w は次の更新式に従うものとする.

w(n + 1)= w(n) + y x(3)

つまり, その時点での入力 x に対応する出力の符号に応じて１ステップ手前の結合に入力ベクトルを足して (引いて) 行くわけである.
このとき, 更新式 (3) が収束するのか, 言い方を換えれば, 線形分離可能な望ましい入出力の組 : (x, y) の全てに対して正しい結果を出すような結合を得るためにはどのくらいのステップ数 tneed が必要になるのかを調べることが重要になる.

3.1.2

パーセプトロンの収束定理

x21 + · · · + x2N = 1 のように規格化されているものとし, 入出力の組 : (x, y) の全てに対して正しい結果を出すような結合を w∗ と名づけることにこの問題を明らかにするため, まずは入力ベクトル x が |x| =ここは 102 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

しょう (図 1 参照). 簡単のため, この結合も |w∗ | = ∗∗ )2 = 1 のように規格化されているもの(w1 )2 + (wNとする. このとき, δ という量を次で定義しておく.
yx
w*

yx

w* x=0

図 1: 結合 w∗ は全ての入出力に対して, y (w∗ · x) > 0 となり, 正解を与える結合である.

δ=

min(x,y)∈F {y · (w ∗ · x)} > 0(4)

幾何学的に見ると, この δ という量は任意の入力ベクトル x と「正解」「不正解」の分離面 : w∗ · x = 0 間の距離のうち, 最も短いものとなっている. また, F は線形分離可能な入出力の集合であり, w ∗ は全ての入出力に対して正しい答えを出す「正解」であるから, 全ての (x, y) ∈ F に対して y(w ∗ · x) > 0 であることに注意しておく (図 1 参照).

w(n) を n ステップ目の修正で得られる結合ベクトルとするのであれば
w ∗ · w(i + 1)=w∗ · (w(i) + y x) = w∗ · w(i) + y (w∗ · x)≥w∗ · w(i) + δ

(5)が成立する. 従って, 上記の操作を i = 0 から n − 1 まで繰り返し行えばw ∗ · w(n) ≥nδ + 0(6)が満たされる. ここで, 0 = w∗ · w(0) である. これは学習スタート時における正解と学習機械の結合の内積である. 以下では 0 = 0 として議論を進める. これは w(0) = 0 であると考えても良いが, w(0) が有限の場合でも, 0 = 0 は正解から最も遠い初期条件から学習をスタートさせることを意味するので, この最も難しい場合に関して収束までに必要なステップ数を評価すると考えれば我々の目的に即している. しかし,以下では簡単のため w(0) = 0 として話を進めよう.
このとき |w(i)|2 は y (w(i) · x) は常に正であることを考えれば学習の状態更新式 (3) に対して

|w(i + 1)|2=

|w(i) + y x|2 = |w(i)|2 + 2y (w(i) · x) + y 2 |x|2<

|w(i)|2 + 1(7)となり, 従って, これを繰り返し用いることにより|w n | <√n(8)
ここは 103 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)が成り立つ. ところで, |w∗ | = 1 であるから, 任意のベクトル w に対し,G(w) =

w∗ · w≤1|w|(9)w∗ · w(n) √≥ nδ|w(n)|(10)が成り立つことに注意すれば, (6)(8) 式から

G(w(n)) =√nδ > 1, すなわち n > δ −2 であれば G(wn ) > 1 となり G は常に 1 以下であることに矛盾してしまうので, n ≤ tneed = δ −2 である. 従って, パーセプトロンについての学習則が収束するためには,となる. 従って,どんなに多くとも tneed = δ −2 ステップあれば良く, アルゴリズムはこのステップ内で正解を得て終了する.
ところで, 上記のように全ての例題に対して正解を与える結合の更新式に関する反復数がわかったとは言うものの, 得られた結合が一体何を意味するのかということが気になる. そもそも, 全ての可能なパター
ン 2N 個の中でどのように線形分離なパターンを選んだらよいのであろうか ?

3.2

教師機械の導入

ここでは簡単のため, 入力層と出力層のみからなる単純パーセプトロン (simple perceptron) を考える. また, 学習の様式として教師機械1 及び生徒機械を用意し, 生徒機械が教師機械から学ぶ, 教師あり学
習を考えることにする. このように, 教師機械であるパーセプトロンからの入出力 (σT , ξ) を例題とするのであれば, 生徒機械が受取る例題は全て線形分離可能なものであることは明らかである. なお, 全ての可能な入出力の数 2N 個の中のいくつがパーセプトロンの実現できる入出力なのかが気になるところであるが,グラフ理論, 組み合わせ理論, 統計力学的手法など様々なアプローチにより, およそ 2N 個であることがわ
かっている2 .
さて, 入力数が N の単純パーセプトロンはその結合ベクトルのみで特徴付けられるのであるから, 教師機械の結合ベクトルを T = (T1 , T2 , · · · , TN ) とし, 生徒機械の結合ベクトルを J = (J1 , J2 , · · · , JN ) と置こう. こµのとき教師あり学習の枠組みでは, 生徒機械は教師の提示する P 個の入出力の組 : {ξµ , σT },から自分の結合ベクトルを変更して行く (学習して行く). ここで ξ

σTµ

=

µ

sgn (T · ξ ) =

N

i=1

µ

µ = 1, · · · , Pµ
及び σT は sgn(· · ·) を符号関数として

Ti ξiµ(11)を満たさなければならない.
このとき生徒機械の行う学習は, 例題 {ξ µ , σTµ } から結合 J を決めることであり, P 個の例題全てに対して正しい答えを出す結合 J を学習により獲得できたとすれば
N


µ
µ
µ
σ
= sgn (J · ξ ) =
Ji ξi

(12)

i=1

に対して

σµ

= σTµ

∀ (µ ∈ 1, · · · , P )(13)が成立する (図 2 参照).

1 「機械」という言葉を頻繁に用いるが, この講義では全て単純パーセプトロンを指していると思ってよい.

2 このことから, 教師機械の出力からではなく, ランダムに線形分離可能なパターンを選び出すことがいかに難しいかがわかるであろう. そのようなパターンが選び出される確率は 2N/2N であり, 入力次元が大きくなればこの確率は限りなくゼロである.

ここは 104 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

ξµ1
ξµ2

T

TeacherσTσStudentJξ µN
図 2: ここで扱う「教師あり学習」. 教師, 生徒共に単純パーセプトロンであり, 入力 µ に対し, σT = σ となるように生徒機械は結合 J を調節して行く.

3.3

学習の 2 つの指標 — 訓練誤差と汎化誤差 —ここまでで簡単にではあるが, 教師あり学習の問題設定を行った. 次にすべきなのは, 学習がどの程度巧く行われたかに関する指標を決めることである. この指標の一つは訓練誤差 (training error) と呼ばれるものでありP

t (J ; {ξµ }, T ) =1 d(J; {ξµ }, T )
P µ=1

(14)

d(J; {S}, T ) =Θ(−σT σ)(15)で与えられる. ここで Θ(· · ·) は階段関数である. これは見ての通り, 与えられた例題に対する誤り率である.
しかし, この訓練誤差のみからは生徒機械がどの程度巧く教師機械を「模倣できた」かは解らない. 特に
例題数が少ない場合には, その少数の例題に対してのみ正しい入出力を返す機械が出来上がっている可能性があるからである (図 3 参照.). そこで有限個の例題に対して結合 J を獲得した回路網に対し, その汎化
誤差 (generalization error) と呼ばれる量 :(J ; T ) =

PS (S)d(J; {S}, T )

(16)

{S }

を導入する. ここで, 入力ベクトルに関する分布 PS (S) で d の平均をとっているのは, 提示された例題を含む全ての入出力に対する誤差を学習の指標とするためである3 .
訓練誤差 t と汎化誤差  の定義より, 訓練誤差は提示された有限個の例題 ξ µ から求められた汎化誤差の「推定値」とみなすことができる. また, この両者の差は例題数の増加とともに (確率的に) 小さくなることが予想される. つまり, ある正の数 δ に対して, 次のように定義される確率 P :P=

Prob(|t − | > δ)

(17)

は例題数 P の増加とともに減少して行くことになる.

3 真の意味で平均的なパフォーマンスを求めるためには結合 J 及び T に関する分布 P

J (J ), PT (T ) に関する平均操作も行うべきであることを注意しておく. 例えばこれらの結合が一様分布から生成されたものであれば PS (J ) = δ(J 2 −N ), PT (T ) = δ(T 2 −N )と置くことになる.

ここは 105 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

T
+
0

ooo

θ*

xx

oooo

1

S
+
0

θ xx

ooo

oooo

1

図 3: 簡単な 1 次元閾値入出力機の学習. 教師機械はパラメータ θ∗ を有し, 入力 x が 0 ≤ x < θ∗ の場合には +1 を, θ∗ ≤ x ≤ 1の場合には −1 を返すとする. このとき, この入出力関係から生徒機械は可変なパラメータ θ を調節してゆくのだが, これがこの機械の「学習」である. 図のような θ を生徒機械が学習により獲得したとすると, 丸印を付けた例題に対しては確かに教師機械と同じ出
力を返してうまくいっているように見えるが, しかし, バツ印をつけた問題に対しては間違った答えを返す (網模様部分に落ちた入力に対しては全て間違う). 有限個の例題の学習に成功しているからといって, それが必ずしも信頼のおける機械であるとは言えないことの一例である.

✬✩問 10 :
図 3 の教師機械, 生徒機械の t 番目の入力ベクトル x(t) に対する出力 σT (t), σS (t) は式で書けば

σT (t) =sgn[θ∗ − x(t)](18)

σS (t) =sgn[θ(t) − x(t)](19)となる. そこで, 生徒機械の持つパラメータ θ(t) の学習則をθ(t + 1)= θ(t) − λ σT (t)Θ[−σT (t))σS (t)](20)

で与えることにしょう. ここに Θ(· · ·) は階段関数である. これは生徒機械/教師機械の出力値が異なる場合のみ θ の状態更新が行われ, 更新される場合には教師機械の出力とは逆符号で λ だけ θ が調整されることを意味する.
そこで, 各ステップ t で入力 x(t) を [0, 1] の一様乱数として選び, 教師/生徒両機械に与えることにより, 更新式 (20) を計算機上でシミュレートし, θ(t) がどのような確率過程に従うのかを θ(t) をプロットすることにより確かめよ. また, 学習の各ステップでエラー : E(t) = (θ∗ − θ(t))2 を測定し, この振る舞いも同様にプロットせよ. ここで, 学習係数 λ は小さな値で一定値に選んでも, λ 自体にもステップ依存性を持たせ, λ = λ0 e−at のような「減衰項」として扱っても良い. この選び方は各自の考察に任せるが, 少なくとも(a) λ = 比較的小さな一定値(b) λ = λ0 e−atの 2 通りは必ず確かめてみること.
なお, 正解 θ∗ , 及び, 初期値 θ(0) は [0, 1] の間で各自が適当に設定せよ.
✫✪
ここは 106 ページ目

大学院 混沌系工学特論 2004

3.4

学習と汎化の数理 part 1 (担当 : 井上 純一)

統計力学による性能評価

以上で教師あり学習の枠組みで学習と汎化を定義した. ある学習則の下に出来上がった学習機械が「どの程度信頼のおけるものであるかどうか」の評価指標は汎化誤差により与えられる. 従って汎化誤差の評
価, つまり, 例題数の増加と共に汎化誤差がどのように振舞うか — 学習曲線 (learning curve) — を求めることは, 学習理論におけるメインテーマの一つである4 . そこで, ここではこの学習曲線を統計力学的手法に基づいて評価する手続きを紹介することにしょう. ただし, 以下の議論では入力次元 (結合ベクトルの次元) N と例題数 P が両者とも無限大に取れる場合を扱い, 両者の比を α とすると P, N → ∞ でP O(1)
N

α =

(21)

であることを仮定して議論を進める.

3.4.1

解空間とギブス学習

簡単のため生徒機械, 教師機械の結合ベクトルは次の規格化条件 :

J2

N


=

Ji2 = N(22)

Ti2 = N

(23)

i=1

T2

N


=

i=1

を満たしているものとする. これは言い方を変えれば, J , T がデルタ関数 δ(· · ·) を用いて分布 :PJ (J ) =

δ

N



Ji2 − Ni=1

PT (T ) =

δ

N


(24)


Ti2 − N(25)i=1から生成されたということである. この場合, N 次元球面上に J , T があるということだから, 汎化誤差は球の中心を通り J に垂直な面と, 球の中心を通り T に垂直な面に囲まれる部分の全球面に対する比で与えられる5 . 従って, J と T のなす角度を θ とすれば



=

θ
π

(26)

となる. これはまた, 結合ベクトル J , T の内積を入力数 N で割ったものを R とすると

R

=
=

N
1
1 
Ji Ti
(J · T ) =
N
N i=1
1√ √
1
|J ||T | =N N cos θ = cos θ
N
N

(27)

と書けるから, 汎化誤差はこの R を用いて=1
arc cosRπ(28)と書き直すこともできる.
4 「学習曲線」とはもともと心理学から来た用語らしい.

5 分かりづらい場合には 2 次元の場合を図示してみること. 図 4 のようになります.

ここは 107 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

T θJ
θ

θ

図 4: 解空間. 斜線部に落ちた例題に関しては誤った答えを出す.
ところで, ある有限個の例題の答えを正確に出力することのできる J は (22) 式を満たす空間の中のある有限部分空間 (version space, あるいは解空間と呼ばれる) を作るが, この中で, どの J を選ぶかによって異なる汎化能力を持つ機械が出来上がる. この解空間において一つの J をランダムに選ぶ戦略 (学習則)をギブス学習 (Gibbs learning) と呼ぶ. 次の節ではギブス学習の学習曲線を具体的に求めてみることに
しょう.

3.4.2

学習曲線の評価

前節の最後で, ある例題に対して正解を与える J は (22) 式を満たす全空間の中で, 「解空間」と呼ばれる部分空間を形作ることを見た. 当然のことながら, この解空間の「体積」は例題数の増加とともに減少して行く (図 5 参照.) 6 . そこで, Ω0 () を J , T の内積が R = cos(π) のときの J 空間の体積とすれば, 生
徒機械と教師機械が同じ出力をする確率は  の定義から 1 −  であるわけだから, P 個の例題が独立に与えられたとすれば，その時点での解空間の体積 ΩP () はΩP () = ΩP −1 ()(1 − ) = ΩP −2 ()(1 − )2 = · · · = Ω0 ()(1 − )P(29)で与えられる. 実際, 0 <  < 1 であるから 1 −  < 1 であり, ΩP () は例題数の増加とともに減少して行くことに注意しょう.
さて, ΩP () を N, P → ∞ の極限で評価することになる. まず, 定義より Ω0 () は


 ∞
 ∞
1
(J · T ) − cos(π)Ω0 () =···dJ δ(J 2 − N )δN−∞−∞と書ける. ただし, dJ ≡

j dJj と定義した. この式の中のデルタ関数をフーリエ変換で書き直すと

δ(J 2 − N ) =

δ

(30)

1
(J · T ) − cos(π)
N


=

 ∞

dJˆ iJˆ( j Jj2 −N )
e
−∞ 2π
 ∞
dT̂ iT̂ ( j Jj Tj −N cos π)e−∞ 2π/N(31)(32)

6 極端な場合として, 無限個の例題に対し正解を与えることのできる J は解空間の中で J = T となる 1 点にまで収縮していることを確認してみるとよい.

ここは 108 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

P=0

J=T
P=inftyJ

J

P=P
図 5: 解空間は例題数の増加とともに収縮して行く.
となるから, (30) 式はΩ0 ()

=

 ∞
−∞

···





dJ dJˆdT̂
exp −Jˆ(Jj )2 − T̂
Jj Tj + N Jˆ + N T̂ cos π
2−i∞ (2π) /Njj ∞  i∞  i∞−∞−i∞

 i∞  i∞

N  ∞



ˆ T̂
dJd
ˆ T̂ cos(π)}N {J+ˆ j )2 + T̂ Tj Jje
dJj exp −J(J2−i∞ −i∞ (2πi) /N
j=1 −∞
 i∞  i∞
N
N 
2 

ˆ T̂
dJd
π
T̂
ˆ
N {J+T̂ cos(π)}
2

e
=
exp
(Tj )
2
2
ˆ
Jˆ
4J j=1−i∞ −i∞ (2πi) /N
j=1

=

(33)

ˆ T̂ → iT̂ なる変換を施し, この中の Jj に関するガウス積分をと書き換えることができる. ただし, Jˆ → iJ,
各 j 毎に独立に実行した. すると, 最終的に Ω0 () は
 i∞  i∞ ˆ
dJ dT̂
ˆ T̂ )Ω0 () =
exp
N
Φ(
J,
2
−i∞ −i∞ (2π)

ˆ T̂ ) =Φ(J,21
ˆ + T̂ + Jˆ + T̂ cos πlog(π/J)
2
4Jˆ

(34)
(35)

ˆ T̂ に関する積分はそのままでは実行できないが, P, N が無限大の極限において,のように書ける. 残る J,
これらの積分は既に説明してある鞍点法で評価できる. つまり

∂Φ
= 0,
∂ Jˆ

∂Φ
∂ T̂

=0

ˆ T̂ を Jˆ∗ , T̂∗ とすれば積分はこの点 (Jˆ∗ , T̂∗ ) での被積分関数の値を満たす J,Ω0 () = exp N Φ(Jˆ∗ , T̂∗ )

(36)

(37)

で評価できる. 実際に (36) 式を用いて鞍点を求めてみると

Jˆ∗

=

T̂∗

=

1
1
2 1 − cos2 π
cos π
−1 − cos2 π

(38)
(39)
ここは 109 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

5
4
3

S/N

2
1
0
alpha=0alpha=1
alpha=2
alpha=3
alpha=4alpha=5

-1
-2
-3
0

0.05

0.1

0.15

0.2

0.25
epsilon

0.3

0.35

0.4

0.45

0.5

図 6: 上から α = 0, 1, 2, 3, 4, 5 に対する単位入力当たりのエントロピー S/N の汎化誤差  依存性. α の増加と共に, S/N の極値を与える  は 0.5 から単調に減少していることに注意しょう. また, エントロピーが「状態数の対数」であるとするならば, 状態数の最小値は 1 であるから, エントロピーの最小値は log 1 = 0 のはずである. しかし, このグラフをみると, エントロピーが負にもなり得ている. この理由は状態空間 (解空間) の体積の対数をエントロピーとみなしたため, |ΩP ()| < 1, つまり, S < 0 となり得ることがあるからである．
となるから，これを (35) に代入して

Ω0 ()= expN[1 + log 2π + log sin2 π]2(40)が得られる. 従って解空間の体積 ΩP () は (29) 式から
N[1 + log 2π + log sin2 π] eN α log(1−)ΩP () = exp
2
 

1
1
(1 + log 2π) + log sin2 (π) + α log(1 − )= exp N2
2
≡ exp (S(, α))11(1 + log 2π) + log sin2 (π) + α log(1 − )S(, α) ≡
2
2

(41)
(42)

と決定される (P = N α に注意).

ΩP () は汎化誤差  を与える解空間の体積 — 大雑把には J の取りうる場合の数7 — であるから, これの対数をとることにより得られる S(, α) は解空間のエントロピーに相当する量である. 図 6 にいくつかのα の値に対して, 単位入力数あたりのエントロピー, つまり S/N をプロットしたものを載せる. 各 α の値に対してエントロピーはある値  で極大値を持つが, 極値を与える ∗ とそれ以外の  のエントロピーの差は O(N ) であることから, 前に述べた「アンサンブル」の考え方に従えば, N → ∞ の極限では圧倒的割合
で汎化誤差 ∗ を持つ学習機械が現ることになる. それ以外の汎化誤差を持つ学習機械も出現することはす
るが, それは極めて希なことであるというわけである. よって, 各 α に対して S/N の極値を与える  をプロットした (α) がギブス学習の学習曲線となる. 式で書けば

1
log sin2 (π) + α log(1 − )(α) = arg max

2

(43)

7 J は連続値をとる変数だから, 「個数」とするのは大雑把な見方である.

ここは 110 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

0.16
0.14
0.12

epsilon

0.1
0.08
0.06
0.04
0.02
0
0

50

100

150
alpha

200

250

300

図 7: エントロピー最大化条件 (45) を数値的に解くことにより求めた学習曲線. 例題数 α の増加とともに汎化誤差は単調に減少

する.

である.
ところで図 6 より, α = 0, つまり, 例題を与えていない状況では  = 1/2 となり, 所謂 random guessと同じ性能の学習機械が得られることになり, 直観と合っている. また, 例題数 α の増加とともに, S/N の極値を与える  は単調に減少することも分かり, これも直観と合っている. これらを統合すると, 例題数の増加とともに汎化誤差は 0.5 から単調に減少するというのがギブス学習の学習曲線であることが分かる.

3.4.3

例題数無限大での漸近評価(43) 式を具体的な極値条件として書き下せば
π cos(π)(1 − ) = α,sin(π)

(44)

つまり,

α
tan(π)(45)πが得られる. 図 7 に (45) 式を数値的に解き,  を α の関数としてプロットしたものを載せよう. この図よ
1−=り, 例題数 α の増加とともに  は単調にゼロへと近づくことがわかる. ここで取り上げた例では原理的に教師機械の与える例題から  = 0 となる規則, つまり, T を見つけることができるという意味において「学習可能」な課題である. もちろん, 現実的には教師信号にノイズが加わった場合や, 生徒機械と学習機械の構造上のミスマッチがある場合の方が圧倒的に多いであろう. この場合, ΩP () 自体が単調には減少しなくな
り, ここに述べた解析が困難になるので, 適時工夫が必要となる.
さて, α → ∞ では汎化誤差は非常に小さくなっているはずだから，無限個の例題を与えたとき,   1として (45) 式左辺を展開し, 主要項のみ残す. するとααtan(π)  π = α
1− =
π
π
つまり
1
1

 =
1+α
α

(46)

(47)
ここは 111 ページ目

大学院 混沌系工学特論 2004

学習と汎化の数理 part 1 (担当 : 井上 純一)

-1.5
-2
-2.5

log(epsilon)

-3
-3.5
-4
-4.5
-5
-5.5
-6
1.5

2

2.5

3

3.5
4
log(alpha)

4.5

5

5.5

6

図 8: 学習曲線の α が十分大きい場合のスケーリング則. α が十分に大きければ α−1 則に従う.
がギブス学習の学習曲線の例題数無限大での漸近形であり, 例題数の逆べきでゼロに漸近する. 図 8 に図 7の数値計算で得た結果を対数プロットしたものと, 傾き −1 の直線を重ねて描く. この図より, α が大きけ
れば (47) 式の漸近形に従うことが実際に確認できる.

α = O(1) の領域での学習曲線は個々の学習機械の構造や用いる訓練データの統計的性質に依存するが,α が十分大きな漸近領域での振る舞いはこれらの詳細には依らない, 「ユニバーサル」なものであることが多い. 従って, 学習曲線の漸近形の評価及び, それに基づく学習曲線の分類は学習理論において非常に重要な課題であると考えられており, 様々異なるアプローチから精力的な研究が現在まで進められてきている.

✬✩

問 11 :
この講義でみたように, ΩP () が例題数の増加とともに単調に減少せず, 例題を 1 つ学習するごとにΩ が確率 λ で小さくならない (単調非増加) 場合を考えよう. このとき以下の問いに答えよ.
(1) Ωµ+1 () と Ωµ () の間に成り立つ関係式を求め, ΩP () を Ω0 () と , λ を用いて表せ.
(2) 講義ノートにならって, 解空間のエントロピー S(, α) を計算し,  を α の関数としてプロットせよ. また, α が十分大きな場合の学習曲線の漸近形を求めよ.
✫✪

ここは 112 ページ目