情報論的学習理論テクニカルレポート 2009
Technical Report on Information-Based Induction Sciences 2009 (IBIS2009)

Virutual Concept Drift 環境における RBFNN のモデル選択
Model selection for RBFNN under Virtual Concept Drift Environments
山内康一郎∗
Abstract: In this research, a model-selection criterion for RBFNN under virtual concept
drift environments is proposed. Under such environments, the prior distribution of learning
samples is changing over time so that online learning tasks usually cause catastrophic
forgetting. Such environments are parts of covariate shift.
First of all, a statistical model of such environments is constructed. Then, we applied
the learning strategies under covariate-shift using the statistical model. The method also
provides the model selection criterion. Moreover, several strategies for reducing the computational complexity are also discussed.
Keywords: Virutal Concept Drift, 追記学習，共変量シフト，RBFNN, 汎化誤差，分布予
測，t 分布, 情報量基準1

まえがき
同時分布 P (x, y) = P (y|x)P (x) から発生する学習サンプル (xb , yb ) (b = 1, 2, · · ·) によって，入力ベクトル xと出力 y との間の条件付き分布 P (y|x) を Radial Basis

Function Neural Network(RBFNN) に学習させることを考える．これを online 学習で実現するには，独立かつ同一分布 (i.i.d) の x が与えられることを前提としなければならない．しかし，現実の環境では P (x) 自体が時間と共に変化することが多く online 学習が Catastrophic

forgetting を起こして失敗する．これをここでは Virtual
Concept Drift 環境 [1] と呼ぶ．
この問題を克服するため多くの研究者が追記学習法を提案してきた [2–9]. これらのシステムは忘却を抑制しつつも，個々の学習サンプルを一度提示されるだけで学習が完了するという one-pass-learning を可能とする．
これは，学習サンプル提示直後に運用期間に移ったネットワークが，いかなる入力が与えられても可能な限り誤りリスクを少なくするための学習戦略である．つまり，
少なくとも既学習サンプルに似た入力に対しては確実に正解できるようにしておくことによって，誤りリスクを最小限に抑えようとするヒューリスティックな学習戦略である．これはすなわち，未来に与えられるサンプル分
布が既学習サンプル分布を包含し，未知のサンプルを含∗ 中部大学工学部 情報工学科, 〒 487-8501 愛知県春日井市松本町

1200, tel. 0568-51-9391, e-mail yamauchi@cs.chubu.ac.jp,
Chubu University Department of Information Science, 1200,
Matsumoto-cho, Kasugai-shi, Aichi, 487-8501, JAPANむ分布であることを仮定しており，既学習サンプルそのものとは異なる分布であることを仮定した学習戦略と言える．
一方，近年，学習サンプルの分布とテストサンプルの分布が異なる場合の学習戦略に関して深い議論がなされるようになってきている (e.g [10] [11]). このような環境のことを一般に共変量シフト (Covariate Shift) と呼び，
テストサンプルに対する誤差を最小にする重みつき評価
関数や，モデル選択基準も開発されている．もしこれらの知見を追記学習法に適用できれば，理論的に妥当な追記学習アルゴリズムとこれに適したモデル選択法の両方を構築できる可能性がある．
しかしながら，追記学習ではテストサンプル分布は未来に提示される新しいサンプルに相当するため，未知であると仮定せねばならない．残念ながら従来の研究には
このテストサンプルの分布を予測する研究はほとんど見当たらず，これまでの研究成果をそのまま追記学習に適用することができない．
そこで筆者は，既に与えられたサンプルから，未来に提示されるサンプルの分布を予測する方法を考案し，これを使用した追記学習アルゴリズムの構築を試みた [12,13]．
さらに，このような環境に適した RBFNN のモデル選
択基準を与え，その性能を評価した [14]．本研究ではこれに加えて計算量の削減方法について考察を行った．
次節 2 ではここで想定する学習器について説明する．

3 では追記学習環境のモデルとして未来に提示されるサンプルの予測分布の導出を試みる．4 では 3 で求めた予測分布を用いたモデル選択付き追記学習アルゴリズムを示す．6 ではいくつかのベンチマークテストの結果を示し，7 でまとめる．

2

追記学習環境のモデル化

3

共変量シフト環境下での学習では以下のような重みつき誤差関数を使用する．

想定する学習システム

E=

∑

{
}2
W (xt ) yt − fθ (xt )(3)b

本研究では以下のように簡単化した追記学習システムを仮定する (図 .1)．すなわち，Radial Basis Function

ここに (xt , yt ) は各々の学習サンプルを表す．W (x) はNeural Network(RBFNN) の横に提示された学習サンプ
ル全てを保持するバッファが設けられてある．システム

各々のサンプルの重みを表し，
)λ
(
q(x)
W (x) =P (x)は学習サンプルの収集期間とリハーサル期間 (再学習期間) とを繰り返す．
これは，各々の学習期間において新しいサンプルのみ
ならず過去の学習サンプルの再学習も行うタイプの追記
学習法 [2,3,5–7,9] に共通する基本的な構造となっいる．
Append new instances
Rehearsalfθ (x)(4)である．ここに P (x) は学習サンプル分布，q(x) はテス
トサンプル分布を表す．0 ≤ λ ≤ 1 は平坦化パラメータである．
追記学習では q(x) は将来提示されるサンプル全体の分布を表すものと仮定せねばならない．すなわち，q(x)を P (x) から予測する必要がある．これを如何にして行(xnew , F (xnew ))(x1 , F (x1 ))(x2 , F (x2 ))うかがここでの主要課題となる．
RBFNN

Buﬀer

3.1

q(x) の予測x

今，N 個のサンプルが既に与えられ，バッファに格納
図 1: 本研究で仮定する学習システム
但し，ここでは簡単のためバッファのサイズに制限はされているものと仮定する．この少数のサンプルから考えうる q(x) の候補はいくつも考えられる．そこで q(x)無く，無限個貯められるものとする．またリハーサル期をこの候補の平均分布 (以降 q̂(x) と記す) で近似するも間中，RBF はバッファに貯められた全サンプルをオフのとする．q̂(x) は以下のように表すことができる．
∫
q̂(x) = P (x|S)P (S|x1 , x2 , · · · xN )dS,
(5)

ライン学習するものとする．また RBF は毎度リセット
され学習と後述するモデル選択とを最初からやり直すものとする．このように新しいサンプルが与えられる度に学習をやり直すことから RBFNN 単体で見た場合には追記学習とはかけはなれているように見えるかもしれな
いが，バッファを含めた本学習システム全体に対しては，逐次的に学習データを与える形となっている．

fθ (x) を RBFNN の出力値とすると，()
M∑kx − uj k2fθ (x) =wj exp −
,
2vj2
j=1

すると，q̂(x) は自由度 N − 1 の Student’s-t 分布で表せることが知られている [15]．すなわち，=(1)Γ [(N − 1 + p)/2]

×
1/2((N − 1)π)p/2 Γ [(N − 1)/2] |Σ|]−(N −1+p)/2[(x − u)T Σ−1 (x − u)
(6)
,
1+
N −1

ここに p = dim(x), u = E[x] そして Σ は分散共分散行

ここでの学習の目的は以下の評価関数を最小化するこ列である．
ここで P (x) は正規分布を仮定して，現在までに得∫E=

こで最も簡単な仮定として，q(x) が正規分布であるとq̂(x)ここに M は隠れユニット (Kernel) の数である．
とである．

ここに S は分布を表すパラメータベクトルを表す．こ(F (x) − fθ (x))2 q(x)dx,

られた N サンプルから ML 法で予測する．すなわち，(2)

ここに F (x) は望ましい出力値を表し，q(x) は真の入力分布を表している．q(x) は学習サンプルの分布 P (x)P̂ (x) を P (x) の予測分布とすると，P̂ (x) は N (Σ, u),∑N∑N
Σ = N1 b=1 (xb − u)(xb − u)T ，u = N1 b=1 xb で表される．すなわち, q̂(x)/P̂ (x) はとは異なるものであることに注意する．

q̂(x)P̂ (x)

(
=

2
N −1

)p/2

Γ[(N − 1 + p)/2]
Γ[(N − 1)/2]

×[]−(N −1+p)/2
T −1
1 + (x−u) NΣ−1 (x−u)() . (7)
exp − 12 (x − u)T Σ−1 (x − u)

近似的に表せると予想される．同様に P̂ (x) についてもP̂ (x) 'P (x|Si )p(Si )(9)∑q(x|Si )p(Si )= ∑iPP̂ (x)
i (x|Si )p(Si )

(10)

i

Student’s-t 分布はサンプル数 N が大きくなるにつれて真の正規分布に近付いていくため，サンプル数 N が大すなわち，きくなるにつれて q̂(x)/P̂ (x) は 1 に近付いていくことq̂(x)に注意されたい．
しかし経験上，現実の環境では P (x) と q(x) は複雑な形状を持っていることが普通であり，単一の正規分布、Student’s t 分布のみで対処できるとは考え難い．
さらに，既に冒頭で述べたように，提示されるサンプ
ルは i.i.d であるとも限らず，ある短時間内での学習サ

ここで、P (x|Si ) は正規分布で表されるものとし，q(x|Si )は P (x|Si ) の中心位置と分散共分散行列を使って表現された Student t 分布であるとする．すると、次のように近似できる．

ンプルの分布を観測した場合，その時の状況によって大きく異なった特定領域に集中的に提示されることが多い(例えばロボットのセンサーから得られるデータ等)．そこで，以下では，より現実の問題に適合する分布予測法
を考える．

3.2

サンプル分布が変遷する場合の q(x) の予測

その時々の状況 (以後 Si (i = 1, 2, · · ·) で表す) に強く∑

q(x|Sj )p(Sj )q(x|Sj )
q̂(x)
'
=
P (x)
P (x|Sj )p(Sj )P (x|Sj )(11)

j = arg max P (x|Si )

(12)

ただし，
i

である．
各々の p(x|Si ) は正規分布とし，その中心位置と分散
共分散行列は Expectation and Maximization (EM) ア
ルゴリズム [16] を使用して決定した．またそのモデル
数 (正規分布の数) は AIC [17] を使用して決定した．

依存したサンプルが集中的に現れ，且つ変遷する (図 2q(x|Si ) は p(x|Si ) と同一の中心位置を持つ Student-t

参照) 場合を考える．各状況 Si はそれまでの変遷履歴に分布である．したがって重みは各々のクラスターについ応じて次の状態に遷移するが，時間が経つと再度同じ状て求めることとなる．すなわち，W (x) は式 (11) より況が現れるものと仮定する．

p11

W (x) ={()p/2
2
Γ[(Ni + p − 1)/2]
×
Ni − 1
Γ[(Ni − 1)/2]

p22
p21

q(x|S3 )

S1

p33
p13

p12

[

S2

p32
p23

S3
space of x]−(Ni +p−1)/2 λ(x−ui )T Σ−1(x−ui )

i

1+
Ni −1
( 1
)
,(13)

exp − 2 (x − ui )T Σ−1i (x − ui )ここに
図 2: サンプル分布の遷移．(各々の状態は入力空間上の対応する位置で表現される)
すなわち，この状態遷移がマルコフ過程で表現されるものとし，かつエルゴード的であるとするならば，十分
長い時間が経つと各状態 Si となる確率はその初期状態に依存しない確率となり，q̂(x) は近似的にq̂(x) '∑

1i = arg max
×p/2j(2π) |Σj |1/2()
(x − uj )T Σ−1j (x − uj )
exp −
.
2

(14)

ここに Ni , Σi , ui はそれぞれ，第 i クラスタに属する
サンプル数, 分散共分散行列，平均ベクトルである．
ただしこの手法は，既に与えられたサンプルのみを使

q(x|Si )p(Si )

(8)

i
1

と表すことができる ．つまり，q̂(x) は混合分布として用して，重み W (x) を近似的に求めようとするものであり，サンプル数の少ない学習の初期段階では，当然の事ながらその後に与えられる全サンプルの分布を考慮し1 状態遷移する時間間隔はパターンが提示される時間間隔よりも十た W (x) を得ることは困難である．ここでは，既に与分に長いと仮定するが，特にこの事を明示的に数式には表現していな
い．これは Si の状態遷移がエルゴード性を持つと仮定し，将来に渡って提示される全サンプル分布の平均として求めるため，不要となる．

えられたサンプルの近傍に与えられるサンプルの分布を考慮した W (x) である．

学習アルゴリズム

4

ここに F は望ましい出力ベクトルであり、(F = (F (x1 ),

3.2 で求めた重み Wi (x) を使用して RBFNN の学習
アルゴリズムを構築する．RBFNN は，リハーサル期間
中，重みつき誤差関数式 (3) を最小化するように，バッ
ファに保存された全てのサンプルを学習するものとする．ここでは様々な学習法が採用可能であるが，出来る限り正確な評価ができるように，中間ユニットと出力ユニットの間のコネクションは，Weighted Least Squre(WLS) で最適化する．中間ユニットの中心位置と分散

F (x2 ), · · · , F (xN )))T ) である。W は対角行列であり、その要素は Wbb = W (xb ) (b = 1, 2, · · · , N ) で与えられる．Φ は design matrix でありその各要素は Φbj =exp(−kxb − uj k2 /(2σj2 )) である．この学習法を使うことで，少なくとも中間ユニットと出力ユニットの間のコ
ネクションについては必ず Eq.(3) を最小化する重みが得られるため、W (x) の効果を評価し易くなる．

4.2

は，Moody らが提案した手法 [18] に則って決めることにした．すなわち，この方法では k 個の中間ユニットの中心位置を k-means 法によって決定し，各ユニットの分散については、それに最も近いユニットの中心位置との距離によって決定する．また中間ユニットの数はShimodaira によって提案された ICw 4.2 によって決定
する．

4.1

RBFNN の学習法

λ および中間ユニット数の最適化

汎化誤差を最小にするためには平坦化パラメータ λ と中間ユニット数 M をうまく決定する必要がある．これを行うために本研究では，Shimodaira(2000) [10] が提案した共変量シフト環境における情報量基準 ICw を使用する．regression を扱うとすると ICw は以下のように導出できる [10]．

ICw

:=

{
N
∑
q̂(xb ) ε̂2b=1

本研究では Moody らが提案した手法 [18] に若干の修+正を加えた手法を採用する．すなわち，中間ユニットのの間のコネクションは WLS を使用して最適化する．
重みつき fuzzy k-means 法は, fuzzy k-means [19] 法を重みつきサンプルに適応させたもので，各クラスターN∑q̂(xb )
b=1

中心位置と分散は重みつき fuzzy k-means 法を使って決定する．既に述べたように中間ユニットと出力ユニット

2P̂ (xb )P̂ (xb )}b+ log(2πσ̂ 2 )
σ̂ 2

{

ε̂2b
W (xb )
ĥb +
σ̂ 2
2ĉw

(18)
( 2
)2 }
ε̂b
−1
,
σ̂ 2

ここに ε̂b は入力 xb に対する残差を表し，∑N∑N
σ̂ 2 = b=1 W (xb )ε̂2b /ĉw である．ここに ĉw = b=1 W (xb )．ĥb (b = 1, 2, · · · , N ) は以下で表される hat matrixの対角要素を表す．

中心位置 uj は 1 ステップ前の中心位置できまるクラスĥ = Φ(ΦT WT Φ)−1 ΦT W.

ターに属するサンプルの重みつき平均によって決定さ
れる．

(19)

すなわち ICw を最小にする組合せ (λ∗ , M∗ ) を探せば
N∑(n)
W (xb )xb exp(−kxb − uj k2 /c2 )
(n+1)
uj
:=
,
∑
(n) 2 2b=1 ĉw
j 0 exp(−kxb − uj 0 k /c )ここに ĉw =

(15)

∑N

b=1 W (xb ) であり，c は分散である．ただし各々の中心位置の初期位置は簡単のため B の最初の k サンプル, xj , に一致させた．この fuzzy k-means法が収束した後，各 Hidden Unit の分散は

σj2 = κ minj 0 6=j kuj − uj 0 k2 ,良い．本研究では λ と M の組合せを予め幾つか用意し，その中で ICw が最小となる組合せを解とした．

5

計算量削減法の検討
本手法において大きな計算量が必要となるのは，モデ

ル選択の部分である．モデル選択は，P (x) の予測のための混合分布の数，RBFNN の中間ユニット数およびパ(16)

ラメータ λ の決定のために実行される．
モデル選択では一般に複数の解候補を用意し，それらで決定する．ただし κ (≥ 1) はオーバラップファクターの中で最も情報量基準 (AIC/ ICw ) の小さい解候補を[20] である．
WLS は、中間ユニットと出力ユニットの間のコネク

基準の値を取ってプロットすると多くの場合 V 字型のションの Eq(3) を最小化する最適解を解析的に求める．

グラフとなる．そのため，混合分布のモデル数もしくはこれをここではベクトル wM L = (w1 , w2 , · · · , wM )T で選択する．このとき横軸にパラメータ数，縦軸に情報量表す．ただし wi は第 i 番めの中間ユニットと出力ユニッ

RBFNN の中間ユニット数を 1 個づつ増加させて学習させ，AIC もしくは ICw の値が増加に転じた時点でモデトとの間の重みを表す．

ルの生成を止め，ひとつ前のモデルを解とするようにす

wM L = (ΦWT Φ)−1 ΦT WF ,(17)

れば，大幅に計算量の削減が期待できる．

しかしながら，実際には情報量基準の値は V 字形状になるとは限らず最適なモデルが選択できない可能性もある．これを確認するため後述の実験では，まず混合分
布のモデル選択に関してこのように簡略化した場合の性能の違いを検証した．

ベンチマークテスト

平坦化パラメータ λ と中間ユニット数 M の最適値

(λ∗ , M ∗ ) を探し，この最適値における WRBFNN のパフォーマンスと同じ中間ユニット数 M ∗ における orgRBFNN のパフォーマンスを比較した．本稿では UCImachine learning repository に収録されてある
cpu-performance データセットに対するパフォーマンス

計算機実験

6

6.2

人工データセットとベンチマークデータセットを使っのみ示す2 ．5 で述べた計算量の削減法を考察するためモて提案システムを評価した．本学習アルゴリズムは新し

デル選択の方法に応じてパフォーマンスの比較を併せていサンプルの収集期間 (recording phase) とリハーサル

行った．このため，以降，簡略化されたモデル選択法を期間 (rehearsal phase) とを繰り返すが，本手法の新規採用するものを”-Quick” を付けて示すものとする．す点である分布予測に基づく重みつき誤差関数の効果を調

なわち Mixture of Gaussian を使用した分布推定に関す査するには，1 セットの recording, rehearsal phase のみるモデル選択については，AIC − org と記し，その簡で十分である．そこで，recording phase に提示するサ略化されたものを AIC − Quick と記すことにする．

ンプルをランダムに変えて性能を評価した．なお，表現本来ならば recording-, rehearsal-phase を交互に何度の簡素化のため重みつき誤差関数を使って学習を行うモも繰り返す学習法ではあるが，性能を評価するには 1 回

デルを” WRBFNN”, 重みを付けない従来の誤差関数をの recording, rehearsal-phase だけで十分である．

使って学習を行うモデルを”org-RBFNN” と表記するこ

データセットからは，その一部の 100 個データをランとにする．org-RBFNN は従来の追記学習法 [2–7, 9] にダムに選択したものを 50 セット用意した．それぞれの相当する．また org-RBFNN は λ = 0 とした WRBFNN

100 個のデータは recording phase においてバッファBに貯められるものとみなす．
分布推定にあたっては分布の分散共分散行列を簡単のと同一であることに注意する．

6.1

1 次元人工データに対する W (x)ため対角要素のみ扱い，パラメータの推定を行った．λW (x) がどのように設定されるかを見るために 1 次元の人工データで動作を確認した．
(x, y)=(x, 1.5)11
x ∼N (−20, 2) + N (20, 2)(20)
22
ここから 50 個のサンプルを生成した．さらに Eq. (13)を探す際の刻幅は 0.1 とした．また，中間ユニット数の上限を 20 個としてある．また評価用のテストデータは
全データセットとした．ただし評価結果に関してはデー
タセットの選びかたによって誤差が大きく変動するため，(x, y) = (M SEW RBF N N , M SEorg−RBF N N )をプロットして評価する．ここにの効果を明示的に示すため，N (10, 5) から 3 つのデータ

M SE∗ ≡

を生成して孤立点として加えた．
5

1
NtotalN∑
total(F [xb ] − fθ∗ (xb ))2 ,

(21)

b=1

である．すなわちこのようにして打たれた点が直線 y = x

4

よりも上に分布しているならば，WRBFNN のパフォー
マンスが org-RBFNN のそれよりも良いことを意味す

W(x)

3

る．但し，学習が不安定に陥るのを防ぐため W (x) の値
2が 10 以上にならないように制限を加えた．
図 4 は各学習データセットに対する

1

0
-25

(x,y)

-20

-15

-10

-5

(x, y) = (M SEW RBF N N , M SEorg−RBF N N )をプロットし，したものである．本手法においては各々
0

5

10

15

20

25

の学習データセットにおいて最適な λ と中間ユニット
図 3: W (x) の例

数 M を探索するが，場合によっては λ = 0 すなわち

この図から分布の端の方に位置する x 程，重みが増加

WRBFNN でありながら org-RBFNN と同一の学習法

していることが分かる．孤立点の重みはさらに大きくなっている．すなわちこのような孤立点に対して，RBFNNがより強く学習することを意味している．

2 他のデータセットに対するパフォーマンスについては文献 [14] を参照されたい．ただし [14] では分布推定に関するモデル選択は簡略化されたものを使用している．

を選択することがある．つまり，この場合はポイントがおいては頻繁に発生する．例えば太陽電池の照度とパ

y = x 上に配置される．しかし λ > 0 を選択した場合にネル表面温度に対する最大電力点の分布は太陽の傾き

その効果があればパフォーマンスのポイントが y = x のと共に時々刻々と変化する．さらに学校で毎日生徒に教上側に配置されるが悪ければ下側に配置される．

える事柄に付いても，最初から全体を網羅する内容では

この結果より cpu-performance に関してはパフォーマ

無くそれぞれの項目を順番に教えていくため，Virtual

ンスのポイントが y = x よりも上に配置される頻度がConcept Drift と言える．したがってこのような現実の学習環境において本手法が必要とされると考える．

高いため，本手法の効果が得られていると考えられる．
また，簡略化されたモデル選択アルゴリズムを使用した”AIC-Quick” とオリジナルのモデル選択アルゴリ

参考文献

ズムを使用した”AIC-org” を比較すると，概ね結果が重[1] A. Tsymbal. The problem of concept drift: deﬁnitions
and related work. Technical Report TCD-CS-200415, Department of Computer Science, Trinity College
Dublin, 2004.

なっており，計算量を抑えてもパフォーマンスに与える影響が少ないことを示唆している．

7

まとめと考察本研究では，追記学習が共変量シフトの一つであることを指摘し，これまでに研究されてきた共変量シフトに対処する学習戦略を組み込んだ追記学習法の構築を目指した．これを実現するために，既に与えられたサンプルからこの先将来に渡って提示されるサンプルの分布を予測する手法を考案し，これを使った重み付き誤差関数を定義した．
しかしながら，既に得られたサンプルから遠い将来に渡って提示されるサンプルを正確に予測することは不可能である．提案手法では，近い将来，既に与えられたサンプルの近傍に提示されるサンプルの分布を予測するものとなっている．これは次の意味において妥当である．すなわち，RBFNN を使用する場合，学習後のネッ
トワークが対処できる入力領域 (定義域) は既に与えられた学習サンプルの近傍に限られる．したがって，既学習
サンプルから遠く離れたサンプルに対しては，いかなる努力も果を結ばないと考えられるため，ここでの予測分
布も既学習サンプルの近傍において有効に働けば良い．
本研究ではさらにこれに合う RBFNN の中間ユニット数を決定する手法も与え，常に与えられたデータセッ
トにフィットし、且つ将来与えられるデータにもフィッ
トするであろう RBFNN を構築することが出来る．また実験結果よりモデル選択アルゴリズムを簡略化することにより計算量を低く抑えることが出来ることも示した．
本稿での詳述は避けたが，複数のベンチマークテスト
も行っており，提案システムの効果は学習データセットに大きく依存することが分かっている [14]．つまり本手法において 3.2 で予測する Virtual Concept Drift 環境にフィットするデータであれば効果を発揮するものの，それ以外のデータ、すなわち学習データとデータセット全体の分布とが一致する場合などでは効果を発揮しない．
だが Virtual Concept Drift 環境は現実の学習環境に[2] Takao Yoneda, Masashi Yamanaka, and Yukinori
Kakazu. Study on optimization of grinding conditions
using neural networks – a method of additional learning –. Journal of the Japan Society of Precision Engineering/Seimitsu kogakukaishi, 58(10):1707–1712, October 1992.
[3] Hiroshi Yamakawa, Daiki Masumoto, Takashi Kimoto, and Shigemi Nagata. Active data selection
and subsequent revision for sequential learning withneural networks. World congress of neural networks(WCNN’94), 3:661–666, 1994.
[4] Stefan Schaal and Christopher G. Atkeson. Constructive incremental learning from only local information. Neural Computation, 10(8):2047–2084, November 1998.
[5] Koichiro Yamauchi, Nobuhiko Yamaguchi, and Naohiro Ishii. Incremental learning methods with retrieving interfered patterns. IEEE transactions on neuralnetworks, 10(6):1351–1365, November 1999.
[6] Robert M. French. Pseudo-recurrent connectionist
networks: An approach to the “sensitivity stability”
dilemma. Connection Science, 9(4):353–379, 1997.
[7] Bernard Ans and Stephane Roussert. Neural networks
with a self-refreshing memory: knowledge transfer insequential learning tasks without catastrophic forgetting. Connection Science, 12(1):1–19, 2000.
[8] Nikola Kasabov. Evolving fuzzy neural networks
for supervised/unsupervised online knowledge-basedlearning. IEEE Transactions on Systems, Man, andCybernetics, 31(6):902–918, December 2001.
[9] Seiichi Ozawa, Soon Lee Toh, Shigeo Abe, Shaoning
Pang, and Nikola Kasabov. Incremental learning offeature space and classiﬁer for face recognition. Neural
Networks, 18:575–584, 2005.
[10] Shimodaira Hidetoshi. Improving predictive inference
under covariate shift by weighting the log-likelihood
function. Journal of Statistical Planning and Inference, 90(2):227–244, 2000.
[11] Masashi Sugiyama, Shinichi Nakajima, Hisashi
Kashima, Paul von B¨unau, and Motoaki Kawanabe. Direct importance estimation with model selection and its application to covariate shift adaptation. In Twenty-First Annual Conference on Neural0.018y=x

AIC-quick:

0.016

0.014

AIC-org:

0.012

0.01

0.008

0.006

0.004

0.002

0
0

0.002

0.004

0.006

0.008

0.01

0.012

0.014

0.016

0.018

図 4: cpu-performance に対するパフォーマンス (AIC-org と AIC-quick を同時にプロットしてある)Information Processing Systems (NIPS2007), December 2007.
[12] Koichiro Yamauchi. Covariate shift and incremental learning.
In Advances in Neuro-Information
Processing 15th International Conference, ICONIP
2008, Auckland, New Zealand, November 25-28, 2008,
Revised Selected Papers, Part I, pages 1154–1162,
November 2008.
[13] 山内 康一郎. 共変量シフトと追記学習. Technical Report
NC2008-142, 電子情報通信学会技術報告, 3 月 2009.
[14] Koichiro Yamauchi. Optimal incremental learning under covariate shift. Memetic Computing, page Accepted, 2009.
[15] 繁桝 算男. ベイズ統計入門. 東京大学出版会, 1985.
[16] A. P. Dempster, N. M. Laird, and D. B. Rubin. Maximum likelihood from incomplete data via the em algorithm. Journal of the Royal Statistical Society, B
39(1):1–38, 1977.
[17] Hirotugu Akaike. A new look at the statistical model
identiﬁcation. IEEE Transactions on Automatic Control, AC-19(6):716–723, December 1974.
[18] J. Moody and C. J. Darken. Fast learning in neural networks of locally-tuned processing units. NeuralComputation, 1:281–294, 1989.
[19] J.C. Bezdek. A convergence theorem for the fuzzy
isodata clustering algorithms. IEEE Transactions
on Pattern Analysis and Machine Intelligence, 2:1–8,
1980.
[20] John Platt. A resource allocating network for function interpolation. Neural Computation, 3(2):213–225,
1991.