ロバストネスを探る

What is Robustness?
京都大学

永原 正章

Masaaki Nagahara
Kyoto University
Abstract
Robustness is a key issue in engineering. This article is intended as an investigationof common mathematical structures in robustness in various ﬁelds. In particular, we point out acommon structure between robust control, regularization, and Bayes estimation.

1

はじめに

re

K(s)

−

ロバストネスという用語は，数理工学のさまざまな研

u

P (s)

y

究分野で用いられている．大規模化し複雑化した現代のシステムを予測したり制御するときに，ロバストネスはもっとも重要なキーワードの一つである．たとえば制御

図 1: 単一フィードバック系：P (s), K(s) はそれぞれ制工学では，複雑なシステムにおけるモデル化できないダ御対象および制御器の伝達関数を表す．

イナミクスを不確かさととらえ，その不確かさをシステムの集合として定式化するロバスト制御が盛んに議論されている [9]．また，統計的学習においては，教師なし学習におけるロバスト統計や教師あり学習における汎化能力の問題はロバストネスと関連がある [8]．他にもディジタル通信における誤り訂正符号の議論 [4] やシステム
バイオロジー [6]，複雑ネットワーク [2] などにおけるロバストネス研究など幅広い分野で多くの研究が行われている．
しかし，それらのロバストネスの数理的な共通点はあまり詳しく調べられていない．そこで本稿では，ロバストネスという概念の裏に潜む数理的構造を解明するための足がかりとして，制御工学の立場から統計的学習の問
題を眺め，ロバスト制御と正則化法，そして Bayes 推定の問題の定式化における数理的な共通点を明らかにする．なお，統計的学習の立場からのロバストネスの考察，およびロバスト制御との関連については [8] が参考になる．
本稿の構成は以下のとおりである．第 2 章で，ロバスト制御の基礎的な事項について復習し，ノミナル性能の向上とロバスト安定化を達成するロバスト制御の問題（H∞ 混合感度問題）が 2 ブロックの H∞ 最適制御問題

2ロバスト制御

2.1

感度最適化問題制御対象として，次の線形システムを考える．
ẋ(t) = Ax(t) + bu(t),y(t) = c x(t),t ∈ [0, ∞).

(1)

ここで，x(t) ∈ Rν をシステムの状態，u(t) ∈ R をシステムへの入力，y(t) ∈ R をシステムの出力とし，

A ∈ Rν×ν , b ∈ Rν , c ∈ Rν は与えられているとする．
このシステムの入出力伝達関数を P (s) とおく．すなわ
ち，P (s) = c (sI − A)−1 b とする．このシステムに対して，図 1 の単一フィードバック系を考え，参照信号 rに出力 y を追従させる制御を考える．すなわち，追従誤差 e = r − y をなるべく小さくする制御を考えたい．
これは，参照信号 r から追従誤差 e への伝達関数（感度関数と呼ばれる）S(s) =

1
1 + P (s)K(s)のゲイン |S(jω)| を小さくすることにより達成される．

で記述されることを述べる．第 3 章では，統計的学習に単純に考えれば，制御器 K(s) のゲインを大きくすれおける正則化と Bayes 推定の問題の定式化について述ば，感度関数 S(s) のゲインはいくらでも小さくできる．

べ，それらが 2 ブロックのベクトルノルムの最適化問題

しかし，後で述べるロバスト性との関連から，感度関数で記述されることを述べる．第 4 章でそれらの関連につS(s) のゲインは全ての周波数で小さくするのではなく，安定な伝達関数（重み関数） W1 (s) のゲイン |W1 (jω)|

いて述べる．

で定められる周波数帯で感度関数を小さくすることにしたい1 ．この問題を H∞ ノルムにより定式化すると，yW1 S∞ = sup |W1 (jω)S(jω)|

P∆ (s)uω∈R

K(s)を最小化する安定化制御器 K を求める問題となる．これを感度最適化問題と呼ぶ．ここで簡単のため P (s) は安定と仮定すると，図 1 に対する安定化制御器全体は次式で表される [3, Chap. 5] ．
Q(s): Q ∈ H∞ .
K := K(s) =1 − P (s)Q(s)

図 2: フィードバック系: P∆ (s) ∈ P, K(s) はそれぞれ制御対象および制御器の伝達関数を表す．

(2)

また，K(s) ∈ K とすれば，簡単な計算により S(s) =1 − P (s)Q(s) が示される．したがって，感度最適化問
題は次の評価関数
J1 (Q) = W1 (1 − P Q)∞(3)c を固定した (1) の伝達関数 P (s) = c (sI − A)−1 b を与え，摂動の構造として次の乗法的摂動を仮定する．

P∆ (s) = (1 + W2 (s)∆(s))P (s).
ここで，P∆ (s) は ∆(s) ∈ H∞ によって摂動を受けた制御対象であり，W2 (s) は安定な伝達関数（重み関数）を最小化する Q ∈ H∞ を求める問題となる．

である2 ．また ∆(s) は，その最大値が H∞ ノルムを用2.2いて不確かさの表現

上記の感度最適化問題では，モデル (1) によって現実の制御対象が寸分の狂いもなく表現されていると仮定する．しかし，現実のシステムには例えば以下のような不確かさが存在する．

• パラメータ公称値のばらつき（たとえば，抵抗値など．パーツの経年変化も含む）

∆∞ < δ −1で制約されているとする．これらを用いて，伝達関数の集合を


P := P∆ (s) = (1 + W2 (s)∆(s))P (s) : ∆∞ < δ −1(4)と表現する．これがロバスト制御における不確かさの一つのモデルである．

• 高周波歪み（たとえば，高次共振モードなど）• 未知外乱の存在（たとえば，電磁波など）• 非線形性
これらのばらつきやダイナミクスは，モデリングの段階で同定できなかったり，もしくは (1) のようには簡単に表現できなかったり，表現できても非常に高次になったりするので，非常に扱いにくい．
ロバスト制御では，これらの不確かさを，伝達関数の集合として記述する [9]．具体的には，

1. ノミナルモデル
2. 不確かさを表現する摂動の構造
3. 摂動の最大値（上限値）はあらかじめわかっているものとして，不確かさを記述する [5, 2.1 節]．たとえば，ノミナルモデルとして A, b,
1 応用上は追従性能は低周波でより良くさせたいことから，W (s)1はローパスにとることが多い．

2.3

ロバスト安定化

評価関数の集合 (4) でモデル化された不確かさに対して，ロバスト制御ではまず安定化が重要である．すな
わち，(4) で表される集合の要素すべてに対して，図 2のフィードバック系が安定となる制御器 K(s) を特徴づける．これをロバスト安定化と呼ぶ．安定化制御器のパラメトリゼーション (2) およびスモールゲイン定理 [9,Chap. 9] を用いれば，(4) の不確かさに対して図 2 のフィードバック系がロバスト安定であるための必要十分
条件は，
Q(s):
K(s) ∈ K := K(s) =1 − P (s)Q(s) (5)Q ∈ H∞ , W2 P Q∞ ≤ δであることがわかる．ここで，J2 (Q) = W2 P Q∞(6)2 通常，高周波で不確かさは大きくなるので，W (s) はハイパス2にすることが多い．

を小さくすればするほど，δ は小さくとれるので，不確20かさの集合 P は大きくなる．すなわち，上記の評価関数 J2 (Q) は小さければ小さいほど，大きな変動に対して10も安定となり，ロバストネスは高まる．ここで，J2 (Q)0Gain (dB)を最小化する Q は Q(s) = 0 であり，これはすなわちK(s) = 0 であるので，明らかに意味のない解であることに注意する．
2.4−10−20H∞ 混合感度問題−30−40 −110感度最適化問題では，評価関数 (3) を小さくすること

01

10Frequency (rad/sec)

10で（ノミナルの）追従性能を良くすることが目的であった．いっぽう，ロバスト安定化では，評価関数 (6) を小さくすることで (4) で定義される摂動プラントの集合が

図 3: ディジタル繰り返し制御器，ノミナルモデルに対大きくなり，ロバストネスが向上する．しかし，両者をする制御器（実線）とロバスト制御器（破線）．

同時に小さくするような Q ∈ H∞ は存在しない．たとえば，Q(s) をノミナル制御対象 P (s) の逆システムに近づけることにより，(3) の H∞

1

ノルムはいくらでも小さ0.8くなるが，同時に (6) で定義される J2 (Q) は W2 ∞ に0.60.4

づけることにより J2 (Q) はいくらでも小さくなるものの，J1 (Q) は W1 ∞ に近づくだけで，小さくはできなAmplitude近づくだけで小さくはならない．また，Q(s) を 0 に近0.20−0.2い．すなわち，ノミナルの性能とロバストネスはトレー−0.4ドオフの関係にあることがわかる．このトレードオフを−0.6調整するのが，重み関数 W1 (s) と W2 (s) である．前で−0.8−10

述べたように，W1 (s) はローパスに，いっぽう W2 (s)100200300400500600
Time (sec)700800900

1000はハイパスにとることが多い．ノミナル性能とロバストネスのトレードオフを考えると，この重み関数の選び方は妥当である．この重み関数のもとで W (1 − P Q) 
1J(Q) = W2 P Q

図 4: ノミナルモデルに対する制御器による追従誤差

(7)
∞

2.5

ロバスト制御の例題

ここでは，筆者らが最近提案しているディジタル繰りを最小化すれば，感度関数 1−P (s)Q(s) は低周波で小さ返し制御系におけるロバスト制御設計 [7] を例題に，H∞くなり，相補感度関数 P (s)Q(s) は高周波で小さくなる

混合感度問題 (7) の解の性質を確認する．この設計問ことが期待できる．これを H∞

混合感度問題と呼ぶ．数題において，感度最適化問題，すなわち (3) の評価関数値計算により，評価関数 (7) の最小値（下限値）に任意に近い Q(s) を求めることができる [9]．なお，(7) を最J1 (s) だけを最適化する Q(s) と H∞ 混合感度問題，すなわち (7) の評価関数 J(s) を最適化する Q(s) のゲイ小化することは，ロバスト性能問題（ロバスト安定化し，ンの周波数応答を図 3 に示す．この図から，ロバスト制かつ集合 P の伝達関数のうち W1 (s)(1 − P∆ (s)Q(s))

御器は，単に感度関数 J1 (Q) を最適化した場合よりもの H∞ ノルムを最大化するものに関して感度を最適化する問題）における評価関数のある上界を最小化することが知られており [9]，H∞ゲインが低くなっていることがわかる．特にこのロバスト制御器は，高周波で不確かさをより大きく見積ったた混合感度問題によって，制め，高周波でゲインが落ちていることに注意する．この御対象に変動があっても追従性能に変動があまりない制ロバスト制御器の効果は，実際に制御対象に変動があっ御系が得られる．

た場合にあらわれる． 図 4 はノミナルモデルに対する制御器で，制御対象に変動があったときの追従誤差を示す．この制御器は，制御対象の変動を想定していないの

この評価関数を最小化する w は次で与えられる [1]．

1wopt = (Φ Φ)−1 Φ y.

0.80.6

この最適パラメータによる関数 w
opt φ(x) は，データ数0.4N が小さく，パラメータ数 M が大きいとき，データの間で振動する傾向があることが知られている．これを過Error

0.20−0.2

学習と呼ぶ [1]．これはデータ y の微小な変化に対し，−0.4−0.6係数 wopt が大きく変化することが原因であり，これを−0.8抑えるために (8) の評価関数の代わりに次の評価関数を−10100200300400500600
Time (sec)

700800900

最小化することを考える．

1000Nyn − w φ(xn )Jreg (w) =2+ λ2 w  w

n=0 y − Φw 2=λw

図 5: ロバスト制御器による追従誤差で，実際に変動が起こると誤差が大きくなる．いっぽう，(9)2

図 5 はロバスト設計をした場合の制御系の追従誤差であこれを正則化最小二乗法（またはリッジ回帰）と呼ぶ．

る．図 4 に比べて誤差が小さくなっており，ロバスト設

この評価関数において，λ は正則化係数と呼ばれ，デー計の効果があらわれている．もちろん，制御対象に変動タのフィッテイング性能（第一項の抑制）とパラメータがない場合は，ノミナルモデルに対する制御器のほうがw の抑制のトレードオフを制御する係数である．このロバスト制御器よりも良い性能を示す．すなわち，ロバ評価関数を最小化する w は次式で与えられる [1]．

スト制御器はノミナル性能を犠牲にしてロバストネスをwreg = (λI + Φ Φ)−1 Φ y.

獲得しており，ノミナル性能とロバストネスのトレード

この式より，λ を大きくすれば wreg の 2 ノルムが減少オフを示している．
以上のような性質は，最小二乗推定問題における正則化法および機械学習における Bayes 推定でもあらわれ

この正則化最小二乗法は Bayes 推定と関連が深いことが知られている．実際，データ {(x1 , y1 ), . . . , (xN , yN )}る．これを次節で示す．

3することが容易にわかる．

は，関数 y = w φ(x) に平均 0，分散 σ 2 の Gauss 雑正則化法と Bayes 推定

音が加わったもの，すなわち，次の最小二乗推定問題を考える．N 個の訓練データの組 {(x1 , y1 ), (x2 , y2 ), . . . , (xN , yN )} が与えられたとき，次の二乗誤差

p(y|x, w) = N(y|w φ(x), σ 2 )と仮定し，パラメータ w の事前分布として，同じくGauss 分布
Nyn − w φ(xn )J(w) =2を仮定すると，Bayes の定理より事後分布はn=0を最小化するパラメータ w = [w0 , w1 , . . . , wM ] を求2M める．ただし，φ(x) = [1, x, x , . . . , x ]で，y = [y1 , y2 , . . . , yN ]

⎡1
⎢1
⎢
Φ=⎢
⎢ ..
⎣.
1p(w|τ ) = N(w|0, τ 2 )(8)

p(w|y, τ, σ) ∝ p(y|w, σ)p(w|τ )である．ここ

=

とおき，

x1

...

x2..
.
xN...
..
.
...

⎤xM
1
⎥xM2 ⎥.. ⎥⎥. ⎦xMNとおくと，(8) の二乗誤差 J(w) は次のように表すことができる．
2J(w) = y − Φw2 .

N

N(yn |w φ(xn ), σ 2 )N(w|τ )n=1となる．この事後分布を最大化する w を最大事後確率推定，または MAP(maximum posterior) 推定とよぶ．

Gauss 分布の性質から，この w は評価関数
NJMAP (w) =yn − w φ(xn )n=1
 y − Φw 2=σwτ22+σ2 w w
τ2(10)

を最小化する w （これを wMAP とおく）と一致する[1]．上記の評価関数と (9) を比べると， MAP 推定によるパラメータ wMAP は，λ = σ/τ とおいたときの正則化最小二乗法の解と一致することがわかる．

4ロバスト制御と正則化法・Bayes 推定の共通点

H∞ 混合感度問題の評価関数 (7) と正則化法およびBayes 推定における評価関数 (9), (10) は，形式だけを見れば 2 ブロックの伝達関数またはベクトルのノルムの最適化を行っており，非常に良く似ている．しかし，形式だけでなく，これらの評価関数はノミナル性能（感度最適化，または訓練データへのフィッティング性能）とロバストネス（混合感度最適化，または汎化能力）とのトレードオフを考慮した最適化となっており，概念的にも共通点があることがわかる．

5

おわりに
本稿では，ロバスト制御と正則化法，Bayes 推定の定式化に共通点があることを指摘した．これを足がかりとして，それぞれの分野におけるロバストネスの数理的な構造の解明やそれぞれの分野における数理的手法（例えば H∞ 最適化における数値最適化手法や統計的学習における確率的アルゴリズムなど）を取り入れた新しい設計法の確立は今後の課題である．

参考文献[1] C. M. Bishop, Pattern Recognition and MachineLearning, Springer (2006)[2] J. C. Doyle et al., The “robust yet fragile” natureof the Internet, Proc. of Natl. Acad. Sci. USA,vol. 102, no. 41, pp. 14497–14502 (2005)[3] J. C. Doyle, B. A. Francis, and A. R. Tannenbaum,Feedback Control Theory, Macmillan (1992)[4] G. A. Jones and J. M. Jones, Information and Coding Theory, Springer (2000)[5] 木村，藤井，森，ロバスト制御，コロナ社 (1994)[6] H. Kitano, Towards a theory of biological robustness, Molecular Systems Biology, 3:137 (2007)[7] M. Nagahara and Y. Yamamoto, Robust repetitive
control by sampled-data H ∞ ﬁlters, Proc. of IEEE
Conf. on Decision and Control (2009)[8] 田中，統計的学習における「ロバストネス」，第 52
回自動制御連合講演会 (2009)[9] K. Zhou, J. C. Doyle, and K. Glover, Robust andOptimal Control, Prentice Hall (1996)