93

数理解析研究所講究録
第2027巻 2017年 93-108

物理分野に現れる可解な最適化問題の最近の話題
電気通信大学情報理工学研究科

田中久陽(Hisa‐Aki Tanaka)

Graduate School of Informatics and Engineering,
The University of Electro‐Communications

1

はじめに
ヘルダーの不等式は1888年のロジャーズと1889年のヘルダーの論文以降,関数解析等の解析学の基本的不等式として日常的に多用されている.しかし意外なことに,この不等式の物理的解釈の例は,最近2014年にようやく知られるようになったばかりである.本稿は,この不等式が非線形物理の未解決な問題のエレガントな解答を与え,さまざまな分野に浸透しつつあるツァリス統計の一つの基礎にもなり,さらに現代制御理論を補強する可能性について解説する.具体的には,いくつかの間題で筆者の最近経験したことを紹介し,非線形物
理に現れる最適化問題には,まだまだ紙とエンピツで 「開拓」 する余地の多いことをしめしたい.以下の各章では,これを例証する.まず,注入同期とよばれる有用な技術の性能向上
限界 (2章),最大化 (3章)

一般化フィッシャー情報,クラメールラオの不等式やツアリスエントロピー,

さらに適用対象は限定されるものの,ポントリャーギンの最大値原理を補強するひとつの観点 (4章) である.

2

注入同期の最適化問題
現在の情報通信の基盤として,「注入同期(injection locking)」 という技術は,近年,地味に注目を集めているトピックである.注入同期現象とは自励発振器 (非線形振動子) に外部信号を強制注入すると発振器が外部信号に同期する現象で基本的な物理現象である.これを利用する技術は真空管時代に確立されているが,近年のミリ波等の高周波数帯での利用,省電力設計,回路の微細化の要請から,現在でも研究開発が盛んである.たとえばミリ波帯を用いるベースバンド通信において,注入同期回路は通信の品質を保証する必須構成要素である.図1に示すようにベースバンド通信では,送信側は高レートのデータシグナルそのもの
を搬送波にダイレクトに重畳して送信し,受信側はこの 「搬送波」 を外部信号 (入力) として,受信器の発振器の注入同期により,搬送波の周波数に正確に追従,同期する.これにより,送信されたデータシグナルが正しく復号,受信されることになる.このベースバンド通信を用いると,例えばPC やビデオのような機器内部の大容量のデータ通信に必要となる配線が近距離無線により置き換えられ,大量の配線が削減される大きなメリットが生じる.このような背景で,VLSI技術のオリンピツクと呼ばれる国際会議ISSCCでは,注入同期回路に関連する発表が過去数年間,継続的に報告されている.

94

一方で,サイエンスとしての重要性からも Nature, Science 誌等を筆頭に注入

同期に関連する物理や生体リズム (生物時計) の研究が継続的に報告されてきている.ここでは,注入同期は周波数引き込み (entrainment) とよばれることが多く,この引き込みが非線形振動子集団のパターン形成の基礎にもなっている [1].

ところが,この注入同期の長い歴史にも関わらず,その物理限界 (実現可能限図1

注入同期の応用例: ベースバンド通信界 ) にはひとつの未知の仕組みが潜んでいた[2, 3, 4, 5]. これを以下で説明する.

2.1

注入同期の解析のひとつの枠組み

まずはじめに,注入同期の解析を目的として利用可能な解析的アプローチについて概説す

る.注入同期の性能を評価する尺度として,ロックレンジ(locking range) は重要である.
ロックレンジとは注入同期が成立する外部信号 (入力) の周波数帯域のことであり,これが広ければ,より柔軟かつロバストな注入同期が得られるからである.これを図 2\mathrm{A} に示す.
ここで,縦軸の \triangle $\omega$ は発振器の自励発振周波数と入力周波数の差 (離調) を表し,横軸は入力の強度を表す.この,くさび状のロックレンジ 1の外では,同期が成立せず利用不可能と*なる.以下では入力の強度が十分小さな,弱入力の場合を仮定する.この仮定は,先に述べたベースバンド通信などの現在の電子機器においても,入力 (電流) がデバイスを損傷しないために,また省電力性の要請からも,自然で合理的なものである.

工学分野での注入同期の先行研究は,アドラーにはじまり,その後,黒川,大黒らと一般化が進み,かつ解析の対象も広くなっているが,その本質は,次のいわゆるアドラーの方程式により理解される.

\displaystyle\frac{\mathrm{d}$\alpha$}{\mathrm{d}t=\triangle$\omega$- \epsilon$\sin$\alpha$
ここで $\alpha$ は発振器の発振位相と入力信号の位相差を示し,(1)$\Delta \omega$ は離調を示す.これによって,ロックレンジが定まるのみならず,同期へ至る過渡状態や同期の安定性解析が可能になる.この先行研究の枠組みは,現在でも諸々の対象に適用されているが,その前提条件は発振器を弱非線形,かつ入力をほぼ正弦波と仮定しており,発振器の非線形性が強い場合や,入力が正弦波から大きく外れる場合には,その適用が一般に困難となる.

*1

非線形ダイナミクスの分野では,これをアーノルドタングとよぶ.

95

図2

(A) ロックレンジ,(B) 位相結合関数,(C) 最適入力の様子

次にアドラーの方程式 (1) の一般化と見倣される位相方程式の導出と,それによる注入同期の解析について説明する.ここで扱う発振器はリミットサイクル解を持つ非線形振動子とみなせる.そのダイナミクスは一般に,次の方程式にしたがう.

\displaystyle \frac{\mathrm{d}x}{\mathrm{d}t =F(x)+I(t)
ここで,

(2)

x(t)(\in R^{n}) は状態変数, I(t)(\in R^{n}) は周期的入力を表す.ここでは,簡単のため (一般性を失わず),

入力 I(t) は回路中の1点に注入される入力 f(t)\in R とする.このとき,リミットサイクル解を x_{0}(t)(\in R^{n}) とすると,これに沿って発振位相に相当する$\psi$(t)(\in[0,2 $\pi$]\equiv S) という (局所的な) 変数が導入される.その結果,入力 f が弱入力という仮定の下で,式(2) は x=x_{0} の近傍において次の $\psi$ についての方程式に縮約される.

\displaystyle \frac{\mathrm{d} $\psi$}{\mathrm{d}t = $\omega$+Z( $\psi$)\cdot f(t)ここで,$\omega$(3)は自励発振周波数, Z( $\psi$) は位相感受関数とよばれる周期関数である.さらに入力の周波数を $\Omega$(\sim $\omega$) とすると, $\psi$ に代わる変数 $\phi$= $\psi$- $\Omega$ t が定義される.これは発振状
態と入力の位相差に対応する 「遅い」 変数とみなされ,速い動きに関する平均化により, $\phi$について閉じた次の位相方程式が得られる.

\displayst le\frac{\mathrm{d}$\phi$}{\mathrm{d}t=\triangle$\omega$+$\Gam a$( \phi$)
ただし $\Gamma$( $\phi$)=\{Z( $\theta$+ $\phi$)f( $\theta$)\rangle(4),

ここで,は $\theta$ についての1周期にわたる平均 2を示し,*.

$\Gamma$( $\phi$) は位相結合関数とよばれる.以上の局所変数 $\psi$ の存在や,式(4) の位相方程式への縮約は数学的に厳密な結果であり,非線形物理の分野でも独自に同等の結果が得られている[1]. なお,式(1) のアドラーの方程式は式 (4) の一つの例とみなされる.本稿では,式(2)から式 (3) や式 (4) への縮約を以降,「位相縮約」 とよぶ.
*2

具体的には,\displaystyle \equiv\frac{1}{2 $\pi$}\int_{- $\pi$}^{ $\pi$}\cdot \mathrm{d} $\theta$ である.

96

図 2\mathrm{B} はロックレンジの導出を説明している.注入同期が成立するための必要十分条件

は, $\phi$ が \mathrm{d} $\phi$/\mathrm{d}t=0 かつ $\Gamma$'( $\phi$)<0 をみたすことであり,位相結合関数の最大値 $\Gamma$($\phi$_{+}) と最小値 $\Gamma$($\phi$_{-}) の範囲内に離調 (- $\Delta \omega$) が入っていることが導かれる.
以上は,1:1引き込み (すなわち,引き込み (すなわち,$\omega$ :$\omega$ :$\Omega$\approx 1 :1) の場合であるが,同様のことが m : n$\Omega$\approx m:n ) の場合に成立する.その場合の位相方程式は,\displaystyle\frac{\mathrm{d}$\phi$}{\mathrm{d}t=\triangle$\omega$+ \Gam a$_{m/n}($\phi$)(5),

ただし $\Gamma$_{m/n}( $\phi$)=\langle Z(m $\theta$+ $\phi$)f(n $\theta$)) となる.

上記の位相感受関数 Z を正確にかつ効率良く求めることが重要であるが,これは例えばインパルス応答関数法 [6] により回路シミュレーター (例えばSPICE)から数値的に得ることが可能である.

最適入力の存在: 変分法によるアプローチ

2.2

以上の準備のもとで,注入同期を最適化する最適化問題が定式化される [2, 3]. たとえばロックレンジを最大化する場合は,以下のように考える [2]. まず,入力 f に対し,次の汎関数を定義する.

J[f]\equiv R[f]+ $\lambda$\langle f( $\theta$)-C\rangle
ここで,

(6)

R[f] は f に対し (図 2\mathrm{B} のように,一般に一意に定まる) ロックレンジを与え,具体的には

R[f]= $\Gamma$($\phi$_{+})- $\Gamma$($\phi$_{-})=\langle\{Z( $\theta$+$\phi$_{+})-Z( $\theta$+$\phi$_{-})\}f( $\theta$)\rangle(7)と表示される.ここで $\phi$_{+} および $\phi$_{-} は,それぞれ位相結合関数 \mathrm{F}( $\phi$) が最大最小となる $\phi$を表している.また, \langle f( $\theta$)-C\rangle=0 は入力 f の1周期平均が C となる制約条件であり,$\tau$\backslash \backslash バ

特に C=0 のときチャージバランス制約とよばれる.これはつまり,注入される正味の電-荷がゼロになるという制約である.また式 (6) の $\lambda$ はラグランジュの未定乗数である.要す
るに式 (6) により,\langle f( $\theta$)\rangle\equiv C=0 という制約を満たす f のうち, R[f] を最大にする最適解 f_{\mathrm{o}\mathrm{p}\mathrm{t} を決めるための (f, $\lambda$) についての極値問題が定式化される.

この極値問題が一意に解をもつためには,もう一つ制約条件が必要となる.たとえばパワー=一定とした入力,すなわち,\{f^{2}( $\theta$)\rangle= 一定という制約条件を課すと,その最適解

f_{\mathrm{o}\mathrm{p}\mathrm{t} は,変分法を用いて

f_{\mathrm{o}\mathrm{p}\mathrm{t} ( $\theta$)=\displaystyle \frac{1}{2 $\lambda$}\{Z( $\theta$+$\phi$_{+})-Z( $\theta$+ $\phi$と求まり,その極大性も確認される [2].

ここで$\lambda$=\displaystyle \frac{1}{2}\sqrt{Q}/P(8),

ただし P=\langle f^{2}( $\theta$)\rangle,

Q=\langle\{Z( $\theta$+$\phi$_{+})-Z( $\theta$+$\phi$_{-})\}^{2}) であり, $\phi$\pm は Z についての非線形方程式から数値的に得られる [2].

97

またロックレンジを最大化する代わりに,引き込み状態の (線形) 安定性を最大化することも可能である.この場合は R[f] の代わりに S[f]=-$\Gamma$'($\phi$_{*}) として,その極値問題に帰着する [3] *3.

以上においては,変分法 (オイラー

ラグランジュ方程式) が用いられ,これによる最適解は式 (8) の $\phi$ 土 に対し,一般に複数得られることが判明した.しかし,その他にも最適解があるのか,さらにそれらの中でベストな最適解 (すなわち物理的限界) とは何であるか,についての情報は変分法によっては原理的に得られず,モヤモヤした感じが残っていた.

注入同期の物理限界の存在:不等式によるアプローチ

2.3

ところが,最近の筆者の研究 [4] により,このベストな最適解の存在や非存在,さらにより広いクラスの制約条件下での最適解が議論でき,注入同期の物理限界の存在が明らかになってきた.例えば,以下の基本的な問題は応用上も重要であるが,これらが解答可能となる.
Pl上で述べたパワー制約された入力 ( \{f^{2}( $\theta$)\rangle=P= 一定) に対し,1:1引き込みのロックレンジを最大化するものは存在するか ? もし,存在するならば,それは唯一か?また,その最大ロックレンジの物理的な意味はどのように特徴付けられるのか?
P2上記のパワー制約入力に代わり,面積制約された入力 (つまり,その値の絶対値の積分が一定値に抑えられた入力) に対し,1:1引き込みのロックレンジを最大化するものは存在するか ? あるいは振幅制約された入力 (つまり,その絶対値が一定値以内に抑えられた入力 ) の場合はどうか?それらはどのように特徴付けられるのか?

P3以上での1:1引き込みの最適化問題は,一般の m:n 引き込みの場合にも成り立つ

か?もし,そうならば,その場合の最大ロックレンジはどのように特徴付けられるのか?
また,1:1引き込みの場合とどのような関係があるのか?
これらの基本問題 Pl, P2, P3に対し,ある意味で完全な解答が可能であることを (以下の Sl, S2, S3において) 示す.その準備として,まず入力 f の属すクラスとして p 乗

可積分な関数ひ (S) を仮定する.

\Vert f\Vert_{p}\equiv\{|f( $\theta$)|^{p}\rangle^{\frac{1}{p} =M<\infty(9),

ただし, p\geq 1 であり, M は正定数とする.特に p=2 の場合,式(9) は \langle f^{2} } =M^{2},

なわち f のパワーが M^{2} に制約されることを示す.また, p=1 の場合,

すな

わち f の「面積」 が M に制約される.一方,\{|f|\}=M,

すp=\infty では式 (9) は \Vert f\Vert_{\infty}=M に相当し,\Vert f\Vert_{\infty} は |f( $\theta$)| の本質的上限 (\displaystyle \mathrm{e}\mathrm{s}\mathrm{s}. \sup) なので |f( $\theta$)|<M (殆んど全ての $\theta$\in S )となる.要するに,これらの f には微分可能性や連続性すら必要とせず,2.2の変分法によるアプローチで暗黙に仮定していたよりも広いクラスの関数となっている.
*3

ここで $\phi$ 。は式(4) の定常解を示し,一般性を失なわず 0 とおいてよい.

98

さらに,式(9) に加え,先に述べたチャージバランス制約を導入する\{f( $\theta$)\rangle=0

(10)

.

以上のもとで,2.2でのパワー制約のもとでの注入同期のロックレンジの最大化は,次の最適化問題として定式化される.愚直に書くとmaximize R[f] subject to \{f( $\theta$)\rangle=0,となるが,2.2と同様に,少し工夫をして,(11)\Vert f\Vert_{p}=M\Vert f\Vert_{p}=M のもとで J[f]=R[f]+ $\lambda$\langle f( $\theta$)\rangle を最大化する f と $\lambda$ を求める問題に焼き直すことができる.さらに,この J[f] は,式(7) により次のように2つの関数 f と g の内積としての表示が可能である:

J[f]=\langle f( $\theta$)[\overline{Z}( $\theta$)+ $\lambda$])\equiv\{f( $\theta$)g( $\theta$)\rangle

(12)

,

ただし g( $\theta$)=2( $\theta$)+ $\lambda$, \overline{Z}( $\theta$)\equiv Z( $\theta$+ $\Delta \phi$)-Z( $\theta$) および \triangle $\phi$\equiv$\phi$_{+}-$\phi$_{-} であり,この$\Delta \phi$ は変数 $\theta$ の座標変換 $\theta$+$\phi$_{-}\rightarrow $\theta$ により自然に導入された.一方,引き込み状態の (線S[f]=-$\Gamma$'($\phi$_{*})=-\{f( $\theta$)Z'( $\theta$)\rangle とお
き換えればよい.したがって,この場合は式 (12) の g( $\theta$) を g( $\theta$)=-Z'( $\theta$) とおけば,同様の議論が可能となるので,以下ではロックレンジ最大化の g( $\theta$)=\overline{Z}( $\theta$)+ $\lambda$ の場合のみを考形 ) 安定性最大化は,式(11) において R[f] を単にえる.

J[f] の最大化に変分法を用いたが,式(12) をみれば,この問題はしかるべき構造をもつことに気がつく.そのキーとなるのが,次のヘルダーの不等式 (\mathrm{H}\d ot{\mathrm{o} lders2.2では,このinequality)[7] である 4.
*

ただし,この p,

q は 1\leq p,\Vert fg\Vert_{1}\leq\Vert f\Vert_{p}\Vert g\Vert_{q}

(13)

,

q\leq\infty, p^{-1}+q^{-1}=1 を満たす.この式 (13) より,式(12)J[f] を最大化することは,のJ[f]=\langle fg\}\leq\langle|fg|\rangle=\Vert fg\Vert_{1}\leq\Vert f\Vert_{p}\Vert g\Vert_{q}=M\Vert g\Vert_{q}(14)において全ての等号が成立する入力 f を,所与の g(=\overline{Z}( $\theta$)+ $\lambda$) について求めることに帰着する.紙面の制約から詳細は [4, 5] に譲り,(先の Pl, P2, P3にそれぞれ対応して)(b), (c) に示すように,得られる結果を以下に整理しよう.その大枠は,図 2\mathrm{C} の(a),1<p<\infty(特に p=2 ), p=1,

p=\infty の3通りに分類される*

5. おのおのの概要は以下の通りである.
*4

実は式 (13) の不等式そのものは,1888年の Rogers の論文,1889年の \mathrm{H}\d ot{\mathrm{o} lder の論文にもなく,その後
Riesz によって示されたものである.しかし,上記の Rogers の論文には式 (13) に近い不等式が例題として

導びかれている.したがって式 (13) をRogers-\mathrm{H}\d ot{\mathrm{o} lder‐Riesz の不等式,あるいはRogersの不等式とよぶのが筋である.しかし,ここでは慣例にしたがいヘルダーの不等式とする.
*5

本稿では,周期的自発発火を示す Hodgkin‐Huxley ニューロンモデル [3] から得られる Z を一例とした.
これは,図 2\mathrm{C} の(d) および図3(c) に示す通りである.

99

Sll <p<\infty の場合,1:1引き込みにおいて,最適な入力 (\equiv f_{\mathrm{o}\mathrm{p}\mathrm{t} , p) は Lp(S) 内で唯一存在する.この f。pt, p は, Z により陽に与えられ,このベストな最適入力に対応する最大ロックレンジとは,ヘルダーの不等式 (13) の右辺に他ならない.
S2 p=1 の場合の1:1引き込みにおいても最大ロックレンジに上限が存在する.一般的な Z に対し L_{1}(S) 内でしかるべき正負一対のパルス入力 (\equiv f_{\mathrm{o}\mathrm{p}\mathrm{t},1}) を設計することにより,この上限ヘパルスの幅を細くするにつれ,いくらでも漸近可能である.このパルス入力の形状は上記の Sl での最適入力における p\rightarrow 1 の極限と整合し,このロックレンジの上限

は,ヘルダーの不等式 (13) の右辺で p=1,

q=\infty

とおいたものに相当する.一方,

p=\inftyの場合の1 :1 引き込みにおいて,最適入力 (\equiv f_{\mathrm{o}\mathrm{p}\mathrm{t},\infty}) は L_{\infty}(S) 内で唯一存在し, Z により陽に表示され,Sl の最適入力で p\rightarrow\infty の極限に一致する.これに対応する最大ロック

レンジは,ヘルダーの不等式の右辺で p=\infty, q=1 とおいたものに相当する.
S3ここでは簡単のため Z, f

および以下で定義する Z_{n},,疏はいずれもフーリエ級数表示が可能なクラスの関数とする 6:*Z( $\theta$)=a_{0}+\displaystyle \sum(aj\cos j $\theta$+b_{j}\sin j $\theta$) Z_{n}( $\theta$)\displaystyle \equiv a_{0}+\sum(a_{nj}\cos nj $\theta$+b_{nj}\sin nj $\theta$),,f( $\theta$)=c_{0}+\displaystyle \sum_{k}^{j}(c_{k}\cos k $\theta$+d_{k}\sin k $\theta$) f_{m}( $\theta$)\displaystyle \equiv c_{0}+\sum_{k}^{j}(c_{mk}\cos mk $\theta$+d_{mk}\sin mk $\theta$),

また対応する $\Gamma$_{m/n}( $\phi$)=\langle Z(m $\theta$+ $\phi$)f(n $\theta$)\rangle も,.

Z, f のフーリエ級数から項別積分により,フーリエ級数表示可能とする.このとき三角関数の積和の公式より$\Gamma$_{m/n}( $\phi$)=\langle Z_{n}(m $\theta$+ $\phi$)f(n $\theta$)\}=\langle Z_{n}(m $\theta$+ $\phi$)f_{m}(n $\theta$)\}である.この式は,Sl, S2で得られている1:1引き込みの最適入力を得るアルゴリズム
において, Z を Z_{n} とおきかえるのみで一般の m:n 引き込みの最適入力が f_{m}(n $\theta$) の形で得られることを示す 7. 図 3\mathrm{A}, \mathrm{B} はそれぞれ1:1引き込みと1:2引き込みの最適入力を*示すが,1:2の場合は1:1の場合に比べ波形がシンプルになっている.これは Zn(ただし,ここでは n=2 ) において,図 3\mathrm{D} に示す元の Z での高調波からの寄与が少なくなるためであり,一般に n が大きくなるにつれこの傾向が顕著になる [4, 5].
これらの結果により,Pl, P2, P3への解答が得られた.以上の Sl, S2, S3およびこれらに関する最適化アルゴリズムの基礎として,いくつかの定理が得られている [4]. ご利
益として,2.2の先行研究 [2, 3] では出来なかったことが可能になる.それは例えば,次の事柄である.(1)「注入同期の物理限界」の存在証明本質を示すこと,(2) パルス入力の取り扱い,(3) ロックレンジの最大化,安定性の最大化,一般の m : n 引き込みでの最適化問題が系統的に解答可能となること.要するに,以上により弱入力の場合の注入同期の物理*6

直観的には Z_{n}, f_{m} はそれぞれ Z, f のフーリエ級数を nj mk 項のみ残して間引いたものである.
ただし, m:1 の引き込みの場合のみ例外的に,その最適入力が (m : m=1:1 引き込みの場合と一致する,*7ため) 存在しないことになる.しかし,これが漸近的には,1:1引き込みの最適入力と一致するとみなすことは可能である.

100

限界に対し,一般的に成立する 「基本法則」 のようなものがあると分かった.

図3

3

最適注入同期の概要とTsallisエントロピー最大化の概要

ベキ分布に絡む最適化問題
それでは,この 「基本法則」 が当てはまる 「物理」 は他にもあるだろうか?実は,近年,

地味に盛り上がっているTsallis(ツァリス) 統計 [8] が該当する.このTsallis統計は,従来のシャノンエントロピーを基礎とするボルツマンーギブズ統計の一般化として,TsallisによりTsallis エントロピーの導入により切り開かれ,その後,理論的整備体系化が進んでいる.この Tsallis 統計により物理のベキ分布に絡む本質的に非線形な諸問題に有効な解析のツールが提供され,その結果膨大な数の論文が出版されてきた [8]. 一方,情報通信分野においても相当な数の論文が出版されている.渋滞時のトラフィックに関するベキ分布の情報が得られているとき,これがTsallisエントロピーを最大化するTsallis統計に従うという仮定の下で待ち行列やバッファ-のオーバーフロー率など諸々の性質が解析的に与えられるからである.

まずTsallis エントロピーを定義しよう.連続版の Tsallis エントロピーは,ある物理量 xの確率密度分布 f(x) に対し,次で定義される量 (汎関数) により与えられる.

S_{q}[f]\displaystyle \equiv\frac{1-\{f(x)^{q}\rangle_{x} {q-1}
ただし,q は(通常,正の値の)

,

(15)

与えられたパラメーターであり, \langle\cdot\rangle_{x} は \displaystyle \{\cdot\rangle_{x}=\int_{-\infty}^{\infty}\cdot \mathrm{d}x を示す.Tsallis エントロピー最大化の問題とは, f の規格化条件 \{f\rangle_{x}=1 と,以下に定義される f に対するエスコート関数 F の制約下で,式(15) の S_{q}[f] を最大にする f。pt, q を求101

めるものである.具体的には,次で与えられる.
maximize S_{\mathrm{q} [f] subject to \{f(x))_{x}=1,\langle h(x)F(x)\rangle_{x}=$\sigma$^{2}

(16)

,

ただし,この F は f に対するエスコート関数: F(x)\equiv f(x)^{q}/\{f(x)^{q})_{x} であり,たとえば

h(x)=x^{2} とすると, F の2次モーメント =$\sigma$^{2} と制約される 8.
*

この枠組みのご利益のひとつとして,Tsallis エントロピーを最大化する分布関数 f_{\mathrm{o}\mathrm{p}\mathrm{t} , q は, 1<q<3 の q に対し,その裾野においてベキ指数 =\displaystyle \frac{2}{q-1} をもつベキ分布を与えることがあり,このことが冒頭に述べた諸々の分野での応用 [8] に結びついている.
3.1

ヘルダーの不等式から見たTsallisエントロピー最大化

以上の極値問題の解の構成唯一性などに関する厳密な証明は比較的最近文献 [9] により,はじめて与えられている.では,これまではどうだったかというと,文献 [8] にあるように極値を与える解の必要条件としてオイラーラグランジュの方程式 (変分法) からのアプローチのみであった 9. 古市 [9] の方法は,相対エントロピーの一般化 (Tsallis relative entropy)*の導入から始め,エントロピーを最大化する関数 (q‐ガウス分布 =q‐Gaussian distribution)と任意の分布関数のエントロピーを相対エントロピーを経由して比較することにより,必要十分条件として q‐ ガウス分布が極値問題の解になることを示している.この方法はエレガントであるが,q‐ガウス分布を予め与えた地点からスタートするので,そもそもなぜ q‐ガウス分布が現れるかというメカニズムについての情報を与えない.ところがヘルダーの不等式
から,これを眺めてみると以下のことが判明する [10]. まず,簡単な式変形により,式(15)は以下と等価であることが分かる.
maximizef(x)subject toT_{q}[f, $\lambda$]\equiv$\sigma$^{2}\langle f(x)^{q}\rangle_{x}+ $\lambda$\langle(x^{2}-$\sigma$^{2})f(x)^{q}\rangle_{x}=\langle f(x)^{q}[ $\lambda$ x^{2}+(1- $\lambda$)$\sigma$^{2}]\rangle_{x},\{f(x)\rangle_{x}=1

ただし 0<q<1(17),

一方, q>1 ならびに q<0 の場合は Tq の最小化となる 10. ここで式*.

(17) の f^{q} と $\lambda$ x^{2}+(1- $\lambda$)$\sigma$^{2} を,それぞれ式 (12) の f, g とみなせば,2.3でのヘルダーの不等式を用いた論法が繰り返され,元の式 (15) の最適解 f_{\mathrm{o}\mathrm{p}\mathrm{t} , q の構成が可能となる.さらに,その唯一性についての議論も q>1 の場合,容易である.

*11

詳細は省略するが,この

fopt, q はヘルダーの不等式の等号成立条件から以下の通り得られる.

f_{\mathrm{o}\mathrm{p}\mathrm{t} ,q(x)=\displaystyle\frac{1}{Z_{q} \exp_{q}(-\frac{$\beta$_{q}x^{2} {$\sigma$^{2} ),*8h(x)=x としても3.1と同様のことが実行可能である [9].
*9
*10
*11

さらに,「極大」 となることまでの議論は無く, q<0 での 「極小」 となる解との混同も生じている.
この場合,ヘルダーの不等式の逆である reverse Hölders inequality[ll] を用いる.
q<1 の場合は容易ではない.

(18)

102

ただし,

\exp_{q}(. ) は q‐指数関数 [8, 9] とよばれ,次のように定義される.

\exp_{q}(x)\equiv\left\{\begin{ar ay}{l } [1+(1-q)x]^{\frac{1}{1-q} , (1+(1-q)x>0 \text{なる} x) & \ 0. (\text{それ以外の} x) & (19) \end{ar ay}\right.
この q‐指数関数 (19)に対応し,式(18) が先に述べた q‐ ガウス分布とよばれるものである.

また Z_{q} は q, $\sigma$ により定まるパラメーター,$\beta$_{q} は q のみに依存するパラメーターである[8, 9].
以上のアプローチのご利益は式 (16) に現れる \{h(x)F(x)\}_{x}=$\sigma$^{2} という一見,不思議な制約条件の 「必然性」 が,ヘルダーの不等式を経由して式 (17) の極値問題の解を 「構成」する際にクリアとなることである.しかし,その 「物理的解釈意味」 はTsalis自身の言葉によっても「However, a clear‐cut physical interpretation in terms of the dynamics andoccupancy geometry within the full phase‐space $\Gamma$ is still lacking. \mathrm{J}

とあり

[8]

,

依然謎の

ままである.

また,注入同期の最適化の文脈で現れた式 (12) の \overline{Z} と最適入力 (=f_{\mathrm{o}\mathrm{p}\mathrm{t},p}) が,それぞれ式(16) の h(x)=x^{2} と最適なエスコート関数 F。pt, q に対応することがわかる.それらの形状を図示したものが,それぞれ図 3\mathrm{B}, \mathrm{C} であり,両者間の類似性をみることができる.要するに,注入同期の最適化とTsallisエントロピーの最大化とは,いずれも p 乗ノルムの制約下での内積の最大化が本質と分かる.
蛇足かもしれないが以下のことを述べておきたい.Tsallis の式 (16) による極値問題の枠組みで \langle x^{2}F(x)\rangle_{x}=$\sigma$^{2} のエスコート関数への制約を,むしろ通常の \langle x^{2}f(x)\rangle_{x}=$\sigma$^{2}
まり f の分散=

一定の制約にしてみるとどうなるだろうか?

,つ

実はこの問題は今を遡る約60年前に森口繁一先生が変分法と巧妙な不等式評価を組み合わせた方法により解答を得られている [12].

さらに森口先生は,コーシー

シュワルツの不等式の拡張から統計数理の極値問題を解決されている!しかし,おそらくは,ヘルダーの不等式に踏みこむまでには致らなかったのではなかろうかというのも,分散 F2f(x))。を有限とする前提では,(少なく\langleとも q>1 において) 一般のベキ分布は現れず,エスコート関数 F(x),ひいてはヘルダーの不等式の出る幕は少ないからである.

3.2

一般化フィッシャー情報 ( q‐Fisher informaton)とヘルダーの不等式

筆者が上記の先行研究 [9] の存在を知ったのはじつはごく最近であり,3.1で述べた
Tsallis エントロピーの最大化においてもヘルダーの不等式が本質的であることを示す文献[10] が受理されたのちである.ところが,この文献 [9] の理論はTsallisエントロピーの最大化のみならず,従来の Fisher 情報の一般化である q‐Fisher情報の最小化が,先の q‐ガウス分布によって与えられる,という結果にまで到達している.この q‐Fisher情報 Jq とは分布関数 f に対し,Fisher 情報の対数尤度関数 1\mathrm{n}\mathrm{f}(x) を一般化して次のように与えられる

103[9, 13].

J_{q}[f]\displaystyle \equiv\langle F(x)\{\frac{\mathrm{d} {\mathrm{d}x}\ln_{q}f(x)\}^{2})_{x}

(20)

,

ただし, F は f のエスコート関数, \ln_{q} は式 (19) の q‐指数関数に対応する q‐対数関数である[8].

また式 (20) は, q\rightarrow 1 で通常の Fisher 情報に漸近する.このFisher 情報はパラメーターの不偏推定において,そのパラメーターを含む分布関数 f が,そのパラメーター
についてどれ程の情報をもつかを示す量であり,具体的には f のパラメーターについての対数尤度関数の微分 (すなわちスコア関数 \displaystyle \frac{\mathrm{d} {\mathrm{d}x \ln f(x).

ただし本論の式 (20) では簡単のために分布のシフト量推定を仮定している.) の2次のモーメントとして与えられる.式(20) のq‐Fisher情報は,この「対数」 尤度関数を「 q ‐対数」に一般化したものであり,これによりクラメールラオの不等式の一般化が可能となる.そのため従来のパラメーター推定の誤差の2次モーメントの下界についての性質が,一般の (2次以上の) モーメントヘ拡張され,誤差の大きな部分を強調して評価することが可能となるご利益がある.
古市 [9] の理論は先駆的であり,文献 [9] の出版後,関連する多数の論文による引用が継続している.そのアプローチは,文献 [9] でTsallisエントロピーの最大化を議論するのと同様であって,クラメール・ラオの不等式を一般化した不等式 (q‐Cramér‐Rao inequality)を用意した後に,q‐ガウス分布が確かに q‐Fisher情報を最小化することを不等式から示すものである.

先の Tsallis エントロピーの最大化においてヘルダーの不等式が本質的であることを知った筆者は,当然,馬鹿の一つ覚えを発揮し,文献 [9] のエレガントではあるが構成的ではな
い証明を,ヘルダーの不等式一本から書き直す作業を開始した.約1週間計算に明け暮れた
後,出張先で完成し,ヘルダーの不等式 (の等号成立条件) によれば,文献 [9] の結果よりも強い主張 (具体的には,

q ‐Fisher情報の最小化を与える必要「十分」 条件) が可能になることが判明した.そして,ひそかに 「これは,いい仕事になる!」 とほくそ笑んだのであるがまあ,そんなおいしいことは続かないのであろうか,いざ論文にまとめようと文献 [9]を引用する文献を調べてみると,あるわあるわ

文献 [13] の成果を筆頭に,情報理論信

号処理分野の賢い研究者たちが,まさにこのヘルダーの不等式から q‐Fisher情報の最小化(ならびに Rényi エントロピー最大化) について鋭い結果に到達していることを知ったのであった.

4

最適制御の問題との関連
現代制御理論,特にポントリャーギンの最大値原理は高度に磨きあげられた理論で面白そうではあるものの,実際のところ今の非線形な問題でどれほど役に立つものかと,筆者はど
ちらかというと懐疑的であった.ところが,最近の米国の近しい研究者の仕事を見ると,この理論も使いようによっては重要な応用に有用な知見を与えてくれるものであると思うよう

104になった.例えば,文献 [14] は医療の現場で必須の MRI で用いる核磁気共鳴のパルス入力
制御を最適化することに成功し,文献 [15] はパーキンソン病やてんかんの発作をソフトに緩和させるパルス注入制御の基礎開拓を目的とし,現代制御理論をうまく援用している.

ここでは文献 [15] の問題に注目し,ここでもヘルダーの不等式が本質的となり,ポントリャーギ

ンの最大値原理の枠組みを越えたところに踏み込むことが可能であることを示そう.
Dasanayake ら[15] の目的とするのは,周期的に発火 (振動) する様々なペースメーカー
ニューロンの集団に対して,どのような制御 (外部入力) がその発火の頻度を最も高く,あるいは低くするかを明らかにすることである.文献 [15] ではニューロン間の相互作用が充分小さく無視できるとして,振幅を M に制限した入力電流 f により個々のペースメーカー
ニューロンの周期的発火の時間間隔 T を最小化あるいは最大化する次の問題 CT1に帰着
している.

T,
\mathrm{ }\mathrm{i}\mathrm{n}\mathrm{i}\mathrm{ }\mat)hrm{i}\mathrm{z}\mathrm{e}$\tau$ (あるいは maximize))

最適時間制御問題 CT1:$\tau$

subject to\displaystyle\frac{\mathrm{d}$\theta$}{\mathrm{d}$\tau$}=\frac{T}{2$\pi$}$\omega$+\frac{T}{2$\pi$}Z($\theta$)f($\tau$)|f( $\tau$)|\leq M, \forall $\tau$\in[0, 2 $\pi$]

(21a)

,

(21b)

,

$\theta$( $\tau$=0)=0, $\theta$( $\tau$=2 $\pi$)=2 $\pi$, \displaystyle \int_{0}^{2 $\pi$}f( $\tau$)\mathrm{d} $\tau$=0
ただし,以下の取り扱いの便利さから,元の時間 t から

(21c)

,

$\tau$\displaystyle \equiv\frac{2 $\pi$ t}{T} により T でスケールした時間 $\tau$ を導入している.ここで $\theta$, $\omega$ はそれぞれニューロンの発振位相

,

自然周波数

を示し,簡単のため $\theta$=0(=2 $\pi$) で発火するものとする.また,入力 f( $\tau$) はあくま
でも$\tau$\in[0, 2 $\pi$] で定義され,それ以外の時間では f( $\tau$)=0 となる.つまり,2.1の式(3), (4) とは異なり入力 f の周期性は不必要となる.この問題 CT1は,ハミルトニアン

H=$\lambda$_{0}+$\lambda$_{1}[ $\omega$+Z( $\theta$)f]+$\lambda$_{2}f (ただし, $\lambda$_{0}, $\lambda$_{1}, $\lambda$_{2} はラグランジュの未定乗数) を導入することにより,ポントリャーギンの最大値原理の枠組みに入る.その結果,最適制御 f は,
(場合によってM と -M の2値をとる,いわゆる bang‐bang 制御となることが導かれる\} ま,入力が3値となる bang‐singular‐bang 制御にもなる)

ところが,式(21a) を式 (21c) の境界条件のもとで,$\tau$[15].
について積分すると,問題 CT1

は次の問題 CT2に等価であることがわかる.
CT2 :\displayst le\max_{f($\tau$)}\mathrm{i}\mathrm{ }ize (あるいは minimize)$\tau$)

subject to |f( $\tau$)|\leq M, \forall $\tau$\in[0, 2 $\pi$]\displaystyle\int_{0}^{2$\pi$}[Z($\theta$($\tau$) +$\lambda$]f($\tau$)\mathrm{d}$\tau$

,

,

(22a)
(22b)

ただし,ここでラグランジュの未定乗数 $\lambda$ を導入して式 (21c) のチャージバランス制約\langle f( $\tau$)\rangle=0 を組み込んでいる.CT1とCT2が等価であることは,式(21a) を式 (21c) の\displaystyle \int_{0}^{2 $\pi$}[Z( $\theta$( $\tau(最小化)$) + $\lambda$]f( $\tau$)\mathrm{d} $\tau$=2 $\pi$(\frac{2 $\pi$}{T}- $\omega$)\{[Z( $\theta$)+ $\lambda$]f\rangle

もとで積分して得られる関係式化(最大化) がそれぞれの最大化

より, T の最小に対応することからしたがう.

105

ここまでくれば,この最適化問題 CT2において,式(22a) の f と Z( $\theta$)+ $\lambda$ をそれぞれヘルダーの不等式 (13) の f と g と見倣すことが自然であることがわかる.その際に,式(22b) の制約条件 |f( $\tau$)|\leqq M は \Vert f\Vert_{\infty}=M と書き直され,より一般に(22c)\Vert f\Vert_{p}=M(1\leqq p\leqq\infty)による入力 f の制約条件が自然にみえてくる.このように,問題 CT2をヘルダーの不等式の等号成立条件の問題であることを見抜けば,以下のようにポントリャーギンの最大値原理の枠組みを越えたところに容易に踏み込むことが可能となる.結果として得られるのは,必要「十分」 条件としての (本物のお墨つきの) 最適解である.その詳細は次の通りである.

[ p=\infty の場合; bang‐bang 制御]CT2の最適解 f_{\min}( $\tau$) (あるいは f_{\max}(\mathrm{T}) ) は,2.3の議論 [4] をくり返し,おおよそ次のように得られる.

f_{\min}( $\tau$)=M\mathrm{s}\mathrm{g}\mathrm{n}[Z( $\theta$( $\tau$))+ $\lambda$], f_{\max}( $\tau$)=-M\mathrm{s}\mathrm{g}\mathrm{n}[Z( $\theta$( $\tau$))+ $\lambda$]

,

(23)

ただし, $\lambda$ は文献 [15] に現れるパラメーター $\alpha$ に相当し, $\lambda$=- $\alpha$ が成り立つ.この $\lambda$ は,Z($\theta$_{i})+ $\lambda$=0 をみたす,入力 =M と -M の切り換え点 $\theta$_{i} とともに有限次元の方程式より求まる [15].

[ 1<p<\infty の場合; 一般化パワー制約]2.3の議論 [4] をくり返すことで,通常のパワー
制約 (p=2) も含め,次のように最適制御が得られる.
f_{\min}( $\tau$)= Msgn

[G($\tau$)][\displayst le\frac{|G($\tau$)|}{\VertG($\tau$)\Vert_{q}]^{\frac{1}p-1}

ただし, p^{-1}+q^{-1}=1,,

f_{\max}( $\tau$)= −Msgn[G($\tau$)][\displayst le\frac{|G($\tau$)|}{\VertG($\tau$)\Vert_{q}]^{\frac{1}p-1}(24)

G( $\tau$)=Z( $\theta$( $\tau$))+ $\lambda$ である.fmin, f_{\max} を f_{\mathrm{o}\mathrm{p}\mathrm{t},p} とまとめて書くと,\displayst le\int_{0}^{2$\pi$}f_{\mathrm{o}\mathrm{p}\mathrm{t},p($\tau$)\mathrm{d}$\tau$=0,\displaystyle\int_{0}^{2$\pi$}\frac{2$\pi$}{T}f_{\mathrm{o}\mathrm{p}\mathrm{t},p($\theta$)[$\omega$+Z($\theta$)f_{\mathrm{o}\mathrm{p}\mathrm{t},p($\theta$)]^{-1}\mathrm{d}$\theta$=0

それぞれの未定乗数 $\lambda$ は次のチャージバランス制約から得られる:

すなわち,

.

(25)

[ p=1 の場合; パルス入力]これも2.3の議論のくり返しであり,L1空間中での最適化問
題として,最適パルス入力を得ることが可能になる.この最適パルス入力は実用上重要であり,いくつかの先行研究が存在しているが,パルス入力の最適化のためのきちんとした枠組
みは筆者の知る限り存在しなかったようである.
上記の式 (23), (24) において f_{\min} と f_{\max} の表式は一の符合を除き互いに一致しているが,それぞれの $\lambda$ (さらに $\theta$_{i} ) は一般に互いに異なる.したがって f_{\min} と f_{\max} の形状も一般に互いに異なるものになる.

106

以上の結果の意味することは何であろうか?

それは,ヘルダーの不等式の存在に気がつけば,CT1やCT2の特定の問題においては,ポントリャーギンの最大値原理という伝家の宝刀をもち出さずとも,より深いところまで踏み込むことが出来ることである.つまり,ポントリャーギンの最大値原理においては,あくまでも (変分法ベースであり) 最適解の必要条件としてその候補が得られるのみであり,かつ,その制約条件は式 (22b) の振幅制約に限られるからである.(そのために,ポントリャーギンの最大値原理の枠組みで従来知られている必要十分条件として得られる最適解は,線形系などの自明なケースに限られている.)
要するに,汎用性を重視した一般論 (この場合,ポントリャーギンの最大値原理) の足元には,問題 CT1, CT2や第2章での注入同期のように 「豊かな各論」 が潜んでいるようである.では,この 「各論」 が本家のポントリャーギンの最大値原理や関連する現代制御理論のどれほどの部分を占めているのか ?

5

このことについては稿を改めて議論したい.

今後の課題・展望
広く知られているヘルダーの不等式が本質となる物理,工学等の具体的問題が,これまであまり知られていなかったのは驚きでさえある.ヘルダーの不等式の100年を越える歴史と,数学では日常的に使用されているにも関わらず,である.
本論の2章の注入同期に関する課題としては,まず文献 [16, 17] のような回路設計への応用が挙げられる.例えば,2.1の位相縮約の枠組みは,既にパワーエレクトロニクス分野で有用な \mathrm{E} 級発振器の実験系で有効であることが実証され [18],現在は2.3の結果により,実験系でその最適化を実証する段階に至っている.

一方,4章に関連して,制御理論の最近の研究ではエネルギー (パワー収支) 制約下での最適制御が注目されているが,われわれの一般化パワー ( p 乗ノルム) 制約下での取り組み

は,そのような研究に貢献をすることも期待される.さらに制御理論の新規な方向性として,例えば振動子集団の 「アンサンブル制御」 (例えばLi ら[14]) が開拓されているが,そこで必要となるパルス列の入力による制御則の最適化のために,最適入力を L_{1} 空間での極値問題として求める可能性がある.その文脈でわれわれの枠組み (2.3のS2) は有用となると期待される.

また,本論の最適化理論は,振動現象が式 (3) や式 (4) に帰着されれば,そのまま適用可能である.このことは最近の非線形物理における位相縮約の適用範囲の拡大が時間遅れ系,
局在パルスの運動,さらに流体系の時空間パターンにまで及んでいる現状 (例えば河村ら[19]), SF 級の夢や希望をもたらしてくれるように思われる.例えば,ひとつの 「心臓」 を対象に,その病理の本質的理解や新規なペースメーカーの 「最適設計・制御」 のようなものが可能になるのではないか?

もちろん,そこに至るには本論の冒頭で述べた紙とエンピツに加え,地球シミュレータ級のスパコンも必要となるだろう [20].

107

本論では,あくまでもヘルダーの不等式のみにしぼって話題を提供した.もし,他の不等式まで議論すれば,筆者の力量を越え,また規定のページ数もはるかに越えるだろう.しかし,いうまでもなく他の不等式も重要,有用である.装備 (高度な数学) を必要とする険しい岩峰(すなわち高度な理論.例えばLieb[21]) を目指さずとも,日帰りの軽装で不等式の古典的教科書 [11] や最近の成果 [22\mathrm{J} を渉猟することは可能である.そのような 「不等式の森 12」 を歩くとき,一瞬雑事を忘れ,非線形な世界の生き生きとした様子や豊かな芳香を感*じるのは筆者だけではないだろう.今,解決を迫られている問題から,この不等式の森に,
非線形な世界のひとつの秩序をあらわす新たな 「木」 が見つかることはあり得る話である.

事実,ヘルダーの不等式とヤングの不等式を内包するBrascamp‐Lieb の不等式 [21] という巨木が見出されたのは,わずか40年ほど前のことである

参考文献[1] Kuramoto, Y., Chemical Oscillations,

Waves andTurbulence, (Springer‐Verlag,

Berlin 1984).

[2] Harada, T., Tanaka, H.‐A., Hankins, M. J. and Kiss, I. Z., Phys. Rev. Lett. 105[8](2010), 088301.
[3] Zlotnik, A., Chen, Y., Kiss, I. Z., Tanaka, H.‐A. and Li, J. S., Phys. Rev. Lett.,

111[2] (2013), 024102.
[4] Tanaka, H.‐A., Physica \mathrm{D} : Nonlinear Phenomena, 288 (2014), 1‐22.
[5] Tanaka, H.‐A., J. Phys. \mathrm{A}, 47[40] (2014), 402002.
[6] 太田大輔,田中久陽,毎野裕亮,電子情報通信学会論文誌 \mathrm{A}, 89[3] (2006), 190‐198.
[7] Rudin, W., Real and Complex Analysis, 3rd ed. (McGraw‐Hill, New York 1987),
63‐65.

[8] Tsallis, C., Introduction to Nonextensive Statistical Mechanics, (Springer, NewYork 2009).

[9] Furuichi, S., J. Math. Phys., 50 (2009), 013303.

[10] Tanaka, H.‐A., Nishikawa, I., Kurths, J., Chen, Y. F. and Kiss, I. Z., Europhysics
Letters, 111[5] (2015), 50007.

[11] Hardy, G., Littlewood, J. E. and Pólya, G., inequalities, 2nd ed. (Cambridge Math‐ematical Library 1988).

[12] Moriguti, S., Ann. Math. Stat. 23 (1952), 286‐289.

[13] Bercher, J.‐F., J. Phys. \mathrm{A}, 45[25] (2012), 255303.

*12

Gardner[22] によると,planet of inequality.

108[14] Li, J.‐S., Ruths, J., Yu, T.‐Y., Arthanari, H. and Wagner, G., Proc. Natl. Acad.
Sci. U.S.A., 108[5](2011), 1879‐1884.

[15] Dasanayake, I. S. and Li, J.‐S., Neural Computation, 26 (2014), 2223‐2246.
[16] Tanaka, H.‐A., Hasegawa, A., Mizuno, H. and Endo, T., IEEE Trans. Circuits andSystems I: Fundamental Theory and Applications, 49[9] (2002), 1271‐1278.

[17] 矢部洋司,西川功,中田一紀,守川知行,関屋大雄,安藤芳晃,田中久陽,電子情報通信学会論文誌 \mathrm{C}, \mathrm{J}99-\mathrm{C}[6] (2016), 298‐313.

[18] Nagashima, T., Wei, X., Tanaka, H.‐A. and Sekiya, H., IEEE Trans. Circuits andSystems I: Regular Papers, 61[10] (2014), 2904‐2911.

[19] Kawamura, Y. and Hiroya, N., Physica \mathrm{D} : Nonlinear Phenomena, 295‐296 (2015),
11‐29.

[20] 岡田純一,心電図の数理,応用数理,22[4] (2012), 238‐246.
[21] Lieb, E. H., Inequalities: Selecta of Elliott H. Lieb, (Springer‐Verlag, Berlin 2002).
[22] Gardner, R. J., B. Am. Math. Soc., 39[3] (2002), 355‐405.