ベイズ最適化の基礎と材料工学への応用
松豊

.

は じめ

井浦孝
和太
金 森明 竹 内研
一太郎に「設計」や「計画」は，あらゆる科学的営みと切り離すことができない重要な問題の 1 つである．例えば，新たな科学的知見を得るために実験計画を立てる，あるタスクをより
図1

ブラックボックス関数を含む入出力関係．

は枚挙に暇がない．近年，設計・計画問題に対するデータ駆ここで，は，例えば可能な実験条件の集合を表す．

動型アプローチ，また，それを実現するための情報技術であ有限集合のとき，すなわち， ＝{x1,…, xn}のように可能なる機械学習が注目されている．データ駆動型アプローチは，実験条件がリストアップされているような場合，この最適化

データ分析の方法だけでなくデータ収集の方法も考察の対象

問題をプール型と呼ぶ．一方で，実験条件の指定も最適化ととする．特に後者の特性は，ものづくりなどデータ収集コス同時に行うとき，すなわち， ＝ Rd のように各パラメータトが非常に高い分野においては重要な意味を持つ．本稿でが値を取りうる空間のみが与えられている場合をクエリー型

は，データ収集と分析を統合的に扱うデータ駆動型アプローと呼ぶ．以下では，最もシンプルな問題設定であるプール型

チの 1 つであるベイズ最適化(1) に注目し，その基本的なアの最適化について解説する．

効率的に解決するためのロボットを設計する，疾患に有効な薬剤を設計する，天然資源を利用するための探鉱計画を立てる，というように，設計や計画が問題の根幹となっている例

がベイズ最適化の基本的な思想は，可能な限り少ない実験回イデアを解説し，材料工学分野での研究を紹介する．

数でブラックボックス関数 f の性質を理解し，これを最適化

.

ベイズ最適化の基本概念する，という点に集約される．そのため，ベイズ最適化は以下のプロシージャの繰り返しとして実現される．

ある実験条件を入力 x とし，その条件の下での実験結果を1.

観測 y としたとき， x と y の間の関係 f は実験そのものであり，数学的に陽に書き下すことができない．このような f をf に関する事前知識あるいは信念を統計モデル P として表現する．
2.

P に基づいて次に実験すべき条件 xnext をブラックボックス関数と呼び，ベイズ最適化は図のようなする．

ブラックボックス関数を含むシステムを最適化することを目3.

実 験 条 件 xnext に お い て 実 験 を 行 い ， ynext を 観 測 す的とした機械学習の方法である．

る．(xnext, ynext)に基づいて P を更新する．

いま，我々の目的はブラックボックス関数 f を最大にする
入力 xを見つけることとしよう
x＝argmax f(x)x∈から選択(1)

ガウス過程による f のモデル化

まず 1 について，目的関数 f に対して統計モデルを導入する動機は，f がブラックボックスであってもその予測分布を理化学研究所革新知能統合研究センター特別研究員
名古屋工業大学大学院生
京都大学工学研究科准教授，理化学研究所革新知能統合研究センター客員研究員
名古屋工業大学工学研究科教授，理化学研究所革新知能統合研究センターチームリーダー，物質材料研究機構招聘研究員(〒4668555 名古屋市昭和区御器所町)
Introduction to Bayesian Optimization and Its Application to Material Engineering; Kota Matsui, Kenta Kanamori, Kazuaki
Toyouraand Ichiro Takeuchi(RIKEN Center of Advanced Intelligence Project, Tokyo. Nagoya Institute of Technology,Nagoya. Kyoto University, Kyoto. Nagoya Institute of Technology, Nagoya. RIKEN Center of Advanced Intelligence Project,Tokyo. NIMS, Tsukuba)
Keywords: bayesian optimization, experimental design, blackbox function, gaussian process, acquisition function
2018年 9 月10日受理[doi:10.2320/materia.58.12]

ミ ニ 特 集

図2

ガウス過程によるブラックボックス関数 f のモデ
リング．破線が真の関数，実線がガウス過程による予測関数の平均，灰帯は予測関数の不確実性を表す．

求めることができる点にある．予測分布を考察することで，f の予測値のみならず，その不確実性もモデル化することができる．ベイズ最適化の枠組みでは，f の統計モデルとして

図3

各カーネルを用いたガウス過程からのサンプル．
Matern3/2，Matern5/2，RBF の順により滑らかな関数がサンプリングされている．

Matern カーネルが用いられることが多い．


探索方針の考察

ガウス過程(Gaussian process)(2)が用いられることが多い．

次に 2 について，「次にどの設定で実験をするべきか(図 2

ガウス過程とは，一言で言えば関数に対する正規分布であの横軸上のどの点で関数値を評価するべきか)」を決定する

り，平均関数 m ( x )と共分散関数(カーネル関数) k ( x, x ′)に際の基本的なアイデアは，ある点 x において実験を行い，観よって特徴付けられる．図にガウス過程による関数モデリ

測値 y を得ることでどの程度最適解 xに関する情報が得らングの例を示す．

れるかを考察することである．上述のように目的関数 f に対

して統計モデルを導入することで，この問題に対して様々な平均関数と共分散関数の選択

ガウス過程モデルの事前分布の平均関数は，実応用では定指標に基づいてアプローチすることが可能となる．本節で数関数 m ( x )≡ m0 (特に m0 ＝ 0 )とすることが多い．ベイズ最は，代表的な 3 つのアプローチを紹介する．以下では， m適化の進行とともに観測データに基づいて推定していく方針

点 x1 , … , x m ∈がよくとられる．

目的関数値を t＝maxi＝1,…, m f(xi)とおく．

一方で，共分散関数は，目的関数の事前知識(滑らかさや振幅など)をモデルに反映させる，データ点に対して類似度を定義する(よく似た実験設定ならば出力も近い値を取るこ

改善確率に基づく探索

このアプローチでは，候補点 x が現在の最良関数値 t を改善する確率(probability of improvement)を評価する．
PI(x):＝Pr(f(x)＞t)とを期待する)といった重要な役割を持つ．本稿では，ベイズ最適化の文脈で良く用いられる Radialが既に観測されているとし，現在の最良の(5)Function

PI が最大となる x∈ を次の評価点とすることで，目的関数(RBF)カーネルと Matern3/2 カーネル， Matern5/2 カーネ

値を改善する確率が高い点を次々と評価していく探索方針がルの 3 種類を紹介する．以下では r＝||x－x′||とする．

得られる．

Basis


RBF カーネル):＝expk ( x－ x′(2 )r2(2)2

このアプローチでは，候補点 x が現在の最良関数値 t を改善する期待値(expected improvement)を評価する．
EI(x):＝E[max{f(x)－t, 0}]Matern3/2 カーネル() :＝ 1 ＋k (x － x ′) (3r3rexp －)

(3)

((6)

ここで， E [ X ]は X の期待値を， max { a, b }は a と b のうち値の大きい方を返す関数である．EI が最大となる x∈ を次の評価点とすることで，目的関数の期待改善度が高い点を次Matern5/2 カーネル) :＝ 1 ＋k( x－ x′

期待改善度に基づく探索

5r 2) (5r5r＋exp － 32)(4)

ここで， はバンド幅を制御するパラメータである．それぞれのカーネルを用いたガウス過程からサンプリングされた関数の例を図に示す．カーネルの選び方によって，どの程度々と評価していく探索方針が得られる．


上側不確実性に基づく楽観的探索

このアプローチは，図 2 における青実線の上側の青帯の高さ(upper confidence bound)を評価する．
UCB(x):＝m(x)＋bs(x)(7)の滑らかさを関数に仮定するかをコントロールできることがここで，s(x)は共分散関数 k に基づいて定まる x の分散，b分かる．一般に，ブラックボックス関数は滑らかでないこと

は探索と活用のトレードオフ(分散 s(x)を重視するか，平均が想定されるため，より滑らかでない関数を表現できるm(x)を重視するか)をコントロールするという役割を持つ．

ま て り あ 第58巻 第 1 号(2019)
Materia Japan図4(左上)，(右上 )， (左 下)が それぞ れ PI ， EI ，UCB の獲得関数(下部の実線)を表す．いずれも非凸関数となっていることが分かる．

本 節 で 紹 介 し た PI ， EI ， UCB は 獲 得 関 数 ( acquisitionfunction )と呼ばれ，ベイズ最適化において本質的な役割を果たす．一方で，「どの獲得関数を用いれば，より少ない探索回数で f の最適解が得られるか」は当然ながら問題に依存する．問題の構造を良く理解した上で，適切な獲得関数を選択(場合によっては新たに設計)することが重要である．
また，獲得関数は一般に非凸関数となるため，大域最適解を求めることが難しい(図参照)．プール型の最適化問題の場合，全ての候補点で獲得関数の値を評価することができれば可能であるが，候補点の数が多い場合には非現実的になってしまう．現実的な方法としては，マルチスタートの非線形

図5

回帰におけるベイズ最適化の実行過程(( a )から(h)に向かって最適化が進行する)．獲得関数にはUCB を使用した．山の高い部分をある程度調べて次の山に移るといった振る舞いを示す．関数の極大となる点を重点的に探索する様子がみてとれる．

最適化手法によって良い局所最適解を見つけるといったヒューリスティクスが用いられる．

.
.

判別におけるベイズ最適化

回帰におけるベイズ最適化
これまでは，入力 x に対して出力 y が連続値である場合

本節では回帰問題，すなわち，図 1 における y が実数値を取る場合(y∈R)におけるベイズ最適化を概説する．

を考察してきた．一方，現実の問題では出力が連続値を取らない状況も想定される．例えば，関数 f の最大値ではなく，回帰問題の場合，ガウス過程によるモデリングには，デーf がある閾値を超えるかどうかにのみ興味がある場合を考え

タ Dn ＝{( x1, y1 ) , … , ( xm, ym )}を観測した下で，新たな点 x

よう．簡単のため，閾値を 0 とし，f(x)＞0 のとき成功における関数値 f ( x )が正規分布し，その事後平均と事後分(y＝1)，f(x)0 のとき失敗(y＝0)と定義する．すると問題

散(すなわち統計モデルの更新式)が解析的に書ける，というは，「ノイズの含まれる 2 値の出力から成功する確率が最も利点がある．

高い x をできるだけ少ない探索回数で列挙する」という 2

f(x)|Dn～N(mm(x), sm(x)),

値判別問題とみなすことができる．

⊥( K ＋ s 2I ) － 1( y － m )

出力が 2 値のとき，回帰の場合のように f ( x )の事後平均

s2m(x)＝k(x, x)－k(x) (K＋s2I)－1k(x)や事後分散を解析的に求めることができない．従って，何ら

mm(x)＝m(x)＋x(x)⊥⊥ここで，k(x)＝(k(x1, x),…, k(xm, x)) ，Ki, j＝k(xi, xj)，

かの方法で f ( x )の事後分布を近似して計算する必要があ

y ＝( y1, … , ym )であり， I は単位行列， s2 は実験誤差 e の分る．詳細は割愛するが，これまで観測した点における関数値散を表す．

f ＝( f ( x1 ) ,… , f( xm ))の事後分布 p ( f | Dm )をラプラス近似に

 節で示したような獲得関数
mm(x)と sm(x)に基づいて 2.

よって正規分布で近似することで，事後平均や事後分散を回が定義され，その最大値を与える点が次の探索点として選択帰の場合とほぼ同じ形で書き下すことができる(2)．このようされる．図に回帰におけるベイズ最適化の実行例を示す．にして求めた近似的な事後分布に基づいて獲得関数の設計，統計モデルの更新を行う．
図に判別におけるベイズ最適化の実行例を示す．図 6



ミ ニ 特 集

図7

2 次元のガウス過程モデルとランダムサンプリン
グされた PE 曲面における電導経路推定の概念図．

め，ガウス過程モデルとベイズ最適化の考え方を拡張し，イオン伝導経路を特徴づける部分に対して選択的に第一原理計算を行うアプローチを検討した．
 節で議論したように，ベイズ最適化では興味の対象と2.

なる物性値の予測分布を求め，適切な獲得関数を設計する必要がある．しかしながら，ガウス過程モデルからイオン伝導経路の予測分布を直接求めることはできないため，筆者らは1 )ガウス過程モデルからのモンテカルロサンプリング， 2 )動的計画法によるイオン伝導経路推定， 3 )最安定点とボトルネック点に関する獲得関数を用いたベイズ最適化の 3 ス
図6

判別におけるベイズ最適化の実行過程(上から下に向けて最適化が進行する)．獲得関数には UCBを使用した．左図が目的関数 f のモデリングを，右図が予測確率のモデリングをそれぞれ表す．

テップのアプローチを提案した．ステップ 1 では，ガウス過程モデルが関数に対する確率分布であることを利用し，モンテカルロサンプリングによってポテンシャルエネルギー関数 の ラン ダ ム サン プ ルを 数 多 く生 成 し た． ス テ ップ 2 では，ステップ 1 で生成したそれぞれのポテンシャルエネルギー関数に対して動的計画法を適用することで最適なイオンの左列は目的関数 f のガウス過程によるモデリングとそのベ伝導経路を同定し，最安定点とボトルネック点のランダムサイズ最適化による更新過程を表している．図 6 の右列は，ンプルを得た．ステップ 3 では，ステップ 2 で得た最安定1 f(x)＞0 ⇔ p(y|f(x))＞ 1
2
y ＝
0 f(x)0 ⇔ p(y|f(x)) 1

2

点とボトルネック点のランダムサンプルに基づいた獲得関数なる対応によって左列のベイズ最適化プロセスを予測確率のし，モデルに基づくイオン伝導経路の推定を効率的に行うこ世界に写したものである．とができた．

を設計し，次に第一原理計算を適用すうべきコンフィギュレーション点の選択を行った．これらの 3 ステップを繰り返すことで，イオン伝導経路に関する不確実性をモデリング

紙面の都合上，詳細な説明は省略するが，図に提案法の.

材料工学への応用イメージを示す．2 次元空間のポテンシャルエネルギー(PE )曲面をガウス過程によってモデル化すると予測分布の最後に，ガウス過程モデルとベイズ最適化を材料科学の課平均関数と分散関数は図 7 左のように表される．また，こ題に利用した筆者らの最近の研究を簡単に紹介する(3)(4)．電のガウス過程モデルからランダムサンプリングによって PE

池材料などのイオン電導性物質の伝導度を知るには，ポテン曲面の候補を多数作成し，各候補に動的計画法を適用してイシャルエネルギー曲面内のイオン伝導経路を同定する必要がオン伝導経路を求めることで，イオン伝導経路の予測分布をある．イオン伝導経路を同定できれば，その経路内の最安定推定することができる．このアプローチをプロトン伝導体の点(エネルギー最小の点)とボトルネック点(経路内でエネル伝導度推定に利用することで，網羅的計算に比べて大幅に計ギー最大の点)を知ることができ，イオン伝導度を求めるこ算コストを削減することができた．とができる．第一原理計算などの物理シミュレーションを利用すると，コンフィギュレーション空間の各点におけるポテ.

おわりにンシャルエネルギーを高精度に求めることができるが，ポテンシャルエネルギー関数全体を網羅的な第一原理計算で求め材料科学の問題にデータ科学のアプローチを利用する試みようとすると膨大な計算コストがかかってしまう．このたは材料情報学(Materials Informatics)と呼ばれ注目を集めて

ま て り あ 第58巻 第 1 号(2019)
Materia Japanいる．本稿で紹介したベイズ最適化のアプローチを利用するに，ベイズ最適化においては興味の対象となる物性値の予測

and Z. Ghahramani: The Journal of Machine Learning
Research, 17(2016), 55495601.
( 6 ) D. Hern áandez
Lobato, J. HernandezLobato, A. Shah and R.
Adams: International Conference on Machine Learning,(2016), 14921501.

分布を計算し，その不確実さを効率的にへらすための獲得関★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★

ことで，材料科学における実験やシミュレーションのコストを 大 幅 に削 減 す るこ と が 期待 で き る． 第 5 節 の 例の よ う

数を設計する必要がある．さまざまな実用問題に応じたベイズ最適化の拡張として，制約付きベイズ最適化(5)，多目的ベイズ最適化(6)などのアプローチが提案されており，材料科学へのベイズ最適化の利用はますます増えていくものと期待される．
本研究の一部は，科学研究費( 17H00758, 16H06538 )，JST CREST (JPMJCR1302, JPMJCR1502)，理化学研究所

革新知能統合研究センター，および， JST イノベーション
ハブ構築支援事業・情報統合型物質・材料開発イニシアティ
ブの補助を受けて行われた．

文献( 1 ) B. Shahriari, K. Swersky, Z. Wang, R. Adams and N. D.
Freitas: Proceedings of the IEEE, 104(2016), 148175.
( 2 ) C. E. Rasmussen and C. K. I. Williams. Gaussian: Processes forMachine Learning. MIT Press, (2006).
( 3 ) K. Kanamori, K. Toyoura, J. Honda, K. Hattori, A. Seko, M.
Karasuyama, K. Shitara, M. Shiga, A. Kuwabara and I.
Takeuchi: Phys. Rev. B, 97(2018), 125124.
( 4 ) K. Toyoura, D. Hirano, A. Seko, M. Shiga, A. Kuwabara, M.
Karasuyama, K. Shitara and I. Takeuchi: Phys. Rev. B, 93(2016), 054112.
( 5 ) J. M. Hern áandezLobato, M. Gelbart, R. Adams, M. Hoffman

松井孝太2017年名古屋大学にて博士(情報科学)を取得．名古屋工業大学特任研究員，名古屋大学特任助教を経て，2018年 6 月より現職．医学・材料科学における統計・機械学習の方法論の開発と応用研究に従事．
金森研太
2018年名古屋工業大学大学院工学研究科情報工学専攻修士課程を修了．機械
学習に基づく実験計画の研究に従事．
豊浦和明
2008年京都大学にて博士(工学)を取得．学術振興会特別研究員，キヤノンヨーロッパ財団リサーチフェロー，京都大学特定研究員，名古屋大学助教を経て，2016年 4 月より現職．2018年12月より理化学研究所・革新知能統合研究センター・オンライン意志決定ユニット・客員研究員を兼務．第一原理計算と機械学習による新規固体イオニクス材料の高効率探索に従事．
竹内一郎
2000年名古屋大学にて博士(工学)を取得．学術振興会特別研究員，三重大学助教，名古屋工業大学准教授を経て，2015年 4 月より現職．2016年 9 月より
理化学研究所革新知能統合研究センター・データ駆動型生物医科学チーム・チームリーダを兼務．データ駆動型人工知能の基盤となる機械学習の研究と実践に従事．

★★★★★★★★★★★★★★★★★★★★★★★★★★★★★★

松井孝太

金森研太

豊浦和明

竹内一郎

ミ ニ 特 集