(57)【要約】【課題】最適解の獲得にかかる時間を短縮することを課題とする。【解決手段】情報処理装置は、目的関数を含む複数の訓練データを用いて、変分オートエンコーダの学習を実行する。情報処理装置は、学習済みの変分オートエンコーダに複数の訓練データを入力して、学習済みの変分オートエンコーダの潜在空間上における複数の訓練データの分布を特定する。情報処理装置は、複数の訓練データの分布に従って、目的関数の最適解の探索範囲を決定し、決定された探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する。【選択図】図１５
2022003451.tif 000002
【特許請求の範囲】
【請求項１】
コンピュータに、
目的関数を含む複数の訓練データを用いて、変分オートエンコーダの学習を実行し、
学習済みの変分オートエンコーダに前記複数の訓練データを入力して、前記学習済みの変分オートエンコーダの潜在空間上における前記複数の訓練データの分布を特定し、
前記複数の訓練データの分布に従って、前記目的関数の最適解の探索範囲を決定し、
決定された前記探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する
処理を実行させることを特徴とする最適解獲得プログラム。
【請求項２】
前記特定する処理は、前記学習済みの変分オートエンコーダの潜在空間へ、前記複数の訓練データの入力に応じて前記学習済みの変分オートエンコーダのエンコーダにより生成された前記複数の訓練データそれぞれに対応する潜在変数を写像することで、前記潜在空間上における前記複数の訓練データの分布を特定することを特徴とする請求項１に記載の最適解獲得プログラム。
【請求項３】
前記決定する処理は、前記潜在空間上における前記複数の訓練データの分布の疎密を判定し、密度が閾値以上である領域を前記最適解の探索範囲と決定することを特徴とする請求項１または２に記載の最適解獲得プログラム。
【請求項４】
前記獲得する処理は、前記密度が閾値以上である領域に属する訓練データから生成された潜在変数のサンプリング集合を生成し、前記サンプリング集合を、前記学習済みの変分オートエンコーダのデコーダに入力して、前記所望の目的関数の最適解を獲得することを特徴とする請求項３に記載の最適解獲得プログラム。
【請求項５】
前記獲得する処理は、前記密度が閾値以上である領域に属する訓練データのうち１つの訓練データを選択し、選択した訓練データから生成された潜在変数を前記学習済みの変分オートエンコーダのデコーダに入力して得られた復元結果に基づき、前記所望の目的関数の最適解を獲得することを特徴とする請求項３に記載の最適解獲得プログラム。
【請求項６】
コンピュータが、
目的関数を含む複数の訓練データを用いて、変分オートエンコーダの学習を実行し、
学習済みの変分オートエンコーダに前記複数の訓練データを入力して、前記学習済みの変分オートエンコーダの潜在空間上における前記複数の訓練データの分布を特定し、
前記複数の訓練データの分布に従って、前記目的関数の最適解の探索範囲を決定し、
決定された前記探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する
処理を実行することを特徴とする最適解獲得方法。
【請求項７】
目的関数を含む複数の訓練データを用いて、変分オートエンコーダの学習を実行する学習部と、
学習済みの変分オートエンコーダに前記複数の訓練データを入力して、前記学習済みの変分オートエンコーダの潜在空間上における前記複数の訓練データの分布を特定する特定部と、
前記複数の訓練データの分布に従って、前記目的関数の最適解の探索範囲を決定する決定部と、
決定された前記探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する獲得部と
を有することを特徴とする情報処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、最適解獲得プログラム、最適解獲得方法および情報処理装置に関する。
【背景技術】
【０００２】
従来から、与えられた条件（制約条件）の下で、望ましさの尺度（目的関数）に関して、最も良い解（最適解）を求める最適化問題が知られている。一般的に、変数間に交互作用が存在しない場合、どのような最適化手法を用いても、目的関数に関する最適解を比較的容易に求めることができる。ところが、多くの問題では、変数間の交互作用が定量的には分からないが存在するため、変数の組合せ集合により形成される目的関数の曲面である解空間には複数の山や谷が存在する多峰性である。このようなことから、近年では、探索手法に工夫を凝らし、探索回数を削減して最適解を高速に獲得する数理計画法、シミュレーテッド・アニーリング、遺伝的アルゴリズムなどのメタヒューリスティック、応答曲面法などの技術が利用されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１９−８４９９号公報
【特許文献２】特開２０１０−１４６０６８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記技術による高速化の効果は、解空間の複雑さに依存しており、複雑な解空間の場合、局所解の捕捉や探索回数が増加して最適化に膨大な時間を要する。例えば、解空間が多峰性のように最適化が存在するか否かが既知ではない空間の場合には、膨大な時間がかかるものの、そもそも最適解に到達することもできない可能性もある。
【０００５】
一つの側面では、最適解の獲得にかかる時間を短縮することができる最適解獲得プログラム、最適解獲得方法および情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【０００６】
第１の案では、最適解獲得プログラムは、コンピュータに、目的関数を含む複数の訓練データを用いて、変分オートエンコーダの学習を実行する処理を実行させる。最適解獲得プログラムは、コンピュータに、学習済みの変分オートエンコーダに前記複数の訓練データを入力して、前記学習済みの変分オートエンコーダの潜在空間上における前記複数の訓練データの分布を特定する処理を実行させる。最適解獲得プログラムは、コンピュータに、前記複数の訓練データの分布に従って、前記目的関数の最適解の探索範囲を決定し、決定された前記探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する処理を実行させる。
【発明の効果】
【０００７】
一つの側面では、最適解の獲得にかかる時間を短縮することができる。
【図面の簡単な説明】
【０００８】
【図１】図１は、実施例１にかかる情報処理装置を説明する図である。
【図２】図２は、参考技術にかかるＶＡＥの機械学習を説明する図である。
【図３】図３は、参考技術にかかる最適解の獲得を説明する図である。
【図４】図４は、参考技術にかかる最適解の獲得を説明する図である。
【図５】図５は、参考技術の問題点を説明する図である。
【図６】図６は、実施例１にかかる情報処理装置の機能構成を示す機能ブロック図である。
【図７】図７は、訓練データの生成例を説明する図である。
【図８】図８は、目的関数の集合の生成例を説明する図である。
【図９】図９は、特性値の集合の生成例を説明する図である。
【図１０】図１０は、変数の集合の画像化例を説明する図である。
【図１１】図１１は、目的関数の集合の画像化例を説明する図である。
【図１２】図１２は、特性値の集合の画像化例を説明する図である。
【図１３】図１３は、ＶＡＥの学習を説明する図である。
【図１４】図１４は、訓練データの疎密を説明する図である。
【図１５】図１５は、最適解の獲得を説明する図である。
【図１６】図１６は、全体的な処理の流れを示すフローチャートである。
【図１７】図１７は、訓練データの生成処理の流れを示すフローチャートである。
【図１８】図１８は、最適解の獲得処理の流れを示すフローチャートである。
【図１９】図１９は、目的関数、変数、特性値の集合の算出を説明する図である。
【図２０】図２０は、具体例で使用する回路図を示す図である。
【図２１】図２１は、潜在空間を生成するＶＡＥの構造と損失を説明する図である。
【図２２】図２２は、潜在空間における検証データの分布を説明する図である。
【図２３】図２３は、学習データの復元画像を説明する図である。
【図２４】図２４は、潜在空間における節点波形の復元画像を説明する図である。
【図２５】図２５は、潜在空間におけるパラメータおよび電力効率の復元画像を説明する図である。
【図２６】図２６は、潜在空間におけるＬｍパラメータの分布を説明する図である。
【図２７】図２７は、潜在空間におけるＬｒパラメータの分布を説明する図である。
【図２８】図２８は、潜在空間におけるＣｒパラメータの分布を説明する図である。
【図２９】図２９は、潜在空間における電力効率の分布を説明する図である。
【図３０】図３０は、電力効率分布とランダム抽出を説明する図である。
【図３１】図３１は、電力効率分布のシミュレーション値と推定値を説明する図である。
【図３２】図３２は、推定値とシミュレーション値との誤差を説明する図である。
【図３３】図３３は、推定値とシミュレーション値との電力効率の比較を説明する図である。
【図３４】図３４は、最適解の獲得を説明する図である。
【図３５】図３５は、ハードウェア構成例を説明する図である。
【発明を実施するための形態】
【０００９】
以下に、本願の開示する最適解獲得プログラム、最適解獲得方法および情報処理装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。
【実施例１】
【００１０】
［情報処理装置の説明］
図１は、実施例１にかかる情報処理装置１０を説明する図である。図１に示す情報処理装置１０は、変分オートエンコーダ（ＶＡＥ：Variational  Autoencoder）を用いた学習モデルを学習し、ユーザが所望する尺度（目的関数）に対する最適解を求めるコンピュータ装置の一例である。
【００１１】
ＶＡＥは、入力データを潜在空間に次元圧縮することで、入力データの特徴量を学習する。その際、類似度の高いデータを潜在空間の任意点に集中させて配置する特徴がある。この特徴に着目して、ＶＡＥの訓練データに、正解情報に対応する目的関数、目的関数に影響を与えるパラメータの一例である変数や特性値を与えてＶＡＥを学習することが考えられている。
【００１２】
図２は、参考技術にかかるＶＡＥの機械学習を説明する図である。図２に示すように、参考技術は、目的関数と変数１〜変数ｎと特性１〜特性ｎとを含む訓練データに対して規格化や画像化を行って画像の入力データセットを生成し、入力データセットをＶＡＥのエンコーダに入力して、特徴量の圧縮を実行する。そして、参考技術は、圧縮した特徴量をＶＡＥのデコーダに入力して特徴量から出力データセットを復元し、出力データセットに対して復号化や復元を実行して、目的関数と変数１〜変数ｎと特性１〜特性ｎとを取得する。このとき、参考技術では、入力データセットと出力データセットとが一致するように、エンコーダやデコーダに対して機械学習を実行する。つまり、エンコーダやデコーダに利用されるニューラルネットワークの機械学習が実行される。
【００１３】
ここで、参考技術では、目的関数を含む上記訓練データを用いて機械学習された学習済みＶＡＥを用いて、ユーザが所望する目的関数の最適解を推論により獲得することが考えられる。なお、ここでは、一例として、目的関数が最大となる最適解の獲得を例にして説明する。
【００１４】
図３と図４は、参考技術にかかる最適解の獲得を説明する図である。図３に示すように、参考技術では、学習済みＶＡＥのエンコーダに訓練データ（Data−1からData−n）を入力して潜在変数（Z−1からZ−n）を取得する。なお、訓練データData−1から生成された潜在変数をZ−1、訓練データData−2から生成された潜在変数をZ−2、訓練データData−nから生成された潜在変数をZ−nとする。
【００１５】
ここで、参考技術では、学習済みＶＡＥの潜在空間を用いて、類似度の高い目的関数が集中して配置される解空間（目的関数の高い部分、低い部分が集中）を構成する。そして、図４に示すように、参考技術では、解空間において目的関数が最大となる潜在変数を特定し、当該潜在変数を学習済ＶＡＥのデコーダに入力して復元する。
【００１６】
このように、参考技術では、学習済ＶＡＥのデコーダの入力として潜在空間の任意の点を与え、目的関数の最適値を与える「変数、特性値」を学習済ＶＡＥのデコーダを用いて推論により獲得するので、複雑な解空間の場合でも高速に最適解を獲得することができる。
【００１７】
しかし、潜在空間において、任意点に対応するデコーダの推論精度の分布は、非一様、局所的変動、部分領域分布など不明であることから、正確な最適解を獲得できるとは限らない。図５は、参考技術の問題点を説明する図である。図５に示すように、参考技術では、学習済ＶＡＥの潜在空間における目的関数の分布から、目的関数が最大となる任意点を抽出する。ところが、学習済ＶＡＥの潜在空間におけるデコーダの推論精度の分布を考えた場合、抽出された任意点が推論精度の低い領域に該当することがあり、この場合、任意点に基づき復元された最適解が正確とは限らない。一般的に、デコーダの推論精度の分布は不明であることから、参考技術では、最適解を正確に獲得することが困難となる場合がある。
【００１８】
そこで、実施例１にかかる情報処理装置１０は、目的関数を含む複数の訓練データを用いてＶＡＥを学習した後、学習済ＶＡＥに複数の訓練データを入力して、学習済ＶＡＥの潜在空間上における複数の訓練データの分布を特定する。そして、情報処理装置１０は、複数の訓練データの分布に従って、目的関数の最適解の探索範囲を決定し、決定された探索範囲に含まれる訓練データを用いて、所望する目的関数の最適解を獲得する。
【００１９】
すなわち、情報処理装置１０は、学習済ＶＡＥの潜在空間（目的関数の分布）へ訓練データに対応する潜在変数を写像する。そして、情報処理装置１０は、訓練データの分布が疎な領域においては学習済ＶＡＥのデコーダの推論精度が低く、密な領域では推論精度が高いことに着目して、潜在空間の任意点において、近傍領域の訓練データ分布の疎密により、最適解候補の採用可否を判別する。この結果、情報処理装置１０は、最適解の獲得にかかる時間を短縮することができるとともに、正確な最適解を獲得することができる。
【００２０】
［機能構成］
図６は、実施例１にかかる情報処理装置１０の機能構成を示す機能ブロック図である。図６に示すように、情報処理装置１０は、通信部１１、記憶部１２、制御部２０を有する。
【００２１】
通信部１１は、他の装置との間の通信を制御する処理部であり、例えば通信インタフェースなどである。例えば、通信部１１は、管理者の端末から各処理の開始要求を受信し、学習結果や最適解の獲得結果などを管理者の端末に送信する。
【００２２】
記憶部１２は、データや制御部２０が実行するプログラムなどを記憶する処理部であり、例えばメモリやハードディスクなどにより実現される。例えば、記憶部１２は、データＤＢ１３、訓練データＤＢ１４を記憶する。
【００２３】
データＤＢ１３は、訓練データの生成元となる学習データを記憶するデータベースである。例えば、データＤＢ１３は、各種センサなどによりセンシングされたセンシングデータや管理者により入力された各種データなどを記憶する。
【００２４】
訓練データＤＢ１４は、ＶＡＥの学習に利用する訓練データを記憶するデータベースである。例えば、訓練データＤＢ１４は、後述する訓練データ生成部２１によって、データＤＢ１３に記憶されるデータから生成された訓練データを記憶する。
【００２５】
制御部２０は、情報処理装置１０全体を司る処理部であり、例えばプロセッサなどにより実現される。この制御部２０は、訓練データ生成部２１、学習部２２、集合生成部２３、獲得部２４を有する。なお、訓練データ生成部２１、学習部２２、集合生成部２３、獲得部２４は、プロセッサが有する電子回路やプロセッサが実行するプロセスなどにより実現される。
【００２６】
訓練データ生成部２１は、データＤＢ１３に記憶されるデータを用いて、訓練データを生成する処理部である。具体的には、訓練データ生成部２１は、データＤＢ１３に記憶されるデータから目的関数、変数、特性値を特定し、ＶＡＥに入力するために、目的関数、変数、特性値それぞれに対応する画像データを生成して、訓練データとして訓練データＤＢ１４に格納する。
【００２７】
図７は、訓練データの生成例を説明する図である。図７に示すように、訓練データ生成部２１は、目的関数、変数、特性値などの各変数（Πなど）の変動範囲を設定し、変数の集合を生成する。なお、変数の集合におけるｋは訓練データの数を示し、ｍは変数の数を示し、ｑは変数データの次元を示す。
【００２８】
続いて、訓練データ生成部２１は、変数の集合に対して数値計算や測定などにより、目的関数（Γ）の集合と特性値（Λ）の集合を生成する。なお、目的関数の集合におけるｎは目的関数の数を示し、ｒは目的関数データの次元を示し、特性値の集合におけるｏは特性値の数を示し、ｓは特性値データの次元を示す。
【００２９】
その後、訓練データ生成部２１は、変数の集合、目的関数の集合、特定値の集合それぞれを画像化し、画像化変数、画像化目的関数、画像化特性値の集合を生成し、この集合を訓練データとして生成する。なお、ｔは画像化変数の次元を示し、ｕは画像化目的関数の次元を示し、ｖは画像化特性値の次元を示す。
【００３０】
（訓練データ生成の具体例）
ここで、図８から図１２を用いて、上述した訓練データの生成の具体例を説明する。ここでは、一例として、回路設計における設計パラメータの最適化を例にして説明する。図８は、目的関数の集合の生成例を説明する図である。図９は、特性値の集合の生成例を説明する図である。図１０は、変数の集合の画像化例を説明する図である。図１１は、目的関数の集合の画像化例を説明する図である。図１２は、特性値の集合の画像化例を説明する図である。
【００３１】
まず、訓練データ生成部２１は、変数の集合、目的関数の集合、特性値の集合を生成する。具体的には、図８に示すように、訓練データ生成部２１は、変数の集合として、「回路素子パラメータ（インダクタンス、キャパシタンス）の組み合わせ」をｎ個生成する。そして、訓練データ生成部２１は、変数の集合をＬＴｓｐｉｃｅ（登録商標）などの回路シミュレータなどに入力して、目的関数の集合として「電力効率、電力損失」の組み合わせをｎ個生成する。
【００３２】
同様に、図９に示すように、訓練データ生成部２１は、変数の集合「回路素子パラメータ（インダクタンス、キャパシタンス）の組み合わせ１〜ｎ」を回路シミュレータなどに入力して、特性値の集合として「時系列電圧波形（以下では単に「電圧波形」と記載する場合がある）、時系列電流波形（以下では単に「電流波形」と記載する場合がある）」の組み合わせをｎ個生成する。
【００３３】
続いて、訓練データ生成部２１は、変数の集合、目的関数の集合、特性値の集合それぞれを画像化して、画像化変数、画像化目的関数、画像化特性値を生成する。具体的には、図１０に示すように、訓練データ生成部２１は、変数の１つであるｎ個のインダクタンス１〜ｎそれぞれを、変数の値に応じて画像濃度を設定することで画像化する。なお、もう一つの変数であるキャパシタンスについても同様に画像化される。
【００３４】
また、図１１に示すように、訓練データ生成部２１は、目的関数の１つであるｎ個の電力効率１〜ｎそれぞれを、目的関数の値に応じて画像濃度を設定することで画像化する。なお、もう一つの目的変数である電力損失についても同様に画像化される。
【００３５】
また、図１２に示すように、訓練データ生成部２１は、特性値の１つであるｎ個の電圧波形１〜ｎそれぞれを、それぞれの波形が示されるように画像化する。なお、もう一つの目的変数である電流波形についても同様に画像化される。
【００３６】
図６に戻り、学習部２２は、訓練データＤＢ１４に記憶される訓練データを用いて、ＶＡＥを学習する処理部である。具体的には、学習部２２は、訓練データである「画像化変数、画像化目的関数、画像化特性値」をＶＡＥに入力し、ＶＡＥを学習する。そして、学習部２２は、学習が終了すると、学習結果として学習済みのＶＡＥまたは学習済みＶＡＥを構成する各種パラメータを記憶部１２に格納する。なお、学習を終了するタイミングは、所定数以上の訓練データを用いた学習が完了した時点や復元誤差が閾値未満となった時点など、任意に設定することができる。
【００３７】
ここで、学習対象のＶＡＥについて説明する。図１３は、ＶＡＥの学習を説明する図である。なお、図１３の説明では、必要に応じてベクトルＸなどを単にＸと記載する場合がある。図１３に示すように、ＶＡＥは、エンコーダとデコーダとを有する。エンコーダは、入力データ（ベクトルＸ）が入力されると、潜在変数ｚが従う正規分布のパラメータμ（ベクトル）とΣ（ベクトル）を生成する。すなわち、エンコーダは、入力データ（ベクトルＸ）の特徴を圧縮してＮ次元のガウス分布の平均μと分散Σを出力し、その２つをもとにして潜在変数Ｚをサンプリングで求める。デコーダは、サンプリングされた潜在変数から入力データを復元する。そして、ＶＡＥは、入力データと復元データとの差分を用いた誤差逆伝搬により、エンコーダとデコーダそれぞれのニューラルネットワークの重みを調節する。
【００３８】
具体的には、図１３の（１）は、ｎ次元標準正規分布Ｎｎ（０，Ｉ）からランダムにサンプリングされたｎ次元ベクトルである。図１３の（２）は、２つのベクトルの要素毎の積（アダマール積）であり、ベクトルＺは平均μ、分散Σのｎ次元正規分布Ｎｎ（ベクトルμ，ベクトルΣ）からランダムにサンプリングされたｎ次元ベクトルと等価である。
【００３９】
また、図１３の（３）におけるＤＫＬ（Ｐ｜｜Ｑ）は、２つの確率分布ＰとＱのカルバック・ライプラー距離（以下、ＫＬ距離と記載する場合がある）であり、ＰとＱの差異を図る尺度である。ＫＬ距離は、ＰとＱが完全に一致するときのみゼロで、それ以外は正の値となる。正則化損失の最小化により、類似性の高い画像が潜在空間中の近くの点にデコードされるようになる。図１３の（４）は、復元損失の近似として、入力Ｘと出力Ｘ´との二乗和誤差や交差エントロピー誤差などが用いられる。後述する回路設計の例では、交差エントロピー誤差を用いる。なお、Ｅ［Ａ］はＡの期待値を表す。
【００４０】
このように設計されたＶＡＥにおいて、訓練データの集合ζ＝｛Ｘ１，Ｘ２，・・・Ｘｎ｝に対し、Ｌｏｓｓを最小化するようにエンコーダとデコーダのパラメータを学習する。なお、エンコーダとデコーダは、階層的なニューラルネットワーク（ＮＮ）から構成される。ここで、Ｌｏｓｓを最小化するようにＮＮの重みとバイアスのパラメータを調整する過程がＶＡＥの学習プロセスである。
【００４１】
図６に戻り、集合生成部２３は、学習済ＶＡＥを用いて、サンプリング集合を生成する処理部である。具体的には、集合生成部２３は、学習済ＶＡＥに各訓練データを入力して、学習済ＶＡＥの潜在空間上における各訓練データの分布を特定し、各訓練データの分布に従って、目的関数の最適解の探索範囲を決定する。
【００４２】
図１４は、訓練データの疎密を説明する図である。図１４に示すように、集合生成部２３は、学習済みＶＡＥのエンコーダの潜在空間へ、複数の訓練データの入力に応じて学習済みＶＡＥのエンコーダにより生成された複数の訓練データそれぞれに対応する潜在変数を写像する。つまり、集合生成部２３は、学習済みＶＡＥの潜在空間上における各訓練データそれぞれの目的関数の分布を、各訓練データに対応する潜在変数を写像することで、潜在空間上における各訓練データの分布を特定する。そして、集合生成部２３は、潜在空間上において訓練データの疎密を判定し、密である領域に属する各訓練データをサンプリング集合として生成する。
【００４３】
一例を挙げると、集合生成部２３は、潜在空間上のおける各訓練データの分布において、目的関数の値が閾値以上などのように、所定条件を満たす複数の任意の点を選択する。続いて、集合生成部２３は、選択した各任意の点について、当該任意の点と中心として一定距離の範囲内（各領域）に存在する訓練データの数を計数する。そして、集合生成部２３は、最も訓練データの数が多い領域を探索範囲に決定することもできる。
【００４４】
獲得部２４は、学習済みＶＡＥを用いて、目的関数の最適解を獲得する処理部である。例えば、獲得部２４は、集合生成部２３により生成されたサンプリング集合に対して、学習済みＶＡＥを用いてデコードすることで、サンプリング集合から画像化変数、画像化目的関数、画像化特性値の各集合を復元する。そして、獲得部２４は、画像化変数、画像化目的関数、画像化特性値の各集合を数値化し、最適解である目的関数、変数、特性値の組み合わせを獲得する。
【００４５】
図１５は、最適解の獲得を説明する図である。図１５に示すように、獲得部２４は、最も訓練データの数が多い領域（すなわち密の領域）に属する複数の訓練データのうち、目的関数の値が最も大きい訓練データを抽出することもできる。つまり、獲得部２４は、訓練データの密度が疎である領域の訓練データを対象外（採用否）とする。そして、獲得部２４は、抽出した訓練データの潜在変数（特徴量）を学習済ＶＡＥのデコーダに入力して復元することで、最適解である目的関数、変数、特性値の組み合わせを獲得することもできる。なお、獲得部２４は、獲得した最適解を記憶部１２に格納したり、ディスプレイに表示したり、管理端末に送信したりする。
【００４６】
［処理の流れ］
次に、上述した各処理部で実行される処理の流れを説明する。ここでは、全体的な処理、訓練データの生成、最適解の獲得の各処理について説明する。
【００４７】
（全体的な処理）
図１６は、全体的な処理の流れを示すフローチャートである。図１６に示すように、処理が開始されると、訓練データ生成部２１は、訓練データの生成を実行し（Ｓ１０１）、学習部２２は、訓練データによるＶＡＥの学習を実行する（Ｓ１０２）。
【００４８】
続いて、集合生成部２３は、学習済みＶＡＥの潜在空間におけるサンプリング集合を生成する（Ｓ１０３）。そして、獲得部２４は、学習済みＶＡＥにサンプリング集合を与えて、目的関数、変数、特性値の集合を算出し（Ｓ１０４）、目的関数の最小値（または最大値）を獲得する（Ｓ１０５）。
【００４９】
ここで最適解が獲得できない場合（Ｓ１０６：Ｎｏ）、訓練データ生成部２１は、各変数の変動範囲を広げる等の再設定を行って、再学習用の訓練データを生成する（Ｓ１０７）。その後、Ｓ１０２以降が繰り返される。
【００５０】
一方、獲得部２４は、最適解が獲得できた場合（Ｓ１０６：Ｙｅｓ）、獲得した目的関数、変数、特性値の集合を出力する（Ｓ１０８）。
【００５１】
（訓練データの生成処理）
図１７は、訓練データの生成処理の流れを示すフローチャートである。図１７に示すように、訓練データ生成部２１は、各変数の変動範囲を設定し（Ｓ２０１）、変数の集合を生成する（Ｓ２０２）。
【００５２】
続いて、訓練データ生成部２１は、変数の集合を入力として、数値計算や測定等により、目的関数の集合を生成する（Ｓ２０３）。また、訓練データ生成部２１は、変数の集合を入力として、数値計算や測定等により、特性値の集合を生成する（Ｓ２０４）。
【００５３】
そして、訓練データ生成部２１は、変数の集合から画像化変数の集合を生成し（Ｓ２０５）、目的関数の集合から画像化目的関数の集合を生成し（Ｓ２０６）、特性値の集合から画像化特性値の集合を生成する（Ｓ２０７）。
【００５４】
（最適解の獲得処理）
図１８は、最適解の獲得処理の流れを示すフローチャートである。図１８に示すように、集合生成部２３は、学習済みＶＡＥに訓練データの集合を与えて潜在変数の平均値の集合を算出する（Ｓ３０１）。例えば、集合生成部２３は、訓練データの集合ζ＝｛Ｘ１，Ｘ２，・・・Ｘｎ｝を学習済みＶＡＥのエンコーダに入力し、潜在変数の平均値の集合Ωを取得する。
【００５５】
続いて、集合生成部２３は、潜在変数の平均値の集合より、潜在変数の範囲（最小、最大）を算出する（Ｓ３０２）。そして、集合生成部２３は、潜在変数の範囲よりサンプリング集合（仮）を生成する（Ｓ３０３）。例えば、集合生成部２３は、ユーザが所望する目的関数に該当する範囲のサンプリング集合（仮）Ｍを生成する。なお、ｉｉはサンプリング集合（仮）の数であり、ｊは潜在空間（潜在変数の平均値）の次元である。
【００５６】
その後、集合生成部２３は、Ｓ３０３で生成した潜在空間におけるサンプリング集合（仮）Ｍと、Ｓ３０１で生成した潜在変数の平均値の集合Ωとを用いて、訓練データの部分の疎密指標の集合を算出する（Ｓ３０４）。例えば、集合生成部２３は、訓練データ分布の疎密指標の集合Ｎを生成する。なお、ｉｉは、サンプリング集合（仮）の数であり、ｃは、訓練データ分布の疎密指標の次元である。
【００５７】
続いて、集合生成部２３は、訓練データ分布の粗密指標の集合より、最適解候補の採用可否集合を算出する（Ｓ３０５）。例えば、集合生成部２３は、サンプリング集合（仮）の数であるｉｉを用いて、最適解候補の採用可否集合Ｋを生成する。
【００５８】
そして、集合生成部２３は、サンプリング集合（仮）から最適解候補で採用否となった要素を削除して、サンプリング集合を生成する（Ｓ３０６）。例えば、集合生成部２３は、サンプリング集合（仮）から、最適解候補の採用可否集合Ｋのうち採用否となった要素を削除したサンプリング集合Ｍを生成する。なお、ｉは、サンプリング集合の数であり、ｊは、潜在空間（潜在変数の平均値）の次元である。その後、獲得部２４は、サンプリング集合をデコードし（Ｓ３０７）、最適解を獲得する（Ｓ３０８）。
【００５９】
図１９は、目的関数、変数、特性値の集合の算出を説明する図である。図１９に示すように、獲得部２４は、潜在変数におけるサンプリング集合Ｍを学習済みＶＡＥのデコーダに入力し、復元結果として画像化変数Ｄ´（ｄ´１〜ｄ´ｎ）、画像化目的関数Ｅ´（ｅ´１〜ｅ´ｎ）、画像化特性値Ｆ´（ｆ´１〜ｆ´ｎ）の集合ζ＝｛Ｘ´１，Ｘ´２，・・・Ｘ´ｎ｝を取得する。なお、Ｘ´には、｛Ｄ´１〜ｍ，Ｅ´１〜ｎ，Ｆ´１〜ｏ｝が含まれる。そして、獲得部２４は、画像化変数Ｄ´、画像化目的関数Ｅ´、画像化特性値Ｆ´の集合それぞれを数値化し、変数π´１〜π´ｎの集合Π´、目的関数γ´１〜γ´ｎの集合Γ、特性値λ´１〜λ´ｎの集合Λを生成する。
【００６０】
［具体例］
次に、上述した最適解の獲得の具体例を説明する。ここでは、ＬＬＣ電流共振回路の回路設計における設計パラメータの最適化を例にして説明する。
【００６１】
（回路図）
まず、設計対象となる回路図について説明する。図２０は、具体例で使用する回路図を示す図である。図２０に示すように、ここでは、２つのリアクトルＬｒ，ＬｍとコンデンサＣｒとを有するＬＬＣ電流共振回路を例にして説明する。また、図２０に示すように、４つの観測点における節点波形と３つのパラメータ（Ｃｒ，Ｌｒ，Ｌｍ）の画像データを用いて、学習および最適解の獲得を実行する。なお、４つの観測点が現象を示す上記特性値に対応し、３つのパラメータが上記変数に対応し、電力効率が上記目的関数に対応する。
【００６２】
（学習データ）
次に、設計パラメータの最適な組み合わせを獲得するためのＶＡＥの学習に利用する学習データについて説明する。ここでは、回路パラメータの変化に対して敏感な４つの観測点１〜４の波形をマルチチャネルの画像データとして与え、出力電流は電力効率変化の影響が大きい最大値を用いる。なお、潜在空間は出力電流毎に異なると予測する。
【００６３】
また、節点波形、電力効率に敏感で設計変更が比較的容易に可能な回路パラメータ（Ｃｒ，Ｌｒ，Ｌｍ）のパラメータ値をマルチチャネルの画像データ（全ピクセルをパラメータ値、最大値で正規化）として与える。さらに、電力効率をマルチチャネルの画像データ（全ピクセルを電力効率）として与える。なお、各画像サイズは、１２０×１２０とする。以上より、チャネル数は、観測点数＋パラメータ数＋電力効率＝４＋３＋１＝８とする。また、学習データの数は９６１個とする。なお、Ｌｍは設計値を使用し、ＬｒとＣｒは設計値から−３０％から＋３０％の範囲を２％刻みで変動させる。
【００６４】
このような環境において、具体例では、潜在空間において任意点をランダムに抽出し、推論した回路パラメータ組合せを設計パラメータとして採用し、シミュレーションを実施して、回路部品最適化の良否を確認する。
【００６５】
（ＶＡＥ）
次に、学習対象であるＶＡＥについて説明する。図２１は、潜在空間を生成するＶＡＥの構造と損失を説明する図である。図２１に示すように、学習対象のＶＡＥは、４段のＣＮＮ（Convolutional  Neural  Network）と２段のＦＣ（Full−Connected）層を有するエンコーダと、１段のＦＣ層と２段のＣＮＮを有するデコーダとから構成される。学習データの数は、各パラメータのステップの２乗＝（３１）２＝９６１とし、そのうちの１０％の９６個を検証データ、残りの８６５個を訓練データとして使用する。また、学習時のバッチサイズを１６、学習のエポック数を１００とし、最適化アルゴリズムであるオプティマイザとしてＮａｄａｍを使用する。また、１エポックの訓練時間は３秒である。
【００６６】
このような条件により学習された学習済みのＶＡＥの損失（Loss）を図２１の下図に示す。図２１の横軸は学習のエポック数であり、縦軸は損失である。図２１に示すように、訓練データを用いたときの損失（Training  loss）が０．２８１７、検証データを用いたときの損失（Validation  loss）が０．２８６３であり、ＶＡＥは、上記学習条件により十分に学習できていることがわかる。
【００６７】
なお、検証に使用した検証データの分布を図２２に示す。図２２は、潜在空間における検証データの分布を説明する図である。図２２に示すように、潜在空間上の点が潜在空間（０，０）を中心に分布し、偏りがなく均一な分布となっていることから、学習データの変動範囲を表現できており、図２１に示した検証結果の信頼性も高いと判断できる。
【００６８】
（復元結果）
次に、図２３から図２５を用いて、ＶＡＥによる復元結果を説明する。図２３は、学習データの復元画像を説明する図である。図２４は、潜在空間における節点波形の復元画像を説明する図である。図２５は、潜在空間におけるパラメータおよび電力効率の復元画像を説明する図である。
【００６９】
図２３では、４つの観測点と３つのパラメータと電力効率の８つの学習データに対応する画像（学習画像）と、その学習画像を入力して得られる復元画像とを示している。図２３に示すように、観測点波形、パラメータ、電力効率の学習画像と復元画像は一致傾向にあり、ＶＡＥが十分に学習できていることがわかる。
【００７０】
図２４では、観測点１から４で観測された波形の復元画像を示している。なお、各観測点波形の時間は２周期分、振幅は最小から最大区間で補正している。図２４に示すように、各観測点波形の復元画像は、連続的な波形の微小変動である。ただし、学習データの波形変動が小さいため観測点波形の特徴量を学習できているかを完全に把握することは難しい面もある。
【００７１】
図２５では、３つのパラメータ（Ｃｒ，Ｌｒ，Ｌｍ）と電力効率の復元画像を示している。なお、各パラメータについては、最大値で規格化し、電力効率については、最小から最大の範囲で規格化している。図２３に示すように、各パラメータの復元画像は概ね連続的なパラメータ変動を示しており、ＶＡＥでパラメータの特徴量を学習できていると判断することができる。同様に、電力効率の復元画像は概ね連続的なパラメータ変動を示しており、ＶＡＥで電力効率の特徴量を学習できていると判断することができる。
【００７２】
（潜在空間の調査・検証）
次に、学習済みＶＡＥに対して、訓練データ（入力データ）を入力して、入力データを復元した復元結果と入力データとを比較することにより、学習済みＶＡＥを検証した結果について説明する。
【００７３】
まず、各パラメータの分布の検証を説明する。図２６は、潜在空間におけるＬｍパラメータの分布を説明する図である。図２７は、潜在空間におけるＬｒパラメータの分布を説明する図である。図２８は、潜在空間におけるＣｒパラメータの分布を説明する図である。図２９は、潜在空間における電力効率の分布を説明する図である。なお、各パラメータ値および電力効率は、復元画像全ピクセルの平均値を採用した。図２６から図２９では、学習データが潜在空間で実際はどこに分類されていたかを示す学習データの分布と、潜在空間からグリッド上でサンプリング（抽出）した点がどのような値を持っているかを示す復元値とを図示する。なお、図２６から図２９の縦軸は、潜在空間上に形成した解空間の２次元座標であり、横軸は、潜在空間上に形成した解空間の１次元座標である。また、分布の横に示す縦の数値は、解空間次元であり、ここでは２次元の例を図示している。この場合、（０，０）が解空間の中心である。
【００７４】
図２６に示すように、ＶＡＥに入力したパラメータＬｍの学習データの分布と、学習済みのＶＡＥによる復元されたパラメータＬｍの復元値とを比較すると、学習データと復元値の分布傾向は概ね同一傾向（一定値）であり、パラメータＬｍの分布を学習できていると判断することができる。
【００７５】
また、図２７に示すように、ＶＡＥに入力したパラメータＬｒの学習データの分布と、学習済みのＶＡＥによる復元されたパラメータＬｒの復元値とを比較すると、学習データと復元値の分布傾向は概ね同一傾向（一定値）であり、パラメータＬｒの分布を学習できていると判断することができる。
【００７６】
図２８に示すように、ＶＡＥに入力したパラメータＣｒの学習データの分布と、学習済みのＶＡＥによる復元されたパラメータＣｒの復元値とを比較すると、学習データと復元値の分布傾向は概ね同一傾向（一定値）であり、パラメータＣｒの分布を学習できていると判断することができる。
【００７７】
また、図２９に示すように、ＶＡＥに入力した電力効率の学習データの分布と、学習済みのＶＡＥによる復元された電力効率の復元値とを比較すると、学習データと復元値の分布傾向は概ね同一傾向（一定値）であり、電力効率の分布を学習できていると判断することができる。
【００７８】
（設計パラメータ組合せの獲得）
次に、学習済みＶＡＥに対して、訓練データを入力することにより、潜在空間上でサンプリング集合を生成し、サンプリング集合を復元することで、最適な設計パラメータの組み合わせを獲得する具体例について説明する。
【００７９】
図３０は、電力効率分布とランダム抽出を説明する図である。ここでは、図３０に示すように、電力効率分布から任意の点をランダムに２００点抽出する。そして、抽出した各点を用いて、各パラメータを推定し、設計パラメータを獲得する。
【００８０】
次に、電力効率のシミュレーション値と、電力効率の学習済みＶＡＥによる推定値との比較を説明する。図３１は、電力効率分布のシミュレーション値と推定値を説明する図である。なお、潜在空間における電力効率（縦軸）の分布を示す。図３１の（１）に示すように、学習データに利用した電力効率の分布は、シミュレーション値と推定値とにおいて同じ傾向を示している。また、図３１の（２）に示す電力効率の低い部分では、シミュレーション値と推定値とでは若干異なる傾向にあるが、図３１の（３）に示す電力効率の高い部分では、シミュレーション値と推定値とでは同じ傾向にある。
【００８１】
次に、電力効率のシミュレーション値と、電力効率の学習済みＶＡＥによる推定値との誤差を説明する。図３２は、推定値とシミュレーション値との誤差を説明する図である。なお、図３２では、絶対誤差（縦軸）と相対誤差（縦軸）それぞれの分布を示す。
【００８２】
絶対誤差について、図３２の（１）に示すように、学習データ内では概ね絶対誤差±０．００１１以下であるが、図３２の（２）に示すように、学習データの領域外の一部で誤差が若干大きい。また、誤差の頻度分布は概ね正規分布の傾向を示している。
【００８３】
相対誤差について、図３２の（３）に示すように、学習データ内では概ね相対誤差±０．１２以下であるが、図３２の（４）に示すように、学習データの領域外の一部で誤差が若干大きい。また、誤差の頻度分布は概ね正規分布の傾向を示している。
【００８４】
図３３は、推定値とシミュレーション値との電力効率の比較を説明する図である。図３３では、図２０に示した電源回路（ＬＬＣ電流共振）の電力効率について、シミュレーション値と学習済みＶＡＥを用いた推定値とを示している。図３３に示すように、絶対誤差±０．００２の検証データは、学習データの内挿領域の９５．５％、全体の６２．５％を網羅し、絶対誤差±０．００３の検証データは、学習データの内挿領域の１００％、全体の８２．０％を網羅する。ここでは、絶対誤差±０．００３以下に検証データの８２％が包含されており（特徴量分布におけるランダムな２００点で検証）、設計指標を最大化するパラメータ変数の組み合わせ候補の獲得を行った。
【００８５】
（設計パラメータ組合せの最適化）
次に、図３４を用いて、図３３で取得した設計パラメータ組合せについて、最大電力効率となるパラメータ組み合わせの獲得について説明する。図３４は、最適解の獲得を説明する図である。
【００８６】
図３４に示す最適解の獲得では、学習データ内の電力効率分布から１０，０００点をランダムに抽出し、学習済みＶＡＥのエンコーダにより生成される潜在空間上において最大電力効率となる最適点を獲得する。そして、学習済みＶＡＥのデコーダを用いて最適点より各パラメータを推定し、設計パラメータの最適値を獲得した。
【００８７】
図３４に示すように、設計パラメータＬｍ、Ｌｒ、Ｃｒそれぞれの最適解と設計値（設計値上で得られる最適解）との誤差は許容できる範囲内で収まっている。また、電力効率の推論値とシミュレーション値とのそれぞれについて、最適解と設計値との誤差も許容できる範囲内で収まっている。つまり、実施例１で説明した学習済みＶＡＥを用いて獲得した最適値は、設計パラメータ範囲（学習データ内）における最適な設計パラメータ組合せと同一傾向である。
【００８８】
［効果］
上述したように、実施例１にかかる情報処理装置１０は、潜在空間の任意点において、近傍領域の訓練データ分布の疎密により、最適解候補の採用可否を判別し、密な場合は採用し、疎な場合は不採用とする。この結果、情報処理装置１０は、潜在空間からデコーダの推論精度の高い任意点を抽出することが可能となり、正確な最適解を獲得できる。
【００８９】
また、情報処理装置１０は、潜在空間において、任意点に対応するデコーダの推論精度の分布が不明な場合も正確な最適解の獲得が可能となる。情報処理装置１０は、潜在空間において、デコーダの推論精度が低い任意点を最適解の候補から除外することが可能となる。情報処理装置１０は、潜在空間の任意点に対応するデコーダの推論精度の実験、数値計算等による検証が不要となる。
【００９０】
また、情報処理装置１０は、学習済みＶＡＥを再学習する場合でも、各変数の変動範囲を容易に正確に再設定することができ、再学習の精度を向上させることができる。例えば、１度目の学習時のＬｍパラメータの分布が図２４の場合、図２４の分布を参照して、２度目の学習データの分布を広げたり、別の分布となるような学習データを生成したりすることができる。
【００９１】
また、情報処理装置１０は、学習済みＶＡＥの潜在空間を用いて、訓練データの分布を表現して出力することもできる。このため、学習済みＶＡＥにより最適解を獲得できずに、学習済みＶＡＥを再学習する場合でも、密度が低い訓練データを除去するなどの対応を行うことができる。
【実施例２】
【００９２】
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。
【００９３】
［データや数値等］
上記実施例で用いたデータ例、数値例、閾値、表示例等は、あくまで一例であり、任意に変更することができる。また、訓練データには、正解情報である目的関数が含まれていてればよく、目的関数に影響を与える変数等を任意に選択することができる。上記実施例では、目的関数等を画像化する例を説明したが、これに限定されるものではなく、グラフなど画像の特徴量を表現できる他の情報を採用することができる。
【００９４】
また、具体例では、回路設計におけるパラメータの最適解を例にして説明したが、あくまで一例であり、他の分野にも適用することができる。また、上記実施例では、変分オートエンコーダを用いた例を説明したが、これに限定されるものではなく、潜在空間上で類似度の高い目的関数を集約させることができる他の機械学習を用いることもできる。
【００９５】
［疎密の判定］
潜在空間上における訓練データの疎密の判定は、様々な手法を採用することができる。例えば、クラスタリング手法を用いて、潜在空間上の潜在変数をクラスタに分類し、属する潜在変数の数が最も多いクラスタを選択する。そして、選択したクラスタ内の潜在変数のうち、目的関数の値が最大である訓練データの潜在変数を抽出して、デコーダに入力することもできる。
【００９６】
［システム］
上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
【００９７】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散や統合の具体的形態は図示のものに限られない。つまり、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。
【００９８】
さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
【００９９】
［ハードウェア］
図３５は、ハードウェア構成例を説明する図である。図３５に示すように、情報処理装置１０は、通信装置１０ａ、ＨＤＤ（Hard  Disk  Drive）１０ｂ、メモリ１０ｃ、プロセッサ１０ｄを有する。また、図３５に示した各部は、バス等で相互に接続される。
【０１００】
通信装置１０ａは、ネットワークインタフェースカードなどであり、他の装置との通信を行う。ＨＤＤ１０ｂは、図６に示した機能を動作させるプログラムやＤＢを記憶する。
【０１０１】
プロセッサ１０ｄは、図６に示した各処理部と同様の処理を実行するプログラムをＨＤＤ１０ｂ等から読み出してメモリ１０ｃに展開することで、図６等で説明した各機能を実行するプロセスを動作させる。例えば、このプロセスは、情報処理装置１０が有する各処理部と同様の機能を実行する。具体的には、プロセッサ１０ｄは、訓練データ生成部２１、学習部２２、集合生成部２３、獲得部２４等と同様の機能を有するプログラムをＨＤＤ１０ｂ等から読み出す。そして、プロセッサ１０ｄは、訓練データ生成部２１、学習部２２、集合生成部２３、獲得部２４等と同様の処理を実行するプロセスを実行する。
【０１０２】
このように、情報処理装置１０は、プログラムを読み出して実行することで最適解の獲得方法を実行する情報処理装置として動作する。また、情報処理装置１０は、媒体読取装置によって記録媒体から上記プログラムを読み出し、読み出された上記プログラムを実行することで上記した実施例と同様の機能を実現することもできる。なお、この他の実施例でいうプログラムは、情報処理装置１０によって実行されることに限定されるものではない。例えば、他のコンピュータまたはサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。
【０１０３】
このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク（ＦＤ）、ＣＤ−ＲＯＭ、ＭＯ（Magneto−Optical  disk）、ＤＶＤ（Digital  Versatile  Disc）などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。
【符号の説明】
【０１０４】
１０  情報処理装置
１１  通信部
１２  記憶部
１３  データＤＢ
１４  訓練データＤＢ
２０  制御部
２１  訓練データ生成部
２２  学習部
２３  集合生成部
２４  獲得部
【図１】
2022003451.tif 000003
【図２】
2022003451.tif 000004
【図３】
2022003451.tif 000005
【図４】
2022003451.tif 000006
【図５】
2022003451.tif 000007
【図６】
2022003451.tif 000008
【図７】
2022003451.tif 000009
【図８】
2022003451.tif 000010
【図９】
2022003451.tif 000011
【図１０】
2022003451.tif 000012
【図１１】
2022003451.tif 000013
【図１２】
2022003451.tif 000014
【図１３】
2022003451.tif 000015
【図１４】
2022003451.tif 000016
【図１５】
2022003451.tif 000017
【図１６】
2022003451.tif 000018
【図１７】
2022003451.tif 000019
【図１８】
2022003451.tif 000020
【図１９】
2022003451.tif 000021
【図２０】
2022003451.tif 000022
【図２１】
2022003451.tif 000023
【図２２】
2022003451.tif 000024
【図２３】
2022003451.tif 000025
【図２４】
2022003451.tif 000026
【図２５】
2022003451.tif 000027
【図２６】
2022003451.tif 000028
【図２７】
2022003451.tif 000029
【図２８】
2022003451.tif 000030
【図２９】
2022003451.tif 000031
【図３０】
2022003451.tif 000032
【図３１】
2022003451.tif 000033
【図３２】
2022003451.tif 000034
【図３３】
2022003451.tif 000035
【図３４】
2022003451.tif 000036
【図３５】
2022003451.tif 000037