.
. . r.大　江　修　造(東京理科大学)月刊「ケミカル・エンジニヤリング」Vol.37 No.5より別割
大　江　修　造*
1.ニューラルネットとは
これまでの人工知能の手法とは異なったニューラルネット(neural network：神経回路網)による方法が最近注目を浴びている.従来の人工知能の手法は，記号処理を中心とした逐次直列情報処理と言われる手法である.その手法では人間の論理的な思考の過程(判断)を、言語による情報の記号化を用いて，記号の組合せを規則としてコンピュータ上に構築している.人間は，逐次直列型の記号により情報処理を実現しているが，それはその背後で莫大な量の並列情報処理が意識下で進行しているからである.人間が言語によりその概念を理解できるのは，単にその音語を同定しているのみならず、その内容も同時に理解していることによる.すなわち,人間は情報を逐次直列型と並列学習型の二つの方法で処理している").並列学習を実現するニューロコンピュータは,現実の脳の機能を解明した上で並列学習そのものの情報原理の追求により開発される方向にある.現状ではニューロコンピュータの開発は未だその途上にあり，並列学習の概念をニューラルネットとして現有のコンピュータ上でシミュレートしている段階にある.
2.ニューロンの働き
ニューロン(神経細胞)における情報の伝達は電気信号により行われることが解明されている. このことがコンピュータ上にニューラルネットを構築する上で大きな説得力になっている. 一つのニューロン(神経細胞)は細胞体(本体)、樹状突起(入力部),軸索(出力部)から構成される情報処理蒸子である. 軸索は何本にも分岐して多数の他のニューロンに結合してニューラルネットを構成している. この結合部をシナプス(synapse)と呼ぶ.ニューロンは,  ー70mVの電位を有しているが, ー55mV(しきい価)を越える入力信号により30m Vまで電位が上がり,その結果約１ms問100mVのバルスを出すが,これをニューロンが興奮したと言う. これが軸索を通って他のニューロンのシナプスに達し，入力信号となる²’.脳内の特定部所のニューロンは特定の機能を有しているから,特定部所のニューロンの興奮により特定の機能が実現される. 例えば画像の認識などである.ニューロンのモデル化はマッカロおよびピッツにより1943年に既に提出されている. ニューロンへの入力信号の総和がしきい債を越えると興奮して信号１を出力し，非興奮状態では０を出力するというモデルである. 今日のニューロンのモデルの基本形である.  1949年にはヘップがシナプス強化則を提案した.これはシナプスの結合強度は一様ではなく，信号を伝えたシナプス結合の強度がケミカル・エンジニヤリング増し、認識・記憶の基となっている法則である.現在の学習則の基本となっている.
3．バックプロバゲーション法
ニューロンを最初に具体的な問題に適用したのはは、ローゼンブラットの画像の認識に利用したバーセプトロンである(1962). バーセプトロンは３層のニューロンで構成されている. 多数の受光素子からなるＳ＠(sensory unit),やはり多数のニューロンからなるA層(association unit)および1個のニューロンからなるＲ層(response unit)で構成されている.  A層およびＲ層の各ニューロンは一層前のニューロンの出力を強度による総和を行い、しきい値判定により０か１を出力する.この出力を検証して強度の修正を行い，正しい認識が得られるようにする. これを教師付き学習と呼ぶ. しかし, パーセプトロンは非線形分離能力を有さない複雑な図形認識には対応できない.バーセプトロンにおける非線形分離問題を解決する方法として登場したのが，ルメルハートらにより1986年に提案されたバックプロバゲーションである．現在，最も広く用いられているニューラルネットにおける学習アルゴリズムである. パックプロバゲーションは、多層のニューラルネットにおいてパーセプトロンとは別の教師付き学習法を提案した方法である.バックブロパゲーション法におけるニューラルネットを図1に示す. 入力層と出力層の間に隠れ層と呼ばれる中間層を置く.中間層の数は複数にする場合もある.各ユニットの出力には微分可能なシグモイド関数によるしきい値が使われる. 入力層，中間層，出力層からなる３層の場合における学習法を述べる. 学習は出力ユニットにおける出力値と真値との誤差により各層間の結合強度(重み)を修正する.修正は出力層と中間層との間の結合強度(重み)を修正し,さらに中間層と入力層との間の結合強度(重み)を修正する.各層間の学習において，学習の収束が保証されている二乗誤差を最小にする一般化デルタルールである最急降下法を用いる.バックブロバゲーション法の重要な機能に連想機能がある.ここで連想機能とは，入力バターンに対する出力バターンを想起する能力である. 入力パターンが不完全な場合でも近似的な出力パターンが得られるという点は利用価値が大きく,ニューラルネットをしてプログラムレスプログラムと言わしめる所似である.
4．バックプロバゲーションの
アルゴリズム3》
ニューラルネットにおける第j番目のユニットへの全入力値net ,は(1)式に示すように,そのユニットに連結される全てのユニットの出力値に対応する重みを乗じた値の総和としきい値( θ,)とにより得られる(図２参照). net, j = Σ iwjiopi + θ j (1)ここに, wilはi, j番目ユニット間の結合の重みの価であり， oはユニットもの出力値である. (2)式はシグモイド関数と呼ばれ, j番目のユニットの出力パターンを計算する伝達関数である(図3参照).ここに, Bははnet = 0におけるシグモイド関数の傾きを示す定数項である. 出力値,,は次の層の各ユニットへの入力値となる.ルメルハートは，入・出力のペアーにおける各結合の重みの修正は誤差信号とと出力信号oとの積に比例するとした.これを一般化デルタルールと言う.すなわち, (3) A pwji = 17 pi opiここに， Δ owjjは入・出力ペアー pにおけるj番目から:番目のユニット間の重みの変化量である. δγ = tγ − oγであり， tγはパターンpにおけるj番目の教師信号である。 opiは入・出力ペアーにおけるも番目の出力パターンである。 γは定数である。訳差信号の決定は出力ユニットから再帰的に行う．出力層の誤差信号は標準デルタルールに極めて似た形で(4)式により得られる. (4) δρ = ορ ( 1 − ορ ) ( tρ − ορ )隠れ層に対しては教師信号はないが、隠れ層の誤差信号はδ , 隠れ層に結合している出力ユニットの誤差信号が成と重みwhを再帰的に用いて(5)式により決定する. (5) δρj = 0ρj ( 1 − 0ρj ) Σ  δρk Wkj以上はバックプロパゲーション法の原理であるが，実際の学習に際しての計算法を次に示す。学習回数n回目から(n + 1)回目の重みの変化量は(6)式による. Δwji(n+ 1 )= η δ pi + α Δwji(n) (6)ここに， γは既に(3)式の定数であることを示したが，学習効率と言われる． αは過去加重に関する定数と呼ぶ。 γは学習における収束の速さに関係し， αは収束の振動を抑える機能を有している.ここで， 0 ＜ α ＜ 1の実数値をとる.
5 .化学工学におけるニューラルネット
の応用
ニューラルネットの有用性が次第に理解されて化学工学の各分野に応用されるようになった. 以下に故障診断システムへの応用例2例と物性推算システムへの応用例１例を示して，化学工学の各分野への応用の可能性を示したい. 5. 1 反応器の故障診断システム49反応器(図４参照)における故障箇所を制御器信号，反応器加熱器の温度，反応生成物の濃度を用いて診断するシステムである.故障箇所としては, 1 ：触媒の劣化,  2 ：反応器加熱器の汚れ,  3 ：熱交換器の汚れ， 4 ：原料供給ポンプ， 5 ：加熱器用ポンプ,を取り上げている.反応器は創御器
信号＝223mV,反応器加熱器の温度＝889K,反応生成物の濃度＝524gmol/㎡である時，正常な状態に有るとしている. ３層のニューラルネットにおいて，入力パターン(3)として異常状態を，出力パターン(5)として故障箇所を用いて学習を行わせている(表１参照).中間層のユニット数は４であり，学習回数は6000回である.この学習の結果を応用して故障箇所の推定に対して適用して良好な結果を得ている. 次に同じニューラルネット構造を用いて，５段階の故障のレヴェルを学習させて良好な結果を得ている(図5窓昭). 5. 2 流動接触分解装置の故障診断システム5 5流動接触分解装置(FCCU,図６参照)における故障箇所を異非状態から診断するシステムである.故障箇所として3種類13箇所を取り上げ，異常状態として18箇所を取り上げている.故障箇所に対して異常状態は木構造を形成している（図7参照）。したがって，１つの故障箇所に対して複数の異常状態が発生する。３層のニューラルネットにおいンとして故障箇所を用いて学習を行わせている.中間層のユニット数を5から27まで換えて学習させているが，27の場合が最も良い結果となっている。学習回数は8000回である。この学習の結果を複数の故障箇所に対応する異常状態の発生に対して適用して良好な結果を得ている。すなわち，ニューラルネットの連想能力が確認されている. 5. ３ニューラルネットによる臨界定数の推賞6)バックプロパゲーション法における関数の連続す非線形の問題を解明することができるので，臨界温度の推算に応用できる。炭化水蒸の臨界温度と炭茶数，分子量，沸点，偏心因子との間には相関関係のあることが知られている.そこで，推算に利用する物質の炭素数，分子量，沸点，偏心因子”をニューラルネットの入力層に与え，臨界温度を出力層から得る.バックプロパゲーション法を用いて臨界温度の推算法を確立する方法を以下に述べる. (1)子め推算する物質を含むデータを用いて,ニューラルネットの中間層のユニット数を学習により決定する. (2)推算する物質を除いたデータを用いて, (1)で決定した中間層のユニット数により誤差が十分に小さくなるまで学習する. (3)学習の済んだニューラルネットの入力層に,推算する物質の炭素数，分子量，沸点，偏心因子を与え，出力層から臨界温度の推算値を得る. ３層のニューラルネットを用いた.中間層におけるユニット数を２から９まで変えて学習させた結果、学習誤差および計算時間を考慮してユニット数としては４を採用した．学習効率および過去加重に関する定数は0.7および0.8とした.直鎖の炭化水素19種，および二重結合を１つ含む炭化水蒸16種からなる35種の炭化水蒸に対する入力パターンを10万回ニューラルネットに呈示して学習させた結果，学習誤差の自乗の合計値は0.090と良好であった．さらに詳細に見ると，35種の炭化水素に対して平均誤差は0.240％であった．19種のパラフィンについては0.182%であり， 16種のオレフィンについては0.308%であった.学習の済んだニューラルネットによる臨界温度の推算の結果は，35種の炭化水素について絶対誤差は最大，最小および平均で，それぞれ3.722, -0.011, 0.389%であった.これに対して、従来のライダーセンの方法により結果は、それぞれ−1.814,  −0.055,  0.589%であり,従来の推算法に対してニューラルネットによる方法は遜色のない結果となった.