(57)【要約】【課題】ニューラルネットワークによる非線形回帰分析に基づき、モデルの冗長性を排除しつつ、多変量データ解析を行う解析支援システムを提供する。【解決手段】複数の設計項目に関する設計空間を解析する解析支援システムは、設計空間に対して、構造方程式モデルを作成し、構造方程式モデルに含まれる因果・相関関係情報を抽出する構造方程式モデリングモジュール１１ｂと、因果・相関関係情報に基づいて、モンテカルロ法を利用し、設計空間に対してサンプリング点を発生するサンプリング点発生モジュール１１ｃと、ニューラルネットワークモデルを用いて、サンプリング点から非線形回帰モデルを作成する非線形回帰モジュール１１ｄとを備える。【選択図】図１
2006099482.tif 000002
【特許請求の範囲】
【請求項１】
複数の設計項目に関する設計空間を解析する解析支援システムであって、
前記設計空間に対して構造方程式モデルを作成し、該構造方程式モデルに含まれる因果・相関関係情報を抽出する構造方程式モデリング手段と、
前記因果・相関関係情報に基づいて、モンテカルロ法を利用し、前記設計空間に対してサンプリング点を発生するサンプリング点発生手段と、
ニューラルネットワークモデルを用いて、前記サンプリング点から非線形回帰モデルを作成する非線形回帰手段と
を備えることを特徴とする解析支援システム。
【請求項２】
前記設計空間を複数の部分領域に分割する類型化手段を更に備え、
前記構造方程式モデリング手段は、前記部分領域毎に構造方程式モデルを作成し、
前記サンプリング点発生手段は、前記部分領域毎にサンプリング点を発生することを特徴とする請求項１に記載の解析支援システム。
【請求項３】
前記非線形回帰手段は、前記設計項目に直結する素子数が最小となる非線形回帰モデルを作成することを特徴とする請求項１又は２に記載の解析支援システム。
【請求項４】
前記設計空間における複数の設計項目に直結する素子を変化させることにより、複数の設計項目間の関係を制御するコントロール手段を更に備えることを特徴とする請求項１〜３のいずれか１項に記載の解析支援システム。
【請求項５】
前記コントロール手段は、前記ニューラルネットワークモデルの目的変数に直結する素子の値を変化させ、目的変数の応答をパラメータサーベイすることにより、要求を満たす目的変数を探索し、該探索した目的変数に直結する素子の値を説明変数にフィードバックすることを特徴とする請求項４に記載の解析支援システム。
【請求項６】
複数の設計項目に関する設計空間を解析する解析支援システムに、
前記設計空間に対して、構造方程式モデルを作成し、該構造方程式モデルに含まれる因果・相関関係情報を抽出する手順と、
前記因果・相関関係情報に基づいて、モンテカルロ法を利用し、前記設計空間に対してサンプリング点を発生する手順と、
ニューラルネットワークモデルを用いて、前記サンプリング点から非線形回帰モデルを作成する手順と
を実行させることを特徴とする解析支援プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、解析支援システム及び解析支援プログラムに関する。
【背景技術】
【０００２】
コンピュータの性能向上や実験装置の機能・性能向上により、ハードウェア設計、システム設計、ソフトウェア設計、分子設計、遺伝子設計においては、線形・非線形動力学解析、応力／変形解析、熱解析、振動／騒音解析、電磁気解析、信号伝送解析、回路解析、分子動力学解析、分子軌道解析等の解析結果あるいは実験解析結果や試験結果から得られた多変量データを利用して設計が行われつつある。又、製品の市場分析や金融における市場分析においても、ＰＯＳデータやＷＥＢデータなどの市場調査データや経済指標データなどの多変量データがマーケティングや投資における意思決定に利用されている。
【０００３】
一方、多変量データ解析においては、従来より、クラスター分析、相関分析、回帰分析、因子分析などの線形解析手法や、ニューラルネットワークによる非線形回帰分析（例えば、非特許文献１参照）が行われている。
【非特許文献１】ニューラルネットワーク情報処理、麻生秀樹、１９８８、産業図書
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、従来の線形解析手法では、複雑なデータ構造あるいは多峰性を有するデータ構造の場合においては、精度良く多変量解析を行えない場合も多い。一方、従来のニューラルネットワークによる非線形回帰では、サンプリングデータに対する回帰誤差を小さくすることは可能であるが、サンプリングデータ以外のデータに対する誤差（汎化誤差）が大きくなる場合も多い。又、線形解析手法では、ＡＩＣなどの適切なモデル評価手法が拡充しているが、ニューラルネットワークによる非線形回帰では、層数や素子数を適切に設定するためのモデル評価指標が拡充しているとは言えず、モデルの冗長性が問題となる場合も多い。
【０００５】
そこで、本発明は、上記の課題に鑑み、ニューラルネットワークによる非線形回帰分析に基づき、モデルの冗長性を排除しつつ、多変量データ解析を行う解析支援システム及び解析支援プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記目的を達成するため、本発明の第１の特徴は、複数の設計項目に関する設計空間を解析する解析支援システムであって、設計空間に対して、構造方程式モデルを作成し、構造方程式モデルに含まれる因果・相関関係情報を抽出する構造方程式モデリング手段と、因果・相関関係情報に基づいて、モンテカルロ法を利用し、設計空間に対してサンプリング点を発生するサンプリング点発生手段と、ニューラルネットワークモデルを用いて、サンプリング点から非線形回帰モデルを作成する非線形回帰手段とを備えることを解析支援システムであることを要旨とする。
【０００７】
本発明の第２の特徴は、複数の設計項目に関する設計空間を解析する解析支援システムに、設計空間に対して、構造方程式モデルを作成し、構造方程式モデルに含まれる因果・相関関係情報を抽出する手順と、因果・相関関係情報に基づいて、モンテカルロ法を利用し、設計空間に対してサンプリング点を発生する手順と、ニューラルネットワークモデルを用いて、サンプリング点から非線形回帰モデルを作成する手順とを実行させる解析支援プログラムであることを要旨とする。
【発明の効果】
【０００８】
本発明によると、ニューラルネットワークによる非線形回帰分析に基づき、モデルの冗長性を排除しつつ、多変量データ解析を行う解析支援システム及び解析支援プログラムを提供することができる。
【発明を実施するための最良の形態】
【０００９】
次に、図面を参照して、本発明の実施の形態を説明する。以下の図面の記載において、同一又は類似の部分には、同一又は類似の符号を付している。ただし、図面は模式的なものであることに留意すべきである。
【００１０】
（解析支援システム）
本発明の実施の形態に係る、複数の設計項目に関する設計空間を解析する解析支援システムは、図１に示すように、中央処理装置（ＣＰＵ）１１に入力装置１２、出力装置１３、ＲＯＭ１４、ＲＡＭ１５が接続されている。ＣＰＵ１１は、類型化モジュール（類型化手段）１１ａ、構造方程式モデリングモジュール（構造方程式モデリング手段）１１ｂ、サンプリング点発生モジュール（サンプリング点発生手段）１１ｃ、非線形回帰モジュール（非線形回帰手段）１１ｄ、コントロールモジュール（コントロール手段）１１ｅを備える。
【００１１】
類型化モジュール１１ａは、設計空間を複数の部分領域に分割する。又、類型化モジュール１１ａは、後述する非線形回帰誤差、あるいはモデル適合度を指標として、部分領域の変更してもよい。
【００１２】
構造方程式モデリングモジュール１１ｂは、設計空間、あるいは分割された部分領域毎に、構造方程式モデルを作成し、構造方程式モデルに含まれる因果・相関関係情報を抽出する。又、構造方程式モデリングモジュール１１ｂは、後述する非線形回帰誤差、あるいはモデル適合度を指標として、構造方程式モデルの潜在変数、パス、相関関係の数や、説明変数の関数型を変更してもよい。潜在変数、相関関数などについては、解析支援方法の手順において、詳細に説明する。
【００１３】
サンプリング点発生モジュール１１ｃは、構造方程式モデルより得られた因果・相関関係情報に基づいて、モンテカルロ法を利用し、設計空間、あるいは分割された部分領域毎に、サンプリング点を発生する。又、サンプリング点発生モジュール１１ｃは、後述する非線形回帰誤差、あるいはモデル適合度を指標として、サンプリング点の発生領域や発生数を変更してもよい。
【００１４】
非線形回帰モジュール１１ｄは、ニューラルネットワークモデルを用いて、サンプリング点から非線形回帰モデルを作成する。又、非線形回帰モジュール１１ｄは、設計項目に直結する素子数が最小となる非線形回帰モデルを作成する。
【００１５】
コントロールモジュール１１ｅは、設計空間、あるいは分割された部分領域毎に、複数の設計項目に直結する素子を変化させることにより、複数の設計項目間の関係を制御する。又、コントロールモジュール１１ｅは、ニューラルネットワークモデルの目的変数に直結する素子の値を変化させ、目的変数の応答をパラメータサーベイすることにより、要求を満たす目的変数を探索し、探索した目的変数に直結する素子の値を説明変数にフィードバックする。目的変数については、解析支援方法の手順において、詳細に説明する。
【００１６】
入力装置１２は、キーボード、マウス等の機器を指し、フロッピー（登録商標）ディスク装置、ＣＤ−ＲＯＭ装置、ＤＶＤ装置等も含む。入力装置１２から入力操作が行われると対応するキー情報がＣＰＵ１１に伝達される。出力装置１３は、モニタなどの画面を指し、液晶表示装置（ＬＣＤ）、発光ダイオード（ＬＥＤ）パネル、エレクトロルミネッセンス（ＥＬ）パネル等が使用可能である。又、出力装置１３はプリンターなどでも構わない。
【００１７】
ＲＯＭ１４及びＲＡＭ１５は、設計項目データや計算途中あるいは解析途中のデータを保存する。
【００１８】
又、本実施形態に係る解析支援システムは、プログラム保持部を備え、構造方程式モデリング処理、サンプリング点発生処理、非線形回帰処理などをＣＰＵ１１に実行させるための解析支援プログラムを保存してもよい。この解析支援プログラムを読み出すことにより、解析支援システムに処理を実行させることができる。プログラム保持部は、例えば、ＲＡＭ１４、ＲＯＭ１５の他、ハードディスクやフレキシブルディスク等の磁気ディスク、コンパクトディスク等の光学ディスク、ＩＣチップ、カセットテープなどの記録媒体である。このような記録媒体によれば、解析支援プログラムの保存、運搬、販売などを容易に行うことができる。
【００１９】
（解析支援方法）
次に、本実施の形態に係る解析支援方法について図２を用いて説明する。尚、以下において説明する解析支援方法は、プログラム保持部などに保持された解析支援プログラムを読み出し、実行することによっても実現できる。即ち、解析支援方法における各ステップは、解析支援プログラムによって実行できる各手順に対応する。
【００２０】
まず、ステップＳ１０１において、図３に示すように、全設計空間Ｘ（多変量データ空間）を類型化、即ち、複数の部分領域１、２、…に分割する。ここで、「設計空間」とは、設計項目に関わる各変数を軸とした空間を指す。ここでは、多次元尺度法を使用することにより、多次元空間にプロットできる。次元が少ない空間であれば点の分布を把握し易いが、三次元を超える次元の空間は人間には理解し難く、データに対して空間の次元を少なくするための操作を行う。多次元尺度法は、多次元空間にプロットした点間の距離の大小関係が変わらないように、より低次元の空間に移す方法である。設計空間の類型化には、その他にもクラスター分析やマハラノビス距離の算出などが利用できる。
【００２１】
次に、ステップＳ１０２において、類型化した設計空間の各部分領域に対して、それぞれ構造方程式モデリングを行い、構造方程式モデルに含まれる、それぞれの部分領域の多変量間に潜む因果・相関関係情報を抽出する。ここで、「因果関係」とは、一の変数が他の変数に影響を与える関係を指し、「相関関係」とは、一の変数と他の変数がお互いに影響を与える関係を指す。
【００２２】
具体的には、図４に示すように、四角い枠で表わされた観測変数のうち、説明変数群Ｘ１、Ｘ２、…と、目的変数群Ｙ１、Ｙ２、…間の統計モデルを、楕円で囲った潜在変数を介して作成する。各変数間の結びつきには因果関係の有無や相関関係の有無の組み合わせにより非常に多くの可能性があるが、モデル適合度を指標として、共分散構造分析を繰り返すことにより多変量データの関連構造を調べ、適合度の高い構造方程式モデルを抽出する。ここで、各変数間のダイアグラムと、パス係数値および相関係数値から、各変数の因果・相関関係情報を抽出することが可能である。
【００２３】
ここで、「モデル適合度」とは、設計項目が構造方程式モデルに合致している度合いを表す。具体的には、モデル適合度として、自由度調整済み決定係数や、赤池のAIC(Akaike’s Information Criterion)などの情報量基準が用いられる。
【００２４】
自由度調整済み決定係数(R2adjust)は、回帰モデルの良否算定用の決定係数であり、単位自由度あたりの残差を比較可能なように調整されている。自由度調整済み決定係数は、0.0〜1.0の間の値をとり、値が1.0に近づくほど良いモデルと算定できる。
【００２５】
又、情報量基準は、近似誤差が小さく且つモデル自由度の小さいモデルを簡便に比較するために利用されおり，小さいほど良いモデルと算定される。
【００２６】
又、具体的な構造方程式モデリングの実施例を図５に示す。図５では、構造方程式モデルの潜在変数として、製品のカタログスペックと、完成性能（デザイン性など）とを用い、観測変数として、製品の販売価格と、販売数量とを用いる。ここでは、販売価格−スペック項目２、販売価格−触感、触感−意匠などに所定の相関係数に応じた相関関係が成立し、販売価格−販売数量、スペック−販売数量、官能性能−販売数量などに所定のパス係数に応じた因果関係が成立していることが分かる。
【００２７】
構造方程式モデリングの詳細な手法については、後述する。
【００２８】
次に、ステップＳ１０３において、構造方程式モデリングにより得られた各部分領域に対する因果・相関結果に基づいて、図６に示すように、モンテカルロシミュレーションを実施し、部分領域に対してサンプリング点を発生する。ここでは、特定の説明変数Ｘと特定の目的変数Ｙとの関係に対して、サンプリング点の発生を複数行っている。
【００２９】
次に、ステップＳ１０４において、ニューラルネットワークを用いて、階層数、素子数、サンプリング点の発生数を変更し、図７に示すように、設計項目に直結する素子数が最小となる非線形回帰モデルを作成する。
【００３０】
ニューラルネットワークは優れた手法であり、適切に中間層の数や、中間層のニューロンの数を設定すれば、任意の多変量連続関数を近似できる。そのため、元のデータから直接ニューラルネットワークにより市場モデルを作ることは十分可能である。ところが、この手法の高い柔軟性は副作用をもつ。冗長性によりサンプリング点（元データ）に合致しない点での誤差が非常に大きくなる可能性があり、しかも大きな誤差が発生しているかどうかを知ることが複雑な系ではなかなか難しい。本実施形態では解決策として、構造方程式モデリングによるパラメータ間の因果・相関構造の抽出と、その結果に対してモンテカルロ法により得た元のデータよりもはるかに多数のサンプリング点から回帰モデルを作成する。
【００３１】
例えば、図５に示すように、構造方程式モデルの観測変数の一つとして製品の販売価格と製品の販売数量、潜在変数として製品のカタログスペックと製品の官能性能を含む統計モデルを作成することにより、ニューラルネットワークによる非線形回帰モデルを通じて、製品スペックの差異が市場で持つ価値を定量的に分析することができる。このため、部品コストを考慮にいれて利益が最大になる仕様の組み合わせを見つけたり、仕様の流行りすたれを評価したりすることにより、製品マーケティングなどに利用することができる。
【００３２】
ニューラルネットワークの詳細な手法については、後述する。
【００３３】
次に、ステップＳ１０５において、各部分領域における複数の設計項目に直結する素子を変化させることにより、複数の設計項目間の関係をコントロールする。そして、最適化問題やトレードオフ問題に対応する。
【００３４】
ステップＳ１０４において、ニューラルネットワークにて非線形回帰モデルを作成する過程で、中間層の層数や中間層の素子数の決定は、目的変数の階層に直結する直前の中間層の素子数をできるだけ少なくできるように、例えば、目的変数の階層に直結する直前の中間層の素子数を小さい素子数から順次増やす、あるいは大きな素子数から順次減らしていきながら、誤差をユーザが指定する規定値の範囲内に収めることができるように設定する。ここで、目的変数の階層に直結しない中間層の層数とその素子数は誤差をユーザが指定する規定値の範囲内に収めることができるように設定する。
【００３５】
これにより、複数の目的変数間の関係を、それに直結する少数の素子の値によりコントロールすることが可能になる。目的変数と直前の素子間の重み係数値を参照することにより、各目的変数を望みの値に変更するには目的変数の階層に直結する各素子の値をどのような値にすれば良いか、又、目的変数の階層に直結する各素子の値を希望の値にするには各入力変数の値をどのような値にすれば良いかを、各入力変数の値を一定範囲内にて変動させることにより明らかにすることができる。又、この過程において、各素子の物理的意味を、関連する変数との依存関係から理解することにも役立つ。
【００３６】
又、図２に示す解析支援方法は、各ステップ間を互いに繰り返すことができる。例えば、ステップＳ１０２において、作成した構造方程式モデルの適合度が悪い場合、ステップＳ１０１へ戻り、再度、類型化を行う。又、ステップＳ１０４において、ニューラルネットワークによる非線形回帰が規定誤差に収まらない場合、ステップＳ１０１へ戻り、再度、類型化を行ったり、ステップＳ１０２へ戻り、再度、構造方程式モデリングを行ったり、ステップＳ１０３へ戻り、再度、サンプリング点の数を変更させ、サンプリングを行ったりする。
【００３７】
−構造方程式モデリングについて−
以下に、構造方程式モデリングについて詳細に説明する（例えば、“Ａｍｏｓによる共分散構造分析と解析事例、山本嘉一郎、ナカニシヤ出版、１９９９年”参照。）。
【００３８】
（１）構造方程式モデリングの概要
構造方程式モデリングは、社会・自然現象の因果関係を調べるための統計的手法である。ものごとの因果関係を明らかにすることは、あらゆる分野で判断あるいは行動をする上で必要とされる。構造方程式モデリングは、因果関係を観測された現象に基づいて明らかにするものである（矛盾のない仮説を検証）。この中で、直接測定できるものを観測変数（observed variable）と呼び、直接測定できないものを構成概念と呼び、これを表す変数を潜在変数（latent variable あるいは unobserved variable）と呼ぶ。構成概念の値を測定するには、これらを測るためのものさし（尺度）が必要で、一般には、対象となる構成概念に関連する複数の測定値の組み合わせでものさしを構成する方法が使用される場合が多い。構造方程式モデリングは、このような構成概念を含めた因果関係を分析する。
【００３９】
構成概念を扱う代表的な分析法に因子分析がある。一方、因果関係を扱う分析法には回帰分析やパス解析がある。ただ、因子分析は構成概念と観測値の間の関係を明らかにするもので、因果関係を扱わない。一方、回帰分析やパス解析は観測変数の間の因果関係を扱うだけで、構成概念は扱わない。これに対して構造方程式モデリングは、観測変数と構成概念の両方を扱って、その因果関係を明らかにする。その意味で、構造方程式モデリングは因子分析と回帰分析をいったいにした分析法と理解することができる。従って、因子分析や重回帰分析の扱うモデルをその下位モデルとして含んでおり、その中でこれらのモデルの分析を行うこともできる。このように構造方程式モデリングは、広く観測変数や因子の間の因果関係を分析することができるものである。
【００４０】
構造方程式モデリングは、Joreskog や Lawley（1968）やJoreskog （1969）の因子分析に関する提案に始まる。因子分析は元来、多くの観測変数のもつ情報を縮約して、できるだけ少ない因子で情報を表現しようとする目的で使用されるものである。そこには観測値の背後に潜む因子の数と意味を探索する機能があるだけであり、そのモデルは因子数についての自由度をもつだけの固定したものである。データについての既知の情報をモデルに反映したりすることはできないし、現象に対する考え（仮説）を検証する機能はない。これに対してJoreskog や Lawley（1968）は、因子分析に仮説を検証する機能を導入し、因子分析の結果を検証すべきであることを主張した。Joreskog（1969）はこれを確認的因子分析法（confirmatory factor analysis）と呼び、以来、従来の因子分析法は探索的因子分析法（exploratory factor analysis）と呼んで区別されている。又、確認的因子分析法は検証的因子分析法あるいは確証的因子分析法とも呼ばれる。その後、Joreskog (1970)の指摘を機に構造方程式を分析することの有用性が認識され、パス解析と確認的因子分析を統合する形で構成概念間の因果関係の分析へと発展し、Joreskog （1978）によるLISREL（Linear Structure RELations）モデルの開発に至った。
【００４１】
（２）構造方程式モデリングの特徴
構造方程式モデリングの主な特徴としては次のようなものが挙げられる。
【００４２】
（２−１）検証的分析法である点
構造方程式モデリングは探索的分析法ではなく検証的分析法である。仮説を立てその妥当性を検証する中で、因果関係などを調べる。探索的因子分析などの従来の多変量解析法が構成概念（因子）を探索するのに対して、構造方程式モデリングではその構成概念の妥当性や性質の確認・検証を行う。
【００４３】
（２−２）因果関係を調べる点
構造方程式モデリングは因果関係を調べる分析法である。因果関係の分析法には回帰分析法やパス解析があるが、これらと異なる点は、構成概念間の因果関係を分析する点にある。
【００４４】
（２−３）自由にモデルを構成できる点
探索的因子分析などの従来の多変量解析法では、その分析法に固有のモデルをもち、そのモデルにデータを当てはめて分析する。これに対して構造方程式モデリングでは、分析者が調べようとする仮設について自由にモデルを形成して分析することができる。これにより、さまざまな仮説を表現することができる。
【００４５】
（２−４）既に得られている知見をモデルに反映できる点
構造方程式モデルでは、因果関係や分散などの母数を固定することにより、既に得られている知見をモデルの中に反映できる。これにより、既に得られている知見と矛盾しないモデルを想定できるとともに、推定対象の母数を減少させて、結果の解釈を容易にすることができる。
【００４６】
（２−５）構成概念を導入できる点
構成概念を分析に導入することにより、直接測定ができない事項について、その性質や他の構成概念との間の関係を調べることができる。又、多くの観測値を整理する形で構成概念に集約できるので、モデルを単純化してモデルの形成を容易にするとともに、分析結果の解釈を容易にすることができる。
【００４７】
（３）変数の分類
構造方程式モデルには大きく分けて3種類の変数が存在する。
【００４８】
（３−１）観測変数−潜在変数
観測変数は直接観測することが可能な変数であり、手元に多変量データとして測定値が得られる変数である。x,v,zが観測変数である。潜在変数はモデルに導入した直接観測されない変数である。fやeが潜在変数である。
【００４９】
（３−２）構造変数−誤差変数
構造変数は考察の対象となっている構成概念の変動を直接的にあるいは間接的に含んでいる変数である。x,v,z,fが構造変数である。誤差変数とは考察の対象となっている構成概念では説明のつかない結果側の変数の変動を生み出す要因としてモデルに導入された変数である。eが誤差変数である。
【００５０】
（３−３）外生変数−内生変数
外生変数は、モデルの中で1度も他の変数の結果にならない変数である。1度も方程式の左辺に置かれない変数と言い換えることもできる。その存在・生成の原因を問われずにモデルの外部で生まれ、導入された変数である。Ff,eが外生変数である。一方、内生変数は少なくとも1回は他の変数の結果となる変数のことであり、モデルの中で生成される変数である。少なくとも1回は方程式の左辺に置かれる変数と言い換えることもできる。
【００５１】
（４）パラダイアグラム
方程式モデルを表現するためにパス図を使用する。これにより、方程式モデルからパス図を描くことも、パス図から方程式モデルを書くことも可能になり、方程式モデルの情報をそのままパス図に保存させることができる。モデルを構成したり、モデルを改良したり、モデルの意味を第三者に伝達するためには方程式よりもパス図のほうが分かり易い。
【００５２】
・観測変数は四角形で囲む。
【００５３】
・構造的な潜在変数（構成概念）は円又は楕円で囲む。
【００５４】
・誤差変数は囲まない。
【００５５】
・影響を与える変数から、与えられる変数に単方向の矢印を書き、矢印に因果の影響力を示す数値を付与する。
【００５６】
・共変動を示す2つの外生変数に因果関係を仮定しないときには双方向の矢印を書き、矢印に共分散（あるいは相関）を示す数値を付与する。
【００５７】
（５）測定方程式
（５−１）潜在変数
観測変数間に相関をもたらす潜在した共通原因を構成概念という。構成概念とは、とりあえずその存在を仮定することによって、複雑に込み入った現象を比較的単純に理解することを目的として構成した概念である。潜在した共通原因のために観測変数の間に相関が生じる現象を表現するために、測定方程式モデル（因子分析モデル）を用いることができる。
【００５８】
平均偏差の確率変数の測定方程式としては、次式のように表現できる。
【００５９】
v =  A f  + e
ここで、vは確率変数viを要素としもつサイズnxの確率ベクトル、f  は確率変数fjを要素としもつサイズnfの確率ベクトル、eは確率変数eiを要素としもつサイズnxの確率ベクトル、Aはi行j列に要素αijをもつサイズnx×nfの母数行列を示している。要素αijはからへの直接的な影響力を表す影響指標（因子負荷）である。Aは因子負荷行列と呼ばれることもある。平均偏差でなくxiを表現した測定方程式は、次式のように表される。
【００６０】
x =  μ +  A f  + e
ここで、xはi番目に期待値xiを要素としてもつサイズnxの確率変数ベクトルである。μはi番目に期待値μiを要素としてもつサイズnxの確率変数ベクトルである。潜在変数は構成概念であり、仮想的な変数であるため、一般的に平均値や分散の値そのものを解釈することは困難である。そのため、因子と誤差変数の期待値が0であるという仮定、因子と誤差変数の共分散が0であるという仮定を置く場合が多い（ただし比較の対象がはっきりしている場合には発展的なモデルにおいて構成概念の期待値や分散を推定する場合もある）。各仮定はそれぞれ以下のように表現される。
【００６１】
E[ f ] = 0
E[ e ] = 0
E[ f e’ ] = 0
（５−２）測定方程式の共分散・相関構造
構造方程式は以下のように表現できる。
【００６２】
Σ  ＝  E[（x −μ）（x −μ）’ ]    ＝  E[v v’ ]
＝  E[（A f  + e）（A f  + e）’ ]  ＝  E[（A f  + e）（A’ f ’ + e’ ）]
＝  A E[ f f ’ ] A ’  +  E[e f ’ ] A ’ ＋ A E[ f e ’ ] A ’  +  E[e e ’ ] 
＝  A E[ f f ’ ] A ’  +  E[e f ’ ] A ’ ＋ E[e e ’ ]
＝  A Σrf A ’  +  Σe
相関構造は以下のように表現できる。ただし、zはxを標準化（平均値0,分散1）した変数を示している。
【００６３】
Σr  ＝  E[ z z’ ]
＝  E[（A* f  + Be*）（A* f  + Be*）’ ]  
＝  A * Σrf  A * ’  +  B Σe B’
（５−３）測定方程式の識別問題
方程式モデルの母数の指定量を構成することは、共分散・相関構造の連立方程式を母数に関して解くということである。しかし連立方程式は必ず解けるわけではない。解が１つも存在しない不能になったり、無数に存在する不定になったりする場合もある。不能になる場合は、合理的に推定量を構成することができるが（後述）、不定の場合は分析を断念しなくてはならない。これをモデルが識別されていないという。この識別問題において、モデルの識別の判定に用いられるのが識別条件あるいは識別ルール・識別規則である。識別条件には必要条件と十分条件とがある。
【００６４】
識別のための必要条件とは、「それが満たされなければ、確実にモデルは識別されず、それが満たされたからといって必ずしもモデルが識別されるとは限らない条件」である。計算する価値のないモデルを予め排除するために利用する。識別のための十分条件とは「それが満たされればモデルは識別されるが、仮にそれが満たされないからといってもモデルが識別されないとは限らない条件」である。十分条件の範囲内でモデル構成を行っていれば、識別問題に悩まされることなく分析を続けることができる。しかし、測定方程式には必要条件は満たすが十分条件は満たさない有用なモデルが多数存在する。それらは実際に分析し、出力結果を吟味し、識別されているかいないかを判断する。判断はモデルの評価指標（後述）をもとに行う。ここでは、すべての方程式モデルに共通して利用できる識別のための必要条件を１つと、測定方程式モデル専用の十分条件を２つ示す。
【００６５】
変量数条件：推定すべき母数の数は標本分散と標本共分散の数（nx×（nx＋１））/2以下である（識別のための必要条件）。これは、母数を推定することは連立方程式を解くことであり、方程式の数は標本分散と標本共分散の数（nx×（nx＋１））/2だけあるため、未知数である母数の数がそれを超えたら方程式は一般的に不定となることによる。
【００６６】
2重指標条件：Σeが対角行列であり、Aの各行に１つだけ非ゼロの母数があり、各列に2  つ以上の非ゼロの母数がある。このときΣrfの各行と各列の非対角要素に少なくとも1つの非ゼロの母数があれば測定方程式は識別される。「2指標条件」ともいう（識別のための十分条件）。
【００６７】
3重指標条件：Σeが対角行列であり、Aの各行に1つだけ非ゼロの母数があり、各列に3つ以上の非ゼロの母数があれば測定方程式は識別される。「3指標条件」ともいう（識別のための十分条件）。
【００６８】
（６）観測変数の構造方程式
（６−１）構造方程式
構造方程式は以下のように表現できる．ここで，vは確率変数viを要素としもつサイズnxの確率ベクトル，eは確率変数eiを要素としもつサイズnxの確率ベクトル，Aはi行j列に要素αijをもつサイズnx×nfの母数行列を示している．ここでeはvが外生変数であればviを、内生変数であればeiをi番目の要素としてもつサイズnxの残差ベクトルという。
【００６９】
v =  A v  + e
構造方程式には、
・Aの対角成分は常に0である
・viが外生変数であれば、Aのi行はゼロベクトル0’である
・αの2つの添え字の意味は、行列演算の規則によって規定されている
という性質がある。
【００７０】
（６−２）構造方程式の共分散構造
I v =  A v  + e
（ I − A ）v  =  e
（I − A ）に逆行列が存在することを仮定し、T ＝（I − A ）-1と表記する。
【００７１】
このとき観測変数の共分散構造は、
Σ  ＝  E[v v’ ]
＝  E[T e e’ T’ ]
＝  T  Σe  T ’      
＝（I − A ）-1 Σe  （I − A ）-1 ’
と表される。
【００７２】
構造方程式モデルあるいは共分散構造は、 AとΣeが特定されれば一意に定まることになる。
【００７３】
構造方程式はvとeという2つの確率ベクトルで構成され、観測変数ベクトルvの共分散行列は母数の関数で構造化された。ここで、eとvの共分散行列に新しい文字Φを与え、構造化する。両ベクトルとも期待値は0だから積の期待値が共分散行列となり、
Φ  ＝ Σe v ＝ E[ e v’ ]   ＝  E[e e’ ]T’ 
＝ Σe T ’  
という構造をもつ。Φはeのi番目の要素とvのj番目の要素vjとの共分散φijを要素とする行列であり、そのサイズは（nx×nx）である。Φは正方の共分散行列ではあるが、対称行列ではない。
【００７４】
（６−３）構造方程式の識別問題
観測変数間の関係を表現する構造方程式にも測定方程式と同様に識別問題が存在する。観測変数間の関係を表現する構造方程式は仮説そのものを表現することが多く、測定方程式より複雑に変化する場合が多い。そのため、識別条件は多数提案されているが、条件が厳しく判定に用いることができない場合が多い。
【００７５】
ここでは、Toyodaによって示された比較的判定の条件が緩く判定し易い識別条件（十分条件）を示す。
【００７６】
・Aのi行列目の非ゼロ要素の個数をn[i]とする。
【００７７】
・eとvの共分散行列Φのi行目の非ゼロ要素の個数をn{i}とする。
【００７８】
・n(i) ＝ n[i] ＋ n{i}
・nx ≧ n(i) であれば、i番目の方程式は識別される。
【００７９】
・nx本すべての方程式が識別されるなら、構造方程式は識別される。
【００８０】
（７）潜在変数の構造方程式モデル
（７−１）構造方程式モデル
これまで潜在変数（構成概念）の測定方程式と、観測変数の構造方程式について定義してきた。ここでは、測定方程式と構造方程式を統合した潜在変数の構造方程式モデル（Structural Equation Model with latent variable: SEM/LV）を論じる。
【００８１】
潜在変数の構造方程式を以下のように表現する。
【００８２】
t =  A t  + u
ここで，tは構造変数ベクトルである。
【００８３】
t =  [ f , v ]T
構造変数には、構成概念fと、観測変数vが含まれる。tのサイズは（nf＋nx）×1である。uは外生変数ベクトルである。外生変数には構成概念fに関する残差変数dと、観測変数vに関する残差変数eが含まれる。
【００８４】
u=  [ d, e ]T
サイズは（nf＋nx）×1である。残差変数であるから、fのi番目の要素が外生変数であればdのi番目の要素はf iとなり、fのi番目の要素が内生変数であればdのi番目の要素は誤差変数d iとなる。同様に、vのi番目の要素が内生変数であればeのi番目の要素は誤差変数eiとなる。行列Aは以下のように表現できる。
【数１】
2006099482.tif 000003
【００８５】
Aのサイズは（nf＋nx）×（nf＋nx）である。ここで、Aa,Ab,Ac,Adは以下のとおりである。
【００８６】
Aa：構成概念f jから構成概念f iへの規定力を表現する係数αaijをij要素に配したしサイズ（nf＋nf）の係数行列
Ab：構成概念f jから観測変数xiへの規定力を表現する係数αbijをij要素に配したしサイズ（nx＋nf）の係数行列、因子負荷行列、影響指標の行列ともいう
Ac：観測変数xjから観測変数xiへの規定力を表現する係数αcijをij要素に配したしサイズ（nx＋nx）の係数行列
Ad：観測変数xjから観測変数xiへの規定力を表現する係数αdijをij要素に配したしサイズ（nf＋nx）の係数行列、形成指標の行列ともいう
これらをまとめると以下のように表現できる。これにより、これまでは構成概念から観測変数と、観測変数から観測変数への規定力しか扱えなかったが、構成概念から構成概念と、観測変数から構成概念への規定力も扱うことが可能となる。
【数２】
2006099482.tif 000004
【００８７】
（７−２）構造方程式モデルの共分散構造
観測変数の共分散行列をモデルの母数によって構造化する。まず構造変数ベクトルから観測変数のみをv = G t  を使って取り出す。これを選択方程式といる。G＝[0,I]のようにゼロ行列と単位行列を横に並べたサイズnx×（nf＋nx）の矩形の定数行列である。構造方程式より、以下の式を得る。
【００８８】
v =  G T u
それゆえ、観測変数の共分散構造は、
Σ  ＝  E[v v’ ]
＝  E[GT u(GTu)’ ] ＝  E[G T uu’ T’ G’ ] ＝  G T E[uu’ ]T’ G’ 
＝  G T  Σu  T ’ G’’ 
ここで、Σu  は以下のように表現された残差ベクトルの共分散行列である。
【数３】
2006099482.tif 000005
【００８９】
確率変数viを要素としもつサイズnxの確率ベクトル，eは確率変数eiを要素としもつサイズnxの確率ベクトル，Aはi行j列に要素αijをもつサイズnx×nfの母数行列を示している．ここでeはvが外生変数であればviを、内生変数であればeiをi番目の要素としてもつサイズnxの残差ベクトルという。
【００９０】
（７−３）構造方程式モデルの識別問題
2つの方程式モデルを統合・発展させたSEM/LVに関しても識別問題は生じる。しかし、SEM/LVの任意の下位モデルの識別性を調べるための簡潔な条件は、まだ見つかっていない。そこで以下の3つの方法を組み合わせて対処する。
【００９１】
（７−３−１）十分条件による識別
１．f個の構成概念f1,f2,・・・,fnfでモデル構成を行う。
【００９２】
２．1つの構成概念だけを測定する観測変数を各々3つ以上ずつ用意する。
【００９３】
３．iの各々に関して、それを測定している観測変数の中から任意に1つ選んで、その観測変数への係数の値を1に固定する。もしfiが外生変数であるならば、fiの分散を1にしても良い。
【００９４】
４．fとdの間に、仮説を考慮して単方向や両方向のパスを引く。
【００９５】
５．fをvと見立て、dをeと見立てて（もともとのvとeは無視し）、観測変数の構造方程式の識別条件をチェックする。条件を満たしていればSEM/LV全体が識別される。
【００９６】
（７−３−２）数値解による識別
最小2乗法あるいは最尤法に基づく数値計算の結果から識別性を判定することが可能であるが、適用可能なSEM/LVの下位モデルを全てチェックすることは実際問題としては困難である場合が多い。
【００９７】
（７−３−３）ノウハウによる識別
・全ての残差変数（外生変数である構造変数fi, viと誤差変数di,ei）には、その分散を指定しなくてはいけない。
【００９８】
・外生的な複数の構造変数fiとfj、そしてviとvjの間には、事前情報に反しない限り、組み合わせの全てに共分散を設定したほうがよい。外生的な複数の構造変数fiとviの組み合わせの全てに共分散を設定したほうがよい。
【００９９】
・外生的な構造変数fiとvjには誤差変数diとeiがささらない。
【０１００】
・誤差変数間の共分散、および誤差変数と外生的な構造変数との間の共分散は、適切な事前情報がない限り設定しない。
【０１０１】
・内生的な観測変数viには、1つ1つ誤差変数eiがささる。
【０１０２】
・内生的な観測変数fiには、1つ1つ誤差変数diがささる。
【０１０３】
・内生変数の分散は、外生変数の分散と係数の関数で表現（構造化）されるから、内生的な変数の分散は設定しない。
【０１０４】
・内生変数間、および内生変数と外生変数間の共分散は、外生変数の分散と係数の関数で表現（構造化）されるから、設定しない。
【０１０５】
・モデルを構成するスカラーの方程式は、内生変数の数だけあり、内生変数とスカラーの方程式は1対1対応している。
【０１０６】
・スカラーの方程式の右辺の項の数は、当該の内生変数にささった単方向の矢印の数と一致する。
【０１０７】
・推定される母数は3種類あり、それは分散と共分散と係数である。
【０１０８】
・係数の添え字は、第1の添え字Iがささる変数の番号、第2の添え字jがさす変数の番号である。
【０１０９】
・モデル中の推定すべき母数の総数（自由パラメータ数）は観測変数の分散と共分散の和であるnx×（nf＋nx）/2を超えてはならない。
【０１１０】
・fiの各々に関して、そこから出ている単方向の矢印を任意に1つ選んで、その変数への係数の値を固定する。どれを選んでも、標準化した解は一意に定まるので任意に選んでもよい。もしfiが外生変数であるならば、そうする代わりにfiの分散を固定することもできる。固定する値には1が用いられることが多い。
【０１１１】
上記の中で、次のような制約が一般的によく用いられる。
【０１１２】
・独立変数である潜在変数の分散を1に固定することによって、その尺度を定める。
【０１１３】
・従属変数である潜在変数から観測変数へのパス係数の1つを1に固定することによって、その尺度を定める。
【０１１４】
・誤差変数はお互いに独立であるとして、誤差変数の間の共変動を0に固定する。
【０１１５】
・誤差変数からのパス係数を1に固定する。
【０１１６】
・信頼性係数を既知とする。
【０１１７】
・パス係数が等しい、あるいは誤差変数の分散が等しいなどの既知の知見をもとに拘束する。
【０１１８】
（７−４）標準化解
まず、標準化されたSEV/LVを以下のように表現する。
【０１１９】
t* =  A* t*  + Bu*
残差変数の分散は母数であるから、
u*  =  [ d* , e* ]T
の分散は容易に1に固定できる。構造変数ベクトルは、
t*  =  [ f* , z ]T
である。観測変数zや外生変数である構成概念fiも分散が1と固定することができたため、観測変数の構造方程式や測定方程式も容易に標準化解を求めることができた。しかし、内生変数である構成概念の分散は、外生変数の分散と係数の関数で構造化されるから、容易には1に固定できない。そこで標準化されていない解を求めてからあらためて標準化解を求める。
【０１２０】
まず、標準化前のSEM/LVは、
t =  A t  + u
であり、ここで，tは構造変数ベクトルである。
【０１２１】
t = T u
であったから、構造変数ベクトルの共分散行列は、
Σt ＝ T  Σu  T ’
と表現される。あらゆる確率変数ベクトルは、たとえばz ＝（diag（Σ））-1/2  v のように、当該確率ベクトルの標準偏差の逆数を対角要素にもつ対角行列を左からかけて標準化できるので、
t ＝（diag（Σt））1/2  t*
u ＝（diag（Σu））1/2  u*
が成り立つ。この関係を標準化前のSEM/LVのtとuに代入し、
（diag（Σt））1/2  t* ＝ A（diag（Σt））1/2  t*  +（diag（Σu））1/2  u*
を得る。この式は左から（diag（Σt））-1/2  をかけて、
t* ＝（diag（Σt））-1/2  A（diag（Σt））1/2  t*  +（diag（Σt））-1/2  （diag（Σu））1/2  u*
と変形できる。ここで、
A* ＝（diag（Σt））-1/2  A（diag（Σt））1/2  
B ＝（diag（Σt））-1/2 （diag（Σu））1/2  
と置き換えれば、標準化されたSEM/LVの基本式
t* =  A* t*  + Bu*
を得る。このとき観測変数の相関構造は、
Σr ＝  G T*B  Σru  B’’T *’’G’’
である。
【０１２２】
（７−５）共分散構造モデリングのポイント
共分散構造モデリングを実施する際の一般的な手順は次のとおりである。
【０１２３】
１．仮説の設定
２．データの収集
３．モデルの構成
４．分析の実行
５．結果の判定
６．モデルの修正・改良
共分散構造モデリングの使途は仮説の検証にあり、まず検証すべき仮説を立てることから始まる。理想的にはその後に、その仮説の検証にはどのような観測値が適当であるかを考え、データを収集する。そして次に、仮説を表すモデルを構成する。
【０１２４】
モデルの構成にあたってはまず、調べようとする因果関係をパス図に表現することになる。構成概念をどのようにおくかなどを含め、仮設をパス図の上に表現する。その際、解が求まるには「識別性の確保」が必要である。これにはいくつかの母数を固定する必要がある場合があり、モデルの意味を損なわないように、分散やパス係数などを固定する。どこをどのように固定するかが問題であるが、これについては、ガイドラインを後で少し具体的に示す。
【０１２５】
分析を実行したら、その結果からモデル全体の適否をまず判断する。これには、カイ2乗検定や適合度と呼ばれる各種の指標を利用する。モデル全体の適合状況に加えて、個々の因果関係の有意性についても評価することができる。これらの結果に従って、必要ならばモデルの改良を行い、より適切なモデルを探索する。その際、分析結果として得られるいくつかの情報を利用して、どこをどのように修正すればより適切なモデルとすることができるかをあらかじめ調べることができる。
【０１２６】
ただ、共分散構造モデリングは仮説の検証が目的であり、得られているデータに適合するモデルを探索するのが目的ではない点に注意が必要である。モデルの修正は、このような目的の範囲内で行うべきである。モデルが合理的な範囲内の修正で受容されない、つまり棄却されるときは、仮説あるいはそのために収集したデータにおける問題を考える必要がある。
【０１２７】
（７−６）モデルの評価  
（７−６−１）モデル全体の評価
立てた仮説を検証するには、モデルがどの程度受容できるものかどうかを判定することが求められる。その判定の基準として、検定や各種の適合度の算出が行われる。検定としてはカイ2乗検定が一般的で、適合度としてはさまざまなものが考案されているが、GFI,AGFI,AICなどがよく用いられる。又最近、RMSEAも注目されている。
【０１２８】
１．カイ2乗検定
「モデルが正しい」という仮説を検証する。棄却されると、「モデルは正しくない」ということになる。一般には、棄却されないことにより、そのモデルを受容する（正しいと判断する）ことを期待して行われることが多い。しかし他の検定と同様、この検定は「モデルの正しさ」の確率を示すものではなく、「正しくない」と判断する危険度を示すものであることに注意する必要がある。棄却されないことはモデルを採択する必要条件であり、十分条件ではない。以下のような他の指標とあわせて判断しなければならない。
【０１２９】
２．GFIとAGFI
適合度GFI(Goodness of Fit Index)と修正適合度AGFI(Adjusted GFI)はデータの持つ分散共分散をモデルのそれがどの程度説明するかをその割合で示す指標である。AGFIは、GFIの欠点である自由度に影響される点を修正したものである。これらはそれぞれ、回帰分析の重相関係数と自由度調整済み重相関係数に相当する。ただ、よほど推定する母数の数が多くなければ、AGFIとGFIの差は大きくならない。Toyoda（1992）は、モデルを採択するには、GFIが0.9以上であることが1つの目安であるとしている。
【０１３０】
３．AIC
AIC（Akaike Information Criterion）は赤池の情報量基準と呼ばれるもので、Akaike（1974）によって提唱された。AICは相対的なモデルのよさを表す指標であり、モデル間の比較に適している。カイ2乗検定やGFIによって採択するモデルの候補を選択した後、AICが最小のモデルを採択するのが良いとされている（豊田、1992）。
【０１３１】
４．RMSEA
モデルの複雑さによる見かけ上の適合度の上昇を調整する適合度指標の1つで、0.08以下であれば適合度が高いとされている。又、0.10以上であればそのモデルを採択すべきでないとされており、ケース数が多いときに、カイ2乗検定に代えて使用するのに便利である。
【０１３２】
（７−６−２）個々の因果関係の評価
個々の因果関係は各パスのパス係数や相関係数として求められる。これが有意であるかどうかを評価する必要がある。モデルが全体としてデータに適合していると判断されても、個々の因果関係が有意でなければ意味がない。評価の手段としては、因果関係がない、つまり、パス係数が0といった仮説を検定するワルド検定がよく使用される。これはたとえば、パス係数をその標準誤差で割った値を用い、これがt分布となることから、t検定によって検定する。標本の数が十分大きければ正規分布とみなせるので、この値が1.96以上であれば5％の有意水準で上記の仮説を棄却し、因果関係がある、とすることができる。AmosではこれをC.R.（Critical Ratio）として出力する。
【０１３３】
又、パス係数に対しては、従属変数の変動を独立変数がどの程度説明できているかを示す指標として決定係数がある。これは重回帰分析の重相関係数の2乗にあたる。従属変数の変動を独立変数が説明しきれない部分は誤差変動として算出され、誤差変動の従属変数の変動に対する割合を1から引いて算出される。従って、独立変数がすべてを説明できたときは1となり、最大1となる指標で、1に近いほど独立変数が従属変数を説明できており、そのパス係数が有意であると判断できる。AmosではこれをSMC（Square Multiple Correlation）として出力する。
【０１３４】
（７−７）モデルの修正・改良
上記の方法によってモデルを評価した結果、モデルがデータに対して不適切な場合、あるいはより適切なモデルに修正・改良できる余地がある場合、その修正を行う。修正は、分析の結果として算出される修正指標などに基づいて行われる。これらは、モデルを変更した場合に上記の評価指標がどのように変化するかを示すもので、どこをどのように変えればモデルがよくなるかを知る手がかりである。これらの手がかりに従ってパスを引き直したり、母数（パラメータ）の拘束を行ったりする。Amosでは修正指標としては、そこにパスを入れたときにどの程度カイ2乗値の減少が期待できるかを示すものが用意されている。又、不要なパスについては上記のC.R.で判断することができる。C.R.が1.96未満であれば、その候補となる。ただ、そのようなパスの1つを灰上すると、C.R.は変化するので、有意でなかったパスが有意に変わることがある。したがって、有意でないパスを一度に全部削除するのではなく、まず最も有意でないものを1つ削除して分析をし直し、ｓらにその結果を見て判断する手順が必要である。この点Amosでは、複数のモデルの同時分析の機能を使用するとより便利にこれを進めることができる。
【０１３５】
（８）母数（パラメータ）の推定
観測データの分散共分散行列はすでに得られているので、モデルから再現された分散共分散行列ができるだけ一致するようなパス係数や分散が求まればよいということになる。このような解を求める方法としては大きく2つの方法がある。1つは最小2乗法、もう1つは最尤法の考え方である。
【０１３６】
（８−１）最小2乗法
現実の分散共分散行列とモデルから再現された分散共分散行列の差の2乗を考える。単なる差ではなく2乗することにより、この基準関数値の最小値が0に定まり、データとモデルが完全に一致すれば基準関数値は0になる。以降はこの値をなるべく小さくなるようなパラメータを求めることになる。
【０１３７】
最小化する関数F  ＝（現実の分散共分散行列−モデルから再現された分散共分散行列）2
Amosでは最小2乗法による基準として以下の4つの方法が利用できる。それぞれ最小化関数は次のようなものである。ここで、観測された分散共分散行列はS，モデルから得られた再現分散共分散行列はCとする。
【０１３８】
Adf（漸近的分布非依存性法：asymptotically distribution-free estimation）
F ＝ Σ（S−C）’U（S−C ）
gsl（一般化最小2乗法：generalized least squares estimation）
F ＝ （1/2） * trace（S -1（S−C ）2 
sls（「尺度不変」最小2乗法：’scale free’ least squares estimation）
F ＝ （1/2） * trace（D -1（S−C ）2
ここでD ＝ diagS である。ただしdiagはある行列の対角成分だけからなる行列のことである。
【０１３９】
uls（重みなし一般化最小2乗法：unweighted least squares estimation）
F ＝ （1/2） * trace（S−C ）2
ただし、Amosが出力する最小化された値は、最尤法も含めて、それぞれの値に（N−r）を乗じた値になる。ここでNは全ケース数、rは$Chicorrectコマンド（Arbuckle J. L.（1997））で指定した正の値になるが、デフォルトではグループ変数である。通常はグループ変数が1なので、Amosの出力する最小化基準値（CMIN）＝（N−1）×Fとなり、カイ2乗値に対応した値になる。
【０１４０】
それぞれの特徴を簡単にあげると次のとおりである。
【０１４１】
uls: 最も直感的に理解し易い最小2乗法になっている。計算がより簡単なので計算時間が短いという利点もある。又、特に多変量正規分布などの仮定を必要としない。しかし、他の基準と違い尺度不変ではないため、測定単位に適合度基準が影響を受ける。又、他の基準と違い、そのままカイ2乗分布が利用できる近似値にならないという問題もありあまり使われることはない。
【０１４２】
gls: 最尤法と同じく多変量正規分布を前提としている。S -1という重いみ付けを加えた最小2乗法の形をとる。これによりulsと違い、尺度不変の性質を得ている。
【０１４３】
sls: 豊田（1992）はslsの特徴として標本数が少ない場合に最尤法より優れた性質を持つことを述べた上で、入力に相関行列を用いる場合の問題点を指摘し、フィッシャーのZ変換を行うことを勧めている。
【０１４４】
adf:Browne（1984）が提唱したもので、観測分散共分散と再現分散共分散の差の平方に重み付けUを与えるものになっている。重み付けを変えることで他の推定法を表現できる一般化した形とされる。glsや最尤法と同じくカイ2乗と対応する値を提供しつつ、最尤法ほど強い多変量正規分布の前提を要求しない重み付けを発表している。従って、多変量正規分布に従いそうにないことが多い現実のデータには最も適している基準と言えるかもしれない。しかし、Young and Bentler（1994）は多変量正規分布からの逸脱に対するシミュレーションの結果をあげて、adfが期待されていたほど良い成績を示さないことを示しており、adfを利用するのは十分大きなケース数の場合が良いと考えられる。
【０１４５】
（８−２）最尤法
最尤法（maximum likelihood estimation: ml）が最小化をめざす関数は以下に示す式である。平均を利用しない場合には、式の最後についている＋Mの項が省略される。まず、省略された場合を考えてみよう。観測された分散共分散行列Sとモデルから再現された分散共分散行列Cが等しければ、式の前半部は明らかに0になることがわかる。又、その場合S ＝Cなので、後半部のSC -1は S S -1やCC -1と書いても同じことになり、その結果は単位行列になる。そして、そのtraceは1×pで変数の数pに等しくなる。こうして、＋Mを無視すると後半部も0になり、全体が0になるのである。
【０１４６】
平均を用いた場合、式には観測平均とモデル平均の差を考慮した項である＋Mが加わることになる。その場合でも、＋Mの項の内部では（観測平均−モデル平均）を表す要素が乗じられた形になっているので、観測データとモデルによる再現データの平均が一致する場合には＋Mは0になる。こうしてモデルとデータが一致する場合にはやはり全体は0になる。
【０１４７】
F ＝ loge|C |− loge|S |＋trace（SC -1）−p[＋M]
【数４】
2006099482.tif 000006
【０１４８】
最尤法の考え方では、得られた標本データを固定化したものと考えた上で、そのデータが得られる確率が最も高い母集団を想定し、パラメータを求める。古典的な推定法では母集団は真に唯一、固定された存在とみなし、得られた観測データは誤差をもち、ゆらいでいるもので、そこからなんとか真の母集団を推測しようと考える。これに対し逆に、得られた観測データが固定されたものであり、母集団がゆらいでいるようにみなすのが最尤法である。そして、確率的に最もその観測データが得られる可能性が高い母集団を求め、パラメータを決めるのである。このような解は尤度関数の最大化として求められる。しかし、尤度のままでは得られる値が微小になり計算上都合が悪い。そこで対数をとり、対数尤度関数とする。対数化された値ともとの微小な値は1対1に対応して、順序的な関係を保持したものになるので、もとの微小な値を最大化することと対数化された値を最大化することとは同じである。構造方程式モデリングでは最大化ではなく、観測データとモデルとの差の最小化をめざす基準を用いるので、それにあわせて関数を変形して先にあげた基準値を構成するのである。尚、最尤法では変数が多変量正規分布に従うという前提がある。多変量正規分布の前提条件としては各変数が正規分布に従う必要がある。Amosでは、分布の中心からの歪（非対称性）と尖度について、Critical ratioとしてC.R.に各統計量を標準誤差で割った値を出力することが可能である。更に、平方化したマハラノビス距離を利用して、最も平均からはずれているケースの番号が表示され、正規性を崩している原因かもしれない外れ値（特異なケース）を検出するのに役立つ。
【０１４９】
最小2乗法でも最尤法でも計算に使ったモデルの分散共分散行列は、最適化アルゴリズムを用いて最小化関数を少しでも小さくなる方向にパラメータを変更して繰り返し計算を行うことで求めている。
【０１５０】
−ニューラルネットワークについて−
以下に、階層型ニューラルネットワークについて詳細に説明する（例えば、非特許文献参照。）。
【０１５１】
（１）ニューラルネットワークの概要
ニューラルネットワークとは、脳の情報処理機能を工学的にモデル化したシステムで、ニューロンと称する神経細胞に対応する素子を多数結合した構造を有し、その結合構造により階層型と相互結合型に大別される。前者は時間発展のない静的入出力関係を実現し、パターン識別用として提案されたパーセプトロンがその最初といわれている。後者は時間発展における力学系を実現し、最適化演算回路として最適化計算のほか連想記憶などのパターン処理に用いられる。いずれのモデルのニューラルネットワークも、その所望特性の実現にはニューロン間の結合係数の強さを適切に設定する必要があるが、それらの結合係数を反復的に求める計算手順が学習アルゴリズムといわれている。これらのアルゴリズムの手順は、所望特性の仕様があらかじめ規定されている教師付き学習アルゴリズムと教師なし学習アルゴリズムとに分類される。
【０１５２】
以下では、階層型ニューラルネットワークでも最も基本的な中間ニューロン層をはさむ形で2つの結合層からなる3層ニューラルネットワーク（図７参照）とその教師付き学習アルゴリズムについて、説明する。
【０１５３】
（１−１）ニューラルネットワークの入出力方程式
図７のようなL個の入力節点からなる入力層、M個のニューロンからなる中間層、N個のニューロンからなる出力層より構成された3層ニューラルネットワークを考える。L個の入力信号をx＝（x1，・・・，xL）T、中間層ニューロンの出力信号をy＝（y1，・・・，yM）T，出力信号をz＝（z1，・・・，zN）Tとすると、各信号の関係は以下のように表される。
【数５】
2006099482.tif 000007
【数６】
2006099482.tif 000008
【数７】
2006099482.tif 000009
【数８】
2006099482.tif 000010
【０１５４】
ただし、vmlは第l入力節点と第m中間層ニューロン間の結合係数、θmはm中間層ニューロンの閾値定数、rmは第m中間層ニューロンへの入力信号、wnmは第m中間層ニューロンと第n出力層ニューロン間の結合係数間、snは第n出力層ニューロンへの入力信号で、まとめると以下の式で表現できる。
【数９】
2006099482.tif 000011
【０１５５】
ここで、上式は、RL次元実空間からRN次元実空間への非線形合成写像とみなすことができる。このとき出力層ニューロンの入力sはM個の式
【数１０】
2006099482.tif 000012
【０１５６】
を係数wnmで出力節点ごとに1次結合したものであり、更に出力zはsの値の値域を関数gで変換したものと解釈することができる。従って、
【数１１】
2006099482.tif 000013
【０１５７】
は写像Fの基底関数であり、M種類の係数の組（vm1，・・・，vmL；θm）は、同一形状の関数fからM種類の互いに異なるL次元空間上の基底関数を生成するためのパラメータ、（wn1，・・・，wnm）はこの基底関数の1次結合パラメータとみなすことができる。
【０１５８】
中間層ニューロンの入出力特性を表す関数fやgには傾斜の緩いシグモイド関数が用いられるのが一般的であり、以下のように表される。
【数１２】
2006099482.tif 000014
【０１５９】
（１−３）学習アルゴリズム
学習アルゴリズムとは、所定の入出力関係を上記のニューラルネットワークが獲得するような結合係数を求める問題のことである。最小2乗近似の立場から学習問題を定式化するために、教師信号ごとに出力節点の2乗誤差の総和
【数１３】
2006099482.tif 000015
【０１６０】
を考え、更にすべての教師信号に関する和を最小化する問題を考えることができる。この問題を解く最も単純な手法は、関数Eの（V，W，θ）に関する勾配を計算し、勾配方向の逆方向、つまり、誤差関数Eの最も減少する方向にを変化させるいわゆる最急降下法である。Eは重みに関する連続微分可能な関するであるため、変動量は出力信号の所望値をdnpとすると以下のように表される。
【数１４】
2006099482.tif 000016
【数１５】
2006099482.tif 000017
【数１６】
2006099482.tif 000018
【０１６１】
尚、シグモイド関数の場合、
【数１７】
2006099482.tif 000019
【０１６２】
と表される。
【０１６３】
上記の学習アルゴリズムは誤差逆伝播法（Error Back Propagation）と呼ばれている。
【０１６４】
（作用及び効果）
従来、ニューラルネットワークによる非線形回帰では、サンプリングデータに対する回帰誤差を小さくすることは可能であるが、サンプリングデータ以外のデータに対する誤差（汎化誤差）が大きくなる場合も多くなり、モデルの冗長性が問題となっていた。即ち、図８に示すように、従来のニューラルネットワークでは、サンプリング点（図８の黒丸）を通過するモデルを作成することができる（図８の点線部分）が、冗長性が大きくなっている。
【０１６５】
本実施の形態に係る解析支援システム及び解析支援プログラムによると、構造方程式モデルを作成し、構造方程式モデルに含まれる因果・相関関係情報を抽出する構造方程式モデリングモジュール１１ｂと、因果・相関関係情報に基づいて、モンテカルロ法を利用し、設計空間に対してサンプリング点を発生するサンプリング点発生モジュール１１ｃと、ニューラルネットワークモデルを用いて、サンプリング点から非線形回帰モデルを作成する非線形回帰モジュール１１ｄとを備えることにより、構造方程式モデリングとモンテカルロ法によるサンプリングとを組み合わせ、モデルの冗長性を排除した（図８の実線部分）、ニューラルネットワークによる非線形回帰分析を行うことができる。
【０１６６】
又、本実施の形態に係る解析支援システム及び解析支援プログラムにおいて、類型化モジュール１１ａが設計空間を複数の部分領域に分割し、構造方程式モデリングモジュール１１ｂが部分領域毎に構造方程式モデルを作成し、サンプリング点発生モジュール１１ｃが部分領域毎にサンプリング点を発生することができる。このため、複数の種類を含む製品について解析を行う場合、種類を意識した解析が可能となる。
【０１６７】
又、非線形回帰モジュール１１ｄは、設計項目に直結する素子数が最小となる非線形回帰モデルを作成することができる。このため、少数の素子（パラメータ）により、設計空間を認識することができる。
【０１６８】
又、コントロールモジュール１１ｅは、設計空間における複数の設計項目に直結する素子を変化させることにより、複数の設計項目間の関係を制御することができる。このため、得られた回帰モデルを多目的設計における最適化やトレードオフ問題をコントロールすることができる。
【０１６９】
又、コントロールモジュール１１ｅは、ニューラルネットワークモデルの目的変数に直結する素子の値を変化させ、目的変数の応答をパラメータサーベイすることにより、要求を満たす目的変数を探索し、探索した目的変数に直結する素子の値を説明変数にフィードバックすることができる。このため、得られた回帰モデルを説明変数の変動に対する影響度分析に利用することができる。
【０１７０】
（その他の実施の形態）
本発明は上記の実施の形態によって記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
【０１７１】
例えば、本発明の実施の形態に係る解析支援システムのＣＰＵ１１内の各モジュールは、一つのＣＰＵ１１内にあると記述したが、複数のＣＰＵ１１に分けて備えられていても良い。その際、複数のＣＰＵ１１間でデータのやりとりが行えるようにバスなどでシステム（装置）間を接続する。
【０１７２】
このように、本発明はここでは記載していない様々な実施の形態等を含むことは勿論である。従って、本発明の技術的範囲は上記の説明から妥当な特許請求の範囲に係る発明特定事項によってのみ定められるものである。
【図面の簡単な説明】
【０１７３】
【図１】本実施形態に係る解析支援システムの構成ブロック図である。
【図２】本実施形態に係る解析支援方法を示すフローチャートである。
【図３】本実施形態に係る類型化（領域分割）を説明するための図である。
【図４】本実施形態に係る構造方程式モデリングを説明するための図である（その１）。
【図５】本実施形態に係る構造方程式モデリングを説明するための図である（その２）。
【図６】本実施形態に係るサンプリング点の発生を説明するための図である。
【図７】本実施形態に係るニューラルネットワークによる非線形回帰を説明するための図である。
【図８】本実施形態に係る解析支援システムの効果を説明するための図である。
【符号の説明】
【０１７４】
１１…中央処理装置（ＣＰＵ）
１１ａ…類型化モジュール
１１ｂ…構造方程式モデリングモジュール
１１ｃ…サンプリング点発生モジュール
１１ｄ…非線形回帰モジュール
１１ｅ…コントロールモジュール
１２…入力装置
１３…出力装置
１４…ＲＯＭ
１５…ＲＡＭ
【図１】
2006099482.tif 000020
【図２】
2006099482.tif 000021
【図３】
2006099482.tif 000022
【図４】
2006099482.tif 000023
【図５】
2006099482.tif 000024
【図６】
2006099482.tif 000025
【図７】
2006099482.tif 000026
【図８】
2006099482.tif 000027