(57)【要約】【課題】処理装置で処理された製造品の特性を予測するために運転データを記憶する記憶容量を削減できる特性予測装置を提供する。【解決手段】特性予測装置１は、運転データ収集部２と特性値収集部３と特徴抽出部４と記憶部５と特性予測部６と学習部７とを有する。記憶部５は、特徴抽出部４によって抽出された特徴量を記憶する。特性予測部６は、記憶部５によって記憶された特徴量から、製造品の特性を表す特性値を、予測モデル８を用いて予測して、この予測された特性値を、特性予測値として出力する。学習部７は、特性予測値と特性値との誤差を減少させるように、予測モデル８を学習して更新する。【選択図】図１
2011071296.tif 000002
【特許請求の範囲】
【請求項１】
素材に処理を施して製造品を製造する処理装置による処理条件、および、上記処理装置によって測定された上記素材への処理に関する測定値を、運転データとして収集する運転データ収集部と、
上記処理装置によって製造された製造品の特性を表す特性値を収集する特性値収集部と、
上記運転データ収集部によって収集された上記運転データから上記製造品に関わる特徴量を抽出する特徴抽出部と、
上記特徴抽出部によって抽出された上記特徴量を記憶する記憶部と、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記記憶部によって記憶された上記特徴量から、上記製造品の特性を表す特性値を、予測モデルを用いて予測して、この予測された特性値を、特性予測値として出力する特性予測部と、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記特性予測部によって出力された上記特性予測値と、上記特性値収集部によって収集された上記特性値との誤差を減少させるように、上記記憶部によって記憶された上記特徴量と、上記特性値収集部によって収集された上記特性値とに基づいて、上記特性予測部に用いられる上記予測モデルを学習して更新する学習部と
を備えることを特徴とする特性予測装置。
【請求項２】
請求項１に記載の特性予測装置において、
上記記憶部によって記憶された上記特徴量を、ある条件の下で、削除する制御部を備えることを特徴とする特性予測装置。
【請求項３】
請求項２に記載の特性予測装置において、
上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習部の学習に用いられた上記特徴量を、上記記憶部から削除することを特徴とする特性予測装置。
【請求項４】
請求項２に記載の特性予測装置において、
上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、上記記憶部によって記憶された上記特徴量のうち上記学習部の学習に用いられた最も古い特徴量を、上記記憶部から削除することを特徴とする特性予測装置。
【請求項５】
請求項２に記載の特性予測装置において、
上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習に用いられた上記特徴量を、上記特性値収集部によって収集された上記特性値、または、上記特性予測部によって出力された上記特性予測値の少なくとも一方が、所定の正常範囲である場合にのみ、上記記憶部から削除することを特徴とする特性予測装置。
【請求項６】
請求項２から５の何れか一つに記載の特性予測装置において、
上記制御部は、上記学習部の学習に用いられておらず、かつ、製造されてから一定期間経過した上記製造品に関わる上記特徴量を、上記記憶部から削除することを特徴とする特性予測装置。
【請求項７】
請求項１から６の何れか一つに記載の特性予測装置において、
上記特徴抽出部は、少なくとも部分最小二乗法を用いており、上記特徴量は、部分最小二乗法によって生成された一つ以上のスコアであることを特徴とする特性予測装置。
【請求項８】
請求項７に記載の特性予測装置において、
上記予測モデルは、上記スコアを説明変数とした線形回帰式であり、上記学習部は、線形回帰式の各係数を補正することを特徴とする特性予測装置。
【請求項９】
素材に処理を施して製造品を製造する処理装置による処理条件、および、上記処理装置によって測定された上記素材への処理に関する測定値を、運転データとして収集する運転データ収集ステップと、
上記処理装置によって製造された製造品の特性を表す特性値を収集する特性値収集ステップと、
上記運転データ収集ステップによって収集された上記運転データから上記製造品に関わる特徴量を抽出する特徴抽出ステップと、
上記特徴抽出ステップによって抽出された上記特徴量を記憶する記憶ステップと、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記記憶ステップによって記憶された上記特徴量から、上記製造品の特性を表す特性値を、予測モデルを用いて予測して、この予測された特性値を、特性予測値として出力する特性予測ステップと、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記特性予測ステップによって出力された上記特性予測値と、上記特性値収集ステップによって収集された上記特性値との誤差を減少させるように、上記記憶ステップによって記憶された上記特徴量と、上記特性値収集ステップによって収集された上記特性値とに基づいて、上記特性予測ステップに用いられる上記予測モデルを学習して更新する学習ステップと
を備えることを特徴とする特性予測方法。
【請求項１０】
コンピュータを、請求項１に記載の上記運転データ収集部、上記特性値収集部、上記特徴抽出部、上記記憶部、上記特性予測部および上記学習部として機能させることを特徴とする特性予測プログラム。
【請求項１１】
請求項１０に記載の特性予測プログラムが記録されたことを特徴とするコンピュータ読出し可能なプログラム記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、素材を処理して製造品を得る処理装置からの運転データから、製造品の特性を予測する特性予測装置、特性予測方法、特性予測プログラム、および、プログラム記録媒体に関する。
【背景技術】
【０００２】
半導体等の製造品は、基板に対して処理装置により順次処理を行うことによって製造される。また、検査装置によって上記製造品の特性を測定し、特性値から不良品を発見している。さらには、特性が望ましい目標値に近づけ、かつ維持できるように、処理装置の製造条件をフィードバック制御している。このようなシステムとして、特表２００７‐５３１３０５号公報(特許文献１)に開示された「ランｔｏラン制御の方法とシステム」がある。
【０００３】
上記特許文献１に開示された半導体製造システムにおいては、先ず部分最小二乗(ＰＬＳ：Partial Least Squares)法によって、下式のような製造品の特性の回帰予測式を予め求めておく。
［数１］
ｙp＝ｂ0＋ｂ1×ｘ1＋ｂ2×ｘ2＋…＋ｂk×ｘk＋…＋ｂn×ｘN
上記回帰予測式において、ｙpは特性予測値、ｘkは第ｋ変数、ｂkは第ｋ変数に対する第ｋ係数である。ここで、ｋ＝１、２、…、Nであり、Ｎは上記回帰予測式に用いた変数の総数である。また、b0はバイアスパラメータと呼ばれている。尚、変数は、運転データを表している。
【０００４】
フィードバック制御は、次のステップ（I）〜（IV）に従って実施される。
（I）まず、製造条件により処理された製造品は、上記回帰予測式により特性予測値を求める。
（II）次に、予測された特性予測値と、特性目標値との違いを最小にさせるべく、製造条件を変更する。
（III）変更された製造条件により新しく基板を処理する。
（IV）再び（I）に戻る。
このようにして、製造品の特性を目標値に近づけ、かつ維持する。
【０００５】
上記ステップ（II）における製造条件の変更は、最適化問題である。すなわち、製造条件の制約の下で、下式を最小にする製造条件を求めるのである。
Ｌ(ｘ1、ｘ2、…、ｘN)＝(ｙp−ｙo)^2
ここで、Ｌは目的関数、ｙoは特性目標値、 ^はべき乗演算子である。すなわち、特性予測値と特性目標値との２乗誤差が最小となる変数ｘ1、 ｘ2、 …、 ｘNを探索する問題である。なお、製造条件の制約とは、各変数の可変範囲（例：０＜ｘ１＜１００）、複数の変数間の可変範囲（例：０＜ｘ２＋ｘ３＜５０）あるいは複数の変数間の制限（例：ｘ３＋ｘ４＝１０）であり、変数の物理的、化学的、電気的、機械的、空間的あるいはその他の制約を表している。
【０００６】
当初、高精度に特性を予測できていたとしても、処理装置の経時変化、処理の際に使用する原料の特性変化、温度や湿度等の周囲環境変化等によって、予測精度が劣化するという問題がある。その結果、望ましい目標値に近づけることが困難になる。このような問題を解決するために、特開昭６１−３２４３２号公報（特許文献２）、特表２００４−５１０２２２号公報（特許文献３）、特開２００９−１１１０４２号公報（特許文献４）では、カルマンフィルタを用いた予測方法が開示されている。
【０００７】
カルマンフィルタは、［数１］の回帰予測式の係数ｂk（k＝0、1、2、…、N）を状態変数として、特性実測値に基づいて状態変数を更新し、回帰予測式を較正する。そして、較正された回帰予測式を用いて、次処理された製造品の特性を予測する。このように、カルマンフィルタを用いることで、特性を高精度に予測することを維持できるのである。
【０００８】
さて、処理装置で処理された製造品を処理装置から取り出すには時間を要する。また、処理装置から検査装置まで製造品を搬送するのにも時間を要する。さらに、検査装置による測定にも時間を要する。従って、処理装置で処理を終えてから検査装置で特性を測定し終えるまでには、数十分から数時間程度の長時間（以下、Ｔ時間）が必要となる。
【０００９】
一方、カルマンフィルタは、処理装置が製造品を処理した際に収集される運転データと、検査装置がその製造品を測定した特性実測値とを用いて、回帰予測式を較正する。従って、特性予測装置は、特性実測値を収集して回帰予測式の更新に利用し終えるまで、運転データを記憶しておく必要がある。
【００１０】
近年、詳細な運転データを収集して、予測精度を高める傾向がある。すなわち、処理装置に多数のセンサを取り付けており、またセンサからの標本化時間間隔も短縮させているのである。その結果、処理装置の処理当たりの運転データ容量Ｍは大きくなる。処理装置が製造品を処理する能力（単位時間当たりに処理される製造品の数）をＲとすれば、少なくとも（Ｍ×Ｒ×Ｔ）セットの運転データを記憶しなければならず、運転データを記憶するハードディスク等の記憶機器コストが高くなる問題点があった。
【００１１】
また、記憶している運転データが多くなると、記憶されている運転データの中から、予測モデルの更新に利用する運転データを検索して取り出す時間は長くなる。その結果、特性予測結果が得られる時間も長くなり、フィードバック制御が遅れる問題も発生する。
【先行技術文献】
【特許文献】
【００１２】
【特許文献１】特表２００７−５３１３０５号公報
【特許文献２】特開昭６１−３２４３２号公報
【特許文献３】特表２００４−５１０２２２号公報
【特許文献４】特開２００９−１１１０４２号公報
【発明の概要】
【発明が解決しようとする課題】
【００１３】
そこで、この発明の課題は、処理装置で処理された製造品の特性を予測するために運転データを記憶する記憶容量を削減できる特性予測装置、特性予測方法、特性予測プログラムおよびプログラム記録媒体を提供することにある。
【課題を解決するための手段】
【００１４】
上記課題を解決するため、この発明の特性予測装置は、
素材に処理を施して製造品を製造する処理装置による処理条件、および、上記処理装置によって測定された上記素材への処理に関する測定値を、運転データとして収集する運転データ収集部と、
上記処理装置によって製造された製造品の特性を表す特性値を収集する特性値収集部と、
上記運転データ収集部によって収集された上記運転データから上記製造品に関わる特徴量を抽出する特徴抽出部と、
上記特徴抽出部によって抽出された上記特徴量を記憶する記憶部と、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記記憶部によって記憶された上記特徴量から、上記製造品の特性を表す特性値を、予測モデルを用いて予測して、この予測された特性値を、特性予測値として出力する特性予測部と、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記特性予測部によって出力された上記特性予測値と、上記特性値収集部によって収集された上記特性値との誤差を減少させるように、上記記憶部によって記憶された上記特徴量と、上記特性値収集部によって収集された上記特性値とに基づいて、上記特性予測部に用いられる上記予測モデルを学習して更新する学習部と
を備えることを特徴としている。
【００１５】
ここで、上記運転データ収集部によって収集される上記測定値は、実際の計測値の時系列データや、上記時系列データの最大値、最小値、平均値および分散等の統計量や、上記時系列データに微分、積分、直交変換、ＰＬＳ等の処理を施したデータを含む概念である。
【００１６】
この発明の特性予測装置によれば、上記運転データ収集部と上記特性値収集部と上記特徴抽出部と上記記憶部と上記特性予測部と上記学習部とを備えるので、記憶部は、運転データを直接記憶する必要はなく、学習部が予測モデルを更新するために必要とされると共に運転データから抽出される特徴量を記憶するだけでよい。このため、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００１７】
また、一実施形態の特性予測装置では、上記記憶部によって記憶された上記特徴量を、ある条件の下で、削除する制御部を備える。
【００１８】
この実施形態の特性予測装置によれば、上記制御部を備えるので、記憶部によって記憶された特徴量を削除することができ、記憶容量を一層低減できる。
【００１９】
また、一実施形態の特性予測装置では、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習部の学習に用いられた上記特徴量を、上記記憶部から削除する。
【００２０】
この実施形態の特性予測装置によれば、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習部の学習に用いられた上記特徴量を、上記記憶部から削除するので、予測モデルの更新に用いられた特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００２１】
また、一実施形態の特性予測装置では、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、上記記憶部によって記憶された上記特徴量のうち上記学習部の学習に用いられた最も古い特徴量を、上記記憶部から削除する。
【００２２】
この実施形態の特性予測装置によれば、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、上記記憶部によって記憶された上記特徴量のうち上記学習部の学習に用いられた最も古い特徴量を、上記記憶部から削除するので、予測モデルの更新に用いられた特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００２３】
また、一実施形態の特性予測装置では、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習に用いられた上記特徴量を、上記特性値収集部によって収集された上記特性値、または、上記特性予測部によって出力された上記特性予測値の少なくとも一方が、所定の正常範囲である場合にのみ、上記記憶部から削除する。
【００２４】
この実施形態の特性予測装置によれば、上記制御部は、上記学習部が上記予測モデルの学習を終えた後に、この学習に用いられた上記特徴量を、上記特性値収集部によって収集された上記特性値、または、上記特性予測部によって出力された上記特性予測値が、所定の正常範囲である場合にのみ、上記記憶部から削除するので、正常に処理された製造品に関わる特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００２５】
また、一実施形態の特性予測装置では、上記制御部は、上記学習部の学習に用いられておらず、かつ、製造されてから一定期間経過した上記製造品に関わる上記特徴量を、上記記憶部から削除する。
【００２６】
この実施形態の特性予測装置によれば、上記制御部は、上記学習部の学習に用いられておらず、かつ、製造されてから一定期間経過した上記製造品に関わる上記特徴量を、上記記憶部から削除するので、予測モデルの更新に利用される可能性が低い特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００２７】
また、一実施形態の特性予測装置では、上記特徴抽出部は、少なくとも部分最小二乗法を用いており、上記特徴量は、部分最小二乗法によって生成された一つ以上のスコアである。
【００２８】
この実施形態の特性予測装置によれば、上記特徴抽出部は、少なくとも部分最小二乗法を用いており、上記特徴量は、部分最小二乗法によって生成された一つ以上のスコアであるので、上記記憶部は、部分最小二乗法によって生成された一つ以上のスコアを記憶する。このため、記憶容量を一層低減できる。
【００２９】
また、一実施形態の特性予測装置では、上記予測モデルは、上記スコアを説明変数とした線形回帰式であり、上記学習部は、線形回帰式の各係数を補正する。
【００３０】
この実施形態の特性予測装置によれば、上記予測モデルは、上記スコアを説明変数とした線形回帰式であり、上記学習部は、線形回帰式の各係数を補正するので、線形回帰式により特性予測値を予測することができ、かつ、予測モデルを更新することができる。
【００３１】
また、この発明の特性予測方法は、
素材に処理を施して製造品を製造する処理装置による処理条件、および、上記処理装置によって測定された上記素材への処理に関する測定値を、運転データとして収集する運転データ収集ステップと、
上記処理装置によって製造された製造品の特性を表す特性値を収集する特性値収集ステップと、
上記運転データ収集ステップによって収集された上記運転データから上記製造品に関わる特徴量を抽出する特徴抽出ステップと、
上記特徴抽出ステップによって抽出された上記特徴量を記憶する記憶ステップと、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記記憶ステップによって記憶された上記特徴量から、上記製造品の特性を表す特性値を、予測モデルを用いて予測して、この予測された特性値を、特性予測値として出力する特性予測ステップと、
上記処理装置によって製造された少なくとも一つの製造品に関して、上記特性予測ステップによって出力された上記特性予測値と、上記特性値収集ステップによって収集された上記特性値との誤差を減少させるように、上記記憶ステップによって記憶された上記特徴量と、上記特性値収集ステップによって収集された上記特性値とに基づいて、上記特性予測ステップに用いられる上記予測モデルを学習して更新する学習ステップと
を備えることを特徴としている。
【００３２】
この発明の特性予測方法によれば、上記運転データ収集ステップと上記特性値収集ステップと上記特徴抽出ステップと上記記憶ステップと上記特性予測ステップと上記学習ステップとを備えるので、記憶ステップでは、運転データを直接記憶する必要はなく、学習ステップにおいて予測モデルを更新するために必要とされると共に運転データから抽出される特徴量を記憶するだけでよい。このため、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００３３】
また、この発明の特性予測プログラムは、コンピュータを、上記運転データ収集部、上記特性値収集部、上記特徴抽出部、上記記憶部、上記特性予測部および上記学習部として機能させることを特徴としている。
【００３４】
この発明の特性予測プログラムによれば、コンピュータを、上記運転データ収集部、上記特性値収集部、上記特徴抽出部、上記記憶部、上記特性予測部および上記学習部として機能させるので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００３５】
また、この発明のプログラム記録媒体は、上記特性予測プログラムが記録されたことを特徴としている。
【００３６】
この発明のプログラム記録媒体によれば、上記特性予測プログラムが記録されているので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【発明の効果】
【００３７】
この発明の特性予測装置によれば、上記運転データ収集部と上記特性値収集部と上記特徴抽出部と上記記憶部と上記特性予測部と上記学習部とを備えるので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００３８】
この発明の特性予測方法によれば、上記運転データ収集ステップと上記特性値収集ステップと上記特徴抽出ステップと上記記憶ステップと上記特性予測ステップと上記学習ステップとを備えるので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００３９】
この発明の特性予測プログラムによれば、コンピュータを、上記運転データ収集部、上記特性値収集部、上記特徴抽出部、上記記憶部、上記特性予測部および上記学習部として機能させるので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００４０】
この発明のプログラム記録媒体によれば、上記特性予測プログラムが記録されているので、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【図面の簡単な説明】
【００４１】
【図１】本発明の特性予測装置の第１実施形態を示すブロック図である。
【図２】本発明の特性予測装置の第２実施形態を示すブロック図である。
【発明を実施するための形態】
【００４２】
以下、この発明を図示の実施の形態により詳細に説明する。
【００４３】
（第１の実施形態）
図１は、この発明の特性予測装置の第１実施形態であるブロック図を示している。この特性予測装置１は、例えば、基板を処理して製造品を得る半導体の製造システムに適用される。
【００４４】
図１に示すように、この特性予測装置１は、運転データ収集部２と特性値収集部３と特徴抽出部４と記憶部５と特性予測部６と学習部７とを有する。
【００４５】
上記運転データ収集部２は、素材に処理を施して製造品を製造する処理装置９による処理条件、および、上記処理中の処理装置９によって測定された上記素材への処理に関する測定値を、運転データとして収集する。尚、上記処理条件とは、処理設定時間、処理設定温度、処理設定圧力、原料ガスの設定流量および原料ガスのバルブ設定開度等である。また、上記測定値とは、一種類以上の値であり、例えば、実際に測定された処理時間、処理温度、処理圧力および原料ガスの流量等である。ここで、上記測定値は、処理時間中に標本化された時系列データであってもよい。すなわち、上記運転データは、上記処理条件および上記測定値であればよい。
【００４６】
上記特性値収集部３は、上記処理装置９によって製造された製造品の特性を表す特性値を収集する。ここで、上記特性とは、上記製造品の外形寸法、物理特性、化学特性、電気特性、欠陥数、ムラおよび色味等である。また、上記収集される特性値は、検査装置１０によって測定された値であってもよく、または、人による官能検査によって得られた値であってもよい。官能検査とは、人の五感に代表される感覚によって行われる検査である。
【００４７】
上記特徴抽出部４は、上記運転データ収集部２によって収集された運転データから製造品に関わる特徴量を抽出する。尚、特徴とは、特性と無関係な変動を含まず、特性と関係のある変動であることが理想である。このような特徴抽出は、以下（１）〜（８）に示すような様々な処理を組み合わせて行われる。
（１）変数選択
変数選択は、収集した運転データの中から、特性予測に用いられるデータを選択することである。選択されない運転データは、特性予測に役立たない、すなわち特性と関係がないデータである。
（２）同期化
複数のセンサで測定された時系列データは、標本化周波数が異なる場合がある。あるいは同じ標本化周波数であったとしても非同期の場合は位相がそろっていない場合がある。そこで、複数の測定データの周波数および位相が同じになるように、同期化させる。
（３）センタリング
センタリングは、変数毎に、標本値から代表値を差し引く処理である。通常、代表値は、算術平均値を用いるが、幾何平均、調和平均、中央値、最頻値等でもよい。また、平均値ではなく設定値を用いてもよい。例えば、測定温度から処理設定温度を差し引くのである。処理設定温度は処理に適した目標温度であるから、測定温度から処理設定温度を差し引いた差分は、目標温度からのずれを表している。センタリングを施すことで、特性の変動に寄与する変動のみを抽出することができる。
（４）スケーリング
スケーリングは、各変数の分散をそろえることである。一般に、変数の標準偏差で除算することがよく行われる。スケーリングを施すことで、各変数を無次元化することができ、次元や単位の異なる各変数を統一することもできる。また、センタリングとスケーリングは、合わせて正規化と呼ばれる。例えば、第ｋ変数ｘkにおいて、正規化は次式により行われる。
ｘｘk＝（ｘk−ｘkm）／σxk
ここで、ｘｘｋは正規化後の第ｋ変数、ｘkｍはｘkの算術平均値、σxｋはｘkの標準偏差である。
（５）統計量
運転データのうち時系列データは、その時系列に関して最大値、最小値、平均値および分散等の統計量を求めてもよい。例えば、処理の開始から終了までに収集された時系列データの温度に関して、最高温度、最低温度、平均温度および温度の分散を計算し、特徴量とすることである。また、あるいは、複数の変数間に関して最大値、最小値、平均値および分散等の統計量を求めてもよい。例えば、処理装置内に設置された複数の温度センサから収集された温度に関して、最高温度、最低温度、平均温度および温度の分散を計算し、特徴量とする。統計量に変換することで、大量データを少数の統計量で表すことができる。
（６）直交変換
時系列データを周波数変換してもよい。具体的には、離散フーリエ変換、離散コサイン変換およびウェーブレット変換等の処理を施した処理データを特徴量とする。直交変換を施すことで、時系列データを周波数に変換することができる。
（７）微積分
時系列データに微分、積分を施してもよい。例えば、原料ガス流量の時系列データを微分することで、原料ガスの変動勾配を算出できる。また、原料ガス流量の時系列データを積分することで、原料ガス投入総量を算出できる。
（８）多変量解析手法による次元圧縮
多数の変数を少数の変数に代表させる多変量解析手法であるＰＬＳ（Ｐａｒｔｉａｌ Ｌｅａｓｔ Ｓｑｕａｒｅｓ、部分最小二乗法）ないしはＰＣＡ（Ｐｒｉｎｃｉｐａｌ Ｃｏｍｐｏｎｅｎｔ Ａｎａｌｙｓｉｓ、主成分分析）を行う。ＰＬＳないしはＰＣＡにより算出された少数のスコアを特徴量とする。
【００４８】
尚、（１）〜（８）の各処理を複数組み合わせて特徴量を求めてもよい。大容量の運転データを記憶するのではなく、特性予測精度を劣化させずに小容量の特徴量に変換して記憶するのである。
【００４９】
ＰＬＳは、予測精度が優れた手法として周知されている。以下に、ＰＬＳについて詳細に説明する。ＰＬＳでは、予測のために、予め運転データと特性実測値をできるだけ多く収集しておく。この事前に用意されたデータは学習データと呼ばれている。この学習データのうち運転データを行列Ｘとする。Ｘの各列は、運転データの各変数を表している。Ｘの各行は、標本を表している。ここで、標本は、処理装置が行った各処理を意味している。また、学習データのうち特性実測値を行列Ｙとする。Ｙの各列は、特性値の各変数を表している。Ｙの各行は、標本を表している。標本数をＮ、説明変数の種類数をＫ、目的変数の種類数をＭとすれば、ＸはＮ行Ｋ列行列、ＹはＮ行Ｍ列行列となる。Ｘの第ｉ行とＹの第ｉ行は、同じ標本、すなわち同一素材に対して施した処理に関する運転データと特性実測値をそれぞれ表している。例えば、Ｘの第ｉ行のみを取り出して、行ベクトルｘで表せば、
ｘ＝（ｘ1  ｘ2  …  ｘk  …  ｘK）
ここで、ｘkは、第ｉ番目に処理された製造品の運転データに関わる第ｋ説明変数である。同様に、Ｙの第ｉ行のみを取り出して、行ベクトルｙで表せば、
ｙ＝（ｙ1  ｙ2  …  ｙk  …  ｙM）
ここで、ｙｋは、第ｉ番目に処理された製造品の第ｋ目的変数である。尚、特性値は複数種類であっても、一種類であってもよい。すなわち、特性値が複数種類の場合、Ｙの列数は複数になり、一種類の場合Ｙの列数は１になる。また、Ｘは、上述の（１）〜（７）の処理後のデータであってもよい。一般的には、少なくとも正規化を施しておく。同様に、Ｙも正規化を施しておく、第ｋ目的変数ｙkにおいて、正規化は次式により行われる。
【００５０】
ｙｙk＝（ｙk−ｙkm）／σyk
ここで、ｙｙｋは正規化後の第ｋ目的変数、ｙkｍはｙkの算術平均値、σyｋはykの標準偏差である。以下の説明では、（１）〜（７）の処理を施した後であっても、処理前と同じ記号で表す。
【００５１】
ＰＬＳには、いくつかのアルゴリズムが提案されている。ここでは、刊行物（PLS-regression: a basic tool of chemometrics、Chemometrics and Intelligent Laboratory Systems 58 (2001) 109-130）に記載されたＮＩＰＡＬＳアルゴリズム（Non-linear Iterative Partial Least Squares Algorithm）に基づき説明する。
（Ａ）Ｙ側のスコアベクトルｕに任意の初期値を代入する。初期値は、例えば、行列Ｙの任意の列を用いる。
（Ｂ）Ｘ側の重みベクトルｗを次式により算出する。
ｗ＝（Ｘ’・ｕ）／（ｕ’・ｕ）
ここで、「'」は行列の転置、「・」は行列の乗算を表す。
（Ｃ）Ｘ側のスコアベクトルｔを次式により算出する。
ｔ＝Ｘ・ｗ
（Ｄ）Ｙ側の重みベクトルｃを次式により算出する。
ｃ＝（Ｙ’・ｔ）／（ｔ’・ｔ）
（Ｅ）Ｙ側のスコアベクトルｕを次式により算出する。
ｕ＝（Ｙ・ｃ）／（c’・ｃ）
（Ｆ）更新前後のｔの変化を次判定式により調べる。
||ｔold-ｔnew||＜ε
ここで、ｔoldは更新前のスコアｔ、ｔnewは更新後のスコアｔを表す。すなわち、ステップ（Ｃ）で算出された最新のｔをｔnewとし、それより一つ前に算出されたｔをｔoldとする。また、「||  ||」は、ベクトルのノルムを表す。εは、更新終了を判定する予め定められた微小な定数である。この判定式が不成立の場合（収束しない時）は、ステップ（Ｂ）に戻る。成立の場合（収束した時）は、ステップ（Ｇ）に進む。尚、最初にこのステップ（Ｆ）を実行する際は判定式が不成立として、ステップ（Ｂ）に戻る。
（Ｇ）算出された成分を行列ＸおよびＹからそれぞれ除去する。
Ｘ＝Ｘ−ｔ・ｐ’
Ｙ＝Ｙ−ｔ・ｃ’
ここで、ローディングベクトルｐは、次式により算出される。
ｐ＝（Ｘ’・ｔ）／（ｔ’・ｔ）
（Ｈ）次の成分を算出するために、ステップ（Ａ）に戻る。
なお、Ｘ側のスコアベクトルｕとＹ側のスコアベクトルｔは、それぞれ大きさＮの列ベクトルである。Ｘ側の重みベクトルｗとローディングベクトルｐは、それぞれ大きさＫの列ベクトルである。Ｙ側の重みベクトルｃは、大きさＭの列ベクトルである。
【００５２】
ステップ（Ａ）〜（Ｈ）により算出された成分は、順に第一成分、第二成分、第三成分、…と呼ばれる。ｔ、ｕ、ｗ、ｃ、ｐを、成分順に列に並べて、それぞれ行列Ｔ、Ｕ、Ｗ、Ｃ、Ｐとする。つまり、第一列は第一成分、第二列は第二成分、第三列は第三成分、…のような順となる。また、別の重み行列Ｗ*を次式により算出する。
Ｗ*＝Ｗ・（Ｐ’・Ｗ）-1
ここで、「-1」は逆行列を表す。以上の計算により、説明変数行列Ｘは、スコア行列Ｔとローディング行列Ｐで表すことができる。また、目的変数行列Ｙは、スコア行列Ｔと重み行列Ｃで表すことができる。
［数２］
Ｔ＝Ｘ・Ｗ*
Ｘ＝Ｔ・Ｐ’＋Ｅ
Ｙ＝Ｕ・Ｃ’＋Ｇ＝Ｔ・Ｃ’＋Ｆ
ここで、Ｅ、Ｆ、Ｇは、残差行列である。
【００５３】
ＰＬＳでは、成分数を定めなければならない。成分数を増やせば残差Ｅ、Ｆ、Ｇが少なくなり、予測精度が向上する。一方、成分数を増やしすぎれば、学習データに対しては残差が少ない（予測精度が良い）が、学習に用いた以外の新しいテストデータに対しては残差が多い（予測精度が悪い）。この現象は、過学習と呼ばれている。従って、成分数を適切に定めなければならない。大量の学習データがある場合は、データを学習に用いる部分とテストに用いる部分とに分割する。まず、学習に用いる部分データでＰＬＳを学習し、次にテストに用いる部分データにより予測精度を評価する。この予測精度が最も良くなるように、学習時の成分数を適切に定めるのである。また、学習データが少ない場合は、公差確認法（Cross Validation）と呼ばれる手法により決定することが一般に行われている。定められた成分数をＡとすると、各行列Ｔ、ＵはＮ行Ａ列行列、各行列Ｐ、Ｗ、Ｗ*はＫ行Ａ列行列、ＣはＭ行Ａ列行列となる。以上のように説明したＰＬＳのアルゴリズムにより、成分数Ａ、重み行列Ｗ*とＣを予め定めておく。
【００５４】
上記特徴抽出部４は、運転データに様々な処理を施し、最後に次式によりスコアを算出して、特徴量としているのである。つまり、特徴抽出部４は、少なくとも部分最小二乗法を用いており、特徴量は、部分最小二乗法によって生成された一つ以上のスコアである。
ｔp＝ｘ・Ｗ*
ここで、ｘは説明変数を行方向に順次並べた行ベクトル。ｔpは算出されたスコアベクトル、Ｗ*は、予め定められた重み行列である。スコアベクトルｔpを
［数３］
ｔp＝（ｔp1  ｔp2  ｔp3  …  ｔpk  …  ｔpA）
とすれば、ｔpkは第ｋ成分のスコア値を表す。ここで、Ａは、予め定められた成分数である。
【００５５】
上記記憶部５は、特徴抽出部４によって抽出された特徴量を記憶する。上記特性予測部６は、処理装置９によって製造された少なくとも一つの製造品に関して、記憶部５によって記憶された特徴量から、製造品の特性を表す特性値を、予測モデル８を用いて予測して、この予測された特性値を、特性予測値として出力する。ここで、予測モデル８とは、特徴抽出部４により求められたスコアベクトルtpと目的変数を行方向に順次並べた特性予測ベクトルｙpとの関係である。すなわち、
［数４］
ｙp＝ｔp・Ｃ’
ここで、Ｃは予め定められた重み行列である。なお、特性値が一種類の場合は、ｙpはベクトルではなくスカラ値になり、重み行列Ｃは１行Ａ列行列となる。以下では、簡単のため、特性値が一種類の場合について説明する。この場合、［数４］は、次式になる。
ｙp＝ｃ1×tp1＋ｃ2×tp2＋…＋ｃk×tpk＋…＋ｃn×tpA
ここで、ｙpは特性予測値（スカラ値）、ｃkはＹ側の重みの第ｋ成分である。ypは正規化された特性値であったから、正規化前の特性予測値に換算すれば、
［数５］
ｙp＝ｂ0＋ｂ1×tp1＋ｂ2×tp2＋…＋ｂk×tpk＋…＋ｂn×tpA
ここで、ｙpは正規化前の特性予測値である（正規化後の特性予測値と同じ記号を用いている）。ｂkは、第ｋスコア値ｔpkにかかる係数である。また、ｂ0はバイアスパラメータである。また、［数５］の別表現として、
［数６］
ｙp＝Ｂ’・ｔp
ここで、
ｔp＝（1 ｔp1  ｔp2  ｔp3  …  ｔpk  …  ｔpA）’
Ｂ＝（ｂ0  ｂ1  …  ｂk  …  ｂA）’
［数５］とは異なり、［数６］では、tpは大きさＡ＋１の列ベクトルである。この実施形態では、［数５］または［数６］を予測モデルとしている。また、［数５］または［数６］は、スコアを説明変数とした線形回帰式である。つまり、予測モデル８は、スコアを説明変数とした線形回帰式である。
【００５６】
上記学習部７は、処理装置９によって製造された少なくとも一つの製造品に関して、特性予測部６によって出力された特性予測値ｙpと、特性値収集部３によって収集された特性値との誤差を減少させるように、記憶部５によって記憶された特徴量（スコアベクトルｔp）と、特性値収集部３によって収集された特性値（特性実測値yo）とに基づいて、特性予測部６に用いられる予測モデル８を学習して更新する。
【００５７】
すなわち、学習部７が行う学習とは、誤差が最小となるように、各係数ｂ0、 ｂ1、 …、 ｂAを更新することである。また、全係数を更新するのではなく、一部だけを更新してもよく、例えばバイアスパラメータｂ0だけを更新してもよい。更新された予測モデル８は、特性予測部６によって、特性予測に用いられる。学習部７が行う学習は、特性値収集部３から特性実測値ｙ0が得られる毎に予測モデル８を更新するため、逐次学習あるいはオンライン学習と呼ばれている。このような学習は、逐次的勾配降下法、ＬＭＳアルゴリズム（Least Mean Squares Algorithm）、ＲＬＳアルゴリズム（Recursive Least Square Algorithm）、カルマンフィルタ（Kalman Filter）のような周知のアルゴリズムにより実行することができる。例えば、ＬＭＳアルゴリズムを［数６］に適用すると、Ｂが収束するまで次式を繰り返し演算する。
［数７］
Ｂ(i＋１)＝Ｂ(i)＋μ・（yo−Ｂ(i)’・ｔp）・ｔp
ここで、ｉは繰り返しの回数、μは学習率パラメータである。繰り返し演算の開始時（第一回目）は、右辺のＢ(i)はＢ(１)であり、左辺のＢ(i＋１)はＢ(２)となる。つまり、
Ｂ(２)＝Ｂ(１)＋μ・（yo−Ｂ(１)’・ｔp）・ｔp
第２回目は、上式の演算により求められたＢ(2)を、［数７］の右辺のＢ(i)に代入して、Ｂ(3)を求める。
Ｂ(３)＝Ｂ(２)＋μ・（yo−Ｂ(２)’・ｔp）・ｔp
このようにして、次式のような収束判定式により収束と判定されるまで、Ｂを更新して求めるのである。
||Ｂ(i+1) −Ｂ(i)||＜ε
ここで、εは、予め定められた収束を判定する微小な定数である。このように、学習部７は、線形回帰式の各係数を補正する。
【００５８】
次に、特性予測方法は、運転データ収集ステップと特性値収集ステップと特徴抽出ステップと記憶ステップと特性予測ステップと学習ステップとを有する。
【００５９】
上記運転データ収集ステップは、素材に処理を施して製造品を製造する処理装置９による処理条件、および、処理装置９によって測定された素材への処理に関する測定値を、運転データとして収集する。
【００６０】
上記特性値収集ステップは、処理装置９によって製造された製造品の特性を表す特性値を収集する。上記特徴抽出ステップは、運転データ収集ステップによって収集された運転データから製造品に関わる特徴量を抽出する。上記記憶ステップは、特徴抽出ステップによって抽出された特徴量を記憶する。
【００６１】
上記特性予測ステップは、処理装置９によって製造された少なくとも一つの製造品に関して、記憶ステップによって記憶された特徴量から、製造品の特性を表す特性値を、予測モデルを用いて予測して、この予測された特性値を、特性予測値として出力する。
【００６２】
上記学習ステップは、処理装置９によって製造された少なくとも一つの製造品に関して、特性予測ステップによって出力された特性予測値と、特性値収集ステップによって収集された特性値との誤差を減少させるように、記憶ステップによって記憶された特徴量と、特性値収集ステップによって収集された特性値とに基づいて、特性予測ステップに用いられる予測モデルを学習して更新する。
【００６３】
上記構成の特性予測装置１によれば、上記運転データ収集部２と上記特性値収集部３と上記特徴抽出部４と上記記憶部５と上記特性予測部６と上記学習部７とを有するので、記憶部５は、運転データを直接記憶する必要はなく、学習部７が予測モデル８を更新するために必要とされると共に運転データから抽出される特徴量を記憶するだけでよい。このため、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００６４】
また、上記特徴抽出部４は、少なくとも部分最小二乗法を用いており、上記特徴量は、部分最小二乗法によって生成された一つ以上のスコアであるので、記憶部５は、部分最小二乗法によって生成された一つ以上のスコアを記憶する。このため、記憶容量を一層低減できる。
【００６５】
また、上記予測モデル８は、上記スコアを説明変数とした線形回帰式であり、上記学習部７は、線形回帰式の各係数を補正するので、線形回帰式により特性予測値を予測することができ、かつ、予測モデル８を更新することができる。
【００６６】
上記構成の特性予測方法によれば、上記運転データ収集ステップと上記特性値収集ステップと上記特徴抽出ステップと上記記憶ステップと上記特性予測ステップと上記学習ステップとを備えるので、記憶ステップでは、運転データを直接記憶する必要はなく、学習ステップにおいて予測モデル８を更新するために必要とされると共に運転データから抽出される特徴量を記憶するだけでよい。このため、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００６７】
（第２の実施形態）
図２は、この発明の特性予測装置の第２の実施形態を示している。上記第１の実施形態と相違する点を説明すると、この第２の実施形態では、制御部が追加されている点が相違する。なお、その他の構造は、上記第１の実施形態と同じである。
【００６８】
図２に示すように、特性予測装置１１は、運転データ収集部１２、特性値収集部１３、特徴抽出部１４、記憶部１５、特性予測部１６、学習部１７および制御部２１を有する。
【００６９】
上記運転データ収集部１２、上記特性値収集部１３、上記特徴抽出部１４、上記記憶部１５、上記特性予測部１６および上記学習部１７は、上記第１実施の形態の運転データ収集部２、特性値収集部３、特徴抽出部４、記憶部５、特性予測部６および学習部７と同じ機能を有しており、詳細な説明を省略する。また、予測モデル１８、処理装置１９および検査装置２０も、上記第１実施の形態の予測モデル８、処理装置９および検査装置１０と同じ機能を有しており、詳細な説明を省略する。
【００７０】
上記制御部２１は、記憶部１５によって記憶された特徴量を、ある条件の下で、削除する。このため、記憶容量を一層低減できる。この制御部２１が特徴量を削除する機能について、詳細に説明する。
【００７１】
上記記憶部１５に記憶された特徴量は、特性予測部１６が特性予測値を算出する時と、学習部１７が予測モデル１８を更新する時に、それぞれ使用される。通常、処理装置１９が素材に処理を施してから特性予測値を出力するまでの時間は、処理装置１９が素材に処理を施してから学習部１７が予測モデル１８を更新するまでの時間よりも短い。後者の時間は、処理装置１９で処理された製造品を処理装置１９から取り出す時間、処理装置１９から検査装置２０まで製造品を搬送する時間、および、検査装置２０による測定時間を含んでいる。従って、学習部１７が学習を終えた後は、その学習に用いられた特徴量は、特性予測装置１１で再度使用されることがない。
【００７２】
そこで、制御部２１は、学習部１７が予測モデル１８の更新を終えた後に、この学習部１７の学習に用いられた特徴量を、記憶部１５から削除する。その結果、再度使用されることがない特徴量は記憶部１５に存在しない。換言すれば、学習に用いられていない特徴量のみが記憶部１５に記憶されている。また、予測モデル１８の更新に用いられた特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００７３】
さて、もしスコアベクトルｔpの要素がすべて０であったならば、その処理は平均的な処理であったことになり、特性値も０になる（特性値は事前に正規化されているので、正規化された特性値は０になる。換言すれば正規化前の特性値は平均値になる）。もし、いずれかのスコアが（第一スコア、第二スコア、…のいずれか、もしくは複数のスコアが）０から大きく隔たった値であった場合、特性値も０から大きく隔たった値となっており、正常ではなく不良と考えられる。従って、逆に、特性値が不良であった場合、スコア値が０から大きく隔たっているのである。
【００７４】
特性予測値が不良であった場合あるいは特性実測値が不良であった場合、その原因を究明することが行われる。その原因究明では、記憶部１５に記憶されたスコアを手掛かりとして活用する。［数２］のＸ＝Ｔ・Ｐ’＋Ｅより、
ｘ＝ｔp・Ｐ’
ここで、ｔpは不良となった製造品のスコアベクトル、ｘは、ｔpから換算された各説明変数の換算値を要素に持つ行ベクトルである。
ｘ＝（ｘ1  ｘ2  …  ｘk  …  ｘN）
ここで、xkは、不良となった製造品の第ｋ変数の換算値である。tpの各要素がすべて０であったならば、ｘの各要素もすべて０になる。また、ｔpのいずれかの要素が（第一スコア、第二スコア、…のいずれか、もしくは複数のスコアが）０から大きく隔たった値であった場合、ｘのいずれかの要素も０から大きく隔たっている。従って、ｘの要素の中で絶対値が最大であった変数が、不良原因と推測される。また、絶対値が２番目に最大であった変数は、不良原因の次点候補と推測される。すなわち、ｘ1、ｘ2、…、ｘk、…、ｘNを、絶対値の降順に並べることで、不良となった説明変数の原因候補リストを得ることができる。
【００７５】
他の制御部２１は、学習部１７が予測モデル１８の学習を終えた後に、記憶部１５によって記憶された特徴量のうち学習部１７の学習に用いられた最も古い特徴量を、記憶部１５から削除する。そのため、記憶部１５には、直近の特徴量が残っている。特性予測値ないしは特性実測値が不良であると判明した直後は、記憶部１５にその製造品に関わる特徴量が残っており、原因究明に利用することができる。また、予測モデル１８の更新に用いられた特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００７６】
上述したように、原因究明においては、特性予測値が不良であった場合あるいは特性実測値が不良であった処理に関するスコアが特に重要である。そこで、他の制御部２１は、学習部１７が予測モデル１８の学習を終えた後に、この学習に用いられた特徴量を、特性値収集部１３によって収集された特性値、または、特性予測部１６によって出力された特性予測値の少なくとも一方が、所定の正常範囲である場合にのみ、記憶部から削除する。そのため、原因究明に使用される可能性がある特徴量は記憶部に残っている。また、正常に処理された製造品に関わる特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００７７】
上記処理装置１９で処理された製造品は、通常検査装置２０で検査される。しかし、検査装置で検査されない場合がある。例えば、
（ａ）検査装置２０は、全数検査ではなく、抜き取り検査である。
（ｂ）処理装置１９で処理された製造品を検査装置２０に搬送する際に、搬送トラブルにより製造品が破損してしまい、検査ができなくなった。
（ｃ）処理装置１９で処理された製造品は、通常実施されない特別な検査を行った。その特別な検査は破壊検査である。この特別な検査後は、製造品は検査装置２０で検査できない。
【００７８】
上記（ａ）〜（ｃ）の場合、記憶部１５に記憶された特徴量が、学習部１７により再度使用されない。そこで、他の制御部２１は、学習部１７の学習に用いられておらず、かつ、製造されてから一定期間経過した製造品に関わる特徴量を、記憶部１５から削除する。その結果、再利用されない特徴量が記憶部１５に削除されずに蓄積されていくことがない。また、予測モデル１８の更新に利用される可能性が低い特徴量を自動的に削除することができ、記憶容量を一層低減できる。
【００７９】
なお、図示しないが、この発明の特性予測プログラムは、コンピュータを、上記運転データ収集部２、１２、上記特性値収集部３、１３、上記特徴抽出部４、１４、上記記憶部５、１５、上記特性予測部６、１６および上記学習部７、１７として機能させる。従って、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００８０】
また、この発明のプログラム記録媒体は、上記特性予測プログラムが記録されている。従って、製造品の特性を予測するために必要とされる記憶容量を低減できる。
【００８１】
なお、この発明は上述の実施形態に限定されない。例えば、特性予測装置は、例えば、液晶パネル、プラズマ(Plasma)ディスプレイ、有機ＥＬ(Electroluminescence)ディスプレイ、ＳＥＤ(Surface-conduction Electron-emitter Display：表面電界ディスプレイ)等のフラットディスプレイパネル、固体撮像素子、太陽電池、ハードディスク磁気ヘッドを含む、様々な製造品等の製造システムに適用できる。
【符号の説明】
【００８２】
１、１１  特性予測装置
２、１２  運転データ収集部
３、１３  特性値収集部
４、１４  特徴抽出部
５、１５  記憶部
６、１６  特性予測部
７、１７  学習部
８、１８  予測モデル
９、１９  処理装置
１０、２０  検査装置
２１  制御部
【図１】
2011071296.tif 000003
【図２】
2011071296.tif 000004