(57)【要約】      （修正有）【課題】表示装置など多様な電子機器の製造工程で取得したセンサデータを機械学習モデルに適用して不良状態または欠陥を検知または予測する。【解決手段】不良検知方法は、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータを受信し、複数の時系列センサデータを二次元データアレイ内に配列し、二次元データアレイを畳み込みニューラルネットワークモデルに提供し、畳み込みニューラルネットワークモデルを用いて不良状態と相関する二次元データアレイ内のパターンを識別し、一つ以上の電子機器の製造工程で不良状態の不良指標を提供し、不良指標に基づいて電子機器が不良を含んでいるのかを分類すること、を含み、二次元データアレイは畳み込みニューラルネットワークモデルに対する入力データの次元を有する。【選択図】図１
2020126601.tif 000002
【特許請求の範囲】
【請求項１】
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記二次元データアレイを畳み込みニューラルネットワークモデルに提供し、
前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供し、
前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類すること、
を含み、
前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元（ｄｉｍｅｎｓｉｏｎ）を有する不良検知方法。
【請求項２】
前記電子機器は、表示装置である、請求項１に記載の不良検知方法。
【請求項３】
前記電子機器は、表示装置のガラスパネルである、請求項１に記載の不良検知方法。
【請求項４】
前記畳み込みニューラルネットワークモデルは、ＶＧＧ、Ｒｅｓｎｅｔ、Ａｌｅｘｎｅｔ、またはＳｑｕｅｅｚｅｎｅｔである、請求項１に記載の不良検知方法。
【請求項５】
前記分類結果は、前記不良状態の種類と位置を含む、請求項１に記載の不良検知方法。
【請求項６】
前記二次元データアレイは第２の二次元データアレイに変換され、前記第２の二次元データアレイは互いに離れている複数のデータアレイを含む、請求項１に記載の不良検知方法。
【請求項７】
さらに、前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄することを含む、請求項１に記載の不良検知方法。
【請求項８】
さらに、
前記複数の時系列センサデータをセンサの数に対応する第１次元および前記各センサのデータサンプル数に対応する第２次元を有する未加工トレースデータアレイに配置し、
前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断し、
前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割し、
前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置すること、を含む、請求項１に記載の不良検知方法。
【請求項９】
前記複数の未加工トレースデータアレイ片のそれぞれは、重複領域を含む、請求項８に記載の不良検知方法。
【請求項１０】
さらに、
互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第１時系列センサデータセットを決定し、
前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第１時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにすること、を含む、請求項１に記載の不良検知方法。
【請求項１１】
さらに、
前記不良状態と相関する前記複数の時系列センサデータの部分集合を決定し、
前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置すること、を含む、請求項１に記載の不良検知方法。
【請求項１２】
さらに、
前記一つ以上の製造工程内の複数の処理に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットの前記複数の処理のそれぞれのデータサイズを比較し、
前記複数の処理それぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第１時系列センサデータセットを決定し、
残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにし、
前記最小ステップサイズに写像される各工程を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成すること、を含む、請求項１に記載の不良検知方法。
【請求項１３】
前記残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにすることは、前記最小ステップサイズの第１データサンプルを選択することを含む、請求項１２に記載の不良検知方法。
【請求項１４】
さらに、前記残りの時系列センサデータセットの各処理に対応する時系列センサデータをデシメーション（ｄｅｃｉｍａｔｉｏｎ）で再サンプリングして前記最小ステップサイズを有する再サンプル時系列センサデータを求めることを含む、請求項１２に記載の不良検知方法。
【請求項１５】
さらに、
前記複数の時系列センサデータの平均を決定し、
前記複数の時系列センサデータのそれぞれを移動させて平均が０になるようにし、
前記複数の時系列センサデータそれぞれを規格化して−１と＋１との間の範囲に位置させること、を含む、請求項１に記載の不良検知方法。
【請求項１６】
第１フォーマットの第１データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供し、
第２フォーマットの第２データセットを受信し、
前記第２データセットの前記第２フォーマットを前記第１フォーマットに変換して第３データセットを生成し、
前記畳み込みニューラルネットワークモデルを前記第３データセットで再トレーニングし、
更新された畳み込みニューラルネットワークモデルを求めること、を含む、不良検知方法。
【請求項１７】
前記第２データセットは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータであり、前記第１フォーマットは、二次元データアレイであり、
前記二次元データアレイは、前記更新された畳み込みニューラルネットワークモデルの入力データ次元を有し、
さらに、
前記二次元データアレイの前記第１フォーマットを有する前記第３データセットを前記更新された畳み込みニューラルネットワークモデルに提供し、
前記更新された畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供し、
前記不良指標に基づいて前記電子機器が不良を含むと判断することと、
次の１）、２）、３）、および４）のうち少なくとも一つの処理と、を含む、請求項１６に記載の不良検知方法。
１）前記複数の時系列センサデータをセンサの数に対応する第１次元と前記各センサのデータサンプル数に対応する第２次元を有する未加工トレースデータアレイに配置し、
前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断し、
前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割し、
前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置すること
２）互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第１時系列センサデータセットを決定し、
前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第１時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにすること
３）前記不良状態と相関する前記複数の時系列センサデータの部分集合を決定し、
前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置すること
４）前記一つ以上の製造工程内の複数の処理に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信し、
前記複数の時系列センサデータセットの前記複数の処理のそれぞれのデータサイズを比較し、
前記複数の処理のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第１時系列センサデータセットを決定し、
残りの時系列センサデータセットの各処理に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにし、
前記最小ステップサイズに写像される各工程を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成すること
【請求項１８】
前記電子機器は、表示装置のガラスパネルである、請求項１７に記載の不良検知方法。
【請求項１９】
前記更新された畳み込みニューラルネットワークモデルは、ＶＧＧ、Ｒｅｓｎｅｔ、Ａｌｅｘｎｅｔ、またはＳｑｕｅｅｚｅｎｅｔである、請求項１７に記載の不良検知方法。
【請求項２０】
さらに、前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄することを含む、請求項１７に記載の不良検知方法。
【請求項２１】
プロセッサと、
プロセッサ実行可能命令を保存するメモリと、を含み、
前記プロセッサは、データ分析モデルを実行し、
前記データ分析モデルは、データ処理モジュールおよび分類器を含み、
前記データ処理モジュールは、
一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信し、
前記複数の時系列センサデータを二次元データアレイ内に配列し、
前記分類器は、
不良状態と相関する前記二次元データアレイ内のパターンを識別し、
前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供し、
前記不良指標に基づいて前記電子機器が不良を含むと判断する、
不良検知装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、不良検知方法および不良検知装置に関し、特にトレースデータ（ｔｒａｃｅ  ｄａｔａ）等でトレーニングした機械学習モデル、例えば畳み込みニューラルネットワークモデル（ｃｏｎｖｏｌｕｔｉｏｎ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を用いて不良を検知する装置および方法に関する。
【０００２】
本出願は、２０１９年２月５日に米国特許庁に出願した米国特許出願番号第６２／８０１，３９３号の優先権を主張し、ここに引用することによってこの出願の全体内容を本願に含む。
【背景技術】
【０００３】
近年モバイル表示装置産業が急激に成長している。新しい類型の表示パネルと製造方法および工程が用いられ、かつ製品仕様が厳格になるにつれ品質を維持するための装備の改良と品質管理方法が必要である。品質管理の尺度は、早期不良検知（ｅａｒｌｙ  ｆａｕｌｔ  ｄｅｔｅｃｔｉｏｎ）、異常工程状態の予測（ａｂｎｏｒｍａｌ  ｐｒｏｃｅｓｓ  ｓｔａｔｕｓ  ｐｒｅｄｉｃｔｉｏｎ）および品質不良の予測（ｑｕａｌｉｔｙ  ｆａｕｌｔ  ｐｒｅｄｉｃｔｉｏｎ）等を提供することができる。
【０００４】
表示装置の製造工程で発生する不良状態の特性を理解するために、トレースデータ（ｔｒａｃｅ  ｄａｔａ）分析を行い得る。トレースデータは、情報システムを通じて着手した活動記録（ｒｅｃｏｒｄｓ  ｏｆ  ａｃｔｉｖｉｔｙ）で定義することができる。トレース（ｔｒａｃｅ）は、状態（ｃｏｎｄｉｔｉｏｎ）および／または経路（ｐａｓｓａｇｅ）のしるし（ｓｉｇｎ）として残ったマーク（ｍａｒｋ）であり、その過程で注目のイベント（ｅｖｅｎｔ  ｏｆ  ｉｎｔｅｒｅｓｔ）（例えば欠陥）が発生した証拠として記録される。トレースデータに対して情報システムはデータ収集および分析ツールとしての役割をする。
【０００５】
製造過程で収集したトレースデータを用いて欠陥パネルを検知する分類器を具備および実行する必要がある。トレースデータは不良状態を検知または予測する情報を含まなければならない。現在、トレースデータは多様な製造過程で収集したセンサ入力の単なる集合である。このようなトレースデータは、表示パネルの欠陥の原因となる、またはそれと関連する不良状態を検知または予測できる情報を有している。
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明が解決しようとする課題は、表示装置など多様な電子機器の製造工程で取得したセンサデータを機械学習モデルに適用して不良状態または欠陥を検知または予測することである。
【課題を解決するための手段】
【０００７】
本発明の一実施形態による不良検知方法は、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信する段階と、前記複数の時系列センサデータを二次元データアレイ内に配列する段階と、前記二次元データアレイを畳み込みニューラルネットワークモデルに提供する段階と、前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含んでいるのかを分類する段階と、を含み、前記二次元データアレイは、前記畳み込みニューラルネットワークモデルに対する入力データの次元（ｄｉｍｅｎｓｉｏｎ）を有する。
【０００８】
本発明の一実施形態による不良検知方法は、第１フォーマットの第１データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供する段階と、第２フォーマットの第２データセットを受信する段階と、前記第２データセットの前記第２フォーマットを前記第１フォーマットに変換して第３データセットを生成する段階と、前記畳み込みニューラルネットワークモデルを前記第３データセットで再トレーニングする段階と、更新された畳み込みニューラルネットワークモデルを求める段階と、を含む。
【０００９】
本発明の一実施形態による不良検知装置は、プロセッサと、プロセッサ実行可能命令を保存するメモリと、を含み、前記プロセッサは、データ分析モデルを実行し、前記データ分析モデルは、データ処理モジュールおよび分類器を含み、前記データ処理モジュールは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信し、前記複数の時系列センサデータを二次元データアレイ内に配列し、前記分類器は、不良状態と相関する前記二次元データアレイ内のパターンを識別し、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供し、前記不良指標に基づいて前記電子機器が不良を含むと判断する。
【発明の効果】
【００１０】
このように電子機器の製造工程で取得したセンサデータを機械学習モデルに適用することによって不良状態または欠陥を検知または予測することができる。
【図面の簡単な説明】
【００１１】
【図１】本発明の一実施形態による未加工トレースデータの変換方法を示す。
【図２】数値データを二次元映像類似データに変換する三つの例を示す。
【図３】本発明の一実施形態によるセンサ入力の併合過程を示す。
【図４】本発明の一実施形態による入力データ順序の再配列過程を示す。
【図５】本発明の一実施形態により長いセンサ入力データを二次元映像類似データに写像する例を示す。
【図６】本発明の一実施形態により段階入力データを同じ面積のデータに写像するのを示す。
【図７】本発明の一実施形態によるセンサ入力の併合を特性マップで示す。
【図８】本発明の一実施形態による機械学習モデルの概略図である。
【図９】本発明の一実施形態によりトレースデータを機械学習モデルに適用して予測結果を求める方法の概略図である。
【発明を実施するための形態】
【００１２】
事件の実現と組み合わせの様々な新しい細目を含む、前のおよび他の特徴を添付した図面を参照してさらに詳細に説明し、請求範囲で指摘する。ここで説明する特定のシステムと方法は説明のためのものであり、これに限定するものではない。当業者であればここで説明した原理と特徴を本発明の範囲を逸脱せず、様々な多様な実施形態に適用できることが分かる。
【００１３】
本明細書の一部として含まれた図面は一般的な説明と共に実施形態を示し、発明を実施するための具体的な内容に対する説明はここで説明する原理を説明して教示する。
【００１４】
図面は必ずしもサイズ変更をしたものではなく、類似の構造または機能を有する要素は説明の便宜のために図面全体にわたって類似の図面番号を付する。図面はここで説明する様々な実施形態を説明するためのものである。図面はここで説明するすべての特徴をいずれも含むものではなく、発明の範囲を限定するものでもない。
【００１５】
ここで説明する特徴と教示（ｆｅａｔｕｒｅｓ  ａｎｄ  ｔｅａｃｈｉｎｇｓ）は、独自にまたは他の特徴と教示と組み合わせて用いられ、トレースデータをデータ分析モデル（ｄａｔａ  ａｎａｌｙｔｉｃ  ｍｏｄｅｌ）の入力に適したフォーマットに変換し、変換されたトレースデータを用いて製造工程で発生する表示パネルの不良状態（ｆａｕｌｔｙ  ｃｏｎｄｉｔｉｏｎ）または欠陥を検知および／または予測するシステムおよび方法を提示する。このような多くの付加的な特徴と教示とは別に、そして組み合わせて用いる代表的な例を添付した図面を参照して詳細に説明する。この詳細な説明は当業者に単に本発明の実施形態についてさらに詳細に教示するためのものであり、特許請求の範囲を限定しようとするものではない。したがって、詳細な説明で提示した特徴の組み合わせは最も広い意味における本発明の実現に必ずしも必要なものではなく、単に本発明の特定の代表例を説明するものである。
【００１６】
以下の詳細な説明では、説明のみを目的として本発明の完全な理解を提供するために特定の用語を定義する。しかし、このような具体的な内容が本発明を実現するために必ずしも必要とされないことは当業者に自明である。
【００１７】
詳細な説明の一部は、コンピュータメモリ内のデータビットに加える動作の記号表現およびアルゴリズムで表現する。このようなアルゴリズムの説明および表現はデータ処理分野の当業者が他の当業者にその作業の本質を効果的に伝達する手段である。ここで、そして一般的に、アルゴリズムは、所望する結果につながる自己矛盾のない（ｓｅｌｆ−ｃｏｎｓｉｓｔｅｎｔ）一連の段階である。段階は、物理量（ｐｈｙｓｉｃａｌ  ｑｕａｎｔｉｔｉｅｓ）の物理的処理を必要とするものである。通常、必ずしもではないが、これらの量は、保存、転送、結合、比較などの処理が行われる電気的または磁気的信号の形態を取る。このような信号は時々原則的に一般的な使用のためにビット（ｂｉｔ）、値（ｖａｌｕｅ）、要素（ｅｌｅｍｅｎｔ）、記号（ｓｙｍｂｏｌ）、文字（ｃｈａｒａｃｔｅｒｓ）、項（ｔｅｒｍ）、数字（ｎｕｍｂｅｒｓ）等と呼ぶ場合もある。
【００１８】
しかし、このような用語、および類似の用語は適切な物理量に関連しており、これら量に付けられた便利なラベルに過ぎないことに留意しければならない。以下の説明から明らかなように特に言及しない限り、「処理（ｐｒｏｃｅｓｓｉｎｇ）」、「計算（ｃｏｍｐｕｔｉｎｇ，ｃａｌｃｕｌａｔｉｎｇ）」、「決定（ｄｅｔｅｒｍｉｎｉｎｇ）」、「表示（ｄｉｓｐｌａｙｉｎｇ）」等の用語を使うことはコンピュータシステムのレジスタまたはメモリ内の物理（電気）量で表されるデータをコンピュータシステムのメモリまたはレジスタ、または情報保存、転送または表示装置内の物理量を類似に示す他のデータに操作および変換するコンピュータシステムまたは類似の電子計算装置の動作（ａｃｔｉｏｎ）および過程（ｐｒｏｃｅｓｓ）を意味する。
【００１９】
また、代表例の様々な特徴と従属項は、本発明の付加的な有用な実施形態を提供するために明確に列挙されていない方式で結合されてもよい。元の開示（ｏｒｉｇｉｎａｌ  ｄｉｓｃｌｏｓｕｒｅ）および請求要旨限定を目的としてエンティティグループ（ｇｒｏｕｐｓ  ｏｆ  ｅｎｔｉｔｉｅｓ）のすべての値範囲（ｖａｌｕｅ  ｒａｎｇｅ）または等級（ｉｎｄｉｃａｔｉｏｎ）はすべての可能な中間値または中間エンティティを公開することを明示的に留意する。また、図面に示したサイズと形状は本発明の実現方法に対する理解を助けるためのものであって実施形態に示すサイズと形状に限定しようとするものではない。
【００２０】
本システムおよび方法は、一次元時系列データ（ｏｎｅ−ｄｉｍｅｎｓｉｏｎａｌ  ｔｉｍｅ−ｓｅｒｉｅｓ  ｄａｔａ）（以下、トレースデータまたは未加工（ｒａｗ）トレースデータともいう）をデータ分析ツール（ｄａｔａ  ａｎａｌｙｔｉｃ  ｔｏｏｌ）の入力データに適したデータフォーマットに変換するデータ変換方法（ｄａｔａ  ｃｏｎｖｅｒｓｉｏｎ  ｓｃｈｅｍｅ）を提示する。データ分析ツールはプロセッサとメモリを含むハードウェアコンピュータ装置またはハードウェアコンピュータ装置内に具現されたソフトウェアであり得る。データ分析ツールは、データ分析モデルを実行して入力データのパターンを識別または予測するデータ分類アルゴリズムを適用し得る。このようなデータ分類アルゴリズムは、一般的に機械学習（ｍａｃｈｉｎｅ  ｌｅａｒｎｉｎｇ：ＭＬ）アルゴリズムと呼ばれ、より多くのデータでトレーニング（ｔｒａｉｎｅｄ）、学習（ｌｅａｒｎｅｄ）およびリファイン（ｒｅｆｉｎｅｄ）され得る。機械学習アルゴリズムの例としてはディープニューラルネットワーク（ｄｅｅｐ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ：ＤＮＮ）および畳み込みニューラルネットワーク（ｃｏｎｖｏｌｕｔｉｏｎ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ：ＣＮＮ）があるが、これに限定されない。畳み込みニューラルネットワークは、ディープニューラルネットワークの一種であるが、一つ以上の畳み込み層を含み、入力に畳み込み演算を適用して次の層にその結果を伝達する。畳み込みは、視覚的または聴覚的刺激に対する人間ニューロンの反応を模倣したものである。畳み込みニューラルネットワークは、映像および音声認識など人間認識に対して高い正確度を示している。
【００２１】
変換されたデータはデータ分析モデル、例えば、畳み込みニューラルネットワークモデルに提供され、電子機器の製造工程で発生するか発生した様々な不良状態または欠陥を検知および／または予測することができる。このような電子機器の例としては積層、除去、エッチング、パターニングなど半導体製造工程段階により製造する表示装置が挙げられる。しかし、半導体製造工程により製造するいかなる電子機器でも本発明のシステムおよび方法を適用することができる。
【００２２】
データ分析モデルを用いて異常（ａｎｏｍａｌｉｅｓ）、故障（ｆａｉｌｕｒｅｓ）、不良（ｆａｕｌｔｓ）および欠陥（ｄｅｆｅｃｔｓ）と関連したパターンを検知し、検知したパターンに基づいてこれらを分類することによって不良状態または欠陥を早期に判断でき、不良があるか欠陥がある電子機器を製造工程で不良処理または破棄できるようにする。不良検知過程はそれぞれの製造工程で行われてもよい。この場合、修復不可能な不良があると判断した電子機器を次の製造工程に移行する前に破棄することができる。製造工程で不良状態を早期に検知すると電子機器の製造にかかる資源とコストを節約することができる。また、データ分析ツールは高生産性を達成しながらも不良と欠陥を減らすことのできる製造工程の媒介変数と条件を微調整（ｆｉｎｅ−ｔｕｎｉｎｇ）することを助ける。
【００２３】
未加工トレースデータは、様々なセンサが生成した圧力、温度、時間、密度などを示し、製造工程の条件と媒介変数を反映する時系列データの集合であり得る。未加工トレースデータは、単に時系列一次元データの集合であり、未加工トレースデータのサイズ、範囲および単位はセンサの種類と検知値（ｓｅｎｓｉｎｇ  ｖａｌｕｅ）の範囲に応じて変わり得る。
【００２４】
未加工トレースデータは、データ分析ツールの入力として適切な形態でなくてもよい。また、未加工トレースデータが電子機器の不良状態または欠陥を信頼できるように予測できる信頼性のあるデータ分析モデルをトレーニングし、それに適するほどの十分な数のデータサンプルを有していなくてもよい。
【００２５】
一実施形態によれば、本発明によるシステムおよび方法は、未加工トレースデータをデータ分析ツールの入力に適するデータフォーマットに変換する新たな方法を提示する。データ分析ツールは、不良状態と欠陥を予測および検知する予測可能でかつ信頼性のある分類を提供することができる。
【００２６】
本発明の一実施形態によれば、変換されたトレースデータは、十分なデータサンプルを用いて事前トレーニング済みの（ｐｒｅ−ｔｒａｉｎｅｄ）標準データ分析モデルに提供され得る。トレーニング（ｔｒａｉｎｉｎｇ）に用いられたデータサンプルは、トレースデータではない場合もあるが、限られた数のデータサンプルで未加工トレースデータをトレーニングさせてパターンを分類して変換されたトレースデータの不良および欠陥パターンを検知および予測するのに用いられるデータサンプルとしての役割を遂行することができる。一般に、電子機器製造システムのセンサから得られた未加工トレースデータは、機械学習（ｍａｃｈｉｎｅ  ｌｅａｒｎｉｎｇ：ＭＬ）、ディープニューラルネットワーク（ｄｅｅｐ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ：ＤＮＮ）および／または畳み込みニューラルネットワーク（ｃｏｎｖｏｌｕｔｉｏｎ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ：ＣＮＮ）を用いてパターンの予測可能な、繰り返し可能な、信頼性のあるパターン認識を行うのに充分でない限られた数のデータサンプルのみを提供することができる。本発明によるシステムおよび方法により変換されたトレースデータは、データ分析ツールに提供され、未加工トレースデータでは取得することのできない意味のある有用な結果を得ることができる。
【００２７】
本発明によるシステムおよび方法は、１）長いセンサ入力データを二次元（２Ｄ）データに写像（ｍａｐｐｉｎｇ）、２）階段入力データ（ｓｔｅｐ  ｉｎｐｕｔ  ｄａｔａ）を同じ面積のデータに写像、３）センサ入力を特性マップ（ｆｅａｔｕｒｅ  ｍａｐ）に併合、および４）センサ入力データの順序の再配置などを含む（しかし、これに限定されない）一つ以上の工程によってデータ分析モデルの分類性能を改善することができる。
【００２８】
一実施形態によれば、本発明によるシステムおよび方法は、複数の一次元時系列トレースデータを受信し、二次元（２Ｄ）データに変換して表示装置の製造トレースデータを映像基盤のディープ機械学習（ｉｍａｇｅ−ｂａｓｅｄ  ｄｅｅｐ  ｍａｃｈｉｎｅ  ｌｅａｒｎｉｎｇ）アルゴリズムと共に用いるようにする。特に、本発明によるシステムおよび方法は、トレースデータを２Ｄデータに変換するデータ変換方法を提供してパターン認識とパターン分類性能を改善することによって意味のある、信頼できる、予測可能な結果を算出する。
【００２９】
本発明はまた、未加工トレースデータを機械学習に適したデータフォーマットに変換した後に機械学習（特に深層学習）アルゴリズムを用いて未加工トレースデータを分析する方法を提示する。
【００３０】
図１は本発明の一実施形態による未加工トレースデータの変換方法を示す。データ変換システムは、データ処理モジュール（ｄａｔａ  ｐｒｅｐｒｏｃｅｓｓｉｎｇ  ｍｏｄｕｌｅ）１１１および分類器１１２を含む。データ処理モジュール１１１は、未加工トレースデータ１０１を受信して前処理トレースデータ（ｐｒｅｐｒｏｃｅｓｓｅｄ  ｔｒａｃｅ  ｄａｔａ）１１５に変換し、前処理トレースデータ１１５を分類器１１２に提供する。
【００３１】
本発明の一実施形態によれば、データ処理モジュール１１１および分類器１１２のそれぞれは、データ処理およびパターン認識と分類を行うデータ処理単位および／またはプロセッサとメモリを含み得る。本発明の他の実施形態によれば、データ処理モジュール１１１と分類器１１２は、コンピュータ装置の一つのプロセッサを共有することができ、一つのマルチコアプロセッサの互いに異なるプロセッサコアを用いて互いに異なるスレッド（ｔｈｒｅａｄ）を実行することができる。
【００３２】
未加工トレースデータ１０１は、電子装置（例えば表示装置のガラス基板）の製造工程で様々なセンサから取得できる時系列データの集合であり得る。ここでは各センサから得られたデータを媒介変数（ｐａｒａｍｅｔｅｒ）ともいう。一つのガラスパネルに対して、そのガラスパネルの製造工程で得られた媒介変数が複数であり得る。しかし、未加工トレースデータ１０１はまた、二つ以上のガラスパネルで得られたデータまたは一つのガラスパネルで得られた部分データ（ｐａｒｔｉａｌ  ｄａｔａ）の集合を示し得る。未加工トレースデータ１０１のフォーマット、長さ、単位および／または範囲は、製造工程だけでなくガラスパネルの偏差（例えばサイズ、解像度、種類）によっても変わり得る。同じ工程で製作した同じサイズのガラスパネルに対して、未加工トレースデータ１０１の偏差はサイズ未満であり得る。例えば、ガラスパネルの工程時間が互いに異なると、一つの未加工トレースデータ１０１セットが他の未加工トレースデータ１０１セットより長くてもよい。
【００３３】
データ処理モジュール１１１は、未加工トレースデータ１０１を分類器１１２に入力できる規格化したフォーマットの前処理トレースデータ１１５に変換し得る。例えば、未加工トレースデータ１０１は、複数の媒介変数の一次元時系列データであり、前処理トレースデータ１１５は、二次元（２Ｄ）映像類似（ｉｍａｇｅ−ｌｉｋｅ）データである。二次元映像類似データは、媒介変数に対応する第１次元と時間によるデータサンプルに対応する第２次元を有する。第１次元と第２次元は、二次元映像類似データのＸ座標とＹ座標に該当する。
【００３４】
データ処理モジュール１１１の主な作業（ｔａｓｋ）の一つは、それぞれの未加工トレースデータ１０１セットを同じサイズ（ｓｉｚｅ）と次元（ｄｉｍｅｎｓｉｏｎ）の均一なサイズを有する前処理トレースデータ１１５に変換することによって、分類器１１２が不良または欠陥と関連するパターンを認識して分類できるようにすることである。データ処理モジュール１１１はまた、二次元映像類似データを規格化して中央にあるデータの平均値を移動させてそのデータのスケール（ｓｃａｌｅ）および／または解像度を変えることができる。未加工トレースデータ１０１に適用できる他のデータ処理方法については以下で詳細に説明する。
【００３５】
分類器１１２は、データ処理モジュール１１１から前処理トレースデータ１１５を受信し、パターン認識および分類を行い、出力データを生成するが、この出力データをここでは不良検知結果１２１という。不良検知結果１２１は、未加工トレースデータ１０１が不良パターン（すなわち、不良または不良なし）のみを含むことを示し得る。本発明の一実施形態によれば、不良検知結果１２１は、該当ガラスパネルに不良がある確率を与えられた範囲、例えば、０（不良なし）から１００（明確に不良を含む）まで示し得る。本発明の他の実施形態によれば、出力データは不良検知結果１２１の分類細目、例えば、不良の種類（例えば、乾式エッチング工程の欠陥、ウィンドウ欠陥（ｗｉｎｄｏｗ  ｄｅｆｅｃｔ）、ムラ欠陥（Ｍｕｒａ  ｄｅｆｅｃｔ）、パーティクル欠陥（ｐａｒｔｉｃｌｅ  ｄｅｆｅｃｔ）等）および／または不良位置を含み得る。不良または欠陥の詳細情報は不良または欠陥の特性の識別に用いることができ、これにより製造工程を微細に調整したり、不良または欠陥が修復可能な場合、修復ツールを用いて不良を修復することもできる。
【００３６】
データ処理モジュール１１１が生成した前処理トレースデータ１１５は、分類器１１２による深層学習アルゴリズムの適用に適したフォーマットである。分類器１１２が適正化した前処理トレースデータ１１５は不良検知識別および分類性能を高める。例えば、分類器１１２はディープニューラルネットワークを用いてパターンまたは二次元映像の特性を識別し得る。本実施形態でこのようなパターンは電子機器（例えば、表示装置のガラスパネル）の製造工程で発生する異常（ａｎｏｍａｌｉｅｓ）、不良（ｆａｕｌｔｓ）および欠陥（ｄｅｆｅｃｔｓ）と関連し得る。本発明の一実施形態によれば、分類器１１２は、結局異常、不良、欠陥に繋がるか、繋がり得る未加工トレースデータ１０１の特定パターンを識別することができる。
【００３７】
分類器１１２が実行するディープニューラルネットワークアルゴリズムは、２Ｄ映像データのパターンを識別するように特に考案され得るが、例えば、映像データから顔面認識（ｆａｃｅ  ｒｅｃｏｇｎｉｔｉｏｎ）、文字認識（ｃｈａｒａｃｔｅｒ  ｒｅｃｏｇｎｉｔｉｏｎ）を行うか、音声データから音声認識（ｓｐｅｅｃｈ  ｒｅｃｏｇｎｉｔｉｏｎ）を行うようにすることができる。ディープニューラルネットワークアルゴリズムは、十分な数のデータサンプルで事前トレーニング（ｐｒｅ−ｔｒａｉｎｅｄ）、事前テスト（ｐｒｅ−ｔｅｓｔｅｄ）、および事前検証（ｐｒｅ−ｖａｌｉｄａｔｅｄ）されたデータモデルを用い得る。一般に、大きいデータ集合（例えば数十万）でトレーニング、テスト、検証されたデータモデルは信頼することができ、再現可能な結果を与える。しかし、ディープニューラルネットワークアルゴリズムをトレーニング、テストおよび検証するのに用いるデータサンプルは目標とする分野（ｔａｒｇｅｔ  ａｐｐｌｉｃａｔｉｏｎ）のトレースデータである必要はない。上述したように、本発明によるシステムおよび方法は、目標分野の一つは製造工程で得られたセンサデータを用いて表示装置ガラスパネルの不良パネルを検知することである。データモデルをトレーニング、テストおよび検証するにはセンサデータサンプルの数が充分でない場合もあり、したがって、他のデータセットで事前トレーニング、事前テスト、事前検証されたデータモデルを用いることができるが、これも信頼性があり、再現可能な結果を生成することができる。以下でさらに詳しく説明するが、データ処理モジュール１１１がサイズ調整（ｒｅｓｉｚｉｎｇ）、写像（ｍａｐｐｉｎｇ）、併合（ｍｅｒｇｉｎｇ）および再配列によりデータ処理を行う場合優れた分類結果を期待することができる。標準データモデルの例としてはＣａｆｆｅ、ＶＧＧ、Ｒｅｓｎｅｔ、ＡｌｅｘｎｅｔおよびＳｑｕｅｅｚｅｎｅｔなどがあるが、これに限定されない。
【００３８】
本発明の一実施形態によれば、分類器１１２は二次元映像基盤の畳み込みニューラルネットワーク（２Ｄ  ｉｍａｇｅ−ｂａｓｅｄ  ｃｏｎｖｏｌｕｔｉｏｎ  ｎｅｕｒａｌ  ｎｅｔｗｏｒｋ）を用いる。データモデルは多様な種類のデータフォーマットを受信し得る。例えば、データモデルは、二次元整数基盤のデータ（２Ｄ  ｉｎｔｅｇｅｒ−ｂａｓｅｄ  ｄａｔａ）または二次元浮動点データ（２Ｄ  ｆｌｏａｔｉｎｇ  ｐｏｉｎｔ  ｄａｔａ）を受信し得る。データモデルが二次元浮動点データを受信すると、入力データ（例えばトレースデータ）の本来の解像度が維持され得る。適用可能な場合、データ処理モジュール１１１は、二次元整数基盤のデータを二次元浮動点データに変換することができ、畳み込みニューラルネットワークの入力でデータを規格化することができる。分類器１１２は二次元浮動点データフォーマットの規格化されたセンサ入力データを受信し、規格化された二次元浮動点センサ入力データに基づいて不良パターンを識別することができる。
【００３９】
本発明の一実施形態によれば、データ処理モジュール１１１は分類性能を強化しながらも情報損失を最小化することによって未加工トレースデータ１０１を変換する。分類器１１２用にフォーマットされ、適正化された前処理トレースデータ１１５を用いると、分類器１１２の未加工トレースデータ１０１の分類結果を大きく改善することができる。分類器１１２の分類結果は分類性能を特徴づけてデータ処理を更新する多様な交差検証方法（ｃｒｏｓｓ−ｖａｌｉｄａｔｉｏｎ  ｓｃｈｅｍｅ）を用いて検証され得る。例えば、分類器１１２のＣＮＮアルゴリズムまたはディープニューラルネットワークは、ｋ−重交差検証（ｋ−ｆｏｌｄ  ｃｒｏｓｓ−ｖａｌｉｄａｔｉｏｎ）により検証され、より高くて一貫した分類正確度を提供することができる。
【００４０】
図２は数値データを二次元映像類似データに変換する三つの例を示す。未加工トレースデータ（例えば、図１の未加工トレースデータ１０１）の各サンプルは互いに異なる次元および／またはサイズであり得る。例えば、各サンプルのサンプリング時間および／または処理時間は互いに異なってもよい。本実施形態では、サンプル＃１は（ｙ−次元の）Ｋ時系列サンプルを含み、サンプル＃２は（Ｋ−２）サンプルを含み、サンプル＃３は（Ｋ−１）サンプルを含む。図２に明確に示していないが、各サンプルはｘ−次元でも互いに異なる数の媒介変数を有し得る。時系列数値データが二次元映像類似データに変換される場合、未加工トレースデータの次元および／またはサイズの変化応じて各データサンプルのサイズも変化し得る。
【００４１】
図３は本発明の一実施形態によるセンサ入力の併合過程を示す。それぞれの媒介変数（＃１〜＃７）は互いに異なる分散（ｖａｒｉａｎｃｅ）を有する。各媒介変数の範囲は箱ひげ図（ｂｏｘ  ｐｌｏｔ）で表し、平均は各データサンプルに対する箱ひげ図において線で表している。各媒介変数の平均値は中間値から逸脱し得る。本実施形態で、各媒介変数は同じ数のデータサンプルを含むように表している。媒介変数はｘ−方向に配列し、時系列データのデータサンプルはｙ−方向に配列して二次元データを得ることができる。説明の目的で、データ値は２次元データのグレースケール（ｇｒａｙ  ｓｃａｌｅ）で表した。未加工トレースデータが二次元データに変わると、低分散媒介変数、例えば、データサンプル（＃３，＃５）は欠陥として認識されにくいが、これはデータ値の範囲が小さいため欠陥値の範囲も小さいからである。
【００４２】
図４は本発明の一実施形態による入力データ順序の再配列過程を示す。媒介変数（＃２，＃５，＃７）に対応するデータは互いに離隔しており、特定種類の欠陥と密接に関連している。媒介変数（＃２，＃５，＃７）が互いに離隔しているか散らばっている場合、その特定種類の欠陥を認識しにくい。一般に、この媒介変数のうち一つ以上と関連する欠陥は、この媒介変数が入力データで互いに近く位置する場合により認識しやすい。この場合、入力データの順序を再配列して分類器のパターン認識性能を強化することができる。本実施形態で、媒介変数（＃２，＃５，＃７）に対応するデータが互いに近く位置すると不良パターン検知性能が改善される。入力データの再配列は様々な方法、例えば、各媒介変数に対するデータ値の範囲、平均値、中間値、偏差量およびデータの特性などに基づいて行われ得る。本発明の一実施形態によれば、共分散（ｃｏｖａｒｉａｎｃｅ）または相関（ｃｏｒｒｅｌａｔｉｏｎ）行列（ｍａｔｒｉｘ）を用いて媒介変数の間の相関関係を判断して入力データで媒介変数を再配列し得る。しかし、本発明の範囲を逸脱せず他の媒介変数を用いて入力データを再配列することもできる。
【００４３】
本発明の一実施形態によるシステムおよび方法は、製造工程で得られた未加工トレースデータから二次元映像類似データサンプルを生成する効果的な方法を提示する。分類器に提供される二次元入力データは、データ処理のための設定を変化させることによって一連のトレーニング、テストおよび検証過程で生成され得る。データ処理の例としてはデータ長さ調整、互いに異なるセンサ入力のサイズ調整、未加工トレースデータセットからの入力データ順序の再配列などを含むが、これに限定されない。
【００４４】
ガラスパネルの総処理時間は、複数の単位工程段階の時間を含み得る。各工程段階では互いに異なる処理時間を有してもよく、それぞれの処理段階で未加工トレースデータのサイズが同一であるという保障はない。ガラスパネルの場合、データ処理モジュール１１１は、各ガラスパネルの総データサイズを調整して処理された二次元データを生成することによって処理段階の時間差に関係なく均一なサイズを有するようにする。この過程をここではデータ長さ調整という。データ長さ調整は、総センサ入力数（例えばｘ−方向のデータサイズ数）とデータサンプル数（例えばｙ−方向のデータサイズ数）を一致させる。図１を再び参照すると、データ処理モジュール１１１はデータ長さ調整を行って未加工トレースデータ１０１のサイズを調整する。より詳細に説明すると、データ処理モジュール１１１は互いに異なるサイズの時系列未加工トレースデータから均一なサイズの二次元データを生成する。
【００４５】
未加工トレースデータ１０１を分類器１１２に入力される二次元データに変換するための適正でかつ最良の性能設定を提供するために、データ処理モジュール１１１は未加工トレースデータ１０１のサイズ調整（ｒｅｓｉｚｉｎｇ）、写像（ｍａｐｐｉｎｇ）、併合（ｍｅｒｇｉｎｇ）および再配列（ｒｅａｒｒａｎｇｉｎｇ）のうち少なくとも一つを行い得る。このようなデータ処理のうち一部は必須であり、他の一部は条件的および／または選択的であり得る。印加されるデータの特性および分類性能の結果に応じて、このようなデータ処理段階を実際のデータサンプルで継続的に検証して更新することによって分類器１１２の性能をさらに改善することができる。
【００４６】
図５は本発明の一実施形態により長いセンサ入力データを二次元映像類似データに写像する例を示す。未加工トレースデータ１０１がＭサンプリングポイントとＮセンサ入力（または媒介変数）を有していると仮定する。未加工トレースデータ１０１は、初期に第１二次元アレイ（ａｒｒａｙ）（Ｍ，Ｎ）で配列されている。しかし、分類器１１２は第２二次元アレイ（Ｋ，Ｋ）を有する二次元映像類似前処理されたトレースデータ１１５を受信し得る。本実施形態で、二次元映像類似データの行と列の数はＫで互いに同一である。しかし、これは一つの例に過ぎず、本発明はこれに限定されない。すなわち、本発明の範囲を逸脱することなく列と行の数を変えることができる。説明の便宜のために、以下の説明では二次元データの行と列の数がＫで互いに同じ場合に基づいている。
【００４７】
未加工トレースデータ１０１においてサンプリングポイント数（Ｍ）が分類器１１２に入力される前処理トレースデータ１１５のサイズ（Ｋ）より大きいと、すなわち、Ｍ＞Ｋであれば、データ処理モジュール１１１はデータ長さ調整を行うが、（Ｍ，Ｎ）アレイのサイズを調整して（Ｋ，Ｋ）アレイに合わせる。例えば、未加工トレースデータ１０１を複数の片（１０１ａ，１０１ｂ）に分割する。この時、畳み込みに過去および未来のデータを提供する重複領域１０２は、分割データセット（１０１ａ，１０１ｂ）の各片内に共通して含まれ得る。未加工トレースデータ１０１を二つの片に分割した後に、分割データセット（１０１ａ，１０１ｂ）を（Ｋ，Ｋ）アレイ内に配置する。データの連続性を維持するために、分割データセットそれぞれは重複領域を含み得る。未加工トレースデータ１０１を（重複領域１０２を含む）分割データセット（１０１ａ，１０１ｂ）に分割して（Ｋ，Ｋ）アレイに合わせた後に、分割データセット（１０１ａ，１０１ｂ）を（Ｋ，Ｋ）アレイ内の任意位置に初期配置し得る。分割データセット（１０１ａ，１０１ｂ）を配置するとき、これらを回転させて互いに分離させ得る。分割データセット（１０１ａ，１０１ｂ）を配置した後に（Ｋ，Ｋ）アレイの空の領域を所定の数、例えば、０で満たし得る。充填数（ｆｉｌｌｉｎｇ  ｎｕｍｂｅｒ）はデータの種類、範囲およびフォーマットにより変わり得る。（Ｋ，Ｋ）アレイ内の分割データセット（１０１ａ，１０１ｂ）の位置が決定されると、次の未加工トレースデータを同じ方式に分割して同じ位置に配置して一貫した分類結果を得る。
【００４８】
本発明の一実施形態によれば、重複領域の最小サイズは畳み込みニューラルネットワーク第１層の畳み込みウィンドウサイズによって決定される。ＣＮＮ第１層の５ｘ５畳み込みウィンドウの場合には重複領域を５より大きい値に設定する。
【００４９】
ガラスパネルの製造工程は、複数（Ｌ）の段階を含み得る。各段階は平均処理時間から大きく逸脱しなくても互いに異なるデータ長さを有してもよく、各段階は処理時間に対しては均一に変化し得る。
【００５０】
図６は本発明の一実施形態により段階入力データを同じ面積のデータに写像することを示す。未加工データ（６０１，６０２）は、同じ数の処理段階、すなわち、段階（１）から段階（Ｌ）までを有する。未加工データ６０２段階（１）のサイズは、未加工データ６０１の段階（１）より大きい。互いに異なる未加工データの同じ段階のサイズが互いに異なる場合には、未加工データを写像して同じデータをサイズ調整未加工データ（ｒｅｓｉｚｅｄ  ｒａｗ  ｄａｔａ）６０３内の同一位置に配置する必要がある。同一段階のデータが二次元データ内の同一位置に配置されるとき分類性能が最も優れることをテストおよび検証する。同じデータを同一位置に配置するためには、各段階サイズを各段階の最小サイズに写像し得る。同一位置の同一データをサイズ調整および写像することによって、最も小さい段階のサイズに基づいて段階の最小サイズを決める。本実施形態では、サイズ調整未加工データ６０３段階（１）のサイズは、未加工データ６０２の段階（１）のサイズより小さい未加工データ６０１の段階（１）のサイズになるように決定される。未加工データのサイズ調整と写像を一般化すると、未加工データを単に短く切って必要なサイズになるようにすることもできる。例えば、未加工データ６０２の段階（１）に含まれた２０個のサンプルから最初の１５個のデータサンプルを取得することによってサイズを減らし得る。他の例としては、未加工データをデシメーション（ｄｅｃｉｍａｔｉｏｎ）で再サンプリングして各段階に必要なサイズを取得することができる。残った段階（２）から段階（Ｌ）まで同じサイズ調整と写像過程を繰り返してサイズ調整未加工データ６０３を取得することができる。
【００５１】
本発明の一実施形態によれば、各センサ入力を（ｍｉｎ，ｍａｘ）範囲から（−１，１）範囲に共通データサンプルに併合することによって未加工トレースデータを規格化し得る。−１から１までの範囲でデータを規格化すると偏差が大きい未加工トレースデータの間の差を減らし得る。
【００５２】
図７は本発明の一実施形態によるセンサ入力の併合を特性マップで示す。元データ７０１をＸ値とＹ値の平均を０に配置するゼロ中心化（ｚｅｒｏ−ｃｅｎｔｅｒｅｄ）し、ゼロ中心化したデータ７０２を規格化して規格化データ７０３を生成することによってデータを（−１，１）範囲に合わせる。
【００５３】
全部Ｎ個のセンサ入力または未加工トレースデータを特性マップに併合し得る。本発明の一実施形態によれば、最小−最大値をデータの規格化に用いる。すなわち、ｘ−ｍｉｎ（ｘ）／ｍａｘ（ｘ）−ｍｉｎ（ｘ）である。ここでｘはセンサデータである。本発明の他の実施形態によれば、標準規格化を用い得る。すなわち、ｘ−ｍｅａｎ（ｘ）／ｓｔｄ．（ｘ）である。ここで、ｍｅａｎは平均、ｓｔｄ．は標準偏差を意味する。
【００５４】
図８は本発明の一実施形態による機械学習モデルの概略図である。一実施形態によれば、機械学習モデルは畳み込みニューラルネットワークモデルを示す。先に、機械学習モデルを入手する（８１１）。ビッグデータセット（ｂｉｇ  ｄａｔａｓｅｔ）８２１で事前トレーニング済みの機械学習モデルを用い得る。機械学習モデルのトレーニングに用いられるビッグデータセットは後ほど機械学習モデルに入力されるセンサ入力を示すトレースデータでなくてもよい。この場合には、機械学習モデルはＩｍａｇｅＮｅｔ、ＣＯＣＯ（Ｍｉｃｒｏｓｏｆｔ  Ｃｏｍｍｏｎ  Ｏｂｊｅｃｔ  ｉｎ  Ｃｏｎｔｅｘｔ）およびＰＡＳＣＡＬ  ＶＯＣ（ｖｉｓｕａｌ  ｏｂｊｅｃｔ  ｃｌａｓｓｅｓ）等のような他のソースデータを用いて事前トレーニングを受けることができる。他の実施形態によれば、機械学習モデルは先立って説明したような不良検知分野専用の信頼性があり、予測可能な結果を算出するのに十分大きいトレースデータ集合で事前トレーニングすることによって取得することができる。機械学習モデルの事前トレーニングに用いるデータの種類とは関係なく、機械学習モデルは次の段階で行われるトレースデータによる再トレーニング後に信頼性があり、再現可能な不良パターン分類および予測結果を達成することができる。
【００５５】
事前トレーニング済みの機械学習モデルを入手した後に、事前トレーニング済みの機械学習モデルを再トレーニングおよび推論用トレースデータセット８２２で再トレーニングさせる。トレースデータセット８２２は、専用センサデータを含む位相データ分析（ｔｏｐｏｌｏｇｉｃａｌ  ｄａｔａ  ａｎａｌｙｓｉｓ：ＴＤＡ）データセットともいう。トレースデータセット８２２を整列してそのフォーマットを機械学習モデルの入力に適したフォーマットに変換し（８１２）、整列したトレースデータを再トレーニング用機械学習モデルに適用する（８１３）。所定の条件が満たされる時まで多数のトレースデータセット８２２で再トレーニング過程（ｒｅ−ｔｒａｉｎｉｎｇ  ｐｒｏｃｅｓｓ）を繰り返す。例えば、あらかじめ定めた精密度（ｐｒｅｃｉｓｉｏｎ）、再現性（ｒｅｃａｌｌ）および／または正確度（ａｃｃｕｒａｃｙ）が達成されると再トレーニング過程を完了し得る。場合によっては、平均精密度（ｍｅａｎ−ａｖｅｒａｇｅ  ｐｒｅｃｉｓｉｏｎ）を達成すると再トレーニング過程を完了してもよい。機械学習モデルを再トレーニングした後に、機械学習モデルのネットワーク係数（ｎｅｔｗｏｒｋ  ｃｏｅｆｆｉｃｉｅｎｔｓ）をトレースデータ用に更新し、不良パターン分類および予測専用の更新された機械学習モデルを得ることができる（８１４）。
【００５６】
トレースデータセット８２２は、事前トレーニング済みの機械学習モデルに用いられる大きいデータセットの一部であってもなくてもよい。場合によっては、機械学習モデルの事前トレーニングに用いられるビッグデータセット８２１が純粋にＩｍａｇｅＮｅｔ、ＣＯＣＯ（Ｍｉｃｒｏｓｏｆｔ  Ｃｏｍｍｏｎ  Ｏｂｊｅｃｔ  ｉｎ  Ｃｏｎｔｅｘｔ）およびＰＡＳＣＡＬ  ＶＯＣ（ｖｉｓｕａｌ  ｏｂｊｅｃｔ  ｃｌａｓｓｅｓ）等のソースデータであり得る。場合によっては、ビッグデータセット８２１がトレースデータセット８２２を機械学習モデルの再トレーニングに用いられるソースデータの一部として含み得る。特に機械学習モデルをトレースデータとは異なるソースデータで事前トレーニングした場合に、機械学習モデルの再トレーニング過程がトレースデータから学習した知識を移すのに重要である。この時、一つ以上の機械学習モデルの内部層（例えばソフトマックス層（ｓｏｆｔｍａｘ  ｌａｙｅｒ）、完全連結層（ｆｕｌｌｙ  ｃｏｎｎｅｃｔｅｄ  ｌａｙｅｒ：ＦＣ  ｌａｙｅｒ））を更新して機械学習モデルで認識可能であり、かつ分類可能なクラスの差を反映するようにすることができる。例えば、ＩｍａｇｅＮｅｔで事前トレーニング済みの機械学習モデルを４６５、５６７映像でトレーニングして２０、１２１映像で検証し、機械学習モデルはワカモレ（ｇｕａｃａｍｏｌｅ）、ネックブレース（ｎｅｃｋ  ｂｒａｃｅ）、ｉＰｏｄ（登録商標）、チャイム（ｃｈｉｍｅ）等を含む２００個の互いに異なるクラスを識別し得る。多数のトレースデータセット８２２で事前トレーニング済みの機械学習モデルは例えば、乾式エッチング工程欠陥、ウィンドウ欠陥、ムラ欠陥、パーティクル欠陥など互いに異なる数と互いに異なる種類のクラスを識別し得る。トレースデータセット８２２を新しいトレースデータに更新し得、機械学習モデルを再び再トレーニングして分類正確度と不良パターンの認識を改善することができる。
【００５７】
図９は本発明の一実施形態によりトレースデータを機械学習モデルに適用して予測結果を求める方法の概略図である。図８を参照して説明したように機械学習モデルをトレースデータセットでトレーニングすると仮定する。トレースデータ９２１をサイズ調整（ｒｅｓｉｚｉｎｇ）、写像（ｍａｐｐｉｎｇ）、併合（ｍｅｒｇｉｎｇ）および再配列することによってトレースデータ９２１を整列する（９１１）。例えば、トレースデータ９２１を機械学習モデルに適した入力フォーマットに変換し得る。次いで整列したトレースデータを機械学習モデルに適用する（９１２）。機械学習モデルは複数の不良クラスと関連する予測パターンと分類結果を生成し得る（９１３）。
【００５８】
トレースデータ９２１は、表示パネルなど電子機器の製造工程で得られたセンサデータを含み得る。図３ないし図６を参照して説明したようにトレースデータ９２１はデータ整列過程９１１で変換および処理され、機械学習モデルに提供され得る。正確度、不良検知と予測結果を改善するために機械学習モデルを継続して更新して再トレーニングし得る。不良パターン検知および予測結果が生成されることによって機械学習モデルが更新および改善されることができる。これとは異なり、機械学習モデルの不良パターン検知および予測結果が実際の不良データと相関してもよく、相関結果とともに機械学習モデルが更新されて機械学習モデルの正確度、不良検知と予測結果をさらに改善することができる。
【００５９】
本発明の一実施形態によれば、未加工トレースデータ１０１の順序を入力データの相関関係に応じて再配列して機械学習の学習を容易にすることができる。図３を参照すると、相関するデータを互いに近く配置して入力データセットでパターンを容易に認識することができる。
【００６０】
様々な他の方法で未加工トレースデータを再配列することもできる。例えば、高分散（ｈｉｇｈ  ｖａｒｉａｎｃｅ）データ入力を入力データの中央に配置して未加工トレースデータを再配列することによって高活性（ｈｉｇｈ  ａｃｔｉｖｉｔｙ）パターンを捕らえることができる。他の例によれば、未加工トレースデータの類似パターンを互いに近く配置することによって高分散項目（ｉｔｅｍｓ）を再配列されたデータ内で互いに近く配置することができる。
【００６１】
先立って説明したサイズ調整（ｒｅｓｉｚｉｎｇ）、写像（ｍａｐｐｉｎｇ）、併合（ｍｅｒｇｉｎｇ）および再配列（ｒｅａｒｒａｎｇｉｎｇ）を含むデータ処理をすべての組み合わせに用いて前処理トレースデータ１１５を生成することができる。このようなデータ処理はいずれも機械学習トレーニング、テストおよび／または検証を始める前に行われ得る。未来データが現在のデータと同じ分布を有するという仮定の下に同じ規則を未来データセットを含むすべてのデータセットに適用することができる。
【００６２】
本発明によるシステムおよび方法は、複数の一次元時系列入力を二次元映像類似データに変換して他のディープニューラルネットワークから学習した内容を伝達する技術を提示する。本発明によるシステムおよび方法は、複数の一次元時系列入力を現存するディープニューラルネットワーク構造に適する二次元データに変換する公式的な方法を提示する。
【００６３】
本発明は、方法（ｐｒｏｃｅｓｓ）、装置（ａｐｐａｒａｔｕｓ）、システム（ｓｙｓｔｅｍ）、組成物（ｃｏｍｐｏｓｉｔｉｏｎ  ｏｆ  ｍａｔｔｅｒ）、コンピュータで読み取り可能な記憶媒体に保存されたコンピュータプログラム製品および／または連結されたメモリに保存および／またはメモリが提供する命令を実行するハードウェアプロセッサまたはプロセッサ装置などプロセッサを含む多様な方法で実現することができる。本明細書において、このような実現または本発明が取ることができる他の形態を技術（ｔｅｃｈｎｉｑｕｅｓ）といえる。一般に、説明した方法の段階の順序は発明の範囲内で変えることができる。特に言及しない限り、課題を実行するプロセッサまたはメモリなどの部品（ｃｏｍｐｏｎｅｎｔ）は与えられた見解でその課題を実行するように一時的に設定された汎用部品であり得、その課題を行うように製作された専用部品であり得る。ここで「プロセッサ」とは、コンピュータプログラム命令などデータを処理する一つ以上の装置、回路および／または処理コアを意味する。
【００６４】
本発明の一つ以上の実施形態について本発明の原理を示す添付図面と共に詳細に説明した。本発明をこのような実施形態と結び付けて説明したが、本発明はいかなる実施形態に限定されない。本発明の範囲は特許請求の範囲によってのみ限定され、数多くの代替物、変形物および等価物を包括する。本発明の完全な理解のために多くの詳細な内容を説明した。このような詳細な内容は実施形態を示すためのものであり、このような詳細な内容の一部または全体がなくても請求範囲により本発明を実現することができる。本発明を明確にするために、本発明が属する技術分野に知られている内容は本発明が不要に曖昧になることを避けるためにその説明を省略した。
【００６５】
本発明の一実施形態による不良検知方法は、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信する段階と、前記複数の時系列センサデータを二次元データアレイ内に配列する段階と、前記二次元データアレイを畳み込みニューラルネットワークモデルに提供する段階と、前記畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含むと判断する段階とを含み、前記二次元データアレイは前記畳み込みニューラルネットワークモデルに対する入力データの次元（ｄｉｍｅｎｓｉｏｎ）を有する。
【００６６】
前記電子機器は、表示装置であり得る。
【００６７】
前記電子機器は、表示装置のガラスパネルであり得る。
【００６８】
前記畳み込みニューラルネットワークモデルは、ＶＧＧ、Ｒｅｓｎｅｔ、Ａｌｅｘｎｅｔ、またはＳｑｕｅｅｚｅｎｅｔであり得る。
【００６９】
前記分類結果は、前記不良状態の種類と位置を含み得る。
【００７０】
前記二次元データアレイは第２の二次元データアレイに変換され、前記第２の二次元データアレイは互いに離れている複数のデータアレイを含んでいてもよい。
【００７１】
前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄する段階をさらに含み得る。
【００７２】
前記複数の時系列センサデータをセンサの数に対応する第１次元と前記各センサのデータサンプル数に対応する第２次元を有する未加工トレースデータアレイに配置する段階と、前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断する段階と、前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割する段階と、前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置する段階とをさらに含み得る。
【００７３】
前記複数の未加工トレースデータアレイ片のそれぞれは、重複領域を含み得る。
【００７４】
互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信する段階、前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第１時系列センサデータセットを決める段階と、前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第１時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにする段階とをさらに含み得る。
【００７５】
前記不良状態と相関する前記複数の時系列センサデータの部分集合を決める段階と、前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置する段階とをさらに含み得る。
【００７６】
前記一つ以上の製造工程内の複数の処理段階に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットの前記複数の処理段階それぞれのデータサイズを比較する段階と、前記複数の処理段階のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第１時系列センサデータセットを決める段階と、残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階と、前記最小ステップサイズに写像される各工程段階を結合することによって前記複数の時系列センサデータセットのそれぞれに対して前記二次元データアレイを生成する段階とをさらに含み得る。
【００７７】
前記残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階は、前記最小ステップサイズの第１データサンプルを選択する段階を含み得る。
【００７８】
前記残りの時系列センサデータセットの各処理段階に対応する時系列センサデータをデシメーション（ｄｅｃｉｍａｔｉｏｎ）で再サンプリングして前記最小ステップサイズを有する再サンプル時系列センサデータを求める段階をさらに含み得る。
【００７９】
前記複数の時系列センサデータの平均を決める段階と、前記複数の時系列センサデータのそれぞれを移動させて平均が０になるようにする段階と、前記複数の時系列センサデータそれぞれを規格化して−１と＋１との間の範囲に位置させる段階とをさらに含み得る。
【００８０】
本発明の一実施形態による不良検知方法は、第１フォーマットの第１データセットで事前トレーニング済みの畳み込みニューラルネットワークモデルを提供する段階と、第２フォーマットの第２データセットを受信する段階と、前記第２データセットの前記第２フォーマットを前記第１フォーマットに変換して第３データセットを生成する段階と、前記畳み込みニューラルネットワークモデルを前記第３データセットで再トレーニングする段階と、更新された畳み込みニューラルネットワークモデルを求める段階を含む。
【００８１】
前記第２データセットは一つ以上の電子機器の製造工程で取得した複数の時系列センサデータであり、前記第１フォーマットは二次元データアレイであり、前記二次元データアレイは前記更新された畳み込みニューラルネットワークモデルの入力データ次元を有し、さらに、前記二次元データアレイの前記第１フォーマットを有する前記第３データセットを前記更新された畳み込みニューラルネットワークモデルに提供する段階と、前記更新された畳み込みニューラルネットワークモデルを用いて不良状態と相関する前記二次元データアレイ内のパターンを識別する段階と、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供する段階と、前記不良指標に基づいて前記電子機器が不良を含むと判断する段階と、次の１）、２）、３）、および４）のうち少なくとも一つを含み得る。
【００８２】
１）前記複数の時系列センサデータをセンサの数に対応する第１次元と前記各センサのデータサンプル数に対応する第２次元を有する未加工トレースデータアレイに配置する段階と、前記未加工トレースデータアレイが前記二次元データアレイに適合するかどうかを判断する段階と、前記未加工トレースデータアレイを複数の未加工トレースデータアレイ片に分割する段階と、前記複数の未加工トレースデータアレイ片を前記二次元データアレイに配置する段階。
【００８３】
２）互いに異なる数のデータサンプルを有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットのうち前記データサンプル数が最も少ない第１時系列センサデータセットを決める段階と、前記複数の時系列センサデータセットのうち残りの時系列センサデータセットのサイズを調整して前記残りの時系列センサデータセットが前記第１時系列センサデータセットのデータサンプル数と同じデータサンプル数を有するようにする段階。
【００８４】
３）前記不良状態と相関する前記複数の時系列センサデータの部分集合を決める段階と、前記二次元データアレイを再配列して前記複数の時系列センサデータの部分集合を隣接するように配置する段階。
【００８５】
４）前記一つ以上の製造工程内の複数の処理段階に対応するデータをそれぞれ有する複数の時系列センサデータセットを受信する段階と、前記複数の時系列センサデータセットの前記複数の処理段階それぞれのデータサイズを比較する段階と、前記複数の処理段階のそれぞれに対し、前記複数の時系列センサデータセットのうち最小ステップサイズを有する第１時系列センサデータセットを決める段階と、残りの時系列センサデータセットの各処理段階に対応する時系列センサデータを写像して前記最小ステップサイズを有するようにする段階と、前記最小ステップサイズに写像される各工程段階を結合することによって前記複数の時系列センサデータセットそれぞれに対して前記二次元データアレイを生成する段階。
【００８６】
前記電子機器は、表示装置のガラスパネルであり得る。
【００８７】
前記更新された畳み込みニューラルネットワークモデルは、ＶＧＧ、Ｒｅｓｎｅｔ、Ａｌｅｘｎｅｔ、またはＳｑｕｅｅｚｅｎｅｔであり得る。
【００８８】
前記一つ以上の製造工程で前記不良を有する前記電子機器を廃棄する段階をさらに含み得る。
【００８９】
本発明の一実施形態による不良検知装置は、プロセッサと、プロセッサ実行可能命令を保存するメモリとを含み、前記プロセッサはデータ分析モデルを実行し、前記データ分析モデルは、データ処理モジュールおよび分類器を含み、前記データ処理モジュールは、一つ以上の電子機器の製造工程で取得した複数の時系列センサデータ（ｔｉｍｅ−ｓｅｒｉｅｓ  ｓｅｎｓｏｒ  ｄａｔａ）を受信し、前記複数の時系列センサデータを二次元データアレイ内に配列し、前記分類器は、不良状態と相関する前記二次元データアレイ内のパターンを識別し、前記一つ以上の電子機器の製造工程で前記不良状態の不良指標（ｆａｕｌｔ  ｉｎｄｉｃａｔｏｒ）を提供し、前記不良指標に基づいて前記電子機器が不良を含むと判断する。
【００９０】
以上の詳細な説明は本発明の特定の実施形態を説明するものであり、限定のためのものではない。本発明の範囲内で様々な修正および変形が可能である。本発明の次の請求範囲によって定義される。
【符号の説明】
【００９１】
１０１：未加工トレースデータ
１０１ａ，１０１ｂ：分割データセット
１０２：重複領域
１１１：データ処理モジュール
１１２：分類器
１１５：前処理トレースデータ
１２１：不良検知結果
６０１，６０２：未加工データ
６０３：調整未加工データ
７０１：元データ
７０２：ゼロ中心化したデータ
７０３：規格化データ
８２１：ビッグデータセット
８２２：トレースデータセット
９２１：トレースデータ
【図１】
2020126601.tif 000003
【図２】
2020126601.tif 000004
【図３】
2020126601.tif 000005
【図４】
2020126601.tif 000006
【図５】
2020126601.tif 000007
【図６】
2020126601.tif 000008
【図７】
2020126601.tif 000009
【図８】
2020126601.tif 000010
【図９】
2020126601.tif 000011