(57)【要約】【課題】回路やプログラムにおける仕様の不備を早期に発見する。【解決手段】内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いる。内部設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段４１と、前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第１のパターンマイ二ング手段２２と、を具備する。【選択図】図１
2019191932.tif 000002
【特許請求の範囲】
【請求項１】
内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いる不適要因指摘装置において、
前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段と、
前記内部設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段と、
前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第１のパターンマイ二ング手段と、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段と
を具備することを特徴とする不適要因指摘装置。
【請求項２】
前記要因推定報知手段は、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うことを特徴とする請求項１に記載の不適要因指摘装置。
【請求項３】
前記要因推定報知手段は、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知することを特徴とする請求項２に記載の不適要因指摘装置。
【請求項４】
前記要因推定報知手段は要因値として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めることを特徴とする請求項３に記載の不適要因指摘装置。
【請求項５】
前記要因推定報知手段は要因値として、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めることを特徴とする請求項３または４に記載の不適要因指摘装置。
【請求項６】
前記要因推定報知手段は、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めることを特徴とする請求項３に記載の不適要因指摘装置。
【請求項７】
前記要因推定報知手段は、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置した重要度テーブルデータを作成するテーブル化手段と、
前記テーブル化手段により作成された各クラスタの重要度テーブルデータの類似度に基づき、クラスタリングを行う第２のクラスタリング手段と、
前記第２のクラスタリング手段によるクラスタリングによって得られたクラスタを、前記重要度によりグループに分類する解析処理手段と、
目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各グループ毎に説明変数のランキングを求めるパターンマイ二ングを行う第２のパターンマイ二ング手段と、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する最終報知手段と
を具備することを特徴とする請求項１乃至６のいずれか１項に記載の不適要因指摘装置。
【請求項８】
前記第２のクラスタリング手段は、樹形図を作成してクループ分けすることを特徴とする請求項７に記載の不適要因指摘装置。
【請求項９】
前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイ二ングを行って説明変数の重要度を求め、各レコードに含まれる説明変数中の重要度の低い説明変数を除去する次元圧縮手段を
備えることを特徴とする請求項１乃至８のいずれか１項に記載の不適要因指摘装置。
【請求項１０】
内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いるコンピュータを、
前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段、
前記内部設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段、
前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第１のパターンマイ二ング手段、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段
として機能させることを特徴とする不適要因指摘用プログラム。
【請求項１１】
前記コンピュータを前記要因推定報知手段として、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うように機能させることを特徴とする請求項１０に記載の不適要因指摘用プログラム。
【請求項１２】
前記コンピュータを前記要因推定報知手段として、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知するように機能させることを特徴とする請求項１１に記載の不適要因指摘用プログラム。
【請求項１３】
前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めるように機能させることを特徴とする請求項１１に記載の不適要因指摘用プログラム。
【請求項１４】
前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めるように機能させることを特徴とする請求項１２または１３に記載の不適要因指摘用プログラム。
【請求項１５】
前記コンピュータを前記要因推定報知手段として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めるように機能させることを特徴とする請求項１２に記載の不適要因指摘用プログラム。
【請求項１６】
コンピュータを前記要因推定報知手段として、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置した重要度テーブルデータを作成するテーブル化手段、
前記テーブル化手段により作成された各クラスタの重要度テーブルデータの類似度に基づき、クラスタリングを行う第２のクラスタリング手段、
前記第２のクラスタリング手段によるクラスタリングによって得られたクラスタを、前記重要度によりグループに分類する解析処理手段、
目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各グループ毎に説明変数のランキングを求めるパターンマイ二ングを行う第２のパターンマイ二ング手段、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する最終報知手段
として機能させることを特徴とする請求項１０乃至１５のいずれか１項に記載の不適要因指摘用プログラム。
【請求項１７】
前記コンピュータを前記第２のクラスタリング手段として、樹形図を作成してクループ分けするように機能させることを特徴とする請求項１６に記載の不適要因指摘用プログラム。
【請求項１８】
前記コンピュータを、更に、
前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイ二ングを行って説明変数の重要度を求め、各レコードに含まれる説明変数中の重要度の低い説明変数を除去する次元圧縮手段として機能させることを特徴とする請求項１０乃至１７のいずれか１項に記載の不適要因指摘用プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明は、例えば半導体装置やプログラムなどの不適要因指摘装置及び不適要因指摘用プログラムに関するものである。
【背景技術】
【０００２】
本発明に係る不適要因指摘装置は、検証装置の結果に対し指摘し、支援するものである。検証装置の対象装置である例えばシステムＬＳＩは、微細化技術の進歩によってシステム規模が増大してきた。ＬＳＩ設計には数々のスキルが必要とされ、十分なリソース確保が難しく、ＩＰ（Intellectual Property）の活用や単体検証技術によりシステムレベルの検証範囲を限定するなど、広がる検証空間を抑えながらシステム検証の品質を維持する工夫が採られている。
【０００３】
しかしながら、それでも仕様から想定される検証の組み合わせは膨大であり、その検証空間を検証者がパターンを作成して検証することは不可能に近い。そこで、仕様に則って検証する組み合わせを自動的に行う検証手法にランダム検証が開発されている。ランダム検証は入力をランダムで発生し、対象システムを検証するものである。
【０００４】
しかし、対象の回路の検証成熟度が低い場合はエラー結果が大量に出力されるため、リソースを投入して解析をする価値が問われる。多くの場合、検証成熟度が高くなってからランダム検証を本格運用するケースが多い。仮に、大量のエラー結果についてランダムの入力群から要因が特定できる場合には、または、傾向を予測する結果が得られる場合には、検証期間の早い時期からランダム検証を行うことによって原因を特定できるレベルで運用でき、回路や仕様の不備を早期に発見し、検証期間の短縮につなげることが可能である。
【０００５】
一方、故障検証装置としては、特許文献１に記載のものが知られている。つまり、ＬＳＩ回路について静的タイミング検証を施して得られるタイミング検証結果において検証対象とされた回路構成部を故障生成箇所として抽出する回路認識部と、タイミング検証結果中の信号伝達の遅延時間及びタイミングに関する情報を用いて各故障生成箇所に応じた遅延故障を生成する故障値算出部と、検証対象のテストパターンを用いてＬＳＩ回路の正常回路及び各故障箇所に遅延故障を挿入した故障回路について論理シミュレーションを実行し、両論理シミュレーションの結果からテストパターンによる遅延故障の検出可否を検証する故障検証部とを備えるものである。
【０００６】
上記特許文献１の発明では、テストパターンによって遅延が原因となる故障の検出可否を検証することができ、また、静的タイミング生成装置によるタイミング検証結果に要する時間を短縮可能であるという効果を得ることができる。
【０００７】
特許文献２には、半導体集積回路のネットリストと故障候補ネット名のリストと故障を検証するテキストベクトルでの各ネットの期待値を用いて、期待値及び推定値付のネットリストとリンクしたレイアウトを表示し、更に故障候補のみのネットリストを用いて論理回路を表示することが開示されている。
【０００８】
上記によって期待値／推定値付の故障伝搬推定経路のみの小規模なネットリストを作成することで、ネットリストとレイアウトをリンクした状態でのレイアウト表示において、故障候補の検証に必要な配線及びその位置情報を容易に取得できるという効果を得ることができるものである。
【０００９】
特許文献３には、縮退故障以外の半導体集積回路装置の故障についても故障診断でき、その診断結果の確率を算出することを目的とする故障診断装置が開示されている。
【００１０】
この特許文献３の発明は、テストパターンを用いた検査におけるフェイルの原因となる可能性のある内部回路の故障を初期被疑故障抽出手段により初期被疑故障として抽出し、この初期被疑故障に対して故障検証手段により故障シミュレーションを実施して検査における各フェイルの原因となる内部回路故障の候補を検出するものである。
【００１１】
特許文献４には、スキャンＦＦの情報を含む回路情報（１６０１）とレイアウト後の遅延情報（１６０２）から回路中のスキャンＦＦの同時動作時間のばらつきを統計処理により計算し、さらにマスクレイアウトの情報による各レーンに配置された同時変化を期待されるスキャンＦＦの数から計算を行い（１６０３）、電源電圧ドロップの起こりやすさを推定する（１６０４）ことが開示されている。どのスキャンＦＦのばらつきを統計処理するかについては、外部から情報を与える（１６０５）、というものである。
【００１２】
上記のように、特許文献１〜４に記載の検証装置等は、ファイル原因を特定しようとするものであるが、検証期間の早い時期からランダム検証を行うような場合に適用し難いものである。つまり、大量のファイル結果についてランダム入力群から優先度の高い要因候補を示すような、検証期間の早い時期からランダム検証を行うものはなかった。
【００１３】
上記に対し、一般的な要因抽出の手法として機械学習を用いるものが特許文献５に示されている。この特許文献５に記載の発明は、目的変数の変動に対して寄与するその他変数の組み合わせを効率的に特定し、説明変数（要因）として抽出する。この発明に係る要因抽出システムは、事象変数の組み合わせとその組み合わせがイベントデータ内に存在するか否かを表す２値数とによって構成される共変複合変数を定義し、共変複合変数と目的変数との間の相関を求めることにより、寄与要因を抽出するものである。
【先行技術文献】
【特許文献】
【００１４】
【特許文献１】特開２００４−９４３６２号公報
【特許文献２】特開２００２−２１７２５９号公報
【特許文献３】特開２００３−１０７１３４号公報
【特許文献４】特開２００４−２４６５５７号公報
【特許文献５】国際公開第２０１５／０９７７７３号
【発明の概要】
【発明が解決しようとする課題】
【００１５】
上記の特許文献５に記載の発明は、目的変数の変動に対して寄与するその他変数の組み合わせを特定する場合に有効であるものの、大量のファイル結果についてランダム入力群から優先度の高い要因候補を示すことには及んでいない。
【００１６】
本発明は上記のようなＬＳＩ等に対する検証の現状に鑑みなされたもので、その目的は、大量のファイル結果についてランダム入力群から優先度の高い要因候補を示すように用いることができ、回路やプログラムにおける仕様の不備を早期に発見し、検証期間の短縮につなげることを可能とする不適要因指摘装置及び不適要因指摘用プログラムを提供することである。
【課題を解決するための手段】
【００１７】
本発明に係る不適要因指摘装置は、内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いる不適要因指摘装置において、前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段と、前記内部設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段と、前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第１のパターンマイ二ング手段と、前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段とを具備することを特徴とする。
【００１８】
本発明に係る不適要因指摘装置では、前記要因推定報知手段は、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うことを特徴とする。
【００１９】
本発明に係る不適要因指摘装置では、前記要因推定報知手段は、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知することを特徴とする。
【００２０】
本発明に係る不適要因指摘装置では、前記要因推定報知手段は要因値として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めることを特徴とする。
【００２１】
本発明に係る検証装置では、前記要因推定報知手段は要因値として、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めることを特徴とする。
【００２２】
本発明に係る不適要因指摘装置では、前記要因推定報知手段は、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めることを特徴とする。
【００２３】
本発明に係る不適要因指摘装置では、前記要因推定報知手段は、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータの各クラスタ類似度に基づき、複数のグループに分類する第２のクラスタリング手段と、目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第２のパターンマイ二ング手段と、前記ランキングに基づき不適と関連する要因の説明変数及びまたは当該説明変数が含まれるレコードを推定し、報知する最終報知手段とを具備することを特徴とする。
【００２４】
本発明に係る不適要因指摘装置では、前記第２のクラスタリング手段は、樹形図を作成してクループ分けすることを特徴とする。
【００２５】
本発明に係る不適要因指摘装置では、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイ二ングを行って説明変数の重要度を求め、各レコードに含まれる説明変数中の重要度の低い説明変数を除去する次元圧縮手段を
備えることを特徴とする。
【００２６】
本発明に係る不適要因指摘用プログラムは、内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いるコンピュータを、前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段、前記内部設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段、前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第１のパターンマイ二ング手段、前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段として機能させることを特徴とする。
【００２７】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記要因推定報知手段として、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うように機能させることを特徴とする。
【００２８】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記要因推定報知手段として、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知するように機能させることを特徴とする。
【００２９】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めるように機能させることを特徴とする。
【００３０】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めるように機能させることを特徴とする。
【００３１】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記要因推定報知手段として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めるように機能させることを特徴とする。
【００３２】
本発明に係る不適要因指摘用プログラムでは、コンピュータを前記要因推定報知手段として、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成するように機能させ、前記コンピュータを前記テーブルデータの各クラスタ類似度に基づき、複数のグループに分類する第２のクラスタリング手段、目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行う第２のパターンマイ二ング手段、前記ランキングに基づき不適と関連する要因の説明変数及びまたは当該説明変数が含まれるレコードを推定し、報知する最終報知手段として機能させることを特徴とする。
【００３３】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを前記第２のクラスタリング手段として、樹形図を作成してクループ分けするように機能させることを特徴とする。
【００３４】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを、更に、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイ二ングを行って説明変数の重要度を求め、各レコードに含まれる説明変数中の重要度の低い説明変数を除去する次元圧縮手段として機能させることを特徴とする。
【発明の効果】
【００３５】
本発明によれば、大量のファイル結果についてランダム入力群から優先度の高い要因候補を示すように用いることができ、回路や仕様の不備を早期に発見し、検証期間の短縮につなげることを可能とできる。
【図面の簡単な説明】
【００３６】
【図１】本発明に係る不適要因指摘装置の実施形態の構成図。
【図２】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図３】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図４】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図５】本発明に係る不適要因指摘装置の実施形態のクラスタリング動作の説明図。
【図６】本発明に係る不適要因指摘装置の実施形態の重み付け動作の説明図。
【図７】本発明に係る不適要因指摘装置の実施形態のパターンマイ二ング動作の説明図。
【図８】本発明に係る不適要因指摘装置の実施形態の要部構成図。
【図９】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図１０】本発明に係る不適要因指摘装置の実施形態の重み付け動作を説明するフローチャート。
【図１１】本発明に係る不適要因指摘装置の実施形態の重み付け動作を説明するフローチャート。
【図１２】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図１３】本発明に係る不適要因指摘装置に用いるデータの一例を示す図。
【図１４】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図１５】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図１６】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図１７】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図１８】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図１９】本発明に係る不適要因指摘装置に用いるデータ処理の一例を示す図。
【図２０】本発明に係る不適要因指摘装置のパターンマイ二ング動作の説明図。
【図２１】本発明に係る不適要因指摘装置の実施形態の動作を説明するフローチャート。
【図２２】本発明に係る不適要因指摘装置の類似性によるグループ化動作の説明図。
【図２３】本発明に係る不適要因指摘装置の類似性によるグループ化動作の説明図。
【図２４】本発明に係る不適要因指摘装置の類似性によるグループ化動作の説明図。
【図２５】本発明に係る不適要因指摘装置の類似性によるグループ化動作の説明図。
【図２６】本発明に係る不適要因指摘装置の実施形態の第２のパターンマイ二ング動作の説明図。
【図２７】本発明に係る不適要因指摘装置の実施形態による報知結果の一例を示す図。
【発明を実施するための形態】
【００３７】
以下添付図面を参照して、本発明に係る不適要因指摘装置及び不適要因指摘用プログラムの実施形態を説明する。各図において、同一の構成要素には同一の符号を付して重複する説明を省略する。本発明に係る不適要因指摘装置の実施形態は、図１に示されるように構成される。実施形態に係る不適要因指摘装置１０は、検証の対象装置に対する検証を行う検証本体装置１００を前提とした装置である。
【００３８】
検証本体装置１００は、パターン・ランダム発生部１１０、ドライバ部１２０、モニタ・チェック部１３０を備えている。パターン・ランダム発生部１１０は、対象装置２００に対し、対象装置２００の内部状態を設定するための内部状態設定情報や、対象装置２００へ与えて所定の出力を得るための入力情報を発生させるものである。ドライバ部１２０は、パターン・ランダム発生部１１０により発生された内部状態設定情報に基づき内部状態の設定を行い、また、パターン・ランダム発生部１１０により発生された入力情報に基づく入力信号を送出するものである。モニタ・チェック部１３０は、対象装置２００から出力される情報をモニタしてログをログファイル１４０へ出力し、また、期待値が出力されているか否かチェックして、出力が期待値に対して適正か不適かを示す適不適情報などの出力を行うものである。
【００３９】
不適要因指摘装置１０には、データ用意部２０と、要因解析部３０とが備えられている。データ用意部２０には、レコードデータ用意手段１１と適不適情報分離部１４とが備えられている。レコードデータ用意手段１１は、上記対象装置２００に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを用意するものである。レコードデータとしては、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するものである。
【００４０】
本実施形態では、機械学習を用いてデータ処理を行う。この機械学習において、上記内部設定情報と入力情報を説明変数とし、必要に応じて上記適不適情報を目的変数として処理を行う。このため、レコードデータ用意手段１１により用意されるレコードデータテーブル１２は図２に示すように記述することができる。即ち、検証本体装置１００においてシミュレーションが実行されたときに発行された管理用の実行番号が縦方向に付されており、１行が１レコードである。
【００４１】
上記実行番号から行方向には、順に、実行コマンド、目的変数の欄とされている。実行コマンドは、シミュレーションを行うためのコマンド情報であり、レコードに、この情報を含めることによって、不適（フェイル（ＦＡＩＬ））要因の指摘がなされた後のシミュレーションを行う場合に、或いは、適（パス（ＰＡＳＳ））のシミュレーションを行う場合に、必要なコマンド情報を取り出し可能となっている。実行コマンドの欄の右隣にセットされる目的変数は、ここでは「適」を示す「ＰＡＳＳ」と、「不適」を示す「ＦＡＩＬ」とのいずれかにより構成される。
【００４２】
目的変数の欄の右隣横方向には、説明変数の欄が複数欄設けられている。説明変数の欄の数は、検証本体装置１００において用いられる説明変数の数とすることができる。各説明変数に対応して、各レコードにおいては説明変数の値がセットされる。第１レコード（実行番号「０」）のレコードでは、「説明変数１」に対応して値が「０」であるから、「説明変数１」を用いていない、ということを意味する。また、第１レコード（実行番号「０」）のレコードでは、「説明変数２」に対応して値が「４」であるから、「説明変数１」は値が「４」として用いられることを示す。
【００４３】
上記のレコードデータテーブル１２は、レコードデータ用意手段１１が、上記対象装置２００に設定する内部状態設定情報と入力する入力情報とを説明変数としてデータ用意部２０から受け取り、この後において要因解析部３０から出力される適不適情報を当該説明変数に対応する目的変数として取り込み、作成する。勿論、先に図２のように作成されたレコードデータテーブル１２をレコードデータ用意手段１１が入手し、これを用いても良い。
【００４４】
本実施形態では、次元圧縮手段２５を備える。次元圧縮手段２５は、上記レコードデータ用意手段１１により用意されレコードデータテーブル１２に格納された複数（全て）のレコードに対して、パターンマイ二ングを行って説明変数の重要度を求め、各レコードに含まれる説明変数中の重要度の低い説明変数を除去するものである。
【００４５】
次元圧縮手段２５による処理では、レコードデータの全てに変化なく含まれている説明変数や要因特定に寄与する確率が低い説明変数などを除外する。レコードデータ用意手段１１により用意された全てのレコードを対象データとして、パターンマイニングを行って各説明変数の重要度を求め、重要度の低い説明変数を除外する。重要度の絶対値は使用せず、重要度割合に変換して割合の高い順に累積する。この累積値について外部から閾値とすべき値を決められるようにしても良い。また、レコード数が少ない場合の対応として以下のような処理を行い、除外説明変数を決めても良い。
【００４６】
その１：パターンマイニングを行い各説明変数の重要度割合を出す。
その２：-Log2（重要度割合）を算出する（エントロピー）。
その３：説明変数の重要度ランキングを求め、ランキングの所定％以降は不採用とする。
その４：レコード数がその２のエントロピーの２倍になるところまでの説明変数を採用する（ただし、「その３」の条件による削除により、当該「その４」の条件が該当しないこともある）。このようにして得られた説明変数の重要度の情報は、テーブル３１へ格納しておくことができる。なお、次元圧縮手段２５による次元圧縮処理は、必須なものではない。
【００４７】
上記のようにして、次元圧縮された（或いは、次元圧縮なしの）レコードデータがテーブル３２に保存される。この保存されたレコードデータは、適不適情報分離部１４によって、目的変数がＰＡＳＳである適レコードデータと、目的変数がＦＡＩＬである不適レコードデータとにより分離される。適レコードデータは適テーブル３３に記憶され、不適レコードデータは不適テーブル３４に記憶される。図３に適テーブル３３における適レコードデータの一例を示し、図４に不適テーブル３４における不適レコードデータの一例を示す。
【００４８】
本実施形態では、第１のクラスタリング手段４１が備えられている。第１のクラスタリング手段４１は、上記内部設定情報と入力情報を説明変数とし、機械学習を行うものであって、適不適情報が不適である不適テーブル３４のレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類するものである。
【００４９】
例えば、図５に示されるように、適不適情報が不適であるレコードデータＦ１、Ｆ２、Ｆ３、Ｆ４、Ｆ５があるとする。レコードデータＦ１、Ｆ２、Ｆ３、Ｆ４、Ｆ５は、それぞれが同じ説明変数から構成され所定の配列パターンを持つものとする。ただし、レコードデータＦ１、Ｆ３においては、説明変数の値や配列パターンが異なっており、それぞれ２クラスタ（グループ）に分類されるものとする。ここで、図５では、レコードデータＦ１、Ｆ２、Ｆ３、Ｆ４、Ｆ５が、７つのクラスタ（グループ）Ｇ１、Ｇ２、Ｇ３、Ｇ４、Ｇ５、Ｇ６、Ｇ７に分類した例を示している。なお、クラスタリングの手法は、公知の手法で良く、例えば、「Ｍｅａｎｓ」などの手法を用いることができる。
【００５０】
上記クラスタリングに際しては、レコードデータに含まれている説明変数に対し重み付けを行って、このような重み付けされた説明変数を含むレコードデータをクラスタリングすることができる。図１に示した実施形態では、重み付け手段４２が備えられている。重み付け手段４２は、重みテーブル３５に記憶されている初期重み値を用いて重み付けを行うことができる。
【００５１】
この初期重みについて図６を参照して説明する。検証対象について、例えば回路の場合には回路ロジックの出力側からの段数や影響ロジック規模（ゲート数など）を考慮して決めることができる。つまり、機能を大きく分けるような段（回路部分）は、その影響するロジック規模が大きいため重みを大きくする。逆に、影響ロジック規模が小さい入力は重みを小さくすることができる。例えば階層型クラスタリングを行う場合、図６の樹形図の最初の枝分かれについて重みを大きくした説明変数で分岐することができる。即ち、第１段説明変数、第２段説明変数、第３段説明変数とあるときに、重みは、第１段説明変数＞第２段説明変数＞第３段説明変数とすることができる。
【００５２】
重み付け手段４２は、次元圧縮手段２５が説明変数の次元圧縮において求めた重要度情報が格納されたテーブル３１内の重要度情報に基づき、重みテーブル３５に予め設定されている初期重みに対して付加あるいは変更する処理を行うことが可能である。例えば、上記において示した初期重みの算出考え方に対して、図６の重みが最も小である第３段説明変数について、テーブル３１の重要度情報に基づいて重みを増やすことで、第１のクラスタリング手段４１によるクラスタリングの前に、特徴化し易い（クラスタリングし易い）レコードテーブルデータへ変更することを可能にする。
【００５３】
図６における（重み大）の第１段説明変数や（重み中）の第２段説明変数についても、次元圧縮手段２５が説明変数の次元圧縮において使用したパターンマイニング手段２２によって得られた重要度から重みを変更することも可能とする。また、例えば、外部からどの重みランクについて初期重みを変更するかの指定を行って、値を変更するようにしても良い。
【００５４】
第１のクラスタリング手段４１によるクラスタリングの結果のレコードデータは、テーブル３６に格納される。更に、本実施形態では、第１のパターンマイ二ング手段２２が備えられている。第１のパターンマイ二ング手段２２は、上記適不適情報を目的変数として、目的変数が適正であるレコードデータと上記クラスタに分類されテーブル３６に格納されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイ二ングを行うものである。
【００５５】
即ち、図５により説明したように、Ｇ１〜Ｇ７の７つのクラスタに分類されたレコードデータと、目的変数が適正であるレコードデータ４０（図７）を用いて、クラスタ毎にパターンマイ二ングが行われる。パターンマイ二ングとしては、ランダムフォレストやディープラーニングを採用することができる。パターンマイ二ングの実際の処理としては、次元圧縮手段２５による処理において説明した手法を用いることができる。
【００５６】
以上の処理の結果、図７に示されるように、Ｇ１のクラスタに分類されたレコードデータと、レコードデータ４０を用いたパターンマイ二ングの結果であるＧ１説明変数ランキングのデータＲ１、Ｇ２のクラスタに分類されたレコードデータと、レコードデータ４０を用いたパターンマイ二ングの結果であるＧ２説明変数ランキングのデータＲ２、・・・（中略）・・・、Ｇ７のクラスタに分類されたレコードデータと、レコードデータ４０を用いたパターンマイ二ングの結果であるＧ７説明変数ランキングのデータＲ７が得られる。
【００５７】
本実施形態では、要因推定報知手段４４を備えている。要因推定報知手段４４は、上記ランキング（Ｇ１〜Ｇ７説明変数ランキング）に基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコード７０を推定し、報知する。
【００５８】
この不適と関連する不適要因である説明変数と、この不適と関連する要因の説明変数が含まれるレコードを推定するために、要因推定報知手段４４には、図８に示すように、重要度クラスタリング用テーブルデータ（重要度テーブルデータ）を得るためのテーブル化手段４５が備えられている。図８は、要因推定報知手段４４の詳細を示す構成図である。テーブル化手段４５は、第１のパターンマイ二ング手段２２により得られたテーブル３１に格納されているＧ１〜Ｇ７説明変数ランキングデータ３１Ａ（図９）を用いる。また、テーブル化手段４５は、図１０、図１１に示されるフローチャートによる動作を行い、図４に示された不適テーブル３４における不適レコードデータからレコード毎に説明変数を抜き出し、行方向の項目として並べ、交差する欄に説明変数の値をセットした図１２の如き不適‐説明変数テーブル４６を作成する（Ｓ１１）。不適‐説明変数テーブル４６において「０」が設定されている場合には、対応する説明変数が当該クラスタに含まれていないことを意味する。
【００５９】
また、テーブル化手段４５は、Ｇ１〜Ｇ７説明変数ランキングデータ３１Ａ（図９）の各クラスタ毎の重要度から重要度割合を計算し、重要度割合テーブル４７を作成する（Ｓ１２）。図１３には、Ｇ１説明変数ランキングデータから重要度割合を計算し、Ｇ１重要度割合テーブルを作成する工程が示されている。これと同様にして、Ｇ２〜Ｇ７説明変数ランキングデータについても、これらからクラスタ毎に重要度割合を計算し、Ｇ２〜Ｇ７重要度割合テーブル４７（図１２）を作成することができる。
【００６０】
更に、テーブル化手段４５は、Ｇ１〜Ｇ７説明変数ランキングデータ３１Ａ（図９）の重要度を、不適‐説明変数テーブル４６における説明変数に共通する値で置換した説明変数‐共通値対応テーブル４８（図１０）を作成する（Ｓ１３）。図１４には、Ｇ１説明変数ランキングデータ（図１４（ａ））の重要度を、不適‐説明変数テーブル（図１４（ｂ））における説明変数に共通する値で置換した説明変数‐共通値対応テーブル（図１４（ｃ））が示されている。ここで、説明変数の値が同じでない場合（０と１が混在するなど）には、当該説明変数は用いられない。
【００６１】
また、テーブル化手段４５は、説明変数‐共通値対応テーブル４８（図１０）に基づき、説明変数と共通値を一体化した「説明変数＿共通値」をタイトルとし、ステップＳ１２において作成した重要度割合テーブル４７における上記説明変数に対応する重要度割合を取り出して「説明変数＿共通値」に対応付けた各クラスタ毎の説明変数＿共通値‐重要度割合テーブル５５（図１０）を作成する（Ｓ１４）。図１５には、説明変数‐共通値対応テーブル４８（図１５（ａ））に基づき、説明変数と共通値を一体化した「説明変数＿共通値」を項目（タイトル）とし（図１５（ｃ））、重要度割合テーブル（図１５（ｂ））における上記説明変数に対応する重要度割合を取り出して「説明変数＿共通値」に対応付けたＧ１クラスタの説明変数＿共通値‐重要度割合テーブル（図１５（ｃ））が作成されている。同様に、Ｇ２〜Ｇ７クラスタの説明変数＿共通値‐重要度割合テーブルについても作成を行う。
【００６２】
上記によりＧ１〜Ｇ７クラスタの説明変数＿共通値‐重要度割合テーブル５５が作成される。テーブル化手段４５は、Ｇ１〜Ｇ７クラスタの説明変数＿共通値‐重要度割合テーブル５５から全ての説明変数＿共通値を取り出して重複を削除し、項目（タイトル）とした説明変数＿共通値リスト５６を作成する（Ｓ１５）。図１６には、Ｇ１〜Ｇ７クラスタの説明変数＿共通値‐重要度割合テーブル５５‐１〜５５‐７（図１６（ａ））から全ての説明変数＿共通値を取り出してリストを作成し（図１６（ｂ））、重複を削除し、項目（タイトル）となる説明変数＿共通値リスト（図１６（ｃ））を得ることが示されている。
【００６３】
テーブル化手段４５は、縦方向に、先にクラスタリングにより分類されたクラスタの識別番号を割り当て、横方向に上記ステップＳ１５においてリスト化された説明変数＿共通値を並べてクラスタ毎‐説明変数＿共通値・重要度テーブル５７を作成する（Ｓ１６）。図１７には、このようにして作成され、未だ中身のデータが配置されていないクラスタ毎‐説明変数＿共通値・重要度テーブル５７が示されている。
【００６４】
続いてテーブル化手段４５は、上記クラスタ毎‐説明変数＿共通値・重要度テーブル５７に対し、ステップＳ１４において作成した各クラスタ毎の説明変数＿共通値‐重要度割合テーブル５５の内容データである重要度割合を全て、該当するクラスタ番号の行における該当する説明変数＿共通値の列に対応して設定する（図１１、Ｓ１７）。図１８には、Ｇ１クラスタの説明変数＿共通値‐重要度割合テーブル５５の内容データである重要度割合の全てを、クラスタ毎‐説明変数＿共通値・重要度テーブル５７の該当クラスタの行に設定した状態を示している。また、図１９には、全てのクラスタの説明変数＿共通値‐重要度割合テーブル５５の内容データである重要度割合の全てを、クラスタ毎‐説明変数＿共通値・重要度テーブル５７の該当クラスタの行に設定した状態を示している。以上のようにして各クラスタには、それぞれに一通りの説明変数＿共通値の重要度が定まる。上記で求められたクラスタ毎‐説明変数＿共通値・重要度テーブルを、単に重要度テーブル５８（図１１）と称し、重要度テーブル５８のデータを重要度テーブルデータと称する。
【００６５】
要因推定報知手段４４は、第２のクラスタリング手段２８を備えている。第２のクラスタリング手段２８は、上記テーブル化手段４５により作成された各クラスタの重要度テーブルデータの類似度に基づき、クラスタリングを行うものである。第２のクラスタリング手段２８によるクラスタリングについては、上記において作成したクラスタ毎‐説明変数＿共通値・重要度テーブル５７の重要度テーブルデータに対してクラスタリングを行う。即ち、この処理により各クラスタの重要度に対して、類似度に応じた分類が行われる。このクラスタリングで特徴が顕在化されたグループに分けられたクラスタは、含まれる説明変数が同一の配列パターンを含んでいる可能性が高いはずであると推定する。クラスタリングによる分類の判断として、どこを境界とするかについては、次に説明する解析処理手段２９による解析処理を行うことで判断することができる。ここに、パターンとは、目的変数が不適（ＦＡＩＬ）となる場合における説明変数の組合せ（入力順を含んでも良い）を指すものとする。
【００６６】
第２のクラスタリング手段２８にてクラスタリングを行うことで図２０に示す樹形図（テンドログラム）を生成することができる。解析処理手段２９は、上記第２のクラスタリング手段２８によるクラスタリングによって得られたクラスタを、上記重要度によりグループに分類するものである。別言すれば、解析処理手段２９は第２のクラスタリング手段２８の処理結果である樹形図について類似度に応じた分割数を決める（分類数を決める）処理を行う。解析処理では、樹形図について分割数を２からＮ（外部から指定可能）について図２１に示すフローチャートに対応する処理を行い、分割数（類似グループ数）を決める。
【００６７】
樹形図の最上の分岐点から順次下の分岐点においてグループ化する（Ｓ２１）。最初は、図２０に示すように、分岐点ｄ１〜ｄ４中の分岐点ｄ１において、２グループに分割する。ここでグループ化されたクラスタデータについてパターンマイニングを行い、図１７における各説明変数（列項目）の重要度を得る（Ｓ２２）。ここで重要度を基に信頼性を評価する指標値を求める（Ｓ２３）。指標値は、そのグループから候補として挙げる説明変数群が結果に対して正答できるかを意味するものとする。指標値を求めると、指標値が所定より低いかを判定し（Ｓ２４）、低い場合には、分割数を１増加させて（Ｓ２５）、ステップＳ２２へ戻って処理を続ける。ステップＳ２４においてＮＯとなると分割のグループ数を確定させて（Ｓ２６）、終了とする。
【００６８】
上記の処理によりＧ１〜Ｇ７クラスタを、２グループに分けた場合を図２２（ａ）に示し、３グループに分けた場合を図２２（ｂ）に示し、４グループに分けた場合を図２２（ｃ）に示す。本実施形態では、分割数を増やすごとに指標値を求めて評価する。この指標値は固定クラスタ数に分割されたデータを重要度の類似度や不適と関連する要因へ繋がる要因値あるいは要因値を含むものとすることができ、本実施形態では、指標値を以下のように算出することができる。
【００６９】
要因値に含まれる「信憑性値」
＜考え方＞
クラスタのレコードにおける説明変数の配列パターンの分類が完全にできていたとすると、最後にまとめられたクラスタをパターンマイニングした場合には、クラスタのレコードにおける配列パターンの同じ説明変数が重要度上位でかつ値が大きくなり、その説明変数がクラスタ内で同一値に一意に決まるはずであるという仮定の基に、分類の精度を表すための値である。
＜計算式＞
ソート条件：パターンマイングから算出した重要度ランキングが高い順から降順に並べ、上位から合計する。
対象：重要度の累計を算出し、それが閾値となるまで、説明変数に対応する重要度を合計する。
条件：１件ずつデータを検索し、同じクラスタで同一値になっていない説明変数に対応する重要度はゼロとする。
計算式：信憑性＝Σ重要度割合(%)÷(閾値/100)
「信憑性値」が低い場合の解釈（どうなると低くなるか）：
低い場合は「目的変数がＰＡＳＳとなるかＦＡＩＬとなるかを分ける要因の説明変数として重要であるが、同一値でない」説明変数が存在する場合。
・クラスタリングにおいて値の分離が不十分→同じＦＡＩＬの原因として分離できていない。
・○○以上という数値の大小で複数の値が、１レコードにおける説明変数の配列パターンに含まれている場合。
【００７０】
要因値に含まれる「エラー適合率」
＜考え方＞
配列パターンに含まれる説明変数が、目的変数をＦＡＩＬとするものとして適切であれば、その条件で検索できた全ての配列パターンによって目的変数がＦＡＩＬになる筈であるという仮定を基にして、全データを検索し当てはまった配列パターンの中から目的変数がＦＡＩＬとなった割合(%)を求めたものをエラー適合率としたものである。
＜計算式＞
全配列パターンの数をＡとする。
エラー適合率(%)＝Ａ中の目的変数がＦＡＩＬとなったパターンの数÷Ａのデータ数 * 100
「エラー適合率」が低い場合の解釈（どうなると低くなるか）
目的変数がＦＡＩＬとなるとして抽出したパターン内に、目的変数がＰＡＳＳとなるパターンが多く含まれている場合は低くなる。
目的変数がＦＡＩＬとなるとして抽出した説明変数が、目的変数がＦＡＩＬとなる原因とするには不十分である。
【００７１】
要因値としての「指標値」
＜考え方＞
１つの配列パターンに対する信憑性とエラー適合率の平均値。
配列パターンの精度を表現する指標の値。
＜計算式＞
指標値＝(信憑性＋エラー適合率) ÷２
【００７２】
この指標値を使用して、指標値が所定値より高い値を示すものを採用し、ステップＳ２４においてＮＯへ分岐する。高いと判断する値は外部から指定できるようにしても良い。あるデータを用いて、第２のクラスタリング手段２８によって重要度クラスタリングをおこない作成した樹形図について、分割数と指標値の関係を図２３と図２４に示す。図２３において、Ｒ−１の行を例にとると、分割数を変えても指標値に変化がなく、このデータ群は類似性が高くまとまっていることが分かる。分割数を増やすと類似性の高いグループでまとまった単位に分かれることになる。しかし、単純に指標値が最も高い時の分割数を求めることにしてしまうと、分割数が全クラスタ数に行きついてしまう。
【００７３】
図２４は、図２３のデータにおける平均値について分割数と指標値を座標として表したグラフである。このようなグラフにおいて、分割数と指標値の変化をパターン化すると、典型的には、図２５に示すように３パターンとなる可能がある。図２５（ａ）に示すパターンＡのように１度のピークがあり、そこから低下し更に上昇するパターンの場合には、上記ピークのときの値を分割数として採用することができる。また、図２５（ｂ）に示すパターンＢのように上昇から横這いとなる期間が存在し、その後に上昇するパターンの場合には、その横這い部分の値を分割数として採用することができる。更に、図２５（ｃ）に示すパターンＣのように上昇が連続するパターンの場合は、外部から指定した分割数を使用することができる。
【００７４】
本実施形態では、第２のパターンマイ二ング手段５１を備える。第２のパターンマイ二ング手段５１は、目的変数が適正であるレコードデータと上記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各グループ毎に説明変数のランキングを求めるパターンマイ二ングを行うものである。
【００７５】
即ち、先の図２２（ｃ）に示した例では、Ｇ１〜Ｇ７クラスタを、Ｇ１クラスタとＧ３クラスタの第１のグループ、Ｇ４クラスタのみの第２のグループ、Ｇ２クラスタとＧ５クラスタの第３のグループ、Ｇ６クラスタとＧ７クラスタの第４のグループに分類した。第１のグループのＧ１クラスタには、適不適情報が不適であるレコードデータＦ１が３レコード含まれ、Ｇ３クラスタには、適不適情報が不適であるレコードデータＦ１が４レコード含まれている。また、第２のグループのＧ４クラスタには、適不適情報が不適であるレコードデータＦ２が２レコード含まれ、第３のグループのＧ２クラスタとＧ５クラスタには適不適情報が不適であるレコードデータＦ３が、それぞれ２レコード含まれている。第４のグループのＧ６クラスタには、適不適情報が不適であるレコードデータＦ４が３レコード含まれ、Ｇ７クラスタには、適不適情報が不適であるレコードデータＦ５が３レコード含まれている。
【００７６】
上記で説明した、第１〜第４のグループに含まれているレコードデータと、目的変数が適正であるレコードデータ４０を用いて、図２６に示すように、グループ毎にパターンマイ二ングが行われる。パターンマイ二ングの実際の処理としては、次元圧縮手段２５や第１のパターンマイ二ング手段による処理において説明した手法を用いることができる。
【００７７】
上記のパターンマイニングを行い、第１のグループから第４のグループまでのグループ毎に、説明変数の重要度（目的変数の結果に影響を与えている度合）を得る。この結果の重要ランキングの上位から、前述の信憑性値、エラー適合率、指標値を基に高い値を示す説明変数を候補として選出する。選出された候補を報知する。報知は表示手段に表示することにより行う。これにより、類似性の高いレコードデータについて、目的変数がＰＡＳＳとなるかＦＡＩＬとなるかの分岐に最も寄与している可能性の高い説明変数群を予想することが可能となる。
【００７８】
以上のようにして、要因推定報知手段４４は上記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコード７０を推定し、報知する。報知は、表示装置への表示、プリンタによるプリントアウトなど適宜な手法が採用される。報知されるレコード７０の例は、図２７に示すようにすることができる。図２７において、「ＦＡＩＬ入力パターン（推定結果）」の欄に示される文字列が要因の説明変数と推定され、この欄におけるパターンで入力状となった場合、或いは内部状態設定情報である場合にＦＡＩＬとなることが予想されるものである。ここでは、レコードにより示したが、説明変数を１または複数示すようにしても良い。
【００７９】
本実施形態では、ＬＳＩの開発の場合を例に採ったが、プログラム開発等にも適用でき、その場合には説明変数はコマンドや数値等のデータとなるものである。
【符号の説明】
【００８０】
１０  不適要因指摘装置
１１  レコードデータ用意手段
１２  レコードデータテーブル
１４  適不適情報分離部
２０  データ用意部
２２  第１のパターンマイ二ング手段
２５  次元圧縮手段
２８  第２のクラスタリング手段
２９  解析処理手段
３０  要因解析部
３１  テーブル
３１Ａ  説明変数ランキングデータ
３２  テーブル
３３  適テーブル
３４  不適テーブル
３５  テーブル
３６  テーブル
４０  レコードデータ
４１  第１のクラスタリング手段
４２  重み付け手段
４４  要因推定報知手段
４５  テーブル化手段
４６  不適‐説明変数テーブル
４７  重要度割合テーブル
４８  説明変数‐共通値対応テーブル
５１  第２のパターンマイ二ング手段
７０  レコード
【図１】
2019191932.tif 000003
【図２】
2019191932.tif 000004
【図３】
2019191932.tif 000005
【図４】
2019191932.tif 000006
【図５】
2019191932.tif 000007
【図６】
2019191932.tif 000008
【図７】
2019191932.tif 000009
【図８】
2019191932.tif 000010
【図９】
2019191932.tif 000011
【図１０】
2019191932.tif 000012
【図１１】
2019191932.tif 000013
【図１２】
2019191932.tif 000014
【図１３】
2019191932.tif 000015
【図１４】
2019191932.tif 000016
【図１５】
2019191932.tif 000017
【図１６】
2019191932.tif 000018
【図１７】
2019191932.tif 000019
【図１８】
2019191932.tif 000020
【図１９】
2019191932.tif 000021
【図２０】
2019191932.tif 000022
【図２１】
2019191932.tif 000023
【図２２】
2019191932.tif 000024
【図２３】
2019191932.tif 000025
【図２４】
2019191932.tif 000026
【図２５】
2019191932.tif 000027
【図２６】
2019191932.tif 000028
【図２７】
2019191932.tif 000029
【手続補正書】
【提出日】令和1年7月25日(2019.7.25)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いる不適要因指摘装置において、
前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段と、
前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める次元圧縮手段と、
前記内部状態設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段と、
前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイニングを行う第１のパターンマイニング手段と、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段と
を具備することを特徴とする不適要因指摘装置。
【請求項２】
前記要因推定報知手段は、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うことを特徴とする請求項１に記載の不適要因指摘装置。
【請求項３】
前記要因推定報知手段は、各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知することを特徴とする請求項２に記載の不適要因指摘装置。
【請求項４】
前記要因推定報知手段は要因値として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めることを特徴とする請求項３に記載の不適要因指摘装置。
【請求項５】
前記要因推定報知手段は要因値として、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めることを特徴とする請求項３または４に記載の不適要因指摘装置。
【請求項６】
前記要因推定報知手段は、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めることを特徴とする請求項３に記載の不適要因指摘装置。
【請求項７】
前記要因推定報知手段は、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置した重要度テーブルデータを作成するテーブル化手段と、
前記テーブル化手段により作成された各クラスタの重要度テーブルデータの類似度に基づき、クラスタリングを行う第２のクラスタリング手段と、
前記第２のクラスタリング手段によるクラスタリングによって得られたクラスタを、前記重要度によりグループに分類する解析処理手段と、
目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各グループ毎に説明変数のランキングを求めるパターンマイニングを行う第２のパターンマイニング手段と、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する最終報知手段と
を具備することを特徴とする請求項１乃至６のいずれか１項に記載の不適要因指摘装置。
【請求項８】
前記第２のクラスタリング手段は、樹形図を作成してクループ分けすることを特徴とする請求項７に記載の不適要因指摘装置。
【請求項９】
前記次元圧縮手段は、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める処理に加えて、各レコードに含まれる説明変数中の重要度の低い説明変数を除去することを特徴とする請求項１乃至８のいずれか１項に記載の不適要因指摘装置。
【請求項１０】
内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いるコンピュータを、
前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段、
前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める次元圧縮手段、
前記内部状態設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段、
前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイニングを行う第１のパターンマイニング手段、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段
として機能させることを特徴とする不適要因指摘用プログラム。
【請求項１１】
前記コンピュータを前記要因推定報知手段として、説明変数のランキングに基づき説明変数の重要度割合を求め、報知を行うように機能させることを特徴とする請求項１０に記載の不適要因指摘用プログラム。
【請求項１２】
前記コンピュータを前記要因推定報知手段として、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置したテーブルデータを作成し、このテーブルデータのデータに基づき各クラスタにおけるレコードに含まれる説明変数の不適要因度合を示す要因値を求め、報知するように機能させることを特徴とする請求項１１に記載の不適要因指摘用プログラム。
【請求項１３】
前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めるように機能させることを特徴とする請求項１１に記載の不適要因指摘用プログラム。
【請求項１４】
前記コンピュータを前記要因推定報知手段として、要因値について、各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求めるように機能させることを特徴とする請求項１２または１３に記載の不適要因指摘用プログラム。
【請求項１５】
前記コンピュータを前記要因推定報知手段として、各クラスタの重要度割合の合計値と閾値に基づき信憑性値を求めると共に各クラスタにおいて全説明変数に対する不適説明変数の割合を示すエラー適合率を求め、更に要因値として、前記信憑性値と前記エラー適合率の平均値である指標値を求めるように機能させることを特徴とする請求項１２に記載の不適要因指摘用プログラム。
【請求項１６】
コンピュータを前記要因推定報知手段として、
各クラスタの説明変数を横方向に並べ、各クラスタの識別情報を縦方向に並べて各クラスタにおける説明変数の重要度割合を交差ポイントに設置した重要度テーブルデータを作成するテーブル化手段、
前記テーブル化手段により作成された各クラスタの重要度テーブルデータの類似度に基づき、クラスタリングを行う第２のクラスタリング手段、
前記第２のクラスタリング手段によるクラスタリングによって得られたクラスタを、前記重要度によりグループに分類する解析処理手段、
目的変数が適正であるレコードデータと前記グループに分類されたクラスタの元のレコードデータを用いて機械学習を行い、各グループ毎に説明変数のランキングを求めるパターンマイニングを行う第２のパターンマイニング手段、
前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する最終報知手段
として機能させることを特徴とする請求項１０乃至１５のいずれか１項に記載の不適要因指摘用プログラム。
【請求項１７】
前記コンピュータを前記第２のクラスタリング手段として、樹形図を作成してクループ分けするように機能させることを特徴とする請求項１６に記載の不適要因指摘用プログラム。
【請求項１８】
前記コンピュータを、前記次元圧縮手段として前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求め処理に加えて、各レコードに含まれる説明変数中の重要度の低い説明変数を除去するように機能させることを特徴とする請求項１０乃至１７のいずれか１項に記載の不適要因指摘用プログラム。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００１７
【補正方法】変更
【補正の内容】
【００１７】
本発明に係る不適要因指摘装置は、内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いる不適要因指摘装置において、前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段と、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める次元圧縮手段と、前記内部状態設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段と、前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイニングを行う第１のパターンマイニング手段と、前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段とを具備することを特徴とする。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】００２５
【補正方法】変更
【補正の内容】
【００２５】
本発明に係る不適要因指摘装置では、前記次元圧縮手段は、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める処理に加えて、各レコードに含まれる説明変数中の重要度の低い説明変数を除去することを特徴とすることを特徴とする。
【手続補正４】
【補正対象書類名】明細書
【補正対象項目名】００２６
【補正方法】変更
【補正の内容】
【００２６】
本発明に係る不適要因指摘用プログラムは、内部状態が設定され、入力が与えられると、所定の期待値出力を行う対象装置を検証する検証装置の結果を用いるコンピュータを、前記対象装置に設定する内部状態設定情報と入力する入力情報と、出力が期待値に対して適正か不適かを示す適不適情報とを並べたレコードデータを、複数の内部状態設定情報及びまたは複数の入力情報によって変化される複数のレコードを用意するレコードデータ用意手段、前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求める次元圧縮手段、前記内部状態設定情報と入力情報を説明変数とし、機械学習を行う第１のクラスタリング手段であって、目的変数が不適であるレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類する第１のクラスタリング手段、前記適不適情報を目的変数として、目的変数が適正であるレコードデータと前記クラスタに分類されたレコードデータを用いて機械学習を行い、各クラスタ毎に説明変数のランキングを求めるパターンマイニングを行う第１のパターンマイニング手段、前記ランキングに基づき不適と関連する不適要因である説明変数及びまたは当該不適要因である説明変数が含まれるレコードを推定し、報知する要因推定報知手段として機能させることを特徴とする。
【手続補正５】
【補正対象書類名】明細書
【補正対象項目名】００３４
【補正方法】変更
【補正の内容】
【００３４】
本発明に係る不適要因指摘用プログラムでは、前記コンピュータを、前記次元圧縮手段として前記レコードデータ用意手段により用意された複数のレコードに対して、パターンマイニングを行って説明変数の重要度を求め処理に加えて、各レコードに含まれる説明変数中の重要度の低い説明変数を除去するように機能させることを特徴とする。
【手続補正６】
【補正対象書類名】明細書
【補正対象項目名】００４０
【補正方法】変更
【補正の内容】
【００４０】
本実施形態では、機械学習を用いてデータ処理を行う。この機械学習において、上記内部状態設定情報と入力情報を説明変数とし、必要に応じて上記適不適情報を目的変数として処理を行う。このため、レコードデータ用意手段１１により用意されるレコードデータテーブル１２は図２に示すように記述することができる。即ち、検証本体装置１００においてシミュレーションが実行されたときに発行された管理用の実行番号が縦方向に付されており、１行が１レコードである。
【手続補正７】
【補正対象書類名】明細書
【補正対象項目名】００４８
【補正方法】変更
【補正の内容】
【００４８】
本実施形態では、第１のクラスタリング手段４１が備えられている。第１のクラスタリング手段４１は、上記内部状態設定情報と入力情報を説明変数とし、機械学習を行うものであって、適不適情報が不適である不適テーブル３４のレコードデータについて、含まれる説明変数の配列パターンに応じて複数のクラスタに分類するものである。
【手続補正８】
【補正対象書類名】明細書
【補正対象項目名】００５３
【補正方法】変更
【補正の内容】
【００５３】
図６における（重み大）の第１段説明変数や（重み中）の第２段説明変数についても、次元圧縮手段２５が説明変数の次元圧縮において使用した第１のパターンマイニング手段２２によって得られた重要度から重みを変更することも可能とする。また、例えば、外部からどの重みランクについて初期重みを変更するかの指定を行って、値を変更するようにしても良い。