(57)【要約】      （修正有）【課題】ラベルが付与されていないデータを学習データとして利用した、外れデータの影響を受け難い反教師学習を行うことを目的とする。【解決手段】学習データとしての正事例又は負事例のラベルが付与されていない、ラベルなしの複数のデータそれぞれの特徴量を抽出する特徴量抽出部２０１と、複数のデータそれぞれの特徴量に基づいて、複数のデータから外れデータを検出する検出処理を行い、外れデータを除いた複数のデータの特徴量を対象として検出処理を繰り返す外れ点検出部２０２と、外れ点検出部２０２による外れデータの検出結果に基づいて、外れデータの異常度を決定する異常度決定部２０３と、異常度に基づいて、データにラベルを付与するラベル判定部２０４とを有する。【選択図】図２
2017102865.tif 000002
【特許請求の範囲】
【請求項１】
学習データとしての正事例又は負事例のラベルが付与されていない、ラベルなしの複数のデータそれぞれの特徴量を抽出する抽出手段と、
前記複数のデータそれぞれの特徴量に基づいて、複数のデータから外れデータを検出する検出処理を行い、前記外れデータを除いた複数のデータの特徴量を対象として検出処理を繰り返す検出手段と、
前記検出手段による外れデータの検出結果に基づいて、外れデータの異常度を決定する異常度決定手段と、
前記異常度に基づいて、前記ラベルなしの複数のデータにラベルを付与する付与手段と
を有することを特徴とする情報処理装置。
【請求項２】
前記異常度決定手段は、前記外れデータとしての検出順に応じて前記異常度を決定することを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記付与手段は、前記異常度が高い順に第１の個数のデータに対し、負事例のラベルを付与することを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記付与手段は、前記異常度が低い順に第２の個数のデータに対し、正事例のラベルを付与することを特徴とする請求項２又は３に記載の情報処理装置。
【請求項５】
前記データは、外観検査において利用される検査対象物のデータであることを特徴とする請求項１乃至４何れか１項に記載の情報処理装置。
【請求項６】
前記データは、外観検査において利用される検査対象物のデータであり、
前記付与手段は、前記外観検査における正事例と負事例の発生比率に応じた数の前記データに対し、正事例及び負事例のラベルを付与することを特徴とする請求項１に記載の情報処理装置。
【請求項７】
前記抽出手段は、予め正事例又は負事例のラベルが付与されているラベル付きのデータをさらに処理対象とし、前記ラベル付きのデータの特徴量を抽出し、
前記検出手段は、前記ラベルなしのデータ及び前記ラベル付きのデータそれぞれの特徴量に基づいて前記検出処理を行うことを特徴とする請求項１乃至６何れか１項に記載の情報処理装置。
【請求項８】
前記抽出手段は、予め負事例のラベルが付与されているラベル付きのデータの特徴量をさらに抽出し、
前記検出手段は、前記ラベルなしのデータ及び前記ラベル付きのデータそれぞれの特徴量に基づいて前記検出処理を行い、
前記外れデータとして検出された前記ラベルなしのデータ及び前記ラベル付きのデータの異常度に基づいて、前記ラベルなしのデータの中から、負事例のデータを選択するデータ選択手段をさらに有し、
前記付与手段は、前記データ選択手段により選択された前記ラベルなしのデータに対し、負事例のラベルを付与することを特徴とする請求項１又は２に記載の情報処理装置。
【請求項９】
前記ラベルなしのデータ及びラベル付きのデータの異常度に基づいて、前記異常度の閾値を決定する閾値決定手段をさらに有し、
前記データ選択手段は、前記閾値以上の異常度の前記データを負事例として選択することを特徴とする請求項８に記載の情報処理装置。
【請求項１０】
前記付与手段は、前記外れデータとして検出されなかったラベルなしのデータに対し、正事例のラベルを付与することを特徴とする請求項８又は９に記載の情報処理装置。
【請求項１１】
前記付与手段によりラベルが付与された対象データを学習データとして利用することにより、前記付与手段により前記ラベルが付与されなかったラベルなしのデータの識別を行う識別手段をさらに有することを特徴とする請求項１乃至１０何れか１項に記載の情報処理装置。
【請求項１２】
前記検出手段は、１クラス識別器を用いて前記検出処理を行うことを特徴とする請求項１乃至１１何れか１項に記載の情報処理装置。
【請求項１３】
前記１クラス識別器は、１クラスＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）であることを特徴とする請求項１２に記載の情報処理装置。
【請求項１４】
前記１クラス識別器は、部分空間法であることを特徴とする請求項１２に記載の情報処理装置。
【請求項１５】
前記識別手段は、２クラス判別の識別器を用いた識別を行うことを特徴とする請求項１１に記載の情報処理装置。
【請求項１６】
前記識別手段は、半教師学習を用いて識別を行うことを特徴とする請求項１１に記載の情報処理装置。
【請求項１７】
前記識別手段は、Ｔｒａｎｓｄｕｃｔｉｖｅ  ＳＶＭで識別を行うことを特徴とする請求項１６に記載の情報処理装置。
【請求項１８】
情報処理装置が実行する情報処理方法であって、
学習データとしての正事例又は負事例のラベルが付与されていない、ラベルなしの複数のデータそれぞれの特徴量を抽出する抽出ステップと、
前記複数のデータそれぞれの特徴量に基づいて、複数のデータから外れデータを検出する検出処理を行い、前記外れデータを除いた複数のデータの特徴量を対象として検出処理を繰り返す検出ステップと、
前記検出ステップにおける外れデータの検出結果に基づいて、外れデータの異常度を決定する異常度決定ステップと、
前記異常度に基づいて、前記データにラベルを付与する付与ステップと
を含むことを特徴とする情報処理方法。
【請求項１９】
コンピュータを、
学習データとしての正事例又は負事例のラベルが付与されていない、ラベルなしの複数のデータそれぞれの特徴量を抽出する抽出手段と、
前記複数のデータそれぞれの特徴量に基づいて、複数のデータから外れデータを検出する検出処理を行い、前記外れデータを除いた複数のデータの特徴量を対象として検出処理を繰り返す検出手段と、
前記検出手段による外れデータの検出結果に基づいて、外れデータの異常度を決定する異常度決定手段と、
前記異常度に基づいて、前記データにラベルを付与する付与手段と
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【０００２】
従来、工場におけるキズ検査等に用いられるマシンビジョンにおいて、検査対象物を撮影した画像に対して、画素値の平均等の多様な特徴量群を用いた、検査対象物の良否判定（良品と不良品の２クラス判別）を行うものが知られている。この方法では、予めラベルが付いたデータ（学習データ）を用意する必要がある。
【０００３】
一方、テキスト分析の分野で半教師付き学習、つまりラベルが付いたデータに加えて、ラベルが付いていないデータを有効に使う手法が提案されている。このような技術として、特許文献１には、ラベル付きの学習データを利用して、ラベルが付いていないデータの予測を行って確信度を求め、確信度の上位のデータを学習に加えることにより、再学習を繰り返す手法が開示されている。また、非特許文献１には、想定外のデータ、つまり外れ点（外れデータ）に対応する技術が開示されている。この技術は、１クラスの識別器を用いて、認識スコアを算出し、はずれ度合いを算出する手法が提案されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】米国特許第５５４１８３６号明細書
【非特許文献】
【０００５】
【非特許文献１】Scholkopf,  B.,  J.  Platt,  J.Shawe-Taylor,  A.  Smola,  and  R.C.  Williamson.  Estimating  the  support  of  a  high-dimensional  distribution.  Neural  Computation  13(7),  1433-1471,  2001.
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、特許文献１の技術では、特徴空間上において、ラベルが付いていないデータの近傍にラベルが付いているデータが存在することが前提となっている。このため、ラベルが付いていないデータの中に、想定外の不良が現れた場合には、必ずしも正しい良否判定が行えるとは限らない。また、非特許文献１の技術では、ラベルの付いていないデータを良品データであると仮定して、モデルを生成しているため、正常データのみを使ってモデルを作る手法と比べて、精度が落ちることが予想される。
【０００７】
本発明はこのような問題点に鑑みなされたもので、ラベルが付与されていないデータを学習データとして利用した、外れデータの影響を受け難い反教師学習を行うことを目的とする。
【課題を解決するための手段】
【０００８】
そこで、本発明は、情報処理装置であって、学習データとしての正事例又は負事例のラベルが付与されていない、ラベルなしの複数のデータそれぞれの特徴量を抽出する抽出手段と、前記複数のデータそれぞれの特徴量に基づいて、複数のデータから外れデータを検出する検出処理を行い、前記外れデータを除いた複数のデータの特徴量を対象として検出処理を繰り返す検出手段と、前記検出手段による外れデータの検出結果に基づいて、外れデータの異常度を決定する異常度決定手段と、前記異常度に基づいて、前記データにラベルを付与する付与手段とを有することを特徴とする。
【発明の効果】
【０００９】
本発明によれば、ラベルが付与されていないデータを学習データとして利用した、外れデータの影響を受け難い反教師学習を行うことができる。
【図面の簡単な説明】
【００１０】
【図１】情報処理装置と、撮影装置と、を示す図である。
【図２】情報処理装置のソフトウェア構成を示す図である。
【図３】学習処理を示すフローチャートである。
【図４】Ｈａａｒ  Ｗａｖｅｌｅｔ変換の説明図である。
【図５】Ｔ（ｘ）の関数を示す図である。
【発明を実施するための形態】
【００１１】
以下、本発明の実施形態について図面に基づいて説明する。
【００１２】
図１は、第１の実施形態に係る情報処理装置１００と、撮影装置１１０と、を示す図である。本実施形態においては、情報処理装置１００は、検査対象物の外観検査において、検査対象物の撮影画像に基づいて、良品（正事例）であるか不良品（負事例）であるかの良否判定を行うものとする。ここで、検査対象物は、例えば検査部品等である。撮影装置１１０は、予め設定された撮影パラメータに基づいて、検査対象物１２０の画像を撮影する。撮影装置１１０により撮影された撮影画像は、情報処理装置１００に入力される。情報処理装置１００は、撮影装置１１０により撮影された撮影画像で、ラベルが付与されていない撮影画像に対し、ラベルを推定する。なお、情報処理装置１００は、ラベルを推定する際には、ラベルが付与されていない撮影画像だけでなく、ラベルが付与されている撮影画像も学習データとして利用する。但し、他の例としては、情報処理装置１００は、ラベルを推定する際に、ラベルが付与されていない撮影画像のみを利用してもよい。また、ラベルとしては、良品（正事例）であることを示す良品のラベルと、不良品（負事例）であることを示す不良品のラベルがある。
【００１３】
情報処理装置１００は、ＣＰＵ１０１と、ＲＯＭ１０２と、ＲＡＭ１０３と、ＨＤＤ１０４と、表示部１０５と、入力部１０６と、通信部１０７とを有している。ＣＰＵ１０１は、ＲＯＭ１０２に記憶された制御プログラムを読み出して各種処理を実行する。ＲＡＭ１０３は、ＣＰＵ１０１の主メモリ、ワークエリア等の一時記憶領域として用いられる。ＨＤＤ１０４は、画像データや各種プログラム等各種情報を記憶する。なお、後述する情報処理装置１００の機能や処理は、ＣＰＵ１０１がＲＯＭ１０２又はＨＤＤ１０４に格納されているプログラムを読み出し、このプログラムを実行することにより実現されるものである。
【００１４】
表示部１０５は、各種情報を表示する。表示部１０５は例えば、良品判定の結果を表示する。入力部１０６は、キーボードやマウスを有し、ユーザによる各種操作を受け付ける。通信部１０７は、ネットワークを介して外部装置との通信処理を行う。なお、撮影装置１１０は、情報処理装置１００と一体に設けられていてもよい。
【００１５】
図２は、情報処理装置１００のソフトウェア構成を示す図である。情報処理装置１００は、特徴量抽出部２０１と、外れ点検出部２０２と、異常度決定部２０３と、ラベル判定部２０４と、ラベル識別部２０５と、を有している。前述の通り、本実施形態に係る情報処理装置１００においては、ラベルが付与されている撮影画像及びラベルが付与されていない撮影画像の両方を処理対象として処理を行う。以下、ラベルが付与されている撮影画像をラベル付きデータ、ラベルが付与されていない撮影画像をラベルなしデータと、称することとする。また、良品のラベルが付与されたラベル付きデータ、不良品のラベルが付与されたラベル付きデータをそれぞれ良品ラベル付きデータ、不良品ラベル付きデータと称することとする。また、処理対象となるラベル付きデータ及びラベルなしデータを、対象データと称することとする。対象データは、撮影装置１１０から入力されてもよく、また、情報処理装置１００のＨＤＤ１０４等の記憶部に予め記録されていてもよい。
【００１６】
特徴量抽出部２０１は、複数の対象データそれぞれから所定の特徴量を抽出する。外れ点検出部２０２は、特徴量に基づいて、複数の対象データの中から、外れデータである外れ点を検出する。異常度決定部２０３は、外れ点検出部２０２により外れ点として検出された対象データそれぞれの異常度を決定する。ラベル判定部２０４は、異常度に基づいて、確信度の高いラベルなしデータに対し、良品又は不良品のラベルを推定し、ラベルを付与する。ラベル識別部２０５は、ラベル判定部２０４によりラベルが付与されたラベルなしデータ及びラベル付きデータを学習データとして利用し、ラベルが付与されていないラベルなしデータのラベルを識別し、ラベルを付与する。なお、各部の処理については、図３を参照しつつ詳述する。
【００１７】
図３は、情報処理装置１００による学習処理を示すフローチャートである。なお、本実施形態においては、処理対象のデータ群は、良品ラベル付きデータＮ＿ｏｋ個、不良品ラベル付きデータＮ＿ｎｇ個、ラベルなしデータＮ＿ｕ個を含むものとする。Ｓ３０１において、特徴量抽出部２０１は、処理対象のデータ群を、良品ラベル付きデータ、不良品ラベル付きデータ、ラベルなしデータの３つに分類し、各データの特徴量を抽出する（抽出処理）。
【００１８】
ここで、特徴量抽出処理について説明する。特徴量抽出処理において、統計的特徴量を用いる場合は、良品ラベル付きデータＮ＿ｏｋ個、不良品ラベル付きデータＮ＿ｎｇ個、ラベルなしデータＮ＿ｕ個、それぞれから特徴量を算出する。特徴量算出方法として、画像の注目領域に対して、Ｈａａｒ  Ｗａｖｅｌｅｔ変換をかけて、階層的に画像を生成し、統計量を算出する方法を説明する。Ｈａａｒ  Ｗａｖｅｌｅｔ変換は、簡単に述べると、位置情報を保持したまま周波数変換できる処理である。
【００１９】
図４は、Ｈａａｒ  Ｗａｖｅｌｅｔ変換の説明図である。まず、対象画像に対して、４種類のフィルタ
【数１】
2017102865.tif 000003
を用意する。ここで、一つ目のフィルタは縦方向高周波数成分フィルタを示す。二つ目のフィルタは、横方向高周波数成分フィルタを示す。三つ目のフィルタは、対角方向高周波数成分フィルタを示す。四つ目のフィルタは、低周波数成分フィルタを示す。対象画像の２×２の領域に対して、上記のフィルタで内積をとる。２×２の領域を重ね合わせることなく、移動させて、解像度が２分の１になるように、縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の四種類の画像を生成する。この際、解像度を２分の１するので、例えば、Ｈａａｒ  Ｗａｖｅｌｅｔ変換を７回するのであれば、画像サイズは２の７乗の倍数に設定しておくのが好ましい。
【００２０】
算出された低周波成分画像から四種類のフィルタを用意して、さらに解像度が２分の１となるような、次の階層に当たる縦方向高周波成分画像、横方向高周波成分画像、対角方向高周波成分画像、低周波成分画像の四種類の画像を生成する。さらに低周波数成分画像にフィルタをかけ続けることにより、階層的に画像を生成する。ここでは１階層から７階層までの２８画像と原画像を加えた２９画像を用意する。
【００２１】
Ｈａａｒ  Ｗａｖｅｌｅｔ変換を行っていない変換前の画像、Ｈａａｒ  Ｗａｖｅｌｅｔ変換をかけた各階層画像の２９種類の画像から、ｍａｘ（ｐ）、（式１）で示されるｍｅａｎ（ｐ）、（式２）で示されるｖａｒ（ｐ）の３つの特徴量を算出する。
【数２】
2017102865.tif 000004
ここで、画像のサイズは縦ａ画素、横ｂ画素の画像の縦i番目、横j番目の画素値をｐ（ｉ，ｊ）で表す。画像データから算出された２９種類の画像に対して、マクロな特徴量を３種類算出する。よって、特徴量を２９×３＝８７個（以下Ｎ＿ｆ個とする）抽出する。良品ラベル付きデータＮ＿ｏｋ個、不良品ラベル付きデータＮ＿ｎｇ個、ラベルなしデータＮ＿ｕ個、それぞれからＮ＿ｆ個の特徴量を算出する。
【００２２】
良品ラベル付きデータから得られる特徴量の特徴ベクトル、不良品ラベル付きデータから得られる特徴量の特徴ベクトル、ラベルなしデータから得られる特徴量の特徴ベクトルは、それぞれ以下の通りである。
良品ラベル付きデータ    ：  ｘ＿ｏ１，…，ｘ＿ｏＮ＿ｏｋ∈Ｒ＾Ｎ＿ｆ
不良品ラベル付きデータ  ：  ｘ＿ｎ１，…，ｘ＿ｎＮ＿ｎｇ∈Ｒ＾Ｎ＿ｆ
ラベルなしデータ        ：  ｘ＿ｕ１，…，ｘ＿ｕＮ＿ｕ∈Ｒ＾Ｎ＿ｆ
また、ｍａｘ（ｐ）、ｍｅａｎ（ｐ）及びｖａｒ（ｐ）を要素とする特徴ベクトルｘを用いて、特徴ベクトルが算出される。
【００２３】
次に、Ｓ３０２において、外れ点検出部２０２は、外れ点検出処理を行う。ここで、外れ点検出処理とは、処理対象のデータ群から得られた特徴量を利用して、１クラス識別器を用いて外れ点を検出する処理である。すなわち、外れ点検出部２０２は、良品ラベル付きデータの特徴量、不良品ラベル付きデータの特徴量、ラベルなしデータの特徴量、すべてを用いて、１クラス識別器により、外れ点を検出する。
【００２４】
次に、Ｓ３０３において、外れ点検出部２０２は、外れ点検出処理において外れ点が検出されたか否かを確認する。外れ点検出部２０２は、外れ点が検出された場合には（Ｓ３０３でＹｅｓ）、処理をＳ３０４へ進める。Ｓ３０４において、外れ点検出部２０２は、検出された外れ点を処理対象のデータ群から除外する。そして、外れ点検出部２０２は、処理をＳ３０２へ進める。この場合、Ｓ３０２において、外れ点検出部２０２は、外れ値として検出されたデータが除外されたデータ群を新たな処理対象として、外れ点検出処理を行う。すなわち、Ｓ３０２〜Ｓ３０４の処理は、外れ点検出処理を繰り返す検出処理の一例である。
【００２５】
ここで、Ｓ３０２〜Ｓ３０４において、処理対象のデータ群から求めた特徴ベクトルに対し、外れ点検出処理を繰り返す処理の詳細について説明する。外れ点検出の手法として、カーネル法を用いた１クラスＳＶＭを用いる手法を説明する。
【００２６】
特徴ベクトルをｘ＿１，…，ｘ＿ｎとしたときの、カーネル法の線形結合により、１クラスＳＶＭ（Ｓｕｐｐｏｒｔ  Ｖｅｃｔｏｒ  Ｍａｃｈｉｎｅ）の識別関数は、以下のように示せる。
【数３】
2017102865.tif 000005
この２次計画問題を解くと、
【数４】
2017102865.tif 000006
この学習をカーネルトリックを用いて、非線形拡張すると、識別関数は、
【数５】
2017102865.tif 000007
となり、
【数６】
2017102865.tif 000008
と変形できる。
【００２７】
また、この学習問題に対して、外れ点検出部２０２は。外れ点（原点側にあるサンプル）の割合の上限νを０．１程度に設定し、ラベルなしデータから、外れ点を順に検出する。そして、外れ点検出部２０２は、外れ点として選ばれたデータを処理対象のデータ群から除外して得られた新たな処理対象のデータ群に対し外れ点検出処理を繰り返す。すなわち、外れ点検出部２０２は、１クラスＳＶＭを複数回繰り返す。そして、外れ点検出部２０２は、ラベルなしデータ及び不良品ラベル付きデータに関しては、外れ点として検出された場合に、処理対象のデータ群から除外する。一方で、外れ点検出部２０２は、良品ラベル付きデータについては、外れ点として検出された場合でも、処理対象のデータ群から除外しない。
【００２８】
処理対象のデータ群から、ｆ（ｘ）の値が−１のデータが外れ点として検出され、処理対象のデータ群から除外される処理が繰り返される。このため、νの値が０．１と小さすぎると、検出できなくなる。よって、外れ点検出部２０２は、外れ点検出処理を繰り返すにつれて、νの値を徐々に大きく設定することとする。外れ点検出を繰り返すことにより、外れ点によらないモデルが生成され、より正確に外れ点を検出できるようになる。
【００２９】
一方で、Ｓ３０３において、外れ点検出部２０２は、外れ点が検出されなかった場合には（Ｓ３０３でＮｏ）、処理をＳ３０５へ進める。Ｓ３０５において、異常度決定部２０３は、外れ点検出処理における検出結果に基づいて、Ｓ３０２〜Ｓ３０４の繰り返し処理において得られた複数の外れ点それぞれの異常度を決定する（異常度決定処理）。具体的には、異常度決定部２０３は、まず複数の外れ点を外れ点検出部２０２による検出順に並べ、検出順が先の外れ点に対し、より大きい異常度を割り当てる。なお、同じ外れ点検出処理において複数の外れ点が検出された場合には、Ｈ（ｘｉ，ｘ）の値がより低いデータに対し、より高い異常度を割り当てる。
【００３０】
次に、Ｓ３０６において、ラベル判定部２０４は、各データの異常度に基づいて、良品及び不良品のデータを選択する。そして、ラベル判定部２０４は、良品として選択したデータに良品のラベルを付与する（付与処理）。ラベル判定部２０４はまた、不良品として選択したデータに不良品のラベルを付与する。具体的には、ラベル判定部２０４は、異常度が低い順に第１の個数のデータを良品として選択し、異常度が高い順に第２の個数のデータを不良品として選択する。ここで、第１の個数及び第２の個数は予めＨＤＤ１０４等に設定されているものとする。また、第１の個数及び第２の個数は、等しい数でもよく異なる数でもよい。
【００３１】
次に、Ｓ３０７において、ラベル識別部２０５は、Ｓ３０６においてラベルが付与されたデータと、予めラベルが付与されているラベル付きデータと、を学習データとして設定する。そして、ラベル識別部２０５は、学習データを利用し、Ｓ３０６においてラベルが付与されていないデータを処理対象として、２クラス識別を行う（識別処理）。２クラス判別の識別器に関しては、ＳＶＭを利用する。ＳＶＭについては、以下の文献を参照することができる。
Vapnik,  V.N.,  The  nature  of  statistical  learning  theory.  Springer,  1995.
【００３２】
以上のように、情報処理装置１００は、外れ点検出処理を繰り返し行うことにより、外れ点を検出し、各外れ点の異常度に基づいて、ラベルなしデータに対しラベルを付与する。さらに、情報処理装置１００は、異常度に基づく処理においてラベルが付与されなかった、ラベルなしデータに対しては、ラベルの識別によりラベルを付与する。このように、情報処理装置１００は、外れ点に対応した正確な半教師学習を行うことができる。
【００３３】
なお、第１の実施形態の第１の変更例としては、外れ点検出部２０２は、１クラスＳＶＭを用いることとしたが、これに替えて部分空間法等の１クラス識別器を用いてもよい。
【００３４】
第２の変更例としては、第１の個数及び第２の個数は、検査対象物が安定して生産された際の良品と不良品の発生比率に応じて決定されてもよい。例えば、発生比率と、良品の第１の個数と、に基づいて、不良品の第２の個数を決定し、管理者等がこれらの値を情報処理装置１００に登録してもよい。また、他の例としては、管理者等が入力部１０６を介して、発生比率と第１の個数と、を入力し、ＣＰＵ１０１が、発生比率と第１の個数とに基づいて、不良品の第２の個数を算出し、第１の個数と第２の個数を記憶部に登録してもよい。このように、発生比率を加味することにより、適切な学習データを生成することができる。
【００３５】
第３の変更例としては、情報処理装置１００は、異常度に基づいて、ラベルなしデータの中から良品及び不良品のデータを選択すればよく、そのための処理は、実施形態に限定されるものではない。例えば、ラベル判定部２０４は、不良品ラベル付きデータの異常度のうち最も小さい値を閾値として決定してもよい（閾値決定処理）。この場合、ラベル判定部２０４は、異常度が閾値以上のデータを不良品として選択する（データ選択処理）。一方で、ラベル判定部２０４は、外れ点として検出されなかった、ラベルなしデータを、良品データとして選択する。このように、不良品ラベル付きデータを利用することにより、適切な学習データを生成することができる。
【００３６】
第４の変更例について説明する。本実施形態に係る情報処理装置１００は、図３を参照しつつ説明したＳ３０７の処理において、学習データを用いた教師あり学習により、ラベルなしデータのラベルの識別を行った。ラベル識別部２０５は、本処理に替えて、半教師学習により、ラベルなしデータのラベルの識別を行ってもよい。すなわち、ラベル識別部２０５は、Ｓ３０６において、ＳＶＭに替えて、Ｔｒａｎｓｄｕｃｔｉｖｅ  ＳＶＭ（ＴＳＶＭ）を利用する。ＴＳＶＭは、半教師学習に対応するために、ＳＶＭを改良したものであり、ラベルがついていないテストデータの情報をすべて使ってモデルを生成し、テストデータのラベルを付加する手法である。ＴＳＶＭについては、以下の文献を参照することができる。
Thorsten  Joachims,  Transductive  Inference  for  Text  Classification  using  Support  Vector  Machines.  International  Conference  on  Machine  Learning  (ICML),  1999.
【００３７】
（式４）は、ＴＳＶＭの学習問題である。
【数７】
2017102865.tif 000009
（式４）で示された学習問題のうち、第１項と第２項は２クラスＳＶＭの学習問題と同一問題でラベルが付いているデータにのみ関係する。また、第３項は、ラベルが付いていないデータにのみに関係する項で、マージンにラベル付いていないデータがあったときのペナルティを示す。
【数８】
2017102865.tif 000010
に関しては、値を固定し、徐々に値を増加させながら、最適解を算出する。
【００３８】
また、図５は、Ｔ（ｘ）の関数を示す図である。Ｔ（ｘ）はマージンに対するペナルティに対する関数である。Ｔ（ｘ）のｘ＝１は、正のサポートベクトルを示し、Ｔ（ｘ）のｘ＝−１は、負のサポートベクトルを示す。ｘ＝０はマージンの中央を示し、ペナルティが最大となるように値が最大となる線形の関数となっている。なお、その他にもマージンに対する損失関数は存在するが、今回はこの損失関数を用いる。
【００３９】
通常ＴＳＶＭは、ラベルが付いているデータで（式４）の第１項と第２項を算出し、ラベル付いていないデータで（式４）の第３項を算出する。これに対し、本変更例においては、Ｓ３０６において、ラベル識別部２０５は、ラベルが付与されたデータについては、第１項と第２項の算出に利用することとする。ラベル識別部２０５はまた、ラベルが付与されなかった、ラベルなしデータについては、（式４）の第３項の算出に利用することとする。
【００４０】
これにより、ラベルなしデータのうち、Ｓ３０６においてラベルが付与されたデータについては、教師データとして利用することができる。したがって、より精度の高いＴＳＶＭでラベルの識別を行うことができる。このように、本変更例においては、異常度に基づいて、ラベルなしデータのラベルをある程度決定した上で、半教師識別器に適用することにより精度の高い識別を行うことができる。
【００４１】
以上、上述した各実施形態によれば、ラベルが付与されていないデータを学習データとして利用した、外れ点の影響を受け難い反教師学習を行うことができる。
【００４２】
以上、本発明の好ましい実施形態について詳述したが、本発明は係る特定の実施形態に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。
【００４３】
（その他の実施例）
本発明は、上述の実施形態の１以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける１つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、１以上の機能を実現する回路（例えば、ＡＳＩＣ）によっても実現可能である。
【符号の説明】
【００４４】
１００  情報処理装置
１１０  撮影装置
【図１】
2017102865.tif 000011
【図２】
2017102865.tif 000012
【図３】
2017102865.tif 000013
【図４】
2017102865.tif 000014
【図５】
2017102865.tif 000015