(57)【特許請求の範囲】
【請求項１】
欠陥の種別が付与されていない画像の集合であるフォルダを階層的に表示する未付与ペイン領域と、前記未付与ペイン領域に表示された欠陥の種別が付与されていない画像を表示する画像ペイン領域と、欠陥の種別が付与されている画像を表示するクラスペイン領域を備え、
該欠陥の種別が付与されていない画像に対して外部から欠陥の種別が入力されると、該入力された欠陥の種別が表示され、
前記未付与ペイン領域に表示されたフォルダを前記クラスペイン領域に移動する際に該移動するフォルダの欠陥の種別を入力する入力画面が表示されることを特徴とする分類装置。
【請求項２】
前記移動するフォルダの欠陥の種別が前記クラスペイン領域に表示されていない場合は、該移動するフォルダの欠陥の種別を表示することを特徴とする請求項１に記載の分類装置。
【請求項３】
欠陥の種別が付与されていない画像の集合であるフォルダを階層的に表示する未付与ペイン領域と、前記未付与ペイン領域に表示された欠陥の種別が付与されていない画像を表示する画像ペイン領域と、欠陥の種別が付与されている画像を表示するクラスペイン領域を備え、
該欠陥の種別が付与されていない画像に対して外部から欠陥の種別が入力されると、該入力された欠陥の種別が表示され、
前記未付与ペイン領域のフォルダが前記クラスペイン領域に移動する際に、該移動するフォルダに対応する欠陥の種別が入力されることを特徴とする分類装置。
【請求項４】
前記移動するフォルダに含まれる画像に、前記入力された欠陥の種別が付与されることを特徴とする請求項１乃至３のいずれか１項に記載の分類装置。
【請求項５】
前記欠陥の種別が付与されている画像の集合であるフォルダを階層的に表示する付与ペイン領域を有することを特徴とする請求項１乃至４のいずれか１項に記載の分類装置。
【請求項６】
前記未付与ペイン領域に表示された階層的なフォルダのうち一のフォルダに分けられている画像が所定のクラスである割合は、該一のフォルダよりも上位のフォルダに分けられている画像が該所定のクラスである割合よりも高いことを特徴とする請求項１乃至５のいずれか１項に記載の分類装置。
【請求項７】
前記クラスペイン領域に表示されている画像に対応するフォルダが選択されると、該選択されたフォルダに含まれる画像を前記画像ペイン領域に表示することを特徴とする請求項１乃至６のいずれか１項に記載の分類装置。
【請求項８】
前記画像ペイン領域は、前記画像ペイン領域に表示された画像を該画像の特徴量に基づいて並び替えるためのソート機能を有することを特徴とする請求項１乃至７のいずれか１項に記載の分類装置。
【請求項９】
欠陥の種別が付与されていない画像の集合であるフォルダを階層的に表示する未付与ペイン領域と、前記未付与ペイン領域に表示された欠陥の種別が付与されていない画像を表示する画像ペイン領域と、欠陥の種別が付与されている画像を表示するクラスペイン領域を備え、
該欠陥の種別が付与されていない画像に対して外部から欠陥の種別が入力されると、該入力された欠陥の種別が表示され、
前記未付与ペイン領域に表示されたフォルダを選択すると、該選択したフォルダに接続されている下層のフォルダの代表画像を前記画像ペイン領域に表示することを特徴とする分類装置。
【請求項１０】
欠陥の種別が付与されていない画像の集合であるフォルダを階層的に表示する未付与ペイン領域と、前記未付与ペイン領域に表示された欠陥の種別が付与されていない画像を表示する画像ペイン領域と、欠陥の種別が付与されている画像を表示するクラスペイン領域を備え、
該欠陥の種別が付与されていない画像に対して外部から欠陥の種別が入力されると、該入力された欠陥の種別が表示され、
前記未付与ペイン領域に表示された所定の層が選択されると、該選択された層に存在するフォルダの代表画像が表示されることを特徴とする分類装置。
【請求項１１】
前記未付与ペイン領域に表示されたフォルダを選択する際は、スライドバーまたはコンボボックスによって指定されることを特徴とする請求項１０記載の分類装置。
【請求項１２】
前記画像ペイン領域に表示された画像が前記クラスペイン領域に移動すると、該移動した画像に対応する前記画像ペイン領域のフォルダが削除されることを特徴とする請求項１乃至１１のいずれか１項に記載の分類装置。
【請求項１３】
前記未付与ペイン領域に表示された階層構造のフォルダに対応する画像は、外部から入力された特徴量の種類に基づいて該階層構造のフォルダに振り分けられたことを特徴とする請求項１乃至１２のいずれか１項に記載の分類装置。
【請求項１４】
前記クラスペイン領域に表示されている画像に対応するフォルダが選択されると、該選択されたフォルダの下層のフォルダを表示することを特徴とする請求項７に記載の分類装置。
【請求項１５】
前記フォルダの階層は、ＡＤＣとは異なる特徴量を用いて生成されることを特徴とする請求項１乃至６のいずれか１項に記載の分類装置。
【請求項１６】
分類装置において、さらに、
被検査対象物の表面に電子線を照射し、該被検査対象物の表面から発生した電子を検出し、検出した電子を画像に変換する画像撮像部と、
前記画像撮像部にて変換した画像を処理して該画像の特徴量を算出する画像特徴算出部と、前記画像特徴算出部により算出した該画像の特徴量を用いて該画像を含むフォルダの階層構造を生成する階層構造生成部と、前記階層構造生成部で生成された階層構造のフォルダに対して外部から欠陥の種別が入力された場合に該フォルダの画像に対して欠陥の種別を付与する欠陥の種別付与部を備える処理部と、を備えることを特徴とする、請求項１乃至１５のいずれか１項に記載の分類装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、半導体ウェーハ上を撮像した画像に対するＧＵＩ、分類装置、分類方法及びプログラムを記憶した記憶媒体に関するものである。
【背景技術】
【０００２】
半導体の製造プロセスにおいて、歩留まりを向上させるため、半導体ウェーハ上の欠陥の発生原因を早急に究明することが重要となっている。現状、半導体製造現場においては、欠陥検査装置と欠陥観察装置を用いて欠陥の解析を行っている。
【０００３】
欠陥検査装置とは光学的な手段もしくは電子線を用いてウェーハを観測し、検出された欠陥の位置座標を出力する装置である。欠陥検査装置は広範囲を高速に処理することが重要であるため、可能な限り取得する画像の画素サイズを大きく（つまり低解像度化）することによる画像データ量の削減を行っており、多くの場合、検出した低解像度の画像からは欠陥の存在は確認できても、その欠陥の種類（欠陥種）を詳細に判別することは困難である。
【０００４】
そこで、欠陥観察装置が用いられる。欠陥観察装置とは、欠陥検査装置の出力情報を用い、ウェーハの欠陥座標を高解像度に撮像し、画像を出力する装置である。半導体製造プロセスは微細化が進み、それに伴い欠陥サイズも数十ｎｍのオーダに達していることもあり、欠陥を詳細に観察するためには数ｎｍオーダの分解能が必要である。そのため、近年では走査型電子顕微鏡（ＳＥＭ：Ｓｃａｎｎｉｎｇ  Ｅｌｅｃｔｒｏｎ  Ｍｉｃｒｏｓｃｏｐｅ）を用いた欠陥観察装置（レビューＳＥＭ）が広く用いられている。レビューＳＥＭは、欠陥検査装置が出力した欠陥座標を用いて、ウェーハ上の欠陥の高解像度画像（欠陥画像）を自動収集するＡＤＲ（Ａｕｔｏｍａｔｉｃ  Ｄｅｆｅｃｔ  Ｒｅｖｉｅｗ）機能を有する。
【０００５】
撮像されたＳＥＭ画像は、撮像された欠陥の種類などに基づいて分類される。分類作業では、ユーザが画像を確認し、画像ごとにユーザの分類したいクラス(ユーザクラス)を付与する。以上のクラス付与作業はユーザの手動で行うことが多く、手動分類と呼ぶ。欠陥画像の手動分類を、手動欠陥分類（ＭＤＣ：Ｍａｎｕａｌ  Ｄｅｆｅｃｔ  Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）と呼ぶ。なお、ＳＥＭ画像の分類では、欠陥が発生しやすい回路パターンを特定することを目的として、画像上の欠陥部及び欠陥部周辺の回路パターンに基づいて画像を分類する場合もある。
【０００６】
近年、レビューＳＥＭのＡＤＲのスループットが向上していることから、収集された多量の欠陥画像より、欠陥種を判別する作業を自動化する機能も提案されている。レビューＳＥＭには、欠陥画像から欠陥種を自動的に判別し、分類するＡＤＣ（Ａｕｔｏｍａｔｉｃ  Ｄｅｆｅｃｔ  Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）機能を搭載している。
【０００７】
自動分類の一方法として、画像処理により欠陥部位の外観特徴量を定量化し、ニューラルネットワークを用いて分類する方法が特許文献１（特開平８−２１８０３号）に開示されている。自動分類は分類レシピに応じて分類が行われる。分類レシピには、画像処理パラメータなどの各種パラメータや、分類すべき欠陥種の情報（分類クラス）、各分類クラスに属する欠陥画像（教示画像）などが含まれる。教示画像は自動分類に各クラスの分類基準を与えるために必要であり、基本的にはＭＤＣによって与えられる。ＭＤＣによる分類結果はＡＤＣの性能にも大きく影響することから、依然として手動分類は重要な位置づけにある。
【０００８】
また、画像分類においては、画像処理により得られる画像特徴量を用いた分類手法として、特許文献２（特表２００８−５１６２５９号）および特許文献３（ＵＳ６，９９９，６１４）には、画像に教師なし分類を行い、分類結果に対して一括でクラス付与を行う手法が開示されている。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】特開平８−２１８０３号
【特許文献２】特表２００８−５１６２５９号
【特許文献３】ＵＳ６，９９９，６１４
【発明の概要】
【発明が解決しようとする課題】
【００１０】
背景技術で述べた手動分類は、撮像したＳＥＭ画像における欠陥部位の外観的な特徴や、欠陥部位あるいは周辺の回路パターンをユーザが目視にて確認し、事前に定義された複数の欠陥クラスに分類する作業である。この作業は、複数の異なるクラスの画像が混在する多数の画像の中から、ユーザが各クラスの画像を選択し、クラスを付与する必要があるため、ユーザ負荷が大きく、時間を要することが課題となっていた。
【００１１】
また、特許文献１に開示した技術によると、前述の通り依然として手動分類は重要な位置づけにあり、特許文献２および３に開示した技術によると、  分類性能の不足などにより、正しい結果が得られないことが多い。このため、ユーザによる結果確認と手動による分類結果内の画像をクラス毎に分離する作業（修正作業）が必要となる。しかしながら、この修正作業はユーザ負荷が大きいといった課題があった。
【００１２】
そこで、本発明の目的は、ユーザ負担の少ないＧＵＩ、分類装置、分類方法、プログラム及びプログラムを記憶した記憶媒体を提供することにある。
本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
【課題を解決するための手段】
【００１３】
本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、次の通りである。
（１）クラス情報が付与されていない画像の集合であるフォルダを階層的に表示する未付与ペイン領域と、前記未付与ペイン領域に表示されたクラス情報が付与されていない画像を表示する画像ペイン領域と、クラス情報が付与されている画像を表示するクラスペイン領域を備え、該クラス情報が付与されていない画像に対して外部からクラス情報が入力されると、該入力されたクラス情報が表示されるＧＵＩである。
（２）被検査対象物の表面に電子線を照射し、該被検査対象物の表面から発生した電子を検出し、検出した電子を画像に変換する画像撮像部と、前記画像撮像部にて変換した画像を処理して該画像の特徴量を算出する画像特徴算出部と、前記画像特徴算出部により算出した該画像の特徴量を用いて該画像を含むフォルダの階層構造を生成する階層構造生成部と、前記階層構造生成部で生成された階層構造のフォルダに対して外部からクラス情報が入力された場合に該フォルダの画像に対してクラス情報を付与するクラス情報付与部を備える処理部と、請求項１乃至１５のいずれかに記載のＧＵＩを備える分類装置である。
【発明の効果】
【００１４】
本発明によれば、ユーザ負担の少ないＧＵＩ、分類装置、分類方法、プログラム及びプログラムを記憶した記憶媒体を提供することができる。
【図面の簡単な説明】
【００１５】
【図１】本発明の実施の形態１に係る分類装置の構成を示す構成図である。
【図２】本発明の実施の形態１に係る分類装置の画像撮像装置の構成を示す構成図である。
【図３】本発明の実施の形態１に係る分類装置の階層構造を説明するための説明図である。
【図４】特徴空間上の各クラスの画像における特徴量の分布の説明図である。
【図５】本発明の実施の形態１に係る分類方法において、下層から階層構造を作成する場合のフロー図である。
【図６】本発明の実施の形態１に係る分類方法において、上層から階層構造を作成する場合のフロー図である。
【図７】本発明の実施の形態１に係る分類方法において、各画像にクラス情報を付与する処理フロー図である。
【図８】本発明の実施の形態１に係る分類装置のＧＵＩの一例である。
【図９】本発明の実施の形態１に係る分類装置のＧＵＩの一例である。
【図１０】本発明の実施の形態２に係る分類装置のＧＵＩの一例である。
【図１１】本発明の実施の形態１に係る分類方法において、画像ペインで指定された一枚以上の画像にクラス情報を付与する処理フロー図である。
【図１２】本発明の実施の形態１に係る分類方法において、上層から階層構造を作成する場合の再起処理部のフロー図である。
【発明を実施するための形態】
【実施例１】
【００１６】
以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一の部材には原則として同一の符号を付し、その繰り返しの説明は省略する。本実施例ではＳＥＭを備えた画像撮像装置で撮像した欠陥画像を分類する場合を対象に説明するが、本発明に関わる欠陥分類システムの入力はＳＥＭ画像以外でも良く、光学式の手段やイオン顕微鏡などを用いて撮像した欠陥画像でも良い。
【００１７】
図１は、本発明の実施の形態１に係る分類装置の構成を示す構成図である。本分類装置は、画像撮像装置１０２が通信手段１０３を介して接続される構成となっている。
【００１８】
画像撮像装置１０２は、該当部位の画像を取得する装置である。画像撮像装置１０２の詳細は、図２を用いて後ほど説明する。分類装置１０１は、画像撮像装置１０２で得られた画像に対してクラス情報付与するための情報を、入出力部１０４に出力し、ユーザが１０４に入力した情報に基づいて画像にクラス情報を付与する機能を持つ。入出力部１０４は、操作者に対するデータの提示及び操作者からの入力を受け付ける為のキーボード・マウス・ディスプレイ装置などから構成される。
【００１９】
この分類装置１０１の詳細を以下に説明する。
【００２０】
分類装置１０１は、装置の動作を制御する全体制御部１０５、画像撮像装置１０２から入力された画像や付与されたクラス情報などを記憶する記憶部１０６、ユーザに提示する情報を作成したり、ユーザ入力に基づいて各画像にクラス情報を付与する処理部１０７、入出力部１０４や通信手段１０３を介したデータ転送のための入出力Ｉ／Ｆ部１０８、プログラムなどを記憶するメモリ１０９、記憶部１０６や処理部１０７やメモリ１０９や全体制御部１０５や入出力Ｉ／Ｆ１０８のデータ通信を行うバス１１６からなる。
【００２１】
記憶部１０６には、画像撮像装置１０１から撮像された画像を記憶する画像記憶部１１０、本装置１０１によって画像記憶部１１０に記憶された画像毎に付加されたクラス情報を保存するクラス情報記憶部１１１、入出力部１０４に表示する階層構造の情報を記憶する階層構造記憶部１１２が含まれる。また、処理部１０７は、画像記憶部１１０に記憶されている画像の特徴を定量値（特徴量）として算出する画像特徴算出部１１３、画像特徴算出部１１３で算出された特徴量から、階層構造記憶部１１２に保存する階層構造の情報を生成する階層構造生成部１１４、入出力部１０４に入力されたユーザ入力に基づいて画像にクラス情報を付与するクラス情報付与部１１５が含まれる。なお、階層構造の詳細ついては、図３、４を用いて後述する。処理部１０７の処理の手順や方法については後述する。
【００２２】
分類装置１０１の入出力部１０４へは記録媒体（図示せず）が接続可能となっており、分類装置１０１で実行されるプログラムをこの記録媒体から読み出し、分類装置１０１にロードできる構成となっている。
【００２３】
画像撮像装置１０２より出力された画像データは、入出力Ｉ／Ｆ１０８及び全体制御部１０５を介して画像記憶部１１０に送られ、画像記憶部１１０内で読み出し可能なように記憶される。手動分類容易化プログラムは全体制御部１０５により、メモリ１０９あるいは前記記憶媒体から読み出される。全体制御部１０５はプログラムに従い処理部１０７を制御し、記憶部１０６に記憶されている画像などの情報や、メモリ１０９に記憶されている中間データを入出力Ｉ／Ｆ１０８を介して入出力部１０４に図８で示すＧＵＩを表示し、入出力部１０４にてユーザからの入力を受け付ける。また、入出力部１０４に入力されたユーザ入力は、入出力Ｉ／Ｆ１０８を介して全体制御部１０５に送られる。全体制御部１０５はプログラムに従い処理部１０７にて記憶部１０６に記憶されている画像などの情報や、メモリに記憶されている中間データを処理することで画像にクラス情報を付与する。分類装置１０１内のデータの送受信はバス１１６を介して行われる。
【００２４】
図２は、本発明の実施の形態１に係る分類装置の画像撮像装置の構成を示す構成図である。画像撮像装置１０１は、ＳＥＭカラム２０１、ＳＥＭ制御部２０８、入出力Ｉ／Ｆ２０９、記憶部２１１、付随情報作成部２１４が通信手段２１５を介して接続される構成となっている。入出力Ｉ／Ｆ２０９には、入出力部２１０が接続され、操作者に対するデータの入出力が行われる。
【００２５】
ＳＥＭカラム２０１は、電子源２０２、試料ウェーハ２０７と載せるステージ２０６、電子源２０２から試料ウェーハ２０７に対して1次電子ビームを照射した結果発生する２次電子や後方散乱電子を検出する複数の検出器２０３、２０４、２０５を備える。なお、この他、1次電子ビームを試料ウェーハ２０７の観察領域に走査するための偏向器（図示せず）や、検出電子の強度をデジタル変換してデジタル画像を生成する画像生成部（図示せず）等も含まれる。なお、検出器２０３によって２次電子を検出した画像をＳＥ像、検出器２０４及び２０５によって後方散乱電子を検出した画像をＬ像、Ｒ像と呼ぶ。
【００２６】
記憶部２１１は、ＳＥＭ撮像条件である、加速電圧やプローブ電流、フレーム加算数（同一箇所の画像を複数枚取得し、それらの平均画像を作成することでショットノイズの影響を低減する処理に用いる画像の数）、視野サイズなどを記憶する撮像レシピ記憶部２１２と取得画像データを保存する画像メモリ２１３を含む。
【００２７】
付随情報生成部２１４は、各画像データに対し付随する情報、例えば、撮像時の加速電圧、プローブ電流、フレーム加算数などの撮像条件、撮像装置を特定するＩＤ情報、画像生成のために用いた検出器２０３〜２０５の種類や性質、ウェーハのＩＤおよび工程、画像を撮像した日付や時間などの情報を作成する機能を持つ。ウェーハのＩＤや工程の情報は入出力部２１０などからユーザによって入力されても良いし、ウェーハの表面などから読み込んだり、ウェーハが格納されている箱（図示せず）などから読み出してきても良い。作成された付随情報は、入出力Ｉ／Ｆ２０９を介して画像データが転送される際に、その画像データとあわせて転送される。
【００２８】
ＳＥＭ制御部２０８は、画像取得などの、この画像撮像装置１０２にて行う全ての処理を制御する部位である。ＳＥＭ制御部２０８からの指示により、試料ウェーハ２０７上の所定の観察部位を撮像視野に入れるためのステージ２０６の移動、試料ウェーハ２０７への1次電子ビームの照射、試料から発生した電子の検出器２０３〜２０５での検出、検出した電子の画像化及び画像メモリ２１３への保存、付随情報作成部２１４での撮像画像に対する付随情報の作成等が行われる。操作者からの各種の指示や撮像条件の指定などは、キーボード、マウスやディスプレイなどから構成される入出力部２１０を通して行われる。
【００２９】
以下、図３、４を用いて、入出力部１０４にてユーザに表示する階層構造について説明する。
【００３０】
図３は発明の実施の形態１に係る分類装置の階層構造の説明図である。
【００３１】
図３はＧＵＩに表示される階層構造の表示例である。３０１は画像の集合（以下、フォルダ）を示し、これらフォルダが階層的に配置（接続）されている。なお、最上層のフォルダはルートフォルダと呼ぶ。３０２はフォルダ名及びフォルダに含まれる画像数などの情報（以下、ラベル）を示している。各フォルダに含まれる画像は、特徴が類似する（即ち、特徴量が似た値となる）画像とする。図３の例では、ルートフォルダであるラベルＡＬＬのフォルダの下層にラベルＡのフォルダとラベルＢのフォルダが接続され、ラベルＡの下層にラベルＡ−ＡとラベルＡ−Ｂのフォルダが接続される構造である。ここで、ラベルＡ−ＡとラベルＡ−Ｂのフォルダは同じ層であるとする。なお、ラベルＡとラベルＢのフォルダも同様に同じ層のフォルダである。図３ではフォルダＡ内の下位フォルダの階層の深さは同じであるが、階層の深さは同一フォルダ内で異なっていても良い。
【００３２】
図４は図３で示したフォルダに含まれる画像の特徴量空間上の各クラスの画像における特徴量の分布の説明図である。ここでは、説明のため特徴量空間を２次元で表現しているが、２次元の特徴量空間に限定するものではない。図４で示す様に、上層のフォルダは下層のフォルダの特徴量空間を含むとする。例えば、ラベルＡのフォルダは、下層のラベルＡ−ＡとラベルＡ−Ｂのフォルダの特徴量空間を含む。即ち、上層のフォルダには、下層フォルダの画像が含まれる。
【００３３】
図４のラベルＡ及びＢのフォルダに含まれる画像４０１の特徴空間上における分布の一例も合わせて示す。なお、説明のため、画像４０１の右上部にクラス名（クラス１〜３）を示している。ラベルＡのフォルダにはクラス１とクラス２の画像が混在している。しかし、下層のラベルＡ−Ａ及びＡ−Ｂのフォルダにはそれぞれクラス１、クラス２の単一クラスの画像のみが含まれる。ラベルＢのフォルダには、クラス３の単一クラスの画像のみが含まれる。
【００３４】
以上で述べたとおり、階層構造は、階層が深くなる程、フォルダ３０１内にそのフォルダに含まれる１枚以上の画像に占める特定のクラスの画像の割合が高くなる構造となる。ここで、特定のクラスの画像の割合とは、教師なし分類により特定のクラスに割り当てられた画像のクラスの割合を指す。
【００３５】
なお、画像特徴算出部１１３で算出する特徴量は、分類したいクラスの判定基準（分類の目的）に合わせて変更するのも良い。例えば、画像中の欠陥の種類をクラスとして付与したい場合には、欠陥部位における輝度値や欠陥の大きさ、円形度、凹凸の程度など、人間が欠陥を判定する上で判断の基準とする特徴を定量値として算出したものとすればよい。また、画像中の回路パターンに基づいてクラスを付与したい場合には、回路パターンの密度や、形状、立体構造などを定量化した値を用いても良い。回路パターンに基づいてクラスを付与する場合、回路パターンの密度や、形状、立体構造などの情報として設計データを用いても良い。他には、一般物体認識で用いられるＳＵＲＦ（Ｓｐｅｅｄｅｄ  Ｕｐ  Ｒｏｂｕｓｔ  Ｆｅａｔｕｒｅｓ）などの局所特徴量を用いるのも良い。
【００３６】
また、分類の目的（分類したいクラスの判定基準）をユーザがＧＵＩにより決定すると、予め定めた条件に基づきどの特徴を用いるかは自動的に決定されるようになっていても良く、また、用いる特徴自体をユーザが選択するようになっていても良い。
【００３７】
ＡＤＣの分類レシピ作成時のＭＤＣを目的とする場合、ＡＤＣの分類処理で使用する特徴量を利用する方法も考えられる。
また、ＡＤＣと異なる特徴量を利用しても良い。一般にＡＤＣの特徴量は、高精度な自動分類を行うため、特徴量算出前に特徴量算出パラメータの厳密な調整を行うことが前提となっている場合が多い。上述の局所特徴量などを用いることで、事前に厳密な特徴量算出パラメータ調整を必要としなくなる。
また、以上で述べた特徴量を組み合わせて用いても良い。
使用する特徴量はＧＵＩ上などでユーザに指定させる、テキストファイルなどに定義しておくなどの方法で指定すれば良い。
【００３８】
上述の階層構造は、画像撮像装置１０２により撮像された画像を用いて図１に記載の階層構造生成部１１４にて生成され、階層構造の情報が階層構造記憶部１１２に記憶される。階層構造の情報とは、フォルダに含まれる画像の情報やフォルダの接続関係（上層、下層、同じ層などの情報）など、階層構造を表示するために必要な情報のことである。
【００３９】
以下、階層構造生成部１１４の処理について説明する。階層構造は、教師なし分類手法の一種である階層的クラスタリングなどの手法を用いて最下層から作成する方法が考えられる。
【００４０】
図５は本発明の実施の形態１に係る分類方法において、下層から階層構造を作成する場合のフロー図である。
【００４１】
Ｓ５０１では、画像特徴算出部１１３にて、図１の画像撮像装置１０２で撮像された各画像について特徴量を算出する。ここでは画像の一部を用いて特徴量算出を行っても良いし、全部を用いて行っても良い。
【００４２】
Ｓ５０２では、最下層のフォルダを画像数分生成し、各画像に最下層のフォルダを割り当てる。なお、ここでは画像一枚に対して最下層のフォルダを一つ割り当てる方法を説明したが、画像同士を教師なし分類(例えばｋ−ｍｅａｎｓ手法など)によって特徴の近い複数画像を集合としてまとめておき、各集合の複数画像を最下層のフォルダ一つにまとめて割り当てても良い。ここで、予め画像同士を教師なし分類により複数画像の集合としてまとめておいた場合は、各画像に割り当てるフォルダ数が少なくて済むため、メモリの大きさが少なくてよい。また、後述のＳ５０４にて行うフォルダ特徴量の距離の計算量が少なくてすむ。
【００４３】
Ｓ５０３は処理のループであり、Ｓ５０４〜Ｓ５０６の処理が、Ｓ５０６の判定条件が満たされるまで繰返し実行される。
【００４４】
Ｓ５０４では、最上層のフォルダの全ての組合せについてフォルダ特徴量の距離を計算する。距離は特徴量のユークリッド距離などとして計算すれば良い。なお、以下では、フォルダの組合せを二つのフォルダの組合せとして説明するが、三つ以上のフォルダの組合せについても同様に処理することが可能である。ここで、最上層のフォルダとは、Ｓ５０５で接続したフォルダの中で最上層のフォルダのことである（即ち、下層に接続されたフォルダは距離計算の対象外とする）。なお、Ｓ５０５の処理が実行されていない未接続のフォルダは最上層のフォルダとして扱い、距離計算の対象とする。また、フォルダ特徴量とはフォルダ内にある画像の特徴量から算出したフォルダを代表する特徴量である。例えば、フォルダに含まれる画像における特徴量の平均値や、特徴量の平均値に一番近い画像の特徴量をフォルダ特徴量とすれば良い。フォルダ特徴量の距離が近いということは、フォルダに含まれる画像が類似することを意味する。
【００４５】
Ｓ５０５では、フォルダ特徴量の距離が最も近いフォルダの組合せの上層に新しいフォルダを生成し、それらのフォルダを接続する。この際、距離が最も近いフォルダの組合せにおける二つのフォルダを同じ層として、生成した新しいフォルダの下層に接続する。ここでは、距離が最も近い二つのフォルダを同じ層とすることとしたが、生成する新たしいフォルダの個数は一つに限らず、予め定めた複数組のフォルダ組を同じ層として新しいフォルダを生成することとしても良い。例えば生成するフォルダ数を３とした場合、フォルダ特徴量の距離が近い方から３つのフォルダ組について新しいフォルダを生成する。生成する新たなフォルダの個数はユーザが設定することとしても良いし、予めフォルダ特徴量の距離の閾値を定めておいて閾値よりも距離の短いフォルダ組については全て新しいフォルダを生成することとしても良い。
【００４６】
Ｓ５０６では、階層構造生成の終了判定処理であり、終了と判定された場合、Ｓ５０３のループ１から抜ける。終了判定の方法としては、最上層のフォルダの数が既定数以下かどうかなどから終了を判定すれば良い。なお、規定数はあらかじめユーザによって設定されていても良い。
【００４７】
Ｓ５０７では、ルートフォルダを生成し、ルートフォルダの下層に最上層のフォルダを互いに同じ層のフォルダとして接続する。
【００４８】
また、Ｓ５０５において、特徴量の分布から、更に上層フォルダを生成するか否かの判定を行っても良い。例えば、上層フォルダ生成前と生成後の評価値を比較し、値が改善する場合に上層フォルダを生成し、改善しない場合には上層フォルダを生成しないなどの方法で行えば良い。フォルダに含まれる特徴量の分散の平均値やベイズ情報量基準などを評価値とすれば良い。また、評価値の増分が予め定めた閾値以上の場合に上層フォルダを生成することとしても良い。ここで、上層フォルダを生成しないと判断された場合、上層のフォルダは生成せず、フォルダ特徴量が最も近いフォルダの組合せにおける二つのフォルダを直接ルートフォルダに接続する。その場合、それらのフォルダはＳ５０４において距離計算の対象外とする。また、Ｓ５０６の終了判定では、Ｓ５０４において距離計算の対象とするフォルダの数が１、あるいは既定数以下になった場合に終了する様にすれば良い。また、生成されたフォルダの個数や各フォルダの画像数をユーザがＧＵＩなどにより確認し、更なる上位フォルダを生成するか決定することができるようにしてもよい。
【００４９】
なお、上記の説明ではＳ５０１にて、画像それぞれに対して特徴量を算出し、Ｓ５０４にて各フォルダにおける特徴量を算出し、フォルダ特徴量の距離を算出する方法を一例として述べた。しかし、各画像における特徴量算出及びフォルダ特徴量の算出は必須ではなく、Ｓ５０４にてフォルダ特徴量の距離が得られば本フローは実行可能である。例えば、画像特徴算出部１１３にて、フォルダ特徴量の距離の計算対象である二つのフォルダにおける代表画像に対して正規化相互相関（ＮＣＣ：Ｎｏｒｍａｌｉｚｅｄ  Ｃｒｏｓｓ−Ｃｏｒｒｅｌａｔｉｏｎ）などを計算し、その値から距離を計算しても良い。この場合、距離はＮＣＣの絶対値が大きいほど近いとすれば良い。 また、画像それぞれに対して特徴量を算出してフォルダ特徴量を算出しなくても、各フォルダの代表画像の特徴量をフォルダ特徴量として用いても良い。ここで、代表画像は、各フォルダに分類されている複数画像のうち、尤もらしい画像や平均的な画像を選択すればよい。
【００５０】
また、教師なし分類手法の一種であるｋ−ｍｅａｎｓなどの手法を用いてルートフォルダから順に階層構造を生成する方法も考えられる。図６及び図１２に、上層から階層構造を作成する場合のフロー図の一例を示す。図６は、本発明の実施の形態１に係る分類方法において、上層から階層構造を作成する場合のフロー図、図１２は、本発明の実施の形態１に係る分類方法において、上層から階層構造を作成する場合の再起処理部のフロー図である。
【００５１】
Ｓ６０１では、Ｓ５０１と同様、画像特徴算出部１１３にて各画像について特徴量を算出する。
【００５２】
Ｓ６０２では、ルートフォルダを生成し、対象とする画像をルートフォルダに割り当てる。
【００５３】
Ｓ６０３は下層のフォルダ作成を行う再起処理であり、詳細は図１２に示す。以下、図１２のＳ６０４〜Ｓ６０７の処理について説明する。
【００５４】
Ｓ６０４では、下層フォルダ生成を行う対象とするフォルダ（上層フォルダ）内の画像に対して教師なし分類を行う。分類は、ｋ−ｍｅａｎｓなどの手法によって行えばよい。ｋ−ｍｅａｎｓでは分類数をあらかじめ指定する必要があるが、ユーザによって予め設定するなどによって指定しても良いし、特徴量の分布などから分類数を自動決定しても良い。また、分類数の設定が必要ない手法としてｘ−ｍｅａｎｓなどの手法を用いても良い。
【００５５】
Ｓ６０５では、Ｓ６０４の分類数分のフォルダを生成し、各分類に対応させ、各画像を分類の対応するフォルダに割り当てる。
【００５６】
Ｓ６０６は、Ｓ６０７及びＳ６０３の処理をＳ６０４の分類数分実行するループであり、各分類に対応するフォルダそれぞれについて処理を実行する。処理を実行する各分類に対応するフォルダを対象フォルダと呼ぶ。
【００５７】
Ｓ６０７は、対象フォルダの下層フォルダを生成するか否かを判断する処理である。判断方法として、対象フォルダに含まれる画像数が既定数以下であったり、対象フォルダに含まれる画像の類似度（画像間の距離）が閾値以下であったら下層フォルダを生成しないなどの方法や、対象フォルダに含まれる画像をユーザがＧＵＩ等で確認し、下層フォルダを生成するか否かを判断する方法が考えられる。Ｓ６０７にて下層フォルダを生成すると判定した場合はＳ６０３の処理（即ち、図１２の処理）を対象フォルダに対して実行する。つまり、全てのフォルダについてこれ以上下層フォルダを生成しないという判断がなされるまで繰り返す。
【００５８】
以上で述べた方法によって、フォルダの階層構造を生成し、ユーザに表示することが可能となる。一般に、教師なし分類ではクラスの基準が存在しないため、分類結果に異なるクラスの画像が混在する場合が多い。特許文献２及び３で述べられている手法では、教師なし分類の分類結果に対して一括でクラスを付与するものであり、分類結果内の画像をクラス毎に分離する作業（修正作業）が必要である。対して本発明の階層構造では、フォルダに異なるクラスの画像が混在していた場合、ユーザに下層のフォルダに含まれる画像を確認させ、単一クラスの画像のみを含むフォルダを探索・指定させることが可能である。単一クラスの画像のみを含むフォルダにクラス情報を一括付与することにより、正確なクラス情報付与を行うことが可能である。また、単一クラスの画像のみを含むフォルダを探索する作業によって修正作業が完了するため、修正作業を短時間、かつ容易に実現可能である。
【００５９】
図８は本発明の実施の形態１に係る分類装置のＧＵＩの一例である。図８の例では、未付与ペイン８０１、画像ペイン８０２、クラスペイン８０３の三つのペインがＧＵＩ画面内に表示されている。以下、各ペインについて説明する。
【００６０】
未付与ペイン８０１には、図３及び図４で説明した階層構造が表示されている。階層構造は、図３及び４を用いて説明したように、階層が深くなる程、フォルダ３０１内にそのフォルダに含まれる１枚以上の画像に占める特定のクラスの画像の割合が高くなる構造である。なお、フォルダ３０１には各フォルダに含まれる画像（例えば代表画像など）を表示しても良い。また、ユーザ指示によって、フォルダ３０１を任意の階層に追加しても良いし、削除しても良い。
【００６１】
画像ペイン８０２には、ユーザが未付与ペイン上で選択したフォルダに含まれる画像４０１の一覧を表示する。画像と一緒に画像のＩＤや特徴量などの情報８０４を一緒に表示しても良い。フォルダ選択は、ユーザがマウスで未付与ペインのフォルダ３０１をクリックするなどの入力によって行われれば良い。８０７はユーザが選択したフォルダを判別できるようにするための枠である。枠を表示することに限定せず、フォルダの背景色を変更する、フォルダのアイコンを変更するなどによってユーザが選択したフォルダを判別できるようにしても良い。ここでは、一のフォルダのみ選択しているが、複数フォルダを選択し、画像ペイン８０２には選択した複数フォルダごとに画像が表示されるようになっていても良い。複数フォルダの画像を一度に表示することで、ユーザが複数フォルダの画像を見比べて、更なる下位フォルダを生成するかを決定したり、例えばフォルダＡの画像をフォルダＢに移動するなど、フォルダの変更を行うことができるようになっていても良い。また、フォルダＡとフォルダＢのように別フォルダとして分けられていた画像を一つのフォルダに纏めることができるようになっていても良い。また、各フォルダの代表画像を表示できるようにして、これに基づき新規フォルダの作成や既にあるフォルダの削除を行うかどうかを決定してもよい。
【００６２】
クラスペイン８０３には、付与済みのクラス情報（クラス名、クラスＩＤ、クラス情報が付与された画像数など）が表示されたクラスラベル８０５と各クラス情報が付与された代表的な画像８０６が表示される。代表的な画像とは、クラス情報が付与された画像を代表する画像であり、例えば、クラス１の代表画像は、クラス１のクラス情報が付与された画像における特徴量の平均に一番近い特徴量の画像とすれば良い。クラス情報が付与された画像を確認する手段をユーザに提供するため、クラスペイン８０３の代表画像８０６をクリックするなどの操作によって、代表画像８０６に対応するクラス情報が付与された画像を画像ペイン８０２に一覧で表示しても良い。
【００６３】
また、ユーザが希望した場合には、クラスペイン８０３に表示されている画像を該クラスの別の画像に変更することができてもよい。  ８０８はクラス情報付与を終了するボタンである。
【００６４】
８０９は、画像ペイン８０２に表示されている画像を並び替えるボタンである。画像ペイン上に表示された画像を選択しておき、その選択された画像に類似する順に画像ペイン８０２上の画像を並び替えても良い。類似する画像順に並び替えるには、選択された画像と画像ペイン８０２上の画像それぞれに対する特徴量の距離を計算し、距離が近い順に並び替えればよい。
また、選択は複数画像でも良く、その場合は選択された画像の平均特徴量や、代表画像の特徴量と画像ペイン８０２上の画像それぞれに対する特徴量の距離を計算し、距離が近い順に並び替えればよい。
また、いずれの画像も選択せず、該フォルダ内の画像の特徴量の平均値に近い画像から順に表示するようにしてもよい。
【００６５】
また、クラスペイン８０６上のクラス情報付与済みクラスの代表画像８０６などを選択しておき、クラス付与済みクラスの画像と類似する順に、画像ペイン８０２の画像を並び替えても良い。なお、類似する順ではなく、類似しない順に並び替えても良い。
また、未付与ペイン上のフォルダ３０１を選択しておき、選択されたフォルダ内画像を、フォルダ内画像に類似しない順に並び替えても良い。例えば、フォルダ内の画像の特徴量の平均値に最も遠い画像から順に並び替えればよい。これによって、フォルダ内に混在するクラスが異なる画像（はずれ画像）をまとめて近い領域に表示することができる。これにより、ユーザが更なる下位フォルダを生成するかどうか決めてもよい。
【００６６】
以上、画像を並び替えるボタン８０９によって、類似した画像（即ち、同一クラスの画像）、あるいは、はずれ画像（即ち、異なるクラスの画像）がまとまって近くに表示されるため、同一クラスの画像、あるいははずれ画像の一括選択を容易化する機能をユーザに提供する。
【００６７】
８１０は、画像ペイン８０２やクラスペイン８０３に表示する画像の種類が選択可能なコンボボックスである。ＳＥ像、Ｌ像、Ｒ像などを選択可能とする。なお、ＳＥ像、Ｌ像、Ｒ像などの混合画像も選択可能とし、混合画像を画像ペイン８０２やクラスペイン８０３などに表示しても良い。
【００６８】
８１１は画像ペイン８０２に代表画像を表示するためのチェックボックスである。チェックボックスにチェックが入っている場合、選択中のフォルダ８０７の下層フォルダの代表画像が画像ペイン８０２に一覧で表示される。代表画像を表示している場合は、画像の背景色を変更するなどして、代表画像を表示していることをユーザに提示しても良い。フォルダの代表画像は、フォルダに含まれる画像の平均特徴量に一番近い特徴量の画像などとすれば良い。また、階層構造の特定の層の代表画像を一覧で画像ペイン８０２に表示しても良い。例えば、図８の例にて第２層を表示する場合は、フォルダラベルＡ、Ｂ、Ｃなどの代表画像を表示すれば良い。第３層の場合は、フォルダラベルＡ、Ｂ、Ｃの下層のフォルダの代表画像を一覧で表示する。表示する層指定はコンボボックス（図示せず）や、スライドバー（図示せず）などで行えばよい。ここで、一度に表示する画像の層の深さは互いに異なっていてもよく、ユーザ等により任意に選択できる。
【００６９】
８１２は各ペインにおけるスクロールバーである。各ペインの画面内に表示しきれない画像や階層構造は、スクロールバー８１２などを使って表示すれば良い。
【００７０】
８１３は階層構造を生成したり、ソートボタン８０９によって画像を並び替えるのに使用する、一つ以上の特徴量から成る特徴量の組合せ（特徴量セット）を選択するコンボボックスである。特徴量セットは分類の目的に応じて変更される。図８の例では、欠陥分類を目的とした特徴量が選択されている。また、どの特徴量を使用するかを設定可能なチェックボックス（図示せず）を特徴量毎に用意し、ユーザに選択させることで、チェックされた特徴量の組合せを特徴量セットとして用いても良い。Ｓ５０４の距離計算の手法を選択できるようにしてよい。ここで、選択できるのは特徴量の組み合わせだけでなく、分類の目的をユーザが選択することで適当な特徴量の組合せが自動的に選択されるようになっていてもよい。
【００７１】
８１４は対象とするフォルダ３０１の下層のフォルダについて表示・非表示を切り替えるフォルダ表示ボタンである。フォルダ表示ボタン８１４はフォルダ３０１毎に対応するフォルダの近くに配置される。ボタンが押されることで、対応するフォルダの下層に接続するフォルダが未付与ペイン８０１に表示される。対応するフォルダの下層に接続するフォルダが未付与ペイン８０１に表示済みの場合には、対応するフォルダの下層に接続するフォルダを非表示にする。下層に表示されたフォルダよりも更に下層のフォルダが表示されている場合、更に下層のフォルダも非表示にする。下層のフォルダが表示中か否かをフォルダ表示ボタン８１４のアイコンを変更して表示しても良い。図８の例では、アイコンが＋表示なっているラベルＢ及びラベルＣのフォルダの下層のフォルダは表示されていないが、アイコンが−表示になっているラベルＡのフォルダの下層のフォルダは表示されている。フォルダ３０１がクリックされるなどによって選択された際、フォルダ表示ボタンが押された場合と同様の動作をしても良い。即ち、フォルダ３０１が選択されることで、フォルダの下層に接続するフォルダが未付与ペイン８０１に表示される。また、フォルダの下層に接続するフォルダが未付与ペイン８０１に既に表示されていた場合には、フォルダの下層に接続するフォルダを非表示にするなどしても良い。
【００７２】
ユーザが単一クラスの画像のみを含むフォルダを探索する作業では、ユーザは任意のフォルダを選択し、画像ペイン８０２にてフォルダに含まれる画像を確認する。選択したフォルダが単一クラスのみを含むフォルダではない場合（即ち異なるクラスの画像が混在している場合）、下層のフォルダを確認し単一クラスのみを含むフォルダを指定する。初期状態で、ルートフォルダと第２層のフォルダ（図８の例では、ラベルＡ、Ｂ、Ｃのフォルダ）のみを表示しておき、フォルダに含まれる画像の確認が完了したフォルダの下層のフォルダを表示させる。これにより、ユーザがフォルダ内の画像を確認したフォルダあるいはその下層フォルダまでを表示する手段を提供可能である。
【００７３】
また、未付与ペイン８０１に表示された階層構造のうち、不必要なフォルダを非表示にすることで、階層構造表示に必要な領域を最小化することができる。
【００７４】
以上で述べた様に、下層フォルダの表示・非表示を任意のタイミングで切り替えることを可能とする機能を提供することで、ユーザの使い勝手を向上させることが可能である。
【００７５】
図９は本発明の実施の形態１に係る分類装置のＧＵＩの一例である。
【００７６】
９０１は、ユーザによるクラス名の入力を受け付けるテキストボックス、９０２はクラスＩＤの入力を受け付けるテキストボックスである。９０１及び９０２のクラス名やクラスＩＤはクラス情報記憶部１１１に記憶されているクラス情報を読み出し、ユーザが選択できるようにしても良い。また、テキストファイルなどで定義されているクラス情報を読み出し、選択肢として表示しても良い。
【００７７】
９０３は、９０１及び９０２に入力されたクラス情報を受け付けるボタンであり、９０４は入力をキャンセルするボタンである。
【００７８】
なお、図９では、独立したウィンドウ上に９０１や９０２が配置されているＧＵＩ例を示したが、９０１や９０２は図８のウィンドウ上の一部に配置されていても良いし、クラス名の入力作業がクラスペインや未付与ペイン画面上で行えるようになっていても良い。
【００７９】
図７は本発明の実施の形態１に係る分類方法において、各画像にクラス情報を付与する処理フロー図である。以下、図７を用いて、本発明にかかる分類装置において、画像記憶部１１０に記憶された各画像に対してクラス情報を付与し、クラス情報記憶部１１１に記憶する方法を説明する。
【００８０】
図７に本発明にかかる分類装置において、画像記憶部１１０に記憶された各画像に対してクラス情報を付与する処理フローを示す。図７の処理は図８及び９を用いて説明したＧＵＩ上で実行される。
【００８１】
Ｓ７０１では、図５や図６のフローで説明した手法を用いて、クラス情報未付与の画像に対して階層構造を生成し、入出力部１０４に表示する。階層構造は、図８のＧＵＩにおける未付与ペイン８０１に表示される。
【００８２】
Ｓ７０２は、Ｓ７０３〜Ｓ７０８の処理を、Ｓ７０８にて、クラス情報付与終了と判定されるまで繰り返すループである。
【００８３】
Ｓ７０３では、Ｓ７０１で表示した階層構造の中のフォルダから、ユーザによるフォルダ指定を受け付ける処理である。この際、ユーザに、フォルダの中に含まれる画像を確認させ、単一クラスのみを含むフォルダを指定させる。単一クラスのみを含むフォルダを指定させるには、前述のとおり、ユーザにフォルダの画像を確認させ、単一クラスのみを含むフォルダではない場合（即ち異なるクラスの画像が混在している場合）には、下層のフォルダを確認させて単一クラスのみを含むフォルダを指定させる。ユーザによるフォルダの指定は、未付与ペイン８０１のフォルダ３０１がクラスペインに移動されることによって行われれば良い。移動はドラッグアンドドロップされることなどに実行されれば良い。また、代表画像表示チェックボックス８１１によって画像ペイン８０２にフォルダの代表画像が表示されている場合、画像ペイン８０２の代表画像がクラスペインに移動されることによって、移動された代表画像に対応するフォルダがクラスペインに移動されたとしても良い。この場合、対応するフォルダが指定される。ここでは、単一クラスのみを含むフォルダを指定することを前提として説明したが、ユーザの判断次第で複数クラスの画像を含むフォルダを指定することができるようになっていても良い。
【００８４】
Ｓ７０４では、指定フォルダ内の画像に付与するクラス情報の入力を受け付ける。クラス情報とは、クラス名やクラスＩＤなどクラスを識別するための情報である。Ｓ７０３にて入力を受け付けたフォルダがクラスペインに移動された際、図９のＧＵＩが表示され、クラス情報の入力を受け付ければ良い。
【００８５】
Ｓ７０５では、Ｓ７０４で入力を受け付けたクラスはＳ７０６の新クラス追加処理で追加済みかどうかを判定し、追加済みでなければＳ７０６を実行する。追加済みならば、Ｓ７０６の処理をスキップする。
【００８６】
Ｓ７０６では、Ｓ７０４で入力を受け付けたクラスを新クラスとしてクラスペイン８０３に追加し、クラス情報をクラス情報記憶部１１１に記憶する。クラスペインに新クラスを追加するには、追加した付与済みクラスの代表画像及びクラスラベルを、クラスペイン８０３に追加表示すれば良い。これにより、付与済みクラス情報や対応する画像を確認する手段を提供可能となる。ここで、クラスが追加済みの場合、元々ある画像と追加した画像とを合わせて再度代表画像を算出し、必要に応じてクラスペインに表示する画像を変更することができても良い。
【００８７】
Ｓ７０７では、Ｓ７０３で入力を受け付けた指定フォルダ内の画像それぞれに対してＳ７０４で入力を入力を受け付けたクラス情報を付与する。各画像に付与されたクラス情報は、クラス情報記憶部１１１に記憶される。例えば、画像のＩＤと対応するクラス情報をリストとして記憶すればよい。なお、Ｓ７０７にてクラス情報を付与した画像が含まれる指定フォルダ及び、その指定フォルダの下層のフォルダはクラス情報付与済みであることをユーザに表示する。例えば、指定フォルダ及び、その指定フォルダの下層のフォルダを階層構造から削除してもよいし、フォルダに色をつけてクラス情報付与済みであることを表示しても良い。なお、Ｓ７０３にて未付与ペイン８０１のフォルダ３０１がクラスペイン８０３のクラス情報付与済みクラスに移動された場合（例えば、フォルダがドラッグアンドドロップによって代表画像８０６やクラスラベル８０５にドロップされた場合）、Ｓ７０４〜Ｓ７０６の処理をスキップし、移動先のクラス情報を移動されたフォルダ内の画像に付与しても良い。
【００８８】
Ｓ７０８では、画像に対するクラス情報付与の終了判定を行う処理である。クラス情報付与を終了すると判定した場合はＳ７０２のループ１を抜けて処理を終了し、終了しないと判定した場合はＳ７０２のループ１の繰返しを継続する。判定方法の例として、ユーザによる終了入力を８０８の終了ボタンが押されることによって受け付ける方法や、全画像に対してクラス情報が付与された場合に終了と判定するなどの方法が考えられる。
【００８９】
Ｓ７０３において、キーボードの任意のキーをそれぞれクラス情報付与済みのクラスに割り当てておき、入力されたキーによって対応するクラスペイン上のクラスに移動した（即ち、クラス付与する情報の入力を受け付けた）としても良い。割り当てられたキーボードの情報は、クラス情報の一部としてクラス情報記憶部１１１に記憶しておけば良い。例えば、クラス１、クラス２のクラス情報が画像に付与済みな場合を想定し（即ち、クラスペイン８０３にクラス１とクラス２の代表画像が表示されている）、クラス１にキーボードのＦ１、クラス２にキーボードのＦ２を割り当てたとする。ユーザによって、クラス１の画像のみを含むのフォルダが選択され、Ｆ１が押されることによって、Ｓ７０４〜Ｓ７０６をスキップし、選択されたフォルダの画像にクラス１のクラス情報を付与する。クラス２のクラス情報付与についても同様にＦ２ボタンが押されることによって行われる。キーの割り当ては予めテキストファイル等に定義されていても良いし、ユーザがクラス情報を入力する際に一緒に入力しても良い。また、Ｓ７０６にて新クラスが追加された際に自動的に順番にキーが割り当てられても良い。キーの割り当てによって、ドラッグアンドドロップの作業が不要となり、Ｓ７０３〜Ｓ７０７の処理に要する時間が短縮可能となる。
【００９０】
また、未付与ペインのフォルダ選択後にクラスＩＤやクラス名をキーボードから入力した場合に対応するクラスペイン上のクラスに移動した（即ち、クラス付与する情報の入力を受け付けた）としても良い。例えば、クラス１のＩＤが「００１」である場合、ユーザによるクラス１のみ含まれるフォルダが選択された後、キーボードにて「００１」が入力されることによって、Ｓ７０４〜Ｓ７０６をスキップし、選択されたフォルダの画像にクラス１のクラス情報を付与する。キーの割り当てと同様、ドラッグアンドドロップの作業が不要となり、Ｓ７０３〜Ｓ７０７の処理に要する時間が短縮可能となる。
【００９１】
また、ユーザが未付与ペイン８０１のフォルダを選択した際、選択したフォルダ内の画像の特徴量に近い特徴量を有する画像を含むフォルダやクラスをユーザに提示しても良い。例えば、フォルダ内の画像の特徴量の平均とクラスペイン８０３に表示された各クラスの画像の特徴量の平均を比較し、特徴量が一番近いクラスの背景色を変更するなどすれば良い。
【００９２】
上記では、フォルダ３０１がクラスペイン８０３に移動されることで、Ｓ７０３〜Ｓ７０７の処理によってフォルダ内の画像にクラス情報が付与される例を示した。Ｓ７０３〜Ｓ７０７を図１１で示すフローに置き換えることで、画像ペイン８０２で指定された一枚以上の画像にクラス情報を付与しても良い。
【００９３】
図１１は本発明の実施の形態１に係る分類方法において、画像ペインで指定された一枚以上の画像にクラス情報を付与する処理フロー図である。Ｓ１１０１〜Ｓ１１０５はそれぞれＳ７０３〜Ｓ７０７に対応する。
【００９４】
Ｓ１１０１では、画像ペイン８０２に表示されている画像４０１の中から、ユーザによる一枚以上の画像の指定を受け付ける処理である。ユーザによる一枚以上の画像の指定は、画像ペイン８０２の画像４０１がクラスペインに移動されることによって行われれば良い。移動はドラッグアンドドロップされることなどに実行されれば良い。
【００９５】
Ｓ１１０２では、指定した一枚以上の画像に付与するクラス情報の入力を受け付ける。Ｓ１１０１にて入力を受け付けた一枚以上の画像がクラスペインに移動された際、図９のＧＵＩが表示され、クラス情報の入力を受け付ければ良い。
【００９６】
Ｓ１１０３では、Ｓ１１０２で入力を受け付けたクラスがＳ７０６あるいはＳ１１０４の新クラス追加処理で追加済みかどうかを判定し、追加済みでなければＳ１１０４を実行する。追加済みならば、Ｓ１１０４の処理をスキップする。
【００９７】
Ｓ１１０４では、Ｓ１１０２で入力を受け付けたクラスを新クラスとしてクラスペイン８０３に追加し、クラス情報をクラス情報記憶部１１１に記憶する。
【００９８】
Ｓ１１０５では、Ｓ１１０１で入力を受け付けた一枚以上の画像それぞれに対してＳ１１０２で入力を入力を受け付けたクラス情報を付与する。各画像に付与されたクラス情報は、クラス情報記憶部１１１に記憶される。なお、Ｓ１１０５にてクラス情報を付与した一枚以上の画像はクラス情報付与済みであることをユーザに表示する。例えば、指定された一枚以上の画像を階層構造から削除してもよいし、画像の背景色を変更しクラス情報付与済みであることをクラスペインに表示しても良い。なお、Ｓ１１０１にて画像ペイン８０２の一枚以上の画像４０１がクラスペイン８０３のクラス情報付与済みクラスに移動された場合（例えば、一枚以上の画像がドラッグアンドドロップによって代表画像８０６やクラスラベル８０５にドロップされた場合）、Ｓ１１０２〜Ｓ１１０４の処理をスキップし、移動先のクラス情報を移動された一枚以上の画像に付与しても良い。
【００９９】
Ｓ７０３にて、フォルダの中に少数の異なるクラスの画像が混在している場合、Ｓ７０３の処理の前に、それらの画像を他のフォルダに移動させるなどの修正指示を受け付け、対象のフォルダを単一クラスの画像のみ含むフォルダに修正しても良い。修正は、移動対象とする画像ペイン８０２の画像が移動先のフォルダにドラッグアンドドロップされるなどによって行われれば良い。移動された画像は、移動元のフォルダから削除され、移動先のフォルダに追加される。複数の画像が選択され、移動されることで、複数画像が別のフォルダに移動されても良い。移動対象とする画像を選択する際、８０９の画像ペイン８０２の画像を並び替えるボタンを利用することで、選択が容易になる。例えば、ユーザが多数のクラス１の画像と少数のクラス２の画像が混在したフォルダに対して修正を行う場合、一枚以上のクラス１の画像を選択し、８０９によって類似しない順に並び替えることによって、クラス１に類似しない画像（即ち、クラス２の画像）が順に並ぶことになる。並んだクラス２の画像は、近くにまとまって表示されるため、マウスによる範囲確定などによって一括で選択されれば良い。
【０１００】
Ｓ７０３にて、フォルダや画像がドラッグされている際、ドラッグ中のフォルダ内の画像やドラッグ中の画像を別のウィンドウやペインなどに表示しても良い。また、ドラッグ中のフォルダ内の画像や画像におけるＩＤなどの情報、ドラッグ中の画像などを半透明にして表示するのも良い。以上によってドラッグ中のフォルダ内の画像やドラッグ中の画像を確認する手段をユーザに提供する。また、フォルダや画像がドラッグされている際、フォルダ３０１上にマウスカーソルを移動させることによって、フォルダ３０１に含まれる画像を画像ペイン８０２や別のウィンドウ、別のペインなどに自動表示しても良い。また、同様にマウスカーソルをクラスペイン８０３の代表画像８０６上に移動させた際、代表画像８０６に対応するクラス情報が付与された画像を画像ペイン８０２や別のウィンドウ、別のペインなどに自動表示しても良い。これにより、ユーザがドロップ先のフォルダや代表画像に対応するクラス付与済み画像を確認する手段をユーザに提供する。
【０１０１】
また、画像が異なるフォルダに移動されるなどによってフォルダ内の画像が変化した際、図５や図６の手法を用いてユーザによって選択されたフォルダをルートフォルダとして、階層構造を再生成しても良い。この場合、選択されたフォルダに含まれる画像のみを対象として階層構造を生成すれば良い。階層構造の再生成は、フォルダに含まれる画像が変化した場合に自動で実行されても良いし、ユーザ指示によって行われても良い。
【０１０２】
以上述べた機能を有するＧＵＩはコンピュータで実行されるプログラムにより実現可能であり、また、このプログラムはメモリ、外部記憶媒体などの記憶媒体に記録され、憶媒体から読み出されることで、実行される。
【０１０３】
図７を用いて述べた、クラス情報付与の処理手順を、図１で示した分類装置１０１上で実施する方法について以下に述べる。
【０１０４】
図１に示した画像撮像装置１０２によって撮像された画像を通信手段１０３を介して分類装置１０１内の画像記憶部１１０に記憶する。画像意記憶部１１０に記憶された画像は画像特徴算出部１１３及び階層構造生成部１１４を用いて、図５及び図６を用いて説明した階層構造生成手順を実行するコンピュータ用のプログラムにより処理され、階層構造は階層構造記憶部１１２に記憶される。全体制御部１０５は、入出力Ｉ／Ｆ１０８を介して図８で説明したＧＵＩを入出力部１１４のディスプレイ上に上に表示する。階層構造記憶部１１２に記憶された階層構造は、入出力Ｉ／Ｆ１０８を介して入出力部１１４のディスプレイ上に表示されたＧＵＩ上に表示される。全体制御部１０５は、ＧＵＩからのフォルダ指定を入出力Ｉ／Ｆ１０８を介して受け付けメモリ１０９に記憶する。その後、入出力Ｉ／Ｆ１０８を介して入出力部１１４のディスプレイ上に図９で示したクラス情報入力ＧＵＩを表示する。全体制御部１０５は、ＧＵＩからクラス情報の入力を入出力Ｉ／Ｆ１０８を介して受け付け、メモリ１０９に記憶する。メモリ１０９に記憶された指定フォルダとクラス情報をクラス情報付与部１１５に送信し、クラス情報と指定フォルダ内の画像の情報をクラス情報記憶部１１１に転送する。クラス情報記憶部１１１に記憶されたクラス情報と指定フォルダ内の画像の情報は、入出力Ｉ／Ｆ１０８を介してＧＵＩ上に表示される。
【０１０５】
プログラムは分類装置１０１あるいは入出力部１０４に接続されている外部記憶媒体（図示せず）、または分類装置１０１あるいは入出力部１０４に接続されている通信手段１０３やバス１１６になどを介して入力され、メモリ１１６、あるいはメモリ１１６内の不揮発性メモリ（図示せず）に記憶され、次回以降はプログラムをメモリ１１６内の不揮発性メモリ（図示せず）に記憶されているプログラムをメモリ１１６に読み出し実行する。
【０１０６】
以上、本実施例では、階層構造をユーザに提示することによって、ユーザによるフォルダの指定入力を受け付け、指定フォルダ内の画像に対して一括でクラス情報付与を行うことで、ユーザクラス付与作業を容易かつ短時間で行うことを可能とするＧＵＩ、装置、プログラム及びプログラムを記憶した記憶媒体について述べた。
【実施例２】
【０１０７】
本発明にかかる実施例２として、実施例１と同じ装置及び処理フローにより、画像に対してクラス情報の付与を容易化するＧＵＩ及び装置を述べる。実施例１との違いは、ＧＵＩにクラス付与済みのクラスに対して階層構造を表示する付与ペインを有することであり、以下、ＧＵＩについて説明する。本実施例では実施例１と同様にＳＥＭを備えた観察装置で撮像した画像を分類する場合を対象に説明するが、本実施例にかかる画像自動分類装置の入力はＳＥＭ画像以外でも良く、光学式の手段やイオン顕微鏡などを用いて撮像した画像でも良い。
【０１０８】
図１０は本発明の実施の形態２に係る分類装置のＧＵＩの一例である。
【０１０９】
１００１は、クラス情報付与済みのクラスについて階層構造を表示する付与ペインである。
【０１１０】
１００２は、クラスペイン８０３に表示された各クラス情報付与済みのクラスに対応するクラスフォルダである。クラスフォルダ１００２は、フォルダ３０１と同様、画像の集合を意味し、対応するクラス情報が付与された画像の集合である。Ｓ７０６によって新クラスが追加され、Ｓ７０７によって指定フォルダ内の画像にクラス情報が付与された際、新クラスに対応するクラスフォルダが生成され、付与ペイン１００１上に表示される。
【０１１１】
１００３は、対応するクラスフォルダ１００２のクラス情報や、クラス情報が付与された画像の枚数を表示するクラスフォルダラベルである。このクラスフォルダラベルについて、図９と同様にクラス名を変えることができる。
【０１１２】
Ｓ７０３にて、未付与ペイン８０１上のフォルダ３０１や、画像ペイン８０２上の画像４０１が付与ペイン１００１にドラッグアンドドロップなどによって移動された際に、移動されたフォルダの指定を受け付けても良い。また、移動先が付与ペイン１００１上のクラスフォルダ１００２の場合、Ｓ７０４〜Ｓ７０６の処理をスキップし、移動先のクラスフォルダに対応するクラス情報を、移動されたフォルダに付与しても良い。
【０１１３】
また、Ｓ７０７にて、指定フォルダ内の画像にクラス情報を付与した際、指定フォルダを、付与したクラス情報に対応するクラスフォルダの下層に接続しても良い。また、指定フォルダの下の層の階層構造を維持したままクラスフォルダの下層に接続しても良い。
【０１１４】
付与ペイン１００１上のフォルダ３０１やクラスフォルダ１００２をクリックするなどによって、画像ペイン８０２にフォルダやクラスフォルダに含まれる画像を表示しても良い。これにより、フォルダに含まれる画像や、クラス情報が付与された画像を確認する手段をユーザに提供する。
【０１１５】
付与ペイン１００１上のフォルダ３０１やクラスフォルダ１００２に含まれる画像が変化した際、図５や図６の手法を用いてユーザによって選択されたフォルダあるいはクラスフォルダをルートフォルダとして、階層構造を再生成しても良い。この場合、選択されたフォルダあるいはクラスフォルダに含まれる画像のみを対象として階層構造を生成すれば良い。階層構造の再生成は、フォルダやクラスフォルダに含まれる画像が変化した場合に自動で実行されても良いし、ユーザ指示によって行われても良い。クラスフォルダに対して階層構造を再生成し、ユーザに提示することにより、ユーザのクラス情報付与間違い画像の検出作業を容易化する。
【０１１６】
以上述べた機能を有するＧＵＩはコンピュータで実行されるプログラムにより実現可能であり、また、このプログラムはメモリ、外部記憶媒体などの記憶媒体に記録され、憶媒体から読み出されることで、実行される。
【０１１７】
プログラムは分類装置１０１あるいは入出力部１０４に接続されている外部記憶媒体（図示せず）、または分類装置１０１あるいは入出力部１０４に接続されている通信手段１０３やバス１１６になどを介して入力され、メモリ１１６、あるいはメモリ１１６内の不揮発性メモリ（図示せず）に記憶され、次回以降はプログラムをメモリ１１６内の不揮発性メモリ（図示せず）に記憶されているプログラムをメモリ１１６に読み出し実行する。
【０１１８】
以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は前記実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。ここで述べた実施形態は、レビューＳＥＭで撮像した画像に対してクラス情報付与の容易化を可能とするＧＵＩ及び装置を述べたが、画像に対してクラス情報を付与する必要のある他の欠陥観察装置・検査装置から得られた画像に対しても、本発明を適用可能である。
【符号の説明】
【０１１９】
３０１…フォルダ、４０１…画像、８０１…未付与ペイン、８０２…画像ペイン、８０３…クラスペイン、８０４…画像情報、８０５…クラスラベル、８０６…クラスの代表画像、８０７…選択フォルダの枠、８０８…終了ボタン、８０９…並び替えボタン、８１０…表示画像種指定コンボボックス、８１１…代表画像表示チェックボックス、８１２…スクロールバー、８１３…特徴量セット指定コンボボックス、８１４…フォルダ表示ボタン
【図１】
0005719760.tif 000002
【図２】
0005719760.tif 000003
【図３】
0005719760.tif 000004
【図４】
0005719760.tif 000005
【図５】
0005719760.tif 000006
【図６】
0005719760.tif 000007
【図７】
0005719760.tif 000008
【図８】
0005719760.tif 000009
【図９】
0005719760.tif 000010
【図１０】
0005719760.tif 000011
【図１１】
0005719760.tif 000012
【図１２】
0005719760.tif 000013