(57)【要約】【課題】３次元データを同一画面に複数表示して視点変更などにより容易に対比可能な拡大観察装置等を提供する。【解決手段】拡大観察装置は、観察対象を撮像するための撮像部と、撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、制御部で生成された３次元の観察画像を表示するための表示部とを備える。この拡大観察装置は、表示部の一画面を複数の表示領域に分割し、各表示領域に個別の観察対象を各々表示すると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示するための表示制御部を備える。表示部制御は、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して変更する表示モードと、連動して変更する表示モードとを切替可能である。【選択図】図１０
2005114713.tif 000002
【特許請求の範囲】
【請求項１】
観察対象を撮像するための撮像部と、前記撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、前記制御部で生成された３次元の観察画像を表示するための表示部とを備える拡大観察装置であって、
前記制御部が、前記表示部の一画面を複数の表示領域に分割し、各表示領域に個別の観察対象を各々表示すると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示可能に構成されてなることを特徴とする拡大観察装置。
【請求項２】
請求項１に記載の拡大観察装置であって、前記制御部が、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して変更する表示モードと、連動して変更する表示モードとを切替可能に構成されてなることを特徴とする拡大観察装置。
【請求項３】
請求項１または２に記載の拡大観察装置であって、前記制御部が、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更するよう構成されてなることを特徴とする拡大観察装置。
【請求項４】
請求項１から３のいずれかに記載の拡大観察装置であって、前記制御部が、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替えて表示可能に構成されてなることを特徴とする拡大観察装置。
【請求項５】
観察対象を焦点距離を変化させて複数回撮像し、２次元の観察画像を複数枚撮像すると共に相対高さを記録するステップと、
複数枚の２次元の観察画像データおよび撮像時の高さに基づいて、３次元の観察画像を生成するステップと、
生成された３次元の観察画像を表示部に表示するステップとを有する拡大観察方法であって、さらに、
前記表示部の一画面を複数の表示領域に分割し、分割された各表示領域に個別の３次元画像を各々表示させると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示するステップと、
を備えることを特徴とする拡大観察方法。
【請求項６】
請求項５に記載の拡大観察方法であって、前記変更表示ステップが、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して、あるいは連動して変更可能であることを特徴とする拡大観察方法。
【請求項７】
請求項５または６に記載の拡大観察方法であって、さらに、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更するステップを含むことを特徴とする拡大観察方法。
【請求項８】
請求項５から７のいずれかに記載の拡大観察方法であって、さらに、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替えるステップを含むことを特徴とする拡大観察方法。
【請求項９】
観察対象を焦点距離を変化させて複数回撮像し、２次元の観察画像を複数枚撮像すると共に相対高さを記録する機能と、
複数枚の２次元の観察画像データおよび撮像時の高さに基づいて、３次元の観察画像を生成する機能と、
生成された３次元の観察画像を表示部に表示する機能とをコンピュータに実現させる拡大観察用操作プログラムであって、さらに、
前記表示部の一画面を複数の表示領域に分割し、分割された各表示領域に個別の３次元画像を各々表示させると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示する機能をコンピュータに実現させることを特徴とする拡大観察用操作プログラム。
【請求項１０】
請求項９に記載の拡大観察用操作プログラムであって、前記変更表示機能が、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して、あるいは連動して変更可能であることを特徴とする拡大観察用操作プログラム。
【請求項１１】
請求項９または１０に記載の拡大観察用操作プログラムであって、さらに、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更する機能をコンピュータに実現させることを特徴とする拡大観察用操作プログラム。
【請求項１２】
請求項９から１１のいずれかに記載の拡大観察用操作プログラムであって、さらに、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替える機能をコンピュータに実現させることを特徴とする拡大観察用操作プログラム。
【請求項１３】
請求項９から１２のいずれかに記載される拡大観察用操作プログラムを格納したコンピュータで読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、拡大した画像を撮像して表示するマイクロスコープや顕微鏡のような拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体に関する。
【背景技術】
【０００２】
今日、微小物体などを拡大して表示する拡大観察装置として、光学レンズを使った光学顕微鏡やデジタルマイクロスコープなどが利用されている。マイクロスコープは、光学系を介して入射する観察対象固定部に固定された観察対象からの反射光または透過光を、２次元状に配置された画素毎に電気的に読み取るＣＣＤなどの受光素子を備える。ＣＣＤを用いて電気的に読み取られた画像をディスプレイ等の表示部に表示する（例えば特許文献１）。
【０００３】
拡大観察装置においては、一般に拡大倍率が高くなると焦点深度が浅くなり、ピントの合う領域が狭くなるため、観察対象の試料（ワーク）に凹凸や高低差があると全体を観察することが困難となる。このため、画像全体にピントの合った画像を深度合成によって作成する手法が利用されている。深度合成は、高さ方向にレンズまたは試料を移動させ、光軸方向における相対距離を変化させて複数の画像を撮影し、ピントの合った部分を抽出して合成することで、焦点深度の深い画像を撮像する。また、複数の画像を撮影する際に、レンズまたは観察対象の移動量を同時に記録しておけば、合成画像を作成する際に観察対象の高さ情報も得ることができるので、取得した画像を３次元データとして構築することも可能である。３次元データに基づいて３Ｄ画像を拡大観察装置の表示部に再現することで、様々な視点や角度から立体的に画像を観察、評価したり、高さなど表面形状の測定を行うことができる。
【０００４】
しかしながら、従来の拡大観察装置では一の観察対象のみしか扱うことができず、同時に複数の観察対象を同一画面上に表示できるものはなかった。同種類の観察対象を複数観察、測定する場合は、１つずつ個別に表示させつつ、画面切り替えて観察する必要があり、比較検討等が不便であった。拡大観察装置は、製造物の不良品のチェック等に使用されることが多いため、基準となるレファレンス品と、検査対象品を対比しながら観察できる拡大観察装置とできれば対比観察が容易に行える。特に３次元データの場合、様々な角度から観察可能であるため、複数の観察対象を並べた状態で視点を変化させながら対比することができれば、より便利に使用できる。
【特許文献１】特開２０００−２１４７９０号公報
【発明の開示】
【発明が解決しようとする課題】
【０００５】
本発明は、このような問題点を解決するためになされたものである。本発明の主な目的は、３次元データを同一画面に複数表示でき、容易に対比可能な拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体を提供することにある。
【課題を解決するための手段】
【０００６】
上記の目的を達成するために、本発明の請求項１の拡大観察装置は、観察対象を撮像するための撮像部と、前記撮像部で取得された信号に基づいて３次元の観察画像を生成する制御部と、前記制御部で生成された３次元の観察画像を表示するための表示部とを備える。この拡大観察装置は、前記制御部が、前記表示部の一画面を複数の表示領域に分割し、各表示領域に個別の観察対象を各々表示すると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示可能に構成されている。
【０００７】
また、請求項２の拡大観察装置は、請求項１に記載の拡大観察装置であって、前記制御部が、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して変更する表示モードと、連動して変更する表示モードとを切替可能に構成されている。
【０００８】
さらに、請求項３の拡大観察装置は、請求項１または２に記載の拡大観察装置であって、前記制御部が、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更可能に構成されている。
【０００９】
さらにまた、請求項４の拡大観察装置は、請求項１から３のいずれかに記載の拡大観察装置であって、前記制御部が、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替えて表示可能に構成されている。
【００１０】
また、請求項５の拡大観察方法は、観察対象を焦点距離を変化させて複数回撮像し、２次元の観察画像を複数枚撮像すると共に相対高さを記録するステップと、複数枚の２次元の観察画像データおよび撮像時の高さに基づいて、３次元の観察画像を生成するステップと、生成された３次元の観察画像を表示部に表示するステップとを有する。この拡大観察方法はさらに、前記表示部の一画面を複数の表示領域に分割し、分割された各表示領域に個別の３次元画像を各々表示させると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示するステップを備える。
【００１１】
さらに、請求項６の拡大観察方法は、請求項５に記載の拡大観察方法であって、前記変更表示ステップが、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して、あるいは連動して変更可能である。
【００１２】
さらにまた、請求項７の拡大観察方法は、請求項５または６に記載の拡大観察方法であって、さらに、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更するステップを含む。
【００１３】
さらにまた、請求項８の拡大観察方法は、請求項５から７のいずれかに記載の拡大観察方法であって、さらに、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替えるステップを含む。
【００１４】
また、請求項９の拡大観察用操作プログラムは、観察対象を焦点距離を変化させて複数回撮像し、２次元の観察画像を複数枚撮像すると共に相対高さを記録する機能と、複数枚の２次元の観察画像データおよび撮像時の高さに基づいて、３次元の観察画像を生成する機能と、生成された３次元の観察画像を表示部に表示する機能とをコンピュータに実現させる。この拡大観察用操作プログラムはさらに、前記表示部の一画面を複数の表示領域に分割し、分割された各表示領域に個別の３次元画像を各々表示させると共に、複数の表示領域に各々表示される観察対象について、観察視点、拡大・縮小率の少なくともいずれかを変更して表示する機能をコンピュータに実現させる。
【００１５】
さらに、請求項１０の拡大観察用操作プログラムは、請求項９に記載の拡大観察用操作プログラムであって、前記変更表示機能が、複数の表示領域に各々表示される観察対象に対して、観察視点、拡大・縮小率の少なくともいずれかを独立して、あるいは連動して変更可能である。
【００１６】
さらにまた、請求項１１の拡大観察用操作プログラムは、請求項９または１０に記載の拡大観察用操作プログラムであって、さらに、所定のタイミングで、複数の表示領域に各々表示される観察対象に対して、各観察対象の画像を画像処理により特徴量を検出し、この特徴量に基づいて画像中から基準となる部位を特定し、特定された基準部位に基づいて画像同士の表示態様が略一致するように、自動的に観察視点、拡大・縮小率の少なくともいずれかを変更する機能をコンピュータに実現させる。
【００１７】
さらにまた、請求項１２の拡大観察用操作プログラムは、請求項９から１１のいずれかに記載の拡大観察用操作プログラムであって、さらに、複数の観察対象を表示する表示領域の内、任意の表示領域に表示される観察対象を固定する一方、他の表示領域に表示される観察対象を他の観察対象と入れ替える機能をコンピュータに実現させる。
【００１８】
また、本発明の請求項１３に記載されたコンピュータで読み取り可能な記録媒体は、請求項９から１２のいずれかに記載した拡大観察用操作プログラムを記録したものである。記録媒体には、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−ＲＷやフレキシブルディスク、磁気テープ、ＭＯ、ＤＶＤ−ＲＯＭ、ＤＶＤ−ＲＡＭ、ＤＶＤ−Ｒ、ＤＶＤ−ＲＷ、ＤＶＤ＋Ｒ、ＤＶＤ＋ＲＷ、ｂｌｕ−ｌａｙ、ＨＤ  ＤＶＤ（ＡＯＤ）等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。また上記のプログラムは、ネットワークを介してダウンロード可能な形態も含まれる。
【発明の効果】
【００１９】
本発明の拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体によれば、複数の３次元画像を同一画面上に同時に表示して対比できるので、これによって比較が容易に行えるという利点がある。例えば、不良品のチェックにおいて、良品と検査対象品を並べて表示することで、違いを発見し易くなり検査作業をスムーズに行うことができる。また３次元画像の表示プログラムは、視点を変更したり画像の拡大・縮小率を変更する機能を備えるものが多く、複数の画像を連動させて変更することで、操作が容易になる。
【００２０】
さらに、比較時に複数の画像の表示位置、角度、姿勢などを自動的に一致させる機能を備えることで、ユーザが各々の画像の表示態様を手動で調整することなく容易に同じ態様で表示させることができ、便利に使用できる。必要に応じて、各画像の視点や倍率等を独立して変更させてもよい。さらにまた、良品の画像を表示させたまま検査対象品の画像のみを順次入れ替えることで、不良品チェックを迅速にスムーズに行うことができる。このように、本発明によって拡大観察装置の３次元表示機能をより便利に使用できる環境が提供される。
【発明を実施するための最良の形態】
【００２１】
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体を例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体を以下のものに特定しない。
【００２２】
また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。
【００２３】
本発明の実施例において使用される拡大観察装置とこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばＩＥＥＥ１３９４、ＲＳ−２３２ｘやＲＳ−４２２、ＵＳＢ等のシリアル接続、パラレル接続、あるいは１０ＢＡＳＥ−Ｔ、１００ＢＡＳＥ−ＴＸ、１０００ＢＡＳＥ−Ｔ等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、ＩＥＥＥ８０２．１ｘ、ＯＦＤＭ方式等の無線ＬＡＮやＢｌｕｅｔｏｏｔｈ等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた撮像システムも含む意味で使用する。
【００２４】
［第１の実施の形態］
以下、図１から図２を用いて、本発明の第１の実施の形態に係る拡大観察装置を説明する。拡大観察装置は、図１に示すように観察対象の試料を照明するための照明部６０と、照明部６０により照明された試料を撮像する撮像部１０と、撮像部１０で撮像された拡大画像を表示する表示部５２を有する情報処理装置５０を備える。さらに図１の拡大観察装置は、試料を固定する試料固定部（試料Ｓを載置するステージ３０）と、光学系１１を介して入射する試料固定部に固定された試料Ｓからの反射光または透過光を電気的に読み取る撮像素子（ＣＣＤ１２）と、試料固定部と光学系１１の光軸方向における相対距離を変化させ焦点を調整する焦点調整部（ステージ昇降器２０）とを備える。さらにまた情報処理装置５０は、図２に示すように、焦点調整部によって焦点を調整したときの試料固定部と光学系１１の光軸方向における相対距離に関する焦点距離情報を、光軸方向とほぼ垂直な面内における試料の２次元位置情報と共に記憶する焦点距離情報記憶部（メモリ５３）と、撮像素子によって読み取られた画像を表示する表示部５２と、表示部５２によって表示された画像の一部の領域を少なくとも一つ設定可能な領域設定部（操作部５５、ポインティングデバイス５５Ａ）と、領域設定部によって設定された領域に対応する試料Ｓの一部または全部に関する焦点距離情報記憶部に記憶された焦点距離情報に基づいて、領域設定部によって設定された領域に対応する試料Ｓの光軸方向における平均高さを演算する演算部（制御部５１）とを備える。この拡大観察装置は、光学系を介して入射する試料固定部に固定された試料からの反射光または透過光を電気的に読み取る撮像素子を用いて、指定された領域に対応する試料の光軸方向における平均高さ（深さ）を演算できる。
【００２５】
撮像部１０は、図２に示すように、試料Ｓを載置する試料固定部の一形態であるステージ３０と、ステージ３０を移動させるステージ昇降器２０と、ステージ３０に固定された試料に光学系を介して入射される光の反射光または透過光を、２次元状に配置された画素毎に電気的に読み取る撮像素子の一形態としてＣＣＤ１２と、ＣＣＤ１２を駆動制御するＣＣＤ制御回路１３とを備える。さらに撮像部１０には、拡大観察装置本体である情報処理装置５０が接続される。情報処理装置５０は、撮像素子によって電気的に読み取られた画像データを記憶する画像データ記憶部の一形態としてメモリ５３と、撮像素子によって電気的に読み取られた画像データに基づいて画像を表示するディスプレイやモニタ等の表示部５２と、表示部５２上に表示される画面に基づいて入力その他の操作を行う操作部５５と、操作部５５によって入力された情報に基づいて画像処理その他各種の処理を行う制御部５１とを備える。表示部５２を構成するディスプレイは、高解像度表示が可能なモニタであり、ＣＲＴや液晶パネル等が利用される。
【００２６】
操作部５５はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部５５としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部５５は、拡大観察用操作プログラムの操作の他、拡大観察装置自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、または音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。図１の例では、操作部５５はマウス５５ａ等のポインティングデバイス５５Ａで構成される。
【００２７】
図１に本発明の実施の形態に係る拡大観察装置の外観図を示す。光学系および撮像素子を有するカメラ１０ａは、スタンド台４１から鉛直方向に延びる支柱４２に固定されたカメラ取り付け部４３に取り付けられる。スタンド台４１には、試料Ｓを載置するステージ３０が上部に取り付けられたステージ昇降器２０が配置される。カメラ１０ａおよびステージ昇降器２０は情報処理装置５０に接続されて制御される。情報処理装置５０は、表示部５２、およびマウス５５ａ等の操作部５５を備える。表示部５２には、観察画像が表示される。
【００２８】
また、情報処理装置５０である拡大観察装置にはコンピュータ７０を接続可能であり、コンピュータ７０に別途拡大観察用操作プログラムをインストールして、コンピュータ７０側からも拡大観察装置を操作することもできる。本明細書において、コンピュータを使って拡大観察装置を操作する拡大観察用操作プログラムとは、拡大観察装置に外部接続された汎用もしくは専用コンピュータにインストールされる操作プログラムの他、上述した拡大観察装置の制御部である情報処理装置５０に内蔵された操作プログラムも含む。拡大観察装置には、予め拡大観察装置を操作する操作機能あるいは操作プログラムが内蔵されている。この操作プログラムは、書き換え可能なソフトウェア、ファームウェアなどの形態で拡大観察装置に対してインストール、あるいはアップデートすることも可能である。従って、本明細書において拡大観察用操作プログラムを実行させるコンピュータには、拡大観察装置自体も含まれる。
【００２９】
図２に本発明の実施の形態に係る拡大観察装置のブロック図を示す。情報処理装置５０は、表示部５２と、制御プログラム・焦点距離情報・受光データ・２次元情報等を記憶するメモリ５３と、情報処理装置５０がカメラ１０ａおよびステージ昇降器２０とデータを通信するためのインターフェイス５４と、操作者が拡大観察装置に関する操作を行う操作部５５とから構成される。ステージ昇降器２０は、例えばステッピングモータ２１と、ステッピングモータ２１の昇降を制御するモータ制御部２２とから構成される。撮像部１０は、撮像素子として例えばＣＣＤ１２等の受光素子と、ＣＣＤ１２を駆動制御するＣＣＤ制御回路１３と、照明部６０からステージ３０上に載置された試料Ｓに対して照射された光の透過光や反射光をＣＣＤ１２上に結像させる光学系１１とを備える。
【００３０】
［画素ずらし手段］
さらに撮像部１０は、画素ずらしによってＣＣＤ１２の持つ解像度以上の高解像度を得るための画素ずらし手段を備えることができる。画素ずらしとは、例えば画素ピッチの半分だけ被写体をずらして撮影した画像と、ずらす前の画像とを合成することにより高解像度化を図るものである。代表的な画像ずらしの機構としては、撮像素子を移動させるＣＣＤ駆動方式、ＬＰＦを傾斜させるＬＰＦ傾斜方式、レンズを移動させるレンズ移動方式等がある。図２においては、ステージ３０に固定された試料Ｓから光学系１１を介してＣＣＤ１２に入射される反射光または透過光の入射光路を、少なくとも一の方向に、その方向におけるＣＣＤ１２の一画素の間隔よりも小さい距離で光学的にシフトさせる光路シフト部１４を備える。本発明の一実施形態において画素ずらしを実現するための機構や手法は、上記の構成に限られず、既知の方法や将来開発される方法が適宜利用できる。
【００３１】
情報処理装置５０は、モータ制御回路２２に対してステッピングモータ２１の制御に関する制御データを入力することによって、試料固定部であるステージ３０と、光学系１１および撮像素子であるＣＣＤ１２を有するカメラ１０ａとの光軸方向における相対距離、ここではｚ方向における高さを変化させる。具体的には、情報処理装置５０は、ステージ昇降器２０の制御に必要な制御データをモータ制御回路２２に入力することによってステッピングモータ２１の回転を制御し、ステージ３０の高さｚ（ｚ方向の位置）を昇降させる。ステッピングモータ２１は、回転に応じた回転信号を生成する。情報処理装置５０は、モータ制御回路２２を介して入力される回転信号に基づいて、試料固定部と光学系１１の光軸方向における相対距離に関する情報としてのステージ３０の高さｚを記憶する。なお本実施の形態においては、ステージ３０の高さを変化させることによって試料固定部と光学系の光軸方向における相対距離を変化させる例を示したが、ステージ３０を固定して光学系１１の高さ、例えばカメラ１０ａの高さを変化させてもよい。
【００３２】
ＣＣＤ１２は、ｘ方向およびｙ方向に２次元状に配置された画素毎に受光量を電気的に読み取ることができる。ＣＣＤ１２上に結像された試料Ｓの像は、ＣＣＤ１２の各画素において受光量に応じて電気信号に変換され、ＣＣＤ制御回路１３においてさらにデジタルデータに変換される。情報処理装置５０は、ＣＣＤ制御回路１３において変換されたデジタルデータを受光データＤとして、光軸方向（図２中のｚ方向）とほぼ垂直な面内（図２中のｘ、ｙ方向）における試料の２次元位置情報としての画素の配置情報（ｘ、ｙ）と共にメモリ５３に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して９０°をなす面である必要はなく、その光学系および撮像素子における解像度において試料の形状を認識できる程度の傾きの範囲内にある観察面であればよい。
【００３３】
また、以上の説明では試料固定部の一例として、試料がステージに載置される例を示したが、例えばステージの代わりにアームを取り付け、その先端に試料を固定する構成とすることもできる。さらにカメラ１０ａは、カメラ取り付け部４３に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。
【００３４】
図１に示す照明部６０は、試料に落射光を照射するための落射照明６０Ａと、透過光を照射するための透過照明６０Ｂを備える。これらの照明は、光ファイバー６１を介して情報処理装置５０と接続される。情報処理装置５０は光ファイバー６１を接続するコネクタ６２を備えると共に、コネクタ６２を介して光ファイバー６１に光を送出するための光源（図示せず）を内蔵する。光源にはハロゲンランプ等が用いられる。
【００３５】
［制御部５１］
制御手段である制御部５１は、撮像した観察画像を、表示部５２で表示可能な解像度に変換して表示するよう制御する。図１の拡大観察装置においては、撮像部１０がＣＣＤ１２によって試料Ｓを撮像した観察画像を表示部５２に表示する。一般にＣＣＤ等の撮像素子の性能は、表示部での表示能力を上回ることが多いので、撮像した観察画像を一画面に表示するためには画像を間引く等して解像度を一画面で表示可能なサイズまで落とし、縮小表示している。撮像部１０で読み取ったときの読取解像度を第一の解像度とすると、表示部５２においては第一の解像度よりも低い第二の解像度で表示されることとなる。
【００３６】
［第２の実施の形態］
次に、本発明の第２の実施の形態に係る拡大観察装置を、図３を用いて説明する。第２の実施の形態の拡大観察装置において、撮像部であるカメラは、試料Ｓに対して照射された第一の光源（レーザ１０１）からの光の反射光を第一の光学系１００を介して第一の受光素子（フォトダイオード１１２）によって受光する第一の撮像部と、試料Ｓに対して照射された第二の光源（白色ランプ２０１）からの光の反射光を第二の光学系２００を介して第二の受光素子（ＣＣＤ２１２）によって受光する第二の撮像部とを備える。
【００３７】
まず、第一の撮像部について説明する。第一の光学系１００は、試料Ｓに単色光（例えばレーザ光）を照射するレーザ１０１、第一のコリメートレンズ１０２、偏光ビームスプリッタ１０３、１／４波長板１０４、水平偏向装置１０５、垂直偏向装置１０６、第一のリレーレンズ１０７、第二のリレーレンズ１０８、対物レンズ１０９、結像レンズ１１０、ピンホール板１１１、フォトダイオード１１２を有する。
【００３８】
第一の光源には、例えば赤色レーザ光を発する半導体レーザ１０１が用いられる。レーザ駆動回路１１５によって駆動されるレーザ１０１から出射されたレーザ光は、第一のコリメートレンズ１０２を通り、偏光ビームスプリッタ１０３で光路を変えられ、１／４波長板１０４を通過する。この後、水平偏向装置１０５および垂直偏向装置１０６によって水平（横）方向および垂直（縦）方向に偏向された後、第一のリレーレンズ１０７および第二のリレーレンズ１０８を通過し、対物レンズ１０９によってステージ３０上に置かれた試料Ｓの表面に集光される。
【００３９】
水平偏向装置１０５および垂直偏向装置１０６は、それぞれガルバノミラーで構成され、レーザ光を水平および垂直方向に偏向させることにより、試料Ｓの表面をレーザ光で走査する。ステージ３０は、ステージ昇降器２０によりｚ方向（光軸方向）に駆動される。これにより、対物レンズ１０９の焦点と試料Ｓとの光軸方向での相対距離を変化させることができる。
【００４０】
試料Ｓで反射されたレーザ光は、上記の光路を逆に辿る。すなわち、対物レンズ１０９、第二のリレーレンズ１０８および第一のリレーレンズ１０７を通り、水平偏向装置１０５および垂直偏向装置１０６を介して１／４波長板１０４を再び通る。この結果、レーザ光は偏光ビームスプリッタ１０３を透過し、結像レンズ１１０によって集光される。集光されたレーザ光は、結像レンズ１１０の焦点位置に配置されたピンホール板１１１のピンホールを通過してフォトダイオード１１２に入射する。フォトダイオード１１２は受光量を電気信号に変換する。受光量に相当する電気信号は、出力アンプおよびゲイン制御回路（図示せず）を介してＡ／Ｄコンバータ１１３に入力され、デジタルデータに変換される。ここでは、第一の受光素子としてフォトダイオードを用いる例を示したが、フォトマルチプライヤ等を用いてもよい。また、レーザ１０１は赤色レーザに限定されず、青色、紫外光レーザを用いてもよい。このような短波長レーザを用いることによって高解像度の高さデータが得られる。
【００４１】
上記のような構成の第一の撮像部により、試料Ｓの高さ（深さ）情報を得ることができる。以下に、その原理を簡単に説明する。上述のように、ステージ３０がステージ昇降器２０のステッピングモータ２１およびモータ制御回路２２によってｚ方向（光軸方向）に駆動されると、対物レンズ１０９の焦点と試料Ｓとの光軸方向における相対距離が変化する。そして、対物レンズ１０９の焦点が試料Ｓの表面（被測定面）に結ばれたときに、試料Ｓの表面で反射されたレーザ光は上記の光路を経て結像レンズ１１０で集光され、ほとんどすべてのレーザ光がピンホール板１１１のピンホールを通過する。したがって、このときにフォトダイオード１１２の受光量が最大になる。逆に、対物レンズ１０９の焦点が試料Ｓの表面（被測定面）からずれている状態では、結像レンズ１０９によって集光されたレーザ光はピンホール板１１１からずれた位置に焦点を結ぶので、一部のレーザ光しかピンホールを通過することができない。その結果、フォトダイオード１１２の受光量は著しく低下する。
【００４２】
したがって、試料Ｓの表面の任意の点について、ステージ３０をｚ方向（光軸方向）に駆動しながらフォトダイオード１１２の受光量を検出すれば、その受光量が最大になるときのステージ３０の高さを求めることができる。
【００４３】
実際には、ステージ３０を１ステップ移動するたびに水平偏向装置１０５および垂直偏向装置１０６によって試料Ｓの表面を走査してフォトダイオード１１２の受光量を取得する。図４は、１つの点（画素）におけるステージ３０の高さｚに対する受光データＤの変化を示す。ステージ３０を測定範囲の下端から上端までｚ方向に移動させたとき、走査範囲内の複数の点（画素）について、図４に示したように高さｚに応じて変化する受光データＤが得られる。この受光データＤに基づいて、最大受光量とそのときの焦点距離Ｚｆが各点（画素）ごとに得られる。この受光データＤの最大値に対応するステージ３０の高さｚが焦点距離Ｚｆとなる。したがって、この焦点距離Ｚｆに基づいて試料Ｓの表面高さのｘ−ｙ平面での分布が得られる。この処理は、インターフェイス５３を介して入力されると共にメモリ５３に記憶されたＣＣＤ１２の受光データＤを画素の配置情報（ｘ、ｙ）および高さ情報ｚに基づいて、制御部５１によって行われる。
【００４４】
得られた表面高さの分布は、いくつかの方法で表示部５２に表示することができる。例えば３次元表示によって試料の高さ分布（表面形状）を立体的に表示することができる。あるいは、高さデータを輝度データに変換することにより、明るさの２次元分布として表示できる。また高さデータを色差データに変換することにより、高さの分布を色の分布として表示してもよい。
【００４５】
第２の実施の形態においても、第１の実施の形態と同様に、第一の撮像部によって得られた高さデータに基づき、ポインティングデバイス５５Ａ等によって表示部５２の画像上の２点を指定することによって矩形状に領域の設定を行い、領域内の平均高さや各領域間の相対高さを演算し、表示部５２に表示することができる。
【００４６】
また、ｘ−ｙ走査範囲内の各点（画素）について得られた受光量を輝度データとする輝度信号から、試料ｗの表面画像（白黒画像）が得られる。各画素における最大受光量を輝度データとして輝度信号を生成すれば、表面高さの異なる各点でピントの合った被写界深度の非常に深い共焦点画像が得られる。また、任意の注目画素で最大受光量が得られた高さ（ｚ方向位置）に固定した場合は、注目画素の部分と高低差が大きい部分の画素の受光量は著しく小さくなるので、注目画素と同じ高さの部分のみが明るい画像が得られる。
【００４７】
次に、第二の撮像部について説明する。第二の光学系２００は、試料Ｓに白色光（カラー画像撮影用の照明光）を照射するための第二の光源２０１、第二のコリメートレンズ２０２、第１ハーフミラー２０３、第２ハーフミラー２０４、第２受光素子としてのＣＣＤ２１２を有する。また、第二の光学系２００は第一の光学系１００の対物レンズ１０９を共用し、両光学系１００、２００の光軸は一致している。
【００４８】
第二の光源２０１には例えば白色ランプが用いられるが、特に専用の光源を設けず、自然光または室内光を利用してもよい。第二の光源２０１から出た白色光は、第二のコリメートレンズ２０２を通り、第一のハーフミラー２０３で光路を曲げられ、対物レンズ１０９によってステージ３０上に置かれた試料Ｓの表面に集光される。
【００４９】
試料Ｓで反射された白色光は、対物レンズ１０９、第一のハーフミラー２０３、第二のリレーレンズ１０８を通過し、第二のハーフミラー２０４で反射されてカラーで受光可能なＣＣＤ２１２に入射して結像する。ＣＣＤ２１２は、第一の光学系１００のピンホール板１１１のピンホールと共役または共役に近い位置に設けられている。ＣＣＤ２１２で撮像されたカラー画像は、ＣＣＤ制御回路２１３によって読み出されると共にデジタルデータに変換される。このようにして得られたカラー画像は、試料Ｓの観察用の拡大カラー画像として表示部５２に表示される。
【００５０】
また、第一の撮像部で得られた被写界深度の深い共焦点画像と第二の撮像部で得られた通常のカラー画像とを組み合わせて、すべての画素でピントの合った被写界深度の深いカラー共焦点画像を生成し、表示することもできる。例えば、第二の撮像部で得られたカラー画像を構成する輝度信号を第一の光学系１００で得られた共焦点画像の輝度信号で置き換えることにより、簡易的にカラー共焦点画像を生成することができる。
【００５１】
ここでは、共焦点光学系である第一の光学系１００を有する第一の撮像部と非共焦点光学系である第二の光学系２００を有する第二の撮像部を備える拡大観察装置を示したが、第１の撮像部のみを備える構成とすることもできる。
【００５２】
また、第１の実施の形態に係る拡大観察装置のように、受光素子は２次元状に配置された画素毎に受光量を読み取る２次元撮像素子（例えばＣＣＤ）であり、焦点調整部が領域設定部によって設定された領域に対応する試料の一部または全部に対応する受光量の和に基づいて焦点を調整する構成とした場合、共焦点光学系のような複雑な構成を必要とすることなく、簡単な構成で試料の高さを測定することができる。特に、この拡大観察装置においては、画素単位でなく、操作者によって設定された領域単位、すなわち相当数の画素の相対距離に対する受光データの変化から受光データの最大値を判断すると共に、そのときの平均焦点距離に基づいて平均高さを演算することから、白色光を光源としＣＣＤを受光素子として用いた場合であっても、各画素における受光データの焦点距離に対する変化のばらつきを低減でき、信頼性の高い平均高さの測定を行うことができる。さらに、２次元撮像素子としてカラーＣＣＤを用いる場合は、ＲＧＢの受光データに基づいてその画素の受光データを算出してもよく、またＲＧＢのうちの１または２の色調の受光データに基づいてその画素の受光データとしてもよい。
【００５３】
また、領域設定部によって設定された領域が、試料の大きさよりも大きく試料の全部を含んでいる場合には、試料以外の部分、すなわちステージの上面は平均高さの演算の対象から除外することが好ましい。より正確な試料の高さを演算することができるからである。この場合ステージの上面であるか否かは、その画素とその画素に隣接する画素との高さの差が所定高さ以上あるか否か等によって判別することができる。もちろん、領域設定部によって設定された領域が、試料の一部であっても、ステージの上面が領域に含まれる場合は、平均高さの演算の対象から除外することが好ましい。
【００５４】
また、以上の実施の形態においては、試料固定部に固定された試料からの反射光を電気的に読み取る例を示したが、試料の背面から光を照射してその透過光を電気的に読み取るように構成してもよい。また、以上の説明では、試料固定部の一例として、試料がステージに載置される例を示したが、例えばステージの代わりにアームを取り付けその先端に試料を固定する構成とすることもできる。
【００５５】
［３次元画像］
また拡大観察装置は、２次元的な画像のみならず、３次元画像を表示させることもできる。３次元データに基づいて３Ｄ画像を拡大観察装置の表示部５２に再現することで、様々な視点や角度から立体的に画像を観察、評価したり、高さなど表面形状やプロファイルの測定を行うことができる。３次元画像を生成して表示するには、例えば光軸方向における相対距離、すなわち観察対象の試料とレンズの距離を変化させて、画像を複数枚撮像し、同時に画像撮像時の移動量を記録しておく。これによって合成画像を作成する際に観察対象の高さ情報も得ることができるので、取得した画像を３次元データとして構築できる。なお３次元データの生成や後述する位置合わせなどの処理は、制御部５１で行われる。制御部５１などの部材は、所定のゲートアレイ（ＦＰＧＡ、ＡＳＩＣ）等のハードウエアやソフトウエア、あるいはこれらの混在により実現できる。また必ずしも各構成要素が図２や図３に示した構成と同一でなくてもよく、その機能が実質的に同一であるもの、及び一つの要素が図２や図３に示す構成における複数の要素の機能を備えるものは、本発明に含まれる。
【００５６】
一般的な３次元データの撮像方法を図５に基づいて説明する。まずステップＳ１で撮像部１０、ステージ昇降器２０および情報処理装置５０等を初期化する。そしてステップＳ２で、レンズの移動量と移動範囲を設定する。レンズの移動範囲はレンズの高さの範囲であり、例えばユーザが大まかな高さを移動開始位置として指定する。またレンズの移動量はレンズの一回当たりの移動距離であり、細かく設定するほど詳細な画像が撮像できる反面、生成に時間がかかるので、観察目的に応じて適切な値に設定する。指定方法としては、ユーザが画像の精細さを指定し、これに応じた移動距離を拡大観察装置側が自動的に設定したり、ユーザが直接移動距離を数値などで指定する、あるいはデフォルトの既定値を利用するなどの方法がある。
【００５７】
次にステップＳ３では、上記で指定された移動開始位置にレンズを設定する。そしてステップＳ４で撮像を開始する。撮像後、ステップＳ５でレンズをステップＳ２で設定された移動量だけ移動させ、ステップＳ６で移動範囲が終了位置に達したか否かを判定を行う。終了位置に達していない場合はステップＳ４に戻って撮像と移動ステップを繰り返す。移動の結果、ステップＳ２で設定された移動範囲を終えた時点でステップＳ７に移行し、２次元の撮像画像を合成する。そしてステップＳ８で、撮像された複数の２次元画像データに基づいて３次元画像データを構築し、表示部５２に表示させる。
【００５８】
［３次元画像データの作成］
３次元データの構築には、レンズの位置とそのときに撮像された画像から、高さ方向に変化するプロファイルが演算できるので、異なる高さ毎に撮像された複数枚の２次元画像データを合成することで、立体的な形状を構築できる。例えば撮像された２次元画像で得られる離散的なプロファイルを補完して、連続的なプロファイルを合成する。この処理はハードウェア的に高速に行うことができる。
【００５９】
以下、図６のフローチャートに基づいて３次元画像を合成する一手順を説明する。ここでは、複数の２次元画像を入力画像とし、これらに基づいて３次元画像データを生成すると共に、３次元画像をピントのあった状態に合成した２次元合成画像を生成する。まず、ステップＳ８−１で各部の初期化を、ステップＳ８−２で合成画像を作成する領域として用意された合成画像領域の初期化を行う。そしてステップＳ８−３で、入力画像である２次元画像データの周波数解析を行う。例えば２次元離散フーリエ変換や２次元離散ウェーブレット変換などによって、画像データの周波数成分を検出できる。さらにステップＳ８−４で、一定の領域について合成画像と入力画像を比較する。一定の領域とは、合成画像領域を所定の基準領域に分割したものであり、この基準領域を単位として合成画像と入力画像を比較しながら合成画像領域を走査していく。
【００６０】
そして、ステップＳ８−５で入力画像が合成画像よりピントが合っているかどうかを判定する。ピントの合焦点の度合いについては、上記ステップＳ８−３における周波数的な解析の結果から判断できる。判定の結果、入力画像の方がピントが合っている場合はステップＳ８−６に移行して、一定の領域について合成画像データを入力画像データと入れ替える。さらに、入れ替えた入力画像データを撮像時の高さ情報も合わせて保存される。そしてステップＳ８−７に進む。一方、ピントが合っていない場合はステップＳ８−６をスキップしてステップＳ８−７にジャンプする。なお、最初のループでは合成画像データの入力がない状態であるため、入力画像がそのまま合成画像として入力される。そしてステップＳ８−７のループを繰り返す内、ピントの合う画像と次々に入れ替えられ、最終的にピントのあった２次元合成画像が取得される。
【００６１】
ステップＳ８−７では、次の入力画像が存在するか否かを判定する。存在する場合はステップＳ８−３に戻ることで、すべての入力画像について上記の処理を繰り返す。存在しない場合は処理を終了する。以上のステップを経て、複数の２次元画像データからピントのあった２次元合成画像が取得され、同時に各ピントの合った位置における高さ情報が得られているため、立体的な情報を持つ３次元画像データが構築される。
【００６２】
以上のようにして構築された３次元画像は、自由に観察視点を変更したり画像を拡大・縮小等して表示させることができる。観察視点の変更には、任意の方向への画像の回転、反転、変形等の処理も含まれる。変更操作は、マウス５５ａ等のポインティングデバイス５５Ａで行われる。画像の回転は、マウス５５ａを操作し、画像を選択してドラッグしたままマウスポインタ５５ｅを移動させることで、ドラッグされた方向に回転する。また拡大・縮小は、ホイールマウスのスクロールボタン５５ｄに画面の拡大、縮小機能を割り当てることも可能である。これらの方法に限られず、操作部として操作ボタンやツールをソフトウェア画面上に配置して操作したり、操作機能をキーボードの特定のキーに割り付けたり、操作用の専用ハードウェアを操作部とすることもできる。
【００６３】
このような３次元画像の取得方法や、取得された３次元データの表示を変更する手法は、既知の方法や将来開発される方法が適宜利用できる。例えば、オープンＧＬ（Open Graphics Library）等のＡＰＩが利用できる。
【００６４】
取得された３次元データについては、上述の撮像過程で取得した撮像位置に関する基準情報を併せて保持できる。位置に関する基準情報は、撮像時におけるＸ，Ｙ，Ｚ方向の基準となる情報である。上述の通り３次元データの構築には、撮像時のレンズの高さとその高さで撮像された２次元画像が用いられ、異なる高さ毎に撮像された複数枚の２次元画像データを合成して３次元画像データが構築されるため、上述したレンズの移動量や移動範囲といった画像撮像時の高さ方向の移動量が記録されている。この情報を高さ方向、すなわちＺ方向の基準情報として利用する。また、Ｘ，Ｙ方向については、例えば３次元画像データの構築に使用された２次元画像の１ピクセルが、実際にどのくらいの長さに相当するかという実寸法に関する情報が利用できる。これらの基準情報を保持することで、複数の３次元画像を比較する際の倍率の調整や位置合わせ等に利用できる。なお、ここで必要な情報は必ずしも撮像された画像の実寸法に相当する情報でなくともよく、他の３次元画像データと相対的に比較できる情報であれば足り、例えば撮像時の拡大率や解像度、ドット数等も利用できる。このように、３次元画像データに基準情報を持たせることで、後述するように比較対象となる各３次元画像が持つＸ，Ｙ，Ｚ方向の基準データを元に、基準となる３次元画像データに合わせて比較する３次元画像の表示倍率を拡大縮小する。
【００６５】
また、基準情報に加えて、倍率情報や撮影条件に関する情報を併せて保持することもできる。例えば、照明の強度や撮影時刻、試料名など、任意のデータを３次元画像データと共に保存することができる。データの保存形式としては、３次元画像データファイルに、これらの情報を保持する専用のデータ領域を設けて、この部分にデータを書き込む方法などが利用できる。あるいは、個別のファイルに保存したデータを関連付けて保存することもできる。
【００６６】
［表示領域］
このようにして撮像された３次元画像を同一画面上に複数並べて表示させることで、対比を容易に行うことができる。図７に、本発明の一実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示す。この図に示すインターフェース画面は、２つの表示領域Ａ、Ｂを設け、画面の左側を表示領域Ａ、右側を表示領域Ｂとしている。このように、一の画面上の任意の位置に表示領域（３次元画像）を配置する構成の他、例えば画面に境界線を表示して複数の表示領域に分割してもよい。あるいは、別ウィンドウで表示領域を構成し、一画面上に複数のウィンドウを縮小して並べて表示することもできる。
【００６７】
それぞれの表示領域Ａ、Ｂには、異なる３次元画像を表示できる。各々の領域において表示したい３次元画像をユーザは選択する。例えば、「ファイルを開く」ダイヤログボックスから、保存されたファイルを選択して開く。各々の３次元画像は、それぞれ個別に視点を変更したり、回転、拡大・縮小することができる。例えば一方の画像を固定したまま他方の画像のみを回転させたり拡大縮小できる。また、複数の３次元画像を連動して視点変更、拡大・縮小などさせることもできる。このような各画像を連動させた表示変更モードと、独立させた個別の表示変更モードとを切り替えて操作できる。図８は、図７の状態から表示領域Ａの３次元画像を固定したまま、表示領域Ｂの３次元画像の視点を変更した状態を示す。また図９は、図７の状態から表示領域Ｂの３次元画像を固定したまま、表示領域Ａの３次元画像の表示を変更した状態をそれぞれ示す。さらに図１０は、図７の状態から、表示領域Ａ、Ｂ両方の３次元画像を同時に変化させる例を示す。上記の例では、マウス５５ａの左右ボタン５５ｂ、５５ｃにそれぞれの画像の視点変更を割り当てている。マウス５５ａの左ボタン５５ｂを押下したままマウス５５ａを移動させると、その方向に画面左の表示領域Ａの３次元画像が回転し（図９）、同様にマウス５５ａの右ボタン５５ｃを操作すると、画面右に配置された表示領域Ｂの３次元画像が操作できる（図８）。また、マウス５５ａの左右ボタン５５ｂ、５５ｃを同時に押下して操作すると、左右の３次元画像が同時に操作でき、同じように回転される（図１０）。さらに、この例ではマウス５５ａのスクロールボタン５５ｄを回転させると２つの表示領域が同時に拡大・縮小される（図１１〜図１３）。スクロールボタン５５ｄを手前から奥に回転させると、画面が拡大表示され、図１１から図１２、図１３のように細部が確認できる。また逆に回転させると画面が縮小されて、図１３から図１２、図１１のように切り替えられる。この例に限られず、一方の倍率を固定して、他方の３次元画像のみを拡大・縮小表示させることもできる。なお、各表示領域で異なる観察対象を表示することはもちろん、同一の観察対象を各表示領域で異なる視点から表示することも可能であることはいうまでもない。
【００６８】
このように２つの画像を同一画面に表示させ、さらに表示態様を自由に変化可能とすることによって、画像の対比が容易に行える。また、任意の表示領域に表示される観察対象を固定し、他の表示領域に表示される観察対象を他の画像と入れ替えて表示することも可能である。また、入れ替える画像を自動的に切り替えて表示させてもよい。この機能は、特に良品と不良品の判別などの作業に好適に利用できる。例えば、基準となるリファレンス品と検査対象品を同時に表示させ、一方の表示領域でリファレンス品を表示させたまま、他方の表示領域で検査対象品の画像を順次入れ替えて表示することにより、同じ種類の検査対象品を順次比較検査できる。また、後述するように各画像を同じ姿勢や角度等の表示状態で表示させることにより、リファレンス品と検査品をさらに効率よく対比観察できる。さらにまた、入れ替える画像をスライドショーのように自動的に更新してもよい。これによって同じ種類の検査品から不良品を容易に発見できるようになる。
【００６９】
もちろん、表示部５２には一の画像のみを表示させることもできる。図１６に、他の実施の形態として異なるインターフェース画面に対象画像を表示する例を示す。このように、表示部に一の画像のみを表示させるモードと、複数の表示領域を表示するモードとを表示制御部で切り替えて表示できる。
【００７０】
［画像の位置合わせ］
さらに、複数の表示領域で表示される画像群は、それぞれが同一の姿勢や位置、角度や傾きで表示されるように調整できる。この調整は、ユーザが手動で行う他、自動的に行うこともできる。例えば、図１４に示すように２つの観察対象のワークＷ１、Ｗ２の初期表示状態が合致しないでずれることも考えられる。初期位置がずれているとその後の比較がしづらくなるので、図１５に示すように２つのワークＷ１、Ｗ２が同一の姿勢で表示されるように画像の視点や傾きを修正する。この例では、左側の表示領域ＡのワークＷ１をリファレンスとして固定し、右側の表示領域Ｂに表示されるワークＷ２が、表示領域ＡのワークＷ１と同一の姿勢で表示されるように、画像認識やパターンマッチングの技術を利用して自動調整される。例えば各画像から特徴点を抽出して同一の箇所を特定し、この位置を基準として同一の姿勢となるようにいずれか、あるいは両方の画像を回転させる。両方の画像を回転させる際には、水平姿勢の正面図や平面図、右斜め上４５°から見た斜視図など、基準となる所定の表示形態を予め設定しておき、両方の画像をこの姿勢に合致させる。あるいは、任意の時点における一方の表示領域での表示状態に視点や拡大率を合わせるように、他方の表示領域における表示状態を調整することもできる。例えば図９や図１０に示すインターフェース画面において、類似のワークＷ３、Ｗ４が異なる視点で表示されている状態から、両者の姿勢を揃えるように一方を回転させ、また一方のワークを回転、拡大縮小させるのに同期して、他方のワークの表示状態も同様に変更することができる。
【００７１】
ワークＷ１、Ｗ２の位置合わせを行う具体的な手法を、図１７のフローチャートに基づいて説明する。まず、ステップＳ’１で各部の初期化を行う。次いでステップＳ’２でワーク１の画像合成処理を、ステップＳ’３でワーク２の画像合成処理をそれぞれ行う。画像合成処理は、図６に基づいて上述した３次元画像データの作成と同様の処理である。ここでは、ピントのあった２次元画像同士の位置決めを行う。次にステップＳ’４で、ワーク１とワーク２の２次元合成画像間でパターンマッチングを行う。さらにステップＳ’５で、ワーク１とワーク２の画像のパターンマッチング結果に基づいて、画像間の位置ずれしている回転角度および拡大率を計算する。この計算結果を基に、ステップＳ’６で一方の画像について位置の補正を行う。すなわち、基準となる画像と略同一の表示となるように、回転角度と拡大率を変更して表示する。これによって、２次元画像の位置合わせが実現される。
【００７２】
以上の手順では、３次元画像を特定の姿勢で表示した２次元画像を対象に画像の位置あわせを行った。この例に限られず、３次元画像データ同士の位置合わせを行うこともできる。例えば、３次元のパターンマッチングや、３次元の各画像データから立体画像の重心を算出し、重心の軸を基準として３次元画像の姿勢を調整することで、３次元画像を同一姿勢に一致させることができる。重心軸の算出にはモーメントの演算等が利用できる。これによって、３次元の画像データを使って２次元データよりも正確な位置合わせが実現される。
【００７３】
姿勢や角度などを同じくする表示態様で複数の画像を表示させることによって、両者の共通部分の認識や相違点の把握を容易に行える。さらに、位置合わせの自動調整機能を使用することで、撮像された画像の表示状態を手動で一致させる手間を省くことができ、例えば画像撮像時の位置決め作業を簡素化して画像取り込みを容易にできる。
【００７４】
またこの位置合わせは、任意のタイミングで実行できる。例えば画像を画面に表示させた際の初期状態として自動的に行わせることもできる。あるいは、それぞれの画像に対して回転や拡大・縮小などの処理を行った後に、これらの操作をリセットして同一姿勢や初期状態、あるいは設定された状態に回転角度や拡大率などを戻すこともできる。設定された状態としては、任意の回転角や姿勢が設定でき、例えば平面図や斜視図の表示姿勢等が指定できる。特に自動調整された状態を初期状態に設定しておくことで、常に同じ姿勢で対比可能な状態に角度や拡大率を戻すことができ、操作のやり直しや確認作業等に便利である。なお設定された姿勢や初期状態に戻す機能は、すべての表示領域に対して一律に実行する他、任意の表示領域のみを対象とすることもできる。このような位置合わせ機能の実行には、専用の位置合わせボタンを用意しておくことで、機能の呼び出しが容易となりユーザは任意のタイミングで所定の姿勢への復帰を行える。また、画面をダブルクリックする、あるいは特定のショートカットを割り当てる等の方法で位置合わせ機能や初期状態へのリセットを実行させることも可能である。
【００７５】
上記の例では表示領域Ａ、Ｂの２つで３次元画像を表示させる例を示したが、３以上の３次元画像を表示させることも可能であることはいうまでもない。また、３次元画像に限られず２次元画像等を表示することも可能である。さらに、同一の観察対象を複数の画面に表示させることも可能である。例えば、同一の試料につき、正面と背面を同時に確認するなど、視点を変えた画像を表示させる場合に有効である。
【００７６】
［画像の位置合わせ］
次に、画像の位置合わせについて具体例を詳述する。図１８は、画像の位置合わせを行う拡大観察用操作プログラムの操作を行うユーザインターフェース画面を示すイメージ図である。まず、表示画像の倍率を一致させる手順について説明する。図１８において、下段の「ファイル選択」欄から、まず基準となる３次元画像データを選択する。図の例ではプルダウンメニューで選択しているが、ダイヤログ画面等から選択することも可能であることはいうまでもない。ファイルを選択して「３Ｄを表示」ボタンを押下すると、表示部５２Ｂとして図１９のような３次元画像のビューワ画面が開き、選択された３次元画像が表示される。次に、比較したい３次元画像データを、同じく図１８の「ファイル選択」欄から選択する。ファイルを選択後、「ファイル選択」欄の上段に設けられた「３Ｄファイル比較」欄の「比較モード」ボタンを押下すると、図２０に示すような画面に切り替わり、既に表示されている基準となる３次元画像が左側の表示領域Ａに表示されると共に、その右側の表示領域Ｂに、選択した比較対象の３次元画像が並んで表示される。ここで表示される画像は、同一あるいは類似の対象を撮影したものであるが、倍率が異なっている。この状態から、図１８の「３Ｄファイル比較」欄の「連動モード」ボタンを押下すると、図２１に示すように、比較対象画像の倍率が変更されて、左側の基準画像と同じ大きさとなるように縮小して表示される。拡大縮小倍率の調整は、上述したとおり３次元データと共に保存された撮像位置に関する基準情報に基づいて行われる。ここでは、各画像の撮像時の倍率を比較して、左側の基準画像の倍率を基準として、右側の比較対象画像の倍率を一致させるように自動的に拡大縮小率を演算し、演算された値に基づいて表示倍率を変更している。これによって、同じスケールで画像を並べて比較できるので、観察に非常に便利となる。
【００７７】
次に、観察の視点を合わせる手順について説明する。上記と同様に、図１８の画面から基準画像を選択して表示させ、所望の視点に調整する。視点の調整は、上述の通りマウスのドラッグなどにより行える。ここでは、図２２のように基準画像の視点を変更したものとする。次に、上記と同様にして図１８の画面から比較対象の画像を選択して表示させると、図２３に示すように比較画像が右側の表示領域Ｂに、基準画像が左側の表示領域Ａに各々表示される。この状態から、図１８の「３Ｄファイル比較」欄の「同期セット」ボタンを押下すると、図２４に示すように比較画像の姿勢が変更され、右側の基準画像と同じ視点となるように表示される。視点の変更処理には、上述した画像認識やパターンマッチングの技術が利用される。各画像の回転角度やオフセット位置などを演算し、比較画像の表示姿勢が基準画像と一致するように演算して処理される。またこの際に、上述した３次元データと共に保存された撮像位置に関する基準情報を利用してもよい。以上のようにして、同じ視点から２つの画像を対比して観察できるので、非常に便利に使用できる。
【００７８】
さらにこの状態から、図１８の「３Ｄファイル比較」欄の「連動モード」ボタンを押下すると、図２５に示すように、姿勢を同じに維持したまま比較対象画像の倍率が変更されて、左側の基準画像と同じ姿勢および倍率で表示される。このように、倍率の視点の一致を共に行うことで、様々な画像を観察しやすい優れた環境が実現される。なお、上記は一例であって、プログラムのユーザインターフェース画面や操作方法などは、適宜変更可能であることはいうまでもない。
【産業上の利用可能性】
【００７９】
本発明の拡大観察装置、拡大画像観察方法、拡大観察用操作プログラムおよびコンピュータで読み取り可能な記録媒体は、顕微鏡やデジタルマイクロスコープに利用して、観察対象の試料を複数同一画面に表示して対比できる。
【図面の簡単な説明】
【００８０】
【図１】本発明の実施の形態に係る拡大観察装置の外観図である。
【図２】本発明の第１の実施の形態に係る拡大観察装置のブロック図である。
【図３】本発明の第２の実施の形態に係る拡大観察装置のブロック図である。
【図４】高さｚに対する受光データの変化を示すグラフである。
【図５】３次元データの撮像方法の一例を示すフローチャートである。
【図６】複数の２次元画像データから合成画像を生成する一手順を説明するフローチャートである。
【図７】本発明の一実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示すイメージ図である。
【図８】図７の状態から表示領域Ｂの３次元画像の視点を変更した状態を示すイメージ図である。
【図９】図７の状態から表示領域Ａの３次元画像の視点を変更した状態を示すイメージ図である。
【図１０】図７の状態から表示領域Ａ、Ｂの３次元画像の視点を同時に変更した状態を示すイメージ図である。
【図１１】表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。
【図１２】表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。
【図１３】表示領域Ａ、Ｂの３次元画像の拡大率を変更した状態を示すイメージ図である。
【図１４】２つの画像の表示状態が合致しない例を示すイメージ図である。
【図１５】図１４の画像の表示状態を一致させた例を示すイメージ図である。
【図１６】本発明の他の実施の形態に係る拡大観察用操作プログラムのインターフェース画面を示すイメージ図である。
【図１７】ワークの位置合わせを行う一手順を説明するフローチャートである。
【図１８】画像の位置合わせを行う拡大観察用操作プログラムのユーザインターフェース画面の一例を示すイメージ図である。
【図１９】図１８の操作に基づき基準となる３次元画像を表示するイメージ図である。
【図２０】図１９の基準３次元画像と、比較対象の３次元画像とを表示するイメージ図である。
【図２１】図２０の画面から、比較対象画像を基準画像と同じ倍率に変更して表示する例を示すイメージ図である。
【図２２】図１９の基準３次元画像を表示する視点を変更した例を示すイメージ図である。
【図２３】図２２の基準３次元画像と、比較対象の３次元画像とを表示するイメージ図である。
【図２４】図２３の画面から、比較対象画像の視点を基準画像と同じに変更して表示する例を示すイメージ図である。
【図２５】図２４の画面から、さらに比較対象画像を基準画像と同じ倍率に変更して表示する例を示すイメージ図である。
【符号の説明】
【００８１】
１０・・・撮像部；１０ａ・・・カメラ；１１・・・光学系
１２、２１２・・・ＣＣＤ；１３、２１３・・・ＣＣＤ制御回路
１４・・・光路シフト部
２０・・・ステージ昇降器
２１・・・ステッピングモータ
２２・・・モータ制御回路
３０・・・ステージ
４１・・・スタンド台
４２・・・支柱
４３・・・カメラ取り付け部
５０・・・情報処理装置
５１・・・制御部
５２、５２Ｂ・・・表示部
５３・・・メモリ
５４・・・インターフェイス
５５・・・操作部；５５Ａ・・・ポインティングデバイス
５５ａ・・・マウス；５５ｂ・・・左ボタン；５５ｃ・・・右ボタン
５５ｄ・・・スクロールボタン；５５ｅ・・・マウスポインタ
６０・・・照明部；６０Ａ・・・落射照明；６０Ｂ・・・透過照明
６１・・・光ファイバー
６２・・・コネクタ
７０・・・コンピュータ
１００・・・第一の光学系
１０１・・・レーザ
１０２・・・第一のコリメートレンズ
１０３・・・偏光ビームスプリッタ
１０４・・・１／４波長板
１０５・・・水平偏向装置
１０６・・・垂直偏向装置
１０７・・・第一のリレーレンズ；１０８・・・第二のリレーレンズ
１０９・・・対物レンズ
１１０・・・結像レンズ
１１１・・・ピンホール板
１１２・・・フォトダイオード
１１３・・・Ａ／Ｄコンバータ
１１５・・・レーザ駆動回路
２００・・・第二の光学系
２０１・・・白色ランプ
２０２・・・第二のコリメートレンズ
２０３・・・第１ハーフミラー；２０４・・・第２ハーフミラー
３００・・・コントローラ部
３０２・・・「ファイル選択」欄
３０４・・・「３Ｄを表示」ボタン；３０６・・・「３Ｄを閉じる」ボタン
３１０・・・「３Ｄファイル比較」欄
３１２・・・「比較モード」ボタン；３１３・・・「サブ切換」ボタン
３１４・・・「連動モード」ボタン；３１６・・・「同期セット」ボタン
３２０・・・「高さ調整」スライダ
３２２・・・「保存」ボタン；３２４・・・「リセット」ボタン
３２６・・・「高さ／カラー」ボタン
３２８・・・透過率調整スライダ
３３０・・・「スケール」ボタン
Ｓ・・・試料；Ａ、Ｂ・・・表示領域；Ｗ１、Ｗ２・・・ワーク
【図１】
2005114713.tif 000003
【図２】
2005114713.tif 000004
【図３】
2005114713.tif 000005
【図４】
2005114713.tif 000006
【図５】
2005114713.tif 000007
【図６】
2005114713.tif 000008
【図１７】
2005114713.tif 000009
【図７】
2005114713.tif 000010
【図８】
2005114713.tif 000011
【図９】
2005114713.tif 000012
【図１０】
2005114713.tif 000013
【図１１】
2005114713.tif 000014
【図１２】
2005114713.tif 000015
【図１３】
2005114713.tif 000016
【図１４】
2005114713.tif 000017
【図１５】
2005114713.tif 000018
【図１６】
2005114713.tif 000019
【図１８】
2005114713.tif 000020
【図１９】
2005114713.tif 000021
【図２０】
2005114713.tif 000022
【図２１】
2005114713.tif 000023
【図２２】
2005114713.tif 000024
【図２３】
2005114713.tif 000025
【図２４】
2005114713.tif 000026
【図２５】
2005114713.tif 000027