(57)【要約】  本技術は、正確な像ズレ量を検出することができるようにする焦点検出装置および方法、並びにプログラムに関する。演算部は、位相差検出のための第１の特性を有するＡ画素群の受光量分布および第１の特性と異なる第２の特性を有するＢ画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する。本技術は、位相差検出方式により焦点検出を行う撮像装置に適用することができる。
2019073814.tif 000002
【特許請求の範囲】
【請求項１】
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する演算部を
備える焦点検出装置。
【請求項２】
前記演算部は、機械学習により作成されるニューラルネットワークである
請求項１に記載の焦点検出装置。
【請求項３】
前記演算部は、前記デフォーカス量関係情報として、前記第１の画素群のボケ関数および前記第２の画素群のボケ関数を出力する
請求項２に記載の焦点検出装置。
【請求項４】
前記演算部は、前記デフォーカス量関係情報として、前記第１の画素群のボケ関数の重心位置と前記第２の画素群のボケ関数の重心位置との差分である像ズレ量を出力する
請求項２に記載の焦点検出装置。
【請求項５】
前記演算部は、前記デフォーカス量関係情報とともに、前記デフォーカス量関係情報の信頼性を表す信頼性情報を出力する
請求項２に記載の焦点検出装置。
【請求項６】
前記演算部は、前記信頼性情報として、前記第１の画素群の受光量分布および前記第２の画素群の受光量分布が属する、前記デフォーカス量のクラスを数値で表したクラス情報を出力する
請求項５に記載の焦点検出装置。
【請求項７】
前記演算部は、前記信頼性情報として、機械学習時に出力した前記デフォーカス量関係情報と、正しい情報とを比較して算出される正確性を表す正確性情報を出力する
請求項５に記載の焦点検出装置。
【請求項８】
前記演算部は、前記信頼性情報として、前記第１の画素群のボケ関数および前記第２の画素群のボケ関数が鏡像関係にある性質に対する近さを示す類似性情報を出力する
請求項５に記載の焦点検出装置。
【請求項９】
前記デフォーカス量関係情報を焦点検出に用いるか否かを、前記信頼性情報に基づいて判定する判定部をさらに備える
請求項５に記載の焦点検出装置。
【請求項１０】
前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量のうちの最大の受光量に基づいて、前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量のそれぞれを正規化する前処理部をさらに備え、
前記演算部は、正規化された前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
請求項２に記載の焦点検出装置。
【請求項１１】
前記第１の画素群の画素の受光量のうちの最大の受光量に基づいて前記第１の画素群の画素の受光量を正規化するとともに、前記第２の画素群の画素の受光量のうちの最大の受光量に基づいて前記第２の画素群の画素の受光量を正規化する前処理部をさらに備え、
前記演算部は、正規化された前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
請求項２に記載の焦点検出装置。
【請求項１２】
前記第１の画素群の画素の受光量から平均値を引いた値を、前記第１の画素群の受光量の分散値で割るとともに、前記第２の画素群の画素の受光量から平均値を引いた値を、前記第２の画素群の受光量の分散値で割る演算を行う前処理部をさらに備え、
前記演算部は、分散値で割ることによって得られた前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
請求項２に記載の焦点検出装置。
【請求項１３】
前記第１の画素群の所定の数の画素の受光量を加算するとともに、前記第２の画素群の所定の数の画素の受光量を加算する前処理部をさらに備え、
前記演算部は、受光量を加算した前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
請求項２に記載の焦点検出装置。
【請求項１４】
前記第１の画素群から画素を間引くとともに、前記第２の画素群から画素を間引く前処理部をさらに備え、
前記演算部は、間引かれた前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
請求項２に記載の焦点検出装置。
【請求項１５】
焦点検出装置が、
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する
焦点検出方法。
【請求項１６】
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する演算部
として、コンピュータを機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本技術は、焦点検出装置および方法、並びにプログラムに関し、特に、正確な像ズレ量を検出することができるようにした焦点検出装置および方法、並びにプログラムに関する。
【背景技術】
【０００２】
撮影レンズの瞳分割を行う一対の位相差検出用画素（以下、位相差画素という）の出力信号を用いて焦点検出を行う瞳分割の位相差検出方式が知られている。瞳分割の位相差検出方式では、一対の位相差画素の出力信号の像ズレ量を重心演算を行うことによって検出し、検出した像ズレ量を、変換係数を用いてデフォーカス値に変換している。検出した像ズレ量に対する変換係数を算出するために、撮影レンズの口径情報と位相差画素の受光角度の感度情報を用いて算出する技術が提案されている。【０００３】
一方、像ズレ量を検出する方式として、一対の位相差画素の出力信号をシフトさせ、波形の相関度が最大となったシフト量を像ズレ量にする相関演算方式が知られている。【０００４】
しかしながら、上述した瞳分割の位相差検出方式における位相差画素の波形（以下、位相差波形という）は原理的に一致しないという特徴を有するため、重心演算により検出された像ズレ量に対して適切な変換係数を与えるのが困難であった。【０００５】
そこで、重心演算により検出された像ズレ量に、相関演算方式により算出される像ズレ量を補正値として与える技術が提案されていた（特許文献１参照）。
【先行技術文献】
【特許文献】
【０００６】
【特許文献１】特開２０１４−５６００２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００７】
しかしながら、特許文献１の提案では、評価を行った全被写体の平均値にしか合わせこむことができなかった。また、位相差波形の不一致により相関演算結果が被写体形状に応じて変化してしまうことに対する対策が必要であった。【０００８】
本技術はこのような状況に鑑みてなされたものであり、正確な像ズレ量を検出することができるようにするものである。
【課題を解決するための手段】
【０００９】
本技術の一側面の焦点検出装置は、位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、デフォーカス量に関係するデフォーカス量関係情報を出力する演算部を備える。【００１０】
本技術の一側面においては、位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、デフォーカス量に関係するデフォーカス量関係情報が出力される。
【発明の効果】
【００１１】
本技術によれば、正確な像ズレ量を検出することができる。【００１２】
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
【図面の簡単な説明】
【００１３】
【図１】位相差画素の受光感度分布と撮影レンズの瞳とを示す図である。
【図２】位相差画素の受光量分布の一例を示す図である。
【図３】位相差を求める方法を説明するための図である。
【図４】絵柄とデフォーカス量との関係について説明する図である。
【図５】絵柄と相関演算結果との関係について説明する図である。
【図６】デフォーカス量の算出に必要な情報について説明する図である。
【図７】本技術を適用した位相差処理部の第１の構成例を示すブロック図である。
【図８】本技術を適用した位相差処理部の第２の構成例を示すブロック図である。
【図９】本技術を適用した撮像装置の構成例を示すブロック図である。
【図１０】図７の位相差処理部のオートフォーカス処理について説明するフローチャートである。
【図１１】撮像素子からの画素入力の例を説明する図である。
【図１２】図８の位相差処理部のオートフォーカス処理について説明するフローチャートである。
【図１３】図８の機械学習処理部の出力の例を説明する図である。
【図１４】図８の機械学習処理部から出力される信頼性パラメータ(DFクラス)の例を示す図である。
【図１５】図８の機械学習処理部から出力される信頼性パラメータ(DFクラス)の他の例を示す図である。
【図１６】信頼性が高い場合の信頼性パラメータの出力例について説明する図である。
【図１７】信頼性が低い場合の信頼性パラメータの出力例について説明する図である。
【図１８】信頼性が低い場合の信頼性パラメータの他の出力例について説明する図である。
【図１９】図８の機械学習処理部から出力される信頼性パラメータの例を示す図である。
【図２０】学習装置のハードウェア構成例を示すブロック図である。
【図２１】ニューラルネットワークの学習に用いられる学習データの収集方法１を説明する図である。
【図２２】ニューラルネットワークの学習に用いられる学習データの収集方法２を説明する図である。
【図２３】手術室システムの全体構成を概略的に示す図である。
【図２４】集中操作パネルにおける操作画面の表示例を示す図である。
【図２５】手術室システムが適用された手術の様子の一例を示す図である。
【図２６】図２５に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
【発明を実施するための形態】
【００１４】
以下、本技術を実施するための形態について説明する。説明は以下の順序で行う。
０．概要
１．撮像装置
２．応用例
【００１５】
＜＜０．概要＞＞
撮影レンズの瞳分割を行う一対の位相差検出用画素（以下、位相差画素という）の出力信号を用いて焦点検出を行う位相差検出方式が知られている。この瞳分割の位相差検出方式では、一対の位相差画素の出力信号の像ズレ量を重心演算や相関演算を行うことによって検出し、検出した像ズレ量に対して、所定の変換係数を用いてデフォーカス量に変換する処理が行われる。
【００１６】
＜位相差画素の受光感度分布の例＞
図１は、位相差画素の受光感度分布と撮影レンズの瞳とを示す図である。
【００１７】
図１においては、位相差画素であるＡ画素とＢ画素のそれぞれの受光感度分布が示されている。図１の縦軸がｙ軸方向の入射角θｙであり、横軸がｘ軸方向の入射角θｘである。原点が光軸の位置に対応する。
【００１８】
図１の同心の複数の楕円は受光感度分布を示し、中央の円ほど受光感度が高いことを表している。図１の破線は、Ａ画素およびＢ画素のそれぞれの出力重心位置を示す。
【００１９】
図１のＡは、Ａ画素の受光感度分布１１と、撮影レンズの瞳２１とを示す図である。画素Ａは、左部分が遮光されている画素であり、右側で受光が行われる。したがって、Ａ画素の受光感度分布１１は右側に寄ったものとなる。Ａ画素の受光感度分布１１の範囲のうち、瞳２１と重なる範囲において受光が行われ、図２のＡに示されるような受光量が検出される。
【００２０】
図１のＢは、Ｂ画素の受光感度分布１２と、撮影レンズの瞳２２とを示す図である。画素Ｂは、右部分が遮光されている画素であり、左側で受光が行われる。したがって、Ｂ画素の受光感度分布１２は左側に寄ったものとなる。Ｂ画素の受光感度分布１２の範囲のうち、瞳２２と重なる範囲において受光が行われ、図２のＢに示されるような受光量が検出される。
【００２１】
＜位相差画素の受光量分布の例＞
図２は、図１の位相差画素の受光量分布の一例を示す図である。
【００２２】
図２の縦軸が位相差画素の受光量に応じた出力信号レベルＺAとＺBであり、横軸がｘ軸方向の入射角θｘである。出力信号レベルＺAはＡ画素の出力信号レベルであり、出力信号レベルＺBはＢ画素の出力信号レベルである。図２の破線も、Ａ画素およびＢ画素のそれぞれの出力重心位置を示す。
【００２３】
図２のＡは、Ａ画素の受光量分布３１の一例である。図１のＡで上述したように、Ａ画素の受光感度分布１１が右側に寄っていることに加え、瞳２１と重なる範囲のみ受光が行われることから、Ａ画素の受光量分布３１は、図２のＡに示されるような波形となる。
【００２４】
図２のＢは、Ｂ画素の受光量分布３２の一例である。図１のＢで上述したように、Ｂ画素の受光感度分布１２が左側に寄っていることに加え、瞳２２と重なる範囲のみ受光が行われることから、Ｂ画素の受光量分布３２は、図２のＢに示されるような波形となる。
【００２５】
このように、Ａ画素の受光特性とＢ画素の受光特性が異なるため、Ａ画素の受光量分布３１とＢ画素の受光量分布３２は、原理的に一致しない。
【００２６】
＜位相差の求め方＞
図３は、位相差を求める方法を説明するための図である。
【００２７】
図３のＡでは、縦軸が、Ａ画素またはＢ画素の受光量に応じた出力レベルＺであり、横軸がｘ軸方向の入射角θｘである。
【００２８】
図３のＡに白抜き矢印で示されるように、Ａ画素の受光量分布３１を固定として、Ｂ画素の受光量分布３２を＋θｘ方向にシフトさせていくと、図３のＢに示されるように、あるシフト量θｍにおいてＡ画素およびＢ画素の受光量分布の相関度が最も高くなる。図３のＢは、相関演算結果Ｃとシフト量θｓとの関係を示し、下方にあるドットほど、Ａ画素とＢ画素の受光量分布の相関度が高いことを示している。
【００２９】
相関度が最も高いシフト量θｍのときの像ズレ量に基づいて、変換係数を用いた演算が行われ、デフォーカス量が求められていた。
【００３０】
しかしながら、瞳分割の位相差検出方式において、Ａ画素とＢ画素の受光量分布を表す位相差波形は、上述したように原理的に一致しない。
【００３１】
したがって、位相差波形が一致することを前提とした瞳分割の位相差検出方式において、重心演算や相関演算により検出された像ズレ量に対して適切な変換係数を与えるのが困難であった。
【００３２】
また、図４に示されるように、カメラ４１とレンズ４１ａの位置を固定にするとともに、被写体４２の位置を固定にしたとしても、被写体の絵柄が異なる場合には、それぞれ異なるデフォーカス量が算出されてしまっていた。被写体１、被写体２、被写体３は、それぞれ絵柄が異なる被写体である。
【００３３】
＜絵柄と相関演算結果との関係＞
図５は、絵柄と相関演算結果との関係について説明する図である。
【００３４】
図５の左側には、Ａ画素のLSF(Line Spread Function：線拡がり関数)５１とＢ画素のLSF５２が示されている。LSFはボケ関数である。
【００３５】
シミュレーションでは、レンズ位置、カメラ位置、被写体位置が同じであれば、LSFは同じである。本実施の形態では、ボケ関数としてLSFが用いられているが、PSF(Point Spread Function：点拡がり関数)などの他のボケ関数が用いられるようにしてもよい。実際には、LSFと横軸で囲まれた面積が１になるように正規化される。
【００３６】
Ａ画素の出力とＢ画素の出力は、それぞれのLSFと被写体画像とのコンボリューション（畳み込み）５３として表される。図５の被写体画像６１乃至被写体画像６３において、スリット幅がそれぞれ異なることは、それぞれ絵柄違いの画像であることを表す。
【００３７】
図５の例においては、被写体画像６１が畳み込まれた後のＡ画素の位相差波形７１とＢ画素の位相差波形７２の相関演算結果Ｓ６１は、120pitchとされている。また、被写体画像６２が畳み込まれた後のＡ画素の位相差波形７３とＢ画素の位相差波形７４の相関演算結果Ｓ６２は、100pitchとされている。被写体画像６３が畳み込まれた後のＡ画素の位相差波形７５とＢ画素の位相差波形７６の相関演算結果Ｓ６３は、80pitchとされている。
【００３８】
以上のように、畳み込まれた後の位相差波形はLSFとスリット幅（絵柄違い）の関係によりそれぞれ異なり、相関演算結果Ｓ６１乃至相関演算結果Ｓ６３も異なるものとなる。すなわち、相関演算では、像間隔を正確に求めることができなかった。
【００３９】
これは、そもそも原理的に一致しない位相差波形に相関演算を適用することが間違いであり、相関演算結果に物理的な意味がないことが原因であった。
【００４０】
＜デフォーカス量の算出に必要な情報＞
図６は、デフォーカス量の算出に必要な情報について説明する図である。
【００４１】
図６の上段には、左から順に被写体画像８１、コンボリューション（畳み込み演算）を表す演算子、Ａ画素のLSF８２とＢ画素のLSF８３、Ａ画素の位相差波形８４とＢ画素の位相差波形８５が示されている。
【００４２】
被写体画像８１の下には、被写体画像８１を表す波形９１が示されている。Ａ画素のLSF８２とＢ画素のLSF８３の下には、Ａ画素のLSF８２とＢ画素のLSF８３が波形として示されている。Ａ画素のLSF８２とＢ画素のLSF８３の上に示す白抜き矢印は、被写体画像８１の絵柄毎に異なるデフォーカス量DF1とデフォーカス量DF2を示す。
【００４３】
位相差検出のための従来の相関演算においては、図６に示されるように、観測可能なＡ画素の位相差波形８４とＢ画素の位相差波形８５しか使用されていなかった。Ａ画素の位相差波形８４とＢ画素の位相差波形８５は、被写体画像８１にＡ画素のLSF８２とＢ画素のLSF８３が畳み込まれることで算出されるものである。
【００４４】
実際に得られる情報としては、Ａ画素の位相差波形８４とＢ画素の位相差波形８５の他に、従来の相関演算では使っていなかった第１の情報として、Ａ画素の位相差波形８４の被写体とＢ画素の位相差波形８５の被写体が共通の被写体であるという情報がある。
【００４５】
また、従来の相関演算では使っていなかった第２の情報として、Ａ画素のLSF８２とＢ画素のLSF８３は、縦軸に対して鏡像関係にあり、デフォーカス量に対応して伸長するだけであるという情報がある。
【００４６】
ここで、本来、デフォーカス量の情報を持っているのは、Ａ画素のLSF８２とＢ画素のLSF８３であり、得られたＡ画素の位相差波形８４とＢ画素の位相差波形８５は、LSFが畳み込まれた後のものでしかなかった。すなわち、Ａ画素の位相差波形８４とＢ画素の位相差波形８５からでは、どういったLSFが畳み込まれているのかがわからなかった。
【００４７】
位相差検出において抽出すべきは、位相差ではなく、LSF自体であった。
【００４８】
そこで、本技術は、一対の位相差波形をニューラルネットワークに入力し、ボケ関数や像ズレ量などのデフォーカス量に関係するデフォーカス関係情報を出力するようにしたものである。
【００４９】
ニューラルネットワークは、被写体、LSF、または波形などを学習データとして、後述する機械学習により作成される。
【００５０】
本実施の形態においては、機械学習として、ニューラルネットワークを例に説明するが、ディープラーニングや他の機械学習による演算を用いてもよい。他の機械学習としては、ランダムフォレストやK-meansなどがある。
【００５１】
また、ニューラルネットワークの代わりに、機械学習ではない、クラス分類適応処理などの統計的な学習による演算を用いてもよい。
【００５２】
従来の相関演算では畳み込まれた後の情報であるＡ画素の位相差波形８４とＢ画素の位相差波形８５しか使っていなかったが、ニューラルネットワークを用いることにより、使っていなかった第１の情報と第２の情報を制約条件として盛り込んだ上で、像ズレ量を求めることができる。
【００５３】
すなわち、本来一致しない位相差波形を用いた場合であっても、正確な像ズレ量を求めることができる。正確な像ズレ量を求めることにより、正確なデフォーカス量を求めることが可能となり、結果として、デフォーカス量に基づいて行われるフォーカス制御の精度を向上させることができる。
【００５４】
＜＜  １．撮像装置  ＞＞
はじめに、本技術を適用した撮像装置に含まれる位相差処理部について説明する。
【００５５】
＜位相差処理部の構成例＞
図７は、本技術を適用した位相差処理部の第１の構成例を示すブロック図である。
【００５６】
図７の位相差処理部１０１は、位相差画素の信号に基づいて位相差検出処理を行う。位相差画素の信号から、位相差画素の受光量分布が表される。
【００５７】
図７に示すように、位相差処理部１０１は、機械学習処理部１１１を含むように構成される。機械学習処理部１１１は、後述する機械学習により作成されるニューラルネットワークである。
【００５８】
機械学習処理部１１１は、位相差画素の信号に基づいて、デフォーカス量関係情報を出力する。すなわち、機械学習処理部１１１は、位相差画素の信号を入力として、機械学習処理を行い、ボケ関数や像ズレ量などデフォーカス量関係情報を出力する。
【００５９】
なお、本実施の形態においては、機械学習は、ニューラルネットワークを作成するための学習処理を意味する。また、機械学習処理は、ニューラルネットワークを用いた推測（推論）処理を意味する。
【００６０】
機械学習処理部１１１から出力されたデフォーカス量関係情報に基づいて、オートフォーカス機能やフォーカスアシスト機能に必要なデフォーカス量が算出される。
【００６１】
図８は、本技術を適用した位相差処理部の第２の構成例を示すブロック図である。
【００６２】
図８の位相差処理部１０１は、前処理部１２１、機械学習処理部１２２、および信頼性判定部１２３を含むように構成される。
【００６３】
前処理部１２１は、位相差画素であるＡ画素およびＢ画素の信号に対して前処理を施し、前処理後の位相差画素の信号を機械学習処理部１２２に出力する。
【００６４】
前処理部１２１では、前処理として、以下の第１乃至第５のいずれかの処理が行われる。各式において、「Ａ」はＡ画素の画素値を表し、「Ｂ」はＢ画素の画素値を表す。
【００６５】
第１の処理は、Ａ画素群の画素の最大値とＢ画素群の画素の最大値のうちの大きい値に基づいて、Ａ画素の画素値とＢ画素の画素値をそれぞれ正規化する処理である。第１の処理により、正規化されたＡ画素の画素値と、正規化されたＢ画素の画素値が、機械学習処理部１２２に入力される。第１の処理は、次の式（１）のように表される。
【数１】
2019073814.tif 000003
【００６６】
第２の処理は、Ａ画素については、Ａ画素群の画素の最大値に基づいて、Ａ画素の画素値を正規化し、Ｂ画素については、Ｂ画素群の画素の最大値に基づいて、Ｂ画素の画素値を正規化する処理である。第２の処理により、正規化されたＡ画素の画素値と、正規化されたＢ画素の画素値が、機械学習処理部１２２に入力される。第２の処理は、次の式（２）のように表される。
【数２】
2019073814.tif 000004
【００６７】
第３の処理は、Ａ画素については、Ａ画素の画素値からＡ画素群の画素の平均値を引いた値を、Ａ画素群の画素の分散値で割り、Ｂ画素についてはＢ画素の画素値からＢ画素群の画素の平均値を引いた値を、Ｂ画素群の画素の分散値で割る処理である。第３の処理により、Ａ画素群の画素の分散値で割った値と、Ｂ画素群の画素の分散値で割った値とが、機械学習処理部１２２に入力される。第３の処理は、次の式（３）のように表される。
【数３】
2019073814.tif 000005
【００６８】
第４の処理は、ｎ個の画素からなる画素群の画素値を加算する処理である。すなわち、ｎ個のＡ画素からなる画素群の画素値を加算するとともに、ｎ個のＢ画素からなる画素群の画素値を加算する処理である。第４の処理により、ｎ個のＡ画素からなる画素群の画素値が加算された値と、ｎ個のＢ画素からなる画素群の画素値が加算された値が、機械学習処理部１２２に入力される。
【００６９】
第５の処理は、ｎ個の画素からなる画素群毎に画素を間引く処理である。すなわち、ｎ個のＡ画素からなる画素群毎に画素を間引くとともに、ｎ個のＢ画素からなる画素群毎に画素を間引く処理である。第５の処理により、ｎ個のＡ画素からなる画素群毎に画素が間引かれたＡ画素の画素群の画素値と、ｎ個のＢ画素からなる画素群毎に画素が間引かれたＢ画素の画素群の画素値が、機械学習処理部１２２に入力される。
【００７０】
これらの前処理を行うことで、ニューラルネットワークである機械学習処理部１２２の機械学習の効率を上げることができる。また、第１の処理と第２の処理のような正規化処理または第３の処理のような標準化処理を行うことで、ニューラルネットワークである機械学習処理部１２２の汎化能力を高めることができる。
【００７１】
なお、前処理は、上述した第１乃至第５の処理に限らず、他の演算処理であってもよいし、Ａ画素およびＢ画素をそのまま通過させてもよい。また、図７の位相差処理部１０１にも前処理部１２１を備えるようにしてもよい。
【００７２】
機械学習処理部１２２は、デフォーカス量関係情報の出力に加えて、位相差画素の信号を入力として機械学習処理を行い、デフォーカス量関係情報の信頼性を表す信頼性情報を出力する。
【００７３】
信頼性判定部１２３は、デフォーカス量関係情報と信頼性情報に基づいて、デフォーカス量に関係するデフォーカス量関係報の信頼性の高さを判定する。信頼性判定部１２３は、信頼性が高いと判定されたデフォーカス量関係情報のみを、後段に出力する。信頼性が低いと判定されたデフォーカス量関係情報は、除去される。
【００７４】
＜撮像装置の構成例＞
図９は、本技術を適用した撮像装置の構成例を示すブロック図である。
【００７５】
撮像装置１５１は、レンズ１６１、撮像素子１６２、補間処理部１６３、信号処理部１６４、圧縮部１６５、記憶部１６６、出力制御部１６７、表示部１６８を含んで構成される。撮像装置１５１は、さらに、図７または図８で上述した位相差処理部１０１、焦点検出部１６９、およびレンズ駆動部１７０を含んで構成される。位相差処理部１０１および焦点検出部１６９が焦点検出装置１５１Ａに対応する。
【００７６】
被写体からの光は、レンズ１６１を介して、撮像素子１６２に入射される。撮像素子１６２は、画素が配列された画素アレイ部を有する。画素アレイ部には、RGB画素と位相差画素が所定の順番で配列されている。撮像素子１６２は、入射した光を光電変換し、画素アレイ部の各画素の画素値をA/D変換することで、画素の信号を生成する。このとき、撮像素子１６２は、画素アレイ部を構成する複数の画素のうち、RGB画素からの信号を、補間処理部１６３に出力する。
【００７７】
撮像素子１６２は、画素アレイ部を構成する複数の画素それぞれからの信号を、図示せぬフレームメモリに一時的に記録する。そして、撮像素子１６２は、フレームメモリに記録された各画素のうち、位相差画素の信号を逐次読み出し、読み出された信号を、位相差処理部１０１に出力する。
【００７８】
なお、撮像素子１６２は、全画素からの信号をフレームメモリに一時的に保持させることが可能なため、RGB画素の信号と位相差画素の信号とを、必ずしも同じタイミングで並列に、補間処理部１６３と位相差処理部１０１にそれぞれ出力する必要はない。すなわち、撮像素子１６２は、RGB画素の信号の出力後に位相差画素の信号を出力することも、位相差画素の出力後にRGB画素の信号を出力することも可能である。もちろん、撮像素子１６２は、RGB画素の信号と位相差画素の信号とを並列に補間処理部１６３と位相差処理部１０１にそれぞれ出力してもよいことは言うまでもない。
【００７９】
補間処理部１６３は、例えば、Bayer配列等のカラーフィルタの配列に応じて、欠落した色の画素信号を生成するデモザイク処理などの色分離処理をすることでRGB毎のプレーンの画像を生成し、信号処理部１６４に供給する。
【００８０】
信号処理部１６４は、補間処理後の画像に、ガンマ補正、ホワイトバランス調整などの信号処理を施して、信号処理後の画像を、圧縮部１６５および出力制御部１６７に出力する。
【００８１】
圧縮部１６５は、信号処理後の画像を、JPEG（JointPhotographic Experts Group）、TIFF（Tag Image File Format）、GIF（Graphics Interchange Format）等の所定の圧縮形式の画像信号に変換する。圧縮部１６５は、変換後の画像信号を、記憶部１６６に記憶させたり、通信部として機能し、ネットワーク１５２を介して他の装置やサーバに送信したりする。
【００８２】
なお、圧縮部１６５においては、信号処理後の画像を変換する例を説明したが、RAW形式のデータがそのまま記憶されたり、他の装置やサーバに送信されたりしてもよい。
【００８３】
記憶部１６６は、HDD（Hard Disk Drive）、SSD（SolidState Drive）、および、半導体メモリなどのいずれか、または、それらの組み合わせなどからなる。
【００８４】
出力制御部１６７は、信号処理後の画像を、表示部１６８に表示させる。出力制御部１６７は、焦点検出部１６９により検出されたデフォーカス量に基づいて、マニュアルフォーカス調整時のフォーカスアシストを行うための操作画面を、表示部１６８に表示させる。
【００８５】
表示部１６８は、LCD（Liquid Crystal Display）などからなる。表示部１６８は、出力制御部１６７からの画像を表示する。
【００８６】
位相差処理部１０１は、図７または図８を参照して上述したように、撮像素子１６２からの位相差画素の信号を入力し、位相差検出処理を行い、デフォーカス量関係情報を焦点検出部１６９に出力する。
【００８７】
焦点検出部１６９は、デフォーカス量関係情報に基づいて、デフォーカス量を求め、レンズ駆動部１７０に出力する。焦点検出部１６９は、求めたデフォーカス量を、フォーカスアシストを行うための操作画面の表示のため、出力制御部１６７に供給する。
【００８８】
レンズ駆動部１７０は、焦点検出部１６９からのデフォーカス量に基づいて駆動量を求め、レンズ１６１を駆動させる。
【００８９】
＜撮像装置の動作＞
次に、図１０のフローチャートを参照して、図７の位相差処理部１０１の場合のオートフォーカス処理について説明する。なお、図１０では、デフォーカス量関係情報として、像ズレ量が出力される例を説明する。
【００９０】
ステップＳ５１において、位相差処理部１０１は、撮像素子１６２からの一対の位相差画素の信号を入力する。
【００９１】
図１１は、撮像素子１６２の画素アレイ部からの画素入力の例を説明する図である。Ａが示される画素は、一対の位相差画素のうち、Ａ画素を表し、Ｂが示される画素は、位相差画素のうち、Ｂ画素を表す。ＡもＢも示されない画素は、RGB画素のいずれかの画素を示す。
【００９２】
位相差処理部１０１には、図１１の上段に示されるように、撮像素子１６２の画素配列からの任意の１ラインの位相差画素であるＡ画素およびＢ画素の信号が入力される。
【００９３】
または、位相差処理部１０１には、図１１の下段に示されるように、撮像素子１６２内加算により、撮像素子１６２の画素配列からの複数ラインの位相差画素であるＡ画素およびＢ画素の信号の平均値が入力される。
【００９４】
図１０に戻り、ステップＳ５２において、位相差処理部１０１の機械学習処理部１１１は、機械学習処理により像ズレ量を焦点検出部１６９に出力する。
【００９５】
ステップＳ５３において、焦点検出部１６９は、像ズレ量に基づいてデフォーカス量を求め、レンズ駆動部１７０に出力する。
【００９６】
ステップＳ５４において、レンズ駆動部１７０は、焦点検出部１６９からのデフォーカス量に基づいて駆動量を求め、レンズ１６１を駆動させる。これにより、撮像装置１５１の焦点を合わせることができる。
【００９７】
次に、図１２のフローチャートを参照して、図８の位相差処理部１０１の場合のオートフォーカス処理について説明する。なお、図１２では、デフォーカス量関係情報として、像ズレ量が出力される例を説明する。
【００９８】
ステップＳ１０１において、位相差処理部１０１は、撮像素子１６２からの一対の位相差画素の信号を入力する。
【００９９】
ステップＳ１０２において、位相差処理部１０１の前処理部１２１は、入力した一対の位相差画素であるＡ画素およびＢ画素の信号に、上述した第１乃至第５の処理のいずれかの前処理を行い、前処理後の位相差画素の信号を機械学習処理部１２２に出力する。
【０１００】
ステップＳ１０３において、機械学習処理部１２２は、機械学習処理により像ズレ量と信頼性情報を、焦点検出部１６９に出力する。
【０１０１】
ステップＳ１０４において、信頼性判定部１２３は、像ズレ量および像ズレ量の信頼性情報を入力し、信頼性情報に基づいて、像ズレ量の信頼性が高いか否かを判定する。
【０１０２】
ステップＳ１０４において、像ズレ量の信頼性が高いと判定された場合、信頼性判定部１２３は、像ズレ量を焦点検出部１６９に出力し、処理は、ステップＳ１０５に進む。
【０１０３】
ステップＳ１０５において、焦点検出部１６９は、像ズレ量に基づいてデフォーカス量を求め、レンズ駆動部１７０に出力する。
【０１０４】
ステップＳ１０６において、レンズ駆動部１７０は、焦点検出部１６９からのデフォーカス量に基づいて駆動量を求め、レンズ１６１を駆動させる。これにより、撮像装置１５１の焦点を合わせることができる。
【０１０５】
一方、ステップＳ１０４において、像ズレ量の信頼性が低いと判定された場合、像ズレ量は除去され、処理は、ステップＳ１０１に戻り、それ以降の処理が繰り返される。
【０１０６】
実際には、ステップＳ１０１乃至Ｓ１０４の処理は、複数の検波枠について行われる処理である。複数の検波枠のうち、ステップＳ１０４で信頼性が低いとされた検波枠の値は除去される。一方、複数の検波枠のうち、ステップＳ１０４で信頼性が高いとされた検波枠の値から代表値が算出される。
【０１０７】
代表値は、単純平均値、信頼性の最も高いもの、手前被写体優先などで求められる。ステップＳ１０５において、算出された代表値が、像ズレ量として用いられて計算される。
【０１０８】
なお、上記説明においては、本技術により求められたデフォーカス量を、オートフォーカスに用いられる例を説明したが、オートフォーカスに限らず、フォーカスアシストなど焦点検出に関する他の処理に用いることができる。
【０１０９】
＜機械学習処理部からの出力の例＞
図１３は、図８の機械学習処理部からの出力の例を説明する図である。
【０１１０】
機械学習処理部１２２からは、デフォーカス量関係情報として、矢印Ｐ１に示されるように、Ａ画素のLSF１８１およびＢ画素のLSF１８２が出力される。
【０１１１】
矢印Ｐ２に示されるように、Ａ画素のLSF１８１の重心位置と、Ｂ画素のLSF１８２の重心位置により、デフォーカス量の算出に用いられる像ズレ量を求めることができるため、機械学習処理部１２２からは、像ズレ量を出力するようにしてもよい。
【０１１２】
ここまでは、上述した図７の機械学習処理部１１１の場合も同様である。
【０１１３】
さらに、機械学習処理部１２２の場合、矢印Ｐ３に示されるように、機械学習処理部１２２から出力されたLSFが信頼できるのか否かの判定を行うための信頼性情報として、Ａ画素のLSF１８１およびＢ画素のLSF１８２が鏡像関係にある性質にどれだけ近いのかを指標化した類似性情報を出力するようにしてもよい。
【０１１４】
図１３の場合、指標化したもの、すなわち、指標値として、Ａ画素のLSF１８１およびＢ画素のLSF１８２の共通部面積が示されている。指標値である共通部面積が閾値内であれば、想定されたLSFの形であると判定される。閾値内とは、所定の上限値以下であり、所定の下限値以上であることを示す。
【０１１５】
具体的には、ハッチに示した部分が共通部であり、算出Ａが、Ａ画素のLSF１８１と横軸で囲まれた範囲の面積、算出Ｂが、Ｂ画素のLSF１８２と横軸で囲まれた範囲の面積とすると、共通部面積は、次の式（４）で求められる。
【数４】
2019073814.tif 000006
【０１１６】
図１４は、図８の機械学習処理部からの出力の例を説明する図である。図１４の場合、像ズレ量と、信頼性情報である信頼性パラメータ(DFクラス)が出力される。
【０１１７】
図１４の機械学習処理部１２２−１は、入力された波形に対する像ズレ量２１１と、信頼性パラメータであるDFクラス２１２を、Output配列で出力する。DFクラス２１２は、像ズレ量２１１がどのDFクラスに属するのかをクラス分類した情報である。DFクラス２１２において、左側はマイナス方向のDFクラスが配置され、右側には、プラス方向のDFクラスが配置される。
【０１１８】
図１４の場合の信頼性判定は、一貫性(Consistency)を見ることにより判定される。像ズレ量２１１も、DFクラス２１２も、それぞれ、デフォーカス量に依存する物理量である。信頼性判定により見られる一貫性とは、像ズレ量が決まれば、それに対応するDFクラス２１２が一意に決定されることを表す。
【０１１９】
図１５は、図１４の信頼性パラメータをモデル化した図である。図１５の場合、機械学習処理部１２２−１からは、1chの像ズレ量２１１と7chのDFクラス２１２からなる8chのデータが出力される。
【０１２０】
DFクラス２１２は、大DF+クラス、中DF+クラス、小DF+クラス、DF0付近クラス、小DF-クラス、中DF-クラス、および大DF-クラスで構成される。
【０１２１】
上から順に、大DF+クラスは、正の方向で、大きいデフォーカス量のクラスであり、中DF+クラスは、正の方向で、中ぐらいのデフォーカス量のクラスであり、小DF+クラスは、正の方向で、小さいデフォーカス量のクラスである。
【０１２２】
DF0付近クラスは、デフォーカス量が0の付近のクラスであり、小DF-クラスは、負の方向で、小さいデフォーカス量のクラスである。中DF-クラスは、負の方向で、中ぐらいのデフォーカス量のクラスである。大DF-クラスは、負の方向で、大きいデフォーカス量のクラスである。
【０１２３】
さらに、図１６乃至図１８を参照して、信頼性パラメータを詳しく説明する。図１６は、信頼性が高い（信頼性に自信がある）場合の信頼性パラメータの例について説明する図である。図１６のDFクラスの信頼性の値は、左から順に、大DF-クラスが0.01であり、中DF-クラスが0.03であり、小DF-クラスが0.04であり、DF0付近クラスが0.04であり、小DF+クラスが0.04であり、中DF+クラスが0.04であり、大DF+クラスが0.8である。図１６の下には、各DFクラスの信頼性の値が棒グラフで表されている。なお、各DFクラスの信頼性の値は、和が１になるように正規化されている。以降の図１７および図１８の場合も同様である。
【０１２４】
図１６の場合、像ズレ量についての２段階の信頼性判定が行われる。大DF+クラスの信頼性の値が0.8で、他のクラスの信頼性の値より突出して高いことから、第１段目の信頼性判定（１）では信頼性に自信があると判定される。その後、別途出力している像ズレ量とも一貫性があるかを判定する第２段目の信頼性判定（２）を行うことで、像ズレ量とも一貫性があるならば、より信頼性に自信があると判定される。なお、判定は、２段階に限らず、１段階でもよいし、２以上の複数段階であってもよい。
【０１２５】
図１７は、信頼性が低い（信頼性に自信がない）場合の信頼性パラメータの出力例１を示す図である。図１７のDFクラスの信頼性の値は、左から順に、大DF-クラスが0.1であり、中DF-クラスが0.15であり、小DF-クラスが0.15であり、DF0付近クラスが0.1であり、小DF+クラスが0.2であり、中DF+クラスが0.1であり、大DF+クラスが0.2である。
【０１２６】
図１７の場合、突出して信頼性の高いクラスが存在しないことから、信頼性判定では、信頼性に自信がないと判定される。
【０１２７】
図１８は、信頼性が低い（信頼性に自信がない）場合の信頼性パラメータの出力例２を示す図である。図１８のDFクラスの信頼性の値は、左から順に、大DF-クラスが0.05であり、中DF-クラスが0.4であり、小DF-クラスが0.05であり、DF0付近クラスが0.05であり、小DF+クラスが0.05であり、中DF+クラスが0.35であり、大DF+クラスが0.05である。
【０１２８】
図１８の場合、最大のクラスは、信頼性の値が0.4である中DF-クラスであるが、別途出力した像ズレ量の所属クラスは、信頼性の値が0.05であるDF0付近クラスである。すなわち、像ズレ量とDFクラスとの一貫性がないので、信頼性判定では信頼性に自信がないと判定され、像ズレ量は、除去（Reject）される。
【０１２９】
図１９は、図８の機械学習処理部からの出力の他の例として、像ズレ量と信頼性パラメータ(Accuracy：正確性)が出力される例を説明する図である。
【０１３０】
図１９では、学習装置２３１における学習時の機械学習処理部１２２−２’と作成された機械学習処理部１２２−２が示されている。学習装置２３１は、コンピュータなどで構成され、複数の学習データを用いて、機械学習処理部１２２−２’を学習させることでニューラルネットワークである機械学習処理部１２２−２を作成する。
【０１３１】
Accuracyは、次の式（５）で表され、１に近いほど正確な値である。
【数５】
2019073814.tif 000007
【０１３２】
１回目の学習時に、機械学習処理部１２２−２’は、入力波形を入力し、像ズレ量２４１を出力する。その際、学習装置２３１は、教師データとして、入力波形の正解像ズレ量を有しているので、像ズレ量２４１と正解像ズレ量を比較することにより、Accuracyが出力される。
【０１３３】
２回目の学習時に、機械学習処理部１２２−２は、入力波形を入力し、像ズレ量２４１とAccuracy２４２を出力する。このとき出力されたAccuracy２４２が１から離れ過ぎている場合は、除外される。
【０１３４】
１回目の学習時の機械学習処理部１２２−２’と２回目の学習時の機械学習処理部１２２−２は、出力が異なる以外は同じニューラルネットワークである。
【０１３５】
以上のように、１回目の学習は、どのような波形がAccuracyが高いのか低いのかを知るための学習であり、実際に、撮像装置１５１の位相差処理部１０１に搭載されるのは、２回目学習後の機械学習処理部１２２−２である。１回目に、入力波形がどのくらいのAccuracyだったのかを機械学習処理部１２２−２’に学習させることで、２回目の機械学習処理部１２２−２では、入力波形を入力して、像ズレ量２４１とAccuracy２４２を出力することができる。
【０１３６】
＜学習装置の構成例＞
図２０は、学習装置２３１のハードウェア構成例を示すブロック図である。
【０１３７】
学習装置２３１において、CPU３０１、ROM３０２、RAM３０３は、バス３０４により相互に接続される。バス３０４には、さらに、入出力インタフェース３０５が接続される。
【０１３８】
入出力インタフェース３０５には、キーボード、マウスなどよりなる入力部３０６、ディスプレイ、スピーカなどよりなる出力部３０７が接続される。また、入出力インタフェース３０５には、記憶部３０８、通信部３０９、およびドライブ３１０が接続される。
【０１３９】
記憶部３０８は、ハードディスクや不揮発性のメモリなどにより構成され、機械学習によって生成されたニューラルネットワーク（機械学習処理部１１１、機械学習処理部１２２−１、機械学習処理部１２２−２）を記憶する。
【０１４０】
通信部３０９は、ネットワークインタフェースにより構成され、無線や有線による通信を介してネットワークに接続し、サーバや他の装置との間で通信を行う。
【０１４１】
ドライブ３１０は、リムーバブル記録媒体３１１にアクセスし、リムーバブル記録媒体３１１に記憶されたデータの読み出し、または、リムーバブル記録媒体３１１に対するデータの書き込みを行う。
【０１４２】
ニューラルネットワークの機械学習は、図２０のCPU３０１により所定のプログラムが実行されることによって実現される。なお、ニューラルネットワークの機械学習は、撮像装置１５１において行われてもよい。
【０１４３】
図２１は、ニューラルネットワークの学習に用いられる学習データの収集方法１を説明する図である。図２１では、実際に被写体を撮像して学習データを収集する例が示されている。
【０１４４】
図２１に示されるように、カメラ３３２の位置を固定し、被写体３５１の位置を固定した状態で、カメラ３３２のレンズ３３１の位置を徐々に動かし、さまざまな絵柄の被写体３５１を撮像するというように実物を使う方法がある。被写体１、被写体２、被写体３は、それぞれ絵柄が異なる被写体である。この場合、レンズ３３１の駆動量がわかっていて、カメラ３３２と被写体３５１の距離が固定なので、デフォーカス量は既知である。これにより、多くの被写体のデータとデフォーカス量の情報（またはデフォーカス量に関係するデフォーカス量関係情報）を学習データとして収集することができる。
【０１４５】
この場合、カメラ３３２を学習装置としてもよいし、図２０のようにコンピュータからなる学習装置２３１で学習し、ニューラルネットワークを作成するようにしてもよい。
【０１４６】
＜学習データの収集例＞
図２２は、ニューラルネットワークの学習に用いられる学習データの収集方法２を説明する図である。図２２では、シミュレーションにより学習データを収集する例が示されている。
【０１４７】
図２２の上に示されるように、学習装置２３１は、10,000枚の画像データセットから、ランダムに被写体 patch（データ）３６１（３６１−１乃至３６１−ｎ）を記憶部３０８に記憶する。
【０１４８】
その際、学習装置２３１は、実際のZAF画素特性から、あらゆるサイズのLSF_A patch(データ）３６２（３６２−１乃至３６２−ｎ）およびLSF_B patch３６３（３６３−１乃至３６３−ｎ）を作成する。LSF_A patch３６２およびLSF_B patch３６３は、デフォーカス量関係情報である。
【０１４９】
学習装置２３１は、上述したあらゆる被写体 patch３６１に、あらゆるLSF patch（ボケ関数）を畳み込む。これにより、ZAF_A（Ａ画素の波形）patch３６４（３６４−１乃至３６４−ｎ）と、ZAF_B（Ｂ画素の波形） patch３６５（３６５−１乃至３６５−ｎ）が作成される。
【０１５０】
学習装置２３１は、被写体 patch３６１、LSF_A patch３６２、LSF_B patch３６３、ZAF_A patch３６４、ZAF_B patch３６５を１組のデータとして、この組み合わせを10,000以上作成し、記憶部３０８に記憶する。
【０１５１】
これにより、学習装置２３１は、殆ど全ての被写体のデータと殆ど全てのデフォーカス量の情報（またはデフォーカス量に関係するデフォーカス量関係情報）を学習データとして収集することができる。すなわち、殆ど全ての被写体のデータと殆ど全てのデフォーカス量の情報を持っていれば、入力された波形に、どのボケ関数が含まれていたかがわかる。
【０１５２】
上述した組み合わせを全部作っておき、これらの組み合わせを用いて学習が行われることで、学習済みのニューラルネットワークである機械学習処理部１１１、機械学習処理部１２２−１、機械学習処理部１２２−２が作成される。そして、作成されたニューラルネットワークが、機械学習処理部１１１、機械学習処理部１２２−１、機械学習処理部１２２−２として、撮像装置１５１の位相差処理部１０１に組み込まれる。
【０１５３】
以上のように、本技術においては、位相差検出のための第１の特性を有する第１の画素群の受光量分布および第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、ニューラルネットワークを用いて、デフォーカス量関係情報を出力するようにしたので、正確な像ズレ量を検出することができる。
【０１５４】
なお、上記説明においては、撮影レンズの瞳分割方式の一対の位相差画素を用いて位相差検出処理について説明してきたが、オートフォーカス(AF)モジュールを用いての位相差検出処理にも、本技術を適用することができる。
【０１５５】
また、瞳分割方式の位相差画素を用いて説明してきたが、本技術は、画素分割読み出し方式にも適用することができる。また、本技術は、後述する手術システムにおけるAF機能や焦点の調整に用いることができる。
【０１５６】
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、汎用のパーソナルコンピュータなどにインストールされる。
【０１５７】
インストールされるプログラムは、光ディスク（CD-ROM(Compact Disc-Read Only Memory)，DVD(Digital Versatile Disc)等）や半導体メモリなどよりなる図２０に示されるリムーバブル記録媒体３１１に記録して提供される。また、ローカルエリアネットワーク、インターネット、デジタル放送といった、有線または無線の伝送媒体を介して提供されるようにしてもよい。プログラムは、ROM３０２や記憶部３０８に、あらかじめインストールしておくことができる。
【０１５８】
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
【０１５９】
＜＜２．応用例＞＞
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、手術室システムに適用されてもよい。
【０１６０】
図２３は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図２３を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV  Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。
【０１６１】
手術室には、様々な装置が設置され得る。図２３では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ〜５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。
【０１６２】
ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療用機器とも呼称される。一方、表示装置５１０３Ａ〜５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療用機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
【０１６３】
視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ〜５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。
【０１６４】
具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
【０１６５】
あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。
【０１６６】
視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ〜５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal  Computer））である。
【０１６７】
また、図２３では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
【０１６８】
手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。
【０１６９】
手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。
【０１７０】
図２４は、集中操作パネル５１１１における操作画面の表示例を示す図である。図２４では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図２４を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。
【０１７１】
発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。
【０１７２】
プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。
【０１７３】
コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical  User  Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。
【０１７４】
また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。
【０１７５】
なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。
【０１７６】
図２５は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。
【０１７７】
内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図２３に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図２５では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
【０１７８】
以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。
【０１７９】
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ〜５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ〜５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
【０１８０】
内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。
【０１８１】
（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
【０１８２】
（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
【０１８３】
鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
【０１８４】
カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera  Control  Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
【０１８５】
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
【０１８６】
（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central  Processing  Unit）やＧＰＵ（Graphics  Processing  Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図２３に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
【０１８７】
表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。
【０１８８】
光源装置５１５７は、例えばＬＥＤ（light  emitting  diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。
【０１８９】
アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。
【０１９０】
入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。
【０１９１】
入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。
【０１９２】
あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head  Mounted  Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
【０１９３】
処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
【０１９４】
以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。
【０１９５】
（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図２５では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ〜５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ〜５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
【０１９６】
関節部５１４７ａ〜５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ〜５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ〜５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。
【０１９７】
例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。
【０１９８】
また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ〜５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。
【０１９９】
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
【０２００】
なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ〜５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。
【０２０１】
（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
【０２０２】
また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
【０２０３】
また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow  Band  Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
【０２０４】
（カメラヘッド及びＣＣＵ）
図２６を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図２６は、図２５に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
【０２０５】
図２６を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。
【０２０６】
まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
【０２０７】
撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。
【０２０８】
撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
【０２０９】
また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。
【０２１０】
また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。
【０２１１】
駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。
【０２１２】
通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。
【０２１３】
また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。
【０２１４】
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto  Exposure）機能、ＡＦ（Auto  Focus）機能及びＡＷＢ（Auto  White  Balance）機能が内視鏡５１１５に搭載される。
【０２１５】
カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。
【０２１６】
なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
【０２１７】
次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。
【０２１８】
また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
【０２１９】
画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise  reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
【０２２０】
画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
【０２２１】
制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
【０２２２】
また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
【０２２３】
カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
【０２２４】
ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。
【０２２５】
以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
【０２２６】
本開示に係る技術は、以上説明した構成のうち、カメラヘッド５１１９およびＣＣＵ５１５３に好適に適用され得る。具体的には、カメラヘッド５１１９およびＣＣＵ５１５３に、図９の撮像装置１５１の機能を適用することができる。カメラヘッド５１１９およびＣＣＵ５１５３に本開示に係る技術を適用することにより、正確な像ズレ量を検出することができるため、焦点合わせを高速に行うことができる。これにより、術部画像を、より高速に的確に撮像することができる。
【０２２７】
なお、本明細書において、システムとは、複数の構成要素（装置、モジュール（部品）等）の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。従って、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、および、１つの筐体の中に複数のモジュールが収納されている１つの装置は、いずれも、システムである。
【０２２８】
なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また他の効果があってもよい。
【０２２９】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【０２３０】
例えば、本技術は、１つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
【０２３１】
また、上述のフローチャートで説明した各ステップは、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０２３２】
さらに、１つのステップに複数の処理が含まれる場合には、その１つのステップに含まれる複数の処理は、１つの装置で実行する他、複数の装置で分担して実行することができる。
【０２３３】
［構成の組み合わせ例］
本技術は、以下のような構成をとることもできる。
（１）
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する演算部を
備える焦点検出装置。
（２）
前記演算部は、機械学習により作成されるニューラルネットワークである
前記（１）に記載の焦点検出装置。
（３）
前記演算部は、前記デフォーカス量関係情報として、前記第１の画素群のボケ関数および前記第２の画素群のボケ関数を出力する
前記（１）または（２）に記載の焦点検出装置。
（４）
前記演算部は、前記デフォーカス量関係情報として、前記第１の画素群のボケ関数の重心位置と前記第２の画素群のボケ関数の重心位置との差分である像ズレ量を出力する
前記（１）または（２）に記載の焦点検出装置。
（５）
前記演算部は、前記デフォーカス量関係情報とともに、前記デフォーカス量関係情報の信頼性を表す信頼性情報を出力する
前記（１）乃至（４）のいずれかに記載の焦点検出装置。
（６）
前記演算部は、前記信頼性情報として、前記第１の画素群の受光量分布および前記第２の画素群の受光量分布が属する、前記デフォーカス量のクラスを数値で表したクラス情報を出力する
前記（５）に記載の焦点検出装置。
（７）
前記演算部は、前記信頼性情報として、機械学習時に出力した前記デフォーカス量関係情報と、正しい情報とを比較して算出される正確性を表す正確性情報を出力する
前記（５）に記載の焦点検出装置。
（８）
前記演算部は、前記信頼性情報として、前記第１の画素群のボケ関数および前記第２の画素群のボケ関数が鏡像関係にある性質に対する近さを示す類似性情報を出力する
前記（５）に記載の焦点検出装置。
（９）
前記デフォーカス量関係情報を焦点検出に用いるか否かを、前記信頼性情報に基づいて判定する判定部をさらに備える
前記（５）に記載の焦点検出装置。
（１０）
前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量のうちの最大の受光量に基づいて、前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量のそれぞれを正規化する前処理部をさらに備え、
前記演算部は、正規化された前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
前記（１）乃至（９）のいずれかに記載の焦点検出装置。
（１１）
前記第１の画素群の画素の受光量のうちの最大の受光量に基づいて前記第１の画素群の画素の受光量を正規化するとともに、前記第２の画素群の画素の受光量のうちの最大の受光量に基づいて前記第２の画素群の画素の受光量を正規化する前処理部をさらに備え、
前記演算部は、正規化された前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
前記（１）乃至（９）のいずれかに記載の焦点検出装置。
（１２）
前記第１の画素群の画素の受光量から平均値を引いた値を、前記第１の画素群の受光量の分散値で割るとともに、前記第２の画素群の画素の受光量から平均値を引いた値を、前記第２の画素群の受光量の分散値で割る演算を行う前処理部をさらに備え、
前記演算部は、分散値で割ることによって得られた前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
前記（１）乃至（９）のいずれかに記載の焦点検出装置。
（１３）
前記第１の画素群の所定の数の画素の受光量を加算するとともに、前記第２の画素群の所定の数の画素の受光量を加算する前処理部をさらに備え、
前記演算部は、受光量を加算した前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
前記（１）乃至（９）のいずれかに記載の焦点検出装置。
（１４）
前記第１の画素群から画素を間引くとともに、前記第２の画素群から画素を間引く前処理部をさらに備え、
前記演算部は、間引かれた前記第１の画素群の画素の受光量と前記第２の画素群の画素の受光量を入力として、前記デフォーカス量関係情報を出力する
前記（１）乃至（９）のいずれかに記載の焦点検出装置。
（１５）
焦点検出装置が、
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する
焦点検出方法。
（１６）
位相差検出のための第１の特性を有する第１の画素群の受光量分布および前記第１の特性と異なる第２の特性を有する第２の画素群の受光量分布に基づいて、学習に基づく演算を行うことにより、デフォーカス量に関係するデフォーカス量関係情報を出力する演算部
として、コンピュータを機能させるプログラム。
【符号の説明】
【０２３４】
１０１  位相差処理部，  １１１  機械学習処理部，  １２１  前処理部，  １２２，１２２−１，１２２−２  機械学習処理部，  １２３  信頼性判定部，  １５１  撮像装置，  １５２  ネットワーク，  １６１  レンズ，  １６２  撮像素子，  １６３  補間処理部，  １６４  信号処理部，  １６５  圧縮部，  １６６  記憶部，  １６７  出力制御部，  １６８  表示部，  １６９  焦点検出部，  １７０  レンズ駆動部，  ２３１  学習装置，  ３３１  レンズ，  ３３２  カメラ，  ３５１  被写体
【図１】
2019073814.tif 000008
【図２】
2019073814.tif 000009
【図３】
2019073814.tif 000010
【図４】
2019073814.tif 000011
【図５】
2019073814.tif 000012
【図６】
2019073814.tif 000013
【図７】
2019073814.tif 000014
【図８】
2019073814.tif 000015
【図９】
2019073814.tif 000016
【図１０】
2019073814.tif 000017
【図１１】
2019073814.tif 000018
【図１２】
2019073814.tif 000019
【図１３】
2019073814.tif 000020
【図１４】
2019073814.tif 000021
【図１５】
2019073814.tif 000022
【図１６】
2019073814.tif 000023
【図１７】
2019073814.tif 000024
【図１８】
2019073814.tif 000025
【図１９】
2019073814.tif 000026
【図２０】
2019073814.tif 000027
【図２１】
2019073814.tif 000028
【図２２】
2019073814.tif 000029
【図２３】
2019073814.tif 000030
【図２４】
2019073814.tif 000031
【図２５】
2019073814.tif 000032
【図２６】
2019073814.tif 000033
【国際調査報告】
2019073814.tif 000034
2019073814.tif 000035
2019073814.tif 000036
2019073814.tif 000037