(57)【要約】  被検眼の眼底画像を処理する眼底画像処理装置であって、撮影手段によって撮影された前記眼底画像を取得する画像取得手段と、前記眼底画像を解析する解析手段と、を備え、前記撮影手段は、複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成し、前記解析手段は、前記波長毎の受光信号に基づいて生成された前記眼底画像に対して所見を検出することを特徴とする。これによって、走査型マルチカラー撮影装置によって撮影されたマルチカラー画像を対象とした画像診断を容易に行うことができる。
2019172206.tif 000002
【特許請求の範囲】
【請求項１】
被検眼の眼底画像を処理する眼底画像処理装置であって、
撮影手段によって撮影された前記眼底画像を取得する画像取得手段と、
前記眼底画像を解析する解析手段と、を備え、
前記撮影手段は、複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成し、
前記解析手段は、前記波長毎の受光信号に基づいて生成された前記眼底画像に対して所見を検出することを特徴とする眼底画像処理装置。
【請求項２】
前記測定光は、赤色光、緑色光および青色光の少なくともいずれかを含むことを特徴とする請求項２の眼底画像処理装置。
【請求項３】
前記解析手段は、前記波長毎に生成された前記眼底画像のそれぞれに対して所見を検出することを特徴とする請求項１または２の眼底画像処理装置。
【請求項４】
前記解析手段は、前記波長毎に生成された前記眼底画像の内２つ以上を組み合わせた多チャンネル画像に対して所見を検出することを特徴とする請求項１〜３のいずれかの眼底画像処理装置。
【請求項５】
前記解析手段は、機械学習アルゴリズムによって訓練された数学モデルを用いて前記眼底画像を解析することを特徴とする請求項１〜４のいずれかの眼底画像処理装置。
【請求項６】
前記解析手段は、画像に対応する波長別に異なる数学モデルを用いて眼底画像を解析することを特徴とする請求項５の眼底画像処理装置。
【請求項７】
前記解析手段は、第１チャンネルの眼底画像を学習した前記表層用数学モデルと、前記第１チャンネルとは異なる第２チャンネルの眼底画像を学習した前記深層用数学モデルと、を用いて眼底画像を解析することを特徴とする請求項６の眼底画像処理装置。
【請求項８】
前記撮影手段は、走査型レーザ検眼鏡であることを特徴とする請求項１〜７のいずれかの眼底画像処理装置。
【請求項９】
前記解析手段は、前記眼底画像に対する所見の検出結果に基づいて、前記被検眼の診断に用いられる参考情報を出力することを特徴とする請求項１〜８のいずれかの眼底画像処理装置。
【請求項１０】
前記解析手段は、前記数学モデルに入力する前に、前記眼底画像を正規化することを特徴とする請求項５の眼底画像処理装置。
【請求項１１】
前記解析手段は、前記数学モデルの学習に用いた第１眼底画像を撮影した第１撮影手段とは異なる第２撮影手段によって撮影された第２眼底画像を前記数学モデルに入力する場合、前記第２眼底画像の各チャンネルに重みを掛けることを特徴とする請求項５の眼底画像処理装置。
【請求項１２】
被検眼の眼底画像を処理する眼底画像処理装置において実行される眼底画像処理プログラムであって、前記眼底画像処理装置のプロセッサによって実行されることで、
複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成する生成ステップと、
前記生成ステップによって生成された前記眼底画像を取得する画像取得ステップと、
前記波長毎の受光信号に基づいて生成された前記眼底画像に対して所見を検出する解析ステップと、
を前記眼底画像処理装置に実行させることを特徴とする眼底画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
被検眼の眼底画像を処理するための眼底画像処理装置、および眼底画像処理プログラムに関する。
【背景技術】
【０００２】
従来の眼科撮影装置としては、例えば、光干渉断層計（Optical Coherence Tomography: OCT）、眼底カメラ、走査型レーザ検眼鏡（Scanning Laser Ophthalmo-scope: SLO）などが知られている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１５−１０４５８１号公報
【発明の概要】
【０００４】
ところで、複数の波長を含む測定光を走査させて被検眼を撮影することで、マルチカラー画像を取得する走査型のマルチカラー撮影装置がある。例えば、マルチカラーＳＬＯ（MultiColorSLO: MCSLO）などの走査型マルチカラー撮影装置は、従来の眼底画像よりも眼底の微細な変化を捉えることができるため、より正確な診断が可能となることが期待される。しかしながら、走査型マルチカラー撮影装置によって撮影されたマルチカラー画像は、従来の眼底画像とは写り方が異なるため、新たな読影知識を身に付ける必要があった。
【０００５】
本開示は、従来の問題点に鑑み、走査型マルチカラー撮影装置によって撮影されたマルチカラー画像を対象とした画像診断を容易に行うことができる眼底画像処理装置および眼底画像処理プログラムを提供することを技術課題とする。
【０００６】
上記課題を解決するために、本開示は以下のような構成を備えることを特徴とする。
【０００７】
（１）  被検眼の眼底画像を処理する眼底画像処理装置であって、撮影手段によって撮影された前記眼底画像を取得する画像取得手段と、前記眼底画像を解析する解析手段と、を備え、前記撮影手段は、複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成し、前記解析手段は、前記波長毎の受光信号に基づいて生成された前記眼底画像に対して所見を検出することを特徴とする。
（２）  被検眼の眼底画像を処理する眼底画像処理装置において実行される眼底画像処理プログラムであって、前記眼底画像処理装置のプロセッサによって実行されることで、複数の波長を含む測定光を走査手段によって走査し、前記被検眼の眼底によって反射した前記測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて前記眼底画像を生成する生成ステップと、前記生成ステップによって生成された前記眼底画像を取得する画像取得ステップと、前記波長毎の受光信号に基づいて生成された前記眼底画像に対して所見を検出する解析ステップと、を前記眼底画像処理装置に実行させることを特徴とする。
【図面の簡単な説明】
【０００８】
【図１】本実施例に係る眼科撮影装置の構成について説明する概略構成図である。
【図２】ＭＣＳＬＯの光学構成を示す図である。
【図３】制御動作のフローチャートを示す図である。
【図４Ａ】ＭＣＳＬＯ画像の一例を示す図である。
【図４Ｂ】ＭＣＳＬＯ画像の一例を示す図である。
【図５】数学モデルの学習について説明するための図である。
【図６】所見マップを示す図である。
【図７】所見の出力結果の一例を示す図である。
【図８Ａ】異なる撮影装置で撮影された眼底画像の例を示す図である。
【図８Ｂ】異なる撮影装置で撮影された眼底画像の例を示す図である。
【図９】数学モデルに入力するデータの正規化について説明する図である。
【図１０】眼底画像の各チャンネルに重みを掛ける様子を示す図である。
【図１１】所見の出力結果の一例を示す図である。
【発明を実施するための形態】
【０００９】
＜実施形態＞
以下、本開示に係る眼底画像処理装置の実施形態について説明する。本実施形態における眼底画像処理装置（例えば、眼底画像処理装置１００）は、被検眼の眼底画像を処理する。眼底画像処理装置は、例えば、画像取得部（例えば、画像取得部１）と、解析部（例えば、解析部２）などを備える。
【００１０】
画像取得部は、例えば、撮影部（例えば、ＭＣＳＬＯ２００）によって撮影された被検眼のマルチカラー眼底画像を取得する。画像取得部は、例えば、有線（USBケーブル、LANケーブル、IEEE1394ケーブルなど）または無線などの通信手段によって、マルチカラー眼底画像を撮影する撮影部、またはマルチカラー眼底画像を記憶する記憶部などに接続される。画像取得部は、通信手段を介して撮影部または記憶部等からマルチカラー眼底画像を取得する。画像取得部は、例えば、波長ごとに分かれた複数の眼底画像、またはそれらの眼底画像の内２つ以上を組み合わせた多チャンネル画像等のマルチカラー眼底画像を取得する。
【００１１】
撮影部は、例えば、走査型のマルチカラー撮影装置である。撮影部は、例えば、光源と、走査部と、受光素子を備える。光源は、例えば、複数の波長を含む測定光を出射する。走査部は、例えば、測定光を走査し、被検眼に照射する。走査部は、例えば、ガルバノミラーによって測定光を走査する構成であってもよいし、絞りを移動させることによって測定光を走査する構成などであってもよい。受光素子は、例えば、被検眼の眼底によって反射した測定光の反射光（戻り光）を受光する。
【００１２】
撮影部は、波長毎の受光信号を取得する。例えば、撮影部は、測定光を波長毎に異なるタイミングで被検眼に照射し、その戻り光を受光素子で受光することによって波長毎の受光信号を取得してもよい。また、撮影部は、複数の波長を含む測定光（例えば、白色光）を被検眼に照射したときの戻り光をダイクロイックミラー等の光分離部によって波長毎に分けてから受光素子で受光してもよい。例えば、撮影部は、波長毎の受光信号に基づいて１チャンネルの眼底画像を生成してもよいし、波長毎の眼底画像の内２つ以上を組み合わせた多チャンネル画像を取得してもよい。
【００１３】
解析部は、画像取得部によって取得されたマルチカラー眼底画像に対して所見を検出する。所見は、例えば、網膜出血、毛細血管瘤、黄斑前膜、白斑、浮腫、網膜剥離、レーザ痕等の疾患に関係する特徴である。例えば、解析部は、マルチカラー眼底画像に対する画像処理によって、所見の有無、またはその位置等を検出する。
【００１４】
このように、本実施形態の眼底画像処理装置は、画像取得部によって取得されたマルチカラー眼底画像に対して所見を検出することによって、診断に有用な情報をユーザに提供することができる。
【００１５】
なお、測定光は、例えば、赤色、緑色または青色等の波長域の可視光線を含んでもよい。赤色、緑色または青色の波長域の測定光で眼底を撮影することによって、網膜表層、血管層、網膜色素上皮（ＲＰＥ）を中心とする網膜深層など、深さの異なる層を良好に撮影することができる。もちろん、その他の波長を含んでもよい。例えば、測定光は、紫外、紫、青緑、黄緑、黄、橙、または赤外等の波長域の光線を含んでもよい。
【００１６】
なお、解析部は、波長毎に生成された複数の眼底画像のそれぞれに対して所見を検出してもよい。また、解析部は、波長毎に生成された複数の眼底画像の内２つ以上を組み合わせた多チャンネル画像に対して所見を検出してもよい。もちろん、波長毎の眼底画像と多チャンネル画像のすべてに対して所見検出を行ってもよい。このように、マルチカラー眼底画像の種々の形態に対して所見を検出することによって、より多くの情報、または多角的な情報を得ることができる。
【００１７】
なお、解析部は、機械学習アルゴリズムによって訓練された数学モデルを用いて眼底画像の解析を行ってもよい。機械学習アルゴリズムは、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン（ＳＶＭ）等が一般的に知られている。
【００１８】
ニューラルネットワークは、入力された信号に何等かの処理を行った結果を出力するユニットを複数接続した数学モデルである。ニューラルネットワークの一種である畳み込みネットワークは画像認識問題に有効な手法である。画像認識問題の代表としては、物体識別、物体検出、セグメンテーションがあり、それぞれの問題に対して様々なモデルが提案されている。物体識別は、画像に何が写っているのかを識別する問題で、AlexNet, GoogLeNet等のモデルが提案されている。物体検出は、物体の位置や姿勢を矩形などとして識別する問題で、YOLO等のモデルが提案されている。セマンティックセグメンテーション(semantic segmentation)は、物体がどこにあるのか画素レベルで識別する問題で、U-Net等のモデルが提案されている。また、この他にも、画像の解像度を高める超解像や、モノクロ画像に色を付けるカラリゼーションといった画像を対象とした様々な問題に対して畳み込みネットワークのモデルが提案されている。畳み込みネットワーク以外のニューラルネットワークモデルの例としては再帰型ニューラルネットワークがある。再帰型ニューラルネットワークは時系列データを扱えるモデルであり、自然言語処理に有効な手法である。
【００１９】
ブースティングは、複数の弱識別器を組み合わせることで強識別器を生成する手法である。単純で弱い識別器を逐次的に学習することで、強識別器を構築する。
【００２０】
ランダムフォレストは、ランダムサンプリングされた訓練データに基づいて、学習を行って多数の決定木を生成する方法である。ランダムフォレストを用いる場合、予め識別器として学習しておいた複数の決定木の分岐をたどり、各決定木から得られる結果を平均（あるいは多数決）する。
【００２１】
ＳＶＭは、線形入力素子を利用して２クラスのパターン識別器を構成する手法である。ＳＶＭは、例えば、訓練データから、各データ点との距離が最大となるマージン最大化超平面を求めるという基準（超平面分離定理）で線形入力素子のパラメータを学習する。
【００２２】
数学モデルは、例えば、入力データと出力データとの関係を表現する構造を指す。数学モデルは、訓練データセットに基づいて最適化される。訓練データセットは、入力訓練データと出力訓練データのセットである。入力訓練データは、数学モデルに入力されるサンプルデータである。例えば、入力訓練データには、過去に撮影された被検眼の画像が用いられる。出力訓練データは、数学モデルが入力訓練データに対して予測するべき値のサンプルデータである。例えば、出力訓練データには、画像の所見が存在する領域を示すマップまたは画像に所見が存在するかを示すラベルなどが用いられる。数学モデルは、ある入力訓練データが入力されたときの出力が、それに対応する出力訓練データに近づくように最適化される。例えばニューラルネットワークでは、ユニットの出力を接続される次のユニットに入力する際に掛けられる重みが更新される。
【００２３】
例えば、解析部は、数学モデルにマルチカラー眼底画像を入力し、所見を出力させる。例えば、数学モデルからは、所見の有無や所見が存在する領域を示すマップなどが出力される。このように、解析部は、訓練された数学モデルを用いることによって、自動で所見検出を行う。
【００２４】
なお、解析部は、画像に対応する波長別（チャンネル毎）に異なる数学モデルを用いて眼底画像を解析してもよい。例えば、解析部は、第１チャンネルの画像を学習した表層用数学モデルと、第１チャンネルとは異なる第２チャンネルの画像を学習した深層用数学モデルと、を用いて眼底画像を解析してもよい。このように、チャンネル毎に異なる数学モデルを用いることによって、複数の所見が重なっている場合であっても検出し易い。例えば、上下左右方向の２次元的な位置が同じで、深さ方向だけが互いに異なる複数の所見を検出し易い。もちろん、網膜表層用と網膜深層用の２つの数学モデルだけでなく、３つ以上の数学モデルを用いて眼底画像を解析してもよい。例えば、網膜表層用、網膜中間層用、網膜深層用などの数学モデルを用いてもよい。
【００２５】
なお、表層用数学モデルは、例えば、緑色光の受光信号に基づく緑チャンネル画像と青色光の受光信号に基づく青チャンネル画像が学習されてもよい。緑色光および青色光などの波長の短い光は主に網膜表層で反射するため、これらの眼底画像は、網膜表層の情報が多い。また、深層用数学モデルは、赤色光の受光信号に基づく赤チャンネル画像が学習されてもよい。赤色光などの波長の長い光は主に網膜深層で反射するため、赤チャンネル画像は、網膜深層の情報が多い。このように、解析部は、波長の短い光の受光信号に基づく画像を学習させた数学モデルは表層用数学モデルとして用い、波長の長い光の受光信号に基づく画像を学習させた数学モデルは深層用学習モデルとして用いてもよい。
【００２６】
なお、撮影部は、マルチカラーＳＬＯ（以下、ＭＣＳＬＯと略す）であってもよい。ＭＣＳＬＯは、例えば、複数の波長を含む測定光を被検眼に対して走査することによって、波長毎の受光信号に基づくマルチカラー眼底画像を撮影できる走査型レーザ検眼鏡である。
【００２７】
なお、解析部は、眼底画像に対して検出した所見に基づいて、被検眼の診断に用いられる参考情報を出力してもよい。このとき、診断のための参考情報を出力するために機械学習を行った数学モデルを用いてもよい。例えば、解析部は、各所見の有無の情報と被検眼の診断結果の組が学習された診断用数学モデルを用いてもよい。この場合、解析部は、各所見の有無の情報を診断用の数学モデルに入力することによって、被検眼の診断に用いられる参考情報を出力させてもよい。
【００２８】
また、所見の検出結果に誤りがある場合、診断用の数学モデルに入力する所見情報をユーザが修正してもよい。このように、数学モデルを用いて被検眼の画像診断を行う際に、所見検出を介することによって、診断の根拠となる情報を確認することが可能となる。ここで用いられる所見情報は、それが検出された原画像よりも診断に有用な情報をより単純により強く示していると考えられる。そのため、数学モデルを用いて被検眼の画像診断を行う際に、所見検出を介することによって、学習データが少ない場合でも診断モデルの学習が適切に行われる可能性が高い。また、所見検出を眼底画像から所見の存在する領域を示すマップを求める問題とすることで、比較的学習データが少ない場合でも良好な所見検出結果が得られる。この場合、所見の存在する領域を示すマップから、画像の所見の有無や、画像を分割した部分領域毎の所見の有無の情報を得ることができ、これらの情報を診断用数学モデルへの入力としてもよい。もちろん、解析部は、所見検出を介さずに、マルチカラー眼底画像から疾患を検出してもよい。
【００２９】
なお、眼底画像処理装置のプロセッサは、眼底画像処理プログラムを実行してもよい。眼底画像処理プログラムは、例えば、生成ステップと、画像取得ステップと、解析ステップを含む。生成ステップは、例えば、複数の波長を含む測定光を走査手段によって走査し、被検眼の眼底によって反射した測定光を受光素子によって受光することで得られた波長毎の受光信号に基づいて眼底画像を生成するステップである。画像取得ステップは、生成ステップによって生成された眼底画像を取得するステップである。解析ステップは、波長毎の受光信号に基づいて生成された眼底画像に対して所見を検出するステップである。眼底画像処理プログラムは、例えば、眼底画像処理装置の記憶部等に記憶されてもよいし、外部の記憶媒体に記憶されてもよい。
【００３０】
＜実施例＞
以下、本開示に係る眼底画像処理装置の実施例を説明する。本実施例の眼底画像処理装置１００は、眼底画像を解析処理することによって所見の検出を行う。所見は、例えば、網膜出血、毛細血管瘤、黄斑前膜、白斑、浮腫、網膜剥離、レーザ痕等の疾患に関係する特徴である。
【００３１】
眼底画像処理装置１００は、例えば、画像取得部１、解析部２、記憶部４、操作部５、表示制御部６、または表示部７などを備える。画像取得部１は、被検眼のマルチカラーＳＬＯ画像を取得する。マルチカラーＳＬＯ画像は、例えば、マルチカラーＳＬＯ（ＭＣＳＬＯと略す）２００によって取得されたＲＧＢ（赤、緑、青）の３チャンネルの画像である。画像取得部１は、ＭＣＳＬＯ２００と有線または無線等の通信手段を介して接続されている。例えば、画像取得部１は、通信手段を介してＭＣＳＬＯ２００からＭＣＳＬＯ画像を受信し、記憶部４等に記憶させる。なお、画像取得部１は、通信手段を介して接続されたＨＤＤ、ＵＳＢメモリ等の外部記憶装置などからＭＣＳＬＯ画像を取得してもよい。
【００３２】
解析部２は、取得されたＭＣＳＬＯ画像を解析することによって所見を検出する。例えば、解析部２は、機械学習アルゴリズムによって訓練された数学モデルを用いて画像解析を行う。例えば、数学モデルは、ＭＣＳＬＯ画像が入力されると、各所見の有無とその位置等を出力するように訓練される。解析部２は、数学モデルにＭＣＳＬＯ画像を入力することによって所見の検出結果を出力させる。解析部２による所見の検出結果は、表示部７または記憶部４等に送られる。
【００３３】
記憶部４は、眼底画像処理装置１００の制御に関わる各種プログラム、各種画像データ、および解析結果などを記憶する。表示制御部６は、表示部７の表示を制御する。表示部７は、画像取得部１によって取得された画像、および解析部２による解析結果などを表示する。表示部７は、タッチパネル式のディスプレイであってもよい。この場合、表示部７は、操作部として兼用される。
【００３４】
なお、画像取得部１、解析部２、記憶部４、表示制御部６は、例えば、画像処理装置１００として用いられるコンピュータのプロセッサ（例えば、ＣＰＵなど）が、各種プログラムを実行することによって実現されてもよいし、それぞれ独立した制御基板として設けられてもよい。
【００３５】
眼底画像処理装置１００は、例えば、パーソナルコンピュータであってもよい。例えば、眼底画像処理装置１００として、デスクトップＰＣ、ノート型ＰＣ、またはタブレット型ＰＣが用いられてもよい。もちろん、サーバであってもよい。また、眼底画像処理装置１００は、眼科撮影装置等の内部に格納されたコンピュータであってもよい。
【００３６】
＜数学モデルを用いた解析処理＞
続いて、解析部２の画像解析処理について説明する。解析部２は、機械学習アルゴリズムによって訓練された数学モデルを用いて解析を行う。機械学習アルゴリズムは、例えば、ニューラルネットワーク、ランダムフォレスト、ブースティング、サポートベクターマシン（ＳＶＭ）等である。
【００３７】
上記のような数学モデルは、適切な訓練データセットとアルゴリズムを用いて最適化することで、未知のデータに対して予測を行うことができる。例えば、ニューラルネットワークの場合、誤差逆伝播法を用いてモデルの最適化が行われる。ここで、訓練データセットは、モデルに学習させる問題の入力と出力の正解がペアとなったデータのセットである。最適化では、訓練データセットからデータをサンプルし、サンプルされたデータをモデルに入力して、得られた出力と正解の誤差が小さくなるようにモデル内の値を更新する。ここで更新されるモデル内の値とは、ニューラルネットの各ユニットの接続で掛けられる重みや、足されるバイアス等の値のことである。このような訓練データのサンプルとモデルの更新を行う訓練を繰り返すことで、モデルがより正解に近い値を出力するように最適化される。モデルの訓練の終了は、例えば、検証データセットに対するモデルの評価に基づいて行われる。検証データセットは訓練データセットに含まれないデータから成るデータセットである。訓練を繰り返す度に検証データに対するモデルの評価値を算出し、その評価値が改善されなくなったところで訓練を終了させる。
【００３８】
ニューラルネットワークの入力と出力は、学習させる問題の入力と出力の形式に対応するように複数のユニットを用いて構成される。例えば、画像を入力とする場合、モデルの入力は高さ×幅×チャンネルの画像の各画素に対応するユニットとなる。また、画像を分類するモデルでは、出力を分類対象の各クラスに対応するユニットとし、その値を入力が対応するクラスに分類される確率として扱う。画像のセグメンテーションを行うモデルでは、出力を高さ×幅×クラスの画像の各画素が各クラスに分類される確率に対応するユニットとする。例えば、被検眼のＭＣＳＬＯ画像からある所見の有無の判定を行う場合、モデルの入力はＭＣＳＬＯ画像の各画素に対応するユニット、出力は検出対象の所見が存在する確率に対応するユニットとなり、訓練データセットはＭＣＳＬＯ画像と所見の有無を示すラベルのペアのセットとなる。
【００３９】
解析部２は、画像取得部１によって取得されたＭＣＳＬＯ画像を記憶部４から読み出し、数学モデルに入力する。そして、解析部２は、数学モデルの規則に従って算出された各所見の確率を取得する。解析部２は、出力された所見の検出結果を記憶部４に記憶させる。
【００４０】
＜ＭＣＳＬＯ＞
ＭＣＳＬＯ２００は、複数の波長を含むレーザ光を眼底上で走査し、眼底からのレーザ光の戻り光を受光することによって眼底の正面画像を取得する装置である。ＭＣＳＬＯ２００は、光干渉断層計（Optical Coherence Tomography: OCT）、視野計などの他の眼科装置と一体化された装置であってもよい。
【００４１】
なお、以下の説明において、ＭＣＳＬＯ２００は、観察面上でスポット上に集光されるレーザ光を、走査部の動作に基づき，２次元的に走査することで眼底画像を得るものとする。
【００４２】
図２を参照して、ＭＣＳＬＯ２００に設けられた光学系を説明する。図２に示すように、ＭＣＳＬＯ２００は、照射光学系１０と、受光光学系２０と、を有する（まとめて、「撮影光学系」と称す）。ＭＣＳＬＯ２００は、これらの光学系１０，２０を用いて眼底画像を撮影する。
【００４３】
照射光学系１０は、少なくとも走査部１６と、対物レンズ系１７と、を含む。また、図２に示すように、照射光学系１０は、更に、レーザ光出射部１１、コリメーティングレンズ１２、穴開きミラー１３、レンズ１４（本実施例において、視度調節部４０の一部）、および、レンズ１５を有してもよい。
【００４４】
レーザ光出射部１１は、照射光学系１０の光源である。本実施例では、レーザ光出射部１１からのレーザ光が、照射光学系１０から眼底Ｅｒへ照射される照明光として利用される。レーザ光出射部１１は、例えば、レーザーダイオード（LD）、および、スーパールミネッセントダイオード（SLD）等を含んでいてもよい。具体的な構造についての説明は省略するが、レーザ光出射部１１は、少なくとも１種類以上の波長域の光を出射する。本実施例では、複数色の光が、同時に、又は選択的に、レーザ光出射部１１から出射されるものとする。例えば、本実施例では、レーザ光出射部１１から、青，緑，赤の可視域の３色と、赤外域の１色と、の計４色の光が出射される。各色の光は、同時に、又は、交互に出射可能である。青，緑，赤の可視域の３色は、例えば、カラー撮影に利用される。ここでいう同時は、厳密に同時である必要はなく、それぞれの波長の光の出射タイミングにタイムラグがあってもよい。タイムラグは、例えば、それぞれの波長の光に基づいて形成される眼底画像において、眼球運動による画像間のずれが許容される範囲であってもよい。
【００４５】
例えば、光源１１から青，緑，赤の３色が実質的に同時に出射されることによって、カラー撮影が行われる。また、可視域の３色のうち、いずれか１色が、可視蛍光撮影に利用されてもよい。例えば、青色の光が、可視蛍光撮影の一種であるＦＡ撮影（フルオレセイン蛍光造影撮影）に利用されてもよい。また、例えば、緑色の光が、ＦＡＦ撮影（FundusAuto-Fluorescence：自発蛍光）に利用されてもよい。つまり、眼底に蓄積された蛍光物質（例えば、リポフスチン）の励起光として利用されてもよい。また、例えば、赤外域の光は、赤外域の眼底反射光を用いる赤外撮影の他、赤外蛍光撮影に利用されてもよい。例えば、赤外蛍光撮影には、ＩＡ撮影（インドシアニングリーン蛍光造影撮影）が知られている。この場合、レーザ光源１１から出射される赤外光は、ＩＡ撮影で使用されるインドシアニングリーンの蛍光波長とは異なる波長域に設定されていることが好ましい。
【００４６】
レーザ光は、図２に示した光線の経路にて眼底Ｅｒに導かれる。つまり、レーザ光出射部１１からのレーザ光は、コリメーティングレンズ１２を経て穴開きミラー１３に形成された開口部を通り、レンズ１４およびレンズ１５を介した後、走査部１６に向かう。走査部１６によって反射されたレーザ光は、対物レンズ系１７を通過した後、被検眼Ｅの眼底Ｅｒに照射される。その結果、レーザ光は、眼底Ｅｒで反射・散乱される、或いは、眼底に存在する蛍光物質を励起させ、眼底からの蛍光を生じさせる。これらの光（つまり、反射・散乱光および蛍光等）が、戻り光として、瞳孔から出射される。
【００４７】
本実施例において、図２に示すレンズ１４は、視度調節部４０の一部である。視度調節部４０は、被検眼Ｅの視度の誤差を矯正（軽減）するために利用される。例えば、レンズ１４は、駆動機構１４ａによって、照射光学系１０の光軸方向へ移動可能である。レンズ１４の位置に応じて、照射光学系１０および受光光学系２０の視度が変わる。このため、レンズ１４の位置が調節されることで、被検眼Ｅの視度の誤差が軽減され、その結果として、レーザ光の集光位置が、眼底Ｅｒの観察部位（例えば、網膜表面）に設定可能となる。なお、視度調節部４０は、例えば、バダール光学系など、図２とは異なる光学系が適用されてもよい。
【００４８】
走査部１６（「光スキャナ」ともいう）は、光源（レーザー光出射部１１）から発せられたレーザ光を、眼底上で走査するためのユニットである。以下の説明では、特に断りが無い限り、走査部１６は、レーザ光の走査方向が互いに異なる２つの光スキャナを含むものとする。即ち、主走査用（例えば、Ｘ方向への走査用）の光スキャナ１６ａと、副走査用（例えば、Ｙ方向への走査用）の光スキャナ１６ｂと、を含む。以下では、主走査用の光スキャナ１６ａはレゾナントスキャナであり、副走査用の光スキャナ１６ｂはガルバノミラーであるものとして説明する。但し、各光スキャナ１６ａ，１６ｂには、他の光スキャナが適用されてもよい。例えば、各光スキャナ１６ａ，１６ｂに対し、他の反射ミラー（ガルバノミラー、ポリゴンミラー、レゾナントスキャナ、および、ＭＥＭＳ等）の他、光の進行（偏向）方向を変化させる音響光学素子（ＡＯＭ）等が適用されてもよい。
【００４９】
対物レンズ系１７は、ＳＬＯ２００の対物光学系である。対物レンズ系１７は、走査部１６によって走査されるレーザ光を、眼底Ｅｒに導くために利用される。そのために、対物レンズ系１７は、走査部１６を経たレーザ光が旋回される旋回点Ｐを形成する。旋回点Ｐは、照射光学系１０の光軸Ｌ１上であって、対物レンズ系１７に関して走査部１６と光学的に共役な位置に形成される。なお、本開示において「共役」とは、必ずしも完全な共役関係に限定されるものではなく、「略共役」を含むものとする。即ち、眼底画像の利用目的（例えば、観察、解析等）との関係で許容される範囲で、完全な共役位置からズレて配置される場合も、本開示における「共役」に含まれる。但し、ＭＣＳＬＯ２００の対物光学系は、レンズ系に限定されるものではなく、ミラー系であってもよいし、レンズ系とミラー系とを組み合わせたものでもあってもよいし、その他の光学系であってもよい。
【００５０】
走査部１６を経たレーザ光は、対物レンズ系１７を通過することによって、旋回点Ｐを経て、眼底Ｅｒに照射される。このため、対物レンズ系１７を通過したレーザ光は、走査部１６の動作に伴って旋回点Ｐを中心に旋回される。その結果として、本実施例では、眼底Ｅｒ上でレーザ光が２次元的に走査される。眼底Ｅｒに照射されたレーザ光は、集光位置（例えば、網膜表面）にて反射される。また、レーザ光は、集光位置の前後の組織にて散乱される。反射光および散乱光は、平行光としてそれぞれ瞳孔から出射する。
【００５１】
次に、受光光学系２０について説明する。受光光学系２０は、１つ又は複数の受光素子を持つ。例えば、図２に示すように、複数の受光素子２５，２７，２９を有してもよい。この場合、照射光学系１０によって照射されたレーザ光による眼底Ｅｒからの光は、受光素子２５，２７，２９によって受光される。
【００５２】
図２に示すように、本実施例における受光光学系２０は、対物レンズ系１７から穴開きミラー１３までに配置された各部材を、照射光学系１０と共用してもよい。この場合、眼底からの光は、照射光学系１０の光路を遡って、穴開きミラー１３まで導かれる。穴開きミラー１３は、被検眼の角膜，および，装置内部の光学系（例えば対物レンズ系のレンズ面等）での反射によるノイズ光の少なくとも一部を取り除きつつ、眼底Ｅｒからの光を、受光光学系２０の独立光路へ導く。
【００５３】
なお、照射光学系１０と受光光学系２０とを分岐させる光路分岐部材は、穴開きミラー１３に限られるものではなく、その他のビームスプリッタが利用されてもよい。
【００５４】
本実施例の受光光学系２０は、穴開きミラー１３の反射光路に、レンズ２１、ピンホール板２３、および、光分離部（光分離ユニット）３０を有する。また、光分離部３０と各受光素子２５，２７，２９との間に、レンズ２４，２６，２８が設けられている。本実施例において、光分離部（光分離ユニット）３０が、分光部として利用される。
【００５５】
ピンホール板２３は、眼底共役面に配置されており、ＭＣＳＬＯ２００における共焦点絞りとして機能する。すなわち、視度調節部４０によって視度が適正に補正される場合において、レンズ２１を通過した眼底Ｅｒからの光は、ピンホール板２３の開口において焦点を結ぶ。ピンホール板２３によって、眼底Ｅｒの集光点（あるいは、焦点面）以外の位置からの光が取り除かれ、残り（集光点からの光）が主に受光素子２５，２７，２９へ導かれる。
【００５６】
光分離部３０は、眼底Ｅｒからの光を分離させる。本実施例では、光分離部３０によって、眼底Ｅｒからの光が波長選択的に光分離される。また、光分離部３０は、受光光学系２０の光路を分岐させる光分岐部を兼用していてもよい。例えば、図２に示すように、光分離部３０は、光分離特性（波長分離特性）が互いに異なる２つのダイクロイックミラー（ダイクロイックフィルター）３１，３２を含んでいてもよい。受光光学系２０の光路は、２つのダイクロイックミラー３１，３２によって、３つに分岐される。また、それぞれの分岐光路の先には、受光素子２５，２７，２９の１つがそれぞれ配置される。
【００５７】
例えば、光分離部３０は、眼底Ｅｒからの光の波長を分離させ、３つの受光素子２５，２７，２９に、互いに異なる波長域の光を受光させる。例えば、青，緑，赤の３色の光を、受光素子２５，２７，２９に１色ずつ受光させてもよい。この場合、各受光素子２５，２７，２９の受光結果から、カラー画像を得ることができる。
【００５８】
また、光分離部３０は、赤外撮影で使用される赤外域の光を、受光素子２５，２７，２９の少なくとも１つに受光させる。この場合において、例えば、蛍光撮影で使用される蛍光と、赤外撮影で使用される赤外域の光とが、互いに異なる受光素子に受光されてもよい。
【００５９】
各受光素子２５，２７，２９が感度を持つ波長帯は、互いに異なっていてもよい。また、受光素子２５，２７，２９のうち、少なくとも２つが、共通の波長域に感度を持っていてもよい。それぞれの受光素子２５，２７，２９は、受光した光の強度に応じた信号（以下、受光信号と称す）をそれぞれ出力する。本実施形態において、受光信号は、受光素子毎に別々に処理されて画像が生成される。つまり、本実施形態では、最大で３種類の眼底画像が、並行して生成される。
【００６０】
＜制御動作＞
本実施例の眼底画像処理装置１００が画像処理を行うときの制御動作を図３に基づいて説明する。以下の例では、ＭＣＳＬＯ２００によって撮影されたＭＣＳＬＯ画像を解析することによって被検眼の自動診断を行う場合について説明する。
【００６１】
（ステップＳ１：画像の取得）
まず、画像取得部１は、ＭＣＳＬＯ画像を取得する。画像取得部１は、例えば、無線または有線などの通信手段を介し、ＭＣＳＬＯ２００によって撮影された画像を取得する。ＭＣＳＬＯによって撮影されたＭＣＳＬＯ画像は、ＭＣＳＬＯ２００の記憶部８（図１参照）等に記憶されている。画像取得部１は、記憶部８に記憶されたＭＣＳＬＯ画像をＭＣＳＬＯ２００から受信し、記憶部４に記憶させる。なお、画像取得部１は、ＭＣＳＬＯ２００から直接画像を取得してもよいし、ＵＳＢメモリ等の外部記憶装置に記憶されたＭＣＳＬＯ画像を取得してもよい。
【００６２】
（ステップＳ２：所見検出）
続いて、解析部２は、取得したＭＣＳＬＯ画像を解析することによって所見を検出する。例えば、前述のように、解析部２は、機械学習アルゴリズムによって訓練された数学モデルを用いてＭＣＳＬＯ画像の解析を行う。例えば、数学モデルには、ＭＣＳＬＯ画像と、所見の検出結果の組み合わせが学習されている。解析部２は、学習済みの数学モデルにＭＣＳＬＯ画像を入力することによって所見検出を行う。
【００６３】
なお、数学モデルには、赤チャンネル、緑チャンネル、青チャンネルの各チャンネルの画像の種々の組み合わせが学習される。例えば、数学モデルは、赤チャンネル、緑チャンネル、青チャンネルの各チャンネルの画像を学習してもよいし、赤チャンネルと緑チャンネル、緑チャンネルと青チャンネル、青チャンネルと赤チャンネルの２チャンネルを組み合わせた多チャンネル画像を学習してもよいし、赤チャンネル、緑チャンネル、青チャンネルの３チャンネルを組み合わせた多チャンネル画像を学習してもよい。もちろん、これらそれぞれの入力形式に対応した数学モデルをそれぞれ学習させ、所見の検出に用いてもよい。また、図４Ａ、図４Ｂに示すように、眼底画像の全体画像５０や、眼底画像の部分画像５０ａそれぞれに対応した数学モデルがそれぞれ学習されてもよい。解析部２は、数学モデルが学習した画像の形式に応じて、各チャンネルの画像、複数のチャンネルの画像、全体画像５０または部分画像５０ａなどを数学モデルに入力することによって、所見を出力させる。また、数学モデルにセグメンテーションで用いられるような学習と予測で異なるサイズの画像を利用可能なモデルを用いた場合、学習と予測で異なるサイズの画像を適用してもよい。例えば、数学モデルの学習時の入力を部分画像として所見の存在する領域を優先的に学習させるようにしてもよく、予測時の入力を部分画像として画像の関心のある領域のみを数学モデルに処理させてもよい。
【００６４】
なお、ＭＣＳＬＯ画像は、波長によって撮影される深さが異なる。したがって、学習する画像の波長が異なる数学モデルを複数用意してもよい。例えば、図５に示すように、解析部２は、網膜表層の所見を検出する表層用数学モデル６１と、網膜深層の所見を検出する深層用数学モデル６２を用いて所見を検出してもよい。例えば、表層用数学モデル６１は、網膜表層の組織が主に撮影される緑チャンネルと青チャンネルの画像が学習され、深層用数学モデル６２は、網膜深層の組織が主に撮影される赤チャンネルの画像が学習される。解析部２は、被検眼から撮影されたＭＣＳＬＯ画像５１において、青チャンネルの画像５１Ｂと緑チャンネルの画像５１Ｇを表層用数学モデル６１に入力することによって網膜表層の所見８１を出力させる。同様に、解析部２は、赤チャンネルの画像５１Ｒを深層用数学モデル６２に入力することによって網膜深層の所見８２を出力させる。このように、チャンネル毎に異なる数学モデルを用いることによって、図５に示すように網膜表層の所見８１と網膜深層の所見８２の位置が重なっている場合であっても、所見８１と所見８２を分けて検出できる。
【００６５】
なお、所見の出力方法としては、例えば、図６に示すように、ＭＣＳＬＯ画像に対する各所見のセグメンテーションによって得られたマップ画像を出力してもよい。また、図７に示すように、画像の分割領域ごとに各所見の有無を示すマップ画像を出力してもよい。また、図１１に示すように、画像の各所見の有無の識別に対する数学モデルの注視領域を示すマップ画像（アテンションマップ）を出力してもよい。
【００６６】
（ステップＳ３：診断）
解析部２は、ＭＣＳＬＯ画像の解析によって得られた所見の検出結果に基づいて、被検眼の診断を行う。例えば、解析部２は、所見のマップ画像に基づいて、そこから予想される疾患（糖尿病網膜症、黄斑前膜等）の識別を行い、各疾患の識別結果を得る。なお、解析部２は、疾患の識別結果が学習された数学モデルを用いて、疾患の識別を行ってもよい。例えば、解析部２は、所見のマップ画像を数学モデルに入力することによって、各疾患の確率などを出力させてもよい。
【００６７】
（ステップＳ４：診断結果表示）
表示制御部６は、ステップＳ３で得られた各疾患の診断結果を表示部７に表示する。このとき、表示制御部６は、ステップＳ２で得られた所見のマップ画像を診断結果の確認情報として表示してもよい。これによって、ユーザは、最終的な診断結果だけでなく、診断の根拠を確認することができる。
【００６８】
上記のように、眼科画像処理装置１００は、ＭＣＳＬＯ画像に対して自動で所見検出を行う。これによって、マルチカラー眼底画像に不慣れなユーザであっても、読影または診断を容易に行うことができる。また、ＭＣＳＬＯ画像において、赤、緑、青などの波長毎の画像、またはそれらを組み合わせた多チャンネル画像に対して所見を検出することによって、より多くの情報を取得することができる。
【００６９】
なお、本実施例のように、機械学習アルゴリズムによって学習された数学モデルを用いることによって、より正確に所見を検出することができる。また、波長の異なる画像を学習させた数学モデルを用いることによって、各層の所見に重なりがある場合であっても良好に検出することができる。
【００７０】
なお、一つの数学モデルを作成するために数万枚の画像が必要とされるが、ＭＳＣＬＯ画像などは従来から用いられている眼底写真と比べてまだ普及しておらず、大量の画像を入手することが困難である。このような場合、本実施例のように、まず所見の検出を行う数学モデルを適用し、その結果を用いて診断を行うことによって、比較的小規模なデータセットの学習であっても良好な数学モデルを構築できる。
【００７１】
なお、眼底画像処理装置１００は、所見の出力のみを行うようにしてもよい。この場合、ユーザは、眼底画像処理装置１００が出力した所見に基づいて被検眼の診断を行ってもよい。例えば、ユーザは、表示部７に出力された所見を確認し、タッチパネルなどの操作部によって診断結果を入力する。このように、ユーザが被検眼の診断を行う場合であっても、眼底の深さに応じた所見を確認することができるため、より正確に診断を行うための情報を取得することができる。
【００７２】
なお、上記の実施例では、ニューラルネットワークによって所見検出を行ったが、これに限らない。例えば、ランダムフォレスト、ブースティング、ＳＶＭ等の他の機械学習アルゴリズムを用いてもよい。
【００７３】
なお、画像取得部１は、サーバ等から画像を取得してもよい。例えば、多数の機種で撮影された複数の測定結果がネットワークを介してサーバに記憶され、画像取得部１は、サーバから他のＭＣＳＬＯ装置で撮影された画像データを取得できてもよい。また、画像取得部１は、被検者の登録情報および検査情報等が管理される電子カルテシステムから画像を取得してもよい。
【００７４】
なお、数学モデルを用いた画像解析において、様々な種類の画像が用いられてもよい。例えば、マルチカラーＳＬＯ画像の他に、断層画像、眼底画像、血管画像、前眼部画像などを数学モデルに入力してもよい。これらの画像は、例えば、ＯＣＴ装置、眼底カメラ、前眼部観察カメラ、スリットランプ、シャインプルーフカメラ等の各種眼科撮影装置によって撮影される。
【００７５】
なお、図８Ａ、図８Ｂに示すように、異なる撮影装置によって撮影されたマルチカラー眼底画像Ｑ１，Ｑ２は、色のバランスが異なる。このため、例えば、第１撮影装置２００Ａによって撮影された眼底画像を学習した数学モデルでは、第２撮影装置２００Ｂで撮影した画像を正しく識別できない。
【００７６】
そこで、解析部２は、異なる撮影装置で撮影された眼底画像を同じ数学モデルで識別できるように、数学モデルに入力する前に眼底画像の各チャンネルの輝度を正規化してもよい。画像を正規化すると、撮影装置が異なる場合であっても、近い波長で撮影されていれば同じような画像になる。例えば、図９に示すように、第１撮影装置２００Ａで撮影された眼底画像Ｑ１を正規化した眼底画像Ｋ１と、第２撮影装置２００Ｂで撮影された眼底画像Ｑ２を正規化した眼底画像Ｋ２は、同じような画像になる。このため、眼底画像Ｑ１を正規化した眼底画像Ｋ１で学習された数学モデル６０は、眼底画像Ｑ２を正規化した眼底画像Ｋ２を識別することができる。つまり、数学モデルに入力する前に画像を正規化しておけば、学習に用いた撮影装置とは異なる撮影装置の眼底画像であっても同じ数学モデルで識別することができる。正規化の方法としては、例えば、眼底画像の各チャンネルに対し、そのチャンネルの平均を引いてそのチャンネルの標準偏差で割る処理等が考えられる。もちろん、他の正規化方法を用いてもよい。なお、正規化としては、輝度の他、画像の解像度を揃えるようにしてもよい。
【００７７】
なお、数学モデルの学習に用いた撮影装置とは異なる撮影装置によって撮影された眼底画像を入力する場合、解析部２は、各チャンネルの眼底画像の輝度に適切な重みを掛けてから数学モデルに入力するようにしてもよい。例えば、図１０に示すように、第２撮影装置２００Ｂによって撮影された眼底画像Ｑ２の各チャンネルにそれぞれ重みｗＲ，ｗＧ，ｗＢを掛けることによって、第１撮影装置２００Ａによって撮影された眼底画像Ｑ１に似た眼底画像Ｑ３に変換する。このように、数学モデルに入力する眼底画像（第２眼底画像）が学習済みの眼底画像（第１眼底画像）の仕様に近付くように重みを掛けることで、異なる撮影装置の画像であっても１つの数学モデルで識別させることができる。重みの計算方法としては、例えば、各撮影装置の代表的な画像の輝度の平均、または分散等を用いて計算してもよいし、ユーザが手動で適切な重みを設定してもよい。また、撮影装置がチャンネル別の画像を生成するときに用いる重みが分かれば、その重みを利用して計算してもよい。なお、重みを掛けるだけでなく、オフセット値を加えるなど他の補正値を用いてもよい。
【００７８】
なお、異なる撮影装置によって撮影された単色の眼底画像においても、輝度の大きさ等が異なるため、輝度の正規化または重みを掛ける処理等を行ってもよい。
【００７９】
また、正規化または重みを掛ける処理については、白色光源を備え、白色光源による眼底反射光を受光することによってカラー眼底画像を撮影する眼底撮影装置（例えば、眼底カメラ、走査型眼底撮影装置）に適用可能である。この場合、カラー眼底画像の各画素の輝度は、RGB毎の輝度値として取得される。そこで、RGB毎の輝度値に関して、第１撮影装置によって撮影された第１のカラー眼底画像と、第２撮影装置によって撮影された第２のカラー眼底画像との間で、正規化または重みを掛ける処理を行うようにしてもよい。
【符号の説明】
【００８０】
１００  画像処理装置
１  画像取得部
２  解析部
４  記憶部
６  表示制御部
７  表示部
８  記憶部
２００  マルチカラーＳＬＯ
【図１】
2019172206.tif 000003
【図２】
2019172206.tif 000004
【図３】
2019172206.tif 000005
【図４Ａ】
2019172206.tif 000006
【図４Ｂ】
2019172206.tif 000007
【図５】
2019172206.tif 000008
【図６】
2019172206.tif 000009
【図７】
2019172206.tif 000010
【図８Ａ】
2019172206.tif 000011
【図８Ｂ】
2019172206.tif 000012
【図９】
2019172206.tif 000013
【図１０】
2019172206.tif 000014
【図１１】
2019172206.tif 000015
【国際調査報告】
2019172206.tif 000016
2019172206.tif 000017
2019172206.tif 000018