(57)【要約】  １つまたは複数の異なる組織タイプを識別する装置、システム、およびプロセスを説明する。この方法は、イメージング・システムの１つまたは複数のプログラム可能光源の構成を適用することであって、構成は、画像データ内に取り込まれた１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルから入手される、適用することを含むことができる。この方法は、構成された１つまたは複数のプログラム可能光源を用いてシーンを照明することと、画像データ内に示された１つまたは複数のタイプの組織を含む画像データを取り込むこととをも含むことができる。さらに、この方法は、画像データ内の１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために機械学習モデルを用いて取り込まれた画像データ内のカラー情報を解析することと、視覚化内で組織タイプを視覚的に区別するシーンの視覚化を取り込まれた画像データからレンダリングすることとを含むことができる。【選択図】図１
2020509455.tif 000002
【特許請求の範囲】
【請求項１】
１つまたは複数の異なる組織タイプを識別する方法であって、
イメージング・システムの１つまたは複数のプログラム可能光源の構成を適用することであって、前記構成は、画像データ内に取り込まれた前記１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルから入手される、適用することと、
前記構成された１つまたは複数のプログラム可能光源を用いてシーンを照明することと、
前記イメージング・システムのカメラを用いて、画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込むことと、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングすることと
を含む方法。
【請求項２】
前記カラー情報を解析することは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析することと、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定することと、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別することと、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成することであって、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む、生成することと
を含む、請求項１に記載の方法。
【請求項３】
前記カメラの前記画像センサは、ベイヤ・カラー・フィルタ画像センサである、請求項２に記載の方法。
【請求項４】
前記各画素の前記カラー情報は、前記機械学習モデルの中間層に入力として供給される、請求項２に記載の方法。
【請求項５】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
照明波長の関数として各組織タイプの１つまたは複数の組織サンプルの反射率を判定するために、複数の別個の照明波長での前記１つまたは複数の組織サンプルの分光反射率を測定することと、
カラー画像データから組織タイプを予測するために前記機械学習モデルを反復してトレーニングするための入力として前記分光反射率を使用することと
をさらに含む、請求項１に記載の方法。
【請求項６】
前記機械学習モデルは、重み付き伝達関数の複数の層を有する人工ニューラル・ネットワークを含み、前記機械学習モデルは、照明源のスペクトルによって前記入力された分光反射率を乗算する第１の層と、赤カメラ・センサ関数、緑カメラ・センサ関数、および青カメラ・センサ関数によって前記第１の層内で計算された値を乗算する第２の層と、前記第２の層によって計算された前記値を受け取る少なくとも１つの追加の層とを含み、前記機械学習モデルの出力は、確率のベクトルである、請求項５に記載の方法。
【請求項７】
前記分光反射率は、ハイパースペクトル・イメージャを用いて測定される、請求項５に記載の方法。
【請求項８】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
前記１つまたは複数のタイプの組織を示す前記画像データの部分を、前記１つまたは複数の異なる組織タイプのうちの１つに属するものとして分類する、前記シーンの前記画像データのリアルタイム・ユーザ注釈を受け取ることと、
前記１つまたは複数のプログラム可能光源のそれぞれを用いて前記シーンを反復して照明し、前記シーンの各照明されたバージョンに関連する画像を取り込むことであって、前記取り込まれる画像は、前記分類された部分の部分的な分光反射率を提供する、反復して照明し、取り込むことと、
カラー画像データから組織タイプを予測するように前記機械学習モデルを反復してトレーニングするための入力として前記部分的な分光反射率を供給することと
をさらに含む、請求項１に記載の方法。
【請求項９】
前記イメージング・システムは、内視鏡を含む、請求項１に記載の方法。
【請求項１０】
前記１つまたは複数の異なる組織タイプは、異なるタイプのヒト組織を含む、請求項１に記載の方法。
【請求項１１】
カメラと、
１つまたは複数のプログラム可能光源と、
画像データ内に取り込まれた１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルを記憶するメモリと、
前記カメラ、１つまたは複数のプログラム可能光源、および前記メモリに結合されたプロセッサであって、
前記機械学習モデルから入手された構成パラメータに基づいてシーンを照明するように前記１つまたは複数のプログラム可能光源を構成し、
画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込み、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングする
ように構成される、プロセッサと
を含むイメージング・システム。
【請求項１２】
前記カラー情報を解析するように構成された前記プロセッサは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析し、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定し、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別し、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成し、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１３】
前記カメラの前記画像センサは、ベイヤ・カラー・フィルタ画像センサである、請求項１２に記載のイメージング・システム。
【請求項１４】
前記各画素の前記カラー情報は、前記機械学習モデルの中間層に入力として供給される、請求項１２に記載のイメージング・システム。
【請求項１５】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
照明波長の関数として各組織タイプの１つまたは複数の組織サンプルの反射率を判定するために、複数の別個の照明波長での前記１つまたは複数の組織サンプルの分光反射率を測定し、
カラー画像データから組織タイプを予測するために前記機械学習モデルを反復してトレーニングするための入力として前記分光反射率を使用する
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１６】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
前記１つまたは複数のタイプの組織を示す前記画像データの部分を、前記１つまたは複数の異なる組織タイプのうちの１つに属するものとして分類する、前記シーンの前記画像データのリアルタイム・ユーザ注釈を受け取り、
前記１つまたは複数のプログラム可能光源のそれぞれを用いて前記シーンを反復して照明し、前記シーンの各照明されたバージョンに関連する画像を取り込み、前記取り込まれる画像は、前記分類された部分の部分的な分光反射率を提供し、
カラー画像データから組織タイプを予測するように前記機械学習モデルを反復してトレーニングするための入力として前記部分的な分光反射率を供給する
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１７】
処理システムによって実行される時に、前記処理システムに、１つまたは複数の異なる組織タイプを識別する方法であって、
イメージング・システムの１つまたは複数のプログラム可能光源の構成を適用することであって、前記構成は、画像データ内に取り込まれた前記１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルから入手される、適用することと、
前記構成された１つまたは複数のプログラム可能光源を用いてシーンを照明することと、
前記イメージング・システムのカメラを用いて、画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込むことと、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングすることと
を含む方法を実行させる命令をその上に記憶された非一時的機械可読記憶媒体。
【請求項１８】
前記カラー情報を解析することは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析することと、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定することと、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別することと、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成することであって、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む、生成することと
を含む、請求項１７に記載の非一時的機械可読記憶媒体。
【請求項１９】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
照明波長の関数として各組織タイプの１つまたは複数の組織サンプルの反射率を判定するために、複数の別個の照明波長での前記１つまたは複数の組織サンプルの分光反射率を測定することと、
カラー画像データから組織タイプを予測するために前記機械学習モデルを反復してトレーニングするための入力として前記分光反射率を使用することと
をさらに含む、請求項１７に記載の非一時的機械可読記憶媒体。
【請求項２０】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
前記１つまたは複数のタイプの組織を示す前記画像データの部分を、前記１つまたは複数の異なる組織タイプのうちの１つに属するものとして分類する、前記シーンの前記画像データのリアルタイム・ユーザ注釈を受け取ることと、
前記１つまたは複数のプログラム可能光源のそれぞれを用いて前記シーンを反復して照明し、前記シーンの各照明されたバージョンに関連する画像を取り込むことであって、前記取り込まれる画像は、前記分類された部分の部分的な分光反射率を提供する、反復して照明し、取り込むことと、
カラー画像データから組織タイプを予測するように前記機械学習モデルを反復してトレーニングするための入力として前記部分的な分光反射率を供給することと
をさらに含む、請求項１７に記載の非一時的機械可読記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
［0001］  本開示は、全般的にはデジタル・イメージングに関し、排他的にではなくより具体的には、画像データ内の物体の分類に関する。
【背景技術】
【０００２】
［0002］  物体の画像がカメラによって取り込まれる時に、ユーザは、カメラの視野内に取り込まれた物体を解析する時に、画像のコントラストを調整すること、画像のある種の特徴を強調することなどによって画像の質を高めることを望む場合がある。たとえば、画像は、異なる鉱物／土壌組成の間で区別する（たとえば、航空写真または地上写真内で）、血流（たとえば、酸素の豊富な血液および酸素の乏しい血液）を強調する、感情認識および／または検出を実行する、手術において解剖学的構造を区別する（たとえば、良性組織と悪性組織との間で区別する）などのために質を高められ得る。具体的に医用イメージングでは、たとえば良性組織と悪性組織との間で区別するための、医用画像の質を高めることは、安全性を高め、外科的介入の範囲を拡大する。
【０００３】
［0003］  具体的には、腹腔鏡手術中に、外科医は、患者の小さい切開内に内視鏡を挿入する。内視鏡が、外科領域を照明し、その画像をリアルタイムで取り込むと同時に、外科医が、通常は手術されるエリアを物理的に見ることなく、同一のまたは他の切開を介して手術を実行する。そのような手術およびそのような手術中に使用されるイメージングに関する重大な問題は、関心を持たれている組織（１つまたは複数）と他の組織（１つまたは複数）との間の低いコントラストの問題である。たとえば、癌組織を摘出する外科手術では、外科医は、周囲の健康な組織に損傷を与えないか損傷を最小限にしながら癌組織を除去できるようにするために、癌組織と健康な組織との間の高いコントラストを望む。この問題は、脂肪組織、癌組織、または他の組織と神経組織との間の高いコントラストが、誤った接触および／または神経組織の除去を防いで神経組織への損傷を防ぐために必要である、神経組織の近くでの手術において、さらにより深刻である。
【０００４】
［0004］  外科手術中に異なる組織タイプの間で区別するための１つの解決策は、蛍光染料を患者に注射することを含み、ここで、異なる染料は、異なる組織タイプに結合する。励起レーザーからの照明を用いてイメージングされる時に、染料は蛍光を放ち、所望の組織は、取り込まれた画像データ内ではるかにより明るく見える。複数の組織の間で高いコントラストを得るために、組織のタイプごとに、異なる励起波長を有する特定の染料が必要であり、異なる励起レーザーが、組織タイプごとに必要であり、組織タイプごとの別々の画像も必要である。しかし、組織タイプの間で区別するためのこの手法は、通常は、特定の蛍光を有する毒性染料の使用を必要とし、この染料は、人間での使用に関して米国食品医薬品局によって承認されておらず、その開発は、長く高コストのプロセスである。さらに、特定の波長の励起レーザーが必要であり、画像は、染料／組織組合せごとに取り込まれなければならない。したがって、異なるタイプの組織の間でマルチクラス・コントラストを得るためには、レーザーの個数および画像の枚数が、区別されるべき組織タイプの個数に伴って線形にスケーリングする。
【０００５】
［0005］  本発明の非限定的で非網羅的な実施形態を、以下の図面を参照して説明するが、同様の符号は、そうではないと指定されない限り、様々な図面全体を通じて同様の部分を指す。図面は、必ずしも原寸通りではなく、その代わりに、説明される原理を示すことに力が注がれている。
【図面の簡単な説明】
【０００６】
【図１】［0006］プログラム可能光源を使用する画像のマルチクラス分類のための例示的なシステム・アーキテクチャを示すブロック図である。
【図２】［0007］内視鏡と内視鏡コントローラを有する画像処理デバイスとの一実施形態を示すブロック図である。
【図３】［0008］プログラム可能光源を使用して画像のマルチクラス分類を実行するのに機械学習モデルを使用するプロセスの一実施形態を示す図である。
【図４】［0009］プログラム可能光源を使用する画像のマルチクラス分類のために機械学習モデルをトレーニングするプロセスの一実施形態を示す流れ図である。
【図５】［0010］本発明で使用され得るコンピュータ・システムの一実施形態を示す図である。
【図６】［0011］異なる組織タイプの間でマルチクラス分類を実行する機械学習モデルのトポグラフィの一実施形態を示す図である。
【図７】［0012］記録されたカラー画素値を判定するための例示的な入力の一実施形態を示す図である。
【発明を実施するための形態】
【０００７】
［0013］  プログラム可能光源を使用する画像内の物体のマルチクラス分類を実行する装置、システム、およびプロセスの実施形態を、本明細書で説明する。諸実施形態では、プログラム可能光源が、シーンを照明し、カメラが、照明されたものの画像データを取り込む。一実施形態では、プログラム可能光源およびカメラは、たとえば医療専門家によって実行される腹腔鏡手術中の使用のために内視鏡に一体化される。
【０００８】
［0014］  一実施形態では、カメラによって取り込まれた画像データは、１つまたは複数の異なるクラスに属するものとして個々の画素を分類するために画像データの個々の画素のカラー値を解析する、トレーニング済みニューラル・ネットワークなどのトレーニング済み機械学習モデルに供給される。諸実施形態では、異なるクラスは、医療処置中にイメージングされる組織の異なるクラスとすることができる。さらに、下でより詳細に議論するように、個々の画素のカラー値は、プログラム可能光源によって提供される照明のスペクトル、イメージングされる組織（１つまたは複数）の分光反射率（ｓｐｅｃｔｒａｌ  ｒｅｆｌｅｃｔｉｖｉｔｙ）、およびカメラのフィルタの色関数（ｃｏｌｏｒ  ｆｕｎｃｔｉｏｎ）（たとえば、ベイヤ・フィルタ色関数）の関数である。機械学習モデルは、組織のクラスの間で最適に区別するプログラム可能光源の照明のスペクトルを判定するためにマルチスペクトル・イメージングおよび組織のクラスのサンプルを使用して、使用の前にトレーニングされ得る。さらに、使用中に、個々の画素のカラー値は、画素ごとに組織のクラスを区別するために、トレーニング済み機械学習モデルに供給される。有益なことに、ハイパースペクトル品質イメージングが、使用の前に機械学習モデルをトレーニングするのに使用されるが、はるかにかさばらず、はるかに高速のディスクリート・イメージング・システムが、カラー画素値に基づいて異なる組織タイプを分類するために使用中に利用される。
【０００９】
［0015］  諸実施形態では、取り込まれた画像データの画素の分類に基づいて、画像データの異なるクラスが、医療処置を実行する外科医などのユーザにレンダリングされる時に区別され得る。たとえば、シーンのレンダリングされた画像は、異なる組織タイプの間で視覚的に区別するカラー・オーバーレイを含むことができる。諸実施形態では、外科医は、ある組織タイプであると思われるエリアを強調表示するなど、フィードバックを提供することができる。このフィードバック・データは、リアル・タイムでの機械学習モデルのトレーニングおよび／または既存の機械学習モデルの洗練のために機械学習モデルに戻って供給され得る。
【００１０】
［0016］  下の説明は、組織の異なるクラスの間で区別するために医療処置中に使用される、カメラおよびプログラム可能光源を有する内視鏡に言及する。しかし、現在説明されている実施形態は、内視鏡および／または医療処置に限定されない。そうではなく、本明細書で説明される実施形態および技法は、柔軟であり、画像データ内の物体のタイプが分類されなければならない幅広いクラスのイメージング応用例に関するマルチクラス分類の実行に使用され得る。しかし、明瞭さのために、下の説明は、マルチクラス組織タイプ分類に焦点を合わせる。
【００１１】
［0017］  以下の詳細な説明のいくつかの部分は、コンピュータ・メモリ内のデータ・ビットに対する演算のアルゴリズムおよび記号表現に関して提示される。これらのアルゴリズム的説明およびアルゴリズム的表現は、データ処理技術の当業者が彼らの仕事の実質を他の当業者に最も効率的に伝えるのに使用する手段である。アルゴリズムは、本明細書では、および一般に、所望の結果につながるステップの自己完結的シーケンスと考えられる。ステップは、物理的量の物理的操作を必要とするステップである。必ずではないが通常、これらの量は、記憶され、転送され、組み合わされ、比較され、他の形で操作され得る電気信号または磁気信号の形をとる。時々、主に一般的な使用のために、これらの信号をビット、値、要素、シンボル、文字、項、数、または類似物と呼ぶことが便利であることがわかっている。
【００１２】
［0018］  しかし、上記および同様の用語のすべてが、適当な物理量に関連付けられなければならず、単に、これらの量に適用する便利なラベルであることに留意されたい。以下の議論から明白なとおり、特にそうではないと述べられない限り、この説明全体を通じて、「適用」、「照明」、「取込」、「解析」、「レンダリング」、「判定」、「識別」、「生成」、「測定」、「使用」、「受信」、「提供」、または類似物などの用語を利用する議論が、コンピュータ・システムのレジスタおよびメモリ内の物理（たとえば、電子）量として表されたデータを操作し、コンピュータ・システムのメモリもしくはレジスタまたは他のそのような情報記憶デバイス、情報伝送デバイス、もしくは情報表示デバイス内の物理量として同様に表現された他のデータに変換する、コンピュータ・システムまたは同様の電子コンピューティング・デバイスのアクションおよびプロセスを指すことを了解されたい。
【００１３】
［0019］  本発明は、本明細書の動作を実行する装置にも関する。この装置は、要求されるプロセスのために特に構成され得、あるいは、コンピュータ内に記憶されたコンピュータ・プログラムによって選択的にアクティブ化されまたは再構成される汎用コンピュータを含むことができる。そのようなコンピュータ・プログラムは、フロッピ・ディスク、光ディスク、ＣＤ−ＲＯＭ、および光磁気ディスクを含む任意のタイプのディスク、読取専用メモリ（ＲＯＭ）、ランダム・アクセス・メモリ（ＲＡＭ）、ＥＰＲＯＭ、ＥＥＰＲＯＭ、磁気カード、光カード、および電子命令を記憶するのに適する任意のタイプの媒体などであるがこれに限定されないコンピュータ可読記憶媒体内に記憶され得る。
【００１４】
［0020］  本明細書で提示されるアルゴリズムおよびディスプレイは、特定のコンピュータまたは他の装置に固有に関係するものではない。様々な汎用システムが、本明細書の教示に従うプログラムと共に使用され得、あるいは、要求される方法ステップを実行するためにより特殊化された装置を構成することが便利であることがわかる場合がある。様々なこれらのシステムの要求される構造は、下の説明から明白になる。さらに、本発明は、特定のプログラミング言語を参照して説明されるものではない。様々なプログラミング言語が、本明細書で説明される本発明の教示を実施するのに使用され得ることを了解されたい。
【００１５】
［0021］  図１は、プログラム可能光源を使用する画像のマルチクラス分類のための例示的なシステム・アーキテクチャのブロック図である。一実施形態では、システム１００は、画像処理デバイス１２０に通信可能に結合された内視鏡１１０を含む。諸実施形態では、内視鏡１１０は、物理接続（たとえば、有線接続）、無線接続（たとえば、無線ネットワーク、パーソナル・エリア・ネットワーク、近距離無線通信、その他）、または他のタイプの通信リンクを介して結合され得る。さらに、画像処理デバイス１２０は、本明細書で議論される通信リンクのいずれかを介して、ディスプレイ１３０およびイメージング・データ・ストア１４０に通信可能に結合され得る。
【００１６】
［0022］  内視鏡１１０は、カメラ１１４を用いてシーンの画像を取り込む責任を負う。カメラ１１４は、レンズ１１６および画像センサ１１８を含むことができる。カメラ１１４のレンズ１１６は、光が内視鏡１１０の外部（たとえば、シーン）からカメラ１１４の画像センサ１１８に通過することを可能にする。一実施形態では、画像センサは、画像センサ１１８の画素アレイ上の赤カラー・フィルタ、緑カラー・フィルタ、および青カラー・フィルタのカラー配置を含むベイヤ画像センサである。したがって、画像センサ１１８は、感光性画素のグリッド上のカラー・フィルタを介してフィルタリングされた光を取り込み、各画素の赤、緑、または青の画像情報を画像処理デバイス１２０に伝える。
【００１７】
［0023］  画像処理デバイス１２０は、プロセッサ、メモリ、通信インターフェース、およびコンピュータ処理システム内で通常見出される他の構成要素を含む、デスクトップ・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、携帯電話機、または専用コンピューティング・デバイスなどのコンピュータ処理システムである。コンピューティング処理システムの一実施形態が、下で図５内でより詳細に議論される。一実施形態では、画像処理デバイス１２０は、内視鏡１１０のカメラ１１４によって取り込まれた画像データ（たとえば、画像センサ１１８の各画素の赤、緑、または青のデータ）を受け取り、この画像データは、処理され、ディスプレイ１３０上に表示され、かつ／またはイメージング・データ・ストア１４０内に記憶され得る。たとえば、ディスプレイ１３０は、内視鏡１１０によって取り込まれた画像データを解析している医師、看護師、または他の医療専門家に、取り込まれた画像データをレンダリングすることができる。さらに、イメージング・データ・ストア１４０は、内視鏡コントローラ１２５によって使用される機械学習モデルをさらにトレーニングするための医療処置中に取り込まれた画像データの記憶、患者の電子医療記録への画像データの記憶、その他など、ヘルス・ケア専門家によるその後の解析のために、取り込まれた画像データを記憶することができる。
【００１８】
［0024］  一実施形態では、内視鏡１１０は、医療処置中にシーンを照明するのにプログラム可能光源（１つまたは複数）１１２を利用する。図１に示されているように、異なるタイプの組織１８０（たとえば、組織Ａおよび組織Ｂ）が、内視鏡１１０を使用して医療処置中にイメージングされる。一実施形態では、プログラム可能光源（１つまたは複数）１１２は、異なる組織１８０を含むシーンを照明する時に選択された波長および出力レベルで内視鏡コントローラ１２５によって構成可能な１つまたは複数の別個のレーザーを含む。さらに、各レーザーの出力は、内視鏡コントローラ１２５による決定の通りに独立に変調され、これによって、独立にプログラム可能な光源（１つまたは複数）を作成することができる。
【００１９】
［0025］  一実施形態では、カメラ１１４は、プログラム可能光源（１つまたは複数）１１２によって生成され、シーン内の異なる組織１８０から反射された光を画像センサ１１８を使用して取り込む。一実施形態では、画像センサ１１８は、光センサのグリッド上に配置されたカラー・フィルタ・アレイを有するベイヤ・フィルタを含む。したがって、カメラ１１４のセンサ１１８のすべての画素は、各光センサが入射スペクトルの異なる重み付き積分（たとえば、赤＝∫（Ｉ（λ）Ｒ（λ）ｒ（λ）ｄ、緑＝∫（Ｉ（λ）Ｒ（λ）ｇ（λ）ｄ、および青＝∫（Ｉ（λ）Ｒ（λ）ｂ（λ）ｄ）を記録するなど、シーンから反射された赤色光、緑色光、または青色光の関数を取り込む。すなわち、各画素での記録される赤値、緑値、または青値は、図７に示されているように、プログラム可能光源（１つまたは複数）のスペクトル７１０（たとえば、Ｉ（λ））と、各画素でイメージングされる組織の反射率７２０（たとえば、Ｒ（λ））と、関連する画素フィルタ色のベイヤ・フィルタ色関数（たとえば、ｒ（λ）、ｇ（λ）、またはｂ（λ）のうちの１つ）との関数である。記録される値は、各画素でのカラー値であり、これは、反射光の波長のベイヤ・フィルタ色関数７３０値である。下でより詳細に議論するように、内視鏡コントローラ１２５によって別個のプログラム可能光源（１つまたは複数）１１２に印加される電力は、フィルタ１１８の赤画素、緑画素、および青画素のカラー画素によって取り込まれるデータが、異なる組織タイプの反射率の差を最適に取り込むように最適化される。内視鏡コントローラ１２５は、各画素での取り込まれた赤カラー値、緑カラー値、または青カラー値を解析し、特定の組織タイプまたは未知の組織タイプに属するものとして各画素を分類するのに、トレーニング済みニューラル・ネットワークなどのトレーニング済み機械学習モデルを利用する。たとえば、組織Ａおよび組織Ｂ  １８０の反射率の差に基づいて、取り込まれたカラー・データの内視鏡コントローラ１２５の機械学習モデル・ベースの解析は、内視鏡コントローラが、ある画素が組織のクラスのうちの１つに属することの、トレーニング済み機械学習モデルによって実行される確率解析に基づいて、タイプＡの組織に属する、タイプＢの組織に属する、またはどちらでもないものとして各画素を分類することを可能にする。
【００２０】
［0026］  一実施形態では、内視鏡コントローラ１２５は、判定された分類確率に基づいて、医療処置中にリアル・タイムで組織タイプの視覚化１８２を生成し、この視覚化１８２は、ディスプレイ１３０上でレンダリングされる。一実施形態では、手術中の各組織タイプの視覚化１８２は、ディスプレイ１３０上で、取り込まれた画像データの各画素の上に選択的に表示されるカラー・オーバーレイを含む。カラー・オーバーレイ画像は、外科医または他の医療専門家のために、取り込まれた画像データの上にリアル・タイムでレンダリングされる組織のタイプごとに異なるカラーを含むことができる。すなわち、分類可能な組織タイプごとに、異なるカラーが割り当てられ、取り込まれた画像の画素への各組織タイプの確率マッピングは、諸実施形態で異なる組織タイプの間で区別し、判定された分類のありそうな正確さの指示を提供するための、画像の上でのカラーの不透明度を支配することができる。したがって、組織タイプの領域を区別し、組織タイプの間でコントラストを高め、特定のタイプの組織の位置について内視鏡を使用する医療専門家に警告するなどを行うために、異なるカラー・オーバーレイが、取り込まれた画像データの各画素で組織タイプごとに作成される。これらのカラー・オーバーレイは、異なるタイプの組織がカラー・オーバーレイの境界に基づいて目立って区別される単一の視覚化１８２を作成するためにレンダリングされ得る。しかし、各カラー・オーバーレイは、画像データが内視鏡１１０によって取り込まれる時に、リアル・タイムで外科医または医療専門家によってトグルされ得る。
【００２１】
［0027］  図２は、内視鏡２１０および画像処理デバイス２５０の一実施形態２００のブロック図である。内視鏡２１０および画像処理デバイス２５０は、上で議論した内視鏡１１０および画像処理デバイス１２０の追加の詳細を提供する。さらに、図示されてはいないが、画像処理デバイスは、上で議論したように、ディスプレイおよび／またはイメージング・データ・ストアに通信可能に結合され得る。
【００２２】
［0028］  一実施形態では、画像処理デバイス２５０は、内視鏡インターフェース２５５、ライト・エンジン・コントローラ２６０、機械学習モデル解析エンジン２６５、ディスプレイ・レンダリング・エンジン２９０、オプションの機械学習モデル・トレーニング・エンジン２７０、および機械学習モデルのストア２８０を有する内視鏡コントローラ２５２を含む。上で図１で議論したように、内視鏡２１０は、１つまたは複数のプログラム可能光源２１２（たとえば、個別に制御可能なレーザー）と、レンズ２１６および画像フィルタ２１８（たとえば、光センサ／画素のアレイの上のベイヤ・カラー・フィルタ）を有するカメラ２１４とを含む。一実施形態では、内視鏡２１０は、上で図１で議論したように、有線または無線の通信リンクを介し、内視鏡インターフェース２５５を介して画像処理デバイス２５０と通信する。
【００２３】
［0029］  画像処理デバイス２５０は、諸実施形態で、デスクトップ・コンピュータ、ラップトップ・コンピュータ、タブレット・コンピュータ、専用コンピューティング機器、ビデオ・ゲーム機、携帯電話機、ならびに他のコンピューティング・デバイスなどのコンピューティング・デバイス内で実施され得る。内視鏡インターフェース２５５は、内視鏡２１０のプログラム可能光源（１つまたは複数）２１２を制御すると同時に内視鏡２１０のカメラ２１４によって取り込まれたカラー画素データを受け取る能力を内視鏡コントローラ２６０に与えるために、内視鏡２１０と画像処理デバイス２５０の内視鏡コントローラ２５２を通信可能に結合する責任を負う。
【００２４】
［0030］  一実施形態では、ライト・エンジン・コントローラ２６０は、内視鏡のプログラム可能光源（１つまたは複数）２１２を構成する責任を負う。一実施形態では、プログラム可能光源（１つまたは複数）２１２は、シーンを照明する個別に構成可能な光源（たとえば、変調可能な出力レベルを有する別個の波長のレーザー光源）を含む。一実施形態では、ライト・エンジン・コントローラ２６０は、対応する出力レベルでシーンを照明するためにプログラム可能光源（１つまたは複数）２１２のそれぞれを構成する。一実施形態では、プログラム可能光源（１つまたは複数）２１２のそれぞれの出力レベルは、マルチクラス組織タイプ分類を実行する時に機械学習モデル（ＭＬＭ）解析エンジン２６５によって使用されるトレーニング済みＭＬＭからライト・エンジン・コントローラ２６０によって判定される。下の議論に従ってトレーニングされる機械学習モデルは、ライト・エンジン・コントローラ２６０によって１つまたは複数のプログラム可能光源２１２に適用される強度／出力レベルをプログラムするために、たとえばニューラル・ネットワーク最適化によって見出される出力重み付け関数に対応する出力重み付け値を判定するために、内視鏡コントローラ１２５によってアクセスされる。
【００２５】
［0031］  カメラ２１４は、プログラム可能光源（１つまたは複数）２１２によって照明されたシーンの画像を取り込む。より具体的には、シーン内の１つまたは複数のタイプの組織から反射された光が、レンズ２１６を通過し、センサ２１８に当たる。センサ２１８は、一実施形態では、赤、緑、および青のカラー画素のマトリックスを有するベイヤ・カラー・フィルタである。各画素によって取り込まれたカラー値は、プログラム可能光源（１つまたは複数）２１２を構成するのに使用される機械学習モデルに対応する選択された機械学習モデルを使用してＭＬＭ解析エンジン２６５が解析するために、内視鏡コントローラ２５２に供給される。
【００２６】
［0032］  ＭＬＭ解析エンジン２６５による機械学習モデルの使用の前に、内視鏡コントローラは、本明細書で議論される技法を使用してリモート・システムによってトレーニングされた１つまたは複数のＭＬＭモデルを入手し、ＭＬＭデータ・ストア２８０内にこれらを記憶することができる。それに加えてまたはその代わりに、ＭＬＭトレーニング・エンジン２７０は、マルチクラス組織タイプ分類を実行するために１つまたは複数の機械学習モデルをローカルにトレーニングするため、または既にトレーニング済みのＭＬＭをさらに洗練するために、機械学習プロセスを実行することができる。諸実施形態では、ＭＬＭ解析エンジン２６５によって利用される各機械学習モデルは、複数のタイプの組織のセットの間での区別を可能にする。
【００２７】
［0033］  一実施形態では、内視鏡コントローラ２５２が、機械学習モデル・トレーニングをローカルに実行する場合に、ＭＬＭトレーニング・エンジン２７０は、ハイパースペクトル・イメージャ（ＨＳＩ）インターフェース２７５を介してハイパースペクトル・イメージャ（図示せず）に通信可能に結合される。この実施形態では、ハイパースペクトル・イメージャは、複数の異なる別個の照明波長に応答する１つまたは複数の組織サンプルの測定された反射率の形でＭＬＭトレーニング・エンジン２７０にトレーニング・データを供給する責任を負う。一実施形態では、ＭＬＭトレーニング・エンジン２６５は、関心を持たれている組織タイプを区別するために、図６に示されたニューラル・ネットワークなどの機械学習モデルをトレーニングする。たとえば、図６の機械学習モデルは、トレーニングの後に、組織タイプＡからＭなど、複数の異なる組織タイプの間で区別することができる。
【００２８】
［0034］  一実施形態では、図６の機械学習モデルをトレーニングするために、組織タイプＡからＭなど、関心を持たれている組織タイプの組織サンプルが、ハイパースペクトル・イメージャ（図示せず）を用いてイメージングされる。ハイパースペクトル・イメージングは、ハイパースペクトル・イメージャによって取り込まれた画像データのすべての画素の複数の別個の波長に関する反射率を生じる。ハイパースペクトル・イメージャによってイメージングされる組織は、既知のタイプを有する（たとえば、組織タイプＡからＭのそれぞれの１つまたは複数のサンプル）ので、ディープ・ニューラル・ネットワーク機械学習モデル６１０は、各画素（たとえば、赤、緑、および青の画素）の分光反射率入力および所望の出力存在（ｏｕｔｐｕｔ  ｂｅｉｎｇ）（たとえば、既知の組織タイプに関して１、すべての他の組織タイプに関して０を有する確率のベクトル）から、標準的な機械学習技法のいずれかを使用してＭＬＭ解析エンジン２６５によって反復してトレーニングされ得る。図６に示されているように、ディープ・ニューラル・ネットワーク機械学習モデル６１０の一実施形態は、重み付き活性化関数の複数の層を含み、各重み付き活性化関数は、前の層から入力を受け取り、他の層の活性化関数（１つまたは複数）に供給される出力を計算する。相互接続されたノードおよびそれらの重み付き計算は、実行される分類および分類プロセスの結果（たとえば、線形技法が期待される結果を生じるかどうか、または非線形技法もしくは組み合わされた技法が期待される結果を生じるかどうか）に基づいて、線形活性化関数、非線形活性化関数、またはその両方の組合せを含むことができる。一実施形態では、ディープ・ニューラル・ネットワーク機械学習モデル６１０は、活性化関数のライト・エンジン強度６１２層、活性化関数のＲＧＢカラー値６１４層、およびＭＬＭ活性化関数の０個以上０個以上の追加の層を含むことができる。反射入力６０２、ライト・エンジン強度２１２およびＲＧＢカラー値６１４は、本質的に、組織サンプルの照明および結果の反射を取り囲む物理的現象をモデル化し、活性化関数の残りの層は、入力および最初の２つの機械学習モデル層のモデル化された物理的現象からの統計的予測を可能にする。すなわち、トレーニング入力およびディープ・ニューラル・ネットワーク機械学習モデル６１０の最初の２つの層は、分光反射率６１４から赤、緑、および青の値を計算するが、ニューラル・ネットワークの残りの層６１６は、赤、緑、および青の強度値ならびに最初の３つの層の後のすべてのノードの重みをとり、これらを組織タイプ確率ベクトル６２０に変換する。したがって、プログラム可能光強度ならびに最初の２つの層の後のすべてのノードの重み付けは、既知の組織タイプのサンプルに関するトレーニング誤差を最小にするために、機械学習プロセスによって反復して最適化される。
【００２９】
［0035］  トレーニング中に、入力サンプル反射データ６０２に応答し、機械学習プロセスに基づいて、活性化関数のライト・エンジン強度６１２層は、既知のタイプの組織に関連する期待される確率ベクトルのトレーニング誤差を最小にするために、照明源（たとえば、プログラム可能光源（１つまたは複数）２１２）の波長に適用される重み付けを反復して洗練し、ＲＧＢカラー値６１４活性化関数（たとえば、ライト・エンジン強度６１２および入力サンプル反射６０２の関数として計算された赤、緑、または青のカラー値）を反復して洗練し、ＭＬＭ活性化関数の０個以上の追加の層を反復して洗練する。すなわち、ＭＬＭ解析エンジン２６５によって機械学習モデルをトレーニングするのに使用される機械学習プロセスは、イメージングされるサンプルの実際の組織タイプ（たとえば、既知の組織タイプ）に関して１の確率およびすべての他の組織（たとえば、イメージングされていない他の分類）に関して０の確率を有する所望の出力を入手する時の誤差を最小にするために、各トレーニング反復に伴って、活性化関数とニューラル・ネットワーク機械学習モデル６１０の各ノードでの活性化関数の各層の重み付けとを反復して調整する。
【００３０】
［0036］  諸実施形態では、ニューラル・ネットワーク機械学習モデル６１０などの機械学習モデルは、組織の任意の個数のカテゴリ／タイプにスケーラブルである。十分な個数の組織サンプルがハイパースペクトル・イメージャによって十分な個数の波長でイメージングされ、ＭＬＭトレーニング・エンジン２７０が、ディープ・ニューラル・ネットワーク機械学習モデル６１０の対応する回数の反復洗練を実行した後に、結果のモデルは、ＭＬＭ解析エンジン２６５によるその後の使用のためにＭＬＭデータ・ストア内に記憶され得る。
【００３１】
［0037］  しかし、諸実施形態では、ディープ・ニューラル・ネットワーク機械学習モデル６１０は、その代わりに、ＭＬＭトレーニング・エンジン２７０ではなくリモート・システム（図示せず）によってトレーニングされ得る。この実施形態では、リモート・システムは、モデル内の組織タイプの間の区別が望まれる医療処置中に、トレーニング済み機械学習モデルを有する内視鏡コントローラ２５２をユーザに提供する。諸実施形態では、リモート・システムは、ＭＬＭデータ・ストア２８０での記憶のために、処置固有のトレーニング済み学習モデルのセット、組織タイプの異なるグループ化の間での区別のための異なるマルチクラス・クラシファイヤのセットなどを提供することができる。別の例として、ＭＬＭ解析エンジン２６５は、処置ごとに特定のマルチクラス組織タイプ分類モデルを要求し、受け取ることができる。
【００３２】
［0038］  別の実施形態では、ＭＬＭトレーニング・エンジン２７０は、内視鏡２１０からトレーニング・データを受け取ることができる。諸実施形態では、このトレーニング・データは、新しい機械学習モデルのトレーニングに応答して、または既存の機械学習モデルの洗練に応答して、受け取られ得る。この実施形態では、ＭＬＭトレーニング・エンジン２７０は、内視鏡２１０によって取り込まれた画像データの、強調表示されたエリア、注釈を付けられたエリア、または他の形で区別されたエリア（たとえば、医療処置中の画像データの外科医によるリアル・タイム注釈）を当初に受け取る。たとえば、カーソルまたはタッチ入力デバイスが、画像処理デバイスに結合されたディスプレイ・システムに入力を供給することができ、このディスプレイ・システムは、内視鏡２１０によって取り込まれたシーンのリアルタイム画像データを表示している。諸実施形態では、区別されたエリアは、エリアごとの注釈および対応する考えられる組織タイプと共にリアルタイムで受け取られる。ＭＬＭトレーニング・エンジン２７０は、一時に１つずつ各光源を用いてシーンを照明することと、ＭＬＭトレーニング・エンジン２７０からアクセス可能なメモリ内に対応する画像を記憶することとを、別個のプログラム可能光源（１つまたは複数）２１２のそれぞれを介して個別に反復するようにライト・エンジン・コントローラ２６０に指示する。異なる光源に対応する画像のセットは、取り込まれた画像データの画素ごとの部分的な分光反射率を生じる。一実施形態では、部分的な分光反射率は、上で議論したように、ディープ・ニューラル・ネットワーク機械学習モデルなどの機械学習モデルを反復してトレーニングするために機械学習モデルに供給される。一実施形態では、新しい機械学習モデルが、部分的な分光反射率を使用してトレーニングされ得る。別の実施形態では、既存のトレーニング済み機械学習モデル（たとえば、ハイパースペクトル・イメージングを使用してトレーニングされたモデル）が、リアルタイム外科注釈を使用して洗練され得る。
【００３３】
［0039］  上で議論した技法のうちの１つを使用して機械学習モデルをトレーニングした後、またはトレーニング済み機械学習モデルを入手した後に、内視鏡コントローラ２５２は、医療処置中にリアル・タイム・マルチクラス組織タイプ分類を実行し、適当な視覚化を生成するために、トレーニング済み機械学習モデルを利用する。一実施形態では、ＭＬＭ解析エンジン２６５は、組織タイプの複数の異なるクラスのうちの１つに属するものとして各画素を分類するために、画素単位の機械学習モデル解析を実行する。諸実施形態では、各画素によって取り込まれたカラー情報は、ＭＬＭ解析エンジン２６５によって使用される機械学習モデルの適当な中間層（たとえば、機械学習モデル６１０の層６１４）に供給される。機械学習モデルの中間層は、入力としてベイヤ・カラー・フィルタ画素のカラー値をとり、入力としてカラー値を使用する一連の機械学習モデル計算を実行し、画素が組織の様々な潜在的なクラスのうちの１つに属する確率を有する確率ベクトルを出力する。すなわち、医療処置中に、フィルタ２１８の画素ごとの記録された赤カラー値、緑カラー値、または青カラー値が、ＭＬＭ解析エンジン２６５によって、トレーニング済み機械学習モデルの適当な中間層（たとえば、図６に示されたトレーニング済みディープ・ニューラル・ネットワーク６１０のＲＧＢカラー値層６１４）に供給される。その後、機械学習モデル６１０は、画像の画素ごとに、その画素のイメージングされた組織が組織の異なるクラスのうちの１つである確率を提供する確率ベクトルをＭＬＭ解析エンジン２６５に出力する。取り込まれた画像データの画素の確率ベクトルは、ＭＬＭ解析エンジン２６５が、複数の分類のうちの１つに属する（たとえば、図１のタイプＡまたはタイプＢの組織に属する、または図６の組織タイプＡからＭのいずれかに属する）ものとして画像の各画素を分類することを可能にする。上でより詳細に議論したように、ハイパースペクトル・イメージャを使用する時には、フル・スペクトル情報が、機械学習モデルをトレーニングするのに使用され得るが、画像データ内の異なる組織タイプを分類するのにトレーニング済み機械学習モデルを使用する時には、フル・スペクトル情報は、ＭＬＭ解析エンジン２６５によって利用はされない。そうではなく、その情報は、トレーニング済みとして機械学習モデルを使用して、１つまたは複数のプログラム可能光源（１つまたは複数）１１２内に符号化される。この物理前処理は、内視鏡２１０内に低速でかさばり、高コストのハイパースペクトル・イメージャを必要とすることなく、ハイパースペクトル情報（たとえば、機械学習モデルをトレーニングするのに使用される）の利益を、内視鏡２１０および画像処理デバイス２５０を利用する外科医または他の医療専門家に提供する（たとえば、カラー情報を使用する機械学習モデルの適用）。
【００３４】
［0040］  諸実施形態では、ＭＬＭ解析エンジン２６５は、画像データがカメラ２１４によって取り込まれる時にリアル・タイムで画像データの画素ごとに取り込まれたカラー情報の機械学習モデル・ベースの解析を実行し、解析結果をディスプレイ・レンダリング・エンジン２９０に供給する。ディスプレイ・レンダリング・エンジン２９０は、画像データの画素ごとの確率ベクトルを含む解析結果を受け取る。一実施形態では、確率ベクトルは、画像処理デバイスに結合されたディスプレイ・デバイス（図示せず）上にレンダリングされる取り込まれた画像データの質を高める１つまたは複数の視覚化を生成するのに利用される。視覚化（１つまたは複数）は、異なるタイプの組織を有する２つの領域の間のコントラストを高めること（たとえば、神経組織と癌組織との間のコントラストを高めること）、組織タイプの異なるクラスに関するカラー・オーバーレイ（たとえば、脂肪組織、筋肉組織、および腸組織の上のカラー・オーバーレイ）を生成すること、組織タイプの未知のゾーン（たとえば、確率ベクトルが、正確さのしきい度合以内で、関心を持たれている組織タイプを予測できないゾーン）に関する通知を生成すること、医療用具が特定の組織タイプを有するゾーンを侵害する時（たとえば、医療用具が神経組織へのしきい距離に達する時）に警告を生成することなどを含むことができる。視覚化は、画像データがカメラ２１４によって取り込まれる時にリアル・タイムまたは近リアル・タイムで生成される。したがって、視覚化は、医療処置中に医療専門家に貴重なリアルタイム・フィードバックおよび組織タイプ区別を提供する。
【００３５】
［0041］  図３は、プログラム可能光源を使用して画像のマルチクラス分類を実行するのに機械学習モデルを使用するプロセス３００の一実施形態を示す図である。このプロセスは、ハードウェア（回路網、専用論理など）、ソフトウェア（汎用コンピュータ・システムまたは専用計算機上で走行されるなど）、ファームウェア、またはその組合せを含むことができる処理論理によって実行される。一実施形態では、このプロセスは、内視鏡および画像処理デバイス（たとえば、内視鏡１１０または２１０および画像処理デバイス１２０または２５０）によって実行される。
【００３６】
［0042］  図３を参照すると、処理論理は、トレーニング済みマルチクラス組織タイプ分類機械学習モデルにアクセスすること（処理ブロック３０２）によって始まる。本明細書で議論するように、カラー情報に基づいて組織タイプの間で区別するための１つまたは複数のトレーニング済み機械学習モデルは、リモート・システムから入手され、かつ／または処理論理によってトレーニングされ得る。各機械学習モデルは、組織タイプの異なるセットの間で区別するトレーニング済みニューラル・ネットワークとすることができ、異なる処置に使用されまたは処置を選択することができる。たとえば、腹部手術、心臓手術、または他のタイプの処置に関する機械学習モデルは、それぞれの処置中に出会う可能性が高い組織のタイプの組織タイプ分類を提供することができる。さらに、処理論理は、関連する処置での内視鏡の使用の前に、ユーザ選択に基づいて機械学習モデルのうちの１つにアクセスすることができる。
【００３７】
［0043］  処理論理は、機械学習モデル内の光源（１つまたは複数）の重み付けに基づいて、イメージング・システムの１つまたは複数のプログラム可能光源を構成する（処理ブロック３０４）。一実施形態では、選択された機械学習モデルから抽出された重み付けに対応する重み付け。たとえば、重み付けは、選択された機械学習モデルのトレーニングの結果としてライト・エンジン強度に適用される重み付け（たとえば、活性化関数６１２に適用される重み付け）に対応することができる。諸実施形態では、処理論理は、プログラム可能光源に適用される組み合わされた重み付けが、機械学習モデルから抽出された重み付けと一致するようにするために、各光プログラム可能光源に、そのそれぞれの重み付けに従って電力を供給する。
【００３８】
［0044］  処理論理は、構成された光源（１つまたは複数）を用いてシーンを照明する（処理ブロック３０６）。次に、処理論理は、画像データ内に示された１つまたは複数のタイプの組織を含むシーンの画像を取り込む（処理ブロック３０８）。本明細書で議論されるように、光源は、別個の照明波長および構成された電力レベルで１つまたは複数のレーザー・ライトを光らせることによって、シーンを照明する。その後、カラー・グリッド・アレイを有する光センサのアレイを有するベイヤ・カラー・フィルタなどの画像センサが、シーン内の組織（１つまたは複数）から反射された光を取り込む。
【００３９】
［0045］  取り込まれた画像データの画素すなわちカメラの画像フィルタの画素に対応する画素ごとに、処理論理は、取り込まれた画像データからのカラー情報を機械学習モデルの中間層に入力して、異なる組織タイプに属するものとしてその画素を分類する（処理ブロック３１０）。一実施形態では、中間層は、画素カラー値に基づいて活性化関数計算を実行するトレーニング済みニューラル・ネットワーク機械学習モデルの中間層であり、この活性化関数計算は、トレーニング済みニューラル・ネットワーク機械学習モデルの残りの層によって、その画素に関連する確率ベクトルを計算するのに使用される。本明細書で議論されるように、確率ベクトルは、画素が組織の各潜在的なタイプに属する確率を含む。確率がしきい値（たとえば、８５％、９０％、９９％など）を超える時に、処理論理は、画像データのその画素が、対応する組織タイプの取り込まれた画像データを有すると結論する。これは、画像全体または画像のサブセットが、その中に取り込まれた組織タイプに従って分類され得るようにするために、画素ごとに繰り返され得る。
【００４０】
［0046］  処理論理は、異なるタイプに属すると判定された組織の間の視覚的相違を含む取り込まれた画像データの視覚化をレンダリングするのに分類を利用する（処理ブロック３１２）。諸実施形態では、レンダリングされる視覚化内の組織タイプの間の区別は、関心を持たれている組織タイプの間のコントラスト強調を含むことができる。別の実施形態では、カラー・オーバーレイが、関心を持たれている組織タイプごとに生成され得、各カラー・オーバーレイの不透明度は、計算された確率を考慮に入れるように調整される（たとえば、確率が高ければ高いほど、領域は、視覚化内でより不透明にレンダリングされる）。諸実施形態では、カラー・オーバーレイおよび／またはコントラスト強調は、処置を実行する医療専門家（１つまたは複数）によって選択的にアクティブ化され、かつ／または非アクティブ化され得る。さらに、個々のカラー・オーバーレイをオン／オフに切り替えること、組織の選択されたタイプのコントラストを高めること、その他によるなど、異なる視覚化を通ってステップすることができる。視覚化のそれぞれおよび視覚化の制御は、シーンの改善されたイメージングを医療専門家に与え、このシーンの改善されたイメージングは、医療専門家が通常はシーンを実際に見ることなく内視鏡を用いて医療処置を実行するので貴重である。
【００４１】
［0047］  図４は、プログラム可能光源を使用する画像のマルチクラス分類のために機械学習モデルをトレーニングするプロセス４００の一実施形態を示す流れ図である。このプロセスは、ハードウェア（回路網、専用論理など）、ソフトウェア（汎用コンピュータ・システムまたは専用計算機上で走行されるなど）、ファームウェア、またはその組合せを含むことができる処理論理によって実行される。一実施形態では、このプロセスは、本明細書で議論するように、内視鏡および画像処理デバイス（例えば、内視鏡１１０または２１０および画像処理デバイス１２０または２５０）、リモート処理システム、またはシステムの組み合わせによって実行される。
【００４２】
［0048］  図４を参照すると、処理論理は、マルチクラス組織タイプ分類を実行するための機械学習モデル（ＭＬＭ）のトレーニングを開始することによって始まる（処理ブロック４０２）。諸実施形態では、トレーニングは、医療処置が実行される前に開始される。トレーニングは、複数の照明波長で複数の組織サンプルをイメージングするのにハイパースペクトル・イメージャを使用して新しいモデルをトレーニングすることを含むことができる。トレーニングは、内視鏡の照明源と、医療専門家によって行われる組織タイプ選択とを使用して新しいモデルをトレーニングすることをも含むことができる。さらに、トレーニングは、既存のハイパースペクトル・トレーニング済み機械学習モデルがリアルタイム組織タイプ選択を用いてさらに洗練される、両方のトレーニング技法の組合せを含むことができる。
【００４３】
［0049］  処理論理は、複数の別個の照明波長のうちの１つの関数として組織サンプルの反射率を判定するために、関心を持たれている組織タイプの組織サンプルの、その波長でのスペクトル反射率（ｓｐｅｃｔｒａｌ  ｒｅｆｌｅｃｔａｎｃｅ）を測定する（処理ブロック４０４）。一実施形態では、スペクトル反射率は、ハイパースペクトル・イメージャによって生成された複数の別個の照明波長についてとられた測定値に対応する。別の実施形態では、スペクトル反射率は、内視鏡のプログラム可能光源ごとにとられた部分的な分光反射率測定値に対応する。
【００４４】
［0050］  処理論理は、組織タイプの測定されたスペクトル反射率を機械学習モデルのＭＬＭトレーニング・プロセスに入力する（処理ブロック４０６）。本明細書で議論するように、入力は、測定されたスペクトル反射率値を既知の組織タイプの機械学習モデルに入力することによって、機械学習モデルを反復してトレーニングするのに使用される。トレーニング方法は、上で詳細に議論されている。
【００４５】
［0051］  次に、処理論理は、スペクトル反射率データが望まれる波長がまだあるかどうかを判定し（処理ブロック４０８）、同一のおよび／または異なる組織タイプの組織タイプ・サンプルがまだあるかどうかを判定する（処理ブロック４１０）。これらの処理ブロックのいずれかが真である場合には、処理は、処理ブロック４０４に戻って、スペクトル反射率を測定し、機械学習モデルをさらにトレーニングする。諸実施形態では、機械学習モデルは、各組織サンプルの照明の複数の異なる波長ならびに同一タイプおよび異なるタイプの複数の異なるサンプルを使用して反復してトレーニングされる。しかし、入手され、機械学習モデル・トレーニング・プロセスに入力されるべきトレーニング・データがもうない時には、このプロセスは終了する。
【００４６】
［0052］  図５は、本発明と共に使用され得るコンピュータ・システムの一実施形態である。このコンピュータ・システムは、上で議論した画像処理システムの機能性を提供することができる。さらに、しかしながら、様々なシステム・アーキテクチャの他の代替システムも使用され得ることが、当業者には明白になろう。
【００４７】
［0053］  図５に示されたコンピュータ・システムは、情報を通信するためのバスまたは他の内部通信手段５１５と、情報を処理するためにバス５１５に結合された１つまたは複数のプロセッサ５１０とを含む。このシステムは、情報およびプロセッサ（１つまたは複数）５１０によって実行される命令を記憶するためにバス５１５に結合されたランダム・アクセス・メモリ（ＲＡＭ）または他の揮発性ストレージ・デバイス５５０（メモリと称する）をさらに含む。メモリ５５０は、プロセッサ５１０による命令の実行中に一時変数または他の中間情報を記憶するのにも使用され得る。このシステムは、静的情報およびプロセッサ５１０の命令を記憶するためにバス５１５に結合された読取専用メモリ（ＲＯＭ）および／または静的ストレージ・デバイス５２０と、磁気ディスクまたは光ディスクおよびそれに対応するディスク・ドライブなどのデータ・ストレージ・デバイス５２５とをも含む。データ・ストレージ・デバイス５２５は、情報および命令を記憶するためにバス５１５に結合される。
【００４８】
［0054］  このシステムは、医療処置中に画像処理システムを利用する医療専門家などのコンピュータ・ユーザに情報を表示するためにバス５６５を介してバス５１５に結合される、発光ダイオード（ＬＥＤ）ディスプレイ、液晶ディスプレイ（ＬＣＤ）、その他などのディスプレイ・デバイス５７０にさらに結合され得る。英数字キーおよび他のキーを含む英数字入力デバイス５７５も、情報およびコマンド選択をプロセッサ５１０に通信するためにバス５６５を介してバス５１５に結合され得る。追加のユーザ入力デバイスは、方向情報およびコマンド選択をプロセッサ５１０に通信し、ディスプレイ・デバイス５７０上でのカーソル移動を制御するためにバス５６５を介してバス５１５に結合されるマウス、トラックボール、スタイラス、またはカーソル方向キーなどのカーソル制御デバイス５８０である。
【００４９】
［0055］  オプションでコンピュータ・システム５００に結合され得る別のデバイスが、ネットワークを介して分散システムの他のノードにアクセスするための通信デバイス５９０である。通信デバイス５９０は、イーサネット、トークン・リング、インターネット、または広域ネットワークに結合するのに使用されるものなどの複数の市販のネットワーキング周辺デバイスのいずれをも含むことができる。通信デバイス５９０は、さらに、ヌルモデム接続またはコンピュータ・システム５００と外部の世界との間の接続性を提供する任意の他の機構とすることができる。図５に示されたこのシステムの構成要素および関連するハードウェアのいずれかまたはすべてが、本発明の様々な実施形態で使用され得ることに留意されたい。
【００５０】
［0056］  このシステムの任意の構成が、特定の実施態様に従って様々な目的のために使用され得ることが、当業者によって了解されよう。本発明を実施する制御論理またはソフトウェアは、メモリ５５０、データ・ストレージ・デバイス５２５、またはプロセッサ（１つまたは複数）５１０からローカルにもしくはリモートにアクセス可能な他の記憶媒体内に記憶され得る。
【００５１】
［0057］  本明細書で説明されるシステム、方法、およびプロセスが、メモリ５５０または読取専用メモリ５２０内に記憶され、プロセッサ（１つまたは複数）５１０によって実行されるソフトウェアとして実施され得ることは、当業者に明白である。この制御論理またはソフトウェアは、コンピュータ可読プログラム・コードをその中で実施され、データ・ストレージ・デバイス５２５によって読取可能であり、プロセッサ（１つまたは複数）５１０に本明細書の方法および教示に従って動作させる、コンピュータ可読媒体を含む製造品上に存在することもできる。
【００５２】
［0058］  本発明は、上で説明したコンピュータ・ハードウェア構成要素のサブセットを含む、タブレット・コンピュータ・システム、ラップトップ・コンピュータ・システム、スマートフォン、スマート・グラス、その他などのハンドヘルド・デバイスまたはポータブル・デバイス内でも実施され得る。たとえば、ハンドヘルド・デバイスは、バス５１５、プロセッサ（１つまたは複数）５１０、ならびにメモリ５５０および／または５２５だけを含むように構成され得る。ハンドヘルド・デバイスまたはポータブル・デバイスは、ユーザがそれを用いて使用可能なオプションのセットから選択できるボタンまたは入力シグナリング構成要素のセットを含むようにも構成され得る。ハンドヘルド・デバイスまたはポータブル・デバイスは、ハンドヘルド・デバイスまたはポータブル・デバイスのユーザに情報を表示する液晶ディスプレイ（ＬＣＤ）などの出力装置を含むようにも構成され得る。従来の方法が、そのようなハンドヘルド・デバイスまたはポータブル・デバイスを実施するのに使用され得る。そのようなデバイスに関する本発明の実施態様は、本明細書で提供される本発明の開示を与えられれば、当業者に明白になるはずである。
【００５３】
［0059］  本発明は、上で説明したコンピュータ・ハードウェア構成要素のサブセットを含む特殊目的機器内でも実施され得る。たとえば、この機器は、プロセッサ（１つまたは複数）５１０、データ・ストレージ・デバイス５２５、バス５１５、およびメモリ５５０と、ユーザが基本的な形でこのデバイスと通信することを可能にする小型タッチスクリーンなどの基本的な通信機構のみとを含むことができる。一般に、デバイスが特殊目的であればあるほど、そのデバイスが機能するために存在する必要がある要素はより少数になる。
【００５４】
［0060］  上で説明したプロセスは、コンピュータ・ソフトウェアおよびコンピュータ・ハードウェアに関して説明される。説明される技法は、機械（たとえば、コンピュータ）によって実行される時に、その機械に説明された動作を実行させる、有形のまたは非一時的な機械可読記憶媒体内で実施される機械実行可能命令を構成することができる。さらに、プロセスは、特定用途向け集積回路（「ＡＳＩＣ」）またはそれ以外など、ハードウェア内で実施され得る。
【００５５】
［0061］  有形の機械可読記憶媒体は、機械（たとえば、コンピュータ、ネットワーク・デバイス、携帯情報端末、および１つまたは複数のプロセッサのセットを有する任意のデバイスなど）によってアクセス可能な非一時的な形で情報を提供する（すなわち、記憶する）すべての機構を含む。たとえば、機械可読記憶媒体は、記録可能媒体／記録不能媒体（たとえば、読取専用メモリ（ＲＯＭ）、ランダム・アクセス・メモリ（ＲＡＭ）、磁気ディスク・ストレージ・デバイス、光学記憶媒体、フラッシュ・メモリ・デバイスなど）を含む。
【００５６】
［0062］  要約で説明されるものを含む、本発明の図示の実施形態の上の説明は、網羅的であることまたは開示される正確な形態に本発明を限定することを意図されたものではない。本発明の特定の実施形態および例が、本明細書で例示のために説明されるが、当業者が認めるとおり、本発明の範囲内で様々な変更が可能である。
【００５７】
［0063］  これらの変更は、上の詳細な説明に鑑みて本発明に対して行われ得る。以下の特許請求の範囲で使用される用語が、本明細書で開示された特定の実施形態に本発明を限定すると解釈されてはならない。そうではなく、本発明の範囲は、以下の特許請求の範囲のみによって決定され、以下の特許請求の範囲は、請求項解釈の確立された原則に従って解釈されなければならない。
【００５８】
排他的な所有権または特権が主張される本発明の実施形態は、次の通りである。
【図１】
2020509455.tif 000003
【図２】
2020509455.tif 000004
【図３】
2020509455.tif 000005
【図４】
2020509455.tif 000006
【図５】
2020509455.tif 000007
【図６】
2020509455.tif 000008
【図７】
2020509455.tif 000009
【手続補正書】
【提出日】令和1年9月4日(2019.9.4)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
１つまたは複数の異なる組織タイプを識別する方法であって、
イメージング・システムの１つまたは複数のプログラム可能光源の構成を適用することであって、前記構成は、画像データ内に取り込まれた前記１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルから入手される、適用することと、
前記構成された１つまたは複数のプログラム可能光源を用いてシーンを照明することと、
前記イメージング・システムのカメラを用いて、画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込むことと、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングすることと
を含む方法。
【請求項２】
前記カラー情報を解析することは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析することと、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定することと、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別することと、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成することであって、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む、生成することと
を含む、請求項１に記載の方法。
【請求項３】
前記カメラの前記画像センサは、ベイヤ・カラー・フィルタ画像センサである、請求項２に記載の方法。
【請求項４】
前記各画素の前記カラー情報は、前記機械学習モデルの中間層に入力として供給される、請求項２に記載の方法。
【請求項５】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
照明波長の関数として各組織タイプの１つまたは複数の組織サンプルの反射率を判定するために、複数の別個の照明波長での前記１つまたは複数の組織サンプルの分光反射率を測定することと、
カラー画像データから組織タイプを予測するために前記機械学習モデルを反復してトレーニングするための入力として前記分光反射率を使用することと
をさらに含む、請求項１に記載の方法。
【請求項６】
前記機械学習モデルは、重み付き伝達関数の複数の層を有する人工ニューラル・ネットワークを含み、前記機械学習モデルは、照明源のスペクトルによって前記入力された分光反射率を乗算する第１の層と、赤カメラ・センサ関数、緑カメラ・センサ関数、および青カメラ・センサ関数によって前記第１の層内で計算された値を乗算する第２の層と、前記第２の層によって計算された前記値を受け取る少なくとも１つの追加の層とを含み、前記機械学習モデルの出力は、確率のベクトルである、請求項５に記載の方法。
【請求項７】
前記分光反射率は、ハイパースペクトル・イメージャを用いて測定される、請求項５に記載の方法。
【請求項８】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
前記１つまたは複数のタイプの組織を示す前記画像データの部分を、前記１つまたは複数の異なる組織タイプのうちの１つに属するものとして分類する、前記シーンの前記画像データのリアルタイム・ユーザ注釈を受け取ることと、
前記１つまたは複数のプログラム可能光源のそれぞれを用いて前記シーンを反復して照明し、前記シーンの各照明されたバージョンに関連する画像を取り込むことであって、前記取り込まれる画像は、前記分類された部分の部分的な分光反射率を提供する、反復して照明し、取り込むことと、
カラー画像データから組織タイプを予測するように前記機械学習モデルを反復してトレーニングするための入力として前記部分的な分光反射率を供給することと
をさらに含む、請求項１に記載の方法。
【請求項９】
前記イメージング・システムは、内視鏡を含む、請求項１に記載の方法。
【請求項１０】
前記１つまたは複数の異なる組織タイプは、異なるタイプのヒト組織を含む、請求項１に記載の方法。
【請求項１１】
カメラと、
１つまたは複数のプログラム可能光源と、
画像データ内に取り込まれた１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルを記憶するメモリと、
前記カメラ、１つまたは複数のプログラム可能光源、および前記メモリに結合されたプロセッサであって、
前記機械学習モデルから入手された構成パラメータに基づいてシーンを照明するように前記１つまたは複数のプログラム可能光源を構成し、
画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込み、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングする
ように構成される、プロセッサと
を含むイメージング・システム。
【請求項１２】
前記カラー情報を解析するように構成された前記プロセッサは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析し、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定し、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別し、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成し、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１３】
前記カメラの前記画像センサは、ベイヤ・カラー・フィルタ画像センサである、請求項１２に記載のイメージング・システム。
【請求項１４】
前記各画素の前記カラー情報は、前記機械学習モデルの中間層に入力として供給される、請求項１２に記載のイメージング・システム。
【請求項１５】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
照明波長の関数として各組織タイプの１つまたは複数の組織サンプルの反射率を判定するために、複数の別個の照明波長での前記１つまたは複数の組織サンプルの分光反射率を測定し、
カラー画像データから組織タイプを予測するために前記機械学習モデルを反復してトレーニングするための入力として前記分光反射率を使用する
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１６】
前記機械学習モデルは、前記構成の適用の前に画像データ内の１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされ、
前記１つまたは複数のタイプの組織を示す前記画像データの部分を、前記１つまたは複数の異なる組織タイプのうちの１つに属するものとして分類する、前記シーンの前記画像データのリアルタイム・ユーザ注釈を受け取り、
前記１つまたは複数のプログラム可能光源のそれぞれを用いて前記シーンを反復して照明し、前記シーンの各照明されたバージョンに関連する画像を取り込み、前記取り込まれる画像は、前記分類された部分の部分的な分光反射率を提供し、
カラー画像データから組織タイプを予測するように前記機械学習モデルを反復してトレーニングするための入力として前記部分的な分光反射率を供給する
ように構成された前記プロセッサをさらに含む、請求項１１に記載のイメージング・システム。
【請求項１７】
処理システムによって実行される時に、前記処理システムに、１つまたは複数の異なる組織タイプを識別する方法であって、
イメージング・システムの１つまたは複数のプログラム可能光源の構成を適用することであって、前記構成は、画像データ内に取り込まれた前記１つまたは複数の異なる組織タイプの間で区別するようにトレーニングされた機械学習モデルから入手される、適用することと、
前記構成された１つまたは複数のプログラム可能光源を用いてシーンを照明することと、
前記イメージング・システムのカメラを用いて、画像データ内に示された１つまたは複数のタイプの組織を含む前記画像データを取り込むことと、
前記画像データ内の前記１つまたは複数の異なる組織タイプのうちの少なくとも１つを識別するために前記機械学習モデルを用いて前記取り込まれた画像データ内のカラー情報を解析することと、
視覚化内で前記１つまたは複数の異なる組織タイプのうちの前記識別された少なくとも１つを他の組織タイプから視覚的に区別する前記シーンの前記視覚化を前記取り込まれた画像データからレンダリングすることと
を含む方法を実行させる命令をその上に記憶された非一時的機械可読記憶媒体。
【請求項１８】
前記カラー情報を解析することは、
前記カメラの画像センサの画素ごとに、
前記機械学習モデルを用いて前記各画素によって取り込まれたカラー情報を解析することと、
前記各画素が前記１つまたは複数の異なる組織タイプのうちの１つを含む確率を判定することと、
前記確率がしきい値を超える時に、前記１つまたは複数の異なる組織タイプのうちの１つを含むものとして前記画素を識別することと、
前記シーンの前記視覚化のために１つまたは複数のマッピングを生成することであって、各マッピングは、同一の組織タイプに属するものとしてそれぞれ識別される前記取り込まれた画像データ内の１つまたは複数の画素のサブセットを含む、生成することと
を含む、請求項１７に記載の非一時的機械可読記憶媒体。
【国際調査報告】
2020509455.tif 000010
2020509455.tif 000011
2020509455.tif 000012
2020509455.tif 000013
2020509455.tif 000014