(57)【要約】  細胞分類を実行する方法は、畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像のセットおよび複数の生物学的に特定のフィルタに基づいて生成するステップを含む。特徴プーリング動作は、複数の特徴マップの各々に適用され、複数の画像表現を生成する。各画像表現は、複数の細胞タイプの１つとして分類される。
2018514844.tif 000002
【特許請求の範囲】
【請求項１】
細胞分類を実行する方法であって、前記方法は、
畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像のセットおよび複数の生物学的に特定のフィルタに基づいて生成するステップと、
特徴プーリング動作を前記複数の特徴マップの各々に適用し、複数の画像表現を生成するステップと、
各画像表現を複数の細胞タイプの１つとして分類するステップと、
を含む方法。
【請求項２】
複数の入力画像を獲得するステップと、
前記複数の入力画像ごとにエントロピー値を計算するステップであって、各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表すステップと、
入力画像の前記セット内の１つまたは複数の低エントロピー画像を識別するステップであって、前記１つまたは複数の低エントロピー画像は、各々、閾値未満のそれぞれのエントロピー値に関連付けられるステップと、
前記複数の入力画像に基づいて、入力画像の前記セットを生成するステップであって、入力画像の前記セットは、前記１つまたは複数の低エントロピー画像を除外するステップと、
をさらに含む、
請求項１に記載の方法。
【請求項３】
前記複数の入力画像は、内視鏡検査デバイスを用いて医療処置の間獲得される、
請求項２に記載の方法。
【請求項４】
前記複数の入力画像は、医療処置の間、デジタルホログラフィック顕微鏡検査デバイスを用いて獲得される、
請求項２に記載の方法。
【請求項５】
教師なし学習プロセスを用いて、前記複数の生物学的に特定のフィルタを複数の訓練画像に基づいて決定するステップをさらに含む、
請求項１に記載の方法。
【請求項６】
前記教師なし学習プロセスは、コスト関数を反復的に適用し、前記複数の生物学的に特定のフィルタおよび前記複数の訓練画像の各々を再構成する特徴マップの最適セットについて解く、
請求項５に記載の方法。
【請求項７】
前記コスト関数は、交互投影法を用いて解かれる、
請求項６に記載の方法。
【請求項８】
複数の特徴マップを生成した後、要素ごとの絶対値関数を前記複数の特徴マップに適用するステップをさらに含む、
請求項１に記載の方法。
【請求項９】
前記要素ごとの絶対値関数を前記複数の特徴マップに適用した後、局所コントラスト正規化を前記複数の特徴マップに適用するステップをさらに含む、
請求項８に記載の方法。
【請求項１０】
前記局所コントラスト正規化は、局所的減算動作および除算動作を前記複数の特徴マップの各々に適用するステップを含む、
請求項９に記載の方法。
【請求項１１】
入力画像の前記セットは、映像ストリームを備え、各画像表現は、多数決を用いて所定の長さを有する時間窓内で分類される、
請求項１に記載の方法。
【請求項１２】
医療処置の間、細胞分類を実行する方法であって、前記方法は、
前記医療処置前に、教師なし学習プロセスを用いて、複数の生物学的に特定のフィルタを複数の訓練画像に基づいて決定するステップと、
前記医療処置の間、細胞分類プロセスを実行するステップと、
を含み、細胞分類プロセスを実行するステップは、
内視鏡検査デバイスを用いて入力画像を獲得するステップと、
畳み込みスパース符号化プロセスを用いて、特徴マップを、前記入力画像および前記複数の生物学的に特定のフィルタに基づいて生成するステップと、
特徴プーリング動作を前記特徴マップに適用し、画像表現を生成するステップと、
訓練された分類器を用いて、前記画像表現に対応するクラスラベルを識別するステップと、
前記クラスラベルを、前記内視鏡検査デバイスに動作可能に結合されたディスプレイに示すステップと、
を含む方法。
【請求項１３】
前記細胞分類プロセスは、
前記特徴プーリング動作を適用する前に、要素ごとの絶対値関数を前記特徴マップに適用するステップをさらに含む、
請求項１２に記載の方法。
【請求項１４】
前記細胞分類プロセスは、
前記特徴プーリング動作を適用する前に、局所コントラスト正規化を前記特徴マップに適用するステップをさらに含む、
請求項１３に記載の方法。
【請求項１５】
前記局所コントラスト正規化は、局所的減算動作および除算動作を前記特徴マップに適用するステップを含む、
請求項１４に記載の方法。
【請求項１６】
前記クラスラベルは、前記入力画像内の生物学的物質が悪性であるか、または、良性であるかの徴候を提供する、
請求項１２に記載の方法。
【請求項１７】
細胞分類を実行するシステムであって、前記システムは、
医療処置の間、入力画像のセットを獲得するように構成される顕微鏡検査デバイスと、
前記医療処置の間、細胞分類プロセスを実行するように構成される画像処理コンピュータと、
ディスプレイと、
を備え、
前記細胞分類プロセスは、
畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像の前記セットおよび複数の生物学的に特定のフィルタに基づいて生成するステップと、
特徴プーリング動作を前記複数の特徴マップの各々に適用し、複数の画像表現を生成するステップと、
入力画像の前記セットに対応する１つまたは複数の細胞クラスラベルを識別するステップと、
を含み、
前記ディスプレイは、前記医療処置の間、前記１つまたは複数の細胞クラスラベルを示すように構成される、
システム。
【請求項１８】
前記顕微鏡検査デバイスは、共焦点レーザー内視鏡検査デバイスである、
請求項１７に記載のシステム。
【請求項１９】
前記顕微鏡検査デバイスは、デジタルホログラフィック顕微鏡検査デバイスである、
請求項１７に記載のシステム。
【請求項２０】
前記画像処理コンピュータによって実行される前記細胞分類プロセスは、
前記特徴プーリング動作を適用する前に、要素ごとの絶対値関数および局所コントラスト正規化を前記複数の特徴マップの各々に適用するステップをさらに含む、
請求項１７に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
［１］本発明は、概して、細胞画像および映像の深層畳み込みネットワークベースの分類を実行する方法、システムおよび装置に関するものである。提案された技術は、例えば、さまざまな細胞画像分類タスクに適用されてもよい。
【背景技術】
【０００２】
［２］生体内細胞画像処理は、画像処理システム、例えば内視鏡から獲得される画像を用いた、生きている細胞の研究である。蛍光タンパク質および合成フルオロフォア技術の最近の進歩のため、生体内細胞画像処理技術に向けられる研究努力の量は増加しており、生体内細胞画像処理技術は、細胞および組織機能の基本的な性質への洞察を提供する。生体内細胞画像処理技術は、現在複数のモダリティにわたり、例えば、多光子、スピニングディスク顕微鏡検査、蛍光、位相コントラストおよび差動干渉コントラストおよびレーザー走査共焦点ベースデバイスを含む。
【０００３】
［３］さらに、さまざまな日常的な臨床病理学試験のために、コンピュータ支援画像分析技術を使用することに対する関心が高まってきた。顕微鏡検査画像データが格納され、デジタル的に処理される量はさらに増加しているので、１つの挑戦は、これらの画像を分類し、医療処置の間、確実に画像を理解することである。これらの技術によって取得された結果を用いて、臨床医の手動／主観的な分析を支援し、より信頼性が高く整合した試験結果を導く。このために、手動の試験手順の欠点に対処するために、所定の生体内細胞画像内のパターンを自動的に決定するコンピュータ支援診断（ＣＡＤ）システムおよび方法を用いることができた。最新の画像認識システムは、人間が設計した特徴、例えばスケール不変特徴変換（ＳＩＦＴ）、ローカルバイナリーパターン（ＬＢＰ）、勾配方向ヒストグラム（ＨＯＧ）およびガボール特徴に依存する。人間が設計した特徴は、多数のベンチマークデータセットにおいて最新性能を提供するが、これらの用途は、その作業の手動の性質のために制限される。
【０００４】
［４］近年、教師なし特徴学習は、さまざまな画像認識タスクについて、人間が設計した特徴を上回ることが示された。細胞画像認識について、教師なし学習は、対象物／画像認識プロセスの生物学的推論に根ざしている特徴を学習する可能性を提供する。したがって、教師なし学習技術を用いて、人間が設計した特徴を分析に利用する現在の分類システムの制限に対処する細胞分類システムおよび方法を提供することが望ましい。
【発明の概要】
【課題を解決するための手段】
【０００５】
［５］本発明の実施形態は、細胞画像および映像の深層畳み込みネットワークベースの分類に関する方法、システムおよび装置を提供することによって、上述した欠点の１つまたは複数に対処および解決する。簡潔には、細胞画像は、生物学的に特定のフィルタおよび弁別的な（ｄｉｓｃｒｉｍｉｎａｔｉｖｅ）特徴マップを学習する教師なし特徴学習方法を用いて、および、画像の特徴マップを与えられる最終的な画像表現を生成する３つの処理ユニットの連結を用いて分類される。本願明細書において述べられる各種実施形態を用いて、細胞画像の認識精度を増加してもよい。本願明細書において提供されている例は、脳腫瘍内視鏡検査画像に向けられる。しかしながら、本願明細書において記載されている技術が同様に他のタイプの医療画像の分類または自然画像の分類にさえ適用されてもよいことを理解されたい。
【０００６】
［６］いくつかの実施形態によれば、細胞分類を実行する方法は、畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像のセットおよび複数の生物学的に特定のフィルタに基づいて生成するステップを含む。特徴プーリング動作は、特徴マップの各々に適用され、複数の画像表現を生成する。各画像表現は、複数の細胞タイプの１つとして分類される。いくつかの実施形態では、要素ごとの絶対値関数は、特徴マップに適用されてもよい。一実施形態では、要素ごとの絶対値関数の適用の後、局所コントラスト正規化が行われ、局所コントラスト正規化は、例えば、局所的減算動作（演算）および除算動作（演算）を特徴マップの各々に適用するステップを含んでもよい。入力画像のセットが映像ストリームを備える実施形態では、各画像表現は、多数決を用いて所定の長さを有する時間窓内で分類されてもよい。
【０００７】
［７］上述した方法の一実施形態では、入力画像は、例えば、内視鏡検査デバイスまたはデジタルホログラフィック顕微鏡検査デバイスを用いて医療処置の間獲得される。エントロピー値は、入力画像ごとに計算される。各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表す。１つまたは複数の低エントロピー画像（例えば、閾値未満のエントロピー値を有する画像）は、入力画像のセット内で識別される。次に、入力画像のセットは、入力画像に基づいて生成され、低エントロピー画像を除外する。
【０００８】
［８］上述した方法のいくつかの実施形態では、教師なし学習プロセスは、複数の訓練画像に基づいて生物学的に特定のフィルタを決定するために用いられる。例えば、一実施形態では、教師なし学習プロセスは、コスト関数を反復的に適用し、生物学的に特定のフィルタおよび複数の訓練画像の各々を再構成する特徴マップの最適セットについて解く。コスト関数は、例えば、交互投影法を用いて解かれてもよい。
【０００９】
［９］他の実施形態によれば、医療処置の間、細胞分類を実行する第２の方法は、医療処置の前および間に実行される特徴を含む。医療処置前に、教師なし学習プロセスを用いて、生物学的に特定のフィルタを訓練画像に基づいて決定する。医療処置の間、細胞分類プロセスが実行される。このプロセスは、内視鏡検査デバイスを用いて入力画像を獲得するステップと、畳み込みスパース符号化プロセスを用いて、特徴マップを、入力画像および生物学的に特定のフィルタに基づいて生成するステップと、を含んでもよい。特徴プーリング動作は、特徴マップに適用され、画像表現を生成し、訓練された分類器を用いて、画像表現に対応するクラスラベルを識別する。このクラスラベルは、例えば、入力画像内の生物学的物質が悪性であるか、良性であるか、または、健康な組織であるかの徴候を提供してもよい。クラスラベルが識別されると、内視鏡検査デバイスに動作可能に結合されたディスプレイに示されてもよい。
【００１０】
［１０］さまざまな特徴は、上述した第２の方法に追加、修正および／または改良されてもよい。例えば、いくつかの実施形態では、要素ごとの絶対値関数は、特徴プーリング動作を適用する前に、特徴マップに適用される。いくつかの実施形態では、局所コントラスト正規化は、特徴プーリング動作を適用する前に、特徴マップに適用される。この局所コントラスト正規化は、例えば、局所的減算動作および除算動作を特徴マップに適用することを含んでもよい。
【００１１】
［１１］他の実施形態によれば、細胞分類を実行するシステムは、顕微鏡検査デバイス、画像処理コンピュータおよびディスプレイを含む。顕微鏡検査デバイスは、医療処置の間、入力画像のセットを獲得するように構成される。このデバイスは、例えば、共焦点レーザー内視鏡検査デバイスまたはデジタルホログラフィック顕微鏡検査デバイスを備えてもよい。画像処理コンピュータは、医療処置の間、細胞分類プロセスを実行するように構成される。この細胞分類プロセスは、畳み込みスパース符号化プロセスを用いて、特徴マップを、入力画像のセットおよび生物学的に特定のフィルタに基づいて生成するステップと、特徴プーリング動作を特徴マップの各々に適用し、画像表現を生成するステップと、を含んでもよく、次に、画像表現は、入力画像のセットに対応する細胞クラスラベルを識別する際に用いられてもよい。いくつかの実施形態では、細胞分類プロセスは、特徴プーリング動作を適用する前に、要素ごとの絶対値関数および局所コントラスト正規化を特徴マップの各々に適用するステップをさらに含む。システムに含まれるディスプレイは、医療処置の間、１つの細胞クラスラベルを示すように構成される。
【００１２】
［１２］本発明の追加の特徴および効果は、図示の実施形態の以下の詳細な説明から明らかになり、添付の図面を参照しながら詳細な説明を開始する。
【００１３】
［１３］本発明の前述の態様および他の態様は、添付の図面に関連して読まれると、以下の詳細な説明から最も理解される。本発明を例示するために、図面には、現在好適な実施形態が示されるが、本発明が開示される特定の手段に限定されないことを理解されたい。図面には、以下の図が含まれる。
【図面の簡単な説明】
【００１４】
【図１】いくつかの実施形態に従う、細胞分類を実行するのに用いてもよい内視鏡検査ベースシステムの一例を提供する。
【図２】本発明のいくつかの実施形態において適用されてもよい細胞分類プロセスの概要を提供する。
【図３】膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像のセットを提供する。
【図４】いくつかの実施形態において利用されてもよいような、脳腫瘍データセット画像内の画像エントロピー分布の一例を提供する。
【図５】いくつかの実施形態に従う、フィルタ学習の間用いられてもよい交互投影法の一例を提供する。
【図６】いくつかの実施形態に従う、訓練画像として膠芽腫画像および髄膜腫画像のセットを用いて生成された学習したフィルタの一例を提供する。
【図７】本願明細書において述べられる技術のいくつかを用いて実行されてもよいような特徴マップ抽出の一例を提供する。
【図８】本発明の実施形態が実施されてもよい例示的なコンピューティング環境を示す。
【発明を実施するための形態】
【００１５】
［２２］以下の開示は、細胞オンライン画像分類システムに関する方法、システムおよび装置に向けられたいくつかの実施形態を含み、細胞オンライン画像分類システムは、深層畳み込みネットワークに基づく教師なし特徴学習モデルを利用する。従来技術において理解されているように、深層畳み込みネットワークは、畳み込みの画像分解に基づく教師なし学習フレームワークである。深層畳み込みネットワークは、生物学的に関連した特徴を入力画像から学習する能力を提供し、学習した特徴は、フレームワークのその畳み込み再構成の性質のため変換に不変である。細胞分類のさまざまなシステム、方法および装置は、２つの細胞画像診断法、すなわち、共焦点レーザー内視鏡検査（ＣＬＥ）およびデジタルホログラフィック顕微鏡検査（ＤＨＭ）を参照して記載されている。しかしながら、この開示の各種実施形態がこれらの診断法に限定されず、さまざまな臨床設定において適用されてもよいことを理解されたい。さらに、本願明細書に記載されている技術がさまざまなタイプの医療画像の分類または自然画像の分類にさえ適用されてもよいことを理解されたい。
【００１６】
［２３］図１は、いくつかの実施形態に従う、細胞分類を実行するのに用いられてもよい内視鏡検査ベースシステム１００の一例を提供する。内視鏡検査は、簡潔には、組織学のような画像を人体内部からリアルタイムに「光学的生検」として公知のプロセスにより取得するための技術である。「内視鏡検査」という用語は、一般的に、蛍光共焦点顕微鏡検査を意味するが、多光子顕微鏡検査および光干渉断層撮影もまた内視鏡使用に適用され、同様に各種実施形態において用いられてもよい。市販の臨床内視鏡の非限定的な例は、ＰｅｎｔａｘのＩＳＣ−１０００／ＥＣ３８７０ＣＩＫおよびＣｅｌｌｖｉｚｉｏ（Ｍａｕｎａ  Ｋｅａ  Ｔｅｃｈｎｏｌｏｇｉｅｓ、パリ、フランス）を含む。主要な用途は、従来は、消化管を画像処理する際、特にバレット食道、膵臓胞および結腸直腸の病変の診断および特性評価のためであった。共焦点内視鏡検査の診断スペクトルは、近年、結腸直腸癌のスクリーニングおよび監視から、バレット食道、ヘリコバクターピロリ関連の胃炎および初期の胃癌の方に拡大した。内視鏡検査は、腸粘膜および生体内組織構造の表面下の分析を、進行中の内視鏡検査の間最大分解能で点走査レーザー蛍光分析によって可能にする。細胞、脈管および接続構造は、詳細に見ることができる。共焦点レーザー内視鏡検査を用いて見られる新規な詳細画像は、腸の表面上および表面下にある細胞構造および機能における固有の観察を可能にする。さらに、以下で詳述するように、内視鏡検査は、悪性（膠芽腫）および良性（髄膜腫）の腫瘍を通常の組織から識別することが臨床的に重要である脳外科手術に適用されてもよい。
【００１７】
［２４］図１の例において、一群のデバイスは、共焦点レーザー内視鏡検査（ＣＬＥ）を実行するように構成される。これらのデバイスは、画像処理コンピュータ１１０に動作可能に結合されるプローブ１０５および画像処理ディスプレイ１１５を含む。図１において、プローブ１０５は、共焦点細径プローブである。しかしながら、さまざまなタイプの細径プローブが用いられてもよく、さまざまな視野、画像深さ、遠位端直径、方位分解能および距離分解能を画像処理するために設計されるプローブを含むことに留意されたい。画像処理コンピュータ１１０は、画像処理の間プローブ１０５により用いられる励起光またはレーザー源を提供する。さらに、画像処理コンピュータ１１０は、タスク、例えば、プローブ１０５によって収集される画像の記録、再構成、修正および／またはエクスポートを実行するための画像処理ソフトウェアを含んでもよい。画像処理コンピュータ１１０は、以下、図２を参照して詳述される細胞分類プロセスを実行するように構成されてもよい。
【００１８】
［２５］フットペダル（図１に示されない）は、画像処理コンピュータ１１０に接続され、ユーザが機能を実行できるようにしてもよく、機能とは、例えば、共焦点画像処理透過の深さの調整、画像獲得の開始および終了、および／または、ローカルのハードドライブまたはリモートのデータベース、例えばデータベースサーバ１２５に画像を保存することである。代替的または追加的に、他の入力デバイス（例えば、コンピュータ、マウス等）が、画像処理コンピュータ１１０に接続され、これらの機能を実行してもよい。画像処理ディスプレイ１１５は、プローブ１０５によってキャプチャされる画像を、画像処理コンピュータ１１０を介して受信し、これらの画像を臨床設定において視認するために示す。
【００１９】
［２６］図１の例を続けると、画像処理コンピュータ１１０は、ネットワーク１２０に（直接的または間接的に）接続される。ネットワーク１２０は、公知技術の任意のコンピュータネットワークを含んでもよく、イントラネットまたはインターネットを含むが、これらに限定されるものではない。ネットワーク１２０によって、画像処理コンピュータ１１０は、画像、映像または他の関連データをリモートのデータベースサーバ１２５に格納することができる。さらに、ユーザコンピュータ１３０は、画像処理コンピュータ１１０またはデータベースサーバ１２５と通信し、データ（例えば、画像、映像または他の関連データ）を検索することができ、このデータは、次に、ユーザコンピュータ１３０でローカルに処理可能である。例えば、ユーザコンピュータ１３０は、画像処理コンピュータ１１０またはデータベースサーバ１２５からデータを検索してもよく、そのデータを用いて、図２で後述する細胞分類プロセスを実行してもよい。
【００２０】
［２７］図１は、ＣＬＥベースのシステムを示すが、他の実施形態では、システムは、ＤＨＭ画像処理デバイスを代替的に用いてもよい。干渉位相顕微鏡検査としても知られるＤＨＭは、透明な標本におけるナノメートル以下の光学的厚さ変化を量的に撮影する能力を提供する画像処理技術である。標本に関する強度（振幅）情報のみがキャプチャされる従来のデジタル顕微鏡検査とは異なり、ＤＨＭは、位相および強度の両方をキャプチャする。ホログラムとしてキャプチャされる位相情報は、コンピュータアルゴリズムを用いて、標本に関する拡張した形態学的情報（例えば、深さおよび表層特徴）を再構成するために使用可能である。最新のＤＨＭの実施態様は、いくつかの追加の利点、例えば高速走査／データ獲得速度、低ノイズ、高分解能およびラベルなしのサンプル獲得の可能性を提供する。ＤＨＭは、１９６０年代に最初に記載されたが、計測器サイズ、動作の複雑性およびコストは、この技術を臨床またはポイントオブケア用途に広範囲に採用する際の大きな障害であった。最近の開発は、これらの障害に対処する試みをしながら、鍵となる特徴を強化し、ＤＨＭが医療および医療以外における中心的かつ多角的な重要技術として魅力的なオプションになりうる可能性を高めている。
【００２１】
［２８］高分解能かつ広視野の画像処理を、拡張した深さおよび形態学的情報で、潜在的にラベルなしの方法で達成するＤＨＭの能力は、いくつかの臨床用途に用いられる技術を位置付けし、臨床用途は、血液学（例えば、赤血球容積測定、白血球差、細胞種類分類）、尿沈渣分析（例えば、層内のマイクロ流体サンプルを走査して沈渣を再構成し、沈渣成分の分類精度を改善する）、組織病理学（例えば、ＤＨＭの拡張形態／コントラストを利用し、新しい組織内でラベル付けなく健康な細胞から癌を識別する）、希少細胞検出（例えば、ＤＨＭの拡張形態／コントラストを利用し、希少細胞、例えば循環腫瘍／上皮細胞、幹細胞、感染細胞等を区別する）を含む。ＤＨＭ技術の最新の進歩、特にサイズ、複雑性およびコストの減少を考えると、これらおよび他の用途（図２において後述する細胞分類プロセスを含む）は、臨床環境内で、または、ポイントオブケアの分散的方法において実行可能である。
【００２２】
［２９］図２は、本発明のいくつかの実施形態において適用されてもよい細胞分類プロセス２００の概要を提供する。このプロセス２００は、３部分、すなわち、オフラインの教師なしフィルタ学習と、オフラインの教師あり分類器訓練と、オンラインの画像および映像分類と、を備えるパイプラインとして示される。プロセス１００の中心的要素は、フィルタ学習、畳み込みスパース符号化、特徴プーリングおよび分類である。簡潔には、生物学的に特定のフィルタは、１つまたは複数の訓練画像から学習される。１つまたは複数の画像フレームは、生物学的画像処理デバイス（図１参照）から、直接的または間接的に受信される。次に、畳み込みスパース符号化が適用され、学習したフィルタを、学習したフィルタで畳み込まれる画像のためのスパース特徴マップのセットの合計として分解する。次に、これらの特徴マップは、３つの層、すなわち、要素ごとの絶対値修正（ｅｌｅｍｅｎｔ−ｗｉｓｅ  ａｂｓｏｌｕｔｅ  ｖａｌｕｅ  ｒｅｃｔｉｆｉｃａｔｉｏｎ：Ａｂｓ）、局所コントラスト正規化（ＬＣＮ）および特徴プーリング（ＦＰ）によって処理される。最後に、分類器は、結果として生じる特徴に適用され、所定の細胞データに基づいて、データのための１つまたは複数のクラスラベルを識別する。これらのクラスラベルは、例えば、特定の組織が悪性であるか、または、良性であるかの徴候を提供してもよい。さらに、いくつかの実施形態では、クラスラベルは、健康な組織の徴候を提供してもよい。細胞分類プロセス２００を実行するための各種要素は、いくつかの実施形態において適用されてもよいいくつかの追加の任意の特徴とともに、以下、より詳細に記載されている。
【００２３】
［３０］細胞分類プロセス２００の開始前に、エントロピーベースの画像剪定要素２０５を任意に用いて、低い画像テクスチャ情報を有する（例えば、低コントラストで、ほとんど分類情報を含まない）画像フレームであって、臨床的に興味がなく、画像分類に適さないかもしれない画像フレームを自動的に除去してもよい。この除去を用いて、例えば、いくつかのＣＬＥデバイスの限定された画像処理能力を対象にしてもよい。画像エントロピーは、画像の「情報性」を記載するのに用いられる量であり、すなわち、画像内に含まれる情報の量である。低エントロピー画像は、ごくわずかなコントラストおよび同一または同様のグレー値を有する大量のピクセルを有する。一方、高エントロピー画像は、あるピクセルから次のピクセルまで多くのコントラストを有する。図３は、膠芽腫および髄膜腫の低エントロピーおよび高エントロピーの画像のセットを提供する。図示のように、低エントロピー画像は、多くの均一な画像領域を含み、一方、高エントロピー画像は、豊富な画像構造によって特徴付けられる。
【００２４】
［３１］いくつかの実施形態では、エントロピーベースの画像剪定要素２０５は、エントロピー閾値を用いて剪定を実行する。この閾値は、データセットの全体にわたって画像エントロピーの分布に基づいて設定されてもよい。図４は、いくつかの実施形態において利用されてもよいような、脳腫瘍データセット画像内の画像エントロピー分布の一例を提供する。図示のように、エントロピーが残りの画像のエントロピーより著しく低い比較的多数の画像が存在する。このように、この例に関して、エントロピー閾値は、画像の１０％が本システムの後のステージから廃棄されるように設定可能である（例えば、図４に示されるデータについては４．０５）。
【００２５】
［３２］図２を続けて参照し、フィルタ学習要素２１５は、生物学的に特定のフィルタを訓練画像から学習するように構成される。さまざまな技術が、フィルタを学習する際に用いられてもよい。例えば、いくつかの実施形態では、最適化問題は、反復的に解かれ、フィルタを決定する。Ｘ＝｛ｘｉ｝Ｎｉ＝１が２Ｄ画像のセットであり、ｘｉ∈Ｒｍ×ｎであり、Ｆ＝｛ｆｋ｝Ｎｋ＝１が畳み込みフィルタであり、ｆｋ∈Ｒｗ×ｗであるとする。画像ｘｉごとに、Ｚｉ＝｛ｚｉｋ｝Ｋｋ＝１が特徴マップのセットであり、ｚｉｋは、次元（ｍ＋ｗ−１）×（ｎ＋ｗ−１）を有する。訓練の間、フィルタ学習要素２１５は、フィルタの最適セットおよび各訓練画像を再構成する特徴マップについて解くことを意図する。いくつかの実施形態では、これらの計算は、以下の式（１）（２）によって定量化される。
【数１】
2018514844.tif 000003
式（１）の第１の項は、画像再構成エラーを意味し、第２の項は、特徴マップにかけられるスパース性の正則化を意味する。この式において、｜｜・｜｜１は、Ｌ１ノルムであり、｜｜・｜｜２は、Ｌ２ノルムである。スター＊は、２Ｄ離散畳み込み演算を意味する。パラメータλは、スパース性の正則化項の重みパラメータである。ユニットエネルギー制約（式（２））は、フィルタにかけられ、自明な解を回避してもよい。いくつかの実施形態では、式（１）は、交互投影法によって解かれ、フィルタを固定して保ちながら、特徴マップにわたりＬ（Ｆ，Ｚ）を最小化し、次に、特徴マップを固定して保ちながら、フィルタにわたりＬ（Ｆ，Ｚ）を最小化する、ということを交互に行ってもよい。対象式（１）がＦおよびＺに対して凸結合ではないが、ＦおよびＺの各々に対して、他方が固定されているとき凸である。このように、アルゴリズムの収束は保証される。アルゴリズムの例示的実施態様は、図５において与えられる。
【００２６】
［３３］フィルタの学習のために上述した技術が、どのようにフィルタが決定されてもよいかの単なる一例である点に留意されたい。この技術は、種々の実施形態において変化してもよい。例えば、交互投影法以外の最適化アルゴリズムを用いて、式を解いてもよいし（例えば、交互方向乗数法（Ａｌｔｅｒｎａｔｉｎｇ  Ｄｉｒｅｃｔｉｏｎ  Ｍｅｔｈｏｄ  ｏｆ  Ｍｕｌｔｉｐｌｉｅｒｓ）または高速反復収縮閾値アルゴリズム（Ｆａｓｔ  Ｉｔｅｒａｔｉｖｅ  Ｓｈｒｉｎｋａｇｅ  Ｔｈｒｅｓｈｏｌｄｉｎｇ  Ａｌｇｏｒｉｔｈｍ））、異なる学習技術が使用されてもよい（例えば、ニューラルネットワーク）。追加的に（または代替的に）、上述した以外の式が、フィルタ計算に用いられてもよい。
【００２７】
［３４］畳み込みスパース符号化要素２２０は、フィルタ学習要素２１５からの学習したフィルタを利用し、学習したフィルタを、学習したフィルタで畳み込まれる入力画像２１０のためのスパース特徴マップのセットの合計として分解する。式（１）に対して上述した表記を用いて、これらの特徴マップは、本願明細書において｛ｚｉｋ｝と称される。畳み込みスパース符号化は、直接シフト不変をモデル化するように設計され、スパース符号化技術を大型画像に適用することのスケーラビリティ問題を直接克服する一般的に公知の技術である。畳み込みスパース符号化のための対象式は、（３）のように表現されてもよい。
【数２】
2018514844.tif 000004
式（３）は、上述した式（１）を解くのと同様に、最適化方程式を用いて解いてもよい。このように、例えば、ＦＩＳＴＡまたは交互方向乗数法のような技術が使用されてもよい。
【００２８】
［３５］畳み込みスパース符号化要素２２０がその処理を完了した後、特徴マップ｛ｚｉｋ｝は、３つの層、すなわち、要素ごとの絶対値修正（Ａｂｓ）、局所コントラスト正規化（ＬＣＮ）および特徴プーリング（ＦＰ）によって処理される。図２に示されるＡｂｓ要素２３０は、各特徴マップ内の絶対値を要素ごとに計算し、次の動作の取消し効果を回避する。ＬＣＮ要素２３５は、局所的減算動作および除算動作を実行することによって、特徴マップ｛ｚｉｋ｝にわたり、より強い特徴応答を強化し、より弱い特徴応答を抑制する。所定の位置ｚｋｉ，ｐｑ（ｐおよびｑは、特徴マップｚｉｋ上のｘおよびｙ方向のピクセルインデックスである）のための局所的減算動作は、例えば、（４）のように決定されてもよい。
【数３】
2018514844.tif 000005
式（４）において、ｗΔｐΔｑは、ΣΔｐΔｑｗΔｐΔｑ＝１のように正規化された重み関数であり、ΔｐΔｑは、ｘおよびｙ方向のピクセルインデックスである。局所的除算動作は、式（４）に従って実行されてもよい。
【数４】
2018514844.tif 000006
【００２９】
［３６］特徴プーリング要素２４０は、１つまたは複数の特徴プーリング動作を適用し、特徴マップをまとめ、最終的な画像表現を生成する。特徴プーリング要素２４０は、例えば、最大プーリング、平均プーリングまたはこれらの組み合わせを含む従来周知の任意のプーリング技術を適用してもよい。例えば、いくつかの実施形態では、特徴プーリング要素２４０は、最大プーリング動作および平均プーリング動作の構成を用いる。例えば、各特徴マップは、規則的間隔の正方形パッチに分割されてもよく、最大プーリング動作が適用されてもよい（すなわち、各正方形パッチ上の特徴のための最大応答が決定されてもよい）。最大プーリング動作は、転換に対する局所不変性を可能にする。次に、最大応答の平均は、正方形パッチから計算されてもよい、すなわち、平均プーリングは、最大プーリング後に適用される。最後に、平均プーリング動作から特徴応答を集約することによって、画像表現が形成されてもよい。
【００３０】
［３７］分類要素２４５は、１つまたは複数の所定の基準に基づいて、最終的な画像表現のための１つまたは複数のクラスラベルを識別する。これらのクラスラベルは、例えば、特定の組織が悪性であるか、または、良性であるかの徴候を提供してもよい。さらに、いくつかの実施形態では、クラスラベルは、健康な組織の徴候を提供してもよい。分類要素２４５は、臨床研究に基づいて訓練および構成されてもよい１つまたは複数の分類器アルゴリズムを利用する。例えば、いくつかの実施形態では、分類器は、脳腫瘍データセットを用いて訓練され、その結果、画像を膠芽腫または髄膜腫にラベル付け（分類）することができる。さまざまなタイプの分類器アルゴリズムは、分類要素２４５により用いられてもよく、サポートベクターマシン（ＳＶＭ）、ｋ近傍（ｋ−ＮＮ）およびランダムフォレストを含むが、これらに限定されるものではない。さらに、異なるタイプの分類器を組み合わせて用いることもできる。
【００３１】
［３８］映像画像シーケンスのために、多数決要素２５０は、映像ストリームのための認識性能を高める多数決ベースの分類方式を任意に実行してもよい。このように、入力画像が映像ストリームベースである場合、プロセス２００は、隣接する画像から視覚的刺激を組み込むことができる。多数決要素２５０は、因果関係を示す方法（ｃａｕｓａｌ  ｆａｓｈｉｏｎ）で現行フレームを囲む固定長の時間窓内の画像の多数決結果を用いて、クラスラベルを現在の画像に割り当てる。窓の長さは、ユーザ入力に基づいて構成されてもよい。例えば、ユーザは、この種の値を導出するのに用いてもよい特定の長さの値または臨床設定を提供してもよい。代替的に、長さは、過去の結果の分析に基づいて、時間とともに動的に調整されてもよい。例えば、多数決要素２５０が不十分または準最適な結果を提供していることをユーザが示す場合、小さい値によって窓サイズを修正することによって窓を調整してもよい。時間とともに、多数決要素２５０は、細胞分類プロセス２００によって処理されているデータタイプごとに、最適な窓の長さを学習することができる。いくつかの実施形態では、窓の長さは、また、フレームレートに依存してもよい。
【００３２】
［３９］細胞分類プロセス２００の例示的応用として、脳腫瘍組織を検査するために患者の脳内に挿入されるＣＬＥデバイス（図１参照）を用いて収集される内視鏡の映像のデータセットを考慮する。この収集の結果は、膠芽腫のための映像セットおよび髄膜腫のための映像セットになってもよい。この種の映像において収集される画像の一例は、図３に示される。低い画像テクスチャ情報を有するいくつかのフレームが、臨床的に興味がなく、画像分類に弁別的ではないことに注意されたい。画像エントロピーを用いて、画像領域の「情報性」（すなわち、画像内に含まれる情報の量）を測定してもよい。所定の閾値未満の画像エントロピー値を有する画像は、評価から除外されてもよい。
【００３３】
［４０］この例を続けて、交互投影アルゴリズム（図５参照）を用いて、生物学的要素に特定のフィルタのセットを学習してもよい。膠芽腫画像および髄膜腫画像の大きいセットが、訓練画像として用いられてもよい。図６は、この種のデータを用いて生成される学習したフィルタの一例を提供する。図６に見られるように、フィルタは、膠芽腫画像および髄膜腫画像内の粒状パターンおよびテクスチャパターンに類似するドットおよびエッジによって特徴付けられる。次に、畳み込みスパース符号化が適用され、学習したフィルタを、学習したフィルタで畳み込まれるスパース特徴マップのセットの合計として分解する。図７は、本願明細書において述べられる技術のいくつかを用いて実行されてもよいような特徴マップ抽出の一例を提供する。上の図は、例示的入力画像のための特徴マップのセットである。所定の膠芽腫画像の特徴マップ内のエントリは、大部分はゼロである。フィルタと画像パターンとの間の類似点および特徴マップのスパース性は、ともに、本発明の特徴を、従来の手動で設計された特徴表現よりも弁別的にする。
【００３４】
［４１］細胞分類プロセス２００の他の応用は、オンラインの映像分類を実行することである。それゆえ、必ずしも、最初に全部の映像シーケンスを獲得し、次に分類する、ということを行わなくてもよい。
【００３５】
［４２］本願明細書において述べられる技術の性能を評価するために、分析は、１つの映像を抜き出す検証法（ｌｅａｖｅ−ｏｎｅ−ｖｉｄｅｏ−ｏｕｔ）を用いて実行された。より具体的には、第１段階として、１０個の膠芽腫および１０個の髄膜腫のシーケンスがランダムに選択された。次に、第２段階として、その第１のセットからのシーケンスの１対が試験のために選択され、残りのシーケンスが訓練のために選択された。次に、第３段階として、４０００個の膠芽腫フレームおよび４０００個の髄膜腫フレームが、訓練セットから選択される。第２および第３のステップは、５回反復され、平均が計算された。画像ごとに、その特徴マップは、式（３）の対象を最小化することによって計算される。次に、特徴マップは、（図２を参照して上述した）Ａｂｓ、ＬＣＮおよび特徴プーリング技術によって処理され、最終画像を生成した。次に、ＳＶＭ分類器は、画像の最終的な分類を提供するために利用された。この分析は、異なるプーリングパラメータのセットを用いて実行され、１０ピクセルの間隔および３０ピクセルのパッチサイズを有する最大プーリングが良好な認識性能を提供することを示し、以下の表に示すように、上述した脳腫瘍データセットについての認識精度を提供する。
【表１】
2018514844.tif 000007
【００３６】
［４３］図８は、本発明の実施形態が実施されてもよい例示的なコンピューティング環境８００を示す。例えば、このコンピューティング環境８００を用いて、図１に示されている１つまたは複数のデバイスを実施し、図２に記載されている細胞分類プロセス２００を実行してもよい。コンピューティング環境８００は、コンピュータシステム８１０を含んでもよく、コンピュータシステム８１０は、本発明の実施形態が実施されてもよいコンピューティングシステムの一例である。コンピュータおよびコンピューティング環境、例えばコンピュータシステム８１０およびコンピューティング環境８００は、当業者に周知であるので、本願明細書では簡潔に記載されている。
【００３７】
［４４］図８に示すように、コンピュータシステム８１０は、コンピュータシステム８１０内で情報を通信するための通信メカニズム、例えばバス８２１または他の通信メカニズムを含んでもよい。コンピュータシステム８１０は、バス８２１に結合され、情報を処理するための１つまたは複数のプロセッサ８２０をさらに含む。プロセッサ８２０は、１つまたは複数の中央処理装置（ＣＰＵ）、グラフィック処理装置（ＧＰＵ）または他の任意の周知のプロセッサを含んでもよい。
【００３８】
［４５］コンピュータシステム８１０は、バス８２１に結合され、プロセッサ８２０によって実行される情報および命令を格納するためのシステムメモリ８３０もまた含む。システムメモリ８３０は、揮発性および／または不揮発性メモリの形のコンピュータ可読記憶媒体、例えば読み出し専用メモリ（ＲＯＭ）８３１および／またはランダムアクセスメモリ（ＲＡＭ）８３２を含んでもよい。システムメモリＲＡＭ８３２は、他の動的なストレージデバイス（例えば、ダイナミックＲＡＭ、スタティックＲＡＭおよび同期ＤＲＡＭ）を含んでもよい。システムメモリＲＯＭ８３１は、他のスタティックストレージデバイス（例えば、プログラマブルＲＯＭ、消去可能なＰＲＯＭおよび電気的消去可能なＰＲＯＭ）を含んでもよい。さらに、システムメモリ８３０を用いて、一時的な変数または他の中間情報を、プロセッサ８２０による命令の実行中に格納してもよい。コンピュータシステム８１０内の要素間で情報を転送するのに役立つ基本的なルーチンを含む基本入出力システム８３３（ＢＩＯＳ）は、例えばスタートアップの間、ＲＯＭ８３１内に格納されてもよい。ＲＡＭ８３２は、直ちにアクセス可能である、および／または、現在プロセッサ８２０によって動作されるデータおよび／またはプログラムモジュールを含んでもよい。システムメモリ８３０は、例えば、オペレーティングシステム８３４、アプリケーションプログラム８３５、他のプログラムモジュール８３６およびプログラムデータ８３７をさらに含んでもよい。
【００３９】
［４６］コンピュータシステム８１０は、バス８２１に結合され、１つまたは複数のストレージデバイスを制御し、情報および命令を格納するためのディスクコントローラ８４０、例えばハードディスク８４１および取り外し可能なメディアドライブ８４２（例えば、フロッピーディスクドライブ、コンパクトディスクドライブ、テープドライブおよび／またはソリッドステートドライブ）もまた含む。ストレージデバイスは、コンピュータシステム８１０に、適切なデバイスインタフェース（例えば、スカジ（ＳＣＳＩ）、インテグレートデバイスエレクトロニクス（ＩＤＥ）、ユニバーサルシリアルバス（ＵＳＢ）またはファイヤーワイヤー）を用いて追加されてもよい。
【００４０】
［４７］コンピュータシステム８１０は、バス８２１に結合され、ディスプレイ８６６を制御するためのディスプレイコントローラ８６５もまた含んでもよく、ディスプレイ８６６は、例えば、情報をコンピュータユーザに表示するための陰極線管（ＣＲＴ）または液晶ディスプレイ（ＬＣＤ）である。コンピュータシステムは、入力インタフェース８６０および１つまたは複数の入力デバイス、例えばキーボード８６２およびポインティングデバイス８６１を含み、コンピュータユーザと相互作用し、情報をプロセッサ８２０に提供する。ポインティングデバイス８６１は、例えば、マウス、トラックボールまたはポインティングスティックでもよく、指示情報および命令選択をプロセッサ８２０に通信し、ディスプレイ８６６上のカーソル移動を制御する。ディスプレイ８６６は、タッチスクリーンインタフェースを提供してもよく、タッチスクリーンインタフェースによって、入力は、ポインティングデバイス８６１による指示情報および命令選択の通信を補充または置換することができる。
【００４１】
［４８］コンピュータシステム８１０は、メモリ、例えばシステムメモリ８３０内に含まれる１つまたは複数の命令の１つまたは複数のシーケンスを実行しているプロセッサ８２０に応答して、本発明の実施形態の処理ステップの一部または全部を実行してもよい。この種の命令は、他のコンピュータ可読媒体、例えばハードディスク８４１または取り外し可能メディアドライブ８４２からシステムメモリ８３０に読み込まれてもよい。ハードディスク８４１は、本発明の実施形態により用いられる１つまたは複数のデータストアおよびデータファイルを含んでもよい。データストアコンテンツおよびデータファイルは、暗号化されセキュリティを改善してもよい。プロセッサ８２０は、多重プロセス構成で使用され、システムメモリ８３０内に含まれる命令の１つまたは複数のシーケンスを実行してもよい。代替実施形態では、配線回路が、ソフトウェア命令の代わりに、または、ソフトウェア命令と組み合わせて用いられてもよい。このように、実施形態は、ハードウェア回路およびソフトウェアのいかなる特定の組み合わせにも限定されない。
【００４２】
［４９］上述したように、コンピュータシステム８１０は、少なくとも１つのコンピュータ可読媒体またはメモリを含み、本発明の実施形態に従ってプログラムされる命令を保持し、本願明細書に記載されているデータ構造、テーブル、記録または他のデータを含んでもよい。本願明細書で用いられる「コンピュータ可読媒体」という用語は、命令をプロセッサ８２０に提供し、実行することに関する任意の媒体を意味する。コンピュータ可読媒体は、不揮発性媒体、揮発性媒体および伝送媒体を含むが、これらに限定されず多くの形をとってもよい。不揮発性媒体の非限定的な例は、光ディスク、ソリッドステートドライブ、磁気ディスクおよび光磁気ディスク、例えばハードディスク８４１または取り外し可能メディアドライブ８４２を含む。揮発性媒体の非限定的な例は、ダイナミックメモリ、例えばシステムメモリ８３０を含む。伝送媒体の非限定的な例は、同軸ケーブル、銅線およびファイバオプティクスを含み、バス８２１を形成する線を含む。伝送媒体は、音響波または光波、例えば電波および赤外線通信の間生成される波の形をとってもよい。
【００４３】
［５０］コンピューティング環境８００は、ネットワーク環境において、１つまたは複数のリモートコンピュータ、例えばリモートコンピュータ８８０に対する論理接続を用いて動作するコンピュータシステム８１０をさらに含んでもよい。リモートコンピュータ８８０は、パーソナルコンピュータ（ラップトップまたはデスクトップ）、モバイル機器、サーバ、ルータ、ネットワークＰＣ、ピアデバイスまたは他のコモンネットワークノードでもよく、典型的には、コンピュータシステム８１０に関して上述した要素の多数または全部を含む。ネットワーク環境において用いられるとき、コンピュータシステム８１０は、ネットワーク８７１、例えばインターネットを介する通信を確立するためのモデム８７２を含んでもよい。モデム８７２は、バス８２１に、ユーザネットワークインタフェース８７０を介して、または、他の適切なメカニズムを介して接続されてもよい。
【００４４】
［５１］ネットワーク８７１は、従来技術において一般的に公知の任意のネットワークまたはシステムでもよく、インターネット、イントラネット、ローカルエリアネットワーク（ＬＡＮ）、ワイドエリアネットワーク（ＷＡＮ）、メトロポリタンエリアネットワーク（ＭＡＮ）、直接接続または直列接続、携帯電話ネットワーク、または、コンピュータシステム８１０と他のコンピュータ（例えば、リモートコンピュータ８８０）との間の通信を容易にすることができる他の任意のネットワークまたは媒体を含む。ネットワーク８７１は、有線、無線またはそれらの組み合わせでもよい。有線接続は、イーサネット、ユニバーサルシリアルバス（ＵＳＢ）、ＲＪ−１１または従来技術において一般的に公知の他の任意の有線接続を用いて実施されてもよい。無線接続は、Ｗｉ−Ｆｉ、ＷｉＭＡＸおよびブルートゥース、赤外線、携帯ネットワーク、衛星または従来技術において一般的に公知の他の任意の無線接続方法を用いて実施されてもよい。さらに、いくつかのネットワークは、単独でまたは互いに通信して機能し、ネットワーク８７１内の通信を容易にしてもよい。
【００４５】
［５２］本発明の実施形態は、ハードウェアおよびソフトウェアの任意の組み合わせによって実施されてもよい。さらに、本発明の実施形態は、例えばコンピュータ可読非一時的媒体を有する製品（例えば、１つまたは複数のコンピュータプログラム製品）に含まれてもよい。媒体は、本願明細書において、例えば、本発明の実施形態のメカニズムを提供および容易にするためのコンピュータ可読プログラム符号を実現してきた。製品は、コンピュータシステムの一部として含まれることもできるし、別々に売られることもできる。
【００４６】
［５３］さまざまな態様および実施形態が本願明細書において開示されてきたが、他の態様および実施形態は、当業者にとって明らかである。本願明細書において開示されるさまざまな態様および実施形態は、説明のためであって、制限することを意図せず、真の範囲および精神は、以下の請求項によって示される。
【００４７】
［５４］本願明細書で用いられる実行可能アプリケーションは、例えば、ユーザ命令または入力に応答して、プロセッサに所定の機能を実施するように調整するための符号または機械可読命令を備え、所定の機能は、例えば、オペレーティングシステム、文脈データ獲得システムまたは他の情報処理システムの機能である。実行可能手順は、符号または機械可読命令のセグメント、サブルーチン、または、１つまたは複数の特定のプロセスを実行するための実行可能アプリケーションの部分または符号の他の異なるセクションである。これらのプロセスは、入力データおよび／またはパラメータの受信、受信した入力データ上の動作の実行および／または受信した入力パラメータに応答した機能の実行、結果として生じる出力データおよび／またはパラメータの提供を含んでもよい。
【００４８】
［５５］本願明細書で用いられるグラフィカルユーザインタフェース（ＧＵＩ）は、１つまたは複数の表示画像を含み、ディスプレイプロセッサによって生成され、プロセッサまたは他のデバイスとのユーザ相互作用、関連データの獲得および機能の処理を可能にする。ＧＵＩは、実行可能手順または実行可能アプリケーションもまた含む。実行可能手順または実行可能アプリケーションは、ディスプレイプロセッサにＧＵＩ表示画像を表す信号を生成するように調整する。これらの信号は、ユーザが見るための画像を表示するディスプレイデバイスに供給される。プロセッサは、実行可能手順または実行可能アプリケーションの制御下で、入力デバイスから受信する信号に応答して、ＧＵＩ表示画像を操作する。このようにして、ユーザは、入力デバイスを用いて、表示画像と相互作用してもよく、プロセッサまたは他のデバイスとのユーザ相互作用を可能にする。
【００４９】
［５６］本願明細書における機能およびプロセスステップは、自動的に実行されてもよいし、ユーザ命令に応答して完全にまたは部分的に実行されてもよい。自動的に実行される動作（ステップを含む）は、１つまたは複数の実行可能命令またはデバイス動作に応答して、ユーザが動作を直接開始することなく実行される。
【００５０】
［５７］図面のシステムおよびプロセスは、排他的ではない。他のシステム、プロセスおよびメニューは、本発明の原理に従って同一の目的を達成するために導出されてもよい。本発明は、特定の実施形態を参照して記載されてきたが、本願明細書において図示および記載された実施形態およびバリエーションが単に図示目的のためだけであることを理解されたい。現在の設計に対する変更態様は、当業者によって、本発明の範囲を逸脱することなく実施されてもよい。本願明細書において記載されているように、さまざまなシステム、サブシステム、エージェント、マネージャおよびプロセスは、ハードウェア要素、ソフトウェア要素および／またはそれらの組み合わせを用いて実装可能である。本願明細書における請求項の要素は、その要素が「〜のための手段」という用語を用いて明確に記載されていない限り、米国特許法第１１２条第６段落の規定により解釈されるべきではない。
【図１】
2018514844.tif 000008
【図２】
2018514844.tif 000009
【図３】
2018514844.tif 000010
【図４】
2018514844.tif 000011
【図５】
2018514844.tif 000012
【図６】
2018514844.tif 000013
【図７】
2018514844.tif 000014
【図８】
2018514844.tif 000015
【手続補正書】
【提出日】平成29年11月10日(2017.11.10)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
細胞分類を実行する方法であって、前記方法は、
畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像のセットおよび複数の生物学的に特定のフィルタに基づいて生成するステップと、
前記複数の特徴マップに対応する複数の画像表現を生成するステップであって、（ｉ）要素ごとの絶対値関数を前記複数の特徴マップの各々に適用し、（ｉｉ）局所コントラスト正規化を前記複数の特徴マップの各々に適用し、（ｉｉｉ）特徴プーリング動作を前記複数の特徴マップの各々に適用し、前記複数の画像表現を生成するステップと、
各画像表現を複数の細胞タイプの１つとして分類するステップと、
を含む方法。
【請求項２】
複数の入力画像を獲得するステップと、
前記複数の入力画像ごとにエントロピー値を計算するステップであって、各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表すステップと、
前記複数の入力画像内の１つまたは複数の低エントロピー画像を識別するステップであって、前記１つまたは複数の低エントロピー画像は、各々、閾値未満のそれぞれのエントロピー値に関連付けられるステップと、
前記複数の入力画像に基づいて、入力画像の前記セットを生成するステップであって、入力画像の前記セットは、前記１つまたは複数の低エントロピー画像を除外するステップと、
をさらに含む、
請求項１に記載の方法。
【請求項３】
前記複数の入力画像は、内視鏡検査デバイスを用いて医療処置の間獲得される、
請求項２に記載の方法。
【請求項４】
前記複数の入力画像は、医療処置の間、デジタルホログラフィック顕微鏡検査デバイスを用いて獲得される、
請求項２に記載の方法。
【請求項５】
教師なし学習プロセスを用いて、前記複数の生物学的に特定のフィルタを複数の訓練画像に基づいて決定するステップをさらに含む、
請求項１に記載の方法。
【請求項６】
前記教師なし学習プロセスは、コスト関数を反復的に適用し、前記複数の生物学的に特定のフィルタおよび前記複数の訓練画像の各々を再構成する特徴マップの最適セットについて解く、
請求項５に記載の方法。
【請求項７】
前記コスト関数は、交互投影法を用いて解かれる、
請求項６に記載の方法。
【請求項８】
前記局所コントラスト正規化は、局所的減算動作および除算動作を前記複数の特徴マップの各々に適用するステップを含む、
請求項１に記載の方法。
【請求項９】
入力画像の前記セットは、映像ストリームを備え、各画像表現は、多数決を用いて所定の長さを有する時間窓内で分類される、
請求項１に記載の方法。
【請求項１０】
医療処置の間、細胞分類を実行する方法であって、前記方法は、
前記医療処置前に、教師なし学習プロセスを用いて、複数の生物学的に特定のフィルタを複数の訓練画像に基づいて決定するステップと、
前記医療処置の間、細胞分類プロセスを実行するステップと、
を含み、細胞分類プロセスを実行するステップは、
内視鏡検査デバイスを用いて入力画像を獲得するステップと、
畳み込みスパース符号化プロセスを用いて、特徴マップを、前記入力画像および前記複数の生物学的に特定のフィルタに基づいて生成するステップと、
前記特徴マップに対応する画像表現を生成するステップであって、（ｉ）要素ごとの絶対値関数を前記特徴マップに適用し、（ｉｉ）局所コントラスト正規化を前記特徴マップに適用し、（ｉｉｉ）特徴プーリング動作を前記特徴マップに適用し、前記画像表現を生成するステップと、
訓練された分類器を用いて、前記画像表現に対応するクラスラベルを識別するステップと、
前記クラスラベルを、前記内視鏡検査デバイスに動作可能に結合されたディスプレイに示すステップと、
を含む方法。
【請求項１１】
前記局所コントラスト正規化は、局所的減算動作および除算動作を前記特徴マップに適用するステップを含む、
請求項１０に記載の方法。
【請求項１２】
前記クラスラベルは、前記入力画像内の生物学的物質が悪性であるか、または、良性であるかの徴候を提供する、
請求項１０に記載の方法。
【請求項１３】
細胞分類を実行するシステムであって、前記システムは、
医療処置の間、入力画像のセットを獲得するように構成される顕微鏡検査デバイスと、
前記医療処置の間、細胞分類プロセスを実行するように構成される画像処理コンピュータと、
ディスプレイと、
を備え、
前記細胞分類プロセスは、
畳み込みスパース符号化プロセスを用いて、複数の特徴マップを、入力画像の前記セットおよび複数の生物学的に特定のフィルタに基づいて生成するステップと、
前記複数の特徴マップに対応する複数の画像表現を生成するステップであって、（ｉ）要素ごとの絶対値関数を前記複数の特徴マップの各々に適用し、（ｉｉ）局所コントラスト正規化を前記複数の特徴マップの各々に適用し、（ｉｉｉ）特徴プーリング動作を前記複数の特徴マップの各々に適用し、前記複数の画像表現を生成するステップと、
入力画像の前記セットに対応する１つまたは複数の細胞クラスラベルを識別するステップと、
を含み、
前記ディスプレイは、前記医療処置の間、前記１つまたは複数の細胞クラスラベルを示すように構成される、
システム。
【請求項１４】
前記顕微鏡検査デバイスは、共焦点レーザー内視鏡検査デバイスである、
請求項１３に記載のシステム。
【請求項１５】
前記顕微鏡検査デバイスは、デジタルホログラフィック顕微鏡検査デバイスである、
請求項１３に記載のシステム。
【請求項１６】
前記細胞分類プロセスは、
入力画像の前記セット内に含まれる入力画像ごとにエントロピー値を計算するステップであって、各エントロピー値は、それぞれの画像内のテクスチャ情報の量を表すステップと、
入力画像の前記セット内の１つまたは複数の低エントロピー画像を識別するステップであって、前記１つまたは複数の低エントロピー画像は、各々、閾値未満のそれぞれのエントロピー値に関連付けられるステップと、
前記畳み込みスパース符号化プロセスを用いて、前記複数の特徴マップを生成する前に、入力画像の前記セットから前記１つまたは複数の低エントロピー画像を除去するステップと、
をさらに含む、
請求項１３に記載のシステム。
【請求項１７】
前記局所コントラスト正規化は、局所的減算動作および除算動作を前記複数の特徴マップの各々に適用するステップを含む、
請求項１３に記載のシステム。
【国際調査報告】
2018514844.tif 000016
2018514844.tif 000017
2018514844.tif 000018