(57)【要約】【課題】組織または細胞の画像について、細胞核の領域を示すデータを生成する画像解析方法を提供する。【解決手段】画像解析方法は、ニューラルネットワーク構造の深層学習アルゴリズム６０を用いて、組織または細胞の画像を解析する画像解析方法であって、解析対象の組織または細胞を含む解析対象画像７８から解析用データ８０を生成し、解析用データ８０を、深層学習アルゴリズム６０に入力し、深層学習アルゴリズム６０によって、解析対象画像７８における細胞核の領域を示すデータ８２，８３を生成する。【選択図】図３
2019095853.tif 000002
【特許請求の範囲】
【請求項１】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織または細胞の画像を解析する画像解析方法であって、
解析対象の組織または細胞を含む解析対象画像から解析用データを生成し、
前記解析用データを、前記深層学習アルゴリズムに入力し、
前記深層学習アルゴリズムによって、前記解析対象画像における細胞核の領域を示すデータを生成する、
ことを含む、画像解析方法。
【請求項２】
前記解析対象画像が、組織診断用標本の画像であり、前記解析対象画像が１つの原色からなる色相を含むか、２以上の原色を組み合わせた色相を含む、
請求項１の画像解析方法。
【請求項３】
前記解析対象画像が、細胞診断用標本の画像であり、前記解析対象画像が１つの原色からなる色相を含むか、２以上の原色を組み合わせた色相を含む、
請求項１の画像解析方法。
【請求項４】
前記細胞核の領域を示すデータが、細胞核の領域とそれ以外の領域とを区別して提示するためのデータである、
請求項１乃至３のいずれか１項の画像解析方法。
【請求項５】
前記細胞核の領域を示すデータが、細胞核の領域とそれ以外の領域との境界を示すデータである、
請求項１乃至３のいずれか１項の画像解析方法。
【請求項６】
前記深層学習アルゴリズムは、前記解析対象画像内の任意の位置が細胞核の領域か否かを判定する
請求項１乃至５のいずれか１項の画像解析方法。
【請求項７】
１つの解析対象画像について所定画素数の領域毎に、複数の前記解析用データを生成する
請求項１乃至６のいずれか１項の画像解析方法。
【請求項８】
前記解析用データは、所定の画素を中心として周辺の画素を含む前記所定画素数の領域毎に生成され、
前記深層学習アルゴリズムは、入力された前記解析用データに対し前記所定画素に対し細胞核の領域か否かを示すラベルを生成する
請求項７の画像解析方法。
【請求項９】
前記ニューラルネットワークの入力層のノード数が、前記解析用データの前記所定画素数と前記組み合わせた原色の数との積に対応している、
請求項７または８の画像解析方法。
【請求項１０】
前記標本が染色された標本であり、前記解析対象画像は、前記染色された標本を顕微鏡の明視野下で撮像した画像である
請求項２乃至９のいずれか１項の画像解析方法。
【請求項１１】
前記深層学習アルゴリズムの学習に用いられる訓練データが、個体から採取された組織試料の標本または個体から採取された細胞を含む試料の標本に対して明視野観察用染色を施して調製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像、および
前記標本に対応する、または同一の標本に蛍光核染色を施して調製された標本の染色像を蛍光顕微鏡の蛍光観察下で撮像した細胞核の蛍光画像であって、前記蛍光画像の標本内での位置は前記取得された明視野画像の標本内での位置に対応する蛍光画像、
に基づいて生成されている
請求項１乃至８のいずれか１項の画像解析方法。
【請求項１２】
前記明視野観察用染色は、核染色にヘマトキシリンを用いる、請求項１１の画像解析方法。
【請求項１３】
前記標本が組織試料の標本である場合、前記明視野観察用染色が、ヘマトキシリン・エオジン染色であり、
前記標本が細胞を含む試料の標本である場合、前記明視野観察用染色が、パパニコロウ染色である、
請求項１２の画像解析方法。
【請求項１４】
前記訓練データが、前記明視野画像および前記蛍光画像から抽出された、細胞核の領域を示すラベル値を含む
請求項１１乃至１３のいずれか１項の画像解析方法。
【請求項１５】
前記訓練データが、前記ラベル値を前記明視野画像の画素毎に含む
請求項１４の画像解析方法。
【請求項１６】
前記訓練データが、前記明視野画像における所定画素数の領域毎に生成されている
請求項１１乃至１３のいずれか１項の画像解析方法。
【請求項１７】
前記深層学習アルゴリズムが、前記解析用データを、前記解析対象画像に含まれる細胞核の領域を示すクラスに分類する
請求項１乃至１４のいずれか１項の画像解析方法。
【請求項１８】
前記ニューラルネットワークの出力層がソフトマックス関数を活性化関数とするノードである
請求項１乃至１７のいずれか１項の画像解析方法。
【請求項１９】
前記深層学習アルゴリズムは、前記解析用データが入力される度に、前記解析対象画像に含まれる細胞核の領域であるか否かを示すデータを単位画素毎に生成する、
請求項１乃至１８のいずれか１項の画像解析方法。
【請求項２０】
前記深層学習アルゴリズムが、前記組織試料の種類または細胞を含む試料の種類に応じて生成されている
請求項１乃至１９のいずれか１項の画像解析方法。
【請求項２１】
さらに、前記組織試料の種類または細胞を含む試料の種類に応じて複数の前記深層学習アルゴリズムの中から選択された、前記試料の種類に対応する前記深層学習アルゴリズムを用いて、前記解析用データを処理する
請求項２０の画像解析方法。
【請求項２２】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織または細胞の画像を解析する画像解析装置であって、
解析対象の組織または細胞を含む解析対象画像から解析用データを生成し、
前記解析用データを、前記深層学習アルゴリズムに入力し、
前記深層学習アルゴリズムによって、前記解析対象画像における細胞核の領域を示すデータを生成する処理部、
を備える画像解析装置。
【請求項２３】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織または細胞の画像を解析するコンピュータプログラムであって、
コンピュータに、
解析対象の組織または細胞を含む解析対象画像から解析用データを生成する処理と、
前記解析用データを、前記深層学習アルゴリズムに入力する処理と、
前記深層学習アルゴリズムによって、前記解析対象画像における細胞核の領域を示すデータを生成する処理と、
を実行させるプログラム。
【請求項２４】
組織または細胞を撮像した第１の訓練用画像に対応する第１の訓練データを取得する第１の取得ステップと、
前記第１の訓練用画像における細胞核の領域を示す第２の訓練用画像に対応する第２の訓練データを取得する第２の取得ステップと、
前記第１の訓練データと、前記第２の訓練データとの関係をニューラルネットワークに学習させる学習ステップと、
を含む学習済み深層学習アルゴリズムの製造方法。
【請求項２５】
前記第１の訓練データをニューラルネットワークの入力層とし、前記第２の訓練データをニューラルネットワークの出力層とする、
請求項２４の学習済み深層学習アルゴリズムの製造方法。
【請求項２６】
前記第１の取得ステップの前に、第１の訓練用画像から前記第１の訓練データを生成するステップをさらに含み、
前記第２の取得ステップの前に、第２の訓練用画像から前記第２の訓練データを生成するステップをさらに含む、
請求項２４または２５の学習済み深層学習アルゴリズムの製造方法。
【請求項２７】
前記第１の訓練用画像が、個体から採取された組織試料または個体から採取された細胞を含む試料に対して明視野観察用染色を施して調製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像であり、
前記第２の訓練用画像が、前記標本に蛍光核染色を施して調製された標本の染色像を顕微鏡の蛍光観察下で撮像した蛍光画像であって、前記蛍光画像の標本内での位置は前記取得された明視野画像の標本内での位置に対応する蛍光画像である、
請求項２４乃至２６のいずれか１項の学習済み深層学習アルゴリズムの製造方法。
【請求項２８】
第１の訓練データをニューラルネットワークの入力層とし、第２の訓練データをニューラルネットワークの出力層として学習させた深層学習アルゴリズムであって、
前記第１の訓練データは、組織または細胞を撮像した第１の訓練用画像から生成され、
前記第２の訓練データは、前記第１の訓練用画像における細胞核の領域を示す、
学習済み深層学習アルゴリズム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、画像解析方法、装置、プログラムおよび学習済み深層学習アルゴリズムの製造方法に関する。より詳細には、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成することを含む画像解析方法に関する。
【背景技術】
【０００２】
特許文献１には、病理組織画像において組織像を、正常、良性腫瘍、前癌状態および癌状態の４つのグループに分類し、判定する画像診断支援装置が開示されている。画像分類手段は、画像データから注視領域を抽出し、注視領域の特徴を示す特徴量を算出し、算出した特徴量に基づいてグループの分類を行う。特徴量は、細胞核における単位面積あたりの塊の密度、塊面積の密度、塊の面積、塊の太さ、および塊の長さなどである。画像判定手段は、このような特徴量と判定結果との関係を学習し、学習済みの学習パラメータに基づいて判定を行う。学習は、サポートベクターマシンなどの学習アルゴリズムを用いて、機械学習を実行する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１０−２０３９４９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
悪性腫瘍であるか否かを確定診断する際に、病理組織標本を用いた病理組織診断が行われる。また病理組織診断は、手術中に悪性腫瘍を含む組織の切除部位を決定するための術中迅速診断として行われることも少なくない。術中迅速診断は、手術中に患者の患部を切開した状態で待機させ、腫瘍が悪性であるか、切除した組織の断端に腫瘍が残っていないか、リンパ節転移があるか等の判断を病理組織診断により行うものである。術中迅速診断の結果により、待機している患者のその後の手術の方向性が決められる。
【０００５】
病理組織診断は、医師、特に病理医が顕微鏡等により組織標本を観察して診断するが、組織標本の観察により正確な確定診断を行えるようになるためには、長い期間、熟練した病理専門医の元で、様々な症例の組織標本の観察を繰り返す必要があり、病理医の育成にも膨大な時間を要している。
【０００６】
病理医の不足は深刻であり、病理医が不足している結果、患者の悪性腫瘍の確定診断が遅れ、治療開始が遅れる、あるいは確定診断を待たずに治療を開始するという状態も危惧されている。また、通常の組織診断と術中迅速診断との両方が、少ない病理医に集中するために、一人の病理医の業務量が膨大となり、病理医自身の労務状態も問題となっている。しかし、現在のところこの問題の解消策は見つかっていない。
【０００７】
したがって、病理組織診断を装置がサポートできるようになることは、特にその診断が人の目による判断に近いほど、病理医不足の解消、及び病理医の労務状態の改善に大きく貢献すると考えられる。
【０００８】
装置が病理組織診断をサポートするという点において、上述の特許文献１に記載の発明では、機械学習による画像解析に基づいて標本組織の病理判定を行っている。この方法では、特徴量を人の手で作成する必要がある。特徴量を人の手で作成する方法には、その人の力量が画像解析の性能に大きく影響を与えるという問題がある。
【０００９】
例えば、顕微鏡を使った組織診断あるいは細胞診断において、観察対象の一つは、細胞核の状態であり、細胞核１つ１つの大きさや形態、並びに複数の細胞核の配列状態等から、良性腫瘍と悪性腫瘍を区別する。このため、病理組織診断において、細胞核を精度よく抽出できることは非常に重要であり、組織診断および細胞診断の根幹となる。
【００１０】
本発明は、組織または細胞の画像について、細胞核の領域を示すデータを生成する画像解析方法を提供することを課題とする。
【課題を解決するための手段】
【００１１】
本発明の一態様は、画像解析方法である。この一態様において、画像解析方法は、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織または細胞の画像を解析する画像解析方法であって、解析対象の組織または細胞を含む解析対象画像（７８）から解析用データ（８０）を生成し（Ｓ２１からＳ２３）、解析用データ（８０）を、深層学習アルゴリズム（６０）に入力し（Ｓ２４）、深層学習アルゴリズム（６０）によって、解析対象画像（７８）における細胞核の領域を示すデータ（８２，８３）を生成する（Ｓ２５からＳ２８）。これにより、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成することが可能となる。
【００１２】
解析対象画像が、組織診断用標本の画像であり、解析対象画像（７８）が１つの原色からなる色相を含むか、２以上の原色を組み合わせた色相（Ｒ，Ｇ，Ｂ）を含むことが好ましい。
【００１３】
解析対象画像が、細胞診断用標本の画像であり、解析対象画像（７８）が１つの原色からなる色相を含むか、２以上の原色を組み合わせた色相（Ｒ，Ｇ，Ｂ）を含むことが好ましい。
【００１４】
細胞核の領域を示すデータ（８２，８３）が、細胞核の領域とそれ以外の領域とを区別して提示するためのデータであることが好ましい。
【００１５】
細胞核の領域を示すデータ（８２，８３）が、細胞核の領域とそれ以外の領域との境界を示すデータであることが好ましい。
【００１６】
深層学習アルゴリズム（６０）は、解析対象画像（７８）内の任意の位置が細胞核の領域か否かを判定することが好ましい。
【００１７】
１つの解析対象画像（７８）について所定画素数の領域毎に、複数の解析用データ（８０）を生成することが好ましい。これにより、ニューラルネットワーク（６０）の判別精度を向上させることが可能となる。
【００１８】
解析用データ（８０）は、所定の画素を中心として周辺の画素を含む所定画素数の領域毎に生成され、深層学習アルゴリズム（６０）は、入力された解析用データ（８０）に対し所定画素に対し細胞核の領域か否かを示すラベルを生成することが好ましい。これにより、ニューラルネットワーク（６０）の判別精度を向上させることが可能となる。
【００１９】
ニューラルネットワーク（６０）の入力層（６０ａ）のノード数が、解析用データ（８０）の所定画素数と組み合わせた原色の数との積に対応していることが好ましい。これにより、ニューラルネットワーク（６０）の判別精度を向上させることが可能となる。
【００２０】
標本が染色された標本であり、解析対象画像（７８）は、染色された標本を顕微鏡の明視野下で撮像した画像であることが好ましい。
【００２１】
深層学習アルゴリズム（６０）の学習に用いられる訓練データ（７４）が、個体から採取された組織試料の標本または個体から採取された細胞を含む試料の標本に対して明視野観察用染色を施して調製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像（７０）、および標本に対応する、または同一の標本に蛍光核染色を施して調製された標本の染色像を蛍光顕微鏡の蛍光観察下で撮像した細胞核の蛍光画像（７１）であって、蛍光画像（７１）の標本内での位置は取得された明視野画像（７０）の標本内での位置に対応する蛍光画像（７１）、に基づいて生成されていることが好ましい。
【００２２】
明視野観察用染色は、核染色にヘマトキシリンを用いることが好ましい。
【００２３】
標本が組織試料の標本である場合、明視野観察用染色が、ヘマトキシリン・エオジン染色であり、標本が細胞を含む試料の標本である場合、明視野観察用染色が、パパニコロウ染色であることが好ましい。
【００２４】
訓練データ（７４）が、明視野画像（７０）および蛍光画像（７１）から抽出された、細胞核の領域を示すラベル値を含むことが好ましい。これにより、細胞核の領域を示すラベル値をニューラルネットワーク（５０）に学習させることが可能となる。
【００２５】
訓練データ（７４）が、ラベル値を明視野画像（７０）の画素毎に含むことが好ましい。これにより、細胞核の領域を示すラベル値をニューラルネットワーク（５０）に学習させることが可能となる。
【００２６】
訓練データ（７４）が、明視野画像（７０）における所定画素数の領域毎に生成されていることが好ましい。これにより、細胞核の領域を示すラベル値を、高い精度でニューラルネットワーク（５０）に学習させることが可能となる。
【００２７】
深層学習アルゴリズム（６０）が、解析用データ（８０）を、解析対象画像（７８）に含まれる細胞核の領域を示すクラスに分類することが好ましい。これにより、解析対象の組織画像や細胞を含む画像の任意の位置について、細胞核の領域と、それ以外の領域とに分類することが可能となる。
【００２８】
ニューラルネットワーク（６０）の出力層（６０ｂ）がソフトマックス関数を活性化関数とするノードであることが好ましい。これにより、ニューラルネットワーク（６０）が、解析対象の組織画像や細胞を含む画像の任意の位置を、有限個のクラスに分類することが可能となる。
【００２９】
深層学習アルゴリズム（６０）は、解析用データ（８０）が入力される度に、解析対象画像（７８）に含まれる細胞核の領域であるか否かを示すデータ（８２）を単位画素毎に生成することが好ましい。これにより、解析対象の組織画像や細胞を含む画像の単位画素（１画素）毎に、細胞核の領域と、それ以外の領域とに分類することが可能となる。
【００３０】
深層学習アルゴリズム（６０）が、組織試料の種類または細胞を含む試料の種類に応じて生成されていることが好ましい。これにより、解析対象の組織画像や細胞を含む画像の種別に応じて深層学習アルゴリズム（６０）を使い分けることが可能となり、ニューラルネットワーク（６０）の判別精度を向上させることが可能となる。
【００３１】
さらに、組織試料の種類または細胞を含む試料の種類に応じて複数の深層学習アルゴリズム（６０）の中から選択された、試料の種類に対応する深層学習アルゴリズム（６０）を用いて、解析用データ（８０）を処理することが好ましい。これにより、解析対象の組織画像や細胞を含む画像の種別に応じて深層学習アルゴリズム（６０）を使い分けることが可能となり、ニューラルネットワーク（６０）の判別精度を向上させることが可能となる。
【００３２】
本発明の一態様は、画像解析装置である。この一態様において、画像解析装置（２００Ａ）は、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織または細胞の画像を解析する画像解析装置であって、解析対象の組織または細胞を含む解析対象画像（７８）から解析用データ（８０）を生成し、解析用データ（８０）を、深層学習アルゴリズム（６０）に入力し、深層学習アルゴリズム（６０）によって、解析対象画像（７８）における細胞核の領域を示すデータ（８２，８３）を生成する処理部（２０Ａ）、を備える。これにより、組織画像や細胞を含む画像の任意の位置が細胞核の領域であるか否かを示すデータを生成することが可能となる。
【００３３】
本発明の一態様は、コンピュータプログラムである。この一態様において、コンピュータプログラムは、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織または細胞の画像を解析するコンピュータプログラムであって、コンピュータに、解析対象の組織または細胞を含む解析対象画像（７８）から解析用データ（８０）を生成する処理と、解析用データ（８０）を、深層学習アルゴリズム（６０）に入力する処理と、深層学習アルゴリズム（６０）によって、解析対象画像（７８）における細胞核の領域を示すデータ（８２，８３）を生成する処理と、を実行させるプログラムである。これにより、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成することが可能となる。
【００３４】
本発明の一態様は、学習済み深層学習アルゴリズムの製造方法である。この一態様において、学習済み深層学習アルゴリズム（６０）の製造方法は、組織または細胞を撮像した第１の訓練用画像（７０）に対応する第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）を取得する第１の取得ステップと、第１の訓練用画像（７０）における細胞核の領域を示す第２の訓練用画像（７１）に対応する第２の訓練データ（７３）を取得する第２の取得ステップと、第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）と、第２の訓練データ（７３）との関係をニューラルネットワーク（５０）に学習させる学習ステップ（Ｓ１３からＳ１９）と、を含む。これにより、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成するための、深層学習アルゴリズムを製造することが可能となる。
【００３５】
第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）をニューラルネットワーク（５０）の入力層（５０ａ）とし、第２の訓練データ（７３）をニューラルネットワーク（５０）の出力層（５０ｂ）とすることが好ましい。
【００３６】
第１の取得ステップの前に、第１の訓練用画像（７０）から第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）を生成するステップ（Ｓ１１）をさらに含み、第２の取得ステップの前に、第２の訓練用画像（７１）から第２の訓練データ（７３）を生成するステップ（Ｓ１２）をさらに含むことが好ましい。これにより、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成するための、深層学習アルゴリズムを製造することが可能となる。
【００３７】
第１の訓練用画像（７０）が、個体から採取された組織試料または個体から採取された細胞を含む試料に対して明視野観察用染色を施して調製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像（７０）であり、第２の訓練用画像（７１）が、標本に蛍光核染色を施して調製された標本の染色像を顕微鏡の蛍光観察下で撮像した蛍光画像（７１）であって、蛍光画像（７１）の標本内での位置は取得された明視野画像（７０）の標本内での位置に対応する蛍光画像（７１）であることが好ましい。
【００３８】
本発明の一態様は、学習済み深層学習アルゴリズムである。この一態様において、学習済み深層学習アルゴリズム（６０）は、第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）をニューラルネットワーク（５０）の入力層（５０ａ）とし、第２の訓練データ（７３）をニューラルネットワーク（５０）の出力層（５０ｂ）として学習させた深層学習アルゴリズム（６０）であって、第１の訓練データ（７２ｒ，７２ｇ，７２ｂ）は、組織または細胞を撮像した第１の訓練用画像（７０）から生成され、第２の訓練データ（７３）は、第１の訓練用画像における細胞核の領域を示す。
【発明の効果】
【００３９】
本発明によると、組織または細胞の画像の任意の位置について、細胞核の領域を示すデータを生成することができる。
【図面の簡単な説明】
【００４０】
【図１】深層学習方法の概要を説明するための模式図である。
【図２】訓練データの詳細を説明するための模式図である。
【図３】画像解析方法の概要を説明するための模式図である。
【図４】第１の実施形態に係る画像解析システムの概略構成図である。
【図５】ベンダ側装置１００のハードウェア構成を示すブロック図である。
【図６】ユーザ側装置２００のハードウェア構成を示すブロック図である。
【図７】第１の実施形態に係る深層学習装置１００Ａの機能を説明するためのブロック図である。
【図８】深層学習処理の手順を示すフローチャートである。
【図９】ニューラルネットワークによる学習の詳細を説明するための模式図である。
【図１０】第１の実施形態に係る画像解析装置２００Ａの機能を説明するためのブロック図である。
【図１１】画像解析処理の手順を示すフローチャートである。
【図１２】第２の実施形態に係る画像解析システムの概略構成図である。
【図１３】第２の実施形態に係る統合型の画像解析装置２００Ｂの機能を説明するためのブロック図である。
【図１４】第３の実施形態に係る画像解析システムの概略構成図である。
【図１５】第３の実施形態に係る統合型の画像解析装置１００Ｂの機能を説明するためのブロック図である。
【図１６】実施例１において訓練データの作成に用いた明視野画像、蛍光画像、および蛍光画像から作成した二値化画像である。
【図１７】実施例１において１つ目の胃癌組織の標本（ＨＥ染色）の画像を解析した結果である。
【図１８】実施例１において２つ目の胃癌組織の標本（ＨＥ染色）の画像を解析した結果である。
【図１９】実施例２において胃癌部の捺印標本（パパニコロウ染色）の画像を解析した結果である。
【図２０】実施例２において非胃癌部の捺印標本（パパニコロウ染色）の画像を解析した結果である。
【発明を実施するための形態】
【００４１】
以下、本発明の概要および実施の形態を、添付の図面を参照して詳細に説明する。なお、以下の説明および図面において、同じ符号は同じまたは類似の構成要素を示すこととし、よって、同じまたは類似の構成要素に関する説明を省略する。
【００４２】
本発明は、組織または細胞の画像を解析する画像解析方法であって、ニューラルネットワーク構造の深層学習アルゴリズムを用いる画像解析方法に関する。
【００４３】
本発明において、組織または細胞の画像は、組織試料の標本または細胞を含む試料の標本から取得される画像である。組織試料の標本または細胞を含む試料の標本は、個体から採取されている。個体は、特に制限されないが、好ましくは哺乳類であり、より好ましくはヒトである。前記個体から試料が採取される際に、個体が生きているか死亡しているかは問わない。前記組織は、個体内に存在するものである限り、制限されない。前記個体から採取された組織としては、外科的な切除組織、生検組織等を挙げることができる。前記細胞を含む試料は、個体から採取されたものである限り、制限されない。例えば、喀痰、胸水、腹水、尿、脳脊髄液、骨髄、血液、のう胞液等を挙げることができる。
【００４４】
前記標本は、前記組織試料または細胞を含む試料を顕微鏡等で観察ができるように加工した状態のもの、例えばプレパラートを意図する。前記標本は、公知の方法に従って調製することができる。例えば、組織標本の場合には、前記個体から組織を採取した後に、所定の固定液（ホルマリン固定等）で組織を固定し、その固定組織をパラフィン包埋し、パラフィン包埋組織を薄切する。薄切切片をスライドグラスにのせる。切片がのったスライドグラスに対して光学顕微鏡での観察のため、すなわち明視野観察のための染色を施し、所定の封入処理をして標本が完成する。組織標本の典型例は、組織診断用標本（病理標本）であり、染色は、へマトキシリン・エオジン（ＨＥ）染色である。
【００４５】
例えば、細胞を含む試料の標本の場合には、前記試料中の細胞を、遠心、塗抹等によってスライドグラス上に付着させ、所定の固定液（エタノール等）で固定し、明視野観察用の染色を施し、所定の封入処理をして標本が完成する。細胞を含む試料の標本の典型例は、細胞診断用標本（細胞診標本）であり、染色は、パパニコロウ染色である。前記細胞診断用標本には、前記組織標本用に採取された組織の捺印標本も含まれる。
【００４６】
ＨＥ染色、パパニコロウ染色共に核染色はヘマトキシリンである。ヘマトキシリンは、組織細胞染色において核染色剤として幅広く使用されている（例えば、免疫染色、レクチン染色、糖染色、脂肪染色、膠原線維染色等）。このため、本発明は、このようなヘマトキシリンを核染色に使う標本全般において、適用が可能である。
【００４７】
本発明においては、深層学習時には、２種類の訓練用画像を用いる。訓練用画像の１つ（第１の訓練用画像）は、個体から採取された組織試料の標本または個体から採取された細胞を含む試料の標本に含まれる、組織または細胞を含む画像である。この画像は、顕微鏡観察により、組織構造または細胞構造が認識できるように染色された標本から取得される。前記染色は、組織構造または細胞構造が認識できる限り制限されないが、好ましくは明視野観察用の染色である。前記明視野観察用染色は、少なくとも細胞核と細胞核以外の部位が、色相で区別可能に染色できる限り制限されない。前記標本が哺乳類の組織標本である場合には、例えば、ＨＥ染色を挙げることができる。また、例えば、前記標本が哺乳類の細胞を含む標本である場合には、パパニコロウ染色を挙げることができる。
【００４８】
訓練用画像の２つめ（第２の訓練用画像）は、第１の訓練用画像において、どこが細胞核領域であるかを示す、すなわち「細胞核領域である」という正解が第１の訓練用画像のどこの領域であるかを示す画像である。この画像は、第１の訓練用画像を取得した標本と同一の標本、または第１の訓練用画像を取得した標本に対応する標本（例えば、連続切片標本）に対して、細胞核を選択的に染色する蛍光核染色を施し、撮像された画像である。前記蛍光核染色としては、制限されないが、4',6-diamidino-2-phenylindole（DAPI）染色を挙げることができる。
【００４９】
図１に示す例では、第１の訓練用画像としてＨＥ染色された組織の第１の訓練用画像７０を、第２の訓練用画像としてＤＡＰＩ染色された組織であって、第１の訓練用画像７０に示されている標本の位置に対応する標本の位置の第２の訓練用画像７１をそれぞれ用いる。画像解析処理時に使用する解析対象の解析用データとして、図３に示す第１の訓練用画像と同じ明視野用染色が施された組織の解析対象画像７８を用いる。ニューラルネットワーク５０に正解として学習させる判別対象は、組織標本または細胞を含む標本内に含まれる細胞核の領域である。
【００５０】
本発明の概要および実施の形態では、ＨＥ染色された組織標本を撮像した画像内に含まれる細胞核の領域を、深層学習アルゴリズムによって判別する場合を一例として説明する。
【００５１】
［深層学習方法および画像解析方法の概要］
以下ではまず、深層学習方法および画像解析方法の概要について説明する。次に、本発明の複数の実施形態のそれぞれについて、詳細に説明する。
【００５２】
・深層学習方法の概要
図１に示すように、深層学習方法では、上述した第１の訓練用画像および第２の訓練用画像のそれぞれから生成される訓練データを用いる。第１の訓練用画像は、ＨＥ染色した標本を顕微鏡の明視野観察下で例えばカラー画像として撮像しているため、第１の訓練用画像には複数の色相が含まれる。
【００５３】
第１の訓練用画像（明視野画像）７０は、例えば公知の光学顕微鏡、蛍光顕微鏡またはバーチャルスライドスキャナ等の画像取得装置を用いて、予め取得することができる。例示的には、本実施形態において画像取得装置から取得されるカラー撮像は、カラースペースがＲＧＢの２４ビットカラーであることが好ましい。ＲＧＢの２４ビットカラーでは、赤色、緑色および青色のそれぞれの濃さ（色濃度）を、８ビット（２５６段階）で表すことが好ましい。第１の訓練用画像（明視野画像）７０は、１以上の原色を含む画像であればよい。
【００５４】
本発明において、色相は、例示的には、光の３原色の組み合わせ、または色の３原色の組み合わせで規定される。第１の訓練データは、第１の訓練用画像７０から生成される、第１の訓練用画像７０に現れる色相を個々の原色に分離して原色毎に生成し、その濃度に応じた符号で表されたデータである。図１では光の３原色である赤（Ｒ）、緑（Ｇ）、青（Ｂ）の原色毎に分離した単一色の画像７２Ｒ，７２Ｇ，７２Ｂを得る。
【００５５】
単一色の画像７２Ｒ，７２Ｇ，７２Ｂ上の各画素について各色の色濃度を符号化すると、画像全体をＲ、Ｇ、Ｂ毎の各画像について、画素毎の色濃度に対応した符号化図７２ｒ，７２ｇ，７２ｂとなる。色濃度は、各色２５６段階を示す数値で符号化しても良い。また、色濃度は、各色２５６段階を示す数値に対して、さらに前処理を行って、各画素における色濃度を例えば、値０から値７の８段階で示す数字で符号化してもよい。図１に例示的に示すＲ、Ｇ、Ｂ各色の単一色画像における色濃度符号化図７２ｒ，７２ｇ，７２ｂは、各画素における色濃度を値０から値７の８段階（階調で表すと３階調）の符号で表している。色濃度を示す符号は、本明細書において色濃度値ともいう。
【００５６】
第２の訓練用画像７１は、蛍光核染色された標本を蛍光顕微鏡の蛍光観察下で、２階調以上のグレースケールで撮像またはカラー撮像した画像である。第２の訓練用画像７１は、例えば公知の蛍光顕微鏡またはバーチャルスライドスキャナ等明視野画像取得装置を用いて、予め取得することができる。
【００５７】
第２の訓練データは、学習対象の組織を撮像した第２の訓練用画像７１から生成される、学習対象の組織の細胞核の領域を示す真値像７３である。第１の訓練用画像７０および第２の訓練用画像７１は、標本上の組織の同じ領域または対応する領域を撮像した画像である。
【００５８】
第２の訓練データは、２階調以上のグレースケールのまたはカラーの第２の訓練用画像７１を、二値化処理により白黒の蛍光画像としてデータ化し、真値像７３としてニューラルネットワーク５０に正解として学習させる。ニューラルネットワーク６０に判別させる対象が、細胞核の領域である場合、真値像７３は、細胞核の領域すなわち正解を示すデータである。第２の訓練用画像７１が二値化されることにより、細胞核の領域とそれ以外の領域とが区別され、細胞核の領域が判別される。細胞核の領域またはそれ以外の領域のいずれであるかの判断は、例えば、画像内の各画素の色濃度を、所定の条件（例えば、色濃度のしきい値）と比較することにより行う。
【００５９】
深層学習方法では、色濃度符号化図７２ｒ，７２ｇ，７２ｂ（第１の訓練データともいう）および真値像７３（第２の訓練データともいう）を訓練データ７４として、色濃度符号化図７２ｒ，７２ｇ，７２ｂを入力層５０ａとし、真値像７３を出力層５０ｂとするニューラルネットワーク５０に学習させる。すなわち、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７２ｒ，７２ｇ，７２ｂと真値像７３とのペアを、ニューラルネットワーク５０の学習の訓練データ７４として使用する。
【００６０】
図２（ａ）ないし（ｃ）を参照して、訓練データ７４の生成方法を説明する。訓練データ７４は、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７２ｒ，７２ｇ，７２ｂと真値像７３とを組み合わせたデータである。訓練データ７４は、図２（ａ）では、その画像サイズ（訓練データ１つあたりの大きさ）が説明の便宜のために簡素化されており、色濃度符号化図７２ｒ，７２ｇ，７２ｂおよび真値像７３が、縦方向９画素および横方向９画素の合計８１画素を有する。
【００６１】
図２（ｂ）に、訓練データ７４を構成する画素の一例を示す。図２（ｂ）中の上段に示す３つの値７４ａが、各画素におけるＲ、Ｇ、Ｂ各色の濃度値である。例示的には、３つの値は、赤（Ｒ）、緑（Ｇ）および青（Ｂ）の順序で格納されている。色濃度符号化図７２ｒ，７２ｇ，７２ｂの各画素は、色濃度値が値０から値７の８段階で示されている。これは、画像の前処理の一例として、撮像された際に２５６段階で表されている各色の画像７２Ｒ，７２Ｇ，７２Ｂの明るさを、８段階の色濃度値にそれぞれ変換する処理である。色濃度値は、例えば最も低い明るさ（ＲＧＢカラー２５６段階で表した時の輝度値が低い階調群）を色濃度値０とし、明るさの程度が高くなるに従い徐々に高い値を割り当ててゆき、最も高い明るさ（ＲＧＢカラー２５６段階で表した時の輝度値が高い階調群）を色濃度値７とする。図２（ｂ）中の下段に示す値７４ｂが、真値像７３の二値データである。真値像７３の二値データ７４ｂはラベル値とも呼ぶ。例えばラベル値１は細胞核の領域を示し、ラベル値０はそれ以外の領域を示すこととする。すなわち、図１に示す真値像７３において、ラベル値が１から０に変化する画素または０から１に変化する画素の位置が、細胞核の領域とそれ以外の領域との境界に相当する。
【００６２】
図２（ｃ）に示す訓練データ７５は、図２（ａ）に示す訓練データ７４の所定の画素数の領域（以下、「ウィンドウサイズ」と記載する）を切り出したデータである。ウィンドウサイズの訓練データ７５も、説明の便宜のために３×３画素に簡素化して示すが、実際の好ましいウィンドウサイズは、例示的には１１３×１１３画素程度であり、その中に正常の胃上皮細胞の核が３×３個程度入る大きさが、学習効率の点から好ましい。例えば、図２（ｃ）に示すように、３×３画素のウィンドウＷ１を設定し、訓練データ７４に対してウィンドウＷ１を移動させる。ウィンドウＷ１の中心は、訓練データ７４のいずれかの画素に位置しており、例えば、黒枠で示すウィンドウＷ１内の訓練データ７４がウィンドウサイズの訓練データ７５として切り出される。切り出したウィンドウサイズの訓練データ７５は図１に示すニューラルネットワーク５０の学習に用いられる。
【００６３】
図１に示すように、ニューラルネットワーク５０の入力層５０ａのノード数は、入力されるウィンドウサイズの訓練データ７５の画素数と画像に含まれる原色の数（例えば光の三原色であれば、Ｒ、Ｇ、Ｂの３つ）との積に対応している。ウィンドウサイズの訓練データ７５の各画素の色濃度値データ７６をニューラルネットワークの入力層５０ａとし、訓練データ７５の各画素の真値像７３に対応する二値データ７４ｂのうち中心に位置する画素の二値データ７７を、ニューラルネットワークの出力層５０ｂとして、ニューラルネットワーク５０に学習させる。各画素の色濃度値データ７６は、訓練データ７５の各画素のＲ、Ｇ、Ｂ各色の色濃度値７４ａの集合データである。例示として、ウィンドウサイズの訓練データ７５が３×３画素である場合には、各画素についてＲ、Ｇ、Ｂ毎に１つずつの色濃度値７４ａが与えられるので、色濃度値データ７６の色濃度値数は「２７」（３×３×３＝２７）となり、ニューラルネットワーク５０の入力層５０ａのノード数も「２７」となる。
【００６４】
このように、ニューラルネットワーク５０に入力するウィンドウサイズの訓練データ７５は、ユーザが作成することなく、コンピュータが自動的に作成することができる。これにより、ニューラルネットワーク５０の効率的な深層学習が促進される。
【００６５】
図２（ｃ）に示すように、初期状態において、ウィンドウＷ１の中心は、訓練データ７４の左上角に位置している。以後、ウィンドウＷ１によってウィンドウサイズの訓練データ７５を切り出し、ニューラルネットワーク５０の学習を行う度に、ウィンドウＷ１の位置を移動させる。具体的には、ウィンドウＷ１の中心が訓練データ７４の例えば全ての画素を走査するように、ウィンドウＷ１を１画素単位で移動させる。これにより、訓練データ７４の全ての画素から切り出されたウィンドウサイズの訓練データ７５が、ニューラルネットワーク５０の学習に用いられる。よってニューラルネットワーク５０の学習の程度を向上でき、深層学習の結果、図３に示すニューラルネットワーク６０構造を有する深層学習アルゴリズムが得られる。
【００６６】
・画像解析方法の概要
図３に示すように、画像解析方法では、解析対象の組織または細胞を含む標本を撮像した解析対象画像（明視野画像）７８から、解析用データ８０を生成する。前記標本は、第１の訓練用画像と同じ染色が施されていることが好ましい。解析対象画像７８も、例えば公知の顕微鏡またはバーチャルスライドスキャナ等を用いて、例えばカラー画像として取得することができる。解析対象画像（明視野画像）７８は、１以上の原色を含む画像であればよい。カラーの解析対象画像７８を、各画素についてＲ、Ｇ、Ｂ各色の色濃度値で符号化すると、画像全体をＲ、Ｇ、Ｂ毎に各画素における色濃度値の符号化図として表すことができる（解析用色濃度符号化図７９ｒ，７９ｇ，７９ｂ）。図３に例示的に示すＲ、Ｇ、Ｂ各色の単一色画像における色濃度の符号を示す色濃度符号化図７９ｒ，７９ｇ，７９ｂは、３原色の各画像７９Ｒ，７９Ｇ，７９Ｂに代えて、値０から値７の８段階で符号で表された色濃度値を表示している。
【００６７】
解析用データ８０は、色濃度符号化図７９ｒ，７９ｇ，７９ｂの所定の画素数の領域（すなわち、ウィンドウサイズ）を切り出したデータであり、解析対象画像７８に含まれている組織または細胞の色濃度値を含むデータである。ウィンドウサイズの解析用データ８０も、訓練データ７５と同様に、説明の便宜のために３×３画素に簡素化して示すが、実際の好ましいウィンドウサイズは、例示的には１１３×１１３画素程度であり、その中に正常の胃上皮細胞の核が３×３個程度入る大きさが、判別精度の点から好ましく、例えば４０倍の視野で１１３×１１３画素程度である。例えば、３×３画素のウィンドウＷ２を設定し、色濃度符号化図７９ｒ，７９ｇ，７９ｂに対してウィンドウＷ２を移動させる。ウィンドウＷ２の中心は、色濃度符号化図７９ｒ，７９ｇ，７９ｂのいずれかの画素に位置しており、色濃度符号化図７９ｒ，７９ｇ，７９ｂを、例えば３×３画素の黒枠で示すウィンドウＷ２によって切り出すと、ウィンドウサイズの解析用データ８０が得られる。このように、解析用データ８０は、色濃度符号化図７９ｒ，７９ｇ，７９ｂから、所定の画素を中心として周辺の画素を含む領域毎に生成される。所定の画素とは、ウィンドウＷ２の中心に位置する色濃度符号化図７９ｒ，７９ｇ，７９ｂの画素を意味し、周辺の画素とは、この所定の画素を中心とする、ウィンドウサイズの範囲内に含まれる色濃度符号化図７９ｒ，７９ｇ，７９ｂの画素を意味する。解析用データ８０においても、訓練データ７４と同様に、各画素について、色濃度値が赤（Ｒ）、緑（Ｇ）および青（Ｂ）の順序で格納されている。
【００６８】
画像解析方法では、図１に示すウィンドウサイズの訓練データ７５を用いて学習されたニューラルネットワークを有する深層学習アルゴリズム６０を用いて、解析用データ８０を処理する。解析用データ８０を処理することによって、解析対象の組織または細胞において細胞核の領域であるか否かを示すデータ８３を生成する。
【００６９】
再び図３を参照し、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂから切り出された解析用データ８０が深層学習アルゴリズムを構成するニューラルネットワーク６０に入力される。ニューラルネットワーク６０の入力層６０ａのノード数は、入力される画素数と画像に含まれる原色の数との積に対応している。解析用データ８０の各画素の色濃度値データ８１を、ニューラルネットワーク６０に入力すると、出力層６０ｂからは、解析用データ８０の中心に位置する画素の推定値８２（二値）が出力される。例えば推定値が１の場合は細胞核の領域を示し、推定値が０の場合はそれ以外の領域を示す。すなわち、ニューラルネットワーク６０の出力層６０ｂから出力される推定値８２は、解析対象画像の画素毎に生成されるデータであり、解析対象画像における細胞核の領域であるか否かを示すデータである。推定値８２は、細胞核の領域とそれ以外の領域とを、例えば値１と値０とで区別している。推定値８２はラベル値とも呼ばれ、ニューラルネットワークに関する後述する説明ではクラスとも呼ばれる。ニューラルネットワーク６０は、入力された解析用データ８０に対し、解析用データ８０の中心に位置する画素に対し、細胞核の領域か否かを示すラベルを生成する。言い替えると、ニューラルネットワーク６０は、解析用データ８０を、解析対象画像に含まれる細胞核の領域を示すクラスに分類する。なお、各画素の色濃度値データ８１は、解析用データ８０の各画素のＲ、Ｇ、Ｂ各色の色濃度値の集合データである。
【００７０】
以後、ウィンドウＷ２の中心がＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂの全ての画素を走査するように、ウィンドウＷ２を１画素単位で移動させながら、解析用データ８０をウィンドウサイズで切り出す。切り出された解析用データ８０を、ニューラルネットワーク６０に入力する。これにより、解析対象画像における細胞核の領域であるか否かを示すデータとして、二値データ８３を得る。図３に示す例では、二値データ８３についてさらに細胞核領域検出処理を行うことにより、細胞核の領域を示す細胞核領域強調画像８４を得る。細胞核領域検出処理は、具体的には、例えば推定値８２が値１である画素を検出する処理となり、実際に細胞核の領域を判別する処理となる。細胞核領域強調画像８４は、画像解析処理により得られた細胞核の領域を、解析対象の解析対象画像７８に重ねて表示した画像である。また、細胞核の領域を判別した後に、細胞核とそれ以外の領域を識別可能に表示装置に表示させる処理を行ってもよい。例えば、細胞核の領域を色で塗りつぶす、細胞核の領域とそれ以外の領域との間に線を描画する等の処理を行い、これらを表示装置に識別可能に表示する。
【００７１】
＜第１の実施形態＞
第１の実施形態では、上述の概要で説明した深層学習方法および画像解析方法を実施するシステムの構成について、具体的に説明する。
【００７２】
［構成の概要］
図４を参照すると、第１の実施形態に係る画像解析システムは、深層学習装置１００Ａと、画像解析装置２００Ａとを備える。ベンダ側装置１００は深層学習装置１００Ａとして動作し、ユーザ側装置２００は画像解析装置２００Ａとして動作する。深層学習装置１００Ａは、ニューラルネットワーク５０に訓練データを使って学習させ、訓練データによって訓練された深層学習アルゴリズム６０をユーザに提供する。学習済みのニューラルネットワーク６０から構成される深層学習アルゴリズムは、記録媒体９８またはネットワーク９９を通じて、深層学習装置１００Ａから画像解析装置２００Ａに提供される。画像解析装置２００Ａは、学習済みのニューラルネットワーク６０から構成される深層学習アルゴリズムを用いて解析対象の画像の解析を行う。
【００７３】
深層学習装置１００Ａは、例えば汎用コンピュータで構成されており、後述するフローチャートに基づいて、深層学習処理を行う。画像解析装置２００Ａは、例えば汎用コンピュータで構成されており、後述するフローチャートに基づいて、画像解析処理を行う。記録媒体９８は、例えばＤＶＤ−ＲＯＭやＵＳＢメモリ等の、コンピュータ読み取り可能であって非一時的な有形の記録媒体である。
【００７４】
深層学習装置１００Ａは撮像装置３００に接続されている。撮像装置３００は、撮像素子３０１と、蛍光顕微鏡３０２とを備え、ステージ３０９上にセットされた学習用の標本３０８の、明視野画像および蛍光画像を撮像する。学習用の標本３０８は、上述の染色が施されている。深層学習装置１００Ａは、撮像装置３００によって撮像された第１の訓練用画像７０および第２の訓練用画像７１を取得する。
【００７５】
画像解析装置２００Ａは撮像装置４００に接続されている。撮像装置４００は、撮像素子４０１と、蛍光顕微鏡４０２とを備え、ステージ４０９上にセットされた解析対象の標本４０８の、明視野画像を撮像する。解析対象の標本４０８は、上述の通り予め染色されている。画像解析装置２００Ａは、撮像装置４００によって撮像された解析対象画像７８を取得する。
【００７６】
撮像装置３００，４００には、標本を撮像する機能を有する、公知の蛍光顕微鏡またはバーチャルスライドスキャナ等を用いることができる。撮像装置４００は、標本を撮像する機能を有する限り、光学顕微鏡であっても良い。
【００７７】
［ハードウェア構成］
図５を参照すると、ベンダ側装置１００（１００Ａ，１００Ｂ）は、処理部１０（１０Ａ，１０Ｂ）と、入力部１６と、出力部１７とを備える。
【００７８】
処理部１０は、後述するデータ処理を行うＣＰＵ（Central Processing Unit）１１と、データ処理の作業領域に使用するメモリ１２と、後述するプログラムおよび処理データを記録する記録部１３と、各部の間でデータを伝送するバス１４と、外部機器とのデータの入出力を行うインタフェース部１５と、ＧＰＵ（Graphics Processing Unit）１９とを備えている。入力部１６および出力部１７は、処理部１０に接続されている。例示的には、入力部１６はキーボードまたはマウス等の入力装置であり、出力部１７は液晶ディスプレイ等の表示装置である。ＧＰＵ１９は、ＣＰＵ１１が行う演算処理（例えば、並列演算処理）を補助するアクセラレータとして機能する。すなわち以下の説明においてＣＰＵ１１が行う処理とは、ＣＰＵ１１がＧＰＵ１９をアクセラレータとして用いて行う処理も含むことを意味する。
【００７９】
また、処理部１０は、以下の図８で説明する各ステップの処理を行うために、本発明に係るプログラムおよび学習前のニューラルネットワーク５０を、例えば実行形式で記録部１３に予め記録している。実行形式は、例えばプログラミング言語からコンパイラにより変換されて生成される形式である。処理部１０は、記録部１３に記録したプログラムおよび学習前のニューラルネットワーク５０を使用して処理を行う。
【００８０】
以下の説明においては、特に断らない限り、処理部１０が行う処理は、記録部１３またはメモリ１２に格納されたプログラムおよびニューラルネットワーク５０に基づいて、ＣＰＵ１１が行う処理を意味する。ＣＰＵ１１はメモリ１２を作業領域として必要なデータ（処理途中の中間データ等）を一時記憶し、記録部１３に演算結果等の長期保存するデータを適宜記録する。
【００８１】
図６を参照すると、ユーザ側装置２００（２００Ａ，２００Ｂ，２００Ｃ）は、処理部２０（２０Ａ，２０Ｂ，２０Ｃ）と、入力部２６と、出力部２７とを備える。
【００８２】
処理部２０は、後述するデータ処理を行うＣＰＵ（Central Processing Unit）２１と、データ処理の作業領域に使用するメモリ２２と、後述するプログラムおよび処理データを記録する記録部２３と、各部の間でデータを伝送するバス２４と、外部機器とのデータの入出力を行うインタフェース部２５と、ＧＰＵ（Graphics Processing Unit）２９とを備えている。入力部２６および出力部２７は、処理部２０に接続されている。例示的には、入力部２６はキーボードまたはマウス等の入力装置であり、出力部２７は液晶ディスプレイ等の表示装置である。ＧＰＵ２９は、ＣＰＵ２１が行う演算処理（例えば、並列演算処理）を補助するアクセラレータとして機能する。すなわち以下の説明においてＣＰＵ２１が行う処理とは、ＣＰＵ２１がＧＰＵ２９をアクセラレータとして用いて行う処理も含むことを意味する。
【００８３】
また、処理部２０は、以下の図１１で説明する各ステップの処理を行うために、本発明に係るプログラムおよび学習済みのニューラルネットワーク構造の深層学習アルゴリズム６０を、例えば実行形式で記録部２３に予め記録している。実行形式は、例えばプログラミング言語からコンパイラにより変換されて生成される形式である。処理部２０は、記録部２３に記録したプログラムおよび深層学習アルゴリズム６０を使用して処理を行う。
【００８４】
以下の説明においては、特に断らない限り、処理部２０が行う処理は、記録部２３またはメモリ２２に格納されたプログラムおよび深層学習アルゴリズム６０に基づいて、実際には処理部２０のＣＰＵ２１が行う処理を意味する。ＣＰＵ２１はメモリ２２を作業領域として必要なデータ（処理途中の中間データ等）を一時記憶し、記録部２３に演算結果等の長期保存するデータを適宜記録する。
【００８５】
［機能ブロックおよび処理手順］
・深層学習処理
図７を参照すると、第１の実施形態に係る深層学習装置１００Ａの処理部１０Ａは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３とを備える。これらの機能ブロックは、コンピュータに深層学習処理を実行させるプログラムを、処理部１０Ａの記録部１３またはメモリ１２にインストールし、このプログラムをＣＰＵ１１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部１０Ａの記録部１３またはメモリ１２に記録される。
【００８６】
学習用の標本の第１の訓練用画像７０および第２の訓練用画像７１は、撮像装置３００によって予め撮像され、処理部１０Ａの記録部１３またはメモリ１２に予め記憶されていることとする。ニューラルネットワーク５０は、例えば解析対象の標本が由来する組織試料の種別（例えば組織名）または細胞を含む試料の種類と対応付けられて、アルゴリズムデータベース１０５に予め格納されている。
【００８７】
深層学習装置１００Ａの処理部１０Ａは、図８に示す処理を行う。図７に示す各機能ブロックを用いて説明すると、ステップＳ１１からＳ１３、Ｓ１８およびＳ１９の処理は、訓練データ生成部１０１が行う。ステップＳ１４の処理は、訓練データ入力部１０２が行う。ステップＳ１５からＳ１７の処理は、アルゴリズム更新部１０３が行う。
【００８８】
以下に説明するステップＳ１１からＳ１９では、１対の第１の訓練用画像７０（明視野画像）と第２の訓練用画像（第２の訓練用画像７１）のペアに対する深層学習処理を説明する。
【００８９】
ステップＳ１１において、処理部１０Ａは、入力された第１の訓練用画像７０からＲ、Ｇ、Ｂ各色の色濃度符号化図７２ｒ，７２ｇ，７２ｂを生成する。色濃度符号化図７２ｒ，７２ｇ，７２ｂは、第１の訓練用画像７０の各画素のＲ、Ｇ、Ｂ各色の色濃度値を段階的に表すことにより作成する。本実施形態では、色濃度値を値０から値７の８段階として各Ｒ、Ｇ、Ｂ階調画像について色濃度符号化図７２ｒ，７２ｇ，７２ｂを作成する。色濃度値の割り当ては、例えば最も低い明るさを色濃度値０とし、明るさの程度が高くなるに従い徐々に高い値を割り当ててゆき、最も高い明るさを色濃度値７とする。
【００９０】
ステップＳ１２において、処理部１０Ａは、入力された第２の訓練用画像７１の各画素の階調を二値化して真値像７３を生成する。真値像７３（二値化画像７３）は、ニューラルネットワーク５０に正解として学習させる訓練データを生成させるために使用する。二値化の処理は、例えば、画像内の各画素の階調を、所定のしきい値と比較することにより行う。
【００９１】
ステップＳ１３において、処理部１０Ａは、入力部１６を通じて、深層学習装置１００Ａ側のオペレータからの、学習用の組織の種別の入力を受け付ける。処理部１０Ａは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズを設定し、アルゴリズムデータベース１０５を参照して、学習に用いるニューラルネットワーク５０を設定する。胃の組織標本を解析対象とする本実施形態では、ウィンドウサイズは例えば１１３×１１３画素とする。この画素サイズは、例えば４０倍で撮像された画像におけるサイズである。例示的には２つから９つ程度の複数の細胞のうち、少なくとも１つの細胞の細胞核領域の全体形状が、ウィンドウ内に含まれることをサポートするサイズである。ウィンドウサイズは、１回の入力時にニューラルネットワーク５０に入力する訓練データの単位であり、ウィンドウサイズの訓練データ７５の画素数と画像に含まれる色の原色の数との積が、入力層５０ａのノード数に対応している。ウィンドウサイズは組織試料の種別または細胞を含む試料の種別と対応付けられて、ウィンドウサイズデータベース１０４内に予め記録されている。
【００９２】
ステップＳ１４において、処理部１０Ａは、色濃度符号化図７２ｒ，７２ｇ，７２ｂおよび真値像７３から、ウィンドウサイズの訓練データ７５を生成する。具体的には、上述の「深層学習方法の概要」において、図２（ａ）ないし（ｃ）を参照して説明したように、色濃度符号化図７２ｒ，７２ｇ，７２ｂおよび真値像７３を組み合わせた訓練データ７４から、ウィンドウＷ１によって、ウィンドウサイズの訓練データ７５を作成する。
【００９３】
図８に示すステップＳ１５において、処理部１０Ａは、ウィンドウサイズの訓練データ７５を用いて、ニューラルネットワーク５０を学習させる。ニューラルネットワーク５０の学習結果は、ウィンドウサイズの訓練データ７５を用いてニューラルネットワーク５０を学習させる度に蓄積される。
【００９４】
実施形態に係る画像解析方法では、畳み込みニューラルネットワークを使用しており、確率的勾配降下法を用いるため、ステップＳ１６において、処理部１０Ａは、予め定められた所定の試行回数分の学習結果が蓄積されているか否かを判断する。学習結果が所定の試行回数分蓄積されている場合、処理部１０ＡはステップＳ１７の処理を行い、学習結果が所定の試行回数分蓄積されていない場合、処理部１０ＡはステップＳ１８の処理を行う。
【００９５】
学習結果が所定の試行回数分蓄積されている場合、ステップＳ１７において、処理部１０Ａは、ステップＳ１５において蓄積しておいた学習結果を用いて、ニューラルネットワーク５０の結合重みｗを更新する。実施形態に係る画像解析方法では、確率的勾配降下法を用いるため、所定の試行回数分の学習結果が蓄積した段階で、ニューラルネットワーク５０の結合重みｗを更新する。結合重みｗを更新する処理は、具体的には、後述の（式１１）および（式１２）に示される、勾配降下法による計算を実施する処理である。
【００９６】
ステップＳ１８において、処理部１０Ａは、入力画像内の規定数の画素を処理したか否かを判断する。入力画像は、訓練データ７４であり、訓練データ７４内の規定数の画素について、ステップＳ１４からステップＳ１７の一連の処理がなされている場合は、深層学習処理を終了する。ニューラルネットワークの学習は、必ずしも入力画像内の全ての画素に対して行う必要は無く、処理部１０Ａは、入力画像内の一部の画素、すなわち規定数の画素に対して処理をし学習を行うことができる。規定数の画素は、入力画像内の全ての画素であってもよい。
【００９７】
入力画像内の規定数の画素が処理されていない場合は、処理部１０Ａは、ステップＳ１９において、図２（ｃ）に示すように、訓練データ７４内において、ウィンドウの中心位置を１画素単位で移動させる。その後、処理部１０Ａは、移動後の新たなウィンドウ位置において、ステップＳ１４からステップＳ１７の一連の処理を行う。すなわち、処理部１０Ａは、ステップＳ１４において、移動後の新たなウィンドウ位置において訓練データ７４をウィンドウサイズで切り出す。引き続き、処理部１０Ａは、ステップＳ１５において、新たに切り出したウィンドウサイズの訓練データ７５を用いて、ニューラルネットワーク５０を学習させる。ステップＳ１６において、所定の試行回数分の学習結果が蓄積されている場合は、処理部１０Ａは、ステップＳ１７において、ニューラルネットワーク５０の結合重みｗを更新する。このようなウィンドウサイズ毎のニューラルネットワーク５０の学習を、訓練データ７４内の規定数の画素に対して行う。
【００９８】
以上説明した、１対の入力画像のペアに対するステップＳ１１からＳ１９の深層学習処理を、異なる入力画像の複数のペアに対して繰り返し行うことにより、ニューラルネットワーク５０の学習の程度を向上させる。これにより、図３に示すニューラルネットワーク構造の深層学習アルゴリズム６０を得る。
【００９９】
・ニューラルネットワークの構造
図９（ａ）に示すように、第１の実施形態では、深層学習タイプのニューラルネットワークを用いる。深層学習タイプのニューラルネットワークは、図９に示すニューラルネットワーク５０のように、入力層５０ａと、出力層５０ｂと、入力層５０ａおよび出力層５０ｂの間の中間層５０ｃとを備え、中間層５０ｃが複数の層で構成されている。中間層５０ｃを構成する層の数は、例えば５層以上とすることができる。
【０１００】
ニューラルネットワーク５０では、層状に配置された複数のノード８９が、層間において結合されている。これにより、情報が入力側の層５０ａから出力側の層５０ｂに、図中矢印Ｄに示す一方向のみに伝播する。本実施形態では、入力層５０ａのノード数は、入力される画像の画素数すなわち図２（ｃ）に示すウィンドウＷ１の画素数と各画素に含まれる色の原色の数との積に対応している。入力層５０ａに画像の画素データ（色濃度値）を入力することができるので、ユーザは入力画像から特徴量を別途算出することなく、入力画像を入力層５０ａに入力することができる。
【０１０１】
・各ノードにおける演算
図９（ｂ）は、各ノードにおける演算を示す模式図である。各ノード８９では、複数の入力を受け取り、１つの出力（ｚ）を計算する。図９（ｂ）に示す例の場合、ノード８９は４つの入力を受け取る。ノード８９が受け取る総入力（ｕ）は、以下の（式１）で表される。
【数１】
2019095853.tif 000003
【０１０２】
各入力には、それぞれ異なる重みが掛けられる。（式１）中、ｂはバイアスと呼ばれる値である。ノードの出力（ｚ）は、（式１）で表される総入力（ｕ）に対する所定の関数ｆの出力となり、以下の（式２）で表される。関数ｆは活性化関数と呼ばれる。
【数２】
2019095853.tif 000004
【０１０３】
図９（ｃ）は、ノード間の演算を示す模式図である。ニューラルネットワーク５０では、（式１）で表される総入力（ｕ）に対して、（式２）で表される結果（ｚ）を出力するノードが層状に並べられている。前の層のノードの出力が、次の層のノードの入力となる。図９（ｃ）に示す例では、図中左側の層のノード８９ａの出力が、図中右側の層のノード８９ｂの入力となる。右側の層の各ノード８９ｂは、それぞれ、左側の層のノード８９ａからの出力を受け取る。左側の層の各ノード８９ａと右側の層の各ノード８９ｂとの間の各結合には、異なる重みが掛けられる。左側の層の複数のノード８９ａのそれぞれの出力をｘ１〜ｘ４とすると、右側の層の３つのノード８９ｂのそれぞれに対する入力は、以下の（式３−１）〜（式３−３）で表される。
【数３】
2019095853.tif 000005
【０１０４】
これら（式３−１）〜（式３−３）を一般化すると、（式３−４）となる。ここで、ｉ＝１，・・・Ｉ、ｊ＝１，・・・Ｊである。
【数４】
2019095853.tif 000006
【０１０５】
（式３−４）を活性化関数に適用すると出力が得られる。出力は以下の（式４）で表される。
【数５】
2019095853.tif 000007
【０１０６】
・活性化関数
実施形態に係る画像解析方法では、活性化関数として、正規化線形関数（rectified linear unit function）を用いる。正規化線形関数は以下の（式５）で表される。
【数６】
2019095853.tif 000008
【０１０７】
（式５）は、ｚ＝ｕの線形関数のうち、ｕ＜０の部分をｕ＝０とする関数である。図９（ｃ）に示す例では、ｊ＝１のノードの出力は、（式５）により、以下の式で表される。
【数７】
2019095853.tif 000009
【０１０８】
・ニューラルネットワークの学習
ニューラルネットワークを用いて表現される関数をｙ（ｘ：ｗ）とおくと、関数ｙ（ｘ：ｗ）は、ニューラルネットワークのパラメータｗを変化させると変化する。入力ｘに対してニューラルネットワークがより好適なパラメータｗを選択するように、関数ｙ（ｘ：ｗ）を調整することを、ニューラルネットワークの学習と呼ぶ。ニューラルネットワークを用いて表現される関数の入力と出力との組が複数与えられているとする。ある入力ｘに対する望ましい出力をｄとすると、入出力の組は、｛（ｘ１，ｄ１），（ｘ２，ｄ２），・・・，（ｘｎ，ｄｎ）｝と与えられる。（ｘ，ｄ）で表される各組の集合を、訓練データと呼ぶ。具体的には、図２（ｂ）に示す、Ｒ、Ｇ、Ｂ各色の単一色画像における画素毎の色濃度値と真値像のラベルとの組、の集合が、図２（ａ）に示す訓練データである。
【０１０９】
ニューラルネットワークの学習とは、どのような入出力の組（ｘｎ，ｄｎ）に対しても、入力ｘｎを与えたときのニューラルネットワークの出力ｙ（ｘｎ：ｗ）が、出力ｄｎになるべく近づくように重みｗを調整することを意味する。誤差関数（error function）とは、ニューラルネットワークを用いて表現される関数と訓練データとの近さ
【数８】
2019095853.tif 000010
を測る尺度である。誤差関数は損失関数（loss function）とも呼ばれる。実施形態に係る画像解析方法において用いる誤差関数Ｅ（ｗ）は、以下の（式６）で表される。（式６）は交差エントロピー（cross entropy）と呼ばれる。
【数９】
2019095853.tif 000011
【０１１０】
（式６）の交差エントロピーの算出方法を説明する。実施形態に係る画像解析方法において用いるニューラルネットワーク５０の出力層５０ｂでは、すなわちニューラルネットワークの最終層では、入力ｘを内容に応じて有限個のクラスに分類するための活性化関数を用いる。活性化関数はソフトマックス関数（softmax function）と呼ばれ、以下の（式７）で表される。なお、出力層５０ｂには、クラス数ｋと同数のノードが並べられているとする。出力層Ｌの各ノードｋ（ｋ＝１，・・・Ｋ）の総入力ｕは、前層Ｌ−１の出力から、ｕｋ（Ｌ）で与えられるとする。これにより、出力層のｋ番目のノードの出力は以下の（式７）で表される。
【数１０】
2019095853.tif 000012
【０１１１】
（式７）がソフトマックス関数である。（式７）で決まる出力ｙ１，・・・，ｙＫの総和は常に１となる。
【０１１２】
各クラスをＣ１，・・・，ＣＫと表すと、出力層Ｌのノードｋの出力ｙＫ（すなわちｕｋ（Ｌ））は、与えられた入力ｘがクラスＣＫに属する確率を表す。以下の（式８）を参照されたい。入力ｘは、（式８）で表される確率が最大になるクラスに分類される。
【数１１】
2019095853.tif 000013
【０１１３】
ニューラルネットワークの学習では、ニューラルネットワークで表される関数を、各クラスの事後確率（posterior probability）のモデルとみなし、そのような確率モデルの下で、訓練データに対する重みｗの尤度（likelihood）を評価し、尤度を最大化するような重みｗを選択する。
【０１１４】
（式７）のソフトマックス関数による目標出力ｄｎを、出力が正解のクラスである場合のみ１とし、出力がそれ以外の場合は０になるとする。目標出力をｄｎ＝［ｄｎ１，・・・，ｄｎＫ］というベクトル形式で表すと、例えば入力ｘｎの正解クラスがＣ３である場合、目標出力ｄｎ３のみが１となり、それ以外の目標出力は０となる。このように符号化すると、事後分布（posterior）は以下の（式９）で表される。
【数１２】
2019095853.tif 000014
【０１１５】
訓練データ｛（ｘｎ，ｄｎ）｝（ｎ＝１，・・・，Ｎ）に対する重みｗの尤度Ｌ（ｗ）は、以下の（式１０）で表される。尤度Ｌ（ｗ）の対数をとり符号を反転すると、（式６）の誤差関数が導出される。
【数１３】
2019095853.tif 000015
【０１１６】
学習は、訓練データを基に計算される誤差関数Ｅ（ｗ）を、ニューラルネットワークのパラメータｗについて最小化することを意味する。実施形態に係る画像解析方法では、誤差関数Ｅ（ｗ）は（式６）で表される。
【０１１７】
誤差関数Ｅ（ｗ）をパラメータｗについて最小化することは、関数Ｅ（ｗ）の局所的な極小点を求めることと同じ意味である。パラメータｗはノード間の結合の重みである。重みｗの極小点は、任意の初期値を出発点として、パラメータｗを繰り返し更新する反復計算によって求められる。このような計算の一例には、勾配降下法（gradient descent method）がある。
【０１１８】
勾配降下法では、次の（式１１）で表されるベクトルを用いる。
【数１４】
2019095853.tif 000016
【０１１９】
勾配降下法では、現在のパラメータｗの値を負の勾配方向（すなわち−∇Ｅ）に移動させる処理を何度も繰り返す。現在の重みをｗ（ｔ）とし、移動後の重みをｗ（ｔ＋１）とすると、勾配降下法による演算は、以下の（式１２）で表される。値ｔは、パラメータｗを移動させた回数を意味する。
【数１５】
2019095853.tif 000017
【０１２０】
記号
【数１６】
2019095853.tif 000018
は、パラメータｗの更新量の大きさを決める定数であり、学習係数と呼ばれる。（式１２）で表される演算を繰り返すことにより、値ｔの増加に伴って誤差関数Ｅ（ｗ（ｔ））が減少し、パラメータｗは極小点に到達する。
【０１２１】
なお、（式１２）による演算は、全ての訓練データ（ｎ＝１，・・・，Ｎ）に対して実施してもよく、一部の訓練データのみに対して実施してもよい。一部の訓練データのみに対して行う勾配降下法は、確率的勾配降下法（stochastic gradient descent）と呼ばれる。実施形態に係る画像解析方法では、確率的勾配降下法を用いる。
【０１２２】
・画像解析処理
図１０を参照すると、第１の実施形態に係る画像解析装置２００Ａの処理部２０Ａは、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、細胞核領域検出部２０４とを備える。これらの機能ブロックは、本発明に係るコンピュータに画像解析処理を実行させるプログラムを、処理部２０Ａの記録部２３またはメモリ２２にインストールし、このプログラムをＣＰＵ２１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、記録媒体９８またはネットワーク９９を通じて深層学習装置１００Ａから提供され、処理部２０Ａの記録部２３またはメモリ２２に記録される。
【０１２３】
解析対象の組織の解析対象画像７８は、撮像装置４００によって予め撮像され、処理部２０Ａの記録部２３またはメモリ２２に予め記録されていることとする。学習済みの結合重みｗを含む深層学習アルゴリズム６０は、解析対象の組織の標本が由来する組織試料の種別（例えば組織名）または細胞を含む試料の種類と対応付けられてアルゴリズムデータベース１０５に格納されており、コンピュータに画像解析処理を実行させるプログラムの一部であるプログラムモジュールとして機能する。すなわち、深層学習アルゴリズム６０は、ＣＰＵおよびメモリを備えるコンピュータにて用いられ、解析対象の組織において細胞核の領域であるか否かを示すデータを出力するという、使用目的に応じた特有の情報の演算または加工を実行するよう、コンピュータを機能させる。具体的には、処理部２０ＡのＣＰＵ２１は、記録部２３またはメモリ２２に記録された深層学習アルゴリズム６０に規定されているアルゴリズムに従って、学習済みの結合重みｗに基づくニューラルネットワーク６０の演算を行う。処理部２０ＡのＣＰＵ２１は、入力層６０ａに入力された、解析対象の組織を撮像した解析対象画像７８に対して演算を行い、出力層６０ｂから、解析対象の組織において細胞核の領域であるか否かを示すデータである二値画像８３を出力する。
【０１２４】
図１１を参照すると、画像解析装置２００Ａの処理部２０Ａは、図１１に示す処理を行う。図１０に示す各機能ブロックを用いて説明すると、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、細胞核領域検出部２０４が行う。
【０１２５】
ステップＳ２１において、処理部２０Ａは、入力された解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成する。色濃度符号化図７９ｒ，７９ｇ，７９ｂの生成方法は、図８に示す深層学習処理時におけるステップＳ１１での生成方法と同様である。
【０１２６】
図１１に示すステップＳ２２において、処理部２０Ａは、入力部２６を通じて、解析条件として、画像解析装置２００Ａ側のユーザからの、組織の種別の入力を受け付ける。処理部２０Ａは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、解析に用いるウィンドウサイズを設定し、解析に用いる深層学習アルゴリズム６０を取得する。ウィンドウサイズは、１回の入力時にニューラルネットワーク６０に入力する解析用データの単位であり、ウィンドウサイズの解析用データ８０の画素数と画像に含まれる色の原色の数との積が、入力層６０ａのノード数に対応している。ウィンドウサイズは組織の種別と対応付けられて、ウィンドウサイズデータベース１０４内に予め記録されている。ウィンドウサイズは、図３に示すウィンドウＷ２のように、例えば３×３画素である。深層学習アルゴリズム６０も、組織試料の種別または細胞を含む試料の種別と対応付けられて、図１０に示すアルゴリズムデータベース１０５内に予め記録されている。
【０１２７】
図１１に示すステップＳ２３において、処理部２０Ａは、色濃度符号化図７９ｒ，７９ｇ，７９ｂから、ウィンドウサイズの解析用データ８０を生成する。
【０１２８】
ステップＳ２４において、処理部２０Ａは、図３に示す解析用データ８０を、深層学習アルゴリズム６０に入力する。ウィンドウの初期位置は、深層学習処理時におけるステップＳ１５と同様に、例えばウィンドウ内の３×３画素の中心に位置する画素が、解析対象画像の左上角に対応する位置である。処理部２０Ａは、ウィンドウサイズの解析用データ８０に含まれる、３×３画素×３原色の合計２７個の色濃度値のデータ８１を入力層６０ａに入力すると、深層学習アルゴリズム６０は、出力層６０ｂに判別結果８２を出力する。
【０１２９】
図１１に示すステップＳ２５において、処理部２０Ａは、図３に示す出力層６０ｂに出力される判別結果８２を記録する。判別結果８２は、解析対象である、色濃度符号化図７９ｒ，７９ｇ，７９ｂの中心に位置する画素の推定値（二値）である。例えば推定値が値１の場合は細胞核の領域を示し、推定値が値０の場合はそれ以外の領域を示す。
【０１３０】
図１１に示すステップＳ２６において、処理部２０Ａは、入力画像内の全ての画素を処理したか否かを判断する。入力画像は、図３に示す色濃度符号化図７９ｒ，７９ｇ，７９ｂであり、色濃度符号化図７９ｒ，７９ｇ，７９ｂ内の全ての画素について、図１１に示すステップＳ２３からステップＳ２５の一連の処理がなされている場合は、ステップＳ２８の処理を行う。
【０１３１】
入力画像内の全ての画素が処理されていない場合は、処理部２０Ａは、ステップＳ２７において、深層学習処理時におけるステップＳ１９と同様に、図３に示す色濃度符号化図７９ｒ，７９ｇ，７９ｂ内において、ウィンドウＷ２の中心位置を１画素単位で移動させる。その後、処理部２０Ａは、移動後の新たなウィンドウＷ２の位置において、ステップＳ２３からステップＳ２５の一連の処理を行う。処理部２０Ａは、ステップＳ２５において、移動後の新たなウィンドウ位置に対応する、判別結果８２を記録する。このようなウィンドウサイズ毎の判別結果８２の記録を、解析対象画像内の全ての画素に対して行うことにより、解析結果の二値画像８３が得られる。解析結果の二値画像８３の画像サイズは、解析対象画像の画像サイズと同じである。ここで、二値画像８３には、推定値の値１および値０が各画素に付された数値データであってもよく、推定値の値１および値０に代えて、例えば値１および値０のそれぞれに対応付けた表示色で示した画像であっても良い。
【０１３２】
図１１に示すステップＳ２８では、処理部２０Ａは、解析結果の二値画像８３を出力部２７に出力する。
【０１３３】
ステップＳ２９では、ステップＳ２８に引き続き、処理部２０Ａは、解析結果の二値画像８３についてさらに、細胞核の領域の細胞核領域検出処理を行う。二値画像８３において、細胞核の領域とそれ以外の領域とは、二値で区別して表されている。したがって、二値画像８３において、画素の推定値が１から０に変化する画素または０から１に変化する画素の位置を検出することにより、細胞核の領域を判別することができる。また、別の態様として細胞核の領域とそれ以外の領域との境界、すなわち細胞核の領域を検出することができる。
【０１３４】
任意ではあるが、処理部２０Ａは、得られた細胞核の領域を、解析対象の解析対象画像７８に重ねることにより、細胞核領域強調画像８４を作成する。処理部２０Ａは、作成した細胞核領域強調画像８４を出力部２７に出力し、画像解析処理を終了する。
【０１３５】
以上、画像解析装置２００Ａのユーザは、解析対象の組織の解析対象画像７８を画像解析装置２００Ａに入力することにより、解析結果として、二値画像８３を取得することができる。二値画像８３は、解析対象の標本における細胞核の領域とそれ以外の領域とを表しており、ユーザは、解析対象の標本において、細胞核の領域を判別することが可能となる。
【０１３６】
さらに、画像解析装置２００Ａのユーザは、解析結果として、細胞核領域強調画像８４を取得することができる。細胞核領域強調画像８４は、例えば、解析対象の解析対象画像７８に、細胞核の領域を色で塗りつぶすことにより生成される。また、別の態様では、細胞核の領域とそれ以外の領域との境界線を重ねることにより生成されている。これにより、ユーザは、解析対象の組織において、細胞核の領域を一目で把握することが可能となる。
【０１３７】
解析対象の標本において細胞核の領域を示すことは、標本を見慣れていない者に細胞核の状態を把握させる一助となる。
【０１３８】
＜第２の実施形態＞
以下、第１の実施形態に係る画像解析システムと相違する点について、第２の実施形態に係る画像解析システムを説明する。
【０１３９】
［構成の概要］
図１２を参照すると、第２の実施形態に係る画像解析システムは、ユーザ側装置２００を備え、ユーザ側装置２００が、統合型の画像解析装置２００Ｂとして動作する。画像解析装置２００Ｂは、例えば汎用コンピュータで構成されており、第１の実施形態において説明した深層学習処理および画像解析処理の両方の処理を行う。つまり、第２の実施形態に係る画像解析システムは、ユーザ側で深層学習および画像解析を行う、スタンドアロン型のシステムである。第２の実施形態に係る画像解析システムは、ユーザ側に設置された統合型の画像解析装置２００Ｂが、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａの両方の機能を担う点において、第１の実施形態に係る画像解析システムと異なる。
【０１４０】
画像解析装置２００Ｂは撮像装置４００に接続されている。撮像装置４００は、深層学習処理時には、学習用の組織の第１の訓練用画像７０および第２の訓練用画像７１を取得し、画像解析処理時には、解析対象の組織の解析対象画像７８を取得する。
【０１４１】
［ハードウェア構成］
画像解析装置２００Ｂのハードウェア構成は、図６に示すユーザ側装置２００のハードウェア構成と同様である。
【０１４２】
［機能ブロックおよび処理手順］
図１３を参照すると、第２の実施形態に係る画像解析装置２００Ｂの処理部２０Ｂは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３と、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、細胞核検出部２０４とを備える。これらの機能ブロックは、コンピュータに深層学習処理および画像解析処理を実行させるプログラムを、処理部２０Ｂの記録部２３またはメモリ２２にインストールし、このプログラムをＣＰＵ２１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部２０Ｂの記録部２３またはメモリ２２に記録され、どちらも深層学習時および画像解析処理時に共通して使用される。学習済みのニューラルネットワーク６０は、組織の種別または細胞を含む試料の種別と対応付けられて、アルゴリズムデータベース１０５に予め格納されており、深層学習処理により結合重みｗが更新されて、深層学習アルゴリズム６０として、アルゴリズムデータベース１０５に格納される。なお、学習用の第１の訓練用画像である第１の訓練用画像７０および第２の訓練用画像７１は、撮像装置４００によって予め撮像され、処理部２０Ｂの記録部２３またはメモリ２２に予め記載されていることとする。解析対象の標本の解析対象画像７８も、撮像装置４００によって予め撮像され、処理部２０Ｂの記録部２３またはメモリ２２に予め記録されていることとする。
【０１４３】
画像解析装置２００Ｂの処理部２０Ｂは、深層学習処理時には、図８に示す処理を行い、画像解析処理時には、図１１に示す処理を行う。図１３に示す各機能ブロックを用いて説明すると、深層学習処理時には、ステップＳ１１からＳ１３、Ｓ１８およびＳ１９の処理は、訓練データ生成部１０１が行う。ステップＳ１４の処理は、訓練データ入力部１０２が行う。ステップＳ１５からＳ１７の処理は、アルゴリズム更新部１０３が行う。画像解析処理時には、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、細胞核領域検出部２０４が行う。
【０１４４】
第２の実施形態に係る画像解析装置２００Ｂが行う深層学習処理の手順および画像解析処理の手順は、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａがそれぞれ行う手順と同様である。なお、第２の実施形態に係る画像解析装置２００Ｂは、次の点において第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａと異なる。
【０１４５】
深層学習処理時のステップＳ１３において、処理部２０Ｂは、入力部２６を通じて、画像解析装置２００Ｂのユーザからの、学習用の組織の種別の入力を受け付ける。処理部２０Ｂは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズを設定し、アルゴリズムデータベース１０５を参照して、学習に用いるニューラルネットワーク５０を設定する。
【０１４６】
以上、画像解析装置２００Ｂのユーザは、解析対象画像７８を画像解析装置２００Ｂに入力することにより、解析結果として、二値画像８３を取得することができる。さらに、画像解析装置２００Ｂのユーザは、解析結果として、細胞核領域強調画像８４を取得することができる。
【０１４７】
第２の実施形態に係る画像解析装置２００Ｂによると、ユーザは、自身が選択した種類の組織を、学習用の組織として用いることができる。これは、ニューラルネットワーク５０の学習がベンダ側任せではなく、ユーザ自身がニューラルネットワーク５０の学習の程度を向上できることを意味する。
【０１４８】
＜第３の実施形態＞
以下、第２の実施形態に係る画像解析システムと相違する点について、第３の実施形態に係る画像解析システムを説明する。
【０１４９】
［構成の概要］
図１４を参照すると、第３の実施形態に係る画像解析システムは、ベンダ側装置１００と、ユーザ側装置２００とを備える。ベンダ側装置１００は統合型の画像解析装置１００Ｂとして動作し、ユーザ側装置２００は端末装置２００Ｃとして動作する。画像解析装置１００Ｂは、例えば汎用コンピュータで構成されており、第１の実施形態において説明した深層学習処理および画像解析処理の両方の処理を行う、クラウドサーバ側の装置である。端末装置２００Ｃは、例えば汎用コンピュータで構成されており、ネットワーク９９を通じて、解析対象の画像を画像解析装置１００Ｂに送信し、ネットワーク９９を通じて、解析結果の画像を画像解析装置１００Ｂから受信する、ユーザ側の端末装置である。
【０１５０】
第３の実施形態に係る画像解析システムは、ベンダ側に設置された統合型の画像解析装置１００Ｂが、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａの両方の機能を担う点において、第２の実施形態に係る画像解析システムと同様である。一方、第３の実施形態に係る画像解析システムは、端末装置２００Ｃを備え、解析対象の画像の入力インタフェースと、解析結果の画像の出力インタフェースとをユーザ側の端末装置２００Ｃに提供する点において、第２の実施形態に係る画像解析システムと異なる。つまり、第３の実施形態に係る画像解析システムは、深層学習処理および画像解析処理を行うベンダ側が、解析対象の画像および解析結果の画像の入出力インタフェースをユーザ側に提供する、クラウドサービス型のシステムである。
【０１５１】
画像解析装置１００Ｂは撮像装置３００に接続されており、撮像装置３００によって撮像される、学習用の組織の第１の訓練用画像７０および第２の訓練用画像７１を取得する。
【０１５２】
端末装置２００Ｃは撮像装置４００に接続されており、撮像装置４００によって撮像される、解析対象の組織の解析対象画像７８を取得する。
【０１５３】
［ハードウェア構成］
画像解析装置１００Ｂのハードウェア構成は、図５に示すベンダ側装置１００のハードウェア構成と同様である。端末装置２００Ｃのハードウェア構成は、図６に示すユーザ側装置２００のハードウェア構成と同様である。
【０１５４】
［機能ブロックおよび処理手順］
図１５を参照すると、第３の実施形態に係る画像解析装置１００Ｂの処理部１０Ｂは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３と、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、細胞核領域検出部２０４とを備える。これらの機能ブロックは、コンピュータに深層学習処理および画像解析処理を実行させるプログラムを、処理部１０Ｂの記録部１３またはメモリ１２にインストールし、このプログラムをＣＰＵ１１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部１０Ｂの記録部１３またはメモリ１２に記録され、どちらも深層学習時および画像解析処理時に共通して使用される。ニューラルネットワーク５０は、組織の種別と対応付けられて、アルゴリズムデータベース１０５に予め格納されており、深層学習処理により結合重みｗが更新されて、深層学習アルゴリズム６０として、アルゴリズムデータベース１０５に格納される。
【０１５５】
なお、学習用の第１の訓練用画像７０および第２の訓練用画像７１は、撮像装置３００によって予め撮像され、処理部１０Ｂの記録部１３またはメモリ１２に予め記載されていることとする。解析対象の組織の解析対象画像７８も、撮像装置４００によって予め撮像され、端末装置２００Ｃの処理部２０Ｃの記録部２３またはメモリ２２に予め記録されていることとする。
【０１５６】
画像解析装置１００Ｂの処理部１０Ｂは、深層学習処理時には、図８に示す処理を行い、画像解析処理時には、図１１に示す処理を行う。図１５に示す各機能ブロックを用いて説明すると、深層学習処理時には、ステップＳ１１からＳ１３、Ｓ１８およびＳ１９の処理は、訓練データ生成部１０１が行う。ステップＳ１４の処理は、訓練データ入力部１０２が行う。ステップＳ１５からＳ１７の処理は、アルゴリズム更新部１０３が行う。画像解析処理時には、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、細胞核領域検出部２０４が行う。
【０１５７】
第３の実施形態に係る画像解析装置１００Ｂが行う深層学習処理の手順および画像解析処理の手順は、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａがそれぞれ行う手順と同様である。なお、第３の実施形態に係る画像解析装置１００Ｂは、次の４つの点において第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａと異なる。
【０１５８】
図１１に示す画像解析処理時のステップＳ２１において、処理部１０Ｂは、解析対象の組織の解析対象画像７８を、ユーザ側の端末装置２００Ｃから受信し、受信した解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成する。色濃度符号化図７９ｒ，７９ｇ，７９ｂの生成方法は、図８に示す深層学習処理時におけるステップＳ１１での生成方法と同様である。
【０１５９】
図１１に示す画像解析処理時のステップＳ２２において、処理部１０Ｂは、端末装置２００Ｃの入力部２６を通じて、解析条件として、端末装置２００Ｃのユーザからの、組織の種別の入力を受け付ける。処理部１０Ｂは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、解析に用いるウィンドウサイズを設定し、解析に用いる深層学習アルゴリズム６０を取得する。
【０１６０】
画像解析処理時のステップＳ２８において、処理部１０Ｂは、解析結果の二値画像８３を、ユーザ側の端末装置２００Ｃに送信する。ユーザ側の端末装置２００Ｃでは、処理部２０Ｃが、受信した解析結果の二値画像８３を出力部２７に出力する。
【０１６１】
画像解析処理時のステップＳ２９において、処理部１０Ｂは、ステップＳ２８に引き続き、解析結果の二値画像８３についてさらに、細胞核の領域の検出処理を行う。処理部１０Ｂは、得られた細胞核の領域を、解析対象の解析対象画像７８に重ねることにより、細胞核領域強調画像８４を作成する。処理部１０Ｂは、作成した細胞核領域強調画像８４を、ユーザ側の端末装置２００Ｃに送信する。ユーザ側の端末装置２００Ｃでは、処理部２０Ｃが、受信した細胞核領域強調画像８４を出力部２７に出力し、画像解析処理を終了する。
【０１６２】
以上、端末装置２００Ｃのユーザは、解析対象の組織の解析対象画像７８を画像解析装置１００Ｂに送信することにより、解析結果として、二値画像８３を取得することができる。さらに、端末装置２００Ｃのユーザは、解析結果として、細胞核領域強調画像８４を取得することができる。
【０１６３】
第３の実施形態に係る画像解析装置１００Ｂによると、ユーザは、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を深層学習装置１００Ａから取得することなく、画像解析処理の結果を享受することができる。これにより、解析対象の組織を解析するサービスとして、細胞核の領域を判別するサービスを、クラウドサービスとして提供することができる。
【０１６４】
細胞診を行う病理医の数は全国的に不足している。病理医は、都市部の大病院には在籍しているが、遠隔地の医療機関や、都市部であってもクリニック等の比較的小規模な医療機関には在籍していないケースが殆どである。画像解析装置１００Ｂおよび端末装置２００Ｃにて提供されるクラウドサービスは、このような遠隔地または比較的小規模な医療機関における組織診断や細胞診断の手助けとなる。
【０１６５】
＜その他の形態＞
以上、本発明を概要および特定の実施形態によって説明したが、本発明は上記した概要および各実施形態に限定されるものではない。
【０１６６】
上記第１から第３の実施形態では、胃癌である場合を一例として説明しているが、処理対象とする標本はこれに限定されず、前述の組織試料の標本または細胞を含む試料の標本を用いることができる。
【０１６７】
上記第１から第３の実施形態では、ステップＳ１３において、処理部１０Ａ，２０Ｂ，１０Ｂは、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズの画素数を設定しているが、オペレータまたはユーザがウィンドウサイズを直接設定してもよい。この場合、ウィンドウサイズデータベース１０４は不要となる。
【０１６８】
上記第１から第３の実施形態では、ステップＳ１３において、処理部１０Ａ，２０Ｂ，１０Ｂは、入力された組織の種別に基づいて、ウィンドウサイズの画素数を設定しているが、組織の種別の入力に代えて、組織のサイズを入力してもよい。処理部１０Ａ，２０Ｂ，１０Ｂは、入力された組織のサイズに基づいて、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズの画素数を設定すればよい。ステップＳ２２においてもステップＳ１３と同様に、組織の種別の入力に代えて、組織のサイズを入力してもよい。処理部２０Ａ，２０Ｂ，１０Ｂは、入力された組織のサイズに基づいて、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、ウィンドウサイズの画素数を設定し、ニューラルネットワーク６０を取得すればよい。
【０１６９】
組織のサイズを入力する態様については、サイズを数値として直接入力してもよいし、例えば入力のユーザインタフェースをプルダウンメニューとして、ユーザが入力しようとするサイズに対応する、所定の数値範囲をユーザに選択させて入力してもよい。
【０１７０】
また、ステップＳ１３およびステップＳ２２において、組織の種別または組織のサイズに加えて、組織の第１の訓練用画像７０、解析対象画像７８および第２の訓練用画像７１を撮像した際の撮像倍率を入力してもよい。撮像倍率を入力する態様については、倍率を数値として直接入力してもよいし、例えば入力のユーザインタフェースをプルダウンメニューとして、ユーザが入力しようとする倍率に対応する、所定の数値範囲をユーザに選択させて入力してもよい。
【０１７１】
上記第１から第３の実施形態では、深層学習処理時および画像解析処理時において、説明の便宜のためにウィンドウサイズを３×３画素と設定しているが、ウィンドウサイズの画素数はこれに限定されない。ウィンドウサイズは、例えば組織試料の種別、細胞を含む試料の種別に応じて設定してもよい。この場合、ウィンドウサイズの画素数と画像に含まれる色の原色の数との積が、ニューラルネットワーク５０，６０の入力層５０ａ，６０ａのノード数に対応していればよい。
【０１７２】
ステップＳ１３において、処理部１０Ａ，２０Ｂ，１０Ｂは、ウィンドウサイズの画素数を取得し、さらに、取得したウィンドウサイズの画素数を、入力された撮像倍率に基づいて補正してもよい。
【０１７３】
上記第１から第３の実施形態では、ステップＳ１７において、処理部１０Ａ，２０Ｂ，１０Ｂは、深層学習アルゴリズム６０を、組織の種別と一対一に対応付けて、アルゴリズムデータベース１０５に記録している。これに代えて、ステップＳ１７において、処理部１０Ａ，２０Ｂ，１０Ｂは、１つの深層学習アルゴリズム６０に、複数の組織の種別を対応付けて、アルゴリズムデータベース１０５に記録してもよい。
【０１７４】
上記第１から第３の実施形態では、色相は、光の３原色の組み合わせ、または色の３原色の組み合わせで規定されているが、色相の数は３つに限定されない。色相の数は、赤（Ｒ），緑（Ｇ），青（Ｂ）に黄（Ｙ）を加えた４原色としても良いし、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色からいずれか１つの色相を減らした２原色としてもよい。あるいは、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色のいずれか１つ（例えば緑（Ｇ））のみの１原色としてもよい。例えば公知の顕微鏡またはバーチャルスライドスキャナ等を用いて取得される明視野画像７０および解析対象画像７８も、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色のカラー画像に限定されず、２原色のカラー画像であってもよく、１以上の原色を含む画像であればよい。
【０１７５】
上記第１から第３の実施形態では、ステップＳ１１において、処理部１０Ａ，２０Ｂ，１０Ｂは、色濃度符号化図７２ｒ，７２ｇ，７２ｂを各原色の３階調の単一色画像として生成しているが、色濃度符号化図７２ｒ，７２ｇ，７２ｂの原色の階調は、３階調に制限されない。色濃度符号化図７２ｒ，７２ｇ，７２ｂの階調は、２階調の画像であってもよく、１階調以上の画像であればよい。同様に、ステップＳ２１において、処理部２０Ａ，２０Ｂ，１０Ｂは、色濃度符号化図７９ｒ，７９ｇ，７９ｂ各原色ごとの単一色画像として生成しているが、色濃度符号化図を作成する際の原色は３階調に制限されない。色濃度符号化図を作成する際の原色は、２階調の画像であってもよく、１階調以上の画像であればよい。例示的に、色濃度符号化図７２ｒ，７２ｇ，７２ｂ，７９ｒ，７９ｇ，７９ｂの階調を、色濃度値が値０から値２５５の２５６段階（８階調）とすることができる。
【０１７６】
上記第１から第３の実施形態では、ステップＳ１１において、処理部１０Ａ，２０Ｂ，１０Ｂは、入力された第１の訓練用画像７０からＲ、Ｇ、Ｂ各色の色濃度符号化図７２ｒ，７２ｇ，７２ｂを生成しているが、入力される第１の訓練用画像７０は予め階調化されていてもよい。すなわち、処理部１０Ａ，２０Ｂ，１０Ｂは、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７２ｒ，７２ｇ，７２ｂを、例えばバーチャルスライドスキャナ等から直接取得してもよい。同様に、ステップＳ２１において、処理部２０Ａ，２０Ｂ，１０Ｂは、入力された解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成しているが、入力される解析対象画像７８は予め階調化されていてもよい。すなわち、処理部２０Ａ，２０Ｂ，１０Ｂは、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを、例えばバーチャルスライドスキャナ等から直接取得してもよい。
【０１７７】
上記第１から第３の実施形態では、カラーの第１の訓練用画像７０，７８から色濃度符号化図７２，７９を生成する際のカラースペースにはＲＧＢを用いているが、カラースペースはＲＧＢに制限されない。ＲＧＢ以外にも、ＹＵＶ、ＣＭＹ、およびＣＩＥ  Ｌ＊ａ＊ｂ＊等の種々のカラースペースを用いることができる。
【０１７８】
上記第１から第３の実施形態では、訓練データ７４および解析用データ８０において、各画素について濃度値が赤（Ｒ），緑（Ｇ），青（Ｂ）の順番で格納されているが、濃度値を格納および取り扱う順番はこれに限定されない。例えば濃度値は、青（Ｂ），緑（Ｇ），赤（Ｒ）の順番で格納されていてもよく、訓練データ７４における濃度値の並び順と、解析用データ８０における濃度値の並び順とが同じであればよい。
【０１７９】
上記第１から第３の実施形態では、ステップＳ１２において、処理部１０Ａ，２０Ｂ，１０Ｂは、入力された第２の訓練用画像７１の各画素の階調を二値化して真値像７３を生成しているが、予め二値化された真値像７３を取得してもよい。
【０１８０】
上記第１から第３の実施形態では、処理部１０Ａ，１０Ｂは一体の装置として実現されているが、処理部１０Ａ，１０Ｂは一体の装置である必要はなく、ＣＰＵ１１、メモリ１２、記録部１３、ＧＰＵ１９等が別所に配置され、これらがネットワークで接続されていてもよい。処理部１０Ａ，１０Ｂと、入力部１６と、出力部１７とについても、一ヶ所に配置される必要は必ずしもなく、それぞれ別所に配置されて互いにネットワークで通信可能に接続されていてもよい。処理部２０Ａ，２０Ｂ，２０Ｃについても処理部１０Ａ，１０Ｂと同様である。
【０１８１】
上記第１から第３の実施形態では、訓練データ生成部１０１、訓練データ入力部１０２、アルゴリズム更新部１０３、解析用データ生成部２０１、解析用データ入力部２０２、解析部２０３および細胞核領域検出部２０４の各機能ブロックは、単一のＣＰＵ１１または単一のＣＰＵ２１において実行されているが、これら各機能ブロックは単一のＣＰＵにおいて実行される必要は必ずしもなく、複数のＣＰＵで分散して実行されてもよい。また、これら各機能ブロックは、複数のＧＰＵで分散して実行されてもよいし、複数のＣＰＵと複数のＧＰＵとで分散して実行されてもよい。
【０１８２】
上記第２および第３の実施形態では、図８および図１１で説明する各ステップの処理を行うためのプログラムを記録部１３，２３に予め記録している。これに代えて、プログラムは、例えばＤＶＤ−ＲＯＭやＵＳＢメモリ等の、コンピュータ読み取り可能であって非一時的な有形の記録媒体９８から処理部１０Ｂ，２０Ｂにインストールしてもよい。または、処理部１０Ｂ，２０Ｂをネットワーク９９と接続し、ネットワーク９９を介して例えば外部のサーバ（図示せず）からプログラムをダウンロードしてインストールしてもよい。
【０１８３】
上記第１から第３の実施形態では、入力部１６，２６はキーボードまたはマウス等の入力装置であり、出力部１７，２７は液晶ディスプレイ等の表示装置として実現されている。これに代えて、入力部１６、２６と出力部１７、２７とを一体化してタッチパネル式の表示装置として実現してもよい。または、出力部１７，２７をプリンター等で構成し、解析結果の二値画像８３または細胞核の細胞核領域強調画像８４を印刷して出力してもよい。
【０１８４】
上記第１から第３の実施形態では、撮像装置３００は、深層学習装置１００Ａまたは画像解析装置１００Ｂと直接接続されているが、撮像装置３００は、ネットワーク９９を介して深層学習装置１００Ａまたは画像解析装置１００Ｂと接続されていてもよい。撮像装置４００についても同様に、撮像装置４００は、画像解析装置２００Ａまたは画像解析装置２００Ｂと直接接続されているが、撮像装置４００は、ネットワーク９９を介して画像解析装置２００Ａまたは画像解析装置２００Ｂと接続されていてもよい。
【０１８５】
＜実施例＞
以下に本発明の実施例を示し、本発明の特徴をより明確にする。
【実施例１】
【０１８６】
上記第２の実施形態に示すスタンドアロン型のシステムにて、深層学習処理および画像解析処理を行った。学習および解析の対象とする組織は、胃癌組織とした。解析処理は、２つの異なる胃癌組織標本を対象として行った。
【０１８７】
［訓練データの作成および学習］
ＨＥ染色した胃癌組織の明視野画像およびＤＡＰＩ染色した胃癌組織の蛍光画像のホールスライドイメージ（ＷＳＩ）を、バーチャルスライドスキャナを用いてカラー撮像した。撮像倍率は４０倍であった。その後、明視野画像をもとにＲ、Ｇ、Ｂ各色の色濃度値を階調化して、Ｒ、Ｇ、Ｂ各色の色濃度符号化図を作成した。また、ＤＡＰＩ染色した蛍光画像をもとに、予め設定していた閾値を用いて色濃度値を細胞核の領域とそれ以外の領域とに二値化して、二値化画像を作成した。撮像により得られた明視野画像および蛍光画像を、図１６の（ａ）および（ｂ）にそれぞれ示し、蛍光画像から作成した二値化画像を図１６の（ｃ）に示す。
【０１８８】
その後、色濃度符号化図と二値化画像とを組み合わせて訓練データを作成した。作成した訓練データを１１３×１１３画素のウィンドウサイズに分割し、分割したウィンドウサイズの訓練データを入力層として、ニューラルネットワークを学習させた。ウィンドウサイズとして採用した１１３×１１３画素は、例示的には２つから９つ程度の複数の細胞のうち、少なくとも１つの細胞の細胞核領域の全体形状が、ウィンドウ内に含まれることをサポートするサイズであった。
【０１８９】
［解析対象画像の作成］
訓練データと同様に、ＨＥ染色した胃癌組織の明視野画像のホールスライドイメージを、バーチャルスライドスキャナを用いてカラー撮像した。撮像倍率は４０倍であった。その後、撮像した明視野画像をもとにＲ、Ｇ、Ｂ各色の色濃度符号化図を作成し、作成したＲ、Ｇ、Ｂ各色の色濃度符号化図を組み合わせて解析対象画像を作成した。
【０１９０】
［解析結果］
解析対象画像の各画素を中心に、１１３×１１３画素のウィンドウサイズの解析用データを作成し、作成したウィンドウサイズの解析用データを、学習済みのニューラルネットワークに入力した。ニューラルネットワークから出力される解析結果をもとに、細胞核の領域とそれ以外の領域とに分類し、細胞核の領域の輪郭を白色で囲んだ。解析結果を図１７および図１８に示す。
【０１９１】
図１７は、１つ目の胃癌組織標本画像の解析結果である。図１７の（ａ）は、胃癌組織をＨＥ染色して撮像した明視野画像であり、図１７の（ｂ）は、解析処理により得られた細胞核の領域の輪郭を、（ａ）の明視野画像に重ねて表示した画像である。図１７の（ｂ）において白色で囲まれた領域が、細胞核の領域である。
【０１９２】
図１８は、２つ目の胃癌組織標本画像の解析結果である。図１８の（ａ）は、胃癌組織をＨＥ染色して撮像した明視野画像であり、図１８の（ｂ）は、解析処理により得られた細胞核の領域の輪郭を、（ａ）の明視野画像に重ねて表示した画像である。図１８の（ｂ）において白色で囲まれた領域が、細胞核の領域である。
【０１９３】
図１７および図１８に示すように、異なる２種類の病理組織画像の任意の位置において、細胞核の領域か否かを判定することができた。細胞核の領域判定の正答率は、８５％以上であった。
【実施例２】
【０１９４】
胃組織を捺印した細胞について、パパニコロウ染色を施し、標本を作成した。この標本について、学習済みのニューラルネットワークを用いて、上述の実施例１と同様の解析処理を行った。細胞の捺印は、胃癌部と、非胃癌部とを対象として行った。解析結果を図１９および図２０に示す。
【０１９５】
図１９は、胃癌部の捺印標本の解析結果である。図１９の（ａ）は、胃癌部の捺印標本を染色して撮像した明視野画像であり、図１９の（ｂ）は、解析処理により得られた細胞核の領域の輪郭を、（ａ）の明視野画像に重ねて表示した画像である。図１９の（ｂ）において白色で囲まれた領域が、細胞核の領域である。
【０１９６】
図２０は、非胃癌部の捺印標本の解析結果である。図２０の（ａ）は、非胃癌部の捺印標本を染色して撮像した明視野画像であり、図２０の（ｂ）は、解析処理により得られた細胞核の領域の輪郭を、（ａ）の明視野画像に重ねて表示した画像である。図２０の（ｂ）において白色で囲まれた領域が、細胞核の領域である。
【０１９７】
図１９および図２０に示すように、上述の実施例１とは染色態様が異なる捺印標本の任意の位置において、細胞核の領域か否かを判定することができた。
【符号の説明】
【０１９８】
１０（１０Ａ，１０Ｂ）      処理部
２０（２０Ａ，２０Ｂ，２０Ｃ）     処理部
１１，２１    ＣＰＵ
１２，２２    メモリ
１３，２３    記録部
１４，２４    バス
１５，２５    インタフェース部
１６，２６    入力部
１７，２７    出力部
１９，２９    ＧＰＵ
５０   ニューラルネットワーク（深層学習アルゴリズム）
５０ａ 入力層
５０ｂ 出力層
５０ｃ 中間層
６０   学習済みのニューラルネットワーク（学習済みの深層学習アルゴリズム）
６０ａ 入力層
６０ｂ 出力層
６０ｃ 中間層
７０   学習用の明視野画像（第１の訓練用画像）
７１   学習用の蛍光画像（第２の訓練用画像）
７２ｒ，７２ｇ，７２ｂ      学習用の明視野画像のＲ、Ｇ、Ｂ各色の単一色画像における色濃度符号化図（第１の訓練データ）
７３   学習用の真値像（二値化画像、第２の訓練データ）
７４   訓練データ
７４ａ 明視野画像の階調化された色濃度値
７４ｂ 真値像の二値データ
７５   ウィンドウサイズの訓練データ
７６   色濃度値
７７   真値像の二値データ
７８   解析対象の明視野画像
７９ｒ，７９ｇ，７９ｂ      解析対象の明視野画像のＲ、Ｇ、Ｂ各色の単一画像における色濃度符号化図
８０   解析用データ
８１   色濃度値
８２   判別結果（画素の推定値）
８３   解析結果の二値画像
８４   細胞核領域強調画像
８９（８９ａ，８９ｂ）      ノード
９８   記録媒体
９９   ネットワーク
１００ ベンダ側装置
１００Ａ      深層学習装置
１００Ｂ      統合型の画像解析装置
１０１ 訓練データ生成部
１０２ 訓練データ入力部
１０３ アルゴリズム更新部
１０４ ウィンドウサイズデータベース
１０５ アルゴリズムデータベース
２００ ユーザ側装置
２００Ａ      画像解析装置
２００Ｂ      統合型の画像解析装置
２００Ｃ      端末装置
２０１ 解析用データ生成部
２０２ 解析用データ入力部
２０３ 解析部
２０４ 細胞核領域検出部
３００，４００       撮像装置
３０１，４０１       撮像素子
３０２，４０２       蛍光顕微鏡
３０８，４０８       試料組織
３０９，４０９       ステージ
Ｗ１   ウィンドウ
Ｗ２   ウィンドウ
【図１】
2019095853.tif 000019
【図２】
2019095853.tif 000020
【図３】
2019095853.tif 000021
【図４】
2019095853.tif 000022
【図５】
2019095853.tif 000023
【図６】
2019095853.tif 000024
【図７】
2019095853.tif 000025
【図８】
2019095853.tif 000026
【図９】
2019095853.tif 000027
【図１０】
2019095853.tif 000028
【図１１】
2019095853.tif 000029
【図１２】
2019095853.tif 000030
【図１３】
2019095853.tif 000031
【図１４】
2019095853.tif 000032
【図１５】
2019095853.tif 000033
【図１６】
2019095853.tif 000034
【図１７】
2019095853.tif 000035
【図１８】
2019095853.tif 000036
【図１９】
2019095853.tif 000037
【図２０】
2019095853.tif 000038