(57)【要約】      （修正有）【課題】解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成することを一課題とする。【解決手段】ニューラルネットワーク構造の深層学習アルゴリズム６０を用いて、組織の画像を解析する画像解析方法により課題を解決する。前記画像解析方法では、解析対象の組織を含む解析対象画像７８から解析用データ８０を生成し、解析用データ８０を、深層学習アルゴリズム６０に入力し、深層学習アルゴリズム６０によって、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する。【選択図】図６
2019148473.tif 000002
【特許請求の範囲】
【請求項１】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織の画像を解析する画像解析方法であって、
解析対象の組織を含む解析対象画像から解析用データを生成し、
前記解析用データを、前記深層学習アルゴリズムに入力し、
前記深層学習アルゴリズムによって、前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する、
ことを含む、画像解析方法。
【請求項２】
さらに、前記深層学習アルゴリズムによって、
前記解析用データに含まれる領域が非腫瘍領域であることを示すデータを生成する、
請求項１の画像解析方法。
【請求項３】
さらに、前記深層学習アルゴリズムによって、前記解析用データに含まれる領域が組織を含まない領域であることを示すデータを生成する、
請求項１または２の画像解析方法。
【請求項４】
前記解析対象画像が、組織診断用標本の画像であり、前記解析対象画像が２以上の原色を組み合わせた色相を含む、
請求項１乃至３のいずれか１項の画像解析方法。
【請求項５】
前記解析対象画像が、前記解析対象の組織を３倍から２０倍に拡大して撮像された画像である、
請求項１乃至４のいずれか１項の画像解析方法。
【請求項６】
前記解析対象画像に含まれる領域の大きさが、２００μｍ×２００μｍ以上４００μｍ×４００μｍ以下である、
請求項１乃至５のいずれか１項の画像解析方法。
【請求項７】
前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、腫瘍細胞の領域とそれ以外の領域とを区別して提示するためのデータを生成する、
請求項１乃至６のいずれか１項の画像解析方法。
【請求項８】
前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、腫瘍細胞の領域とそれ以外の領域との境界を示すデータを生成する、
請求項１乃至６のいずれか１項の画像解析方法。
【請求項９】
前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、前記解析対象の組織における腫瘍領域の含有率を示すデータを生成する、
請求項１乃至６のいずれか１項の画像解析方法。
【請求項１０】
前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、前記解析対象の組織における腫瘍領域と非腫瘍領域の比率を示すデータを生成する、
請求項１乃至６のいずれか１項の画像解析方法。
【請求項１１】
１つの解析対象画像について所定画素数の領域毎に応じた複数の前記解析用データを生成する、
請求項１乃至１０のいずれか１項の画像解析方法。
【請求項１２】
さらに、１つの解析対象画像について、腫瘍領域と、非腫瘍領域と、組織を含まない領域とを区別して提示するためのデータを生成する、請求項１乃至１１のいずれか１項の画像解析方法。
【請求項１３】
前記ニューラルネットワークの入力層のノード数が、前記解析用データの前記所定画素数と前記組み合わせた原色の数との積に対応している、
請求項１乃至１２のいずれか１項の画像解析方法。
【請求項１４】
前記標本が染色された標本であり、前記解析対象画像は、前記染色された標本を顕微鏡の明視野下で撮像した画像である、
請求項４乃至１３のいずれか１項の画像解析方法。
【請求項１５】
前記深層学習アルゴリズムの学習に用いられる訓練データが、個体から採取された腫瘍領域を含む組織の標本に対して明視野観察用染色を施して作製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像に基づいて生成されている、
請求項１乃至１４のいずれか１項の画像解析方法。
【請求項１６】
前記明視野観察用染色は、核染色にヘマトキシリンを用いる、
請求項１５の画像解析方法。
【請求項１７】
前記明視野観察用染色が、ヘマトキシリン・エオジン染色である、
請求項１５の画像解析方法。
【請求項１８】
前記訓練データが、前記明視野画像から判定された、腫瘍領域であることを示すラベル値を含む、
請求項１５乃至１７のいずれか１項の画像解析方法。
【請求項１９】
前記訓練データが、前記ラベル値を前記明視野画像の所定画素数の領域毎に含む、
請求項１８の画像解析方法。
【請求項２０】
前記訓練データが、前記明視野画像における所定画素数の領域毎に生成されている、
請求項１５乃至１９のいずれか１項の画像解析方法。
【請求項２１】
前記深層学習アルゴリズムが、前記解析用データを、前記解析対象画像に含まれる組織が腫瘍領域であることを示すクラスに分類する、
請求項１乃至２０のいずれか１項の画像解析方法。
【請求項２２】
前記ニューラルネットワークの出力層がソフトマックス関数を活性化関数とするノードである、
請求項１乃至２１のいずれか１項の画像解析方法。
【請求項２３】
前記深層学習アルゴリズムは、前記解析用データが入力される度に、前記前記所定の領域が腫瘍領域を含むか否かを示すデータを所定画素数の領域毎に生成する、
請求項１乃至２２のいずれか１項の画像解析方法。
【請求項２４】
前記深層学習アルゴリズムが、前記組織の種類に応じて生成されている、
請求項１乃至２３のいずれか１項の画像解析方法。
【請求項２５】
さらに、前記組織の種類に応じて複数の前記深層学習アルゴリズムの中から選択された、前記解析対象の組織の種類に対応する前記深層学習アルゴリズムを用いて、前記解析用データを処理する、
請求項２４の画像解析方法。
【請求項２６】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織の画像を解析する画像解析装置であって、
解析対象の組織を含む解析対象画像から解析用データを生成し、
前記解析用データを、前記深層学習アルゴリズムに入力し、
前記深層学習アルゴリズムによって、前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する処理部、
を備える画像解析装置。
【請求項２７】
ニューラルネットワーク構造の深層学習アルゴリズムを用いて、組織の画像を解析するコンピュータプログラムであって、
コンピュータに、
解析対象の組織を含む解析対象画像から解析用データを生成する処理と、
前記解析用データを、前記深層学習アルゴリズムに入力する処理と、
前記深層学習アルゴリズムによって、前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する処理と、
を実行させるプログラム。
【請求項２８】
深層学習アルゴリズムの学習に用いられる訓練データを訓練用の組織標本から取得した訓練用画像に基づいて生成するステップと、前記訓練データをニューラルネットワークに学習させるステップと、を含み、
前記生成ステップは、
腫瘍領域を撮像した第１の訓練用画像に対応する第１の訓練データを取得する第１の取得ステップと、
非腫瘍領域を撮像した第２の訓練用画像に対応する第２の訓練データを取得する第２の取得ステップと、
組織を含まない領域を撮像した第３の訓練用画像に対応する第３の訓練データを取得する第３の取得ステップと、
を含み、
前記学習ステップは、
前記第１の訓練データが、腫瘍領域であることをニューラルネットワークに学習させる第１の学習ステップと、
前記第２の訓練データが、非腫瘍領域であることをニューラルネットワークに学習させる第２の学習ステップと、
前記第３の訓練データが、組織を含まない領域であることをニューラルネットワークに学習させる第３の学習ステップと、
を含む、
学習済み深層学習アルゴリズムの生成方法。
【請求項２９】
前記第１の訓練データと、第２の訓練データと、第３の訓練データとをニューラルネットワークの入力層とし、腫瘍領域であることと、非腫瘍領域であることと、組織を含まない領域であることとをそれぞれ前記第１の訓練データと、第２の訓練データと、第３の訓練データとに対応するニューラルネットワークの出力層とする、
請求項２８の学習済み深層学習アルゴリズムの生成方法。
【請求項３０】
前記第１の取得ステップの前に、前記第１の訓練用画像から、前記第１の訓練データを生成するステップと、
前記第２の取得ステップの前に、前記第２の訓練用画像から、前記第２の訓練データを生成するステップと、
前記第３の取得ステップの前に、前記第３の訓練用画像から、前記第３の訓練データを生成するステップと、
をさらに含む、
請求項２８または２９の学習済み深層学習アルゴリズムの製造方法。
【請求項３１】
前記訓練用画像が、個体から採取された組織に対して明視野観察用染色を施して作製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像である、
請求項２８乃至３０のいずれか１項の学習済み深層学習アルゴリズムの生成方法。
【請求項３２】
第１の訓練データと、第２の訓練データと、第３の訓練データとをニューラルネットワークの入力層とし、腫瘍領域であることと、非腫瘍領域であることと、組織を含まない領域であることとをそれぞれ前記第１の訓練データと、第２の訓練データと、第３の訓練データとに対応するニューラルネットワークの出力層として学習させた深層学習アルゴリズムであって、
前記第１の訓練データは、訓練用の組織の腫瘍領域を撮像した第１の訓練用画像から生成され、
前記第２の訓練データは、訓練用の組織の非腫瘍領域を撮像した第２の訓練用画像から生成され、
前記第３の訓練データは、組織を含まない領域を撮像した第３の訓練用画像から生成される、
学習済み深層学習アルゴリズム。 
【発明の詳細な説明】
【技術分野】
【０００１】
本明細書には、画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズムが開示される。より詳細には、解析対象の組織の画像について、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成することを含む画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズム等が開示される。
【背景技術】
【０００２】
特許文献１には、病理組織画像において組織像を、正常、良性腫瘍、前癌状態および癌状態の４つのグループに分類し、判定する画像診断支援装置が開示されている。画像分類手段は、画像データから注視領域を抽出し、注視領域の特徴を示す特徴量を算出し、算出した特徴量に基づいてグループの分類を行う。特徴量は、細胞核における単位面積あたりの塊の密度、塊面積の密度、塊の面積、塊の太さ、および塊の長さなどである。画像判定手段は、このような特徴量と判定結果との関係を学習し、学習済みの学習パラメータに基づいて判定を行う。学習は、サポートベクターマシンなどの学習アルゴリズムを用いて、機械学習を実行する。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１０−２０３９４９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
悪性腫瘍であるか否かを確定診断する際に、病理組織標本を用いた病理組織診断が行われる。また病理組織診断は、手術中に悪性腫瘍を含む組織の切除部位を決定するための術中迅速診断として行われることも少なくない。術中迅速診断は、手術中に患者の患部を切開した状態で待機させ、腫瘍が悪性であるか、切除した組織の断端に腫瘍が残っていないか、リンパ節転移があるか等の判断を病理組織診断により行うものである。術中迅速診断の結果により、待機している患者のその後の手術の方向性が決められる。
【０００５】
病理組織診断は、医師、特に病理医が顕微鏡等により組織標本を観察して診断するが、組織標本の観察により正確な確定診断を行えるようになるためには、長い期間、熟練した病理専門医の元で、様々な症例の組織標本の観察を繰り返す必要があり、病理医の育成にも膨大な時間を要している。
【０００６】
病理医の不足は深刻であり、病理医が不足している結果、患者の悪性腫瘍の確定診断が遅れ、治療開始が遅れる、あるいは確定診断を待たずに治療を開始するという状態も危惧されている。また、通常の組織診断と術中迅速診断との両方が、少ない病理医に集中するために、一人の病理医の業務量が膨大となり、病理医自身の労務状態も問題となっている。しかし、現在のところこの問題の解消策は見つかっていない。
【０００７】
したがって、病理組織診断を装置がサポートできるようになることは、特にその診断が人の目による判断に近いほど、病理医不足の解消、および病理医の労務状態の改善に大きく貢献すると考えられる。
【０００８】
装置が病理組織診断をサポートするという点において、上述の特許文献１に記載の発明では、機械学習による画像解析に基づいて標本組織の病理判定を行っている。この方法では、特徴量を人の手で作成する必要がある。特徴量を人の手で作成する方法には、その人の力量が画像解析の性能に大きく影響を与えるという問題がある。さらに、特許文献１に記載の発明は、顕微鏡で強拡大された組織標本の画像内の細胞核１つ１つに対して癌細胞の核であるか否かの判定を行う。したがって、標本１枚の全体について解析しようとすると長い解析時間を要するという問題がある。
【０００９】
したがって、個々の細胞について癌細胞の核であるか否かを病理医や機械学習アルゴリズムによって判定する前に、１枚の標本に含まれる組織全体を観察し、その標本のどの部位に腫瘍組織が含まれるかをスクリーニングすることは、１枚の標本に対する病理診断にかかる時間を短縮する一助となる。
【００１０】
本発明は、解析対象の組織が解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する画像解析方法、画像解析装置、プログラム、学習済み深層学習アルゴリズムの製造方法および学習済み深層学習アルゴリズムを提供することを課題とする。
【課題を解決するための手段】
【００１１】
ある実施形態は、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織の画像を解析する画像解析方法に関する。前記画像解析方法では、解析対象の組織を含む解析対象画像（７８）から解析用データ（８０）を生成し、解析用データ（８０）を、深層学習アルゴリズム（６０）に入力し、深層学習アルゴリズム（６０）によって、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する。本発明によれば、解析対象の組織における解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成することができる。
【００１２】
前記実施形態において、好ましくは、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータは、腫瘍領域の領域を示すデータである。この実施形態により、ユーザが一目で解析対象の組織における腫瘍領域を把握することができる。
【００１３】
前記実施形態において、好ましくは、前記解析対象画像は、組織診断用標本の画像であり、２以上の原色を組み合わせた色相を含む。この実施形態により、病理診断を一助することができる。
【００１４】
前記実施形態において、好ましくは、前記解析対象画像は、前記解析対象の組織を３倍から２０倍に拡大して撮像された画像である。前記実施形態において、解析対象画像に含まれる領域の大きさが、２００μｍ×２００μｍ以上４００μｍ×４００μｍ以下である。これらの実施形態により、より精度の高い判別を行うことができる。
【００１５】
前記実施形態において、好ましくは、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、腫瘍細胞の領域とそれ以外の領域とを区別して提示するためのデータを生成する。この実施形態により、ユーザが一目で解析対象の組織における腫瘍領域を把握することができる。
【００１６】
前記実施形態において、好ましくは、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、腫瘍細胞の領域とそれ以外の領域との境界を示すデータを生成する。この実施形態により、ユーザが一目で解析対象の組織における腫瘍領域と非腫瘍領域の境界を把握することができる。
【００１７】
前記実施形態において、好ましくは、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、前記解析対象の組織における腫瘍領域の含有率を示すデータを生成する。この実施形態により、ユーザが解析対象の組織における腫瘍領域の含有率を把握することができる。
【００１８】
前記実施形態において、好ましくは、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、前記解析対象の組織における腫瘍領域と非腫瘍領域の比率を示すデータを生成する。この実施形態により、ユーザが解析対象の組織における腫瘍領域の含有率を把握することができる。また、遺伝子検査等に使用されるサンプルが適切に採取されているか知ることができる。
【００１９】
前記実施態様により、好ましくは、１つの解析対象画像について、腫瘍領域と、非腫瘍領域と、組織を含まない領域とを区別して提示するためのデータを生成する。この実施形態により、ユーザが一目で解析対象の組織における腫瘍領域の有無を把握することができる。
【００２０】
前記実施形態において、好ましくは、１つの解析対象画像について所定画素数の領域毎に応じた複数の解析用データを生成する。この実施形態により、解析対象の組織の広い範囲について、精度よく解析を行うことができる。
【００２１】
前記実施形態において、好ましくは、深層学習アルゴリズム（６０）は、入力された前記解析用データに対し前記所定画素数の領域が腫瘍領域および非腫瘍領域から選択される少なくとも一方を含むことを示すラベルを生成する。
【００２２】
前記実施形態において、好ましくは、ニューラルネットワーク（５０）の入力層（５０ａ）のノード数が、解析用データ（８０）の前記所定画素数と前記組み合わせた原色の数との積に対応している。この実施形態により、精度の高い解析を行うことができる。
【００２３】
前記実施形態において、好ましくは、前記標本が染色された標本であり、前記解析対象画像は、前記染色された標本を顕微鏡の明視野下で撮像した画像である。この実施形態により、病理診断を一助することができる。
【００２４】
前記実施形態において、好ましくは、前記深層学習アルゴリズムの学習に用いられる訓練データが、個体から採取された腫瘍領域を含む組織の標本に対して明視野観察用染色を施して作製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像に基づいて生成されている。この実施形態により、組織診断を一助することができる。
【００２５】
前記実施形態において、好ましくは、前記明視野観察用染色は、核染色にヘマトキシリンを用いる。より好ましくは、前記明視野観察用染色が、ヘマトキシリン・エオジン染色（ＨＥ染色）である。この実施形態により、組織診断として汎用性の高い検査を網羅することができる。
【００２６】
前記実施形態において、好ましくは、前記訓練データが、前記明視野画像から判定された、腫瘍領域であることを示すラベル値を含む。より好ましくは、前記訓練データが、前記ラベル値を前記明視野画像の所定画素数の領域毎に含む。この実施形態により、腫瘍領域の訓練データを生成することができる。
【００２７】
前記実施形態において、好ましくは、前記訓練データが、前記明視野画像における所定画素数の領域毎に生成されている。この態様により、深層学習アルゴリズム（５０）の学習効率を上げることができる。
【００２８】
前記実施形態において、好ましくは、前記深層学習アルゴリズムが、前記解析用データを、前記解析対象画像に含まれる組織が腫瘍領域であることを示すクラスに分類する。
【００２９】
前記実施形態において、好ましくは、前記ニューラルネットワーク（５０）の出力層（５０ｂ）がソフトマックス関数を活性化関数とするノードである。この実施形態により、学習効率および解析精度を上げることができる。
【００３０】
前記実施形態において、好ましくは、前記深層学習アルゴリズムは、解析用データ（７８）が入力される度に、前記解析対象画像に含まれる組織が腫瘍領域であることを示すデータを所定画素数の領域毎に生成する。この実施形態により、解析効率を上げることができる。
【００３１】
前記実施形態において、好ましくは、深層学習アルゴリズム（６０）が、前記組織の種類に応じて生成されている。さらに、好ましくは、前記組織の種類に応じて複数の前記深層学習アルゴリズムの中から選択された、前記解析対象の組織の種類に対応する前記深層学習アルゴリズムを用いて、前記解析用データを処理する。この実施形態により、解析精度を上げることができる。
【００３２】
ある実施形態は、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織の画像を解析する画像解析装置（１００）に関する。前記解析装置は、解析対象の組織を含む解析対象画像（７８）から解析用データ（８０）を生成し、解析用データ（８０）を、深層学習アルゴリズム（５０）に入力し、深層学習アルゴリズム（５０）によって、前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する処理部（１０）を備える。
【００３３】
ある実施形態は、ニューラルネットワーク構造の深層学習アルゴリズム（６０）を用いて、組織の画像を解析するコンピュータプログラムに関する。前記コンピュータに、解析対象の組織を含む解析対象画像（７８）から解析用データ（８０）を生成する処理と、解析用データ（８０）を、深層学習アルゴリズム（６０）に入力する処理と、深層学習アルゴリズム（６０）によって、前記解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する処理と、を実行させる。
【００３４】
ある実施態様は、深層学習アルゴリズム（５０）の学習に用いられる訓練データを訓練用の組織標本から取得した訓練用画像に基づいて生成するステップと、前記訓練データをニューラルネットワーク（５０）に学習させる学習させるステップと、を含み、前記生成ステップは、腫瘍領域を撮像した第１の訓練用画像（７０Ｒ１）に対応する第１の訓練データ（７４Ｒ１）を取得する第１の取得ステップと、非腫瘍領域を撮像した第２の訓練用画像（７０Ｒ２）に対応する第２の訓練データ（７４Ｒ２）を取得する第２の取得ステップと、組織を含まない領域を撮像した第３の訓練用画像（７０Ｒ３）に対応する第３の訓練データ（７４Ｒ３）を取得する第３の取得ステップと、を含み、前記学習ステップは、前記第１の訓練データ（７４Ｒ１）が、腫瘍領域であることをニューラルネットワーク（５０）に学習させる第１の学習ステップと、前記第２の訓練データ（７４Ｒ２）が、非腫瘍領域であることをニューラルネットワーク（５０）に学習させる第２の学習ステップと、前記第３の訓練データ（７４Ｒ３）が、組織を含まない領域であることをニューラルネットワーク（５０）に学習させる第３の学習ステップと、を含む、学習済み深層学習アルゴリズムの生成方法に関する。好ましくは、前記第１の訓練データ（７４Ｒ１）と、第２の訓練データ（７４Ｒ２）と、第３の訓練データ（７４Ｒ３）とをニューラルネットワーク（５０）の入力層（５０ａ）とし、腫瘍領域であることと、非腫瘍領域であることと、組織を含まない領域であることとをそれぞれ前記第１の訓練データ（７４Ｒ１）と、第２の訓練データ（７４Ｒ２）と、第３の訓練データ（７４Ｒ３）とに対応するニューラルネットワーク（５０）の出力層（５０ｂ）とする。さらに好ましくは、前記第１の取得ステップの前に、前記第１の訓練用画像（７０Ｒ１）から、前記第１の訓練データ（７４Ｒ１）を生成するステップと、前記第２の取得ステップの前に、前記第２の訓練用画像（７０Ｒ２）から、前記第２の訓練データ（７４Ｒ２）を生成するステップと、前記第３の取得ステップの前に、前記第３の訓練用画像（７０Ｒ３）から、前記第３の訓練データ（７４Ｒ３）を生成するステップと、をさらに含む。本実施形態によれば、解析対象の組織が、腫瘍領域および非腫瘍領域から選択される少なくとも一方を含むことを判別する、学習済み深層学習アルゴリズムの生成することができる。
【００３５】
前記生成方法において、好ましくは、前記訓練用画像が、個体から採取された組織に対して明視野観察用染色を施して作製された標本の染色像を顕微鏡の明視野下で撮像した明視野画像である。
【００３６】
ある実施形態は、第１の訓練データ（７４Ｒ１）と、第２の訓練データ（７４Ｒ２）と、第３の訓練データ（７４Ｒ３）とをニューラルネットワーク（５０）の入力層（５０ａ）とし、腫瘍領域であることと、非腫瘍領域であることと、組織を含まない領域であることとをそれぞれ前記第１の訓練データ（７４Ｒ１）と、第２の訓練データ（７４Ｒ２）と、第３の訓練データ（７４Ｒ３）とに対応するニューラルネットワーク（５０）の出力層（５０ｂ）として学習させた深層学習アルゴリズムであって、前記第１の訓練データ（７４Ｒ１）は、訓練用の組織の腫瘍領域を撮像した第１の訓練用画像（７０Ｒ１）から生成され、前記第２の訓練データ（７４Ｒ２）は、訓練用の組織の非腫瘍領域を撮像した第２の訓練用画像（７０Ｒ２）から生成され、前記第３の訓練データ（７４Ｒ３）は、組織を含まない領域を撮像した第３の訓練用画像（７０Ｒ３）から生成される、学習済み深層学習アルゴリズム（６０）である。
【発明の効果】
【００３７】
標本に含まれる組織全体を観察し、その標本のどの部位に腫瘍組織が含まれるかスクリーニングするためのデータを生成することができる。
【図面の簡単な説明】
【００３８】
【図１】深層学習方法の概要を説明するための模式図である。
【図２】深層学習方法の概要を説明するための模式図である。
【図３】深層学習方法の概要を説明するための模式図である。
【図４】訓練データの詳細を説明するための模式図である。
【図５】訓練データの詳細を説明するための模式図である。
【図６】画像解析方法の概要を説明するための模式図である。
【図７】第１の実施形態に係る画像解析システムの概略構成図である。
【図８】ベンダ側装置１００のハードウェア構成を示すブロック図である。
【図９】ユーザ側装置２００のハードウェア構成を示すブロック図である。
【図１０】第１の実施形態に係る深層学習装置１００Ａの機能を説明するためのブロック図である。
【図１１】深層学習処理の手順を示すフローチャートである。
【図１２】ニューラルネットワークによる学習の詳細を説明するための模式図である。
【図１３】第１の実施形態に係る画像解析装置２００Ａの機能を説明するためのブロック図である。
【図１４】画像解析処理の手順を示すフローチャートである。
【図１５】第２の実施形態に係る画像解析システムの概略構成図である。
【図１６】第２の実施形態に係る統合型の画像解析装置２００Ｂの機能を説明するためのブロック図である。
【図１７】第３の実施形態に係る画像解析システムの概略構成図である。
【図１８】第３の実施形態に係る統合型の画像解析装置１００Ｂの機能を説明するためのブロック図である。
【図１９】胃がん組織から取得された組織標本の解析結果である。（ａ）は、胃がん組織をＨＥ染色して撮像した明視野画像のホールスライドイメージであり、解析対象の画像である。（ｂ）は、ホールスライドイメージの腫瘍領域を病理医が指定し実線で囲った像である。（ｃ）は、拡大倍率１倍の訓練用画像と解析用画像を用いた解析結果を示す。（ｄ）は、拡大倍率５倍の訓練用画像と解析用画像を用いた解析結果を示す。（ｅ）は、拡大倍率４０倍の訓練用画像と解析用画像を用いた解析結果を示す。図１９（ｃ）から（ｅ）において解析処理により得られた腫瘍領域を白で表示し、非腫瘍領域をグレーで示し、非組織領域を黒で示す。
【図２０】胃がん組織から取得された組織標本の解析結果である。（ａ）は、胃がん組織をＨＥ染色して撮像した明視野画像のホールスライドイメージであり、解析対象の画像である。（ｂ）は、ホールスライドイメージの腫瘍領域を病理医が指定し実線で囲った像である。（ｃ）は、拡大倍率５倍の訓練用画像と解析用画像を用いた解析結果を示す。（ｄ）は、拡大倍率１６倍の訓練用画像と解析用画像を用いた解析結果を示す。図１９（ｃ）、（ｄ）において解析処理により得られた腫瘍領域を白で表示し、非腫瘍領域をグレーで示し、非組織領域を黒で示す。
【図２１】組織標本の拡大倍率とウィンドウサイズの画素数による判別精度の違いを示す図である。（ａ）は各拡大倍率の感度、（ｂ）は、各拡大倍率の陽性的中率を示す。（ｃ）は、ウィンドウサイズの画素数の違いによる感度、（ｄ）は陽性的中率の変化を示す。
【発明を実施するための形態】
【００３９】
以下、本発明の概要および実施の形態を、添付の図面を参照して詳細に説明する。なお、以下の説明および図面において、同じ符号は同じまたは類似の構成要素を示すこととし、よって、同じまたは類似の構成要素に関する説明を省略する。
【００４０】
画像解析方法は、組織の画像を解析する。前記画像解析方法は、ニューラルネットワーク構造の、好ましくは、畳み込みニューラルネットワーク構造の深層学習アルゴリズムを用いる。前記画像解析方法は、解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成することを含む。
【００４１】
本発明において、組織または細胞の画像は、組織試料の標本または細胞を含む試料の標本から取得される画像である。組織試料の標本または細胞を含む試料の標本は、個体から採取される。個体は、特に制限されないが、好ましくは哺乳類であり、より好ましくはヒトである。前記個体から試料が採取される際に、個体が生きているか死亡しているかは問わない。前記組織は、個体内に存在するものである限り、制限されない。前記個体から採取された組織としては、外科的な切除組織、生検組織等を挙げることができる。前記腫瘍は上皮性および非上皮性のいずれであってもよい。前記腫瘍として好ましくは悪性上皮性腫瘍である。悪性腫瘍は、特に制限されないが、悪性腫瘍としては、例えば、気管、気管支又は肺等から発生する呼吸器系悪性腫瘍；上咽頭、食道、胃、十二指腸、空腸、回腸、盲腸、虫垂、上行結腸、横行結腸、Ｓ状結腸、直腸又は肛門部等から発生する消化管系悪性腫瘍；肝臓癌；膵臓癌；膀胱、尿管又は腎臓から発生する泌尿器系悪性腫瘍；卵巣、卵管および子宮等から発生する女性生殖器系悪性腫瘍；乳癌；前立腺癌；皮膚癌；視床下部、下垂体、甲状腺、副甲状腺、副腎等の内分泌系悪性腫瘍；中枢神経系悪性腫瘍；骨軟部組織から発生する悪性腫瘍等の固形腫瘍が挙げられる。より好ましくは、肺癌（扁平上皮癌、小細胞癌、大細胞癌、腺癌）等の呼吸器系上皮性悪性腫瘍；胃癌、十二指腸癌、大腸癌（Ｓ状結腸癌、直腸癌等）等の消化管系上皮性悪性腫瘍；肝臓癌；膵臓癌；膀胱癌；甲状腺癌；卵巣癌；乳癌；前立腺癌を挙げることができる。最も好ましくは、胃癌である。
【００４２】
前記標本は、前記組織を顕微鏡等で観察ができるように加工した状態のもの、例えばプレパラートを意図する。前記標本は、公知の方法に従って作製することができる。例えば、組織標本の場合には、前記個体から組織を採取した後に、所定の固定液（ホルマリン固定等）で組織を固定し、その固定組織をパラフィン包埋し、パラフィン包埋組織を薄切する。薄切切片をスライドグラスにのせる。切片がのったスライドグラスに対して光学顕微鏡での観察のため、すなわち明視野観察のための染色を施し、所定の封入処理をして標本が完成する。組織標本の典型例は、組織診断用標本（病理標本）であり、染色は、へマトキシリン・エオジン（ＨＥ）染色である。
【００４３】
ＨＥ染色の核染色はヘマトキシリンである。ヘマトキシリンは、組織細胞染色において核染色剤として幅広く使用されている（例えば、免疫染色、レクチン染色、糖染色、脂肪染色、膠原線維染色等）。このため、本発明は、このようなヘマトキシリンを核染色に使う標本全般において、適用が可能である。
【００４４】
前記画像解析には、訓練用画像を用いて訓練された深層学習アルゴリズムを用いる。前記画像解析は、前記標本から取得した、解析対象の組織を含む解析対象画像から解析データを生成する。前記解析データを、前記深層学習アルゴリズムに入力し、前記解析対象画像内に存在する組織が解析用データに含まれる領域が腫瘍領域であるか否かを示すデータを生成する。解析用データに含まれる領域が腫瘍領域であるか否かを示すデータとは、判別対象にある組織に含まれる複数の注目画素を含む領域が、腫瘍組織を含む可能性および／または非腫瘍領域である可能性を示すデータである。解析用データに含まれる領域が腫瘍領域であるか否かを示すデータは、腫瘍領域を含むことと非腫瘍領域であることを区別できるラベル値、表示等であり得る。
【００４５】
前記訓練用画像は、学習対象となる標本の複数の領域から取得される。好ましくは、前記訓練用画像は、学習対象となる組織に含まれる複数の層構造から層構造ごとに腫瘍領域を含む領域、非腫瘍領域を含む領域、および組織を含まない領域より取得される。
【００４６】
例えば、第１の訓練用画像７０Ｒ１は、個体から採取された組織に含まれる、腫瘍領域を含む領域から取得された画像である。この画像は、顕微鏡観察により、組織構造が認識できるように染色された標本から取得される。前記染色は、組織構造が認識できる限り制限されないが、好ましくは明視野観察用の染色である。前記明視野観察用染色は、少なくとも細胞核と細胞核以外の部位が、色相で区別可能に染色できる限り制限されない。前記標本が哺乳類の組織標本である場合には、例えば、ＨＥ染色を挙げることができる。
【００４７】
第１の訓練用画像７０Ｒ１からは、第１の訓練データ７４Ｒ１と、第１の予備訓練データ７０Ｒ１Ｌが生成される。第１の訓練データ７４Ｒ１は、第１の訓練用画像７０Ｒ１に含まれる色相を原色毎に分離した単一色画像に関する情報である。第１の予備訓練データ７０Ｒ１Ｌは、第１の訓練用画像７０Ｒ１に含まれている組織の領域が、腫瘍領域を含むことを示す二値化データ（ラベル値）として生成される。第１の訓練用画像７０Ｒ１に含まれる組織の領域が腫瘍領域を含むか否かは、例えば病理医等による標本観察により判定される。ここで、前記訓練用画像に含まれる組織の領域において、腫瘍細胞と、非腫瘍細胞と、細胞以外の組織の領域とが混在する場合がある。この場合、前記訓練用画像に含まれる組織の領域が、例えば前記訓練用画像に含まれる組織の領域全体の面積を１００％とした際に、腫瘍細胞がその全体の面積の約１０％以上、約２０％以上、約３０％以上、約４０％以上、約５０％以上、約６０％以上、約７０％以上、約８０％以上、または約９０％以上を占める場合に、腫瘍領域を含むと判定することができる。好ましくは、約４０％以上、約５０％以上、約６０％以上、約７０％以上、約８０％以上、または約９０％以上を占める場合に、腫瘍領域を含むと判定することができる。前記訓練用画像に含まれる組織の領域全体の面積（１００％）から非腫瘍細胞および細胞以外の組織（非腫瘍領域）が占める割合を減じた値を前記腫瘍細胞が組織全体の面積を占める割合として決定してもよい。
【００４８】
前記訓練用画像に含まれる第２の訓練用画像７０Ｒ２は、非腫瘍領域を含む組織の領域（好ましくは、非腫瘍細胞と細胞以外の組織の領域とを含む領域）から取得された画像である。この画像は、顕微鏡観察により、組織構造が認識できるように染色された標本から取得される。前記染色は、組織構造が認識できる限り制限されないが、好ましくは明視野観察用の染色である。前記明視野観察用染色は、少なくとも細胞核と細胞核以外の部位が、色相で区別可能に染色できる限り制限されない。前記標本が哺乳類の組織標本である場合には、例えば、ＨＥ染色を挙げることができる。前記染色は、第１の訓練用画像７０Ｒ１を取得した標本と同じものであることが好ましい。
【００４９】
第２の訓練用画像７０Ｒ２からは、第２の訓練データ７４Ｒ２と、第２の予備訓練データ７０Ｒ２Ｌが生成される。第２の訓練データ７４Ｒ２は、第２の訓練用画像７０Ｒ２に含まれる色相を原色毎に分離した単一色画像に関する情報である。第２の予備訓練データ７０Ｒ２Ｌは、第２の訓練用画像７０Ｒ２に含まれている組織の領域が、非腫瘍領域を含むことを示す二値化データ（ラベル値）である。第２の訓練用画像７０Ｒ２に含まれる組織の領域が非腫瘍領域を含むか否かは、例えば病理医等による標本観察により判定される。ここで、前記訓練用画像に含まれる組織の領域において、腫瘍細胞と、非腫瘍細胞と、細胞以外の組織の領域が混在する場合がある。この場合、前記訓練用画像に含まれる組織の領域が、例えば前記訓練用画像に含まれる組織の領域全体の面積を１００％とした際に、非腫瘍細胞と細胞以外の組織の領域（非腫瘍領域）とが組織全体の面積の約１０％以上、約２０％以上、約３０％以上、約４０％以上、約５０％以上、約６０％以上、約７０％以上、約８０％以上、約９０％以上、または１００％を占める場合に、非腫瘍領域を含むと判定することができる。好ましくは、約４０％以上、約５０％以上、約６０％以上、約７０％以上、約８０％以上、約９０％以上、または１００％を占める場合に、非腫瘍領域を含むと判定することができる。前記第２の訓練用画像７０Ｒ２に含まれる組織の領域全体の面積（１００％）から腫瘍領域が占める割合を減じた値を前記非腫瘍細胞と細胞以外の組織の領域とが組織全体の面積を占める割合として決定してもよい。
【００５０】
前記訓練用画像に含まれる第３の訓練用画像７０Ｒ３は、第１の訓練用画像７０Ｒ１、および／または第２の訓練用画像７０Ｒ２を取得した標本における組織を含まない領域（非組織領域ともいう）から取得された画像である。
【００５１】
第３訓練用画像からは、第３の訓練データ７４Ｒ３と、第３の予備訓練データ７０Ｒ３Ｌが生成される。第３の訓練データ７４Ｒ３は、第３の訓練用画像７０Ｒ３に含まれる色相を原色毎に分離した単一色画像に関する情報である。第３の予備訓練データ７０Ｒ２Ｌは、第３の訓練用画像７０Ｒ３に含まれている領域が、組織を含まない領域であることであることを示す二値化データ（ラベル値）である。第３の訓練用画像７０Ｒ３に含まれる領域は、例えば病理医等による標本観察により判定される。ここで、前記訓練用画像には、組織の領域と背景（例えば、プレパラートのガラス部分）の領域とが混在する場合がある。この場合、前記訓練用画像に含まれる背景の領域が、例えば前記１枚の訓練用画像に含まれる領域全体の面積を１００％とした際に、背景の領域が約９０％以上、約９１％以上、約９２％以上、約９３％以上、約９４％以上、約９５％以上、約９６％以上、約９７％以上、約９８％以上、または約９９％以上を占める場合、あるいは背景の領域が１００％を占める場合に、組織を含まない領域であると判定することができる。好ましくは、背景の領域が約９５％以上、約９６％以上、約９７％以上、約９８％以上、または約９９％以上を占める場合、あるいは背景の領域が１００％を占める場合に、組織を含まない領域であると判定することができる。
【００５２】
各訓練用画像は、訓練用の組織標本を、例えば５倍から２０倍に拡大した画像として取得されることが好ましい。判別精度の点から、３０倍以上、特に４０倍以上に拡大した画像は、訓練用画像としては不向きである。
【００５３】
第１の訓練データ７４Ｒ１および第１の予備訓練データ７０Ｒ１Ｌからは腫瘍領域訓練データが生成され、第２の訓練データ７４Ｒ２および第２の予備訓練データ７０Ｒ２Ｌからは非腫瘍領域訓練データが生成され、第３の訓練データ７４Ｒ３および第３の予備訓練データ７０Ｒ２Ｌからは非組織領域訓練データが生成される。腫瘍領域訓練データ、非腫瘍領域訓練データおよび非組織領域訓練データを併せて訓練データと呼ぶことがある。
【００５４】
本発明の概要および実施の形態では、ＨＥ染色された組織標本を撮像した画像内に含まれる組織が腫瘍領域、非腫瘍領域および非組織領域を含むことを、深層学習アルゴリズムによって判別する場合を一例として説明する。
【００５５】
［深層学習方法および画像解析方法の概要］
はじめに、深層学習方法について説明する。
【００５６】
・深層学習方法の概要
図１を用いて、第１の訓練データ７４Ｒ１、第１の予備訓練データ７０Ｒ１Ｌおよび腫瘍領域訓練データ７５Ｒ１の概要を説明する。図１には、スライドイメージスキャナにより取得した組織標本のホールスライドイメージ７０Ｗ１を使ったニューラルネットワークへの訓練データの入力例を示す。ホールスライドイメージ７０Ｗ１は明視野観察用染色としてＨＥ染色を施して作製された標本を明視野で撮像した組織標本のスライドイメージを示す。ホールスライドイメージ７０Ｗ２は、病理医によりホールスライドイメージ７０Ｗ１において腫瘍領域を含む部分を病理医が実線で囲って指定した画像である。ホールスライドイメージ７０Ｗ３は、ホールスライドイメージ７０Ｗ２を訓練用画像として分割（例えば、５１２分割）した像を示す。ホールスライドイメージ７０Ｗ３内の記号Ｒ１で示された四角枠で囲まれた領域は、図１に示す第１の訓練用画像７０Ｒ１として使用する領域を示す。記号Ｒ２で示された四角枠で囲まれた領域は、図２に示す第２の訓練用画像７０Ｒ２として使用する領域を示す。記号Ｒ３で示された四角枠で囲まれた領域は、図３に示す第３の訓練用画像７０Ｒ３として使用する領域を示す。第１の訓練用画像７０Ｒ１が腫瘍領域を含むこと、第２の訓練用画像７０Ｒ２が非腫瘍領域を含むこと、および第３の訓練用画像７０Ｒ３が組織を含まない領域であることは、それぞれの訓練画像を取得する前に判定していてもよく、それぞれの訓練画像を取得してから判定してもよい。
【００５７】
図１において、第１の訓練用画像７０Ｒ１は、ＨＥ染色した標本を明視野観察下で例えばカラー画像として撮像しているため、第１の訓練用画像７０Ｒ１には複数の色相が含まれる。
【００５８】
第１の訓練用画像７０Ｒ１は、例えば公知の光学顕微鏡、蛍光顕微鏡またはバーチャルスライドスキャナ等の画像取得装置を用いて、予め取得することができる。例示的には、本実施形態において画像取得装置から取得されるカラー撮像は、カラースペースがＲＧＢの２４ビットカラーであることが好ましい。ＲＧＢの２４ビットカラーでは、赤色、緑色および青色のそれぞれの濃さ（色濃度）を、８ビット（２５６段階）の階調で表すことが好ましい。第１の訓練用画像７０Ｒ１は、１以上の原色を含む画像であればよい。第１の訓練用画像７０Ｒ１に対応して、第１の訓練データ７４Ｒ１が生成される。
【００５９】
本発明において、色相は、例示的には、光の３原色の組み合わせ、または色の３原色の組み合わせで規定される。第１の訓練データ７４Ｒ１は、第１の訓練用画像７０Ｒ１から生成される、第１の訓練用画像７０Ｒ１に現れる色相を個々の原色に分離して原色毎に生成し、その濃度に応じた符号で表されたデータである。図１では光の３原色である赤（Ｒ）、緑（Ｇ）、青（Ｂ）の原色毎に分離した単一色の濃淡で示された画像（以下、「単一色画像」ともいう）７２Ｒ１Ｒ，７２Ｒ１Ｇ，７２Ｒ１Ｂを得る。
【００６０】
単一色画像７２Ｒ１Ｒ，７２Ｒ１Ｇ，７２Ｒ１Ｂ上の各画素について各色の色濃度を符号化し、画像全体をＲ、Ｇ、Ｂ毎の各画像について、画素毎の色濃度に対応した符号化図（以下、「色濃度符号化図」ともいう）７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂを生成する。色濃度は、各色２５６段階を示す数値で符号化しても良い。また、色濃度は、各色２５６段階を示す数値に対して、さらに前処理を行って、各画素における色濃度を例えば、値０から値７の８段階で示す数字で符号化してもよい。図１に例示的に示すＲ、Ｇ、Ｂ各色の単一色画像から生成された色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂは、説明の便宜上、各画素における色濃度を値０から値７の８段階の符号で表している。図１に示す色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂから画素毎にＲ、Ｇ、Ｂの色濃度値が組み合わされた第１の訓練データ７４Ｒ１が生成される。色濃度を示す符号は、本明細書において色濃度値ともいう。また、第１の訓練データ７４Ｒ１として、色濃度符号化図に替えて、各画素に対応した色濃度値の行列を生成してもよい。
【００６１】
図１において、第１の予備訓練データ７０Ｒ１Ｌは、第１の訓練用画像７０Ｒ１に含まれている組織が、腫瘍領域を含むことを示すデータである。例えば、第１の訓練用画像７０Ｒ１は、全領域が病理医の判定により腫瘍領域であると判定されているため第１の訓練用画像７０Ｒ１には、後述する所定の画素数の領域毎に腫瘍領域を含むことを示すラベル値として同じ数値、例えば「１」が付され、第１の予備訓練データ７０Ｒ１Ｌとなる。
【００６２】
深層学習方法では、図１に示す第１の訓練データ７４Ｒ１および第１の予備訓練データ７０Ｒ１Ｌから腫瘍領域訓練データ７５Ｒ１を生成する。そして、腫瘍領域訓練データ７５Ｒ１の各画素の色濃度値データ７６（第１の訓練データ７４Ｒ１から得られる）を入力層５０ａとし、ラベル値７７Ｒ１（第１の予備訓練データ７０Ｒ１Ｌから得られる）を出力層５０ｂとするニューラルネットワーク５０に学習させる。
【００６３】
次に、図２を用いて、第２の訓練データ７４Ｒ２、第２の予備訓練データ７０Ｒ２Ｌおよび非腫瘍領域訓練データ７５Ｒ２の概要を説明する。図２において、ホールスライドイメージ７０Ｗ１、ホールスライドイメージ７０Ｗ２、およびホールスライドイメージ７０Ｗ３は図１と同様であるため、第２の訓練用画像７０Ｒ２には、第１の訓練用画像７０Ｒ１と同様に複数の色相が含まれる。
【００６４】
第２の訓練用画像７０Ｒ２は、腫瘍領域を含む組織に替えて非腫瘍領域含む組織を用いる以外は、第１の訓練用画像７０Ｒ１と同様の方法で取得される。第２の訓練用画像７０Ｒ２に対応して、第２の訓練データ７４Ｒ２が生成される。
【００６５】
第２の訓練データ７４Ｒ２は、腫瘍領域を含む組織に替えて非腫瘍領域含む組織を用いる以外は、第１の訓練データ７４Ｒ１と同様の方法で生成される。図２に示す色濃度符号化図７２Ｒ２ｒ，７２Ｒ２ｇ，７２Ｒ２ｂから画素毎にＲ、Ｇ、Ｂの色濃度値が組み合わされた第２の訓練データ７４Ｒ２が生成される。
【００６６】
図２において、第２の予備訓練データ７０Ｒ２Ｌは、第２の訓練用画像７０Ｒ２が、非腫瘍領域を含むことを示すデータである。第２の訓練用画像７０Ｒ２は全領域が病理医の判定により非腫瘍領域であると判定されているため、第２の訓練用画像７０Ｒ２には、後述する所定の画素数の領域毎に非腫瘍領域を含むことを示すラベル値として同じ数値、例えば「２」が付され、第２の予備訓練データ７０Ｒ２Ｌとなる。非腫瘍領域を含む領域であることを示すラベル値は、腫瘍領域を含む領域および組織を含まない領域を示すラベル値と区別できる限り制限されない。
【００６７】
深層学習方法では、図２に示す第２の訓練データ７４Ｒ２および第２の予備訓練データ７０Ｒ２Ｌから非腫瘍領域訓練データ７５Ｒ２を生成する。そして、非腫瘍領域訓練データ７５Ｒ２の各画素の色濃度値データ７６（第２の訓練データ７４Ｒ２から得られる）を入力層５０ａとし、ラベル値７７Ｒ２（第２の予備訓練データ７０Ｒ２Ｌから得られる）を出力層５０ｂとするニューラルネットワーク５０に学習させる。
【００６８】
次に、図３を用いて、第３の訓練データ７４Ｒ３、第３の予備訓練データ７０Ｒ３Ｌおよび非組織領域訓練データ７５Ｒ３の概要を説明する。図３において、ホールスライドイメージ７０Ｗ１、ホールスライドイメージ７０Ｗ２、およびホールスライドイメージ７０Ｗ３は図１と同様であるため、第３の訓練用画像７０Ｒ３には、第１の訓練用画像７０Ｒ１と同様に複数の色相が含まれる。
【００６９】
第３の訓練用画像７０Ｒ３は、腫瘍領域を含む領域に替えて組織を含まない領域を用いる以外は、第１の訓練用画像７０Ｒ１と同様の方法で取得される。第３の訓練用画像７０Ｒ３に対応して、第３の訓練データ７４Ｒ３が生成される。
【００７０】
第３の訓練データ７４Ｒ３は、腫瘍領域を含む領域に替えて組織を含まない領域を用いる以外は、第１の訓練データ７４Ｒ１と同様の方法で生成される。図３に示す色濃度符号化図７２Ｒ３ｒ，７２Ｒ３ｇ，７２Ｒ３ｂから画素毎にＲ、Ｇ、Ｂの色濃度値が組み合わされた第３の訓練データ７４Ｒ３が生成される。
【００７１】
図３において、第３の予備訓練データ７０Ｒ３Ｌは、第３の訓練用画像７０Ｒ３に含まれている領域が、組織を含まない領域であることを示すデータである。第３の訓練用画像７０Ｒ３は全領域が病理医の判定により非組織領域であると判定されているため、第３の訓練用画像７０Ｒ３には、後述する所定の画素数の領域毎に組織を含まない領域であることを示すラベル値として同じ数値、例えば「０」が付され、第３の予備訓練データ７０Ｒ３Ｌとなる。組織を含まない領域であることを示すラベル値は、腫瘍領域を含む領域および非腫瘍領域を含む領域を示す数値とは区別される。
【００７２】
深層学習方法では、図３に示す第３の訓練データ７４Ｒ３および第３の予備訓練データ７０Ｒ３Ｌから非組織領域訓練データ７５Ｒ３を生成するそして、非組織領域訓練データ７５Ｒ３の各画素の色濃度値データ７６（第３の訓練データ７４Ｒ３から得られる）を入力層５０ａとし、ラベル値７７Ｒ３（第３の予備訓練データ７０Ｒ３Ｌから得られる）を出力層５０ｂとするニューラルネットワーク５０に学習させる。
【００７３】
図４（ａ）、（ｂ）を参照して、腫瘍領域訓練データ７５Ｒ１の生成方法を説明する。図４（ａ）に示す第１の訓練データ７４Ｒ１は、所定の画素数の腫瘍領域の色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂのそれぞれの色濃度値を組み合わせたデータである。本明細書において、第１の訓練データ７４Ｒ１の各画素の位置は、便宜上列を左からｌ１、ｌ２・・・ｌi、行を上からｍ１、ｍ２・・・ｍｊで表す。第１の訓練データ７４Ｒ１は、図４（ａ）では、その画像サイズ（訓練データ１つあたりの大きさ）が説明の便宜のために簡素化されており、第１の訓練データ７４Ｒ１が、縦方向９画素および横方向９画素の合計８１画素を有する。すなわち、各画素の位置は、列を左からｌ１、ｌ２・・・ｌ９、行を上からｍ１、ｍ２・・・ｍ９で表す。図４（ａ）に示す３つの値が、各画素におけるＲ、Ｇ、Ｂ各色の色濃度値である。例示的には、３つの値は、左から、赤（Ｒ）、緑（Ｇ）および青（Ｂ）の順序で格納されている。第１の訓練データ７４Ｒ１の各画素の色濃度値は便宜的に値０から値７の８段階で示されている。これは、画像の前処理の一例として、撮像された際に２５６段階で表されている各色の画像７２Ｒ１Ｒ，７２Ｒ１Ｇ，７２Ｒ１Ｂの明るさを、８段階の色濃度値にそれぞれ変換する処理である。色濃度値は、例えば最も低い明るさ（ＲＧＢカラー２５６段階で表した時の輝度値が低い階調群）を色濃度値０とし、明るさの程度が高くなるに従い徐々に高い値を割り当ててゆき、最も高い明るさ（ＲＧＢカラー２５６段階で表した時の輝度値が高い階調群）を色濃度値７とする。
【００７４】
図１および図４（ｂ）に示す腫瘍領域訓練データ７５Ｒ１は、図４（ａ）に示す第１の訓練データ７４Ｒ１を所定数の画素からなる領域（以下、「ウィンドウサイズ」と記載する）で切り出したデータに第１の予備訓練データ７０Ｒ１Ｌのラベル値に対応するラベル値７７Ｒ１を付したものである。ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１も、説明の便宜のために３×３画素（ｌ１：ｌ３，ｍ１：ｍ３）に簡素化して示すが、各画素の位置は、便宜上列を左からｌ１、ｌ２・・・ｌi、行を上からｍ１、ｍ２・・・ｍｊで表す。実際の好ましいウィンドウサイズは、例示的には１２５×１２５画素（ｉ＝１２５、ｊ＝１２５）、１５０×１５０画素（ｉ＝１５０、ｊ＝１５０）、１６６×１６６画素（ｉ＝１６６、ｊ＝１６６）、１８０×１８０画素（ｉ＝１８０、ｊ＝１８０）、２００×２００画素（ｉ＝２００、ｊ＝２００）、２２０×２２０画素（ｉ＝２２０、ｊ＝２２０）、２５０×２５０画素（ｉ＝２５０、ｊ＝２５０）程度が、学習効率の点から好ましい。より好ましくは、ウィンドウサイズは２００×２００画素程度である。ウィンドウサイズは、たとえば６０μｍ×６０μｍ以上５００μｍ×５００μｍ以下の範囲である。好ましくは、６０μｍ×６０μｍ、１００μｍ×１００μｍ、１５０μｍ×１５０μｍ、２００μｍ×２００μｍ、２５０μｍ×２５０μｍ、３００μｍ×３００μｍ、３５０μｍ×３５０μｍ、４００μｍ×４００μｍ、４５０μｍ×４５０μｍ、５００μｍ×５００μｍである。より好ましくは、２００μｍ×２００μｍ〜４００μｍ×４００μｍである。例えば、図４（ｂ）に示すように、第１の訓練データ７４Ｒ１の左端から３×３画素のウィンドウＷ１（ｌ１：ｌ３，ｍ１：ｍ３）を設定し、第１の訓練データ７４Ｒ１に対して左から右にウィンドウＷ１を移動させる。ウィンドウＷ１は（ｌ１：ｌ３，ｍ１：ｍ３）の腫瘍領域訓練データ７５Ｒ１を切り出した後、第１の予備訓練データ７０Ｒ１Ｌのラベル値に対応するラベル値７７Ｒ１を腫瘍領域訓練データ７５Ｒ１に付す。ウィンドウＷ１は点線で示す腫瘍領域訓練データ７４Ｒ１の次のウィンドウ（ｌ４：ｌ６，ｍ４：ｍ６）に移動し、（ｌ４：ｌ６，ｍ４：ｍ６）をウィンドウサイズの腫瘍領域訓練データ７５Ｒ１として切り出す。新たに切り出された腫瘍領域訓練データ７５Ｒ１に第１の予備訓練データ７０Ｒ１Ｌのラベル値に対応するラベル値７７Ｒ１を付す。この操作を、繰り返し、複数のウィンドウサイズの腫瘍領域訓練データ７５Ｒ１を第１の訓練データ７４Ｒ１から切り出す。切り出したウィンドウサイズの腫瘍領域訓練データ７５Ｒ１は第１の予備訓練データ７０Ｒ１Ｌのラベル値に対応するラベル値７７Ｒ１が付され図１に示すニューラルネットワーク５０の学習に用いられる。
【００７５】
図１に示すように、ニューラルネットワーク５０の入力層５０ａのノード数は、入力されるウィンドウサイズの腫瘍領域訓練データ７５Ｒ１の画素数と画像に含まれる原色の数（例えば光の三原色であれば、Ｒ、Ｇ、Ｂの３つ）との積に対応している。ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１の各画素の色濃度値データ７６をニューラルネットワークの入力層５０ａとし、第１の予備訓練データ７０Ｒ１Ｌに対応するラベル値７７Ｒ１をニューラルネットワークの出力層５０ｂとして、ニューラルネットワーク５０に学習させる。各画素の色濃度値データ７６は、腫瘍領域訓練データ７５Ｒ１の各画素のＲ、Ｇ、Ｂ各色の色濃度値の集合データである。例示として、ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１が３×３画素である場合には、各画素についてＲ、Ｇ、Ｂ毎に１つずつの色濃度値が与えられるので、色濃度値データ７６の色濃度値数は「２７」（３×３×３＝２７）となり、ニューラルネットワーク５０の入力層５０ａのノード数も「２７」となる。
【００７６】
このように、ニューラルネットワーク５０に入力するウィンドウサイズの腫瘍領域訓練データ７５Ｒ１は、ユーザが作成することなく、コンピュータが自動的に作成することができる。これにより、ニューラルネットワーク５０の効率的な深層学習が促進される。
【００７７】
図４（ｂ）に示すように、初期状態において、ウィンドウＷ１は、第１の訓練データ７４Ｒ１の左上角に位置している。以後、ウィンドウＷ１によってウィンドウサイズの腫瘍領域訓練データ７５Ｒ１を切り出し、ニューラルネットワーク５０の学習を行う度に、ウィンドウＷ１の位置を移動させる。具体的には、ウィンドウＷ１が第１の訓練データ７４Ｒ１の例えば全ての画素を走査するように、ウィンドウＷ１を移動させる。これにより、第１の訓練データ７４Ｒ１の全ての画素から切り出されたウィンドウサイズの腫瘍領域訓練データ７５Ｒ１が、ニューラルネットワーク５０の学習に用いられる。よってニューラルネットワーク５０の学習の程度を向上でき、深層学習の結果、図６に示すニューラルネットワーク６０構造を有する深層学習アルゴリズムが得られる。
【００７８】
図５（ａ）には、第２の訓練データ７４Ｒ２を示す。第２の訓練データ７４Ｒ２から非腫瘍領域訓練データ７５Ｒ２を生成する方法は、第１の訓練データ７４Ｒ１および第１の予備訓練データ７０Ｒ１Ｌに替えて、第２の訓練データ７４Ｒ２および第２の予備訓練データ７０Ｒ２Ｌを使用する点を除き、腫瘍領域訓練データ７５Ｒ１と同様である。非腫瘍領域訓練データ７５Ｒ２に付される第２の予備訓練データ７０Ｒ２Ｌのラベル値に対応するラベル値７７Ｒ２が、図２に示す出力層５０ｂに入力される。
【００７９】
図５（ｂ）には、第３の訓練データ７４Ｒ３を示す。第３の訓練データ７４Ｒ３から非組織領域訓練データ７５Ｒ３を生成する方法は、第１の訓練データ７４Ｒ１および第１の予備訓練データ７０Ｒ１Ｌに替えて、第３の訓練データ７４Ｒ３および第３の予備訓練データ７０Ｒ３Ｌを使用する点を除き、腫瘍領域訓練データ７５Ｒ１と同様である。非組織領域訓練データ７５Ｒ３に付される第３の予備訓練データ７０Ｒ３Ｌのラベル値に対応するラベル値７７Ｒ３が、図３に示す出力層５０ｂに入力される。
【００８０】
各領域訓練データは、１０枚以上、２０枚以上、５０枚以上、１００枚以上の各領域の訓練用画像を使って生成することが好ましい。
【００８１】
・画像解析方法の概要  図６に示すように、画像解析方法では、解析対象の組織を含む標本を撮像した解析対象画像（明視野画像）７８から、解析用データ８０を生成する。前記標本は、第１の訓練用画像と同じ染色が施されていることが好ましい。解析対象画像７８も、例えば公知の顕微鏡またはバーチャルスライドスキャナ等を用いて、例えばカラー画像として取得することができる。解析対象画像７８は、訓練用画像と同程度または同じ拡大倍率で取得されることが好ましい。解析対象画像（明視野画像）７８は、１以上の原色を含む画像であればよい。カラーの解析対象画像７８を、各画素についてＲ、Ｇ、Ｂ各色の色濃度値で符号化すると、画像全体をＲ、Ｇ、Ｂ毎に各画素における色濃度値の符号化図として表すことができる（解析用色濃度符号化図７９ｒ，７９ｇ，７９ｂ）。解析用色濃度符号化図７９ｒ，７９ｇ，７９ｂから画素毎にＲ、Ｇ、Ｂの色濃度値が組み合わされた解析対象データ（図示せず）が生成される。図６に例示的に示すＲ、Ｇ、Ｂ各色の単一色画像における色濃度の符号を示す色濃度符号化図７９ｒ，７９ｇ，７９ｂは、３原色の各画像７９Ｒ，７９Ｇ，７９Ｂに代えて、値０から値７の８段階の符号で表された色濃度値を表示している。本明細書において、解析対象データの各画素の位置は、便宜上列を左からｌ１、ｌ２・・・ｌi、行を上からｍ１、ｍ２・・・ｍｊで表す。
【００８２】
解析用データ８０は、解析対象データを所定の画素数の領域（すなわち、上記各領域訓練データと同じウィンドウサイズ）で切り出したデータであり、解析対象画像７８に含まれている組織の色濃度値を含むデータである。図６では、ウィンドウサイズの解析用データ８０も、腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３と同様に、説明の便宜のために３×３画素に簡素化して示すが、実際の好ましいウィンドウサイズは、腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３と同様である。例えば、３×３画素のウィンドウＷ２を設定し、解析対象データに対してウィンドウＷ２を移動させる。ウィンドウＷ２は、解析対象データ中の所定数の画素を含んでおり、解析対象データを、各領域訓練データと同様の方法で例えば３×３画素の黒枠で示すウィンドウＷ２によって切り出すと、ウィンドウサイズの解析用データ８０が得られる。各領域訓練データと同様の方法で、複数の解析用データ８０が、解析対象データから、ウィンドウサイズに対応する所定の画素数の領域毎に生成される。解析対象データ、ウィンドウサイズの解析用データ８０においても、腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３と同様に、各画素について、色濃度値が赤（Ｒ）、緑（Ｇ）および青（Ｂ）の順序で格納されている。
【００８３】
画像解析方法では、図１から図３に示すウィンドウサイズの腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３を用いて学習させたニューラルネットワークを有する深層学習アルゴリズム６０を用いて、解析用データ８０を処理する。解析用データ８０を処理することによって、解析対象の組織における解析用データに含まれる領域が腫瘍領域であるか否かを示すデータ８３を生成する。
【００８４】
再び図６を参照し、Ｒ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂに基づき生成された解析対象データから切り出された解析用データ８０が深層学習アルゴリズムを構成するニューラルネットワーク６０に入力される。ニューラルネットワーク６０の入力層６０ａのノード数は、入力される画素数と画像に含まれる原色の数との積に対応している。解析用データ８０の各画素の色濃度値データ８１を、ニューラルネットワーク６０に入力すると、出力層６０ｂからは、解析用データ８０の推定値８２（３値）が出力される。例えば推定値が１の場合は解析用データ８０を構成する所定画素数の領域（画素領域）が腫瘍領域を含むことを示し、推定値が２の場合は前記画素領域が非腫瘍領域を含むことを示し、推定値が０の場合は前記画素領域が非組織領域であることを示す。すなわち、ニューラルネットワーク６０の出力層６０ｂから出力される推定値８２は、解析対象画像の前記画素領域毎に生成されるラベル値であり、解析対象画像における解析用データに含まれる領域が腫瘍領域であるか否かを示すデータである。推定値８２は、ニューラルネットワークに関する後述する説明ではクラスとも呼ばれる。ニューラルネットワーク６０は、入力された解析用データ８０に対し、解析用データ８０に含まれる所定数の画素の色濃度値データ８１に基づいて、腫瘍領域を含むことを示すラベル値、非腫瘍領域を含むことを示すラベル値、または非組織領域を示すラベル値を生成する。言い替えると、ニューラルネットワーク６０は、解析用データ８０を、解析対象画像に含まれる注目画素領域の状態（腫瘍化しているか、腫瘍化していないか、組織ではないか）を示すクラスに分類する。ここで、各画素の色濃度値データ８１は、解析用データ８０の各画素のＲ、Ｇ、Ｂ各色の色濃度値の集合データである。
【００８５】
以後、ウィンドウＷ２が解析対象データの全ての画素を走査するように、ウィンドウＷ２を所定画素数の領域単位で移動させながら、解析用データ８０をウィンドウサイズで切り出す。切り出された解析用データ８０を、ニューラルネットワーク６０に入力する。これにより、解析対象画像における組織の解析用データに含まれる領域が腫瘍領域であるか否かを示すデータに基づいて、ラベル値８３を得る。図６に示す例では、ラベル値８３についてさらに領域検出処理を行うことにより、領域を示す領域強調画像８４を得る。領域検出処理は、具体的には、例えば推定値８２に応じて各領域を検出する処理となり、実際に推定値８２が「１」の画素領域を腫瘍領域と、推定値８２が「２」の画素領域を非腫瘍領域と、推定値８２が０の画素領域を非組織領域と判別する処理となる。領域強調画像８４は、画像解析処理により検出された領域を、ラベル値８３を色（腫瘍領域を白、非腫瘍領域をグレー、非組織領域を黒）で表した図である）。また、各領域を判別した後に、腫瘍領域と、それ以外の領域（すなわち、非腫瘍領域および／又は非組織領域）とを識別可能に表示装置に表示させる処理を行ってもよい。例えば、腫瘍領域を色で塗りつぶす、腫瘍領域とそれ以外の領域との間に線を描画する等の処理を行い、これらを表示装置に識別可能に表示する。また、非腫瘍領域および／又は非組織領域についても識別可能に表示装置に表示させる処理を行ってもよい。
【００８６】
＜第１の実施形態＞
第１の実施形態では、上述の概要で説明した深層学習方法および画像解析方法を実施するシステムの構成について、具体的に説明する。
［構成の概要］
【００８７】
図７を参照すると、第１の実施形態に係る画像解析システムは、深層学習装置１００Ａと、画像解析装置２００Ａとを備える。ベンダ側装置１００は深層学習装置１００Ａとして動作し、ユーザ側装置２００は画像解析装置２００Ａとして動作する。深層学習装置１００Ａは、ニューラルネットワーク５０に訓練データを使って学習させ、訓練データによって訓練された深層学習アルゴリズム６０をユーザに提供する。学習済みのニューラルネットワーク６０から構成される深層学習アルゴリズムは、記憶媒体９８またはネットワーク９９を通じて、深層学習装置１００Ａから画像解析装置２００Ａに提供される。画像解析装置２００Ａは、学習済みのニューラルネットワーク６０から構成される深層学習アルゴリズムを用いて解析対象の画像の解析を行う。
【００８８】
深層学習装置１００Ａは、例えば汎用コンピュータで構成されており、後述するフローチャートに基づいて、深層学習処理を行う。画像解析装置２００Ａは、例えば汎用コンピュータで構成されており、後述するフローチャートに基づいて、画像解析処理を行う。記憶媒体９８は、例えばＤＶＤ−ＲＯＭやＵＳＢメモリ等の、コンピュータ読み取り可能であって非一時的な有形の記憶媒体である。
【００８９】
深層学習装置１００Ａは撮像装置３００に接続されている。撮像装置３００は、撮像素子３０１と、蛍光顕微鏡３０２とを備え、ステージ３０９上にセットされた学習用の標本３０８の、明視野画像および蛍光画像を撮像する。学習用の標本３０８は、上述の染色が施されている。深層学習装置１００Ａは、撮像装置３００によって撮像された訓練用画像を取得する。
【００９０】
画像解析装置２００Ａは撮像装置４００に接続されている。撮像装置４００は、撮像素子４０１と、蛍光顕微鏡４０２とを備え、ステージ４０９上にセットされた解析対象の標本４０８の、明視野画像を撮像する。解析対象の標本４０８は、上述の通り予め染色されている。画像解析装置２００Ａは、撮像装置４００によって撮像された解析対象画像７８を取得する。
【００９１】
撮像装置３００，４００には、標本を撮像する機能を有する、公知の蛍光顕微鏡またはバーチャルスライドスキャナ等を用いることができる。撮像装置４００は、標本を撮像する機能を有する限り、光学顕微鏡であっても良い。
【００９２】
［ハードウェア構成］
図８を参照すると、ベンダ側装置１００（１００Ａ，１００Ｂ）は、処理部１０（１０Ａ，１０Ｂ）と、入力部１６と、出力部１７とを備える。
【００９３】
処理部１０は、後述するデータ処理を行うＣＰＵ（Central Processing Unit）１１と、データ処理の作業領域に使用するメモリ１２と、後述するプログラムおよび処理データを記憶する記憶部１３と、各部の間でデータを伝送するバス１４と、外部機器とのデータの入出力を行うインタフェース部１５と、ＧＰＵ（Graphics Processing Unit）１９とを備えている。入力部１６および出力部１７は、処理部１０に接続されている。例示的には、入力部１６はキーボードまたはマウス等の入力装置であり、出力部１７は液晶ディスプレイ等の表示装置である。ＧＰＵ１９は、ＣＰＵ１１が行う演算処理（例えば、並列演算処理）を補助するアクセラレータとして機能する。すなわち以下の説明においてＣＰＵ１１が行う処理とは、ＣＰＵ１１がＧＰＵ１９をアクセラレータとして用いて行う処理も含むことを意味する。
【００９４】
また、処理部１０は、以下の図１０で説明する各ステップの処理を行うために、本発明に係るプログラムおよび学習前のニューラルネットワーク５０を、例えば実行形式で記憶部１３に予め記憶している。実行形式は、例えばプログラミング言語からコンパイラにより変換されて生成される形式である。処理部１０は、記憶部１３に記憶したプログラムおよび学習前のニューラルネットワーク５０を使用して処理を行う。
【００９５】
以下の説明においては、特に断らない限り、処理部１０が行う処理は、記憶部１３またはメモリ１２に格納されたプログラムおよびニューラルネットワーク５０に基づいて、ＣＰＵ１１が行う処理を意味する。ＣＰＵ１１はメモリ１２を作業領域として必要なデータ（処理途中の中間データ等）を一時記憶し、記憶部１３に演算結果等の長期保存するデータを適宜記憶する。
【００９６】
図９を参照すると、ユーザ側装置２００（２００Ａ，２００Ｂ，２００Ｃ）は、処理部２０（２０Ａ，２０Ｂ，２０Ｃ）と、入力部２６と、出力部２７とを備える。
【００９７】
処理部２０は、後述するデータ処理を行うＣＰＵ（Central Processing Unit）２１と、データ処理の作業領域に使用するメモリ２２と、後述するプログラムおよび処理データを記憶する記憶部２３と、各部の間でデータを伝送するバス２４と、外部機器とのデータの入出力を行うインタフェース部２５と、ＧＰＵ（Graphics Processing Unit）２９とを備えている。入力部２６および出力部２７は、処理部２０に接続されている。例示的には、入力部２６はキーボードまたはマウス等の入力装置であり、出力部２７は液晶ディスプレイ等の表示装置である。ＧＰＵ２９は、ＣＰＵ２１が行う演算処理（例えば、並列演算処理）を補助するアクセラレータとして機能する。すなわち以下の説明においてＣＰＵ２１が行う処理とは、ＣＰＵ２１がＧＰＵ２９をアクセラレータとして用いて行う処理も含むことを意味する。
【００９８】
また、処理部２０は、以下の図１４で説明する各ステップの処理を行うために、本発明に係るプログラムおよび学習済みのニューラルネットワーク構造の深層学習アルゴリズム６０を、例えば実行形式で記憶部２３に予め記憶している。実行形式は、例えばプログラミング言語からコンパイラにより変換されて生成される形式である。処理部２０は、記憶部２３に記憶したプログラムおよび深層学習アルゴリズム６０を使用して処理を行う。
【００９９】
以下の説明においては、特に断らない限り、処理部２０が行う処理は、記憶部２３またはメモリ２２に格納されたプログラムおよび深層学習アルゴリズム６０に基づいて、実際には処理部２０のＣＰＵ２１が行う処理を意味する。ＣＰＵ２１はメモリ２２を作業領域として必要なデータ（処理途中の中間データ等）を一時記憶し、記憶部２３に演算結果等の長期保存するデータを適宜記憶する。
［機能ブロックおよび処理手順］
・深層学習処理
【０１００】
図１０を参照すると、第１の実施形態に係る深層学習装置１００Ａの処理部１０Ａは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３とを備える。これらの機能ブロックは、コンピュータに深層学習処理を実行させるプログラムを、処理部１０Ａの記憶部１３またはメモリ１２にインストールし、このプログラムをＣＰＵ１１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部１０Ａの記憶部１３またはメモリ１２に記憶される。
【０１０１】
学習用の標本の第１の訓練用画像７０Ｒ１、第２の訓練用画像７０Ｒ２、第３の訓練用画像７０Ｒ３は、撮像装置３００によって予め撮像され、処理部１０Ａの記憶部１３またはメモリ１２に予め記憶されていることとする。ニューラルネットワーク５０は、例えば解析対象の標本が由来する組織の種別（例えば組織名）と対応付けられて、アルゴリズムデータベース１０５に予め格納されている。
【０１０２】
深層学習装置１００Ａの処理部１０Ａは、図１１に示す処理を行う。図１０に示す各機能ブロックを用いて説明すると、ステップＳ１０からＳ１２、Ｓ１７およびＳ１８の処理は、訓練データ生成部１０１が行う。ステップＳ１４の処理は、訓練データ入力部１０２が行う。ステップＳ１５およびＳ１６の処理は、アルゴリズム更新部１０３が行う。
【０１０３】
以下に説明するステップＳ１０からＳ１８では、第１の訓練用画像７０Ｒ１と、第２の訓練用画像７０Ｒ２と、第３の訓練用画像７０Ｒ３とを用いた深層学習処理を説明する。
【０１０４】
処理部１０Ａは、深層学習方法の概要に記載の方法に準じて、腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３を生成するための深層学習処理を行う。処理部１０Ａは、例えば、病理医等による入力部１６からの操作により、第１の訓練用画像７０Ｒ１の領域を含む広い領域の画像（ホールスライドイメージ７０Ｗ１）を、出力部１７に表示する。判定を行う病理医等は、出力部１７に表示されたホールスライドイメージ７０Ｗ１の画像を目視で確認する。病理医等は、腫瘍領域を含むと判定したホールスライドイメージ７０Ｗ１中の領域を、例えば入力部１６を介して指定し、ホールスライドイメージ７０Ｗ１に例えば赤色等の実線で囲む。病理医等は、非腫瘍領域および非組織領域についても、同様に、ホールスライドイメージ７０Ｗ１中の領域について、例えば赤色とは異なる青色、緑色等の実線で囲む。処理部１０Ａは、ホールスライドイメージ７０Ｗ１を出力部１７に表示して病理医により判断してもらうことに代えて、判定済みのホールスライドイメージ７０Ｗ２を、Ｉ／Ｆ部１５を介して例えばネットワーク９９を介して取得してもよい。病理医等は、訓練用画像として好ましい画素にホールスライドイメージ７０Ｗ２を分割してもよい。
【０１０５】
処理部１０Ａは、病理医等の入力部１６からの指定により、ホールスライドイメージ７０Ｗ２中に赤色の実線で囲まれている領域から取得された第１の訓練用画像７０Ｒ１を所定の画素数を含むように切り出す。同様に、非腫瘍領域および非組織領域と判定された部分からも、第２の訓練用画像７０Ｒ２、第３の訓練用画像７０Ｒ３のそれぞれを、所定の画素の領域を含むように切り出す。
【０１０６】
ステップＳ１０において、処理部１０Ａは、切り出された第１の訓練用画像７０Ｒ１からＲ、Ｇ、Ｂ各色の色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂを生成する。色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂは、第１の訓練用画像７０Ｒ１の各画素のＲ、Ｇ、Ｂ各色の色濃度値を段階的に表す符号を各画素に付すことにより生成する。本実施形態では、色濃度値を値０から値２５５の２５６階調で表すとして各Ｒ、Ｇ、Ｂ階調画像について色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂを生成する。色濃度値の割り当ては、例えば最も低い明るさを色濃度値０とし、明るさの程度が高くなるに従い徐々に高い値を割り当ててゆき、最も高い明るさを色濃度値２５５とする。処理部１０Ａは、色濃度符号化図７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂから画素毎にＲ、Ｇ，Ｂの色濃度値を付した第１の訓練データ７４Ｒ１を生成する。処理部１０Ａは、第１の訓練用画像７０Ｒ１の各画素に腫瘍領域であることを示すラベル値である「１」を対応させた第１の予備訓練データ７０Ｒ１Ｌを生成する。
【０１０７】
ステップＳ１１において、処理部１０Ａは、第２の訓練用画像７０Ｒ２からステップＳ１０と同様の方法により第２の訓練データ７４Ｒ２を生成する。処理部１０Ａは、第２の訓練用画像７０Ｒ２の各画素に非腫瘍領域であることを示すラベル値である「２」を対応させた第２の予備訓練データ７０Ｒ２Ｌを生成する。
【０１０８】
ステップＳ１２において、処理部１０Ａは、第３の訓練用画像７０Ｒ３からステップＳ１０と同様の方法により第３の訓練データ７４Ｒ３を生成する。処理部１０Ａは、第３の訓練用画像７０Ｒ３の各画素に非組織領域であることを示すラベル値である「０」を対応させた第３の予備訓練データ７０Ｒ３Ｌを生成する。
【０１０９】
ステップＳ１０からステップＳ１２は同時に行ってもよく、順不同であってもよい。
【０１１０】
ステップＳ１３において、処理部１０Ａは、入力部１６を通じて、深層学習装置１００Ａ側のユーザからの、学習用の組織の種別の入力を受け付ける。処理部１０Ａは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４（ウィンドウサイズＤＢ１０４）を参照して、ウィンドウサイズを設定し、アルゴリズムデータベース１０５（アルゴリズムＤＢ１０５）を参照して、学習に用いるニューラルネットワーク５０を設定する。ウィンドウサイズは例えば２００×２００画素とする。ウィンドウサイズは、１回の入力時にニューラルネットワーク５０に入力する訓練データの単位であり、ウィンドウサイズの各領域に対応する訓練データの画素数と画像に含まれる色の原色の数との積が、入力層５０ａのノード数に対応している。ウィンドウサイズは組織の種別と対応付けられて、ウィンドウサイズデータベース１０４内に予め記憶されている。
【０１１１】
ステップＳ１４において、処理部１０Ａは、各領域に対応する訓練データから、ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３を生成する。具体的には、上述の「深層学習方法の概要」において、図４（ａ）、（ｂ）を参照して説明したように、第１の訓練データ７４Ｒ１および第１の予備訓練データ７０Ｒ１Ｌから、ウィンドウＷ１によってウィンドウサイズの腫瘍領域訓練データ７５Ｒ１を作成する。処理部１０Ａは、第２の訓練データ７４Ｒ２および第２の予備訓練データ７０Ｒ２Ｌから、ウィンドウサイズの非腫瘍領域訓練データ７５Ｒ２を生成する。具体的には、上述の「深層学習方法の概要」において、図４（ａ）、（ｂ）および図５（ａ）を参照して説明したように、第２の訓練データ７４Ｒ２および第２の予備訓練データ７０Ｒ２Ｌから、ウィンドウＷ１によってウィンドウサイズの非腫瘍領域訓練データ７５Ｒ２を作成する。処理部１０Ａは、第３の訓練データ７４Ｒ３および第３の予備訓練データ７０Ｒ３Ｌから、ウィンドウサイズの非組織領域訓練データ７５Ｒ３を生成する。具体的には、上述の「深層学習方法の概要」において、図４（ａ）、（ｂ）および図５（ｂ）を参照して説明したように、第３の訓練データ７４Ｒ３および第３の予備訓練データ７０Ｒ３Ｌから、ウィンドウＷ１によってウィンドウサイズの非組織領域訓練データ７５Ｒ３を作成する。
【０１１２】
図１１に示すステップＳ１５において、処理部１０Ａは、ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３を用いて、ニューラルネットワーク５０を学習させる。ニューラルネットワーク５０の学習結果は、ウィンドウサイズの腫瘍領域訓練データ７５Ｒ１、非腫瘍領域訓練データ７５Ｒ２および非組織領域訓練データ７５Ｒ３を用いてニューラルネットワーク５０を学習させる度に蓄積される。
【０１１３】
実施形態に係る画像解析方法では、畳み込みニューラルネットワークを使用しており、確率的勾配降下法を用いるため、ステップＳ１６において、処理部１０Ａは、予め定められた所定の試行回数分の学習結果が蓄積されているか否かを判断する。学習結果が所定の試行回数分蓄積されている場合、処理部１０ＡはステップＳ１７の処理を行い、学習結果が所定の試行回数分蓄積されていない場合、処理部１０ＡはステップＳ１８の処理を行う。
【０１１４】
学習結果が所定の試行回数分蓄積されている場合、ステップＳ１７において、処理部１０Ａは、ステップＳ１５において蓄積しておいた学習結果を用いて、ニューラルネットワーク５０の結合重みｗを更新する。実施形態に係る画像解析方法では、確率的勾配降下法を用いるため、所定の試行回数分の学習結果が蓄積した段階で、ニューラルネットワーク５０の結合重みｗを更新する。結合重みｗを更新する処理は、具体的には、後述の（式１１）および（式１２）に示される、勾配降下法による計算を実施する処理である。
【０１１５】
ステップＳ１７において、処理部１０Ａは、第１の訓練データ７４Ｒ１、第２の訓練データ７４Ｒ２および第３の訓練データ７４Ｒ３のそれぞれについて各領域訓練データ内の規定数の画素を処理したか否かを判断する。各領域訓練データの規定数の画素について、ステップＳ１５からステップＳ１７の一連の処理がなされている場合は、深層学習処理を終了する。ニューラルネットワークの学習は、必ずしも各訓練データ内の全ての画素に対して行う必要は無く、処理部１０Ａは、各訓練データ内の一部の画素、すなわち規定数の画素に対して処理をし学習を行うことができる。規定数の画素は、各領域訓練データ内の全ての画素であってもよい。
【０１１６】
各領域訓練データ内の規定数の画素が処理されていない場合は、処理部１０Ａは、ステップＳ１９において、図４（ｂ）に示すように、第１の訓練データ７４Ｒ１内、第２の訓練データ７４Ｒ２内または第３の訓練データ７４Ｒ３内において、ウィンドウの位置を移動させる。その後、処理部１０Ａは、移動後の新たなウィンドウ位置において、ステップＳ１４からステップＳ１６の一連の処理を行う。すなわち、処理部１０Ａは、ステップＳ１４において、移動後の新たなウィンドウ位置において第１の訓練データ７４Ｒ１、第２の訓練データ７４Ｒ２および第３の訓練データ７４Ｒ３のそれぞれについてウィンドウサイズの各領域訓練データ７５Ｒ１，７５Ｒ２，７５Ｒ３を切り出し、各領域を示すラベル値を付す。引き続き、処理部１０Ａは、ステップＳ１５において、新たに切り出したウィンドウサイズの各領域訓練データ７５Ｒ１，７５Ｒ２，７５Ｒ３を用いて、ニューラルネットワーク５０を学習させる。ステップＳ１６において、所定の試行回数分の学習結果が蓄積されている場合は、処理部１０Ａは、ステップＳ１７において、ニューラルネットワーク５０の結合重みｗを更新する。このようなウィンドウサイズ毎のニューラルネットワーク５０の学習を、第１の訓練データ７４Ｒ１、第２の訓練データ７４Ｒ２および第３の訓練データ７４Ｒ３のそれぞれについて規定数の画素に対して行う。
【０１１７】
以上説明した、ステップＳ１０からＳ１９の深層学習処理を、さらに別途取得された第１の訓練用画像７０Ｒ１と、第２の訓練用画像７０Ｒ２と、第３の訓練用画像７０Ｒ３に対して繰り返し行うことにより、ニューラルネットワーク５０の学習の程度を向上させる。これにより、図５に示すニューラルネットワーク構造の深層学習アルゴリズム６０を得る。
【０１１８】
・ニューラルネットワークの構造
図１２（ａ）に示すように、第１の実施形態では、深層学習タイプのニューラルネットワークを用いる。深層学習タイプのニューラルネットワークは、図１２に示すニューラルネットワーク５０のように、入力層５０ａと、出力層５０ｂと、入力層５０ａおよび出力層５０ｂの間の中間層５０ｃとを備え、中間層５０ｃが複数の層で構成されている。中間層５０ｃを構成する層の数は、例えば５層以上とすることができる。
【０１１９】
ニューラルネットワーク５０では、層状に配置された複数のノード８９が、層間において結合されている。これにより、情報が入力側の層５０ａから出力側の層５０ｂに、図中矢印Ｄに示す一方向のみに伝播する。本実施形態では、入力層５０ａのノード数は、入力される画像の画素数すなわち図３（ｃ）に示すウィンドウＷ１の画素数と各画素に含まれる色の原色の数との積に対応している。入力層５０ａに画像の画素データ（色濃度値）を入力することができるので、ユーザは入力画像から特徴量を別途算出することなく、入力画像を入力層５０ａに入力することができる。
・各ノードにおける演算
【０１２０】
図１２（ｂ）は、各ノードにおける演算を示す模式図である。各ノード８９では、複数の入力を受け取り、１つの出力（ｚ）を計算する。図１２（ｂ）に示す例の場合、ノード８９は４つの入力を受け取る。ノード８９が受け取る総入力（ｕ）は、以下の（式１）で表される。
【０１２１】
【数１】
2019148473.tif 000003
【０１２２】
各入力には、それぞれ異なる重みが掛けられる。（式１）中、ｂはバイアスと呼ばれる値である。ノードの出力（ｚ）は、（式１）で表される総入力（ｕ）に対する所定の関数ｆの出力となり、以下の（式２）で表される。関数ｆは活性化関数と呼ばれる。
【０１２３】
【数２】
2019148473.tif 000004
【０１２４】
図１２（ｃ）は、ノード間の演算を示す模式図である。ニューラルネットワーク５０では、（式１）で表される総入力（ｕ）に対して、（式２）で表される結果（ｚ）を出力するノードが層状に並べられている。前の層のノードの出力が、次の層のノードの入力となる。図１２（ｃ）に示す例では、図中左側の層のノード８９ａの出力が、図中右側の層のノード８９ｂの入力となる。右側の層の各ノード８９ｂは、それぞれ、左側の層のノード８９ａからの出力を受け取る。左側の層の各ノード８９ａと右側の層の各ノード８９ｂとの間の各結合には、異なる重みが掛けられる。左側の層の複数のノード８９ａのそれぞれの出力をｘ１〜ｘ４とすると、右側の層の３つのノード８９ｂのそれぞれに対する入力は、以下の（式３−１）〜（式３−３）で表される。
【０１２５】
【数３】
2019148473.tif 000005
【０１２６】
これら（式３−１）〜（式３−３）を一般化すると、（式３−４）となる。ここで、ｉ＝１，・・・Ｉ、ｊ＝１，・・・Ｊである。
【０１２７】
【数４】
2019148473.tif 000006
（式３−４）を活性化関数に適用すると出力が得られる。出力は以下の（式４）で表される。
【０１２８】
【数５】
2019148473.tif 000007
【０１２９】
・活性化関数
実施形態に係る画像解析方法では、活性化関数として、正規化線形関数（rectified linear unit function）を用いる。正規化線形関数は以下の（式５）で表される。
【０１３０】
【数６】
2019148473.tif 000008
【０１３１】
（式５）は、ｚ＝ｕの線形関数のうち、ｕ＜０の部分をｕ＝０とする関数である。図１２（ｃ）に示す例では、ｊ＝１のノードの出力は、（式５）により、以下の式で表される。
【０１３２】
【数７】
2019148473.tif 000009
【０１３３】
・ニューラルネットワークの学習
ニューラルネットワークを用いて表現される関数をｙ（ｘ：ｗ）とおくと、関数ｙ（ｘ：ｗ）は、ニューラルネットワークのパラメータｗを変化させると変化する。入力ｘに対してニューラルネットワークがより好適なパラメータｗを選択するように、関数ｙ（ｘ：ｗ）を調整することを、ニューラルネットワークの学習と呼ぶ。ニューラルネットワークを用いて表現される関数の入力と出力との組が複数与えられているとする。ある入力ｘに対する望ましい出力をｄとすると、入出力の組は、｛（ｘ１，ｄ１），（ｘ２，ｄ２），・・・，（ｘｎ，ｄｎ）｝と与えられる。（ｘ，ｄ）で表される各組の集合を、訓練データと呼ぶ。具体的には、図３（ｂ）に示す、Ｒ、Ｇ、Ｂ各色の単一色画像における画素毎の色濃度値と真値像のラベルとの組、の集合が、図３（ａ）に示す訓練データである。
【０１３４】
ニューラルネットワークの学習とは、どのような入出力の組（ｘｎ，ｄｎ）に対しても、入力ｘｎを与えたときのニューラルネットワークの出力ｙ（ｘｎ：ｗ）が、出力ｄｎになるべく近づくように重みｗを調整することを意味する。誤差関数（error function）とは、ニューラルネットワークを用いて表現される関数と訓練データとの近さ
【０１３５】
【数８】
2019148473.tif 000010
【０１３６】
を測る尺度である。誤差関数は損失関数（loss function）とも呼ばれる。実施形態に係る画像解析方法において用いる誤差関数Ｅ（ｗ）は、以下の（式６）で表される。（式６）は交差エントロピー（cross entropy）と呼ばれる。
【０１３７】
【数９】
2019148473.tif 000011
【０１３８】
（式６）の交差エントロピーの算出方法を説明する。実施形態に係る画像解析方法において用いるニューラルネットワーク５０の出力層５０ｂでは、すなわちニューラルネットワークの最終層では、入力ｘを内容に応じて有限個のクラスに分類するための活性化関数を用いる。活性化関数はソフトマックス関数（softmax function）と呼ばれ、以下の（式７）で表される。なお、出力層５０ｂには、クラス数ｋと同数のノードが並べられているとする。出力層Ｌの各ノードｋ（ｋ＝１，・・・Ｋ）の総入力ｕは、前層Ｌ−１の出力から、ｕｋ（Ｌ）で与えられるとする。これにより、出力層のｋ番目のノードの出力は以下の（式７）で表される。
【０１３９】
【数１０】
2019148473.tif 000012
【０１４０】
（式７）がソフトマックス関数である。（式７）で決まる出力ｙ１，・・・，ｙＫの総和は常に１となる。
【０１４１】
各クラスをＣ１，・・・，ＣＫと表すと、出力層Ｌのノードｋの出力ｙk（すなわちｕｋ（Ｌ））は、与えられた入力ｘがクラスＣkに属する確率を表す。以下の（式８）を参照されたい。入力ｘは、（式８）で表される確率が最大になるクラスに分類される。
【０１４２】
【数１１】
2019148473.tif 000013
【０１４３】
ニューラルネットワークの学習では、ニューラルネットワークで表される関数を、各クラスの事後確率（posterior probability）のモデルとみなし、そのような確率モデルの下で、訓練データに対する重みｗの尤度（likelihood）を評価し、尤度を最大化するような重みｗを選択する。
【０１４４】
（式７）のソフトマックス関数による目標出力ｄｎを、出力が正解のクラスである場合のみ１とし、出力がそれ以外の場合は０になるとする。目標出力をｄｎ＝［ｄｎ１，・・・，ｄｎＫ］というベクトル形式で表すと、例えば入力ｘｎの正解クラスがＣ３である場合、目標出力ｄｎ３のみが１となり、それ以外の目標出力は０となる。このように符号化すると、事後分布（posterior）は以下の（式９）で表される。
【０１４５】
【数１２】
2019148473.tif 000014
【０１４６】
訓練データ｛（ｘｎ，ｄｎ）｝（ｎ＝１，・・・，Ｎ）に対する重みｗの尤度Ｌ（ｗ）は、以下の（式１０）で表される。尤度Ｌ（ｗ）の対数をとり符号を反転すると、（式６）の誤差関数が導出される。
【０１４７】
【数１３】
2019148473.tif 000015
【０１４８】
学習は、訓練データを基に計算される誤差関数Ｅ（ｗ）を、ニューラルネットワークのパラメータｗについて最小化することを意味する。実施形態に係る画像解析方法では、誤差関数Ｅ（ｗ）は（式６）で表される。
【０１４９】
誤差関数Ｅ（ｗ）をパラメータｗについて最小化することは、関数Ｅ（ｗ）の局所的な極小点を求めることと同じ意味である。パラメータｗはノード間の結合の重みである。重みｗの極小点は、任意の初期値を出発点として、パラメータｗを繰り返し更新する反復計算によって求められる。このような計算の一例には、勾配降下法（gradient descent method）がある。
勾配降下法では、次の（式１１）で表されるベクトルを用いる。
【０１５０】
【数１４】
2019148473.tif 000016
【０１５１】
勾配降下法では、現在のパラメータｗの値を負の勾配方向（すなわち−∇Ｅ）に移動させる処理を何度も繰り返す。現在の重みをｗ（ｔ）とし、移動後の重みをｗ（ｔ＋１）とすると、勾配降下法による演算は、以下の（式１２）で表される。値ｔは、パラメータｗを移動させた回数を意味する。
【０１５２】
【数１５】
2019148473.tif 000017
【０１５３】
記号
【数１６】
2019148473.tif 000018
は、パラメータｗの更新量の大きさを決める定数であり、学習係数と呼ばれる。（式１２）で表される演算を繰り返すことにより、値ｔの増加に伴って誤差関数Ｅ（ｗ（ｔ））が減少し、パラメータｗは極小点に到達する。
【０１５４】
なお、（式１２）による演算は、全ての訓練データ（ｎ＝１，・・・，Ｎ）に対して実施してもよく、一部の訓練データのみに対して実施してもよい。一部の訓練データのみに対して行う勾配降下法は、確率的勾配降下法（stochastic gradient descent）と呼ばれる。実施形態に係る画像解析方法では、確率的勾配降下法を用いる。
【０１５５】
・画像解析処理
図１３を参照すると、第１の実施形態に係る画像解析装置２００Ａの処理部２０Ａは、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、領域検出部２０４とを備える。これらの機能ブロックは、本発明に係るコンピュータに画像解析処理を実行させるプログラムを、処理部２０Ａの記憶部２３またはメモリ２２にインストールし、このプログラムをＣＰＵ２１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、記憶媒体９８またはネットワーク９９を通じて深層学習装置１００Ａから提供され、処理部２０Ａの記憶部２３またはメモリ２２に記憶される。
【０１５６】
解析対象の組織の解析対象画像７８は、撮像装置４００によって予め撮像され、処理部２０Ａの記憶部２３またはメモリ２２に予め記憶されていることとする。学習済みの結合重みｗを含む深層学習アルゴリズム６０は、解析対象の組織の標本が由来する組織の種類と対応付けられてアルゴリズムデータベース１０５に格納されており、コンピュータに画像解析処理を実行させるプログラムの一部であるプログラムモジュールとして機能する。すなわち、深層学習アルゴリズム６０は、ＣＰＵおよびメモリを備えるコンピュータにて用いられ、解析対象の組織において各領域を示すデータを出力するという、使用目的に応じた特有の情報の演算または加工を実行するよう、コンピュータを機能させる。具体的には、処理部２０ＡのＣＰＵ２１は、記憶部２３またはメモリ２２に記憶された深層学習アルゴリズム６０に規定されているアルゴリズムに従って、学習済みの結合重みｗに基づくニューラルネットワーク６０の演算を行う。処理部２０ＡのＣＰＵ２１は、入力層６０ａに入力された、解析対象の組織を撮像した解析対象画像７８に対して演算を行い、出力層６０ｂから、解析対象の組織において各領域を示すデータである３値画像８３を出力する。
【０１５７】
図１４を参照すると、画像解析装置２００Ａの処理部２０Ａは、図１３に示す処理を行う。図１３に示す各機能ブロックを用いて説明すると、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、領域検出部２０４が行う。
【０１５８】
ステップＳ２１において、処理部２０Ａは、例えば、ユーザ等が入力部２６から入力した処理開始の指令により、入力された解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成する。色濃度符号化図７９ｒ，７９ｇ，７９ｂから画素毎にＲ、Ｇ、Ｂ各色の色濃度値を組み合わせた解析対象データが生成される。色濃度符号化図７９ｒ，７９ｇ，７９ｂの生成方法は、図１１に示す深層学習処理時におけるステップＳ１０での生成方法と同様である。
【０１５９】
図１４に示すステップＳ２２において、処理部２０Ａは、入力部２６を通じて、解析条件として、画像解析装置２００Ａ側のユーザからの、組織の種別の入力を受け付ける。処理部２０Ａは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、解析に用いるウィンドウサイズを設定し、解析に用いる深層学習アルゴリズム６０を取得する。ウィンドウサイズは、１回の入力時にニューラルネットワーク６０に入力する解析用データの単位であり、ウィンドウサイズの解析用データ８０の画素数と画像に含まれる色の原色の数との積が、入力層６０ａのノード数に対応している。ウィンドウサイズは組織の種別と対応付けられて、ウィンドウサイズデータベース１０４内に予め記憶されている。ウィンドウサイズは、図６に示すウィンドウＷ２のように、例えば３×３画素である。深層学習アルゴリズム６０も、組織の種別と対応付けられて、図１３に示すアルゴリズムデータベース１０５内に予め記憶されている。
【０１６０】
図１４に示すステップＳ２３において、処理部２０Ａは、色濃度符号化図７９ｒ，７９ｇ，７９ｂから画素毎にＲ、Ｇ、Ｂ各色の色濃度値を組み合わせた解析対象データを生成し、さらにウィンドウサイズの解析用データ８０を生成する。
【０１６１】
ステップＳ２４において、処理部２０Ａは、図５に示す解析用データ８０を、深層学習アルゴリズム６０に入力する。ウィンドウの初期位置は、深層学習処理時におけるステップＳ１４と同様に、例えばウィンドウ内の３×３画素に位置する画素が、解析対象データの左上角に対応する位置である。処理部２０Ａは、ウィンドウサイズの解析用データ８０に含まれる、３×３画素×３原色の合計２７個の色濃度値のデータ８１を入力層６０ａに入力すると、深層学習アルゴリズム６０は、出力層６０ｂに判別結果８２を出力する。
【０１６２】
図１４に示すステップＳ２５において、処理部２０Ａは、図５に示す出力層６０ｂに出力される判別結果８２を記憶する。判別結果８２は、解析対象データの各画素領域についての推定値（０、１、２の３値のいずれか）である。
【０１６３】
図１４に示すステップＳ２６において、処理部２０Ａは、入力画像内の全ての画素を処理したか否かを判断する。入力画像は、図６に示す色濃度符号化図７９ｒ，７９ｇ，７９ｂであり、解析対象データ内の全ての画素について、図１４に示すステップＳ２３からステップＳ２５の一連の処理がなされている場合は、ステップＳ２８の処理を行う。
【０１６４】
解析対象データ内の全ての画素が処理されていない場合は、処理部２０Ａは、ステップＳ２７において、深層学習処理時におけるステップＳ２０と同様に、図５に示す色濃度符号化図７９ｒ，７９ｇ，７９ｂ内において、ウィンドウＷ２を所定の画素数の単位で移動させる。その後、処理部２０Ａは、移動後の新たなウィンドウＷ２の位置において、ステップＳ２３からステップＳ２５の一連の処理を行う。処理部２０Ａは、ステップＳ２５において、移動後の新たなウィンドウ位置に対応する、判別結果８２を記憶する。このようなウィンドウサイズ毎の判別結果８２の記憶を、解析対象画像内の全ての画素に対して行うことにより、解析結果の３値画像８３が得られる。解析結果の３値画像８３の画像サイズは、解析対象画像の画像サイズと同じである。ここで、３値画像８３には、推定値の値２、値１および値０が各画素に付された数値データであってもよく、推定値の値２、値１および値０に代えて、例えば値２、値１および値０のそれぞれに対応付けた表示色で示した画像であっても良い。
【０１６５】
図１４に示すステップＳ２８では、処理部２０Ａは、解析結果の３値画像８３を出力部２７に出力する。
【０１６６】
ステップＳ２９では、ステップＳ２８に引き続き、処理部２０Ａは、解析結果の３値画像８３についてさらに、領域検出処理を行う。３値画像８３において、腫瘍領域と、非腫瘍領域と、非組織領域とは、３値で区別して表されている。
【０１６７】
任意ではあるが、処理部２０Ａは、得られた各領域を、解析対象の解析対象画像７８に重ねることにより、領域強調画像８４を作成する。処理部２０Ａは、作成した領域強調画像８４を出力部２７に出力し、画像解析処理を終了する。
【０１６８】
任意ではあるが、処理部２０Ａは、解析対象画像７８に含まれる組織において、腫瘍領域がどの程度含まれているか算出してもよい。例えば、解析対象画像７８に含まれる組織に該当する画素数、すなわち腫瘍領域および非腫瘍領域と判定された画素数の合計（組織領域総画素数）を１００％とした場合に、腫瘍領域と判定された画素数が何％を占めるかを算出することにより、腫瘍領域の含有率を算出することができる。また、総画素数から腫瘍領域と判定された画素数を減じることにより、または組織領域総画素数）を１００％とした場合に、非腫瘍領域と判定された画素数が何％を占めるかを算出することにより、非腫瘍領域の含有率を算出することができる。そして、腫瘍領域の含有率と非腫瘍領域の含有率との比率を算出してもよい。前記算出された値は、出力部２７に出力されてもよい。また、算出された値は、領域強調画像８４と共に出力部２７に出力されてもよい。
【０１６９】
このように腫瘍領域の含有率を算出することは、がん組織の遺伝子解析等に用いられる組織が検査に適した腫瘍組織を含んでいるかスクリーニングする上で有用である。
【０１７０】
以上、画像解析装置２００Ａのユーザは、解析対象の組織の解析対象画像７８を画像解析装置２００Ａに入力することにより、解析結果として、３値画像８３を取得することができる。３値画像８３は、解析対象の標本における、腫瘍領域と、非腫瘍領域と、非組織領域とを表しており、ユーザは、解析対象の標本において、各領域を判別することが可能となる。
【０１７１】
さらに、画像解析装置２００Ａのユーザは、解析結果として、領域強調画像８４を取得することができる。領域強調画像８４は、例えば、解析対象の解析対象画像７８に、各領域を色で塗りつぶすことにより生成される。また、別の態様では、各領域の境界線を重ねることにより生成されている。これにより、ユーザは、解析対象の組織において、各領域を一目で把握することが可能となる。
【０１７２】
解析対象の標本において腫瘍領域、および／または非腫瘍領域を示すことは、組織診断に先立って解析対象組織における腫瘍領域をスクリーニングし、標本観察効率を上げる一助となる。
【０１７３】
＜第２の実施形態＞
以下、第１の実施形態に係る画像解析システムと相違する点について、第２の実施形態に係る画像解析システムを説明する。
【０１７４】
［構成の概要］
図１５を参照すると、第２の実施形態に係る画像解析システムは、ユーザ側装置２００を備え、ユーザ側装置２００が、統合型の画像解析装置２００Ｂとして動作する。画像解析装置２００Ｂは、例えば汎用コンピュータで構成されており、第１の実施形態において説明した深層学習処理および画像解析処理の両方の処理を行う。つまり、第２の実施形態に係る画像解析システムは、ユーザ側で深層学習および画像解析を行う、スタンドアロン型のシステムである。第２の実施形態に係る画像解析システムは、ユーザ側に設置された統合型の画像解析装置２００Ｂが、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａの両方の機能を担う点において、第１の実施形態に係る画像解析システムと異なる。
【０１７５】
画像解析装置２００Ｂは撮像装置４００に接続されている。撮像装置４００は、深層学習処理時には、学習用の組織の訓練用画像を取得し、画像解析処理時には、解析対象の組織の解析対象画像７８を取得する。
【０１７６】
［ハードウェア構成］
画像解析装置２００Ｂのハードウェア構成は、図９に示すユーザ側装置２００のハードウェア構成と同様である。
【０１７７】
［機能ブロックおよび処理手順］
図１６を参照すると、第２の実施形態に係る画像解析装置２００Ｂの処理部２０Ｂは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３と、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、領域検出部２０４とを備える。これらの機能ブロックは、コンピュータに深層学習処理および画像解析処理を実行させるプログラムを、処理部２０Ｂの記憶部２３またはメモリ２２にインストールし、このプログラムをＣＰＵ２１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部２０Ｂの記憶部２３またはメモリ２２に記憶され、どちらも深層学習時および画像解析処理時に共通して使用される。学習済みのニューラルネットワーク６０は、組織の種別または細胞を含む試料の種別と対応付けられて、アルゴリズムデータベース１０５に予め格納されており、深層学習処理により結合重みｗが更新されて、深層学習アルゴリズム６０として、アルゴリズムデータベース１０５に格納される。なお、訓練用画像である第１の訓練用画像７０Ｒ１、第２の訓練用画像７０Ｒ２、第３の訓練用画像７０Ｒ３は、撮像装置４００によって予め撮像され、処理部２０Ｂの記憶部２３またはメモリ２２に予め記憶されていることとする。解析対象の標本の解析対象画像７８も、撮像装置４００によって予め撮像され、処理部２０Ｂの記憶部２３またはメモリ２２に予め記憶されていることとする。
【０１７８】
画像解析装置２００Ｂの処理部２０Ｂは、深層学習処理時には、図１１に示す処理を行い、画像解析処理時には、図１４に示す処理を行う。図１６に示す各機能ブロックを用いて説明すると、深層学習処理時には、ステップＳ１０からＳ１２、Ｓ１４、Ｓ１８およびＳ１９の処理は、訓練データ生成部１０１が行う。ステップＳ１３の処理は、訓練データ入力部１０２が行う。ステップＳ１６およびＳ１７の処理は、アルゴリズム更新部１０３が行う。画像解析処理時には、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、領域検出部２０４が行う。
【０１７９】
第２の実施形態に係る画像解析装置２００Ｂが行う深層学習処理の手順および画像解析処理の手順は、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａがそれぞれ行う手順と同様である。なお、第２の実施形態に係る画像解析装置２００Ｂは、次の点において第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａと異なる。
【０１８０】
深層学習処理時のステップＳ１３において、処理部２０Ｂは、入力部２６を通じて、画像解析装置２００Ｂのユーザからの、学習用の組織の種別の入力を受け付ける。処理部２０Ｂは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズを設定し、アルゴリズムデータベース１０５を参照して、学習に用いるニューラルネットワーク５０を設定する。
【０１８１】
以上、画像解析装置２００Ｂのユーザは、解析対象画像７８を画像解析装置２００Ｂに入力することにより、解析結果として、３値画像８３を取得することができる。さらに、画像解析装置２００Ｂのユーザは、解析結果として、領域強調画像８４を取得することができる。
【０１８２】
第２の実施形態に係る画像解析装置２００Ｂによると、ユーザは、自身が選択した種類の組織を、学習用の組織として用いることができる。これは、ニューラルネットワーク５０の学習がベンダ側任せではなく、ユーザ自身がニューラルネットワーク５０の学習の程度を向上できることを意味する。
【０１８３】
＜第３の実施形態＞
以下、第２の実施形態に係る画像解析システムと相違する点について、第３の実施形態に係る画像解析システムを説明する。
【０１８４】
［構成の概要］
図１７を参照すると、第３の実施形態に係る画像解析システムは、ベンダ側装置１００と、ユーザ側装置２００とを備える。ベンダ側装置１００は統合型の画像解析装置１００Ｂとして動作し、ユーザ側装置２００は端末装置２００Ｃとして動作する。画像解析装置１００Ｂは、例えば汎用コンピュータで構成されており、第１の実施形態において説明した深層学習処理および画像解析処理の両方の処理を行う、クラウドサーバ側の装置である。端末装置２００Ｃは、例えば汎用コンピュータで構成されており、ネットワーク９９を通じて、解析対象の画像を画像解析装置１００Ｂに送信し、ネットワーク９９を通じて、解析結果の画像を画像解析装置１００Ｂから受信する、ユーザ側の端末装置である。
【０１８５】
第３の実施形態に係る画像解析システムは、ベンダ側に設置された統合型の画像解析装置１００Ｂが、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａの両方の機能を担う点において、第２の実施形態に係る画像解析システムと同様である。一方、第３の実施形態に係る画像解析システムは、端末装置２００Ｃを備え、解析対象の画像の入力インタフェースと、解析結果の画像の出力インタフェースとをユーザ側の端末装置２００Ｃに提供する点において、第２の実施形態に係る画像解析システムと異なる。つまり、第３の実施形態に係る画像解析システムは、深層学習処理および画像解析処理を行うベンダ側が、解析対象の画像および解析結果の画像の入出力インタフェースをユーザ側に提供する、クラウドサービス型のシステムである。
【０１８６】
画像解析装置１００Ｂは撮像装置３００に接続されており、撮像装置３００によって撮像される、学習用の組織の訓練用画像を取得する。
【０１８７】
端末装置２００Ｃは撮像装置４００に接続されており、撮像装置４００によって撮像される、解析対象の組織の解析対象画像７８を取得する。
【０１８８】
［ハードウェア構成］
画像解析装置１００Ｂのハードウェア構成は、図７に示すベンダ側装置１００のハードウェア構成と同様である。端末装置２００Ｃのハードウェア構成は、図９に示すユーザ側装置２００のハードウェア構成と同様である。
【０１８９】
［機能ブロックおよび処理手順］
図１８を参照すると、第３の実施形態に係る画像解析装置１００Ｂの処理部１０Ｂは、訓練データ生成部１０１と、訓練データ入力部１０２と、アルゴリズム更新部１０３と、解析用データ生成部２０１と、解析用データ入力部２０２と、解析部２０３と、領域検出部２０４とを備える。これらの機能ブロックは、コンピュータに深層学習処理および画像解析処理を実行させるプログラムを、処理部１０Ｂの記憶部１３またはメモリ１２にインストールし、このプログラムをＣＰＵ１１が実行することにより実現される。ウィンドウサイズデータベース１０４と、アルゴリズムデータベース１０５とは、処理部１０Ｂの記憶部１３またはメモリ１２に記憶され、どちらも深層学習時および画像解析処理時に共通して使用される。ニューラルネットワーク５０は、組織の種別と対応付けられて、アルゴリズムデータベース１０５に予め格納されており、深層学習処理により結合重みｗが更新されて、深層学習アルゴリズム６０として、アルゴリズムデータベース１０５に格納される。
【０１９０】
なお、訓練用画像である第１の訓練用画像７０Ｒ１、第２の訓練用画像７０Ｒ２、第３の訓練用画像７０Ｒ３は、撮像装置３００によって予め撮像され、処理部１０Ｂの記憶部１３またはメモリ１２に予め記憶されていることとする。解析対象の組織の解析対象画像７８も、撮像装置４００によって予め撮像され、端末装置２００Ｃの処理部２０Ｃの記憶部２３またはメモリ２２に予め記憶されていることとする。
【０１９１】
画像解析装置１００Ｂの処理部１０Ｂは、深層学習処理時には、図１１に示す処理を行い、画像解析処理時には、図１４に示す処理を行う。図１８に示す各機能ブロックを用いて説明すると、深層学習処理時には、ステップＳ１０からＳ１２、Ｓ１４、Ｓ１８およびＳ１９の処理は、訓練データ生成部１０１が行う。ステップＳ１３の処理は、訓練データ入力部１０２が行う。ステップＳ１６およびＳ１７の処理は、アルゴリズム更新部１０３が行う。画像解析処理時には、ステップＳ２１およびＳ２２の処理は、解析用データ生成部２０１が行う。ステップＳ２３，Ｓ２４，Ｓ２６およびＳ２７の処理は、解析用データ入力部２０２が行う。ステップＳ２５およびＳ２８の処理は、解析部２０３が行う。ステップＳ２９の処理は、領域検出部２０４が行う。
【０１９２】
第３の実施形態に係る画像解析装置１００Ｂが行う深層学習処理の手順および画像解析処理の手順は、第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａがそれぞれ行う手順と同様である。なお、第３の実施形態に係る画像解析装置１００Ｂは、次の４つの点において第１の実施形態に係る深層学習装置１００Ａおよび画像解析装置２００Ａと異なる。
【０１９３】
図１４に示す画像解析処理時のステップＳ２１において、処理部１０Ｂは、解析対象の組織の解析対象画像７８を、ユーザ側の端末装置２００Ｃから受信し、受信した解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成する。色濃度符号化図７９ｒ，７９ｇ，７９ｂおよび解析対象データの生成方法は、図１１に示す深層学習処理時におけるステップＳ１０での生成方法と同様である。
【０１９４】
図１４に示す画像解析処理時のステップＳ２２において、処理部１０Ｂは、端末装置２００Ｃの入力部２６を通じて、解析条件として、端末装置２００Ｃのユーザからの、組織の種別の入力を受け付ける。処理部１０Ｂは、入力された組織の種別に基づき、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、解析に用いるウィンドウサイズを設定し、解析に用いる深層学習アルゴリズム６０を取得する。
【０１９５】
画像解析処理時のステップＳ２８において、処理部１０Ｂは、解析結果の３値画像８３を、ユーザ側の端末装置２００Ｃに送信する。ユーザ側の端末装置２００Ｃでは、処理部２０Ｃが、受信した解析結果の３画像８３を出力部２７に出力する。
【０１９６】
画像解析処理時のステップＳ２９において、処理部１０Ｂは、ステップＳ２８に引き続き、解析結果の３値画像８３についてさらに、核領域の検出処理を行う。任意のステップとして、処理部１０Ｂは、得られた各領域を、解析対象の解析対象画像７８に重ねることにより、領域強調画像８４を作成する。処理部１０Ｂは、作成した領域強調画像８４を、ユーザ側の端末装置２００Ｃに送信する。ユーザ側の端末装置２００Ｃでは、処理部２０Ｃが、受信した領域強調画像８４を出力部２７に出力し、画像解析処理を終了する。
【０１９７】
以上、端末装置２００Ｃのユーザは、解析対象の組織の解析対象画像７８を画像解析装置１００Ｂに送信することにより、解析結果として、３値画像８３を取得することができる。さらに、端末装置２００Ｃのユーザは、解析結果として、領域強調画像８４を取得することができる。
【０１９８】
第３の実施形態に係る画像解析装置１００Ｂによると、ユーザは、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を深層学習装置１００Ａから取得することなく、画像解析処理の結果を享受することができる。これにより、解析対象の組織を解析するサービスとして、腫瘍領域および／または非腫瘍領域を判別し各組織における腫瘍領域をスクリーニングするサービスを、クラウドサービスとして提供することができる。
［コンピュータプログラム］
本発明の実施形態には、前記ステップＳ１０からＳ２０を処理部１０Ａ，２０Ｂ，１０Ｂに実行させ、学習済み深層学習アルゴリズムの生成するコンピュータプログラムおよびその製品が含まれる。また、本発明の実施形態には、前記ステップＳ２１からＳ２９を処理部１０Ａ，２０Ｂ，１０Ｂに実行させ、コンピュータを個体から採取された組織の画像を解析するために機能させるコンピュータプログラムおよびその製品が含まれる。
【０１９９】
［その他の形態］
以上、本発明を概要および特定の実施形態によって説明したが、本発明は上記した概要および各実施形態に限定されるものではない。
【０２００】
上記第１から第３の実施形態では、ステップＳ１３において、処理部１０Ａ，２０Ｂ，１０Ｂは、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズの画素数を設定しているが、オペレータまたはユーザがウィンドウサイズを直接設定してもよい。この場合、ウィンドウサイズデータベース１０４は不要となる。
【０２０１】
上記第１から第３の実施形態では、ステップＳ１３において、処理部１０Ａ，２０Ｂ，１０Ｂは、入力された組織の種別に基づいて、ウィンドウサイズの画素数を設定しているが、組織の種別の入力に代えて、組織のサイズを入力してもよい。処理部１０Ａ，２０Ｂ，１０Ｂは、入力された組織のサイズに基づいて、ウィンドウサイズデータベース１０４を参照して、ウィンドウサイズの画素数を設定すればよい。ステップＳ２２においてもステップＳ１３と同様に、組織の種別の入力に代えて、組織のサイズを入力してもよい。処理部２０Ａ，２０Ｂ，１０Ｂは、入力された組織のサイズに基づいて、ウィンドウサイズデータベース１０４およびアルゴリズムデータベース１０５を参照して、ウィンドウサイズの画素数を設定し、ニューラルネットワーク６０を取得すればよい。
【０２０２】
組織のサイズを入力する態様については、サイズを数値として直接入力してもよいし、例えば入力のユーザインタフェースをプルダウンメニューとして、ユーザが入力しようとするサイズに対応する、所定の数値範囲をユーザに選択させて入力してもよい。
【０２０３】
また、ステップＳ１３およびステップＳ２２において、組織の種別または組織のサイズに加えて、訓練用画像、および解析対象画像７８を撮像した際の撮像倍率を入力してもよい。撮像倍率を入力する態様については、倍率を数値として直接入力してもよいし、例えば入力のユーザインタフェースをプルダウンメニューとして、ユーザが入力しようとする倍率に対応する、所定の数値範囲をユーザに選択させて入力してもよい。
【０２０４】
上記第１から第３の実施形態では、深層学習処理時および画像解析処理時において、説明の便宜のためにウィンドウサイズを３×３画素と設定しているが、ウィンドウサイズの画素数はこれに限定されない。ウィンドウサイズは、例えば組織の種別に応じて設定してもよい。この場合、ウィンドウサイズの画素数と画像に含まれる色の原色の数との積が、ニューラルネットワーク５０，６０の入力層５０ａ，６０ａのノード数に対応していればよい。
【０２０５】
上記第１から第３の実施形態では、ステップＳ１７において、処理部１０Ａ，２０Ｂ，１０Ｂは、深層学習アルゴリズム６０を、組織の種別と一対一に対応付けて、アルゴリズムデータベース１０５に記憶している。これに代えて、ステップＳ１７において、処理部１０Ａ，２０Ｂ，１０Ｂは、１つの深層学習アルゴリズム６０に、複数の組織の種別を対応付けて、アルゴリズムデータベース１０５に記憶してもよい。
【０２０６】
上記第１から第３の実施形態では、色相は、光の３原色の組み合わせ、または色の３原色の組み合わせで規定されているが、色相の数は３つに限定されない。色相の数は、赤（Ｒ），緑（Ｇ），青（Ｂ）に黄（Ｙ）を加えた４原色としても良いし、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色からいずれか１つの色相を減らした２原色としてもよい。あるいは、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色のいずれか１つ（例えば緑（Ｇ））のみの１原色としてもよい。例えば公知の顕微鏡またはバーチャルスライドスキャナ等を用いて取得される訓練用画像７０Ｒ１，７０Ｒ２，７０Ｒ３および解析対象画像７８も、赤（Ｒ），緑（Ｇ），青（Ｂ）の３原色のカラー画像に限定されず、２原色のカラー画像であってもよく、１以上の原色を含む画像であればよい。
【０２０７】
上記第１から第３の実施形態では、ステップＳ１０において、処理部１０Ａ，２０Ｂ，１０Ｂは、訓練用画像の各色濃度符号化図（色濃度符号化図７０Ｒ１ｒ，７０Ｒ１ｇ，７０Ｒ１ｂ、色濃度符号化図７０Ｒ２ｒ，７０Ｒ２ｇ，７０Ｒ２ｂ、色濃度符号化図７０Ｒ３ｒ，７０Ｒ３ｇ，７０Ｒ３ｂ）を各原色の８ビット（２５６段階）の単一色画像として生成しているが、各色濃度符号化図を作成する際の原色の階調は、８ビットに制限されない。各色濃度符号化図の階調は、スライドイメージスキャナの撮像条件に依存してもよい。例えば、１ビット以上であり２ビット、４ビット、１６ビット、２４ビットの画像であってもよい。同様に、ステップＳ２１において、処理部２０Ａ，２０Ｂ，１０Ｂは、色濃度符号化図７９ｒ，７９ｇ，７９ｂ各原色の単一色画像として生成しているが、色濃度符号化図を作成する際の原色の階調は３階調に制限されない。色濃度符号化図を作成する際の原色は、８ビットに制限されない。色濃度符号化図７９ｒ，７９ｇ，７９ｂの階調は、スライドイメージスキャナの撮像条件に依存してもよい。例えば、１ビット以上であり２ビット、４ビット、１６ビット、２４ビットの画像であってもよい。訓練用画像の各色濃度符号化図および色濃度符号化図７９ｒ，７９ｇ，７９ｂの階調は、全てが同じ階調であることが好ましい。
【０２０８】
上記第１から第３の実施形態では、ステップＳ１０において、処理部１０Ａ，２０Ｂ，１０Ｂは、訓練用画像から、各色濃度符号化図を生成しているが、予め各画素が階調に応じて符号化された行列表を訓練用画像として用いてもよい。処理部１０Ａ，２０Ｂ，１０Ｂは、訓練用画像を各色濃度符号化図として、例えばバーチャルスライドスキャナ等から直接取得してもよい。同様に、ステップＳ２１において、処理部２０Ａ，２０Ｂ，１０Ｂは、解析対象画像７８からＲ、Ｇ、Ｂ各色の色濃度符号化図７９ｒ，７９ｇ，７９ｂを生成しているが、予め各画素が階調に応じて符号化された行列表を解析用画像として用いてもよい。すなわち、処理部２０Ａ，２０Ｂ，１０Ｂは、色濃度符号化図７９ｒ，７９ｇ，７９ｂを、例えばバーチャルスライドスキャナ等から直接取得してもよい。
【０２０９】
上記第１から第３の実施形態では、訓練用画像から各色濃度符号化図を生成する際のカラースペースにはＲＧＢを用いているが、カラースペースはＲＧＢに制限されない。ＲＧＢ以外にも、ＹＵＶ、ＣＭＹ、およびＣＩＥ  Ｌ＊ａ＊ｂ＊等の種々のカラースペースを用いることができる。
【０２１０】
上記第１から第３の実施形態では、各領域訓練データおよび解析用データ８０において、各画素について濃度値が赤（Ｒ），緑（Ｇ），青（Ｂ）の順番で格納されているが、濃度値を格納および取り扱う順番はこれに限定されない。例えば濃度値は、青（Ｂ），緑（Ｇ），赤（Ｒ）の順番で格納されていてもよく、各領域訓練データにおける濃度値の並び順と、解析用データ８０における濃度値の並び順とが同じであればよい。
【０２１１】
上記第１から第３の実施形態では、処理部１０Ａ，１０Ｂは一体の装置として実現されているが、処理部１０Ａ，１０Ｂは一体の装置である必要はなく、ＣＰＵ１１、メモリ１２、記憶部１３等が別所に配置され、これらがネットワークで接続されていてもよい。処理部１０Ａ，１０Ｂと、入力部１６と、出力部１７とについても、一ヶ所に配置される必要は必ずしもなく、それぞれ別所に配置されて互いにネットワークで通信可能に接続されていてもよい。処理部２０Ａ，２０Ｂ，２０Ｃについても処理部１０Ａ，１０Ｂと同様である。
【０２１２】
上記第１から第３の実施形態では、訓練データ生成部１０１、訓練データ入力部１０２、アルゴリズム更新部１０３、解析用データ生成部２０１、解析用データ入力部２０２、解析部２０３および領域検出部２０４の各機能ブロックは、単一のＣＰＵ１１または単一のＣＰＵ２１において実行されているが、これら各機能ブロックは単一のＣＰＵにおいて実行される必要は必ずしもなく、複数のＣＰＵで分散して実行されてもよい。また、これら各機能ブロックは、複数のＧＰＵで分散して実行されてもよいし、複数のＣＰＵと複数のＧＰＵとで分散して実行されてもよい。
【０２１３】
上記第２および第３の実施形態では、図１１および図１４で説明する各ステップの処理を行うためのプログラムを記憶部１３，２３に予め記憶している。これに代えて、プログラムは、例えばＤＶＤ−ＲＯＭやＵＳＢメモリ等の、コンピュータ読み取り可能であって非一時的な有形の記憶媒体９８から処理部１０Ｂ，２０Ｂにインストールしてもよい。または、処理部１０Ｂ，２０Ｂをネットワーク９９と接続し、ネットワーク９９を介して例えば外部のサーバ（図示せず）からプログラムをダウンロードしてインストールしてもよい。
【０２１４】
上記第１から第３の実施形態では、入力部１６，２６はキーボードまたはマウス等の入力装置であり、出力部１７，２７は液晶ディスプレイ等の表示装置として実現されている。これに代えて、入力部１６、２６と出力部１７、２７とを一体化してタッチパネル式の表示装置として実現してもよい。または、出力部１７，２７をプリンター等で構成し、解析結果の３値画像８３または領域強調画像８４を印刷して出力してもよい。
【０２１５】
上記第１から第３の実施形態では、撮像装置３００は、深層学習装置１００Ａまたは画像解析装置１００Ｂと直接接続されているが、撮像装置３００は、ネットワーク９９を介して深層学習装置１００Ａまたは画像解析装置１００Ｂと接続されていてもよい。撮像装置４００についても同様に、撮像装置４００は、画像解析装置２００Ａまたは画像解析装置２００Ｂと直接接続されているが、撮像装置４００は、ネットワーク９９を介して画像解析装置２００Ａまたは画像解析装置２００Ｂと接続されていてもよい。
【０２１６】
＜学習済み深層学習アルゴリズムの検証＞
上記第２の実施形態に示すスタンドアロン型のシステムにて、深層学習処理および画像解析処理を行った。学習の対象とする組織として、腫瘍領域と正常領域を含むヒト胃がん組織を用いた。学習済みの深層学習アルゴリズムを作成するにあたり、組織標本の拡大倍率を１倍、３倍、５倍、１０倍、２０倍、および４０倍と変化させて訓練用画像を撮像し、異なる拡大倍率の訓練用画像を用いた訓練データをニューラルネットワークに学習させ、解析結果の正確性を確認した。
学習データおよび解析データの詳細は、次の通りであった。
学習データ：１０６枚のホールスライドイメージ
検証用解析データ：４５枚のホールスライドイメージ
【０２１７】
［訓練データの作成および学習］
ＨＥ染色した胃がん組織の明視野画像のホールスライドイメージを、バーチャルスライドスキャナ（NanoZoomer-XR、(Hamamatsu Photonics；スキャン分解能：20倍モードスキャン時0.46 μm/pixel、40倍モードスキャン時0.23 μm/pixel)）を用いてカラー撮像した。撮像倍率は１倍、３倍、５倍、１０倍、２０倍、および４０倍とした。学習対象の組織を含むホールスライドイメージ上で、病理医が腫瘍領域、非腫瘍領域、および非組織領域を指定した。各領域が指定されたホールスライドイメージを上記の条件で分割し、訓練用画像とした。個々の訓練用画像について腫瘍領域であるか、非腫瘍領域であるか、非組織領域であるかを決定した。その際、腫瘍領域と非腫瘍領域が混在する組織の領域については、訓練用画像内の組織領域に該当する画素数のうち、腫瘍領域と指定された画素数が５０％以上を占める場合には腫瘍領域とした。また、訓練用画像内の組織領域に該当する画素数のうち、非腫瘍領域と指定された画素数が占める割合が１００％の場合には非腫瘍領域とした。非組織領域と組織領域が混在する訓練用画像については、組織領域が訓練用画像の画素数の０％である場合に非組織領域とし、それ以外は組織領域とした。腫瘍領域、非腫瘍領域、非組織領域と判定されたそれぞれの訓練用画像の各画素について、各領域を区別するラベル値（腫瘍領域は「１」、非腫瘍領域は「２」、非組織領域は「０」）を付与し、第１の予備訓練データ７０Ｒ１Ｌ、第２の予備訓練データ７０Ｒ２Ｌおよび第３の予備訓練データ７０Ｒ２Ｌを生成した。腫瘍領域と判定された訓練用画像を第１の訓練用画像とし、非腫瘍領域と判定された訓練用画像を第２の訓練用画像７０Ｒ２とし、非組織領域と判定された訓練用画像を第３の訓練用画像７０Ｒ３とした。各訓練用画像についてＲ、Ｇ、Ｂ各色の色濃度値を８ビットで階調化して、Ｒ、Ｇ、Ｂ各色の色濃度符号化図を生成し、作成したＲ、Ｇ、Ｂ各色の色濃度符号化図を組み合わせて第１の訓練データ７４Ｒ１、第２の訓練データ７４Ｒ２、第３の訓練データ７４Ｒ３のそれぞれを生成した。
【０２１８】
その後、第１の訓練データ７４Ｒ１と第１の予備訓練データ７０Ｒ１Ｌとを組み合わせて腫瘍領域訓練データを作成した。第２の訓練データ７４Ｒ２と第２の予備訓練データ７０Ｒ２Ｌとを組み合わせて非腫瘍領域訓練データを作成した。第３の訓練データ７４Ｒ３と第３の予備訓練データ７０Ｒ２Ｌとを組み合わせて非組織領域訓練データを作成した。作成した各領域訓練データを２００×２００画素のウィンドウサイズに分割し、分割したウィンドウサイズの訓練データを入力層として、ニューラルネットワークを学習させた。
【０２１９】
各領域訓練データは組織標本の拡大倍率毎に生成し、拡大倍率毎にニューラルネットワークを学習させた。
【０２２０】
［解析対象画像の作成］
訓練データと同様に、ＨＥ染色したヒト胃がん組織の明視野画像のホールスライドイメージを、バーチャルスライドスキャナを用いてカラー撮像し解析用画像を得た。撮像倍率は１倍、３倍、５倍、１０倍、２０倍、および４０倍とした。その後、撮像した解析用画像をもとにＲ、Ｇ、Ｂ各色の色濃度符号化図を作成し、作成したＲ、Ｇ、Ｂ各色の色濃度符号化図を組み合わせて解析対象データを生成した。解析対象データは、拡大倍率毎に生成した。
【０２２１】
［解析結果］
解析対象データから２００×２００画素のウィンドウサイズの解析用データを作成し、解析用データを、拡大倍率に対応した学習済みのニューラルネットワークに入力した。ニューラルネットワークから出力される解析結果をもとに、腫瘍領域と、非腫瘍領域と、非組織領域（背景）とに分類し、解析処理により得られた腫瘍領域を白で表示し、非腫瘍領域をグレーで表示し、非組織領域を黒で表示するように処理した。解析結果を図１９に示す。
【０２２２】
図１９中、（ａ）は、胃がん組織をＨＥ染色して撮像した明視野画像のホールスライドイメージであり、解析対象の画像である。（ｂ）は、ホールスライドイメージの腫瘍領域を病理医が指定し実線で囲った像である。（ｃ）は、拡大倍率１倍の訓練用画像と解析用画像を用いた解析結果を示す。病理医が指定した各領域を正確に示すことはできなかった。（ｄ）は、拡大倍率５倍の訓練用画像と解析用画像を用いた解析結果を示す。病理医が指定した腫瘍領域を腫瘍領域として概ね判別することができた。また、病理医が指定した非腫瘍領域を非腫瘍領域として概ね判別することができた。病理医が指定した非組織領域を非組織領域として概ね判別することができた。（ｅ）は、拡大倍率４０倍の訓練用画像と解析用画像を用いた解析結果を示す。病理医が指定した腫瘍領域を腫瘍領域としてある程度判別することができた。しかし、病理医が非腫瘍領域と指定した領域において、腫瘍領域と判定される領域が増えており、非腫瘍領域を腫瘍領域と誤判定する割合が高くなっていた。
【０２２３】
以上の結果から、訓練用画像および解析用画像を取得する際の拡大倍率は低すぎても高すぎても誤判定の原因となることが示された。  
【０２２４】
図２０中、（ａ）は、図１９とは異なる胃がん組織をＨＥ染色して撮像した明視野画像のホールスライドイメージであり、解析対象の画像である。（ｂ）は、ホールスライドイメージの腫瘍領域を病理医が指定し実線で囲った像である。（ｃ）は、拡大倍率５倍の訓練用画像と解析用画像を用いた解析結果を示す。病理医が指定した腫瘍領域を腫瘍領域として概ね判別することができた。また、病理医が指定した非腫瘍領域を非腫瘍領域として概ね判別することができた。病理医が指定した非組織領域を非組織領域として概ね判別することができた。（ｄ）は、拡大倍率２０倍の訓練用画像と解析用画像を用いた解析結果を示す。拡大倍率５倍の場合と同様に、病理医が指定した各領域を概ね判別することができた。
【０２２５】
拡大倍率５倍の解析用画像について、下式にしたがって、ホールスライドイメージ１枚に存在する組織領域における腫瘍領域の含有率を算出した。
【０２２６】
腫瘍領域の含有率（％）＝｛［腫瘍領域と判定された画素数］／［（腫瘍領域と判定された画素数）＋（非腫瘍領域と判定された画素数）］｝×１００
【０２２７】
腫瘍領域の含有率は５４．５％であった。
【０２２８】
また、図２１に各拡大倍率の感度（ａ）および陽性的中率（ｂ）を示す。この結果から、訓練用画像および解析用画像を取得する際の組織標本の拡大倍率は、５から２０倍が適切であると考えられた。また、図２１にウィンドウサイズの画素数の違いによる感度（ｃ）および陽性的中率（ｄ）の変化を示す。解析用画像は拡大倍率５倍で撮像した。ウィンドウサイズの画素数は、１２５×１２５画素から２００×２００画素が好ましいと考えられた。
【０２２９】
今回１枚のホールスライドイメージの解析時間は、数分〜３０分程度であった。
【符号の説明】
【０２３０】
１０（１０Ａ，１０Ｂ）      処理部
２０（２０Ａ，２０Ｂ，２０Ｃ）     処理部
１１，２１    ＣＰＵ
１２，２２    メモリ
１３，２３    記録部
１４，２４    バス
１５，２５    インタフェース部
１６，２６    入力部
１７，２７    出力部
１９，２９    ＧＰＵ
５０   ニューラルネットワーク（深層学習アルゴリズム）
５０ａ 入力層
５０ｂ 出力層
５０ｃ 中間層
６０   学習済みのニューラルネットワーク（学習済みの深層学習アルゴリズム）
６０ａ 入力層
６０ｂ 出力層
６０ｃ 中間層
７０Ｗ１          ホールスライドイメージ
７０Ｗ２          ホールスライドイメージ
７０Ｗ３          ホールスライドイメージ
７０Ｒ１Ｌ                       第１の予備訓練データ
７０Ｒ２Ｌ                       第２の予備訓練データ
７０Ｒ３Ｌ                       第３の予備訓練データ
７２Ｒ１ｒ，７２Ｒ１ｇ，７２Ｒ１ｂ  色濃度符号化図
７２Ｒ２ｒ，７２Ｒ２ｇ，７２Ｒ２ｂ  色濃度符号化図
７２Ｒ３ｒ，７２Ｒ３ｇ，７２Ｒ３ｂ  色濃度符号化図
７４Ｒ１，７４Ｒ２，７４Ｒ３    訓練データ
７５Ｒ１，７５Ｒ２, ７５Ｒ３     ウィンドウサイズの訓練データ
７６   色濃度値
７７Ｒ１，７７Ｒ２，７７Ｒ３   真値像のラベル値
７８   解析対象の明視野画像
７９ｒ，７９ｇ，７９ｂ      解析対象の色濃度符号化図
８０   解析用データ
８１   色濃度値
８２   判別結果（画素の推定値）
８３   解析結果の３値画像
８４   領域強調画像
８９（８９ａ，８９ｂ）      ノード
９８   記録媒体
９９   ネットワーク
１００ ベンダ側装置
１００Ａ      深層学習装置
１００Ｂ      統合型の画像解析装置
１０１ 訓練データ生成部
１０２ 訓練データ入力部
１０３ アルゴリズム更新部
１０４ ウィンドウサイズデータベース
１０５ アルゴリズムデータベース
２００ ユーザ側装置
２００Ａ      画像解析装置
２００Ｂ      統合型の画像解析装置
２００Ｃ      端末装置
２０１ 解析用データ生成部
２０２ 解析用データ入力部
２０３ 解析部
２０４ 領域検出部
３００，４００       撮像装置
３０１，４０１       撮像素子
３０８，４０８       試料組織
３０９，４０９       ステージ
Ｗ１   ウィンドウ
Ｗ２   ウィンドウ 
【図１】
2019148473.tif 000019
【図２】
2019148473.tif 000020
【図３】
2019148473.tif 000021
【図４】
2019148473.tif 000022
【図５】
2019148473.tif 000023
【図６】
2019148473.tif 000024
【図７】
2019148473.tif 000025
【図８】
2019148473.tif 000026
【図９】
2019148473.tif 000027
【図１０】
2019148473.tif 000028
【図１１】
2019148473.tif 000029
【図１２】
2019148473.tif 000030
【図１３】
2019148473.tif 000031
【図１４】
2019148473.tif 000032
【図１５】
2019148473.tif 000033
【図１６】
2019148473.tif 000034
【図１７】
2019148473.tif 000035
【図１８】
2019148473.tif 000036
【図１９】
2019148473.tif 000037
【図２０】
2019148473.tif 000038
【図２１】
2019148473.tif 000039