(57)【要約】  ラベル付学習データを準備するための労力を軽減しつつ、効果的に学習を行わせることが可能な学習装置を提供する。  複数の識別器Ｍを備えた学習装置Ｓにおいて、複数のラベル付データＬＤをそれぞれ用いてＳＶＭにより各識別器Ｍに学習を行わせ、ラベル付データＬＤよりも多いラベルなしデータＮＤを用いた深層学習法により、ＳＶＭによる学習後の識別器Ｍに学習を行わせる。このとき、一部の識別器ＭにおけるラベルなしデータＮＤを用いた学習結果Ｒを学習データの少なくとも一部として用いて、他の識別器Ｍに深層学習法による学習を行わせる。
2020085439.tif 000002
【特許請求の範囲】
【請求項１】
複数の学習手段を備えた学習装置において、
複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御手段と、
前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御手段であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御手段と、
を備えることを特徴とする学習装置。
【請求項２】
請求項１に記載の学習装置において、
前記第２学習制御手段は、前記一部の前記学習手段における前記学習結果のうち、同じ内容の当該学習結果が最も多い当該学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせることを特徴とする学習装置。
【請求項３】
請求項１又は請求項２に記載の学習装置において、
前記第２学習制御手段により制御された学習後の各前記学習手段に、前記ラベルなし学習データを用いた前記第２学習方法による学習をそれぞれ行わせる第３学習制御手段を更に備えることを特徴とする学習装置。
【請求項４】
請求項３に記載の学習装置において、
前記第２学習制御手段及び前記第３学習制御手段は、当該第２学習制御手段の制御による前記学習手段の学習と、当該第３学習制御手段の制御による各前記学習手段の学習と、を繰り返すように前記学習手段を制御することを特徴とする学習装置。
【請求項５】
請求項４に記載の学習装置において、
前記第２学習制御手段の制御による前記学習手段の学習と、前記第３学習制御手段の制御による各前記学習手段の学習と、の繰返し回数が、前記第２学習制御手段の制御又は前記第３学習制御手段の制御の少なくともいずれか一方による前記学習手段の学習結果における精度に基づいて予め設定されていることを特徴とする学習装置。
【請求項６】
請求項１から請求項５のいずれか一項に記載の学習装置において、
前記第１学習方法が、前記ラベル付学習データを用いた機械学習方法であり、
前記第２学習方法が、前記ラベルなし学習データを用いた深層学習方法であることを特徴とする学習装置。
【請求項７】
第１学習制御手段と、第２学習制御手段と、複数の学習手段と、を備えた学習装置において実行される学習方法であって、
前記第１学習制御手段により、複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御工程と、
前記第２学習制御手段により、前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御工程であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御工程と、
を含むことを特徴とする学習方法。
【請求項８】
複数の学習手段を備えた学習装置に含まれるコンピュータを、
複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御手段、及び、
前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御手段であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御手段、
として機能させることを特徴とする学習用プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、学習装置、学習方法及び学習用プログラムの技術分野に属する。より詳細には、学習データを用いた学習を行う学習装置及び学習方法並びに当該学習装置用のプログラムの技術分野に属する。
【背景技術】
【０００２】
近年、ニューラルネットワークを用いた深層学習は、画像認識の分野において大きな成功を収めている。特に、分類や検出等の目的に対し、深層学習に用いられるニューラルネットワークの一つである「畳み込みニューラルネットワーク（Convolutional Neural Network。以下「ＣＮＮ」と称する。）の有用性が報告されており、更に医用画像解析の分野においてもＣＮＮが広く利用されている。このようなＣＮＮに関する技術を開示した先行技術文献としては、例えば下記非特許文献１が挙げられる。【０００３】
このとき、従来の医用画像解析の分野におけるＣＮＮについては、分類や検出等の目的に対していわゆる「教師あり学習」を中心とした開発が行われてきた。このようなＣＮＮを用いた学習では、一般に、正解データとの誤差をいわゆる誤差逆伝搬法により学習し、膨大な学習データを利用することで、新たなデータに対する汎用性を獲得している。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】A. Krizhevsky, I. Sutskever, and G. E. Hinton, “ImageNet Classication with Deep Convolutional Neural Networks,” in Advances In Neural Information Processing Systems, 2012, pp. 1-9.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら一方で、医用画像に対するアノテーション（ラベル）の付与には、例えば医師の医学的且つ専門な知識が必要とされるため、一般的な画像と比較してラベルの付与に労力を要する。ここで当該ラベルとは、対象となる医用画像に対する医師等の診断結果を示す情報をいう。そこで、大量のラベル付のデータの確保が困難である場合を想定した学習方法の構築が喫緊の課題であった。【０００６】
そこで本発明は、上記の要請に鑑みて為されたもので、その課題の一例は、ラベル付学習データを準備するための労力を軽減しつつ、効果的に学習を行わせることが可能な学習装置及び学習方法並びに当該学習装置用のプログラムを提供することにある。
【課題を解決するための手段】
【０００７】
上記の課題を解決するために、請求項１に記載の発明は、複数の学習手段を備えた学習装置において、複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御手段と、前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御手段であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御手段と、を備える。【０００８】
上記の課題を解決するために、請求項７に記載の発明は、第１学習制御手段と、第２学習制御手段と、複数の学習手段と、を備えた学習装置において実行される学習方法であって、前記第１学習制御手段により、複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御工程と、前記第２学習制御手段により、前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御工程であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御工程と、を含む。【０００９】
上記の課題を解決するために、請求項８に記載の発明は、複数の学習手段を備えた学習装置に含まれるコンピュータを、複数のラベル付学習データをそれぞれ用いて、当該ラベル付学習データの数に対応した第１学習方法により各前記学習手段に学習を行わせる第１学習制御手段、及び、前記ラベル付学習データよりも多いラベルなし学習データを用いて、当該ラベルなし学習データの数に対応した第２学習方法により、前記第１学習方法による学習後の前記学習手段に学習を行わせる第２学習制御手段であって、一部の前記学習手段における前記ラベルなし学習データを用いた前記第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせる第２学習制御手段、として機能させる。【００１０】
請求項１、請求項７又は請求項８のいずれか一項に記載の発明によれば、複数のラベル付学習データをそれぞれ用いて第１学習方法により各学習手段に学習を行わせ、その後、ラベル付学習データよりも多いラベルなし学習データを用いて、第１学習方法における学習後の学習手段に第２学習方法により学習を行わせる。このとき、一部の学習手段における第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の学習手段に第２学習方法による学習を行わせる。よって、ラベル付学習データを準備するための労力を軽減しつつ、各学習手段に効果的に学習を行わせることができる。【００１１】
上記の課題を解決するために、請求項２に記載の発明は、請求項１に記載の学習装置において、前記第２学習制御手段は、前記一部の前記学習手段における前記学習結果のうち、同じ内容の当該学習結果が最も多い当該学習結果を学習データの少なくとも一部として用いて、他の前記学習手段に前記第２学習方法による学習を行わせるように構成される。【００１２】
請求項２に記載の発明によれば、請求項１に記載の発明の作用に加えて、一部の学習手段における学習結果のうち、同じ内容の学習結果が最も多い学習結果を学習データの少なくとも一部として用いて他の学習手段に学習を行わせるので、各学習手段における学習結果の精度を向上させることができる。【００１３】
上記の課題を解決するために、請求項３に記載の発明は、請求項１又は請求項２に記載の学習装置において、前記第２学習制御手段により制御された学習後の各前記学習手段に、前記ラベルなし学習データを用いた前記第２学習方法による学習をそれぞれ行わせる第３学習制御手段を更に備える。【００１４】
請求項３に記載の発明によれば、請求項１又は請求項２に記載の発明の作用に加えて、第２学習制御手段により制御された学習後の各学習手段に、ラベルなし学習データを用いた第２学習方法による学習を再度行わせるので、いわゆる過学習の影響を抑制しつつ、学習結果の精度を更に向上させることができる。【００１５】
上記の課題を解決するために、請求項４に記載の発明は、請求項３に記載の学習装置において、前記第２学習制御手段及び前記第３学習制御手段は、当該第２学習制御手段の制御による前記学習手段の学習と、当該第３学習制御手段の制御による各前記学習手段の学習と、を繰り返すように前記学習手段を制御するように構成される。【００１６】
請求項４に記載の発明によれば、請求項３に記載の発明の作用に加えて、第２学習制御手段の制御による学習手段の学習と、第３学習制御手段の制御による各学習手段の学習と、を繰り返すように学習手段を制御するので、学習結果の精度をより向上させることができる。【００１７】
上記の課題を解決するために、請求項５に記載の発明は、請求項４に記載の学習装置において、前記第２学習制御手段の制御による前記学習手段の学習と、前記第３学習制御手段の制御による各前記学習手段の学習と、の繰返し回数が、前記第２学習制御手段の制御又は前記第３学習制御手段の制御の少なくともいずれか一方による前記学習手段の学習結果における精度に基づいて予め設定されている。【００１８】
請求項５に記載の発明によれば、請求項４に記載の発明の作用に加えて、第２学習制御手段の制御による学習手段の学習と、第３学習制御手段の制御による各学習手段の学習と、の繰返し回数が、第２学習制御手段の制御又は第３学習制御手段の制御の少なくともいずれか一方による学習手段の学習結果における精度に基づいて設定されているので、当該学習結果の精度を更に向上させることができる。【００１９】
上記の課題を解決するために、請求項６に記載の発明は、請求項１から請求項５のいずれか一項に記載の学習装置において、前記第１学習方法が、前記ラベル付学習データを用いた機械学習方法であり、前記第２学習方法が、前記ラベルなし学習データを用いた深層学習方法であるように構成される。【００２０】
請求項６に記載の発明によれば、請求項１から請求項５のいずれか一項に記載の発明の作用に加えて、第１学習方法がラベル付学習データを用いた機械学習方法であり、第２学習方法がラベルなし学習データを用いた深層学習方法であるので、学習手段による学習結果の精度を更に高めることができる。
【発明の効果】
【００２１】
本発明によれば、複数のラベル付学習データをそれぞれ用いて第１学習方法により各学習手段に学習を行わせ、その後、ラベル付学習データよりも多いラベルなし学習データを用いて、第１学習方法における学習後の学習手段に第２学習方法により学習を行わせる。このとき、一部の学習手段における第２学習方法による学習結果を学習データの少なくとも一部として用いて、他の学習手段に第２学習方法による学習を行わせる。【００２２】
従って、ラベル付学習データを準備するための労力を軽減しつつ、各学習手段に効果的に学習を行わせることができる。
【図面の簡単な説明】
【００２３】
【図１】実施形態に係る学習装置の概要構成を示すブロック図である。
【図２】実施形態に係る学習処理の全体を示すフローチャートである。
【図３】実施形態に係る第２学習処理を示す概念図である。
【発明を実施するための形態】
【００２４】
次に、本発明を実施するための形態について、図面に基づいて説明する。なお以下に説明する実施形態は、例えばレントゲン装置又はＣＴ（Computed Tomography）装置等により撮像された医用画像を学習データとして学習する学習装置に対して、本発明を適用した場合の実施の形態である。当該学習装置は、上記学習に加えて、新たな医用画像が得られた場合に、当該新たな医用画像に映し出されている病気等についての病名等の判定を行う。なお以下の説明においては、上記医用画像のデータを、単に「画像データ」と称する。
【００２５】
また、図１は実施形態に係る学習装置の概要構成を示すブロック図であり、図２は実施形態に係る学習処理の全体を示すフローチャートであり、図３は実施形態に係る第２学習処理を示す概念図である。更に図１においては、実施形態に係る学習処理におけるデータの授受を実線で、後述する実施形態に係る判定処理におけるデータの授受を破線で、それぞれ示している。
【００２６】
図１に示すように、実施形態に係る学習装置Ｓは、学習部ＳＤと、ＨＤＤ（Hard Disc Drive）又はＳＳＤ（Solid State Drive）等からなる記録部ＭＲと、学習制御部１と、を備えて構成されている。
【００２７】
この構成において学習部ＳＤは、例えば六個の識別器Ｍ１乃至識別器Ｍ６を備える。そして各識別器Ｍ１乃至識別器Ｍ６のそれぞれは、ＣＮＮを備えた学習モデルと、教師ありの機械学習処理が実行可能な例えばＳＶＭ（support vector machine）と、を含む。このとき、各識別器Ｍ１乃至識別器Ｍ６に含まれる学習モデルに備えられるＣＮＮの構造の一例としては、例えば下記表１に記載の構造が挙げられる。なお、以下の説明において、識別器Ｍ１乃至識別器Ｍ６に共通の事項を説明する場合、単に「識別器Ｍ」と称する。また、実施形態に係る学習装置Ｓにおける識別器Ｍは、複数であることが必要である。
【００２８】
【表１】
2020085439.tif 000003
一方記録部ＭＲには、予めラベルが付与された画像データである複数症例分のラベル付データＬＤと、ラベルが付与されていない画像データである複数症例部のラベルなしデータＮＤと、が記録されている。ここで、ラベル付データＬＤの数（症例数）は例えば数十個であり、ラベルなしデータＮＤの数（症例数）は、ラベル付データＬＤの数より多い、例えば数百個である。
【００２９】
また学習制御部１は、ＣＰＵ（Central Processing Unit）、ＲＯＭ（Read Only Memory）及びＲＡＭ（Random Access Memory）等からなり、各識別器Ｍ及び記録部ＭＲを制御して、後述する実施形態に係る学習処理を実行する。
【００３０】
そして図１破線で示すように、実施形態に係る判定処理として、実施形態に係る学習処理が実行された後の学習部ＳＤに対しては、新たに病気等の判定の対象となる画像データである判定対象データＧが入力される。この場合に学習部ＳＤの各識別器Ｍは、当該学習処理の結果を用いて、判定対象データＧに映し出されている病気等を判定し、その判定結果を、例えば画像データたる判定結果データＡとして外部に出力する。これにより、実施形態に係る学習処理の結果が反映された、信頼度の高い判定結果データＡを取得することができる。その後当該判定結果データＡは、例えば図示しないディスプレイ等に表示され、これを見た医師等による最終的な診断等に供される。
【００３１】
以上の構成において、各識別器Ｍのそれぞれが本願に係る「学習手段」の一例に相当し、学習制御部１が、本願に係る「第１学習制御手段」の一例、「第２学習制御手段」の一例及び「第３学習制御手段」の一例にそれぞれ相当する。
【００３２】
次に、上記の構成を備える学習装置Ｓによる実施形態に係る学習処理について、具体的に図１乃至図３を用いて説明する。
【００３３】
上述したように、記録部ＭＲには、既に対応するラベルがそれぞれに付与された例えば数十個のラベル付データＬＤと、対応するラベルが未だ付与されていない例えば数百個のラベルなしデータＮＤと、が予め記録されている。そして、対応するフローチャートを図２に示すように、上記学習処理として初めに学習制御部１は、記録部ＭＲからラベル付データＬＤを画像データＤとして読み出す（ステップＳ１）。そして学習制御部１は、実施形態に係る  上述したように、記録部ＭＲには、既に対応するラベルがそれぞれに付与された例えば数十個のラベル付データＬＤと、対応するラベルが未だ付与されていない例えば数百個のラベルなしデータＮＤと、が予め記録されている。そして、対応するフローチャートを図２に示すように、上記学習処理として初めに学習制御部１は、記録部ＭＲからラベル付データＬＤを画像データＤとして読み出す（ステップＳ１）。そして学習制御部１は、実施形態に係る第１学習処理として、ステップＳ１で読み出したラベル付データＬＤを学習データとして用い、各識別器Ｍにそれぞれ含まれる例えばＳＶＭにより、教師ありの機械学習処理を当該各識別器Ｍに実行させる（ステップＳ２）。なお以下の説明において、実施形態に係る第１学習処理を、単に「第１学習処理」と称する。
【００３４】
次に学習制御部１は、記録部ＭＲからラベルなしデータＮＤを画像データＤとして読み出す（ステップＳ３）。そして学習制御部１は、実施形態に係る第２学習処理として、ステップＳ３で読み出したラベルなしデータＮＤを学習データとして用い、第１学習処理を行った後の各識別器Ｍにそれぞれ含まれるＣＮＮを備えた学習モデルにより、当該ＣＮＮを用いた深層学習処理を実行する（ステップＳ４）。なお以下の説明において、実施形態に係る第２学習処理を、単に「第２学習処理」と称する。
【００３５】
ここで、第２学習処理として学習制御部１は、ラベルなしデータＮＤを学習データとして用いた深層学習処理を各識別器Ｍのそれぞれに行わせると共に、各識別器Ｍのいずれかによる当該深層学習処理の学習結果のうち、その内容が一致する学習結果を、他の識別器Ｍにおける当該深層学習処理用の学習データとして当該他の識別器Ｍに出力し、その深層学習処理に供させる。
【００３６】
より具体的に図３に示すように、第２学習処理として学習制御部１は、ラベルなしデータＮＤを学習データとして用いた深層学習処理を識別器Ｍ１に行わせると共に、その深層学習処理による学習結果Ｒ１を識別器Ｍ１から取得する。同様に学習制御部１は、ラベルなしデータＮＤを学習データとして用いた深層学習処理を識別器Ｍ２乃至識別器Ｍ６のそれぞれに行わせると共に、当該識別器Ｍ２乃至識別器Ｍ６それぞれの深層学習処理による学習結果Ｒ２乃至学習結果Ｒ６を、当該識別器Ｍ２乃至識別器Ｍ６のそれぞれから取得する。なお以下の説明において、学習結果Ｒ１乃至学習結果Ｒ６について共通の事項を説明する場合、これらを纏めて「学習結果Ｒ」と称する。
【００３７】
次に学習制御部１は、識別器Ｍ２乃至識別器Ｍ６からそれぞれ取得した学習結果Ｒ２乃至学習結果Ｒ６のうち、その内容が一致する学習結果を、識別器Ｍ１における深層学習処理用の学習データＤＤ１として当該識別器Ｍ１に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。また学習制御部１は、識別器Ｍ１及び識別器Ｍ３乃至識別器Ｍ６からそれぞれ取得した学習結果Ｒ１及び学習結果Ｒ３乃至学習結果Ｒ６のうち、その内容が一致する学習結果を、識別器Ｍ２における深層学習処理用の学習データＤＤ２として当該識別器Ｍ２に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。更に学習制御部１は、識別器Ｍ１及び識別器Ｍ２並びに識別器Ｍ４乃至識別器Ｍ６からそれぞれ取得した学習結果Ｒ１及び学習結果Ｒ２並びに学習結果Ｒ４乃至学習結果Ｒ６のうち、その内容が一致する学習結果を、識別器Ｍ３における深層学習処理用の学習データＤＤ３として当該識別器Ｍ３に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。更にまた学習制御部１は、識別器Ｍ１乃至識別器Ｍ３並びに識別器Ｍ５及び識別器Ｍ６からそれぞれ取得した学習結果Ｒ１乃至学習結果Ｒ３並びに学習結果Ｒ５及び学習結果Ｒ６のうち、その内容が一致する学習結果を、識別器Ｍ４における深層学習処理用の学習データＤＤ４として当該識別器Ｍ１に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。また学習制御部１は、識別器Ｍ１乃至識別器Ｍ４及び識別器Ｍ６からそれぞれ取得した学習結果Ｒ１乃至学習結果Ｒ４及び学習結果Ｒ６のうち、その内容が一致する学習結果を、識別器Ｍ５における深層学習処理用の学習データＤＤ５として当該識別器Ｍ１に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。最後に学習制御部１は、識別器Ｍ１乃至識別器Ｍ５からそれぞれ取得した学習結果Ｒ１乃至学習結果Ｒ５のうち、その内容が一致する学習結果を、識別器Ｍ６における深層学習処理用の学習データＤＤ６として当該識別器Ｍ６に出力し、上記ラベルなしデータＮＤと共にその深層学習処理に供させる。そしてこれらの結果、識別器Ｍ１における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ１と、を用いて実行される。また、識別器Ｍ２における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ２と、を用いて実行される。更に、識別器Ｍ３における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ３と、を用いて実行される。更にまた、識別器Ｍ４における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ４と、を用いて実行される。また、識別器Ｍ５における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ５と、を用いて実行される。最後に、識別器Ｍ６における第２学習処理としての深層学習処理は、ラベルなしデータＮＤと、上記学習データＤＤ６と、を用いて実行される。
【００３８】
なおこのとき、例えば識別器Ｍ２乃至識別器Ｍ６における深層学習処理の学習結果Ｒ２乃至学習結果Ｒ６のいずれかを上記学習データＤＤ１として用いる場合、学習制御部１は、学習結果Ｒ２乃至学習結果Ｒ６を比較し、同じ内容の学習結果が最も多い当該学習結果を上記学習データＤＤ１として用いるように制御する（換言すれば、多数決により学習データＤＤ１を決定する）のが好ましい。より具体的に例えば、あるラベルなしデータＮＤについて、識別器Ｍ２、識別器Ｍ３及び識別器Ｍ６が「○○病である（即ちPositiveである）」との学習結果Ｒ２、学習結果Ｒ３及び学習結果Ｒ６をそれぞれ出力し、残る識別器Ｍ４及び識別器Ｍ５が「○○病でない（即ちNegativeである）」との学習結果Ｒ４及び学習結果Ｒ５をそれぞれ出力している場合、学習制御部１は、上記学習データＤＤ１として「Positiveである」学習結果Ｒ２（学習結果Ｒ３及び学習結果Ｒ６）を用いるように制御する。また学習制御部１は、識別器Ｍ１及び識別器Ｍ３乃至識別器Ｍ６からの学習結果Ｒ１及び学習結果Ｒ３乃至学習結果Ｒ６のいずれかを上記学習データＤＤ２として用いる場合、識別器Ｍ１及び識別器Ｍ２並びに識別器Ｍ４乃至識別器Ｍ６からの学習結果Ｒ１及び学習結果Ｒ２並びに学習結果Ｒ４乃至学習結果Ｒ６のいずれかを上記学習データＤＤ３として用いる場合、識別器Ｍ１乃至識別器Ｍ３並びに識別器Ｍ５及び識別器Ｍ６からの学習結果Ｒ１乃至学習結果Ｒ３並びに学習結果Ｒ５及び学習結果Ｒ６のいずれかを上記学習データＤＤ４として用いる場合、識別器Ｍ１乃至識別器Ｍ４及び識別器Ｍ６からの学習結果Ｒ１乃至学習結果Ｒ４及び学習結果Ｒ６のいずれかを上記学習データＤＤ５として用いる場合、及び、識別器Ｍ１乃至識別器Ｍ５からの学習結果Ｒ１乃至学習結果Ｒ５のいずれかを上記学習データＤＤ６として用いる場合のいずれも、上述したような多数決方式で学習データＤＤ２乃至学習データＤＤ６を選択するのが好ましい。
【００３９】
ここで、第２学習処理として学習制御部１は、一の識別器Ｍにおける第２学習処理に用いられる他の識別器Ｍの学習結果Ｒに対してその確信度の算出処理を行い、予め設定された閾値以上の確信度が得られた学習結果Ｒを、当該一の識別器Ｍに出力するように構成してもよい。ここで上記「確信度」とは、ある画像データＤの各識別器Ｍへの入力時点までの当該各識別器Ｍにおける学習処理に基づいて当該画像データＤについて判定された病気等が、当該画像データＤに実際に映し出されている病気等と一致している可能性を定量的に示す値である。即ち当該確信度は、各識別器Ｍの学習処理の信頼度に相当する。
【００４０】
次に学習制御部１は、記録部ＭＲからラベルなしデータＮＤを画像データＤとして再度読み出す（ステップＳ５）。そして学習制御部１は、実施形態に係る第３学習処理として、ステップＳ５で再度読み出したラベルなしデータＮＤを学習データとして用い、上記第２学習処理を行った後の各識別器Ｍ１乃至識別器Ｍ６に含まれるＣＮＮを備えた学習モデルにより、当該ＣＮＮを用いた深層学習処理を再度実行する（ステップＳ６）。なお以下の説明において、実施形態に係る第３学習処理を、単に「第３学習処理」と称する。
【００４１】
その後学習制御部１は、上記ステップＳ３乃至上記ステップＳ６の学習処理が予め設定された回数だけ繰り返されたか否かを判定する（ステップＳ７）。このとき当該繰返し回数は、例えば、第２学習処理又は第３学習処理の少なくともいずれか一方による各識別器Ｍの学習結果Ｒにおける精度等に基づいて予め設定される。ステップＳ７の判定において、上記予め設定された回数だけ上記ステップＳ３乃至上記ステップＳ６の学習処理が繰り返されていない場合（ステップＳ７：ＮＯ）、学習制御部１は、当該予め設定された回数だけ上記ステップＳ３乃至上記ステップＳ６の学習処理を繰り返すべく、上記ステップＳ３に戻って上述してきた学習処理を繰り返す。一方ステップＳ７の判定において、上記予め設定された回数だけ上記ステップＳ３乃至上記ステップＳ６の学習処理が繰り返されている場合（ステップＳ７：ＹＥＳ）、学習制御部１は次に、例えば学習装置Ｓの電源スイッチがオフとされる等の理由により、実施形態に係る学習処理を終了するか否かを判定する（ステップＳ８）。ステップＳ８の判定において、実施形態に係る学習処理を継続する場合（ステップＳ８：ＮＯ）、学習制御部１は、上記ステップＳ１に戻って上述してきた学習処理を繰り返す。一方ステップＳ８の判定において、実施形態に係る学習処理を終了する場合（ステップＳ８：ＹＥＳ）、学習制御部１は、そのまま当該学習処理を終了する。
【実施例】
【００４２】
次に、実施形態に係る学習処理の効果を示すものとして本発明の発明者らが行った実験の結果を、実施例として以下に示す。【００４３】
先ず、当該実験の諸元としては、画像データＤとして胃部のＸ線画像のデータを用い、当該Ｘ線画像における胃炎の識別を行った。この場合のＸ線画像の大きさ（換言すれば、画像データＤとしてのデータ量）は、例えば２，０４８画素×２，０４８画素である。なお胃部のＸ線画像は、胃がん検診にも用いられ、胃がんのリスクとなる胃炎の有無の診断が行われる。また識別器Ｍの数を３として実験を行った。また、画像データＤの総数を２００個（Positiveの症例とNegativeの症例それぞれ１００個ずつ）とし、ラベル付データＬＤを２０個（Positiveラベルのラベル付データＬＤが１０個とNegativeラベルのラベル付データＬＤが１０個）とし、ラベルなしデータＮＤを１８０個とした。【００４４】
更に、各識別器Ｍに含まれるＳＶＭとしては、上記実験用の画像データを分割して得られるいわゆるパッチに対し、ImageNetにより学習済みのInception-v3の中間層である第３プーリング層の出力から２，０４８次元の画像特徴量を抽出し、当該抽出された画像特徴量を用いて各ＳＶＭを構築した。ここで、上記パッチへの分割においては、元の画像データ（Ｘ線画像）を５０画素の幅で２９９画素×２９９画素のパッチに分割している。そして、上記２００個の画像データＤから分割された、「胃炎あり」症例のパッチの数は４５，１２７個となり、「胃炎無し」症例のパッチ数は４２，７８５個となり、「胃の外部領域」であるパッチの数は４８，３８５個となった。更に、各識別器Ｍの学習用のテストデータとしては、識別器Ｍとしてのトレーニングに含まれない６１５個の画像データＤ（症例）を用いた。このとき、テストデータとしての上記６１５個の画像データＤのうち、Positiveラベルの画像データＤは１４０個であり、Negativeラベルの画像データＤは４７５個である。また、上記ImageNetについては、例えば文献「A. Krizhevsky, I. Sutskever,and H. Geoffrey E., “ImageNet classification with deep convolutional neural networks,” in Proceedings of the Advances in Neural Information Processing Systems 25 (NIPS2012), 2012, pp. 1-9.」に詳しい。またInception-v3については、例えば文献「C. Szegedy, V. Vanhoucke, S. Ioffe, J. Shlens, and Z. Wojna, “Rethinking the inception architecture for computer vision,” in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition, 2015, pp. 2818-2826.」に詳しい。【００４５】
更に、上記効果の評価指標としては、以下の式（１）により定義される「調和平均」を用いた。【００４６】
調和平均＝（２×感度×特異度）／（感度＋特異度）  …（１）
ここで、上記「感度」とは以下の式（２）で示される値であり、上記「特異度」とは以下の式（３）で示される値である。【００４７】
感度＝(正しく胃炎と診断された症例(画像データＤ)の数)/（総胃炎症例数）  …（２）
特異度＝（正しく胃炎でないと診断された症例（画像データＤ）の数）／（胃炎でない症例の総数）  …（３）
更に、比較対象として、２００個のラベル付データＬＤを用いた従来の教師あり学習処理を用いた。【００４８】
そして、上記実験結果としては、上記比較対象に対応する調和平均が０．９１であったのに対し、実施形態に係る学習処理の結果に対応する調和平均は０．９０であった。これにより、上記実験結果によっても、実施形態に係る学習処理の有効性、即ち、ラベル付データＬＤを準備するための労力を従来よりも軽減しつつ（上記実験結果の場合は十分の一としつつ）、各識別Ｍに効果的に学習を行わせることができることが確認された。【００４９】
以上それぞれ説明したように、実施形態に係る学習処理によれば、複数のラベル付データＬＤをそれぞれ用いた第１学習処理により各識別器Ｍに学習を行わせ（図２ステップＳ１及びステップＳ２参照）、その後、ラベル付データＬＤよりも多いラベルなしデータＮＤを用いて、第１学習処理における学習後の識別器Ｍに第２学習処理により学習を行わせる（図２ステップＳ３及びステップＳ４参照）。このとき、一部の識別器Ｍにおける第２学習処理による学習結果Ｒを学習データの少なくとも一部として用いて、他の識別器Ｍに第２学習処理による学習を行わせる（図３参照）。よって、ラベル付データＬＤを準備するための労力を軽減しつつ、各識別器Ｍに効果的に学習を行わせることができる。【００５０】
また、一部の識別器Ｍにおける学習結果のうち、同じ内容の学習結果Ｒが最も多い学習結果Ｒを学習データの少なくとも一部として用いて他の識別器Ｍに学習を行わせるので、各識別器Ｍにおける学習結果Ｒの精度を向上させることができる。【００５１】
更に、第２学習処理後の各識別器Ｍに、ラベルなしデータＮＤを用いた第２学習処理による学習を再度行わせるので（図２ステップＳ５及びステップＳ６参照）、いわゆる過学習の影響を抑制しつつ、学習結果Ｒの精度を更に向上させることができる。【００５２】
更にまた、第２学習処理と、第３学習処理と、を繰り返すように識別器Ｍを制御するので（図２ステップＳ７参照）、学習結果Ｒの精度をより向上させることができる。【００５３】
また、第２学習処理と、第３学習処理と、の繰返し回数が、第２学習処理又は第３学習処理の少なくともいずれか一方による識別器Ｍの学習結果Ｒにおける精度に基づいて設定されているので、当該学習結果Ｒの精度を更に向上させることができる。【００５４】
更に、第１学習処理がラベル付データＬＤを用いたＳＶＭによる機械学習処理であり、第２学習処理がラベルなしデータＮＤを用いた深層学習処理であるので、ラベル付データＬＤの数が少ない場合でも、識別器Ｍによる学習結果Ｒの精度を更に高めると共にその安定性も向上させることができる。【００５５】
なお上述した実施形態における第１学習処理では、教師ありの機械学習処理を各識別器Ｍに実行させたが、当該第１学習処理を、上記第２学習処理及び上記第３学習処理と同様の深層学習により行わせてもよい。【００５６】
また上述した実施形態では、医用画像を学習データとして学習する学習装置に対して本発明を適用した場合について説明したが、これ以外に、医用以外の種々の画像（例えば、橋の橋脚等のいわゆる社会インフラの維持管理に用いられる画像等）の特徴抽出や属性の判別等に、本発明を適用することも可能である。更には、画像以外のデジタルデータにおける特徴量の抽出やその属性の判別等に本発明を適用することも可能である。【００５７】
また、図２に示すフローチャートに相当するプログラムを、光ディスク又はハードディスク等の記録媒体に記録しておき、或いはインターネット等のネットワークを介して取得しておき、これを汎用のマイクロコンピュータ等に読み出して実行することにより、当該マイクロコンピュータ等を実施形態に係る学習装置Ｓ又は学習制御部１として機能させることも可能である。
【産業上の利用可能性】
【００５８】
以上それぞれ説明したように、本発明は学習装置の分野に利用することが可能であり、特に深層学習処理を行うニューラルネットワークを用いた学習装置の分野に適用すれば、特に顕著な効果が得られる。
【符号の説明】
【００５９】
１    学習制御部
Ｓ    学習装置
Ｄ    画像データ
Ｇ    判定対象データ
Ａ    判定結果データ
Ｍ１、Ｍ２、Ｍ３、Ｍ４、Ｍ５、Ｍ６    識別器
Ｒ１、Ｒ２、Ｒ３、Ｒ４、Ｒ５、Ｒ６    学習結果
ＳＤ    学習部
ＭＲ    記録部
ＬＤ    ラベル付データ
ＮＤ    ラベルなしデータ
ＤＤ１、ＤＤ２、ＤＤ３、ＤＤ４、ＤＤ５、ＤＤ６    学習データ
【図１】
2020085439.tif 000004
【図２】
2020085439.tif 000005
【図３】
2020085439.tif 000006
【国際調査報告】
2020085439.tif 000007
2020085439.tif 000008
2020085439.tif 000009
2020085439.tif 000010
2020085439.tif 000011
2020085439.tif 000012