(57)【要約】  教師判断対象データ、教師判断対象データに対する判断結果を示す教師判断結果データ、および、教師判断対象データに対する判断結果の根拠を示す教師判断根拠データを入力する入力部と、教師判断対象データと教師判断結果データとの関係を学習する第１の機械学習を行うことにより、判断対象データが入力されると、判断対象データに対する判断結果を示す判断推論データを出力する判断推論モデルを生成する判断学習部と、教師判断対象データと教師判断根拠データとの関係を学習する第２の機械学習を行うことにより、判断対象データが入力されると、判断対象データに対する判断結果の根拠を示す根拠推論データを出力する根拠推論モデルを生成する根拠学習部と、を備える学習装置を提供する。
2020175692.tif 000002
【特許請求の範囲】
【請求項１】
教師判断対象データ、前記教師判断対象データに対する判断結果を示す教師判断結果データ、および、前記教師判断対象データに対する判断結果の根拠を示す教師判断根拠データを入力する入力部と、
前記教師判断対象データと前記教師判断結果データとの関係を学習する第１の機械学習を行うことにより、判断対象データが入力されると、前記判断対象データに対する判断結果を示す判断推論データを出力する判断推論モデルを生成する判断学習部と、
前記教師判断対象データと前記教師判断根拠データとの関係を学習する第２の機械学習を行うことにより、前記判断対象データが入力されると、前記判断対象データに対する前記判断結果の根拠を示す根拠推論データを出力する根拠推論モデルを生成する根拠学習部と、
を備える学習装置。
【請求項２】
前記判断推論モデルの少なくとも一部のノードは、前記根拠推論モデルの少なくとも一部のノードと異なる、請求項１に記載の学習装置。
【請求項３】
前記教師判断結果データと前記判断推論データとの第１の誤差と、前記教師判断根拠データと前記根拠推論データとの第２の誤差とに基づいて、前記第１の機械学習および前記第２の機械学習の少なくとも一方を行う、請求項１または２に記載の学習装置。
【請求項４】
前記第１の誤差と前記第２の誤差とに基づいて、前記第１の機械学習および前記第２の機械学習の両方を行う、請求項３に記載の学習装置。
【請求項５】
前記第１の誤差と前記第２の誤差との和が最小になるように、前記第１の機械学習および前記第２の機械学習の少なくとも一方を行う、請求項３または４に記載の学習装置。
【請求項６】
前記第１の誤差と前記第２の誤差との重み付けを異ならせて、前記第１の機械学習および前記第２の機械学習の少なくとも一方を行う、請求項３から５のいずれか一項に記載の学習装置。
【請求項７】
前記判断学習部は、前記第２の機械学習とは独立して前記第１の誤差を小さくする前記第１の機械学習を行い、
前記根拠学習部は、前記第１の機械学習とは独立して前記第２の誤差を小さくする前記第２の機械学習を行い、
前記判断学習部および前記根拠学習部は、前記第１の誤差と前記第２の誤差との和が最小になるように、それぞれ前記第１の機械学習および前記第２の機械学習を行う、
請求項３から６のいずれか一項に記載の学習装置。
【請求項８】
前記判断推論モデルは、前記根拠推論モデルの少なくとも一部のノードを含む、請求項１に記載の学習装置。
【請求項９】
前記少なくとも一部のノードは、前記判断対象データが入力されるノードを含む、請求項８に記載の学習装置。
【請求項１０】
教師判断対象データと教師判断結果データとの関係を機械学習することにより生成された判断推論モデルに基づいて、判断対象データに対する判断結果を出力する第１判断部と、
前記教師判断対象データと教師判断根拠データとの関係を機械学習することにより生成された根拠推論モデルに基づいて、前記判断対象データに対する前記判断結果の根拠を出力する第２判断部と、
を備える判断装置。
【請求項１１】
前記判断対象データを表示する判断対象データ表示領域と、
前記判断結果を表示する判断結果表示領域と、
前記判断結果の根拠を表示する判断根拠表示領域と、
を有する表示部を備える、請求項１０に記載の判断装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、学習装置および判断装置に関する。
【背景技術】
【０００２】
人間の熟練者が目視した入力画像と、その入力画像に対する人間の熟練者の判断結果とを機械学習する学習装置、および、人間の熟練者の判断結果を推定する判断装置が知られている（例えば、特許文献１参照）。
特許文献１  特開２０１８−９２４５３号公報
【解決しようとする課題】
【０００３】
従来は、判断装置による判断結果の信頼性を検証することが困難であった。
【一般的開示】
【０００４】
本発明の第１の態様においては、学習装置を提供する。学習装置は、教師判断対象データ、教師判断対象データに対する判断結果を示す教師判断結果データ、および、教師判断対象データに対する判断結果の根拠を示す教師判断根拠データを入力する入力部と、教師判断対象データと教師判断結果データとの関係を学習する第１の機械学習を行うことにより、判断対象データが入力されると、判断対象データに対する判断結果を示す判断推論データを出力する判断推論モデルを生成する判断学習部と、教師判断対象データと教師判断根拠データとの関係を学習する第２の機械学習を行うことにより、判断対象データが入力されると、判断対象データに対する判断結果の根拠を示す根拠推論データを出力する根拠推論モデルを生成する根拠学習部と、を備える。
【０００５】
判断推論モデルの少なくとも一部のノードは、根拠推論モデルの少なくとも一部のノードと異なっていてよい。
【０００６】
学習装置は、教師判断結果データと判断推論データとの第１の誤差と、教師判断根拠データと根拠推論データとの第２の誤差とに基づいて、第１の機械学習および第２の機械学習の少なくとも一方を行ってよい。
【０００７】
学習装置は、第１の誤差と第２の誤差とに基づいて、第１の機械学習および第２の機械学習の両方を行ってもよい。
【０００８】
学習装置は、第１の誤差と第２の誤差との和が最小になるように、第１の機械学習および第２の機械学習の少なくとも一方を行ってよい。
【０００９】
学習装置は、第１の誤差と第２の誤差との重み付けを異ならせて、第１の機械学習および第２の機械学習の少なくとも一方を行ってもよい。
【００１０】
判断学習部は、第２の機械学習とは独立して第１の誤差を小さくする第１の機械学習を行ってよい。根拠学習部は、第１の機械学習とは独立して第２の誤差を小さくする第２の機械学習を行ってよい。判断学習部および根拠学習部は、第１の誤差と第２の誤差との和が最小になるように、それぞれ第１の機械学習および第２の機械学習を行ってよい。
【００１１】
判断推論モデルは、根拠推論モデルの少なくとも一部のノードを含んでよい。
【００１２】
根拠推論モデルの少なくとも一部のノードは、判断対象データが入力されるノードを含んでよい。
【００１３】
本発明の第２の態様においては、判断装置を提供する。判断装置は、教師判断対象データと教師判断結果データとの関係を機械学習することにより生成された判断推論モデルに基づいて、判断対象データに対する判断結果を出力する第１判断部と、教師判断対象データと教師判断根拠データとの関係を機械学習することにより生成された根拠推論モデルに基づいて、判断対象データに対する判断結果の根拠を出力する第２判断部と、を備える。
【００１４】
判断装置は、表示部を備えてよい。表示部は、判断対象データを表示する判断対象データ 表示領域と、判断結果を表示する判断結果表示領域と、判断結果の根拠を表示する判断 根拠表示領域と、を有してよい。
【００１５】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【００１６】
【図１】本発明の一つの実施形態に係る学習装置１００の一例を示す図である。
【図２】第１の機械学習６０および第２の機械学習７０の一例を模式的に示す図である。
【図３】第１の機械学習６０および第２の機械学習７０のフローを示す図である。
【図４】本発明の一つの実施形態に係る学習装置１００の他の一例を示す図である。
【図５】図４の例における第１の機械学習６０および第２の機械学習７０の一例を模式的に示す図である。
【図６】図４および図５の例における第１の機械学習６０および第２の機械学習７０のフローを示す図である。
【図７】第１の機械学習６０および第２の機械学習７０の他の一例を模式的に示す図である。
【図８】本発明の一つの実施形態に係る判断装置２００の一例を示す図である。
【図９】判断装置２００による判断結果２８および判断結果の根拠３８の出力の一例を示す図である。
【図１０】判断装置２００の一例を示す図である。
【発明を実施するための形態】
【００１７】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【００１８】
図１は、本発明の一つの実施形態に係る学習装置１００の一例を示す図である。学習装置１００は、入力部１０、判断学習部２０および根拠学習部３０を備える。入力部１０には、教師判断対象データ１２、教師判断結果データ１４および教師判断根拠データ１６が入力される。入力部１０は、教師判断対象データ１２および教師判断結果データ１４を、判断学習部２０に入力する。入力部１０は、教師判断対象データ１２および教師判断根拠データ１６を、根拠学習部３０に入力する。
【００１９】
教師判断対象データ１２は、当該データに関する所定の判断が既にされている教師データである。教師判断対象データ１２は、画像データ、音声データ、テキストデータ等の所定の種類の情報を含むデータであってよい。より具体的な例として、教師判断対象データ１２は、野菜、果物および精肉等の生産物の画像を含む画像データである。
【００２０】
教師判断結果データ１４は、教師判断対象データ１２に対する判断結果を示すデータである。教師判断結果データ１４は、教師判断対象データ１２に対して人間等の判断者が判断した結果を示すデータであってよい。当該判断は、熟練者が行うことが好ましい。教師判断結果データ１４は、選択肢として予め設定された複数の結果のうち、判断者により選択された１つまたは複数の結果を示すデータであってよい。例えば教師判断対象データ１２が生産物に係る画像データである場合、教師判断結果データ１４は、当該生産物の品質を評価した評価結果を示すデータであってよい。教師判断結果データ１４は、判断の元となった教師判断対象データ１２と対応付けられた状態で、入力部１０に入力される。
【００２１】
教師判断根拠データ１６は、教師判断対象データ１２に対して、教師判断結果データ１４に示される結果を判断した根拠を示すデータである。教師判断根拠データ１６は、教師判断結果データ１４に示される結果を判断した人間等の判断者が、当該判断の根拠として入力したデータであってよい。教師判断根拠データ１６は、選択肢として予め設定された複数の根拠のうち、判断者により選択された１つまたは複数の根拠を示すデータであってもよい。教師判断根拠データ１６は、教師判断対象データ１２に含まれる一部の情報を指定するデータであってもよい。教師判断根拠データ１６は、教師判断対象データ１２に含まれる画像の一部の領域を指定するデータであってよく、画像の一部の領域の特性を示すデータであってもよい。例えば判断者が、教師判断対象データ１２に含まれる画像データから果物の果皮の所定の部分の変色を根拠に当該果物を品質不良と判断した場合、教師判断根拠データ１６は、その果物の所定の部分の果皮が変色していることを示すデータである。教師判断根拠データ１６は、判断の元となった教師判断対象データ１２と対応付けられた状態で、入力部１０に入力される。
【００２２】
判断学習部２０は、教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習を行い、判断推論モデル２２を生成する。判断推論モデル２２は、判断対象データが入力されると、判断対象データに対して所定の処理を行い、当該判断対象データに対する判断結果を示す判断推論データを出力するモデルである。判断学習部２０は、多数の教師判断対象データ１２と教師判断結果データ１４との関係を学習することで、判断推論モデル２２における処理を最適化する。
【００２３】
根拠学習部３０は、教師判断対象データ１２と教師判断根拠データ１６との関係を学習する第２の機械学習を行い、根拠推論モデル３２を生成する。根拠推論モデル３２は、判断対象データが入力されると、判断対象データに対して所定の処理を行い、当該判断対象データに対する判断結果の根拠を示す根拠推論データを出力するモデルである。根拠学習部３０は、多数の教師判断対象データ１２と教師判断根拠データ１６との関係を学習することで、根拠推論モデル３２における処理を最適化する。
【００２４】
学習装置１００は、記憶部４０−１および記憶部４０−２を備えてよい。記憶部４０−１は、判断学習部２０が生成した判断推論モデル２２を記憶する。記憶部４０−２は、根拠学習部３０が生成した根拠推論モデル３２を記憶する。
【００２５】
本例の学習装置１００は、教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習だけでなく、教師判断対象データ１２と教師判断根拠データ１６との関係を学習する第２の機械学習も行う。即ち、学習装置１００は、判断推論モデル２２だけでなく、根拠推論モデル３２も生成する。学習装置１００は、判断推論モデル２２および根拠推論モデル３２を用いることで、新たな判断対象データに対して、判断推論データと根拠推論データの両方を出力できる。このため、利用者は、判断推論データの妥当性を根拠推論データに基づいて検証しやすくなる。また、判断推論データが提示された利用者に、根拠推論データも合わせて提示できるので、利用者が判断推論データを解釈しやすくなる。根拠推論データを伴わずに判断推論データだけが利用者に提示されると、利用者は、判断推論データに示される結果が妥当であるか否かの判断に迷いやすい。
【００２６】
教師判断対象データ１２は、野菜、精肉等の生産物に係る画像データ、株価の変動等の投資に係るデータ、医療等の診断に係るデータであってもよい。教師判断対象データ１２が株価の変動等の投資に係るデータである場合、教師判断結果データ１４は、株価の変動等の教師判断対象データ１２に基づいて人間の熟練者が投資を行うか否かを判断したデータであってよい。また、教師判断根拠データ１６は、人間の熟練者が当該投資を行うか否かを判断した根拠データであってよい。教師判断対象データ１２が医療等の診断に係るデータである場合、教師判断結果データ１４は、医療等の診断に係るデータに基づいて人間の熟練者が決定した治療内容に関するデータであってよい。また、教師判断根拠データ１６は、人間の熟練者が当該治療内容に決定した根拠データであってよい。
【００２７】
教師判断対象データ１２が医療等の診断に係るデータである場合、教師判断対象データ１２は、より具体的には、種々の症例に対するＭＲＩ、ＣＴおよびエコー画像などの医療画像または動画、ならびに心電図や呼吸音などのバイタル信号等のデータであってよい。この場合、教師判断結果データ１４は上記データを元に医師が判断した疾患名であってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習を行い、判断推論モデル２２を生成してよい。さらに、教師判断根拠データ１６は、上記データに対する医師の所見を判断根拠として含むデータであってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断根拠データ１６との関係を学習する第２の機械学習を行い、根拠推論モデル３２を生成してよい。その結果、本実施形態に係る判断装置は、ＭＲＩ、ＣＴおよびエコー画像などの医療画像または動画、ならびに心電図や呼吸音などのバイタル信号等の判断対象データに対して、判断結果として当該判断推論モデル２２に基づいて疾患名を出力し、当該根拠推論モデル３２に基づいてその判断根拠となった所見を出力してよい。医師は、これらの情報を元に、最終的判断を行う。これにより、医師による疾患の見落としと、判断装置の誤判断を同時に防ぐことができる。
【００２８】
また、教師判断対象データ１２は、人事データであってもよい。教師判断対象データ１２が人事データである場合、教師判断対象データ１２は、より具体的には従業員プロファイルであってよい。この場合、教師判断結果データ１４は当該従業員の所定の活動領域（研究開発／営業など）におけるパフォーマンスを含むデータであってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習を行い、判断推論モデル２２を生成してよい。さらに、教師判断根拠データ１６は上記従業員がパフォーマンスを発揮した根拠（理由）を含むデータであってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断根拠データ１６との関係を学習する第２の機械学習を行い、根拠推論モデル３２を生成してよい。その結果、本実施形態に係る判断装置は、従業員プロファイル等の人事データに対して、判断結果として当該判断推論モデル２２に基づいて採用対象者に期待されるパフォーマンスを出力し、当該根拠推論モデル３２に基づいてその判断根拠となったパフォーマンスを発揮する根拠を出力してよい。このように、本実施形態に係る学習装置および判断装置を企業における採用活動や人事評価に利用することができる。
【００２９】
また、教師判断対象データ１２は、工場における設備点検に関するデータであってもよい。教師判断対象データ１２が設備点検に関するデータである場合、教師判断対象データ１２は、より具体的には工場における設備点検対象物の画像や動作音のデータであってよい。この場合、教師判断結果データ１４は、当該設備点検対象物に対する熟練者の点検結果（要交換、要詳細点検、重篤な問題なしなど）を含むデータであってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習を行い、判断推論モデル２２を生成してよい。さらに、教師判断根拠データ１６は上記設備点検対象物のデータに対する熟練者の判断根拠を含むデータであってよい。学習装置１００は、上記の教師判断対象データ１２と教師判断根拠データ１６との関係を学習する第２の機械学習を行い、根拠推論モデル３２を生成してよい。その結果、本実施形態に係る判断装置は、点検対象物の画像や動作音等の判断対象データに対して、判断結果として当該判断推論モデル２２に基づいて当該点検対象物の点検結果を出力し、当該根拠推論モデル３２に基づいてその判断根拠を出力してよい。これにより、本実施形態に係る学習装置および判断装置を工場における設備点検に利用することができる。
【００３０】
第１の機械学習および第２の機械学習のそれぞれには、公知のアルゴリズムを用いることができる。公知のアルゴリズムとしては、例えば、ニューラルネットワーク、ランダムフォレスト、勾配ブースティング、リッジ回帰、ラッソ回帰、ロジスティック回帰、および、サポートベクタマシン（ＳＶＭ）などを挙げることができる。ニューラルネットワークは、畳み込み型、リカレント型またはタイムディレイ型などの型式であってよい。また、判断推論モデル２２および根拠推論モデル３２は、それぞれ入力データに対する分類結果および分類結果の根拠を出力してもよいし、それぞれ入力データに対する回帰結果および回帰結果の根拠を出力してもよい。
【００３１】
図２は、第１の機械学習６０および第２の機械学習７０の一例を模式的に示す図である。判断推論モデル２２は、複数の層２３を有する。それぞれの層２３は、複数のノード２４を有する。それぞれのノード２４は、入力されたパラメータに対して所定の演算を行う。判断推論モデル２２は、複数の層２３における複数のノード２４の所定の演算結果に基づいて、判断推論データ２６を出力する。学習装置１００は、判断推論データ２６を教師判断結果データ１４と比較して、第１の誤差Ｄ１を算出する。
【００３２】
本明細書においては、図２において教師判断対象データ１２が入力される側を前段側とし、判断推論データ２６が出力される側を後段側とする。判断推論モデル２２は、前段側から後段側まで、複数の層２３を連続的に有してよい。一の層２３に属する複数のノード２４における演算結果は、他の層２３に属する複数のノード２４にそれぞれ入力されてよい。当該他の層２３は、当該一の層２３の後段側の層であってよい。
【００３３】
図２に示される判断推論モデル２２は、一例として３つの層２３を有し、３つの層２３のそれぞれが４つのノード２４を有する。本例の判断推論モデル２２は、前段側から後段側まで、層２３−１、層２３−２および層２３−３を連続的に有する。層２３−１は４つのノード２４−１を有し、層２３−２は４つのノード２４−２を有し、層２３−３は４つのノード２４−３を有する。図２において、４つのノード２４−１をＡ１〜Ａ４、４つのノード２４−２をＢ１〜Ｂ４、４つのノード２４−３をＣ１〜Ｃ４と、それぞれ示している。
【００３４】
４つのノード２４−１は、それぞれＸ１〜Ｘ６で示される６つの教師判断対象データ１２に対して所定の演算を行い、その演算結果を４つのノード２４−２に出力する。図２においては、Ｘ１からＡ１〜Ａ４への矢印のみ示しており、Ｘ２〜Ｘ６からＡ１〜Ａ４への矢印を省略している。４つのノード２４−１は、それぞれ６つの教師判断対象データ１２に対して所定の重み付けをして演算を行ってもよい。
【００３５】
４つのノード２４−２は、４つのノード２４−１からの出力に対して所定の演算を行い、その演算結果を４つのノード２４−３に出力する。図２においては、Ａ１からＢ１〜Ｂ４への矢印のみ示しており、Ａ２〜Ａ４からＢ１〜Ｂ４への矢印を省略している。４つのノード２４−２は、それぞれ４つのノード２４−１からの出力に対して所定の重み付けをして演算を行ってもよい。
【００３６】
４つのノード２４−３は、４つのノード２４−２からの出力に対して所定の演算を行い、その演算結果を出力する。図２においては、Ｂ１からＣ１〜Ｃ４への矢印のみ示しており、Ｂ２〜Ｂ４からＣ１〜Ｃ４への矢印を省略している。４つのノード２４−３は、それぞれ４つのノード２４−２からの出力に対して所定の重み付けをして演算を行ってもよい。
【００３７】
Ｚ１〜Ｚ３で示される３つの判断推論データ２６は、４つのノード２４−３からの出力に対して所定の演算を行い、生成される。図２においては、Ｃ１からＺ１〜Ｚ３への矢印のみ示しており、Ｃ２〜Ｃ４からＺ１〜Ｚ３への矢印を省略している。３つの判断推論データ２６は、それぞれ４つのノード２４−３からの出力に対して所定の重み付けをして演算を行ってもよい。
【００３８】
学習装置１００は、３つの判断推論データ２６Ｚ１〜Ｚ３をそれぞれＴ１〜Ｔ３で示される３つの教師判断結果データ１４と比較する。学習装置１００は、Ｚ１〜Ｚ３をそれぞれＴ１〜Ｔ３と比較し、第１の誤差Ｄ１を算出する。
【００３９】
根拠推論モデル３２は、複数の層３３を有する。それぞれの層３３は、複数のノード３４を有する。それぞれのノード３４は、入力されたパラメータに対して所定の演算を行う。根拠推論モデル３２は、複数の層３３における複数のノード３４の所定の演算結果に基づいて、根拠推論データ３６を出力する。学習装置１００は、根拠推論データ３６を教師判断根拠データ１６と比較して、第２の誤差Ｄ２を算出する。
【００４０】
本明細書においては、図２において教師判断対象データ１２が入力される側を前段側とし、根拠推論データ３６が出力される側を後段側とする。根拠推論モデル３２は、前段側から後段側まで、複数の層３３を連続的に有してよい。一の層３３に属する複数のノード３４における演算結果は、他の層３３に属する複数のノード３４にそれぞれ入力されてよい。当該他の層３３は、当該一の層３３の後段側の層であってよい。
【００４１】
図２に示される根拠推論モデル３２は、一例として教師判断対象データ１２が入力される側から３つの層３３を有し、３つの層３３のそれぞれが４つのノード３４を有する。本例の根拠推論モデル３２は、前段側から後段側まで、層３３−１、層３３−２および層３３−３を連続的に有する。層３３−１は４つのノード３４−１を有し、層３３−２は４つのノード３４−２を有し、層３３−３は４つのノード３４−３を有する。図２において、ノード３４−１、ノード３４−２およびノード３４−３を、それぞれａ１〜ａ４、ｂ１〜ｂ４およびｃ１〜ｃ４と示している。
【００４２】
４つのノード３４−１は、それぞれＸ１〜Ｘ６で示される６つの教師判断対象データ１２に対して所定の演算を行い、その演算結果を４つのノード３４−２に出力する。図２においては、Ｘ１からａ１〜ａ４への矢印のみ示しており、Ｘ２〜Ｘ６からａ１〜ａ４への矢印を省略している。４つのノード３４−１は、それぞれ６つの教師判断対象データ１２に対して所定の重み付けをして演算を行ってもよい。
【００４３】
４つのノード３４−２は、４つのノード３４−１からの出力に対して所定の演算を行い、その演算結果を４つのノード３４−３に出力する。図２においては、ａ１からｂ１〜ｂ４への矢印のみ示しており、ａ２〜ａ４からｂ１〜ｂ４への矢印を省略している。４つのノード３４−２は、それぞれ４つのノード３４−１からの出力に対して所定の重み付けをして演算を行ってもよい。
【００４４】
４つのノード３４−３は、４つのノード３４−２からの出力に対して所定の演算を行い、その演算結果を出力する。図２においては、ｂ１からｃ１〜ｃ４への矢印のみ示しており、ｂ２〜ｂ４からｃ１〜ｃ４への矢印を省略している。４つのノード３４−３は、それぞれ４つのノード３４−２からの出力に対して所定の重み付けをして演算を行ってもよい。
【００４５】
ｚ１〜ｚ３で示される３つの根拠推論データ３６は、４つのノード３４−３からの出力に対して所定の演算を行い、生成される。図２においては、ｃ１からｚ１〜ｚ３への矢印のみ示しており、ｃ２〜ｃ４からｚ１〜ｚ３への矢印を省略している。３つの根拠推論データ３６は、それぞれ４つのノード３４−３からの出力に対して所定の重み付けをして演算を行ってもよい。
【００４６】
学習装置１００は、ｚ１〜ｚ３をそれぞれｔ１〜ｔ３で示される３つの教師判断根拠データ１６と比較する。学習装置１００は、ｚ１〜ｚ３をそれぞれｔ１〜ｔ３と比較し、第２の誤差Ｄ２を算出する。
【００４７】
判断推論モデル２２の少なくとも一つのノード２４は、根拠推論モデル３２の少なくとも一つのノード３４と異なっていてよい。少なくとも一つのノード２４が少なくとも一つのノード３４と異なるとは、根拠推論モデル３２が当該少なくとも一つのノード２４を有さず、判断推論モデル２２が当該少なくとも一つのノード３４を有さないことを指す。本例においては、判断推論モデル２２の全てのノード２４が、根拠推論モデル３２の全てのノード３４と異なる。言い換えると、本例においては、判断学習部２０および根拠学習部３０は、それぞれ独立に第１の機械学習６０および第２の機械学習７０行う。
【００４８】
なお、層２３の数は３つより多くてもよい。層２３が有するノード２４の数は、４つより多くてもよく、少なくてもよい。層２３−１、層２３−２および層２３−３が有するノード２４の数は、それぞれ異なっていてもよい。同様に、層３３の数は３つより多くてもよい。層３３が有するノード３４の数は、４つより多くてもよく、少なくてもよい。層３３−１、層３３−２および層３３−３が有するノード３４の数は、それぞれ異なっていてもよい。また、層２３の数と層３３の数は、異なっていてもよい。
【００４９】
図３は、第１の機械学習６０および第２の機械学習７０のフローを示す図である。ステップＳ１００において、学習装置１００は判断推論モデル２２および根拠推論モデル３２の初期モデルを呼び出す。当該初期モデルは、それぞれ記憶部４０−１および記憶部４０−２（図１参照）に記憶されていてもよい。
【００５０】
ステップＳ１０２において、学習装置１００は入力部１０に教師判断対象データ１２、教師判断結果データ１４および教師判断根拠データ１６を入力する。判断学習部２０は、教師判断対象データ１２と教師判断結果データ１４との関係を学習する第１の機械学習６０を行う。根拠学習部３０は、教師判断根拠データ１６と教師判断結果データ１４との関係を学習する第２の機械学習７０を行う。判断学習部２０は、第１の機械学習６０を行うことにより判断推論モデル２２を生成する。根拠学習部３０は、第２の機械学習７０を行うことにより根拠推論モデル３２を生成する。
【００５１】
ステップＳ１０４において、学習装置１００はモデル誤差を算出する。モデル誤差とは、判断推論モデル２２が出力する判断推論データ２６と教師判断結果データ１４との第１の誤差Ｄ１、および、根拠推論モデル３２が出力する根拠推論データ３６と教師判断根拠データ１６との第２の誤差Ｄ２を指す。
【００５２】
第１の誤差Ｄ１および第２の誤差Ｄ２を算出する関数を、それぞれ第１誤差関数ｆ１および第２誤差関数ｆ２とする。学習装置１００は、第１の誤差Ｄ１を、判断推論データ２６と教師判断結果データ１４とを第１誤差関数ｆ１に入力することにより算出してよい。学習装置１００は、第２の誤差Ｄ２を、根拠推論データ３６と教師判断根拠データ１６とを第２誤差関数ｆ２に入力することにより算出してよい。
【００５３】
第１誤差関数ｆ１および第２誤差関数ｆ２は、平均二乗誤差関数、平均絶対誤差関数、平均二乗対数誤差関数、交差エントロピー誤差関数、コネクショニスト時系列分類法を用いた関数、ヒンジ損失関数、Ｈｕｂｅｒ関数、指数損失関数、ＫＬダイバージェンス（Ｋｕｌｌｂａｃｋ−Ｌｅｉｂｌｅｒ  ｄｉｖｅｒｇｅｎｃｅ）関数、等の公知の損失関数のいずれかであってよい。第１誤差関数ｆ１と第２誤差関数ｆ２とは、同じであってよく、同じでなくてもよい。
【００５４】
ステップＳ１０６において、学習装置１００は、第１の誤差Ｄ１に基づいてノード２４における演算の重み付け係数（パラメータ）を調整し、第２の誤差にＤ２に基づいてノード３４における演算の重み付け係数（パラメータ）を調整する。学習装置１００は第１の誤差Ｄ１に基づいて、複数の層２３のそれぞれに属するノード２４ごとに、重み付け係数を調整してよい。また、学習装置１００は第２の誤差Ｄ２に基づいて、複数の層３３のそれぞれに属するノード３４ごとに、重み付け係数を調整してよい。即ち、重み付け係数は、複数の層２３のそれぞれに属するノード２４ごとに異なっていてよく、複数の層３３のそれぞれに属するノード３４ごとに異なっていてよい。
【００５５】
図２に示される例においては、学習装置１００は第１の誤差Ｄ１に基づいて、６つの教師判断対象データ１２と４つのノード２４−１との間、４つのノード２４−１と４つのノード２４−２との間、４つのノード２４−２と４つのノード２４−３との間、および、４つのノード２４−３と３つの判断推論データ２６との間の重み付け係数（パラメータ）を調整する。また、学習装置１００は第２の誤差Ｄ２に基づいて、６つの教師判断対象データ１２と４つのノード３４−１との間、４つのノード３４−１と４つのノード３４−２との間、４つのノード３４−２と４つのノード３４−３との間、および、４つのノード３４−３と３つの根拠推論データ３６との間の重み付け係数（パラメータ）を調整する。
【００５６】
ステップＳ１０８において、学習装置１００は判断推論モデル２２および根拠推論モデル３２が、それぞれ第１の機械学習６０および第２の機械学習７０を完了したかどうかを判断する。学習装置１００は、予め定められた第１の閾値Ｔ１と第１の誤差Ｄ１とを比較して、第１の機械学習６０を完了するか否かを判断してよい。学習装置１００は、予め定められた第２の閾値Ｔ２と第２の誤差Ｄ２とを比較して、第２の機械学習７０を完了するか否かを判断してよい。第１の閾値Ｔ１と第２の閾値Ｔ２とは異なっていてよく、等しくてもよい。
【００５７】
第１の誤差Ｄ１が第１の閾値Ｔ１よりも大きい場合、学習装置１００はステップＳ１０２に戻り、入力部１０に教師判断対象データ１２および教師判断結果データ１４を入力する。第２の誤差Ｄ２が第２の閾値Ｔ２よりも大きい場合、学習装置１００はステップＳ１０２に戻り、入力部１０に教師判断対象データ１２および教師判断根拠データ１６を入力する。
【００５８】
学習装置１００は、ステップＳ１０８からステップＳ１０２に戻るごとに、異なる教師判断対象データ１２、異なる教師判断結果データ１４および異なる教師判断根拠データ１６を入力部１０に入力してよい。ステップＳ１０２〜ステップＳ１０８のループを繰り返すごとに、判断学習部２０が第１の機械学習６０を繰り返し、根拠学習部３０が第２の機械学習７０を繰り返すので、判断推論モデル２２および根拠推論モデル３２の精度が向上する。このため、判断推論モデル２２および根拠推論モデル３２は、判断対象データに対して精度の高い判断結果および判断結果の根拠をそれぞれ出力できる。
【００５９】
ステップＳ１０２〜ステップＳ１０８のループを繰り返して第１の誤差Ｄ１が第１の閾値Ｔ１よりも小さくなった場合、学習装置１００は第１の機械学習６０を完了してステップＳ１１０に進む。同様に、ステップＳ１０２〜ステップＳ１０８のループを繰り返して第２の誤差Ｄ２が第２の閾値Ｔ２よりも小さくなった場合、学習装置１００は第２の機械学習７０を完了してステップＳ１１０に進む。ステップＳ１１０において、学習装置１００は判断推論モデル２２および根拠推論モデル３２を、それぞれ記憶部４０−１および記憶部４０−２に保存してよい。
【００６０】
判断学習部２０は、第２の機械学習７０とは独立して第１の誤差Ｄ１を小さくする第１の機械学習６０を行ってよい。根拠学習部３０は、第１の機械学習６０とは独立して第２の誤差Ｄ２を小さくする第２の機械学習７０を行ってよい。即ち、判断学習部２０は根拠推論データ３６の影響を受けずに第１の機械学習６０を行ってよく、根拠学習部３０は判断推論データ２６の影響を受けずに第２の機械学習７０を行ってよい。
【００６１】
学習装置１００は、第１の機械学習６０と第２の機械学習７０とを並行して行ってよい。学習装置１００は、第１の機械学習６０を行った後に第２の機械学習７０を行ってもよく、第２の機械学習７０を行った後に第１の機械学習６０を行ってもよい。
【００６２】
図４は、本発明の一つの実施形態に係る学習装置１００の他の一例を示す図である。本例の学習装置１００は、判断学習部２０における第１の機械学習６０の学習結果が根拠学習部３０にフィードバックされ、根拠学習部３０における第２の機械学習７０の学習結果が判断学習部２０にフィードバックされる点で、図１の学習装置１００と異なる。
【００６３】
図５は、図４の例における第１の機械学習６０および第２の機械学習７０の一例を模式的に示す図である。本例において、学習装置１００は教師判断結果データ１４と判断推論データ２６との第１の誤差Ｄ１と、教師判断根拠データ１６と根拠推論データ３６との第２の誤差Ｄ２に基づいて、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行う。学習装置１００は、第１の誤差Ｄ１と第２の誤差Ｄ２とに基づいて、第１の機械学習６０および第２の機械学習７０の両方を行ってもよい。
【００６４】
学習装置１００は、第１の誤差Ｄ１と第２の誤差Ｄ２とに基づいて第１の機械学習６０および第２の機械学習７０の少なくとも一方を行うことで、判断推論モデル２２の学習に根拠推論モデル３２の学習結果を反映させることができる。その結果、判断学習部２０は、判断推論モデル２２と根拠推論モデル３２とを独立に学習させた場合と比較して、教師判断結果データ１４と教師判断根拠データ１６との隠された関係を反映した判断推論モデル２２を構築することができる。
【００６５】
学習装置１００は、第２の機械学習７０とは独立して第１の誤差Ｄ１を小さくする第１の機械学習６０を行った後に、第１の誤差Ｄ１と第２の誤差Ｄ２とに基づいて、第１の機械学習６０を行ってもよい。これにより、学習装置１００は、第１の機械学習６０と第２の機械学習７０とを並行して行う場合よりも、第１の機械学習６０を早く収束させることができる。
【００６６】
学習装置１００は、第１の機械学習６０とは独立して第２の誤差Ｄ２を小さくする第２の機械学習７０を行った後に、第１の誤差Ｄ１と第２の誤差Ｄ２とに基づいて、第２の機械学習７０を行ってもよい。これにより、学習装置１００は、第１の機械学習６０と第２の機械学習７０とを並行して行う場合よりも、第２の機械学習７０を早く収束させることができる。
【００６７】
学習装置１００は、ノード８０において第１の誤差Ｄ１と第２の誤差Ｄ２に所定の演算を行ってよい。所定の演算には、第１の誤差Ｄ１と第２の誤差Ｄ２との和、第１の誤差Ｄ１と第２の誤差Ｄ２との平均、および、第１の誤差Ｄ１と第２の誤差Ｄ２との加重平均が含まれてよい。学習装置１００は、ノード８０において第１の誤差Ｄ１と第２の誤差Ｄ２とに所定の演算を行った結果に基づいて、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってよい。第１の誤差Ｄ１および第２の誤差Ｄ２に所定の演算を行った結果は、複数のノード２４のいずれかにフィードバックされてよく、複数のノード３４のいずれかにフィードバックされてよい。図５の例においては、第１の誤差Ｄ１および第２の誤差Ｄ２に所定の演算を行った結果は、ノード２４−１〜ノード２４−３のいずれかにフィードバックされてよく、ノード３４−１〜ノード３４−３のいずれかにフィードバックされてよい。
【００６８】
図６は、図４および図５の例における第１の機械学習６０および第２の機械学習７０のフローを示す図である。図６のフローは、図３のステップＳ１０４とステップＳ１０６の間に評価用誤差を算出するステップＳ１０５をさらに有する点で、図３のフローと異なる。ステップＳ１０５以外の学習装置１００の動作は、図３における各ステップと同じである。
【００６９】
ステップＳ１０４において、学習装置１００はモデル誤差を算出する。モデル誤差とは、判断推論モデル２２が出力する判断推論データ２６と教師判断結果データ１４との誤差Ｄ１（第１の誤差Ｄ１）、および、根拠推論モデル３２が出力する根拠推論データ３６と教師判断根拠データ１６との誤差Ｄ２（第２の誤差Ｄ２）を指す。
【００７０】
ステップＳ１０５において、学習装置１００はモデル誤差から評価用誤差Ｄを算出する。評価用誤差Ｄとは、学習装置１００がモデル誤差に所定の演算を行った誤差を指す。
【００７１】
学習装置１００は、第１の誤差Ｄ１および第２の誤差Ｄ２を用いて合成誤差を算出してよい。当該合成誤差を、合成誤差ＭＤとする。学習装置１００は、合成誤差ＭＤに基づいて第１の機械学習６０または第２の機械学習７０を行ってよい。合成誤差ＭＤは、第１の誤差Ｄ１と第２の誤差Ｄ２との和であってもよい。学習装置１００は、合成誤差ＭＤとして第１の誤差Ｄ１と第２の誤差Ｄ２との和を用いて、当該合成誤差ＭＤが最小になるように、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってもよい。即ち、学習装置１００は評価用誤差Ｄ（合成誤差ＭＤ）を第１の誤差Ｄ１と第２の誤差Ｄ２との和とし、当該評価用誤差Ｄが最小になるように第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってよい。学習装置１００は、ステップＳ１０２〜ステップＳ１０８のループを繰り返す毎にステップＳ１０５において当該評価用誤差Ｄを算出し、当該評価用誤差Ｄが最小になるまでステップＳ１０２〜ステップＳ１０８のループを繰り返してよい。
【００７２】
本例の学習装置１００は、評価用誤差Ｄが最小になるまで第１の機械学習６０および第２の機械学習７０を繰り返すので、判断推論モデル２２および根拠推論モデル３２の精度が向上する。このため、判断推論モデル２２および根拠推論モデル３２は、判断対象データに対して精度の高い判断結果および判断結果の根拠をそれぞれ出力できる。
【００７３】
学習装置１００は、合成誤差ＭＤとして第１の誤差Ｄ１と第２の誤差Ｄ２との重み付けを異ならせて、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってよい。即ち、学習装置１００は第１の誤差Ｄ１と第２の誤差Ｄ２との重み付けを異ならせて算出された合成誤差ＭＤを評価用誤差Ｄとして用いて、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってよい。当該評価用誤差Ｄは、第１の誤差Ｄ１と第２の誤差Ｄ２との加重平均であってよい。学習装置１００は、第１の誤差Ｄ１と第２の誤差Ｄ２との重み付けを異ならせた評価用誤差Ｄを用いて第１の機械学習６０または第２の機械学習７０を行うことにより、判断結果および判断結果の根拠のうち、どちらの精度を重視して学習するかを調整することができる。
【００７４】
学習装置１００は、合成誤差ＭＤにおける第１の誤差Ｄ１と第２の誤差Ｄ２との重み付けを、調整可能であってよい。学習装置１００は、予め定められたステップ回数ごとに当該重み付けを変更した合成誤差ＭＤを用いて、第１の機械学習６０および第２の機械学習７０の少なくとも一方を行ってもよい。例えば、第１の機械学習６０を行う場合に、学習装置１００は、当初は合成誤差ＭＤにおける一方の誤差（例えば、第１の誤差Ｄ１）の重み付けを大きくして第１の機械学習６０を行い、ステップ回数が進むごとに他方の誤差（例えば、第２の誤差Ｄ２）の重み付けを大きくして第１の機械学習６０を行ってもよい。これにより、学習装置１００は、第１の機械学習６０の収束速度と、生成される判断推論モデル２２の精度とのバランスを取ることができる。この場合、学習装置１００は、第１の機械学習６０の収束状況に応じて当該重み付けを調整してもよい。また、第２の機械学習７０を行う場合に、学習装置１００は、当初は合成誤差ＭＤにおける一方の誤差（例えば、第２の誤差Ｄ２）の重み付けを大きくして第２の機械学習７０を行い、ステップ回数が進むごとに他方の誤差（例えば、第１の誤差Ｄ１）の重み付けを大きくして第２の機械学習７０を行ってもよい。これにより、学習装置１００は、第２の機械学習７０の収束速度と、生成される判断根拠モデル３２の精度とのバランスを取ることができる。この場合、学習装置１００は、第２の機械学習７０の収束状況に応じて当該重み付けを調整してもよい。
【００７５】
ステップＳ１０２〜ステップＳ１０８のループを繰り返す場合において、判断学習部２０が第２の機械学習７０とは独立して第１の誤差Ｄ１を小さくする第１の機械学習６０を行い、根拠学習部３０が第１の機械学習６０とは独立して第２の誤差Ｄ２を小さくする第２の機械学習７０を行った後、判断学習部２０および根拠学習部３０は第１の誤差Ｄ１と第２の誤差Ｄ２の和が最小になるように、それぞれ第１の機械学習６０および第２の機械学習７０を行ってもよい。即ち、学習装置１００は図３におけるステップＳ１０２〜ステップＳ１０８のループを所定回数繰り返した後、図６におけるステップＳ１０２〜ステップＳ１０８のループを繰り返してもよい。また、学習装置１００は図６におけるステップＳ１０２〜ステップＳ１０８のループを所定回数繰り返した後、図３におけるステップＳ１０２〜ステップＳ１０８のループを繰り返してもよい。学習装置１００は、図３のループと図６のループを交互に複数回繰り返してもよい。
【００７６】
図７は、第１の機械学習６０および第２の機械学習７０の他の一例を模式的に示す図である。判断推論モデル２２は、根拠推論モデル３２の少なくとも一つのノード３４を含んでよい。また、根拠推論モデル３２は、判断推論モデル２２の少なくとも一つのノード２４を含んでよい。
【００７７】
図７に示される例においては、４つのノード２４−１はそれぞれＸ１〜Ｘ６で示される６つの教師判断対象データ１２に対して所定の重み付けをして演算を行い、その演算結果を４つのノード２４−２および４つのノード３４−２に出力する。４つのノード２４−２は、４つのノード２４−１および４つのノード３４−１からの出力に対して所定の重み付けをして演算を行い、その演算結果を４つのノード２４−３に出力する。
【００７８】
本例においては、４つのノード３４−１はそれぞれＸ１〜Ｘ６で示される６つの教師判断対象データ１２に対して所定の重み付けをして演算を行い、その演算結果を４つのノード３４−２および４つのノード２４−２に出力する。４つのノード３４−２は、４つのノード３４−１および４つのノード２４−１からの出力に対して所定の重み付けをして演算を行い、その演算結果を４つのノード３４−３に出力する。
【００７９】
図７の例においても、学習装置１００は図３に示されるフロー図に沿って第１の機械学習６０および第２の機械学習７０を行ってよい。本例においては、判断学習部２０（図１参照）はノード２４およびノード３４に対して第１の機械学習６０を繰り返し、根拠学習部３０（図１参照）はノード３４およびノード２４に対して第２の機械学習７０を繰り返す。このため、判断推論モデル２２は、判断対象データに対して根拠推論モデル３２の学習結果も加味した、精度の高い判断結果を出力できる。また、根拠推論モデル３２は、判断対象データに対して判断推論モデル２２の学習結果も加味した、精度の高い判断結果の根拠を出力できる。
【００８０】
判断推論モデル２２は、根拠推論モデル３２における複数のノード３４のうち、前段側のノード３４を含んでよい。根拠推論モデル３２は、判断推論モデル２２における複数のノード２４のうち、前段側のノード２４を含んでよい。図７の例においては、判断推論モデル２２は判断対象データが入力されるノード３４−１を含み、根拠推論モデル３２は判断対象データが入力されるノード２４−１を含む。判断推論モデル２２が前段側のノード３４を含み、根拠推論モデル３２が前段側のノード２４を含むことで、共通する演算結果が後段側のノード２４およびノード３４に入力される。このため、学習装置１００は、判断推論データ２６と根拠推論データ３６との関連性を強くできる。
【００８１】
図８は、本発明の一つの実施形態に係る判断装置２００の一例を示す図である。判断装置２００は、入力部１０、第１判断部４２および第２判断部４４を備える。入力部１０には、判断対象データ１８が入力される。入力部１０は、判断対象データ１８を第１判断部４２および第２判断部４４に入力する。
【００８２】
第１判断部４２は、判断推論モデル２２に基づいて判断対象データ１８に対する判断結果２８を出力する。第２判断部４４は、根拠推論モデル３２に基づいて判断対象データ１８に対する判断結果の根拠３８を出力する。判断推論モデル２２は、第１の機械学習６０を完了した判断学習部２０（図１参照）により生成されたモデルであってよい。根拠推論モデル３２は、第２の機械学習７０を完了した根拠学習部３０（図１参照）により生成されたモデルであってよい。即ち、当該判断推論モデル２２および当該根拠推論モデル３２は、それぞれ図３のフローにおけるステップＳ１０８においてＹｅｓと判断されたモデルであってよい。判断推論モデル２２は、記憶部４０−１に保存されていてよい。根拠推論モデル３２は、記憶部４０−２に保存されていてよい。
【００８３】
本例の判断装置２００は、教師判断対象データ１２と教師判断結果データ１４との関係を機械学習することにより生成された判断推論モデル２２に基づいて、判断対象データ１８に対する判断結果２８を出力する。また、本例の判断装置２００は、教師判断対象データ１２と教師判断根拠データ１６との関係を機械学習することにより生成された根拠推論モデル３２に基づいて、判断対象データ１８に対する判断結果の根拠３８を出力する。このため、根拠推論モデル３２は判断結果２８に対して利用者が解釈しやすい判断結果の根拠３８を出力できる。
【００８４】
図９は、判断装置２００による判断結果２８および判断結果の根拠３８の出力の一例を示す図である。本例において、判断対象データ１８はメロン１９である。判断推論モデル２２は、メロン１９の品質を人間等の判断者が判断した判断結果を機械学習（第１の機械学習６０）することにより生成されたモデルである。根拠推論モデル３２は、メロン１９の品質を人間等の判断者が判断した判断結果の根拠を機械学習（第２の機械学習７０）することにより生成されたモデルである。当該判断結果には、人間等の判断者がメロン１９の品質を判断した複数の結果が含まれている。判断者が人間である場合、当該判断結果には、人間がメロン１９を目視した結果から、または、メロン１９の表面に触れた感覚から、メロン１９の品質を判断した結果が含まれてよい。本例においては、この複数の結果は「まだ食べ頃ではない」、「今が食べ頃」および「もう食べ頃を過ぎている」の３つの選択肢を含む。また、当該判断結果の根拠には、人間等の判断者がメロン１９の品質を判断した複数の根拠が含まれている。本例においては、この複数の根拠は、「ツルがしっかりしている」、「ツルがしなびている」、「皮は全体的に同じ様子」および「皮の一部がみずみずしい」の４つの選択肢を含む。
【００８５】
判断結果２８は、メロン１９の品質が「まだ食べ頃ではない」、「今が食べ頃」および「もう食べ頃を過ぎている」のいずれかに該当する確率値を示してよい。図９においては、判断結果２８の確率値をヒストグラムにて示している。判断結果の根拠３８は、メロン１９に対する判断結果２８の根拠として、「ツルがしっかりしている」、「ツルがしなびている」、「皮は全体的に同じ様子」および「皮の一部がみずみずしい」のいずれかに該当する確率値を示してよい。図９においては、判断結果の根拠３８の確率値をヒストグラムにて示している。
【００８６】
本例の判断装置２００は、判断対象データ１８（メロン１９）に対して判断結果２８と判断結果の根拠３８の両方を出力できる。このため、利用者は判断結果２８の妥当性を判断結果の根拠３８に基づいて検証しやすくなる。また、本例の判断装置２００は、判断結果２８が提示された利用者に判断結果の根拠３８も合わせて提示できるので、利用者が判断結果２８を解釈しやすくなる。言い換えると、判断装置２００は、人間等の判断者に判断対象に関する品質の判断結果とその根拠を尋ねた場合の回答と同等の回答を出力できる。また、人間等の判断者は、当該判断者が判断対象データ１８（メロン１９）に対して行った判断結果およびその根拠を、それぞれ判断推論モデル２２に基づく判断結果２８および根拠推論モデル３２に基づく判断結果の根拠３８と比較することにより、判断対象データ１８（メロン１９）に対する判断を学習できる。
【００８７】
図１０は、判断装置２００の一例を示す図である。判断装置２００は、一例としてＣＰＵ、メモリおよびインターフェース等を備えるコンピュータである。
【００８８】
判断装置２００は、表示部２１０を備えてよい。図１０に、表示部２１０の拡大図を太線の矩形領域にて合わせて示している。表示部２１０は、判断対象データ表示領域２２０、判断結果表示領域２３０および判断根拠表示領域２４０を有してよい。
【００８９】
判断対象データ表示領域２２０は、判断対象データ１８を表示する。本例においては、判断対象データ表示領域２２０は判断対象データ１８としてメロン１９の画像を表示している。判断結果表示領域２３０は、判断結果２８を表示する。本例においては、判断結果表示領域２３０は、判断推論モデル２２が出力したメロン１９の品質の判断結果２８として３つの選択肢の確率値をそれぞれ表示している。当該３つの選択肢には、「まだ食べ頃ではない」、「今が食べ頃」および「もう食べ頃を過ぎている」が含まれている。判断根拠表示領域２４０は、判断結果の根拠３８を表示する。本例においては、判断根拠表示領域２４０は、根拠推論モデル３２が出力したメロン１９の品質の判断結果の根拠３８として４つの選択肢の確率値をそれぞれ表示している。当該４つの選択肢には、「ツルがしっかりしている」、「ツルがしなびている」、「皮は全体的に同じ様子」および「皮の一部がみずみずしい」が含まれている。
【００９０】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更または改良を加えることが可能であることが当業者に明らかである。その様な変更または改良を加えた形態も本発明の技術的範囲に含まれ得ることが、請求の範囲の記載から明らかである。
【００９１】
請求の範囲、明細書、および図面中において示した装置、システム、プログラム、および方法における動作、手順、ステップ、および段階等の各処理の実行順序は、特段「より前に」、「先立って」等と明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。請求の範囲、明細書、および図面中の動作フローに関して、便宜上「まず、」、「次に、」等を用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【００９２】
１０・・・入力部、１２・・・教師判断対象データ、１４・・・教師判断結果データ、１６・・・教師判断根拠データ、１８・・・判断対象データ、１９・・・メロン、２０・・・判断学習部、２２・・・判断推論モデル、２３・・・層、２４・・・ノード、２６・・・判断推論データ、２８・・・判断結果、３０・・・根拠学習部、３２・・・根拠推論モデル、３３・・・層、３４・・・ノード、３６・・・根拠推論データ、３８・・・判断結果の根拠、４０・・・記憶部、４２・・・第１判断部、４４・・・第２判断部、６０・・・第１の機械学習、７０・・・第２の機械学習、８０・・・ノード、１００・・・学習装置、２００・・・判断装置、２１０・・・表示部、２２０・・・判断対象データ表示領域、２３０・・・判断結果表示領域、２４０・・・判断根拠表示領域
【図１】
2020175692.tif 000003
【図２】
2020175692.tif 000004
【図３】
2020175692.tif 000005
【図４】
2020175692.tif 000006
【図５】
2020175692.tif 000007
【図６】
2020175692.tif 000008
【図７】
2020175692.tif 000009
【図８】
2020175692.tif 000010
【図９】
2020175692.tif 000011
【図１０】
2020175692.tif 000012
【国際調査報告】
2020175692.tif 000013
2020175692.tif 000014
2020175692.tif 000015
2020175692.tif 000016