(57)【特許請求の範囲】
【請求項１】
分類の学習材料を得る分類学習材料管理手段と、
前記分類の学習材料ごとに分類正解を設定する分類学習材料ごと分類正解設定手段と、
前記分類の学習材料を入力し、分類を行った分類結果を出力する分類手段と、
前記分類結果と前記分類学習材料ごと分類正解設定手段で予め設定された前記分類正解を比較して誤差をフィードバックし、前記分類手段の学習を行う分類学習手段を備えた分類システムにおいて、
前記分類学習材料ごと分類正解設定手段は、当該分類の学習材料の分類正解のみならず、当該分類の学習材料の属性正解設定も併せて行う分類学習材料ごと分類材料属性正解設定手段を備え、
前記分類手段は、
前記分類の学習材料を入力する入力手段と、
前記分類結果を出力するのみならず、属性推定結果も含む分類/属性推定結果を出力する分類/属性結果出力手段を備え、
前記分類学習手段は、前記分類手段から出力された分類/属性推定結果と、前記分類学習材料ごと分類正解設定手段及び前記分類学習材料ごと分類材料属性正解設定手段で設定された前記分類正解及び前記属性正解を比較して、一致しない場合は、その誤差を前記分類手段にフィードバックし、前記分類/属性推定結果が前記分類正解及び前記属性正解に近づくよう調整する分類及び属性学習手段を備え、
得られた学習済分類手段に対して分類対象材料取得手段から新たに分類対象材料の入力を行い、
前記学習済分類手段が備える前記分類/属性結果出力手段は、前記分類対象材料の分類結果と属性推定結果を併せて出力し、当該分類結果の妥当性を検討可能としたことを特徴とする分類システム。
【請求項２】
前記分類ごとに属性のリストを管理する分類ごと属性リスト管理手段を備え、入力された分類対象材料を前記学習済分類手段に適用し、得られた属性リスト管理手段の属性リストと照合し、可能性の高い分類を推定する属性リストによる分類正解推定手段を備えたことを特徴とする請求項１記載の分類システム。
【請求項３】
前記属性リストによる分類正解推定手段において、前記分類ごと属性リスト管理手段に管理されている属性のリストが、前記得られた属性のリストで満たされない属性があった場合、当該満たされない属性に関し、前記分類対象材料管理手段に問い合わせる属性問い合わせ手段を備えたことを特徴とする請求項２記載の分類システム。
【請求項４】
前記学習済分類手段を複数並列させ、前記分類対象材料を複数並列された前記学習済分類手段の各々に適用して得られた各々の属性リストと、分類ごと属性リスト管理手段を照合し、分類正解を推定する属性リストによる複数並列分類手段を備えたことを特徴とする請求項２ないし３いずれか記載の分類システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、大量の画像や観察データなど（いわゆるビッグデータ）を用いて、得られた画像や観察データがどの分類に属するかを判定する分類システムに関する。
【背景技術】
【０００２】
インターネットの発達、普及、さらにクラウドと呼ばれる大容量の記録や並列計算技術の発達に伴い、従来は不可能であった大量のデータ処理が可能となってきている。画像や観察データなどと、その正しい分類（教師データ）の組み合わせを大量に処理（学習）して分類器を構成し、新たに得られた画像や観察データから、そのデータがどの分類に属するかを推定する分類システムが、とりわけ深層学習と呼ばれる手法を契機として開発が急速に進んでいる。
【０００３】
画像認識の領域では、人の顔の映像から誰であるかを識別したり、怒りや悲しみなどの感情を読み取ったりするなどの技術が進んでいる。物体認識では、画像に写っている物の種類を推定する技術が進んでいる。医療分野では、レントゲン写真やＣＴ、顕微鏡画像などの医療画像から、癌などの存在を識別する研究も盛んである。
【０００４】
同様に、大量の財務データや経済データを用いて深層学習を行い、企業の信用度を判定したり、株価の上昇や下落を予測したりする研究も盛んである。医療分野では、多数の患者の訴える症状や検査所見の大量データを用いて、ある症状や所見を有する患者の疾患名を予測したり、有効な治療法を推定したりする研究も進んでいる。
この出願に関連する先行技術文献としては次のものがある。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開2018-175226号
【特許文献２】特開2019-3396号
【発明の概要】
【発明が解決しようとする課題】
【０００６】
深層学習等では、多数の層からなるニューラルネットワークが使用される。認識結果が出ても、なぜその認識となったのかを人間が理解することが困難である。
認識精度が上がったとはいえ、100％ではないので、必ず誤認識が発生するが、その責任は、その認識結果を利用した人間が負うしかない。
その際に、なぜ当該認識に至ったかを第三者に説明できなければ、利用する人間に損害賠償などのリスクが生じてしまい、実用性には限界がある。
【０００７】
また、ビッグデータを解析すれば全ての問題は解決するかのような幻想があった。
しかし、それぞれの分野で長い時間をかけて形成されてきた思考の枠組みの有用性は強固である。いかに大量とはいえ、事前に内部論理構造を一切仮定せずに、全てのデータをフラットにして解析しても、既に知られているありきたりの知見の再確認や、意味がつけにくい相互関係の指摘に留まることが少なくない。
【０００８】
本発明はかかる従来の問題点を解決するためになされたものであって、その目的とするところは、学習の際に分類の正解のみならず、当該分類の属性の正解に関しても教師データを与えて学習させることにより、或る画像などを提示した際、当該画像の分類のみならず属性の推定も出力させ、分類の根拠を推定する分類システムを提供することすることである。また、分類ごとの属性データベースを構築しておき（分類ごと属性リスト管理手段）、得られた属性リストに対して、当該分類の属性に適合するかどうかの突合を行う検証手段（属性リストによる分類正解推定手段）を設けることで、当該分類の妥当性を検証するとともに、分類の根拠を系統的に説明可能にすること、さらに学習に際して教師データとして与えていない分類に関しても推定可能とする分類システムを提供することである。さらに、学習済みの複数の分類手段を並行して属性を推定し、得られた属性群と分類ごと属性リスト記録手段を突合して分類を推定可能とする分類システムを提供することである。
【課題を解決するための手段】
【０００９】
前記目的を達成するための手段として、請求項１記載の知識管理システムでは、分類の学習材料を得る分類学習材料管理手段と、
前記分類の学習材料ごとに分類正解を設定する分類学習材料ごと分類正解設定手段と、
前記分類の学習材料を入力し、分類を行った分類結果を出力する分類手段と、
前記分類結果と前記分類学習材料ごと分類正解設定手段で予め設定された前記分類正解を比較して誤差をフィードバックし、前記分類手段の学習を行う分類学習手段を備えた分類システムにおいて、
前記分類学習材料ごと分類正解設定手段は、当該分類の学習材料の分類正解のみならず、当該分類の学習材料の属性正解設定も併せて行う分類学習材料ごと分類材料属性正解設定手段を備え、
前記分類手段は、
前記分類の学習材料を入力する入力手段と、
前記分類結果を出力するのみならず、属性推定結果も含む分類/属性推定結果を出力する分類/属性結果出力手段を備え、
前記分類学習手段は、前記分類手段から出力された分類/属性推定結果と、前記分類学習材料ごと分類正解設定手段及び前記分類学習材料ごと分類材料属性正解設定手段で設定された前記分類正解及び前記属性正解を比較して、一致しない場合は、その誤差を前記分類手段にフィードバックし、前記分類/属性推定結果が前記分類正解及び前記属性正解に近づくよう調整する分類及び属性学習手段を備え、
得られた学習済分類手段に対して分類対象材料取得手段から新たに分類対象材料の入力を行い、
前記学習済分類手段が備える前記分類/属性結果出力手段は、前記分類対象材料の分類結果と属性推定結果を併せて出力し、当該分類結果の妥当性を検討可能としたことを特徴とする。
【００１０】
請求項２記載の分類システムでは、請求項１記載の分類システムにおいて、前記分類ごとに属性のリストを管理する分類ごと属性リスト管理手段を備え、入力された分類対象材料を前記学習済分類手段に適用し、得られた属性リスト管理手段の属性リストと照合し、可能性の高い分類を推定する属性リストによる分類正解推定手段を備えたことを特徴とする。
【００１１】
請求項３記載の分類システムでは、請求項２記載の分類システムにおいて、前記分類ごと属性リスト管理手段に管理されている属性のリストが、前記得られた属性のリストで満たされない属性があった場合、当該満たされない属性に関し、前記分類対象材料管理手段に問い合わせる属性問い合わせ手段を備えたことを特徴とする。
【００１２】
請求項４記載の分類システムでは、請求項２ないし３いずれか記載の分類システムにおいて、前記学習済分類手段を複数並列させ、前記分類対象材料を複数並列された前記学習済分類手段の各々に適用して得られた各々の属性リストと、分類ごと属性リスト管理手段を照合し、分類正解を推定する属性リストによる複数並列分類手段を備えたことを特徴とする。
【発明の効果】
【００１３】
請求項１記載の分類システムでは、分類学習材料ごと分類材料属性正解設定手段を備えるので、分類学習材料の分類正解のみならず、当該分類学習材料の属性正解設定も併せて行う。
分類及び属性学習手段を備えるので、前記分類/属性推定結果出力と前記分類正解設定手段で予め設定された分類正解、及び前記属性推定結果出力と前記分類学習材料ごと分類学習材料属性正解設定手段で設定された属性正解を比較して、分類手段の学習を行う。
得られた学習済分類手段に対して分類対象材料取得手段から新たに分類対象材料の入力を行い、前記分類/属性結果出力手段は、当該分類対象材料の分類結果と属性結果を併せて出力することにより、当該分類結果の妥当性を検討可能とした。
【００１４】
請求項２記載の分類システムでは、分類ごと属性リスト管理手段を備えるので、分類ごとに属性のリストを管理する。
属性リストによる分類正解推定手段を備えるので、入力された分類対象材料を学習済み分類手段に適用し、得られた属性リストと照合し、可能性の高い分類を推定する。
【００１５】
請求項３記載の分類システムでは、属性問い合わせ手段を備えるので、属性リストによる分類正解推定手段において、前記分類ごと属性リスト管理手段に管理されている属性のリストが、前記得られた属性のリストで満たされない属性があった場合、当該満たされない属性に関し、前記分類対象材料取得手段に問い合わせる。
【００１６】
請求項４記載の分類システムでは、属性リストによる複数並列分類手段を備えるので、学習済分類手段を複数並列させ、入力された分類対象材料から得られた前記複数並列された分類手段の各々で得られた属性リストと、分類ごと属性リスト管理手段を照合し、分類正解を推定する。
【図面の簡単な説明】
【００１７】
【図１】従来の分類システムの概要図である。（a）分類学習時、（b）分類実行時を示す。
【図２】本発明の分類システムの概要図である。（a）分類学習時、（b）分類実行時を示す。
【図３】分類ごと属性リスト管理手段と、得られた属性リストと照合し、可能性の高い分類を推定する属性リストによる分類正解推定手段の説明図である。
【図４】本発明による疾患の分類システムの説明図である。また、分類対象材料取得手段に、欠落している属性を問い合わせる属性問い合わせ手段の説明図である。
【図５】属性リストによる複数並列分類手段の説明図である。
【発明を実施するための形態】
【００１８】
図１は、従来型の分類システムの概要図である。
図では、画像の分類を例にとっている。まず、（ａ）分類学習時を説明する。
分類学習材料管理手段では、分類学習材料となる画像と、分類学習材料ごと正解設定手段で設定された当該画像の分類の正解を、一対として管理している。
分類材料取得手段では、分類の対象となる情報である画像や、症状、所見などを取得し、分類学習材料入力手段を介して分類手段に提供する。分類材料の取得の仕方は、画像であればカメラ映像の直接入力や画像ファイルの読み込み等、いずれの手段を用いてもよい。
症状や所見などは、電子カルテの記載や、任意の観測データ、時系列データのファイル読み込み等、いずれでもよい。
【００１９】
分類手段の入力層に分類学習材料である画像を入力する（分類学習材料入力手段）。
分類手段では、深層学習のように、ニューロンを模した神経素子を含む多数の隠れ層を重み付きリンクで連結し、入力層から順次重み付きリンクの計算を行う。
或る神経素子の前段階のリンクの発火の有無と重みから当該神経素子への刺激量を合計し、あらかじめ設定してある域値を越えたなら、当該神経素子は発火し、次の隠れ層の神経素子群へ重み付きの出力を行う。
分類手段の最後の層が分類結果出力を担い、当該出力層の個々の神経素子の発火が、個々の分類結果出力に該当する。
分類学習材料ごと正解設定手段で設定された当該画像の分類の正解と比較して、一致しない場合は、その誤差を誤差逆伝播法などの手法で分類手段にフィードバックし、出力が分類正解に近づくよう、リンクの重みを調整する。誤差が、予め設定された基準以下となれば、分類手段の学習終了とする（学習済み分類手段）。
図１（ｂ）の分類の実行に当たっては、分類対象材料管理手段に管理されている分類対象材料である画像を、分類対象材料入力手段を用いて学習済み分類手段に入力する。分類結果出力手段で発火した個々の神経素子が分類結果に対応する。
【００２０】
図２は、本発明の分類システムの概要図である。
図１と同様に画像の分類を例にとっている。
図２（ａ）は分類学習時の説明である。分類学習材料管理手段では、分類学習材料となる画像と、分類学習材料ごと正解設定手段で設定された当該画像の分類の正解、および、分類材料ごと属性正解設定手段で設定された属性の正解を、一連として管理している。
分類手段の入力層に分類学習材料である画像を入力する（分類学習材料入力手段）。
分類手段では、深層学習のように、ニューロンを模した神経素子を含む多数の隠れ層を重み付きリンクで連結し、入力層から順次重み付きリンクの計算を行う。
或る神経素子の前段階のリンクの発火の有無と重みから当該神経素子への刺激量を合計し、あらかじめ設定してある域値を越えたなら、当該神経素子は発火し、次の隠れ層の神経素子群へ重み付きの出力を行う。
分類手段の最後の層が分類/属性結果出力を担い、当該出力層の個々の神経素子の発火が、個々の分類/属性推定結果出力に該当する。
分類学習材料ごと正解設定手段並びに分類材料ごと属性正解設定手段で設定された当該画像の分類/属性の正解と比較して、一致しない場合は、その誤差を誤差逆伝播法などの手法で分類手段にフィードバックし、結果出力が分類/属性正解に近づくよう、リンクの重みを調整する。誤差が、予め設定された基準以下となれば、分類手段の学習終了とする（学習済み分類手段）。
【００２１】
図２（ｂ）は、分類実行時の説明である。
分類の実行に当たっては、分類対象材料管理手段に管理されている分類対象材料である画像を、分類対象材料入力手段を用いて学習済み分類手段に入力する。
分類/属性結果出力手段で発火した個々の神経素子が分類/属性の推定結果に対応する。
図１に示した従来法では、分類の推定結果しか示されないので、なぜ当該分類結果となったかの理由が不明であった。
これに対して、本発明では、分類結果だけでなく、当該画像の属性も併せて推定するため、分類の根拠を提示することができる。
【００２２】
図３は、分類ごと属性リスト管理手段と、得られた属性リストと照合し、可能性の高い分類を推定する属性リストによる分類正解推定手段の説明図である。
図２において、分類と属性を同時に推定することで、分類推定の根拠を与えることになるが、分類、属性のいずれにしても100％正確ではなく、誤差や、推定の揺らぎは必然である。
この問題に対処するために、分類ごとに属性リストを管理しておき（分類ごと属性リスト管理手段）、ある画像の分類/属性推定出力結果が得られたならば、分類ごと属性リスト管理手段に管理されている属性リストと照合し、推定された分類結果の妥当性を検討する。
もし、当該推定された属性リストと、当該推定された分類に関しての分類ごと属性リスト管理手段に管理されている属性リストとの適合性が低ければ、より適合性の高い属性リストを持つ分類を分類の正解として推定する（属性リストによる分類正解推定手段）。
【００２３】
図４は、本発明による疾患の分類システムの説明図である。
図４（ａ）は分類学習時の説明である。
分類学習材料管理手段では、分類学習材料となる症状や所見と、分類学習材料ごと正解設定手段で設定された当該症状や所見の分類の正解（疾患名）、および、分類材料ごと属性正解設定手段で設定された属性の正解（炎症。感染など等）を、一連として管理している。
分類手段の入力層に分類学習材料である症状や所見を入力する（分類学習材料入力手段）。
分類手段では、深層学習のように、ニューロンを模した神経素子を含む多数の隠れ層を重み付きリンクで連結し、入力層から順次重み付きリンクの計算を行う。
或る神経素子の前段階のリンクの発火の有無と重みから当該神経素子への刺激量を合計し、あらかじめ設定してある域値を越えたなら、当該神経素子は発火し、次の隠れ層の神経素子群へ重み付きの出力を行う。
分類手段の最後の層が分類/属性結果出力を担い、当該出力層の個々の神経素子の発火が、個々の分類/属性推定結果出力に該当する。
分類学習材料ごと分類正解設定手段並びに分類材料ごと属性正解設定手段で設定された当該症状や所見の分類/属性の正解と比較して、一致しない場合は、その誤差を誤差逆伝播法などの手法で分類手段にフィードバックし、結果出力が分類/属性正解に近づくよう、リンクの重みを調整する。
誤差が、予め設定された基準以下となれば、分類手段の学習終了とする（学習済み分類手段）。
【００２４】
図４（ｂ）は、分類実行時の説明である。
分類の実行に当たっては、分類対象材料管理手段に管理されている分類対象材料である症状や所見を、分類対象材料入力手段を用いて学習済み分類手段に入力する。
分類/属性結果出力手段で発火した個々の神経素子が分類/属性の推定結果に対応する。
図１に示した従来法では、分類の推定結果しか示されないので、なぜ当該分類結果となったかの理由が不明であった。
これに対して、本発明では、分類結果だけでなく、当該症状や所見の属性も併せて推定するため、例えば、この分類対象は、炎症があり感染があり、呼吸器に病変があるから分類名は肺炎であるといったように、分類の根拠を提示することができる。
【００２５】
図４（ｃ）は、分類ごと属性リスト管理手段と、得られた属性リストと照合し、可能性の高い分類を推定する属性リストによる分類正解推定手段の説明図である。
図４（ｂ）において、分類（疾患名）と属性を同時に推定することで、分類（疾患名）推定の根拠を与えることになるが、分類、属性のいずれにしても100％正確ではなく、誤差や、推定の揺らぎは必然である。
この問題に対処するために、分類（疾患名）ごとに属性リストを管理しておき（分類ごと属性リスト管理手段）、ある症状や所見の分類/属性推定出力結果が得られたならば、分類ごと属性リスト管理手段に管理されている属性リストと照合し、推定された分類推定結果の妥当性を検討する。
もし、当該推定された属性リストと、当該推定された分類に関しての分類ごと属性リスト管理手段に管理されている属性リストとの適合性が低ければ、より適合性の高い属性リストを持つ分類（疾患名）を分類の正解として推定する（属性リストによる分類正解推定手段）。
なお、症状、所見の間に相関関係がある場合、両者の診断名ごとの症状、所見分布は当然似通ったものとなり、追加情報は少ないものとなるので、その分を減価して評価する必要がある。この目的のために、診断名ごとの症状、所見の組合せペアごとの出現頻度を得ておくことも有用である。
【００２６】
ここで、個々の分類の属性には重複が多い。
系統樹のように、共通の分類の項目を、より上位の分類にまとめ、共通の属性を上位の分類の属性にまとまれば、属性の記載量は最小限で済み、検索も容易となる。
子の分類は親の分類の属性を継承するとともに、子の分類独自の属性も保有する。親の分類から継承した属性を、子の分類レベルで変更し上書きすれば、孫の分類の項目の当該属性は、子の分類の変更された属性を継承する。
【００２７】
これら一連の過程において、臨床現場では全ての症状や所見が予め全て揃っていない場合がほとんどである。
このような場合、分類対象材料管理手段（電子カルテなど）に対して、分類に不可欠であるが欠落している症状や所見（例えば、図４（ｃ）では、関節リウマチにおけるＸｐでの骨びらんの有無）を問い合わせ（属性問い合わせ手段）、当該症状や所見の返答を得て、分類の精度を上げてゆく。
【００２８】
図５は、属性リストによる複数並列分類手段の説明図である。
学習済みの分類手段が既に複数存在しているとき、分類対象材料管理手段から画像や症状や所見などの分類材料を複数の学習済み分類手段の各々に対して並列して入力し、それぞれの学習済み分類手段から分類や属性の推定リストを得る。
得られた属性リスト群を分類ごと属性リスト管理手段に管理されている属性リストと照合し、一致度の高い分類を属性リストによる分類正解の推定値とする。
従来は分類の対象が変化するたびに、大量の教師画像や正解のデータセットを用意し、大量の計算を要する分類手段の学習を行う必要があったが、図５のような構成により、既に学習済みの分類手段を再利用し、あるいは、最小限の分類手段の学習を追加するだけで、新規の分類対象に対しても、目的を果たすことができる。分類手段の学習は数十万回に上るフィードバックを用いた大規模な計算量が必要であるが、既に学習済みの分類手段を用いた分類の実行は瞬間的に一回で終了する。従って、本図のように多数の学習済み分類手段を並列しても、計算量の増加は僅かである。
【００２９】
以上、実施例を説明したが、本発明の具体的な構成は前記実施例に限定されるものではなく、発明の要旨を逸脱しない範囲の設計変更等があっても本発明に含まれる。
例えば、画像の認識では、例として挙げた動物に限定されるものでなく、人の顔や物体の認識など、任意の画像に適応できる。医療の例を挙げているが、他に、貸し倒れの可能性の有無の判断や、株価の上昇/下落など、分類に帰する問題であれば、いずれにも適応できる。
分類手段としては、現在急速に普及が進んでいる深層学習を例にとっているが、これに限られず、旧来の、あるいは今後出現するニューラルネットワークを用いた分類手段、サポートベクターマシンなどの様々な機械学習、頻度分布を活用したもの等、状況に応じて適切な分類器を用いても、同様の本発明の実施が可能である。
【要約】      （修正有）【課題】画像などを提示した際、当該画像の分類のみならず属性の推定も出力させ、分類の根拠を推定する分類システムを提供する。【解決手段】分類システムは、分類の学習材料を得る分類学習材料管理手段と、得られた分類学習材料ごとに分類正解を設定する分類学習材料ごと分類正解設定手段と、得られた分類学習材料を入力する分類学習材料入力手段と、入力された分類学習材料から分類を行う分類手段と、分類手段で得られた分類結果を出力する分類結果出力手段を備える。分類正解設定手段は、分類学習材料の分類正解のみならず、当該分類学習材料の属性正解設定も併せて行う分類学習材料ごと分類材料属性正解設定手段、を備える。【選択図】図２（ａ）【図１】
0006872214.tif 000002
【図２（ａ）】
0006872214.tif 000003
【図２（ｂ）】
0006872214.tif 000004
【図３】
0006872214.tif 000005
【図４（ａ）】
0006872214.tif 000006
【図４（ｂ）】
0006872214.tif 000007
【図４（ｃ）】
0006872214.tif 000008
【図５】
0006872214.tif 000009