(57)【要約】【課題】精度良く事例のクラスを分類することができる。【解決手段】事例分割部２２により、事例セットを予め定められた数だけ作成し、事例セットの各々について、多クラス分類器訓練部３２により、多クラス分類器を訓練し、多クラス分類部３４により、混同行列を作成し、クラスタリング部３６により、クラス階層構造を作成し、階層型分類器訓練部４０により、階層型分類器を取得し、確率計算部６０により、入力された分類対象となる事例に基づいて、事例セットの各々について訓練された階層型分類器を用いて、分類対象となる事例が、葉ノードが表すクラスの各々に属する確率を計算し、確率結合部６２により、各葉ノードが表すクラスの各々について、葉ノードが表すクラスに属する確率を結合し、出力部９０により、結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力する。【選択図】図１
2016024503.tif 000002
【特許請求の範囲】
【請求項１】
事例と前記事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、前記サブ訓練事例集合と前記検証事例集合とのペアである事例セットを予め定められた数だけ作成する事例分割部と、
前記事例分割部により作成された事例セットの各々について、前記事例セットの前記サブ訓練事例集合に含まれる前記事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練する多クラス分類器訓練部と、
前記事例分割部により作成された事例セットの各々について、前記多クラス分類器訓練部により訓練された多クラス分類器に基づいて、前記事例セットの前記検証事例集合に含まれる前記事例の各々を分類した結果の各々と、前記検証事例集合に含まれる前記事例の各々の前記クラスラベルの各々と、に基づいて、前記クラスのペアの各々についての、一方のクラスに属する事例が他方のクラスに分類されることを表す各要素からなる混同行列を作成する多クラス分類部と、
前記事例分割部により作成された事例セットの各々について、前記多クラス分類部により作成された混同行列に基づいて、前記複数のクラスを、階層的に分類し、分類された前記クラスの集合を表す内部ノードの各々と、前記クラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成するクラスタリング部と、
前記事例分割部により作成された事例セットの各々について、前記クラスタリング部により作成されたクラス階層構造に含まれる前記内部ノードの各々について、前記既知データに含まれる、前記内部ノードが表す前記クラスの集合に含まれるクラスの各々に属する事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を、前記内部ノードの子ノードである各内部ノードが表す前記クラスの集合のうちの何れか１つ、又は前記内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、前記訓練され前記内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得する階層型分類器訓練部と、
入力された分類対象となる事例に基づいて、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記分類対象となる事例が、前記葉ノードが表すクラスの各々に属する確率を計算する確率計算部と、
各葉ノードが表すクラスの各々について、前記確率計算部により前記階層型分類器の各々に対して計算された前記葉ノードが表すクラスに属する確率を結合する確率結合部と、
前記確率結合部により結合された前記クラスに属する確率が最も高い前記クラスを、前記分類対象となる事例が属するクラスとして出力する出力部と、
を含む、クラス分類装置。
【請求項２】
前記多クラス分類部は、前記混同行列の各要素Ｍ（ｉ，ｊ）を、前記検証事例集合に含まれる前記クラスｉに属する前記事例の数に対する、前記検証事例集合に含まれる前記クラスｉに属する事例のうちの、前記クラスｊに分類された事例の数の割合と、前記検証事例集合に含まれる前記クラスｊに属する前記事例の数に対する、前記検証事例集合に含まれる前記クラスｊに属する事例のうちの、前記クラスｉに分類された事例の数の割合との和として作成する請求項１記載のクラス分類装置。
【請求項３】
前記多クラス分類器訓練部は、サポートベクターマシンである多クラス分類器を訓練し、
前記多クラス分類部は、前記混同行列の各要素Ｍ（ｉ，ｊ）の各々を、前記検証事例集合に含まれる前記クラスｉに属する前記事例の各々についての、前記多クラス分類器訓練部によって訓練された多クラス分類器によりクラスｉについて出力される値に基づいて計算される、前記事例がクラスｉに属する確率の平均値と、前記検証事例集合に含まれる前記クラスｊに属する前記事例の各々についての、前記多クラス分類器訓練部によって訓練された多クラス分類器によりクラスｊについて出力される値に基づいて計算される、前記事例がクラスｊに属する確率の平均値との和として作成する請求項１記載のクラス分類装置。
【請求項４】
前記確率計算部は、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記葉ノードが表すクラスの各々について、前記クラス階層構造の前記葉ノードから根ノードまでに存在する前記内部ノードの各々について、前記内部ノードの前記内部ノード多クラス分類器に基づく、前記分類対象の事例が前記クラスを表す葉ノードを子孫に持つ内部ノード又は前記クラスを表す葉ノードに属する条件付き確率を計算し、前記計算した前記条件付き確率の各々の積を、前記葉ノードが表すクラスに属する確率として計算し、
前記確率結合部は、各葉ノードが表すクラスの各々について、前記確率計算部により前記事例セットの各々に対して計算された前記葉ノードが表すクラスに属する確率の総和を計算することにより、前記葉ノードが表すクラスに属する確率を結合する請求項１〜３の何れか１項記載のクラス分類装置。
【請求項５】
事例分割部と、多クラス分類器訓練部と、多クラス分類部と、クラスタリング部と、階層型分類器訓練部と、確率計算部と、確率結合部と、出力部と、を含むクラス分類装置におけるクラス分類方法であって、
前記事例分割部は、事例と前記事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、前記サブ訓練事例集合と前記検証事例集合とのペアである事例セットを予め定められた数だけ作成し、
前記事例分割部により作成された事例セットの各々について、
前記多クラス分類器訓練部は、前記事例セットの前記サブ訓練事例集合に含まれる前記事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練し、
前記多クラス分類部は、前記多クラス分類器訓練部により訓練された多クラス分類器に基づいて、前記事例セットの前記検証事例集合に含まれる前記事例の各々を分類した結果の各々と、前記検証事例集合に含まれる前記事例の各々の前記クラスラベルの各々と、に基づいて、前記クラスのペアの各々についての、一方のクラスに属する事例が他方のクラスに分類されることを表す各要素からなる混同行列を作成し、
前記クラスタリング部は、前記多クラス分類部により作成された混同行列に基づいて、前記複数のクラスを、階層的に分類し、分類された前記クラスの集合を表す内部ノードの各々と、前記クラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成し、
前記階層型分類器訓練部は、前記クラスタリング部により作成されたクラス階層構造に含まれる前記内部ノードの各々について、前記既知データに含まれる、前記内部ノードが表す前記クラスの集合に含まれるクラスの各々に属する事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を、前記内部ノードの子ノードである各内部ノードが表す前記クラスの集合のうちの何れか１つ、又は前記内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、前記訓練され前記内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、
前記確率計算部は、入力された分類対象となる事例に基づいて、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記分類対象となる事例が、前記葉ノードが表すクラスの各々に属する確率を計算し、
前記確率結合部は、各葉ノードが表すクラスの各々について、前記確率計算部により前記階層型分類器の各々に対して計算された前記葉ノードが表すクラスに属する確率を結合し、
前記出力部は、前記確率結合部により結合された前記クラスに属する確率が最も高い前記クラスを、前記分類対象となる事例が属するクラスとして出力する
クラス分類方法。
【請求項６】
コンピュータを、請求項１〜請求項４の何れか１項記載のクラス分類装置を構成する各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、クラス分類装置、方法、及びプログラムに係り、特に、入力されたデータをクラスに分類するクラス分類装置、方法、及びプログラムに関する。
【背景技術】
【０００２】
多クラス分類（Multi-Class Classification）では、クラス間の曖昧性が高い場合、観測されたデータの特徴空間における分布が複雑であり、正確な分類が困難である。該問題に対し、多クラス分類問題を複数の小さな統計分類問題に階層的に分解する、階層的分類と呼ばれる技術が提供されている。
【０００３】
具体的には、既知のデータを訓練事例集合（Training Set）と検証事例集合（Validation Set）に分割し、訓練事例集合から多クラス分類の分類器を作り、検証事例を該分類器に分類させ、混同行列（Confusion Matrix）を作る。次に、該混同行列を基に、あらかじめ定められた多数のクラスを、複数のクラス集合に、階層的に分割し、各クラス集合に個別の決定木（Decision Tree）分類器を割り当てる。未知のデータを分類対象とする際に、第１レベルの決定木分類器を駆使し、該分類対象が第２レベルのどのクラス集合に属するかを決める。次に、該当クラス集合に割り当てられた決定木を駆使し、該分類対象が第３レベルのどのクラス集合に属するかを決める。前記処理を繰り返すことで、該分類対象が属するクラス集合を再帰的に決め、最後に該分類対象が属する単一のクラスを決める（非特許文献１）。また、決定木の代わりにニューラルネットワークを各クラス集合に割り当て、光学文字認識における階層的分類技術も知られている（非特許文献２）。また、サポートベクターマシンを各クラス集合に割り当て、魚画像分類における階層的分類技術も知られている（非特許文献３）。
【先行技術文献】
【非特許文献】
【０００４】
【非特許文献１】Shahar Cohen, Lior Rokach, and Oded Maimon. Decision-tree instance-space decom-position with grouped gain-ratio. Inf. Sci., Vol. 177, No. 17, pp. 3592-3612, 2007.
【非特許文献２】Cinthia Obladen de Almendra Freitas, Luiz S. Oliveira, Simone B. K. Aires, and Flavio Bortolozzi. Metaclasses and Zoning Mechanism Applied to Handwriting Recognition.J. UCS, Vol. 14, No. 2, pp. 211-223, 2008.
【非特許文献３】Phoenix X. Huang, Bastiaan Johannes Boom, and Robert B. Fisher. Underwater Live Fish Recognition Using a Balance-Guaranteed Optimized Tree. In ACCV (1),pp. 422-433, 2012.
【発明の概要】
【発明が解決しようとする課題】
【０００５】
非特許文献１〜３の方法は、観測されたデータの特徴の次元数が膨大で、混同行列を作るために用いた多クラス分類の分類器の媒介変数が多すぎる場合、訓練事例の個数に比べて、分類器の自由度が高すぎるため、過剰適合（Overfitting）が生じやすく、未知のデータに対する汎化能力が足りない問題がある。特に、未知のデータを分類する際に、上位レベルの分類器の分類結果を基に下位レベルのクラス集合の選択肢を制限する場合、上位レベルの分類結果の誤差（Error）が下位レベルに伝搬（Propagation）しやすく、過剰適合問題が更に顕著になる可能性が高いという問題がある。
【０００６】
本発明では、上記問題点を解決するために成されたものであり、精度良く事例が属するクラスを分類することができるクラス分類装置、方法、及びプログラムを提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記目的を達成するために、第１の発明に係るクラス分類装置は、事例と前記事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、前記サブ訓練事例集合と前記検証事例集合とのペアである事例セットを予め定められた数だけ作成する事例分割部と、前記事例分割部により作成された事例セットの各々について、前記事例セットの前記サブ訓練事例集合に含まれる前記事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練する多クラス分類器訓練部と、前記事例分割部により作成された事例セットの各々について、前記多クラス分類器訓練部により訓練された多クラス分類器に基づいて、前記事例セットの前記検証事例集合に含まれる前記事例の各々を分類した結果の各々と、前記検証事例集合に含まれる前記事例の各々の前記クラスラベルの各々と、に基づいて、前記クラスのペアの各々についての、一方のクラスに属する事例が他方のクラスに分類されることを表す各要素からなる混同行列を作成する多クラス分類部と、前記事例分割部により作成された事例セットの各々について、前記多クラス分類部により作成された混同行列に基づいて、前記複数のクラスを、階層的に分類し、分類された前記クラスの集合を表す内部ノードの各々と、前記クラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成するクラスタリング部と、前記事例分割部により作成された事例セットの各々について、前記クラスタリング部により作成されたクラス階層構造に含まれる前記内部ノードの各々について、前記既知データに含まれる、前記内部ノードが表す前記クラスの集合に含まれるクラスの各々に属する事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を、前記内部ノードの子ノードである各内部ノードが表す前記クラスの集合のうちの何れか１つ、又は前記内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、前記訓練され前記内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得する階層型分類器訓練部と、入力された分類対象となる事例に基づいて、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記分類対象となる事例が、前記葉ノードが表すクラスの各々に属する確率を計算する確率計算部と、各葉ノードが表すクラスの各々について、前記確率計算部により前記階層型分類器の各々に対して計算された前記葉ノードが表すクラスに属する確率を結合する確率結合部と、前記確率結合部により結合された前記クラスに属する確率が最も高い前記クラスを、前記分類対象となる事例が属するクラスとして出力する出力部と、を含んで構成されている。
【０００８】
第２の発明に係るクラス分類方法は、事例分割部と、多クラス分類器訓練部と、多クラス分類部と、クラスタリング部と、階層型分類器訓練部と、確率計算部と、確率結合部と、出力部と、を含むクラス分類装置におけるクラス分類方法であって、前記事例分割部は、事例と前記事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、前記サブ訓練事例集合と前記検証事例集合とのペアである事例セットを予め定められた数だけ作成し、前記事例分割部により作成された事例セットの各々について、前記多クラス分類器訓練部は、前記事例セットの前記サブ訓練事例集合に含まれる前記事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練し、前記多クラス分類部は、前記多クラス分類器訓練部により訓練された多クラス分類器に基づいて、前記事例セットの前記検証事例集合に含まれる前記事例の各々を分類した結果の各々と、前記検証事例集合に含まれる前記事例の各々の前記クラスラベルの各々と、に基づいて、前記クラスのペアの各々についての、一方のクラスに属する事例が他方のクラスに分類されることを表す各要素からなる混同行列を作成し、前記クラスタリング部は、前記多クラス分類部により作成された混同行列に基づいて、前記複数のクラスを、階層的に分類し、分類された前記クラスの集合を表す内部ノードの各々と、前記クラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成し、前記階層型分類器訓練部は、前記クラスタリング部により作成されたクラス階層構造に含まれる前記内部ノードの各々について、前記既知データに含まれる、前記内部ノードが表す前記クラスの集合に含まれるクラスの各々に属する事例の各々と、前記事例のクラスラベルの各々とに基づいて、事例を、前記内部ノードの子ノードである各内部ノードが表す前記クラスの集合のうちの何れか１つ、又は前記内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、前記訓練され前記内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、  前記確率計算部は、入力された分類対象となる事例に基づいて、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記分類対象となる事例が、前記葉ノードが表すクラスの各々に属する確率を計算し、前記確率結合部は、各葉ノードが表すクラスの各々について、前記確率計算部により前記階層型分類器の各々に対して計算された前記葉ノードが表すクラスに属する確率を結合し、前記出力部は、前記確率結合部により結合された前記クラスに属する確率が最も高い前記クラスを、前記分類対象となる事例が属するクラスとして出力する。
【０００９】
第１及び第２の発明によれば、事例分割部により、事例と事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、サブ訓練事例集合と検証事例集合とのペアである事例セットを予め定められた数だけ作成し、事例分割部により作成された事例セットの各々について、多クラス分類器訓練部により、事例セットのサブ訓練事例集合に含まれる事例の各々と、事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練し、多クラス分類部により、多クラス分類器訓練部により訓練された多クラス分類器に基づいて、事例セットの検証事例集合に含まれる事例の各々を分類した結果の各々と、検証事例集合に含まれる事例の各々のクラスラベルの各々と、に基づいて、クラスのペアの各々についての、一方のクラスに属する事例が他方のクラスに分類されることを表す各要素からなる混同行列を作成し、クラスタリング部により、多クラス分類部により作成された混同行列に基づいて、複数のクラスを、階層的に分類し、分類されたクラスの集合を表す内部ノードの各々と、クラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成し、階層型分類器訓練部により、クラスタリング部により作成されたクラス階層構造に含まれる内部ノードの各々について、既知データに含まれる、内部ノードが表すクラスの集合に含まれるクラスの各々に属する事例の各々と、事例のクラスラベルの各々とに基づいて、事例を、内部ノードの子ノードである各内部ノードが表すクラスの集合のうちの何れか１つ、又は内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、確率計算部により、入力された分類対象となる事例に基づいて、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記分類対象となる事例が、前記葉ノードが表すクラスの各々に属する確率を計算し、確率結合部により、各葉ノードが表すクラスの各々について、前記確率計算部により前記階層型分類器の各々に対して計算された前記葉ノードが表すクラスに属する確率を結合し、出力部により、確率結合部により結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力する。
【００１０】
このように、第１及び第２の発明によれば、既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、事例セットを予め定められた数だけ作成し、作成された事例セットの各々について、多クラス分類器を訓練し、訓練された多クラス分類器に基づいて、混同行列を作成し、混同行列に基づいて、複数のクラスを、階層的に分類し、クラス階層構造を作成し、内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、入力された分類対象となる事例に基づいて、事例セットの各々について訓練された階層型分類器を用いて、分類対象となる事例が、葉ノードが表すクラスの各々に属する確率を計算し、各葉ノードが表すクラスの各々について、葉ノードが表すクラスに属する確率を結合し、結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力することにより、精度良く事例が属するクラスを分類することができる。
【００１１】
また、第１の発明において、前記多クラス分類部は、前記混同行列の各要素Ｍ（ｉ，ｊ）を、前記検証事例集合に含まれる前記クラスｉに属する前記事例の数に対する、前記検証事例集合に含まれる前記クラスｉに属する事例のうちの、前記クラスｊに分類された事例の数の割合と、前記検証事例集合に含まれる前記クラスｊに属する前記事例の数に対する、前記検証事例集合に含まれる前記クラスｊに属する事例のうちの、前記クラスｉに分類された事例の数の割合との和として作成することができる。
【００１２】
また、第１の発明において、前記多クラス分類器訓練部は、サポートベクターマシンである多クラス分類器を訓練し、前記多クラス分類部は、前記混同行列の各要素Ｍ（ｉ，ｊ）の各々を、前記検証事例集合に含まれる前記クラスｉに属する前記事例の各々についての、前記多クラス分類器訓練部によって訓練された多クラス分類器によりクラスｉについて出力される値に基づいて計算される、前記事例がクラスｉに属する確率の平均値と、前記検証事例集合に含まれる前記クラスｊに属する前記事例の各々についての、前記多クラス分類器訓練部によって訓練された多クラス分類器によりクラスｊについて出力される値に基づいて計算される、前記事例がクラスｊに属する確率の平均値との和として作成することができる。
【００１３】
また、第１の発明において、前記確率計算部は、前記階層型分類器訓練部により前記事例セットの各々について訓練された前記階層型分類器の各々に対し、前記階層型分類器を用いて、前記葉ノードが表すクラスの各々について、前記クラス階層構造の前記葉ノードから根ノードまでに存在する前記内部ノードの各々について、前記内部ノードの前記内部ノード多クラス分類器に基づく、前記分類対象の事例が前記クラスを表す葉ノードを子孫に持つ内部ノード又は前記クラスを表す葉ノードに属する条件付き確率を計算し、前記計算した前記条件付き確率の各々の積を、前記葉ノードが表すクラスに属する確率として計算し、前記確率結合部は、各葉ノードが表すクラスの各々について、前記確率計算部により前記事例セットの各々に対して計算された前記葉ノードが表すクラスに属する確率の総和を計算することにより、前記葉ノードが表すクラスに属する確率を結合することができる。
【００１４】
また、本発明のプログラムは、コンピュータを、上記のクラス分類装置を構成する各部として機能させるためのプログラムである。
【発明の効果】
【００１５】
以上説明したように、本発明のクラス分類装置、方法、及びプログラムによれば、既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、事例セットを予め定められた数だけ作成し、作成された事例セットの各々について、多クラス分類器を訓練し、訓練された多クラス分類器に基づいて、混同行列を作成し、混同行列に基づいて、複数のクラスを、階層的に分類し、クラス階層構造を作成し、内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、入力された分類対象となる事例に基づいて、事例セットの各々について訓練された階層型分類器を用いて、分類対象となる事例が、葉ノードが表すクラスの各々に属する確率を計算し、各葉ノードが表すクラスの各々について、葉ノードが表すクラスに属する確率を結合し、結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力することにより、精度良く事例が属するクラスを分類することができる。
【図面の簡単な説明】
【００１６】
【図１】本発明の第１の実施の形態に係るクラス分類装置の機能的構成を示すブロック図である。
【図２】クラス階層構造の例を示す。
【図３】本発明の第１の実施の形態に係るクラス分類装置における階層型分類器訓練処理ルーチン示すフローチャート図である。
【図４】本発明の第１の実施の形態に係るクラス分類装置におけるクラス分類処理ルーチンを示すフローチャート図である。
【図５】本発明の第２の実施の形態に係るクラス分類装置の機能的構成を示すブロック図である。
【発明を実施するための形態】
【００１７】
以下、図面を参照して本発明の実施の形態を詳細に説明する。
【００１８】
＜本発明の実施の形態の原理＞
まず、本発明の実施の形態の原理について説明する。本実施の形態においては、既知のデータから、ランダム分割により、サブ訓練事例集合と検証事例集合をＮ対生成し、各対に対し、サブ訓練事例集合と検証事例集合を基に、多数のクラスを、複数のクラス集合に、階層的に分割し、クラス階層を生成する。結果的に、Ｎ個のクラス階層が生成される。また、クラス階層の内部ノード（Inner Node）は、クラス集合に相当し、葉ノード（Leaf Node）は、単一のクラスに相当する。
【００１９】
また、各クラス階層において、各内部ノードに確率的な分類器を設定し、また、各クラス階層において、未知のデータを分類する際に、全ての内部ノードに設定した分類器に分類対象を入力し、各内部ノードに対し、分類対象が該内部ノードの各子ノード（Child Node）に属する確率を計算する。さらに、各クラス階層において、各葉ノードに対し、該葉ノードの全ての先祖ノード（Ancestor Node）が出力した確率を結合し、分類対象が該葉ノードに属する確率を計算する。そして、各単一のクラスに対し、Ｎ個のクラス階層から計算された、分類対象が該クラスに属する（Ｎ個の）確率を結合し、分類対象が該クラスに属する最終的な確率を計算し、最終的な確率が最大となるクラスを最終出力とする。
【００２０】
＜本発明の第１の実施の形態に係るクラス分類装置の構成＞
次に、本発明の第１の実施の形態に係るクラス分類装置の構成について説明する。図１に示すように、本発明の第１の実施の形態に係るクラス分類装置１００は、ＣＰＵと、ＲＡＭと、後述する階層型分類器訓練処理ルーチン及びクラス分類処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。このクラス分類装置１００は、機能的には図１に示すように入力部１０と、演算部２０と、を備えている。
【００２１】
入力部１０は、事例と事例が属するクラスを表すクラスラベルとの複数のペアからなる既知データを受け付ける。また、入力部１０は、分類対象となる事例を受け付ける。なお、クラスラベルは、予め定められ、人手によって既知データの各事例に付与されているものとする。
【００２２】
演算部２０は、事例分割部２２と、事例セット記憶部２４と、クラス階層構築部３０と、階層型分類器訓練部４０と、階層型分類器記憶部５０と、確率計算部６０と、確率結合部６２と、出力部９０とを含んで構成されている。
【００２３】
事例分割部２２は、入力部１０において受け付けた既知データについて、全事例をランダムにサブ訓練事例集合と検証事例集合とに分割する処理をＮ回行い、サブ訓練事例集合と前記検証事例集合とのペアである事例セットをＮ個作成し、事例セット記憶部２４に記憶する。
【００２４】
事例セット記憶部２４には、事例分割部２２により作成されたＮ個の事例セットが記憶されている。
【００２５】
クラス階層構築部３０は、事例セット記憶部２４に記憶されているＮ個の事例セットの各々に基づいて、事例セット毎にクラス階層構造を作成する。また、クラス階層構築部３０は、多クラス分類器訓練部３２と、多クラス分類部３４と、クラスタリング部３６と、を備えている。
【００２６】
多クラス分類器訓練部３２は、事例セット記憶部２４に記憶されているＮ個の事例セット毎に、当該事例セットのサブ訓練事例集合に含まれる事例の各々と、当該事例のクラスラベルの各々とに基づいて、事例を複数のクラスのうちの何れか１つに分類するための多クラス分類器を訓練する。第１の実施の形態においては、線形カーネルや多項式カーネル等に基づくサポートベクターマシンを多クラス分類器として訓練する。
【００２７】
多クラス分類部３４は、事例セット記憶部２４に記憶されているＮ個の事例セット毎に、多クラス分類器訓練部３２において訓練された当該事例セットの多クラス分類器に基づいて、当該事例セットの検証事例集合に含まれる事例の各々を分類した結果と、当該検証事例集合に含まれる事例の各々のクラスラベルの各々とに基づいて混同行列を作成する。具体的には、混同行列Ｍは、ｍ×ｍのサイズを持ち、当該混同行列Ｍの各要素Ｍ（ｉ，ｊ）は、ｉ番目のクラスｃｉに属する事例がｊ番目のクラスｃｊに分類されることを表し、下記（１）式によって定義される。
【００２８】
【数１】
2016024503.tif 000003
【００２９】
ここで、ｉ番目のクラスｃｉに属する事例の集合をＤｖ（ｃｉ）とし、クラスの総数をｍとし、Ｐｒ（ｃｉ｜ｘ）は、事例ｘがクラスｃｉに属する確率であり、多クラス分類器であるサポートベクターマシンの分類結果ｆ（ｃｉ｜ｘ）を基に、下記（２）式によって計算する。なお、ＡとＢとは、媒介変数であり、多クラス分類器であるサポートベクターマシンと、当該既知データに含まれる事例及びクラスラベルのペアの各々とに基づいて、最尤法によって計算する（非特許文献４：Hsuan-Tien Lin, Chih-Jen Lin, and Ruby C. Weng. A note on Platt's probabilistic outputs for support vector machines. Machine Learning, Vol. 68, No. 3, pp. 267-276,2007.）。
【００３０】
【数２】
2016024503.tif 000004
【００３１】
クラスタリング部３６は、事例セット記憶部２４に記憶されているＮ個の事例セット毎に、多クラス分類部３４において作成された当該事例セットの混同行列に基づいて、階層クラスタリングを実施することにより、複数のクラスを階層的に分類し、分類されたクラスの集合を表す内部ノードの各々と、単一のクラスを表す葉ノードの各々とを含むノードの各々について、親子関係にあるノード間をエッジで結んだクラス階層構造を作成する。各内部ノードは、当該内部ノードにおけるすべての子ノードの和集合に相当する。図２にクラス階層構造の例を示す。なお、図２はクラス数が８である。また、図２中の点線の円は、葉ノード及び単一のクラスを表し、他のノードは、全て内部ノードを表す。
【００３２】
具体的には、まず、混同行列の各要素Ｍ（ｉ，ｊ）に基づいて、下記（３）式に従って、クラス間の距離Ｄ（ｉ，ｊ）の各々を計算し、距離行列Ｄを作成する。
【００３３】
【数３】
2016024503.tif 000005
【００３４】
そして、階層クラスタリングの一例である、最短距離法（Nearest Neighbor Method）に基づく凝集型階層的クラスタリング（Agglomerative Hierarchical Clustering）を駆使し、計算された距離行列Ｄに基づいて、二分木（Binary Tree）構造を持つクラス階層構造を作成する。
【００３５】
階層型分類器訓練部４０は、事例セット記憶部２４に記憶されているＮ個の事例セット毎に、クラスタリング部３６において当該事例セットに対して作成したクラス階層構造に含まれる内部ノードの各々について、既知データに含まれる、内部ノードが表すクラスの集合に含まれるクラスの各々に属する事例の各々と、事例のクラスラベルの各々とに基づいて、事例を、内部ノードの子ノードである各内部ノードが表すクラスの集合のうちの何れか１つ、又は内部ノードの子ノードである各葉ノードが表すクラスのうちの何れか１つに分類するための内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、Ｎ個の事例セット毎の階層型分類器を階層型分類器記憶部５０に記憶する。なお、階層型分類器は、当該クラス階層構造と同じ階層構造を持つ。また、内部ノードの各々について、内部ノード多クラス分類器を訓練する際に、当該内部ノードの各子ノードに対し、当該子ノードに相当するクラス集合を単一のクラスと見なす。また、上述したように、内部ノード多クラス分類器を訓練する際に、当該既知データに含まれる事例であって、当該内部ノードに含まれるクラスの各々に属する事例の各々を訓練事例集合とし、当該内部ノードに含まれるクラスの各々に属さない既知データに含まれる事例の各々は全てを無視する。
【００３６】
具体的には、内部ノードの各々に対し、当該内部ノードに含まれるクラスの各々に属する事例であって、かつ既知データに含まれる事例の各々を訓練事例とし、線形カーネルや多項式カーネル等に基づくサポートベクターマシンを内部ノード多クラス分類器とし、訓練する。なお、クラス階層構造が二分木構造であるため、各内部ノードの内部ノード多クラス分類器は、２クラス分類器となる。
【００３７】
確率計算部６０は、入力部１０において受け付けた分類対象となる事例に基づいて、階層型分類器記憶部５０に記憶されている、事例セット毎に訓練されたＮ個の階層型分類器の各々に対し、当該階層型分類器を用いて、分類対象となる事例が、各葉ノードが表すクラスの各々に属する確率を計算する。当該確率を計算するには、階層型分類器におけるすべての内部ノードの内部ノード多クラス分類器で分類対象となる事例を分類し、各葉ノードについて、内部ノード毎に、分類対象となる事例が当該内部ノードの、当該葉ノードを子孫に持つ子ノードに属する条件付き確率を計算する。各葉ノードに対し、当該葉ノードの先祖ノードとなる全ての内部ノード毎に計算された条件付き確率を結合し、分類対象となる事例が、当該葉ノードが表すクラスに属する確率とする。
【００３８】
具体的には、事例セット毎に訓練された階層型分類器を用いて、葉ノードが表すクラスの各々について、クラス階層構造の当該葉ノードから根ノードまでに存在する内部ノードの各々について、当該内部ノードの内部ノード多クラス分類器に基づく、分類対象の事例がクラスを表す葉ノードを子孫に持つ内部ノード又はクラスを表す葉ノードに属する条件付き確率を計算し、計算した条件付き確率の各々の積を、葉ノードが表すクラスに属する確率として計算する。当該内部ノードの子ノードをｖにし、当該内部ノードをＰａ（ｖ）にし、事例ｘのクラスラベルをｙにし、サポートベクターマシンの出力値をｆ（ｙ∈ｖ｜ｘ）とし、事例ｘがクラスｙを表す葉ノードを子孫に持つ内部ノードｖ又はクラスｙを表す葉ノードｖに属する条件付き確率を、Ｐｒ（ｙ∈ｖ｜ｙ∈Ｐａ（ｖ），ｘ）と表記し、下記（４）式に従って計算する。なお、ＡとＢとは媒介変数であり、内部ノード多クラス分類器であるサポートベクターマシンと、既知データの事例及びクラスラベルのペアの各々とに基づいて最尤法によって計算する（非特許文献４）。
【００３９】
【数４】
2016024503.tif 000006
【００４０】
そして、各葉ノードｃｉに対し、当該葉ノードの全ての先祖ノードを下記（５）式のように定義し、
【００４１】
【数５】
2016024503.tif 000007
【００４２】
分類対象である事例が当該葉ノードｃｉに属する確率をＰｒ（π（ｃｉ）｜ｘ）と表記し、下記（６）式に従って、計算する。
【００４３】
【数６】
2016024503.tif 000008
【００４４】
ここで、ｖ１は根ノード、ｖｋは根ノードから葉ノードまでの全ての内部ノード又は葉ノードを表し、ｖＫは葉ノードを表し、ｖｋ＝｛ｃｉ｝であり、ｖｋ−１＝Ｐａ（ｖｋ）である。また、π（ｃｉ）は、葉ノードから根ノードまでのパスを表す。
【００４５】
確率結合部６２は、各葉ノードが表すクラスの各々について、確率計算部６０において階層型分類器毎に計算された、分類対象となる事例が当該クラスに属する確率の総和を計算し、結合する。具体的には、クラスｃｉに対し、ｌ番目の階層型分類器のクラス階層構造から計算された、分類対象となる事例が当該クラスに属する確率をＰｒ（π（ｌ）（ｃｉ）｜ｘ）と表記すると、分類対象となる事例が当該クラスに属する最終確率Ｐｒ（π（ｃｉ）｜ｘ）は、下記（７）式に従って計算される。
【００４６】
【数７】
2016024503.tif 000009
【００４７】
出力部９０は、確率結合部６２において結合された分類対象となる事例が各クラスに属する確率のうち、最も高い確率であるクラスを、分類対象となる事例が属するクラスとして出力する。
【００４８】
＜本発明の第１の実施の形態に係るクラス分類装置の作用＞
次に、本発明の第１の実施の形態に係るクラス分類装置１００の作用について説明する。入力部１０において既知データを受け付けると、クラス分類装置１００は、図３に示す階層型分類器訓練処理ルーチンを実行する。また、階層型分類器訓練処理ルーチン終了後に、入力部１０において分類対象である事例を受け付けると、図４に示すクラス分類装置は、クラス分類処理ルーチンを実行する。
【００４９】
まず、ステップＳ１００では、入力部１０において受け付けた既知データをＮ回ランダムに２つに分割し、Ｎ個の事例セットを作成し、事例セット記憶部２４に記憶する。
【００５０】
次に、ステップＳ１０２では、ステップＳ１００において取得した対象となる事例セットについて、当該事例セットに含まれるサブ訓練事例集合に基づいて、サポートベクターマシンを多クラス分類器として訓練する。
【００５１】
次に、ステップＳ１０４では、対象となる事例セットに含まれる検証事例集合と、ステップＳ１０２において取得した当該事例セットに対応する多クラス分類器とに基づいて、検証事例集合に含まれる検証事例の各々について、多クラス分類器による分類を行う。
【００５２】
次に、ステップＳ１０６では、ステップＳ１０４において取得した対象となる事例セットに含まれる検証事例の各々の分類結果に基づいて、上記（１）式及び（２）式に従って、混同行列を作成する。
【００５３】
次に、ステップＳ１０８では、ステップＳ１０６において取得した、当該対象となる事例セットの混同行列の各要素Ｍ（ｉ，ｊ）に基づいて、上記（３）式に従って、クラス間距離Ｄ（ｉ，ｊ）を計算し、距離行列Ｄを作成する。
【００５４】
次に、ステップＳ１１０では、ステップＳ１０８において取得した距離行列Ｄに基づいて、最短距離法に基づく凝集型階層的クラスタリングを駆使し、二分木（Binary Tree）構造を持つクラス階層構造を作成する。
【００５５】
次に、ステップＳ１１２では、ステップＳ１１０において取得したクラス階層構造と、既知データとに基づいて、当該クラス階層構造の各内部ノードに対する内部ノード多クラス分類器訓練することによって、当該クラス階層構造と同じ階層構造を持つ階層型分類器を取得する。
【００５６】
次に、ステップＳ１１４では、ステップＳ１００において取得した全ての事例セットについて、ステップＳ１０２〜ステップＳ１１２の処理を終了したか否かを判定する。全ての事例セットについてステップＳ１０２〜ステップＳ１１２までの処理を終了している場合には、ステップＳ１１６へ移行し、全ての事例セットについてステップＳ１０２〜ステップＳ１１２の処理を終了していない場合には、処理対象となる事例セットを変更し、ステップＳ１０２〜ステップＳ１１４の処理を繰り返す。
【００５７】
ステップＳ１１６では、ステップＳ１１２において取得した事例セット各々の階層型分類器を、階層型分類器記憶部５０に記憶し、階層型分類器訓練処理ルーチンを終了する。
【００５８】
次に、図４のクラス分類処理ルーチンについて詳細に説明する。
【００５９】
まず、ステップＳ２００では、階層型分類器記憶部５０に記憶されている事例セット毎の階層型分類器を読み込む。
【００６０】
次に、ステップＳ２０２では、入力部１０において受け付けた分類対象となる事例と、ステップＳ２００において取得した階層型分類器の各々とに基づいて、階層型分類器の各々に対し、当該階層型分類器を用いて、分類対象となる事例が、各葉ノードが表すクラスの各々に属する確率を上記（４）式〜（６）式に従って計算する。
【００６１】
次に、ステップＳ２０４では、各葉ノードが表すクラスの各々について、ステップＳ２０２において取得した階層型分類器毎に計算された、入力部１０において受け付けた分類対象となる事例が、当該葉ノードが表すクラスに属する確率の総和を計算し、結合する。
【００６２】
次に、ステップＳ２０６では、ステップＳ２０４において取得した、各クラスに属する確率のうち、最も高い確率であるクラスを、分類対象となる事例の属するクラスとして決定する。
【００６３】
次に、ステップＳ２０８では、ステップＳ２０６において取得したクラスを分類結果として出力部９０から出力して、クラス分類処理ルーチンを終了する。
【００６４】
以上説明したように、本発明の第１の実施の形態に係るクラス分類装置によれば、既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、事例セットを予め定められた数だけ作成し、作成された事例セットの各々について、サポートベクターマシンである多クラス分類器を訓練し、訓練された多クラス分類器に基づいて、混同行列を作成し、混同行列に基づいて、複数のクラスを、階層的に分類し、クラス階層構造を作成し、内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、入力された分類対象となる事例に基づいて、事例セットの各々について訓練された階層型分類器を用いて、分類対象となる事例が、葉ノードが表すクラスの各々に属する確率を計算し、各葉ノードが表すクラスの各々について、当該葉ノードが表すクラスに属する確率を結合し、結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力することにより、精度良く事例が属するクラスを分類することができる。
【００６５】
また、未知データを分類する際に、上位レベルの分類器の分類結果を基に下位レベルのクラス集合の選択肢を制限するのではなく、未知データを全ての内部ノードの分類器で分類し、分類確率の伝搬を基に多クラス分類を実現するため、従来技術と比べて、誤差の伝搬に対してより頑健な階層的分類が可能となる。
【００６６】
また、ランダム分割によって多数のクラス階層を構築し、最後に分類確率を結合することによって、従来技術と比べて、過剰適合の影響にもより頑健な階層的分類が可能となる。
【００６７】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００６８】
例えば、第１の実施の形態においては、多クラス分類器訓練部３２においてサポートベクターマシンを分類器として訓練する場合について説明したが、これに限定されるものではなく、Ｋ近傍法（K-Nearest Neighbors Algorithm）、単純ベイズ分類器（Naive Bayes Classifier）、ニューラルネットワーク等を駆使してもよい。
【００６９】
また、第１の実施の形態においては、クラス階層構造を二分木構造として作成する場合について説明したが、これに限定されるものではない。例えば、四分木や八分木等の多分木構造としてクラス階層構造を作成してもよい。
【００７０】
また、第１の実施の形態においては、内部ノードの分類器、及び階層型分類器をサポートベクターマシンとする場合について説明したが、これに限定されるものではない。例えば、単純ベイズ分類器（Naive Bayes Classifier）、ニューラルネットワーク等を駆使してもよい。
【００７１】
次に、第２の実施の形態に係るクラス分類装置について説明する。
【００７２】
第２の実施の形態においては、クラス分類装置１００の、多クラス分類部において混同行列を作成する方法が第１の実施の形態と異なる。なお、第１の実施の形態に係るクラス分類装置１００と同様の構成及び作用については、同一の符号を付して説明を省略する。
【００７３】
＜本発明の第２の実施の形態に係るクラス分類装置の構成＞
次に、本発明の第２の実施の形態に係るクラス分類装置の構成について説明する。図５に示すように、本発明の第２の実施の形態に係るクラス分類装置２００は、ＣＰＵと、ＲＡＭと、後述する階層型分類器訓練処理ルーチン及びクラス分類処理ルーチンを実行するためのプログラムや各種データを記憶したＲＯＭと、を含むコンピュータで構成することが出来る。このクラス分類装置２００は、機能的には図５に示すように入力部１０と、演算部２２０と、を備えている。
【００７４】
演算部２２０は、事例分割部２２と、事例セット記憶部２４と、クラス階層構築部２３０と、階層型分類器記憶部５０と、確率計算部６０と、確率結合部６２と、出力部９０とを備えている。
【００７５】
クラス階層構築部２３０は、事例セット記憶部２４に記憶されているＮ個の事例セットの各々に基づいて、事例セット毎にクラス階層構造を作成する。また、クラス階層構築部２３０は、多クラス分類器訓練部３２と、多クラス分類部２３４と、クラスタリング部３６と、を備えている。
【００７６】
多クラス分類部２３４は、事例セット記憶部２４に記憶されているＮ個の事例セット毎に、多クラス分類器訓練部３２において訓練された当該事例セットの多クラス分類器に基づいて、当該事例セットの検証事例集合に含まれる事例の各々を分類した結果と、当該検証事例集合に含まれる事例の各々のクラスラベルの各々とに基づいて混同行列を作成する。具体的には、混同行列Ｍは、ｍ×ｍのサイズを持ち、当該混同行列Ｍの各要素Ｍ（ｉ，ｊ）は、ｉ番目のクラスｃｉに属する事例がｊ番目のクラスｃｊに分類されることを表し、下記（８）式によって定義される。
【００７７】
【数８】
2016024503.tif 000010
【００７８】
ここで、ｃｉはｉ番目のクラスであり、ｙは事例ｘに付与されているクラスラベルであり、ｙΘは事例ｘを多クラス分類器で分類した際に分類されるクラスであり、ｍはクラスの総数である。また、Ｐｒは確率であり、例えば、Ｐｒ（ｙΘ＝ｃｊ｜ｙ＝ｃｉ，ｘ）は、ｃｉに属する事例に占める、ｃｊに分類された事例の割合を表す。
【００７９】
なお、第２の実施の形態に係るクラス分類装置の他の構成及び作用については、第１の実施の形態と同様であるため、説明を省略する。
【００８０】
以上説明したように、本発明の第２の実施の形態に係るクラス分類装置によれば、既知データをサブ訓練事例集合と検証事例集合とに分割する処理を予め定められた回数行い、事例セットを予め定められた数だけ作成し、作成された事例セットの各々について、多クラス分類器を訓練し、訓練された多クラス分類器に基づいて、混同行列を作成し、混同行列に基づいて、複数のクラスを、階層的に分類し、クラス階層構造を作成し、内部ノード多クラス分類器を訓練し、訓練され内部ノードの各々についての内部ノード多クラス分類器からなる階層型分類器を取得し、入力された分類対象となる事例に基づいて、事例セットの各々について訓練された階層型分類器を用いて、分類対象となる事例が、葉ノードが表すクラスの各々に属する確率を計算し、各葉ノードが表すクラスの各々について、葉ノードが表すクラスに属する確率を結合し、結合されたクラスに属する確率が最も高いクラスを、分類対象となる事例が属するクラスとして出力することにより、精度良く事例が属するクラスを分類することができる。
【００８１】
なお、本発明は、上述した実施形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【００８２】
例えば、第２の実施の形態においては、多クラス分類器訓練部３２においてサポートベクターマシンを多クラス分類器として訓練する場合について説明したが、これに限定されるものではなく、Ｋ近傍法（K-Nearest Neighbors Algorithm）、単純ベイズ分類器、ニューラルネットワーク等を駆使してもよい。
【００８３】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能であるし、ネットワークを介して提供することも可能である。
【符号の説明】
【００８４】
１０   入力部
２０   演算部
２２   事例分割部
２４   事例セット記憶部
３０   クラス階層構築部
３２   多クラス分類器訓練部
３４   多クラス分類部
３６   クラスタリング部
４０   階層型分類器訓練部
５０   階層型分類器記憶部
６０   確率計算部
６２   確率結合部
９０   出力部
１００ クラス分類装置
２００ クラス分類装置
２２０ 演算部
２３０ クラス階層構築部
２３４ 多クラス分類部
【図１】
2016024503.tif 000011
【図３】
2016024503.tif 000012
【図４】
2016024503.tif 000013
【図５】
2016024503.tif 000014
【図２】
2016024503.tif 000015