(57)【要約】【課題】低コストかつ高精度に異なる複数のタスク・ドメインを同時に学習することができるようにする。【解決手段】学習部１６０が、学習データに基づいて、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、ターゲットドメイン又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、ターゲットエンコーダ及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及びソースエンコーダ及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、ターゲットデコーダの出力が教師データと一致し、かつ、ソースデコーダの出力が教師データと一致するように学習する。【選択図】図１
2019207491.tif 000002
【特許請求の範囲】
【請求項１】
ターゲットドメインのデータに対するタスク、及びソースドメインのデータに対するタスクが異なるか、または前記ターゲットドメイン及び前記ソースドメインが異なる、前記ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデル、及び前記ソースドメインのデータに対するタスクの実行結果を出力するためのモデルを学習するモデル学習装置であって、
前記ターゲットドメインのデータと前記ターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及び前記ソースドメインのデータと前記ソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付ける入力部と、
前記学習データに基づいて、
前記ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、
前記ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、
前記ターゲットドメインのデータ又は前記ソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、
前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及び
前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、
前記ターゲットデコーダの出力が、前記教師データと一致し、かつ、前記ソースデコーダの出力が、前記教師データと一致するように、前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習する学習部と、
を含むモデル学習装置。
【請求項２】
前記学習部は、
前記ターゲットデコーダの出力と、前記教師データとが一致することを表す損失関数、
前記ソースデコーダの出力と、前記教師データとが一致することを表す損失関数、
前記ターゲットドメインのデータを入力としたときの前記コモンエンコーダの出力と、前記ソースドメインのデータを入力としたときの前記コモンエンコーダの出力とが同一の表現となることを表す損失関数、
前記ターゲットデコーダの出力と、前記ターゲットドメインのデータを入力としたときの前記コモンエンコーダの出力とが異なる表現となることを表す損失関数、及び
前記ソースデコーダの出力と、前記ソースドメインのデータを入力としたときの前記コモンエンコーダの出力とが異なる表現となることを表す損失関数を用いて、
前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習する請求項１記載のモデル学習装置。
【請求項３】
前記ターゲットデコーダは、
前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を足し合わせたもの、または、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を結合したものを入力とし、
前記ソースデコーダは、
前記ソースエンコーダの出力及び前記コモンエンコーダの出力を足し合わせたもの、または、前記ソースエンコーダの出力及び前記コモンエンコーダの出力を結合したものを入力とする
請求項１又は２記載のモデル学習装置。
【請求項４】
前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダの各々は、多層構造ニューラルネットワークである請求項１乃至３の何れか１項記載のモデル学習装置。
【請求項５】
前記ターゲットデコーダは、
前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力とし、
更に、前記ターゲットエンコーダの中間層で得られる中間表現及び前記コモンエンコーダの中間層で得られる中間表現を用いて、前記ターゲットドメインのデータに対するタスクの実行結果を出力し、
前記ソースデコーダは、
前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力とし、
更に、前記ソースエンコーダの中間層で得られる中間表現及び前記コモンエンコーダの中間層で得られる中間表現を用いて、前記ソースドメインのデータに対するタスクの実行結果を出力する
請求項４記載のモデル学習装置。
【請求項６】
ターゲットドメインのデータに対するタスク、及びソースドメインのデータに対するタスクが異なるか、または前記ターゲットドメイン及び前記ソースドメインが異なる、前記ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデル、及び前記ソースドメインのデータに対するタスクの実行結果を出力するためのモデルを学習するモデル学習方法であって、
入力部が、前記ターゲットドメインのデータと前記ターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及び前記ソースドメインのデータと前記ソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付け、
学習部が、前記学習データに基づいて、
前記ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、
前記ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、
前記ターゲットドメインのデータ又は前記ソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、
前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及び
前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、
前記ターゲットデコーダの出力が、前記教師データと一致し、かつ、前記ソースデコーダの出力が、前記教師データと一致するように、前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習する
を含むモデル学習方法。
【請求項７】
コンピュータを、請求項１乃至５の何れか１項記載のモデル学習装置の各部として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はモデル学習装置、モデル学習方法、及びプログラムに係り、特に複数のドメインやタスクを同時に学習するためのモデル学習装置、モデル学習方法、及びプログラムに関する。
【背景技術】
【０００２】
機械学習技術の高度化により、従来人間が行っていた社会の様々な行動を機械に代替させることで効率化されつつある。
【０００３】
例えば、車の自動運転においては機械学習に基づく画像認識が重要な役割を果たしている。画像に写る標識の位置の認識（Ｄｅｔｅｃｔｉｏｎ）、標識中の文字認識（Ｃｌａｓｓｉｆｉｃａｔｉｏｎ）、走行ラインを決定するために白線、車や人など周辺物体のピクセルレベルでの認識（Ｓｅｇｍｅｎｔａｔｉｏｎ）など、画像認識一つとっても必要とされる出力はさまざまである。このような要求を満たすために、従来からタスクごとに適した機械学習手法が発明されている。
【０００４】
通常機械学習においてはタスクごとに膨大な学習データが必要であるため、学習データの作成、学習時間、学習結果の検証に非常に計算コスト及び人的コストを要する。すなわち上記のように多数のタスクの複合によって実現されるプロダクトにおいて、各タスクを個別に学習する場合には、これらコストはタスク数によって大きく増える。
【０００５】
このような問題を解決するために、例えば非特許文献１に開示されている技術では、ＤｅｔｅｃｔｉｏｎとＳｅｇｍｅｎｔａｔｉｏｎとの両タスクに共通して重要な要素であるマルチスケールを組み込んだ特徴表現によって、同一のモデルによる異なるタスクの学習を実現している。
【０００６】
また、学習データの作成コストが大きい理由の一つがドメインによる違いである。上記自動運転を例にとれば車を認識する際に、車載カメラ（ドメイン）からの車の「見え」とカタログなどの記載画像（ドメイン）の車の「見え」は大きく異なるため、カタログで学習した車認識器を車載カメラに適用すると精度が落ちる。
【０００７】
そのため、あるドメインで使用するモデルは、同じドメインのデータで学習する必要がある。しかしながら、先の例において、後者の画像は比較的入手が容易であるが、前者の画像は入手も困難であり車種や車の位置などのアノテーションコストが大きい。
【０００８】
このような問題を解決するために、例えば非特許文献２に開示されている技術では、２つのドメインに共通する特徴表現および各ドメインに固有な特徴表現を学習し、共通する特徴表現のみを使うことで、異なる２つのドメインに共通して使用可能な識別器の学習を実現している。
【先行技術文献】
【非特許文献】
【０００９】
【非特許文献１】Hariharan, B., Arbelaez, P., Girshick, R., & Malik, J. "Hypercolumns for object segmentation and fine-grained localization", In Proceedings of the IEEE conference on computer vision and pattern recognition, 2015, pp. 447-456.
【非特許文献２】Bousmalis, K., Trigeorgis, G., Silberman, N., Krishnan, D., & Erhan, D., "Domain separation networks", In Advances in Neural Information Processing Systems, 2016, pp. 343-351.
【発明の概要】
【発明が解決しようとする課題】
【００１０】
しかし、非特許文献１、２に開示されている技術では、異なるタスクやドメインに共通する特徴表現を用いることで、タスクやドメインに依存しないモデルの学習を可能にしていた。しかしながら、いずれの技術も各タスクや各ドメイン固有の特徴表現を考慮していないため、各タスクに特化したモデルに比べると十分な精度を得られないという問題があった。
【００１１】
非特許文献１に開示されている技術では、Ｄｅｔｅｃｔｉｏｎ、Ｓｅｇｍｅｎｔａｔｉｏｎ双方に共通して有効なスケール情報のみを抽出して特徴表現を定義しており、Ｄｅｔｅｃｔｉｏｎのみに有効なスケール情報、Ｓｅｇｍｅｎｔａｔｉｏｎのみに有効なスケール情報といった、個々のタスクに有効な情報を用いていない。
【００１２】
また、非特許文献２に開示されている技術では、ドメイン共通な特徴表現を得る際に、一種の制約としてドメイン固有の特徴表現を用いているが、モデルを学習する際の入力にはドメイン固有の特徴表現を用いていない。また、スケール情報を固定しているため、多様なスケール情報が有効なＤｅｔｅｃｔｉｏｎやＳｅｇｍｅｎｔａｔｉｏｎに適用すると十分な精度が得られず、有効なタスクが限定される。
【００１３】
したがって、異なるタスクや異なるドメインを同時に学習する汎用的な学習方法は確立されていなかった。
【００１４】
本発明は上記の点に鑑みてなされたものであり、低コストかつ高精度に異なる複数のタスク・ドメインを同時に学習することができるモデル学習装置、モデル学習方法、およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【００１５】
本発明に係るモデル学習装置は、ターゲットドメインのデータに対するタスク、及びソースドメインのデータに対するタスクが異なるか、または前記ターゲットドメイン及び前記ソースドメインが異なる、前記ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデル、及び前記ソースドメインのデータに対するタスクの実行結果を出力するためのモデルを学習するモデル学習装置であって、前記ターゲットドメインのデータと前記ターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及び前記ソースドメインのデータと前記ソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付ける入力部と、前記学習データに基づいて、前記ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、前記ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、前記ターゲットドメインのデータ又は前記ソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及び前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、前記ターゲットデコーダの出力が、前記教師データと一致し、かつ、前記ソースデコーダの出力が、前記教師データと一致するように、前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習する学習部と、を備えて構成される。
【００１６】
また、本発明に係るモデル学習方法は、ターゲットドメインのデータに対するタスク、及びソースドメインのデータに対するタスクが異なるか、または前記ターゲットドメイン及び前記ソースドメインが異なる、前記ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデル、及び前記ソースドメインのデータに対するタスクの実行結果を出力するためのモデルを学習するモデル学習方法であって、入力部が、前記ターゲットドメインのデータと前記ターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及び前記ソースドメインのデータと前記ソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付け、学習部が、前記学習データに基づいて、前記ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、前記ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、前記ターゲットドメインのデータ又は前記ソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及び前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力として、前記ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、前記ターゲットデコーダの出力が、前記教師データと一致し、かつ、前記ソースデコーダの出力が、前記教師データと一致するように、前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習する。
【００１７】
本発明に係るモデル学習装置及びモデル学習方法によれば、入力部が、ターゲットドメインのデータと当該ターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及びソースドメインのデータと当該ソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付ける。
【００１８】
そして、学習部が、学習データに基づいて、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、ターゲットドメインのデータ又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、ターゲットエンコーダの出力及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及びソースエンコーダの出力及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、ターゲットデコーダの出力が、教師データと一致し、かつ、ソースデコーダの出力が、教師データと一致するように、ターゲットエンコーダ、ソースエンコーダ、コモンエンコーダ、ターゲットデコーダ、及びソースデコーダを学習する。
【００１９】
このように、学習データに基づいて、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、ターゲットドメインのデータ又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、ターゲットエンコーダの出力及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及びソースエンコーダの出力及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、ターゲットデコーダの出力が、教師データと一致し、かつ、ソースデコーダの出力が、教師データと一致するように学習することにより、低コストかつ高精度に異なる複数のタスク・ドメインを同時に学習することができる。
【００２０】
また、本発明に係るモデル学習装置の前記学習部は、前記ターゲットデコーダの出力と、前記教師データとが一致することを表す損失関数、前記ソースデコーダの出力と、前記教師データとが一致することを表す損失関数、前記ターゲットドメインのデータを入力としたときの前記コモンエンコーダの出力と、前記ソースドメインのデータを入力としたときの前記コモンエンコーダの出力とが同一の表現となることを表す損失関数、前記ターゲットデコーダの出力と、前記ターゲットドメインのデータを入力としたときの前記コモンエンコーダの出力とが異なる表現となることを表す損失関数、及び前記ソースデコーダの出力と、前記ソースドメインのデータを入力としたときの前記コモンエンコーダの出力とが異なる表現となることを表す損失関数を用いて、前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダを学習することができる。
【００２１】
また、本発明に係るモデル学習装置の前記ターゲットデコーダは、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を足し合わせたもの、または、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を結合したものを入力とし、前記ソースデコーダは、前記ソースエンコーダの出力及び前記コモンエンコーダの出力を足し合わせたもの、または、前記ソースエンコーダの出力及び前記コモンエンコーダの出力を結合したものを入力とすることができる。
【００２２】
また、本発明に係るモデル学習装置の前記ターゲットエンコーダ、前記ソースエンコーダ、前記コモンエンコーダ、前記ターゲットデコーダ、及び前記ソースデコーダの各々は、多層構造ニューラルネットワークである構成とすることができる。
【００２３】
また、本発明に係るモデル学習装置の前記ターゲットデコーダは、前記ターゲットエンコーダの出力及び前記コモンエンコーダの出力を入力とし、更に、前記ターゲットエンコーダの中間層で得られる中間表現及び前記コモンエンコーダの中間層で得られる中間表現を用いて、前記ターゲットドメインのデータに対するタスクの実行結果を出力し、前記ソースデコーダは、前記ソースエンコーダの出力及び前記コモンエンコーダの出力を入力とし、更に、前記ソースエンコーダの中間層で得られる中間表現及び前記コモンエンコーダの中間層で得られる中間表現を用いて、前記ソースドメインのデータに対するタスクの実行結果を出力することができる。
【００２４】
本発明に係るプログラムは、上記のモデル学習装置の各部として機能させるためのプログラムである。
【発明の効果】
【００２５】
本発明のモデル学習装置、モデル学習方法、およびプログラムによれば、低コストかつ高精度に異なる複数のタスク・ドメインを同時に学習することができる。
【図面の簡単な説明】
【００２６】
【図１】本発明の実施の形態に係るモデル学習装置の構成を示すブロック図である。
【図２】本発明の実施の形態に係るモデル学習装置に係るモデルの一例を示す図である。
【図３】本発明の実施の形態に係るモデル学習装置のモデル学習処理ルーチンを示すフローチャートである。
【図４】本発明の実施の形態に係るモデル学習装置の計算処理ルーチンを示すフローチャートである。
【図５】本発明の実施の形態に係るタスク処理装置の構成を示すブロック図である。
【図６】本発明の実施の形態に係るタスク処理装置のタスク処理ルーチンを示すフローチャートである。
【発明を実施するための形態】
【００２７】
以下、本発明の実施の形態について図面を用いて説明する。
【００２８】
＜本発明の実施の形態に係るモデル学習装置の構成＞
図１を参照して、本発明の実施の形態に係るモデル学習装置１０の構成について説明する。図１は、本発明の実施の形態に係るモデル学習装置１０の構成を示すブロック図である。
【００２９】
モデル学習装置１０は、ターゲットドメインのデータに対するタスク、及びソースドメインのデータに対するタスクが異なるか、またはターゲットドメイン及びソースドメインが異なる、ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデル、及びソースドメインのデータに対するタスクの実行結果を出力するためのモデルを学習する。
【００３０】
なお、本実施形態では、データの種類が画像データ
2019207491.tif 000003
である場合を例に説明する。
【００３１】
図２は、当該モデルの例を示すイメージ図である。図２に示すように、ターゲットドメインのデータに対するタスクの実行結果を出力するためのモデルは、コモンエンコーダ（Ｃｏｍｍｏｎ  Ｅｎｃｏｄｅｒ）、及びターゲットエンコーダ（Ｔａｒｇｅｔ  Ｅｎｃｏｄｅｒ）の２つのエンコーダと、ターゲットデコーダ（Ｔａｒｇｅｔ  Ｄｅｃｏｄｅｒ）の１つのデコーダとで表され、ソースドメインのデータに対するタスクの実行結果を出力するためのモデルは、コモンエンコーダ、及びソースエンコーダ（Ｓｏｕｒｃｅ  Ｅｎｃｏｄｅｒ）の２つのエンコーダと、ソースデコーダ（Ｓｏｕｒｃｅ  Ｄｅｃｏｄｅｒ）の１つのデコーダとで表される。各エンコーダ及び各デコーダは、多層構造のニューラルネットワークを用いて構成されている。
【００３２】
各エンコーダ及び各デコーダは、同様のネットワーク構成を持つ。
【００３３】
なお、各デコーダの最終層に関しては、タスクに応じてレイヤーを変更しても良い。例えば、ターゲットデコーダは識別問題を扱うためにクラス数分の確率値を出力するレイヤーを設定し、ソースデコーダはセグメンテーション問題を扱うために、縦軸の座標×横軸の座標×クラス数のピクセル毎に各クラスの確率値を示すテンソルを出力するレイヤーを設定することができる。
【００３４】
モデル学習装置１０は、各エンコーダ及び各デコーダのパラメータを学習する。
【００３５】
モデル学習装置１０は、ＣＰＵと、ＲＡＭと、後述するモデル学習処理ルーチン及び計算処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
【００３６】
図１に示すように、本実施形態に係るモデル学習装置１０は、入力部１００と、共通符号化部１１０と、ターゲット符号化部１２０と、ターゲット復号部１３０と、ソース符号化部１４０と、ソース復号部１５０と、学習部１６０とを備えて構成される。
【００３７】
入力部１００は、ターゲットドメインのデータとターゲットドメインのデータに対するタスクの実行結果である教師データとの組、及びソースドメインのデータとソースドメインのデータに対するタスクの実行結果である教師データの組である学習データの入力を受け付ける。
【００３８】
具体的には、入力部１００は、ターゲットドメインの画像データ
2019207491.tif 000004
と、画像データ
2019207491.tif 000005
に対するタスクの実行結果である教師データ
2019207491.tif 000006
との組、及びソースドメインの画像データ
2019207491.tif 000007
と、画像データ
2019207491.tif 000008
に対するタスクの実行結果である教師データ
2019207491.tif 000009
の組である学習データの入力を受け付ける。
【００３９】
そして、入力部１００は、受け付けた学習データに含まれる画像データ
2019207491.tif 000010
と、画像データ
2019207491.tif 000011
とを、共通符号化部１１０に、画像データ
2019207491.tif 000012
をターゲット符号化部１２０に、画像データ
2019207491.tif 000013
をソース符号化部１４０に、教師データ
2019207491.tif 000014
と、教師データ
2019207491.tif 000015
とを、学習部１６０にそれぞれ渡す。
【００４０】
共通符号化部１１０は、ターゲットドメインのデータ又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダを用いて、符号化処理を実行する。
【００４１】
具体的には、コモンエンコーダは、画像データ
2019207491.tif 000016
を入力とし、入力された画像データ
2019207491.tif 000017
に対し複数の層によって畳み込み（ｃｏｎｖ）及びプーリング（Ｐｏｏｌｉｎｇ）を行い、圧縮された共通特徴表現
2019207491.tif 000018
を出力する。
【００４２】
また、コモンエンコーダの各中間層の出力を中間表現ＣＥ−ｎ（ｎは１以上レイヤー数Ｎ以下の数）として表す。本実施形態では、図２のように中間層が２つあるので、各中間層の出力を、中間表現ＣＥ−１、ＣＥ−２と表す。
【００４３】
コモンエンコーダは、入力データのドメインによらず同一のパラメータを持つネットワークを用いる。また、共通特徴表現
2019207491.tif 000019
を得るためのネットワークは任意の構成を採用することができ、例えばＶＧＧ等を用いることができる。
【００４４】
ここで、コモンエンコーダは、入力データのドメインによらず同一のパラメータを持つネットワークを用いるが、便宜上画像データ
2019207491.tif 000020
が入力された時の出力を共通特徴表現
2019207491.tif 000021
と、画像データ
2019207491.tif 000022
が入力された時の出力を共通特徴表現
2019207491.tif 000023
とする。
【００４５】
そして、共通符号化部１１０は、コモンエンコーダを用いた符号化処理により得られた共通特徴表現
2019207491.tif 000024
と中間表現ＣＥ−１及びＣＥ−２とを、ターゲット復号部１３０に、共通特徴表現
2019207491.tif 000025
と中間表現ＣＥ−１及びＣＥ−２とを、ソース復号部１５０に、共通特徴表現
2019207491.tif 000026
と
2019207491.tif 000027
とを、学習部１６０にそれぞれ渡す。
【００４６】
ターゲット符号化部１２０は、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダを用いて、符号化処理を実行する。
【００４７】
具体的には、ターゲットエンコーダは、画像データ
2019207491.tif 000028
を入力とし、入力された画像データ
2019207491.tif 000029
に対し複数の層によって畳み込み及びプーリングを行い、圧縮されたターゲット特徴表現
2019207491.tif 000030
を出力する。
【００４８】
また、ターゲットエンコーダの各中間層の出力を中間表現ＴＥ−ｎとして表す。本実施形態では、図２のように中間層が２つあるので、各中間層の出力を、中間表現ＴＥ−１、ＴＥ−２と表す。
【００４９】
そして、ターゲット符号化部１２０は、ターゲットエンコーダを用いた符号化処理により得られたターゲット特徴表現
2019207491.tif 000031
と、ＴＥ−１及びＴＥ−２とを、ターゲット復号部１３０に、ターゲット特徴表現
2019207491.tif 000032
を学習部１６０にそれぞれ渡す。
【００５０】
ターゲット復号部１３０は、ターゲットエンコーダの出力及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダを用いて、復号処理を実行する。
【００５１】
具体的には、まず、ターゲット復号部１３０は、ターゲットエンコーダの出力であるターゲット特徴表現
2019207491.tif 000033
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000034
を足し合わせた
2019207491.tif 000035
をターゲットデコーダの入力とする。なお、ターゲット特徴表現
2019207491.tif 000036
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000037
を足し合わせる際に、両者に重み付けをしてもよく、また、足し合わせるのではなく両者を結合したものを
2019207491.tif 000038
としてもよい。
【００５２】
このように、ターゲット特徴表現
2019207491.tif 000039
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000040
を同時にターゲットデコーダに入力することにより、非特許文献１及び２と異なり、ドメイン・タスク固有の表現及び共通の表現双方を考慮することで、各ドメイン・タスクに特化したモデルより学習に使える情報が増え、低コストで、精度の高いモデルの学習を実現することができる。
【００５３】
次に、ターゲットデコーダは、入力された
2019207491.tif 000041
に対して、逆畳み込み（ｄｅｃｏｎｖｏｌｕｔｉｏｎ／ｕｐｃｏｎｖｏｌｕｔｉｏｎ）を行う。逆畳み込みの出力データＴＤ−４のサイズは、ターゲットデコーダの２つ目の中間層の出力である中間表現ＴＥ−２及びコモンエンコーダの２つ目の中間層の出力である中間表現ＣＥ−２と同じである。
【００５４】
そして、ターゲットデコーダは、得られたＴＤ−４に、中間表現ＴＥ−２及びＣＥ−２を結合した特徴表現に対して、畳み込みを行い、ＴＤ−３を求める。
【００５５】
次に、ターゲットデコーダは、得られたＴＤ−３に対して更に逆畳み込みを行い、ＴＤ−２を求める。ＴＤ−２のサイズは、中間表現ＴＥ−１及びＣＥ−１と同じである。
【００５６】
そして、ターゲットデコーダは、得られたＴＤ−２に中間表現ＴＥ−１及びＣＥ−１を結合した特徴表現に対して、畳み込みを行い、ＴＤ−１を求める。このＴＤ−１に対して畳み込みを行い、ターゲットデコーダの出力
2019207491.tif 000042
とする。ここで、ターゲットデコーダの出力
2019207491.tif 000043
は、教師データ
2019207491.tif 000044
と同形式のデータであり、ターゲットドメインのデータに対するタスクの実行結果に関する当該モデルによる推定結果となる。
【００５７】
そして、ターゲット復号部１３０は、ターゲットデコーダにより得られた
2019207491.tif 000045
を、学習部１６０に渡す。
【００５８】
ソース符号化部１４０は、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダを用いて、符号化処理を実行する。
【００５９】
具体的には、ソースエンコーダは、画像データ
2019207491.tif 000046
を入力とし、入力された画像データ
2019207491.tif 000047
に対し複数の層によって畳み込み及びプーリングを行い、圧縮されたソース特徴表現
2019207491.tif 000048
を出力する。
【００６０】
また、ソースエンコーダの各中間層の出力を中間表現ＳＥ−ｎとして表す。本実施形態では、図２のように中間層が２つあるので、各中間層の出力を、中間表現ＳＥ−１、ＳＥ−２と表す。
【００６１】
そして、ソース符号化部１４０は、ソースエンコーダの処理により得られたソース特徴表現
2019207491.tif 000049
と、ＳＥ−１及びＳＥ−２とを、ソース復号部１５０に、ソース特徴表現
2019207491.tif 000050
を学習部１６０にそれぞれ渡す。
【００６２】
ソース復号部１５０は、ソースエンコーダの出力及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、復号処理を実行する。
【００６３】
具体的には、まず、ソース復号部１５０は、ターゲット復号部１３０と同様に、ソースエンコーダの出力であるソース特徴表現
2019207491.tif 000051
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000052
を足し合わせた
2019207491.tif 000053
をソースデコーダの入力とする。なお、ソース特徴表現
2019207491.tif 000054
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000055
を足し合わせる際に、両者に重み付けをしてもよく、また、足し合わせるのではなく両者を結合したものを
2019207491.tif 000056
としてもよい。
【００６４】
次に、ソースデコーダは、入力された
2019207491.tif 000057
に対して、逆畳み込みを行う。逆畳み込みの出力データＳＤ−４のサイズは、ソースデコーダの２つ目の中間層の出力である中間表現ＳＥ−２及びコモンエンコーダの２つ目の中間層の出力である中間表現ＣＥ−２と同じである。
【００６５】
そして、ソースデコーダは、得られたＳＤ−４に、中間表現ＳＥ−２及びＣＥ−２を結合した特徴表現に対して、畳み込みを行い、ＳＤ−３を求める。
【００６６】
次に、ソースデコーダは、得られたＳＤ−３に対して更に逆畳み込みを行い、ＳＤ−２を求める。ＳＤ−２のサイズは、中間表現ＳＥ−１及びＣＥ−１と同じである。
【００６７】
そして、ソースデコーダは、得られたＳＤ−２に中間表現ＳＥ−１及びＣＥ−１を結合した特徴表現に対して、畳み込みを行い、ＳＤ−１を求める。このＳＤ−１に対して畳み込みを行い、ソースデコーダの出力
2019207491.tif 000058
とする。ここで、ソースデコーダの出力
2019207491.tif 000059
は、教師データ
2019207491.tif 000060
と同形式のデータであり、ソースドメインのデータに対するタスクの実行結果に関する当該モデルによる推定結果となる。
【００６８】
そして、ソース復号部１５０は、ソースデコーダにより得られた
2019207491.tif 000061
を、学習部１６０に渡す。
【００６９】
学習部１６０は、学習データに基づいて、ターゲットエンコーダの出力と、教師データとが一致することを表す損失関数、ソースデコーダの出力と、教師データとが一致することを表す損失関数、ターゲットドメインのデータを入力としたときのコモンエンコーダの出力と、ソースドメインのデータを入力としたときのコモンエンコーダの出力とが同一の表現となることを表す損失関数、ターゲットデコーダの出力と、ターゲットドメインのデータを入力としたときのコモンエンコーダの出力とが異なる表現となることを表す損失関数、及びソースデコーダの出力と、ソースドメインのデータを入力としたときのコモンエンコーダの出力とが異なる表現となることを表す損失関数を用いて、ターゲットエンコーダ、ソースエンコーダ、コモンエンコーダ、ターゲットデコーダ、及びソースデコーダを学習する。
【００７０】
具体的には、学習部１６０は、得られたターゲット特徴表現
2019207491.tif 000062
、ソース特徴表現
2019207491.tif 000063
、共通特徴表現
2019207491.tif 000064
、
2019207491.tif 000065
、ターゲットデコーダの出力
2019207491.tif 000066
、ソースデコーダの出力
2019207491.tif 000067
、教師データ
2019207491.tif 000068
及び
2019207491.tif 000069
を用いて、下記式（１）のような損失関数を定義し、当該損失関数を最小化するような各エンコーダ及び各デコーダのパラメータを学習する。
【００７１】
【数１】
2019207491.tif 000070
【００７２】
ここで、α、β、γ、及びδは、各項の影響度を調整するハイパーパラメータであり、例えば、α＝β＝γ＝δ＝０．２５等とする。
【００７３】
上記式（１）において、Ｌｔａｒｇｅｔ及びＬｓｏｕｃｅは、タスクに応じた損失関数を用いる。
【００７４】
例えば、ターゲットドメイン及びソースドメインのいずれもクラス識別問題をタスクとするのであれば、Ｌｔａｒｇｅｔ及びＬｓｏｕｃｅを、交差エントロピーを用いて下記式（２）及び（３）のように設定する。
【００７５】
【数２】
2019207491.tif 000071
【００７６】
ここで、Ｋはクラス数であり、
2019207491.tif 000072
はターゲットドメインの画像データについてのｉ番目のクラスの確率値（推定結果）であり、
2019207491.tif 000073
は、ターゲットドメインの画像データがｉ番目のクラスに含まれるか否かの２値（教師データ）である。同様に、
2019207491.tif 000074
はソースドメインの画像データについてのｉ番目のクラスの確率値（推定結果）であり、
2019207491.tif 000075
は、ソースドメインの画像データがｉ番目のクラスに含まれるか否かの２値（教師データ）である。
【００７７】
また、
2019207491.tif 000076
である。
【００７８】
また、例えば、ターゲットドメイン及びソースドメインのいずれもクラス毎のセグメンテーションをタスクとするのであれば、Ｌｔａｒｇｅｔ及びＬｓｏｕｃｅを、ピクセル毎に算出したラベルに対する交差エントロピーを用いて、下記式（４）及び（５）のように設定する。
【００７９】
【数３】
2019207491.tif 000077
【００８０】
ここで、Ｋはクラス数であり、
2019207491.tif 000078
は画像や教師データの位置を示すベクターであり、
2019207491.tif 000079
はターゲットドメインの画像データの座標
2019207491.tif 000080
におけるｉ番目のクラスの確率値（推定結果）であり、
2019207491.tif 000081
は、ターゲットドメインの画像データの座標
2019207491.tif 000082
がｉ番目のクラスに含まれるか否かの２値（教師データ）である。同様に、
2019207491.tif 000083
はソースドメインの画像データの座標
2019207491.tif 000084
におけるｉ番目のクラスの確率値（推定結果）であり、
2019207491.tif 000085
は、ソースドメインの画像データの座標
2019207491.tif 000086
がｉ番目のクラスに含まれるか否かの２値（教師データ）である。
【００８１】
また、
2019207491.tif 000087
である。
【００８２】
また、例えば、参考文献１に示されるＤｉｃｅスコアを損失関数Ｌｔａｒｇｅｔ及びＬｓｏｕｃｅとして用いてもよい。
［参考文献１］Fidon, L., Li, W., Garcia-Peraza-Herrera, L. C., Ekanayake, J., Kitchen, N., Ourselin, S., & Vercauteren, T, Generalised wasserstein dice score for imbalanced multi-class segmentation using holistic convolutional networks. arXiv preprint arXiv:1707.00478, 2017.
【００８３】
また、例えば、ターゲットドメイン及びソースドメインのタスクが異なる場合は、それぞれに応じた損失関数を設定する。例えば、ターゲットドメインのタスクがクラス毎のセグメンテーション、ソースドメインのタスクがクラス識別問題の場合、下記式（６）及び式（７）のように、損失関数Ｌｔａｒｇｅｔ及びＬｓｏｕｃｅを設定する。
【００８４】
【数４】
2019207491.tif 000088
【００８５】
また、上記式（１）において、Ｌｓｉｍは、共通特徴表現
2019207491.tif 000089
及び
2019207491.tif 000090
が、入力ドメインを問わずに同一の表現になるような制約を与える損失関数である。すなわち、損失関数Ｌｓｉｍは、異なるドメインデータを入力したときのコモンエンコーダの出力が同じような表現になるようにするためのものである。
【００８６】
例えば、ＭＳＥ（最小二乗誤差）を用いて、下記式（８）のように、損失関数Ｌｓｉｍを設定する。
【００８７】
【数５】
2019207491.tif 000091
【００８８】
また、他の例として、参考文献２に示されるＭＭＤ損失や、参考文献３に示されるＤＡＮＮロスを用いても良い。
【００８９】
［参考文献２］Gretton, A., Borgwardt, K. M., Rasch, M. J., Scholkopf, B., & Smola, A, A kernel two-sample test. Journal of Machine Learning Research, 13(Mar) , 2012, 723-773.
【００９０】
［参考文献３］Ajakan, H., Germain, P., Larochelle, H., Laviolette, F., & Marchand, M, Domain-adversarial neural networks. arXiv preprint arXiv:1412.4446, 2014.
【００９１】
また、上記式（１）において、Ｌｄｉｆｆは、ターゲット特徴表現
2019207491.tif 000092
及び共通特徴表現
2019207491.tif 000093
が異なる表現となり、ソース特徴表現
2019207491.tif 000094
及び共通特徴表現
2019207491.tif 000095
が異なる表現になるような制約を与える損失関数である。
【００９２】
例えば、損失関数Ｌｄｉｆｆを、ＭＳＥの逆数を用いて、下記式（９）のように設定する。
【００９３】
【数６】
2019207491.tif 000096
【００９４】
また、他の例として、非特許文献２に示されるように直交条件を加えて、下記式（１０）のように損失関数Ｌｄｉｆｆを設定してもよい。
【００９５】
【数７】
2019207491.tif 000097
【００９６】
ここで、式（１０）において、｜｜・｜｜は、二乗フロベニウスノルムを示す。
【００９７】
すなわち、学習部１６０がこのような損失関数（式（１））に基づいて学習を行うことで、ターゲットドメイン・タスク、ソースドメイン・タスクそれぞれに対するモデルを得ることができる。
【００９８】
そして、学習部１６０は、学習したターゲットエンコーダのパラメータを、ターゲット符号化部１２０に、学習したソースエンコーダのパラメータをソース符号化部１４０に、学習したコモンエンコーダのパラメータを共通符号化部１１０に、学習したターゲットデコーダのパラメータをターゲット復号部１３０に、学習したソースデコーダのパラメータをソース復号部１５０に、それぞれ渡す。
【００９９】
＜本発明の実施の形態に係るモデル学習装置の作用＞
図３は、本発明の実施の形態に係るモデル学習処理ルーチンを示すフローチャートである。
【０１００】
入力部１００に学習データが入力されると、モデル学習装置１０において、図３に示すモデル学習処理ルーチンが実行される。
【０１０１】
まず、ステップＳ１００において、入力部１００は、ターゲットドメインのデータ
2019207491.tif 000098
とターゲットドメインのデータ
2019207491.tif 000099
に対するタスクの実行結果である教師データ
2019207491.tif 000100
との組、及びソースドメインのデータ
2019207491.tif 000101
とソースドメインのデータ
2019207491.tif 000102
に対するタスクの実行結果である教師データ
2019207491.tif 000103
の組である学習データの入力を受け付ける。
【０１０２】
次に、ステップＳ１１０において、共通符号化部１１０は、ターゲットドメインのデータ
2019207491.tif 000104
を入力として、コモンエンコーダを用いて符号化処理を実行することにより、共通特徴表現
2019207491.tif 000105
と、中間表現ＣＥ−１、ＣＥ−２とを取得する。また、共通符号化部１１０は、ソースドメインのデータ
2019207491.tif 000106
を入力として、コモンエンコーダを用いて符号化処理を実行することにより、共通特徴表現
2019207491.tif 000107
と、中間表現ＣＥ−１、ＣＥ−２とを取得する。
【０１０３】
ステップＳ１２０において、ターゲット符号化部１２０は、ターゲットドメインのデータ
2019207491.tif 000108
を入力としてターゲットエンコーダを用いて符号化処理を実行することにより、ターゲット特徴表現
2019207491.tif 000109
と、中間表現ＴＥ−１、ＴＥ−２とを取得する。
【０１０４】
ステップＳ１３０において、ターゲット復号部１３０は、ターゲットエンコーダの出力であるターゲット特徴表現
2019207491.tif 000110
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000111
を足し合わせた
2019207491.tif 000112
を計算する。
【０１０５】
ステップＳ１４０において、ターゲット復号部１３０は、上記ステップＳ１３０により計算された
2019207491.tif 000113
と、上記ステップＳ１１０によりターゲットドメインのデータについて得られた中間表現ＣＥ−１、ＣＥ−２と、上記ステップＳ１２０により得られた中間表現ＴＥ−１、ＴＥ−２とを入力として、ターゲットデコーダを用いて、復号処理を実行して、
2019207491.tif 000114
を取得する。
【０１０６】
ステップＳ１５０において、ソース符号化部１４０は、ソースドメインのデータ
2019207491.tif 000115
を入力としてソースエンコーダを用いて、符号化処理を実行することにより、ソース特徴表現
2019207491.tif 000116
と、中間表現ＳＥ−１、ＳＥ−２とを取得する。
【０１０７】
ステップＳ１６０において、ソース復号部１５０は、ソースエンコーダの出力であるソース特徴表現
2019207491.tif 000117
及びコモンエンコーダの出力である共通特徴表現
2019207491.tif 000118
を足し合わせた
2019207491.tif 000119
を計算する。
【０１０８】
ステップＳ１７０において、ソース復号部１５０は、上記ステップＳ１６０により計算された
2019207491.tif 000120
と、上記ステップＳ１１０によりソースドメインのデータについて得られた中間表現ＣＥ−１、ＣＥ−２と、上記ステップＳ１５０で得られた中間表現ＳＥ−１、ＳＥ−２とを入力として、ソースデコーダを用いて復号処理を実行して、
2019207491.tif 000121
を取得する。
【０１０９】
ステップＳ１８０において、学習部１６０は、上記ステップＳ１１０〜Ｓ１７０により得られたターゲット特徴表現
2019207491.tif 000122
、ソース特徴表現
2019207491.tif 000123
、共通特徴表現
2019207491.tif 000124
、
2019207491.tif 000125
、ターゲットデコーダの出力
2019207491.tif 000126
、ソースデコーダの出力
2019207491.tif 000127
、教師データ
2019207491.tif 000128
及び
2019207491.tif 000129
を用いて、上記式（１）のような損失関数を定義し、当該損失関数を最小化するような各エンコーダ及び各デコーダのパラメータを学習する。
【０１１０】
ステップＳ１９０において、学習部１６０は、学習したターゲットエンコーダのパラメータを、ターゲット符号化部１２０に、学習したソースエンコーダのパラメータをソース符号化部１４０に、学習したコモンエンコーダのパラメータを共通符号化部１１０に、学習したターゲットデコーダのパラメータをターゲット復号部１３０に、学習したソースデコーダのパラメータをソース復号部１５０に、それぞれ渡す。
【０１１１】
ステップＳ２００において、学習部１６０は、終了条件を満たすか否かを判定する。
【０１１２】
終了条件を満たしていない場合（ステップＳ２００のＮＯ）、上記ステップＳ１００に戻り、再度学習データを取得してステップＳ１１０〜Ｓ１９０の処理を繰り返す。
【０１１３】
一方、終了条件を満たす場合（ステップＳ２００のＹＥＳ）、処理を終了する。
【０１１４】
ここで、上記ステップＳ１４０におけるターゲットデコーダの計算処理について説明する。図４は、計算処理ルーチンを示すフローチャートである。
【０１１５】
ステップＳ３００において、ターゲットデコーダは、入力された
2019207491.tif 000130
に対して、逆畳み込みを行い、ＴＤ−４を求める。
【０１１６】
ステップＳ３１０において、ターゲットデコーダは、上記ステップＳ３００により得られたＴＤ−４に、中間表現ＴＥ−２及びＣＥ−２を結合した特徴表現に対して、畳み込みを行い、ＴＤ−３を求める。
【０１１７】
ステップＳ３２０において、ターゲットデコーダは、上記ステップＳ３１０により得られたＴＤ−３に対して更に逆畳み込みを行い、ＴＤ−２を求める。
【０１１８】
ステップＳ３３０において、ターゲットデコーダは、上記ステップＳ３２０により得られたＴＤ−２に中間表現ＴＥ−１及びＣＥ−１を結合した特徴表現に対して、畳み込みを行い、ＴＤ−１を求める。
【０１１９】
ステップＳ３４０において、ターゲットデコーダは、上記ステップＳ３３０により得られたＴＤ−１に対して畳み込みを行い、ターゲットデコーダの出力
2019207491.tif 000131
として、リターンする。
【０１２０】
また、上記ステップＳ１７０におけるソースデコーダの計算処理については、上記図４の計算処理ルーチンと同様であるため、説明を省略する。
【０１２１】
以上説明したように、本発明の実施形態に係るモデル学習装置によれば、学習データに基づいて、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、ターゲットドメインのデータ又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、ターゲットエンコーダの出力及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及びソースエンコーダの出力及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、ターゲットデコーダの出力が、教師データと一致し、かつ、ソースデコーダの出力が、教師データと一致するように学習することにより、低コストかつ高精度に異なる複数のタスク・ドメインを同時に学習することができる。
【０１２２】
＜本発明の実施の形態に係るタスク処理装置の構成＞
本発明の実施の形態に係るタスク処理装置２０の構成について説明する。なお、上記実施の形態に係るモデル学習装置１０と同様の構成については、同一の符号を付して詳細な説明は省略する。図５は、本発明の実施の形態に係るタスク処理装置２０の構成を示すブロック図である。
【０１２３】
タスク処理装置２０は、モデル学習装置１０により学習されたモデルを用いて、ターゲットドメインのデータに対するタスクを実行する。なお、本実施形態では、ターゲットドメインのデータの種類が画像データ
2019207491.tif 000132
である場合を例に説明する。
【０１２４】
タスク処理装置２０は、ＣＰＵと、ＲＡＭと、後述するタスク処理ルーチン及び計算処理ルーチンを実行するためのプログラムを記憶したＲＯＭとを備えたコンピュータで構成され、機能的には次に示すように構成されている。
【０１２５】
図５に示すように、本実施形態に係るタスク処理装置２０は、入力部２００と、共通符号化部１１０と、ターゲット符号化部１２０と、ターゲット復号部１３０と、ソース符号化部１４０と、ソース復号部１５０と、出力部２７０とを備えて構成される。
【０１２６】
入力部２００は、ターゲットドメインの画像データ
2019207491.tif 000133
の入力を受け付ける。
【０１２７】
そして、入力部２００は、受け付けたターゲットドメインの画像データ
2019207491.tif 000134
を、共通符号化部１１０と、ターゲット符号化部１２０とに渡す。
【０１２８】
共通符号化部１１０、ターゲット符号化部１２０、及びターゲット復号部１３０は、モデル学習装置１０により学習されたコモンエンコーダ、ターゲットエンコーダ、及びターゲットデコーダの各パラメータを保持し、機能的にはモデル学習装置１０における処理と同様の処理を行う。
【０１２９】
出力部２７０は、ターゲット復号部１３０により得られた当該タスク処理の結果である
2019207491.tif 000135
を、出力する。
【０１３０】
なお、モデル学習装置１０により学習されたモデルを用いて、ソースドメインの画像データ
2019207491.tif 000136
に対するタスクを実行する場合には、タスク処理装置２０において、ターゲット符号化部１２０及びターゲット復号部１３０の代わりに、ソース符号化部１４０及びソース復号部１５０を用いればよい。
【０１３１】
この場合、入力部２００は、受け付けたソースドメインの画像データ
2019207491.tif 000137
を、共通符号化部１１０と、ソース符号化部１４０とに渡す。
【０１３２】
ソース符号化部１４０及びソース復号部１５０は、モデル学習装置１０により学習されたソースエンコーダ、及びソースデコーダの各パラメータを保持し、機能的にはモデル学習装置１０における処理と同様の処理を行う。
【０１３３】
そして、出力部２７０は、ソース復号部１５０により得られた当該タスク処理の結果である
2019207491.tif 000138
を、出力する。
【０１３４】
＜本発明の実施の形態に係るタスク処理装置の作用＞
図６は、本発明の実施の形態に係るタスク処理ルーチンを示すフローチャートである。なお、上記実施の形態に係るモデル学習処理ルーチンと同様の処理については、同一の符号を付して詳細な説明は省略する。
【０１３５】
入力部２００にターゲットドメインの画像データ
2019207491.tif 000139
が入力されると、タスク処理装置２０において、図６に示すタスク処理ルーチンが実行される。
【０１３６】
ステップＳ４００において、入力部２００は、ターゲットドメインの画像データ
2019207491.tif 000140
の入力を受け付ける。
【０１３７】
ステップＳ４１０において、共通符号化部１１０は、ターゲットドメインのデータ
2019207491.tif 000141
を入力として、コモンエンコーダを用いて、符号化処理を実行することにより、共通特徴表現
2019207491.tif 000142
と、中間表現ＣＥ−１、ＣＥ−２とを取得する。
【０１３８】
ステップＳ４６０において、出力部２７０は、ステップＳ１５０により得られた当該タスク処理の結果である
2019207491.tif 000143
を出力する。
【０１３９】
なお、モデル学習装置１０により学習されたモデルを用いて、ソースドメインの画像データ
2019207491.tif 000144
に対するタスクを実行する場合も、ソース符号化部１４０及びソース復号部１５０を用いて同様の処理を行うため、説明を省略する。
【０１４０】
以上説明したように、本実施形態に係るタスク処理装置によれば、学習データに基づいて、ターゲットドメインのデータを入力としてターゲット特徴表現を出力するターゲットエンコーダ、ソースドメインのデータを入力としてソース特徴表現を出力するソースエンコーダ、ターゲットドメインのデータ又はソースドメインのデータを入力として共通特徴表現を出力するコモンエンコーダ、ターゲットエンコーダの出力及びコモンエンコーダの出力を入力として、ターゲットドメインのデータに対するタスクの実行結果を出力するターゲットデコーダ、及びソースエンコーダの出力及びコモンエンコーダの出力を入力として、ソースドメインのデータに対するタスクの実行結果を出力するソースデコーダを用いて、ターゲットデコーダの出力が、教師データと一致し、かつ、ソースデコーダの出力が、教師データと一致するように学習したモデルを用いることにより、低コストかつ高精度に異なるタスクを実行することができる。
【０１４１】
なお、本発明は、上述した実施の形態に限定されるものではなく、この発明の要旨を逸脱しない範囲内で様々な変形や応用が可能である。
【０１４２】
例えば、各エンコーダ及び各デコーダは、上記図２に示したネットワーク構成例よりも多層になるように構成してもよいし、少ない層で構成してもよい。
【０１４３】
また、ターゲットデコーダは、ターゲットエンコーダからの複数の中間表現と、コモンエンコーダからの複数の中間表現とを入力とする場合を例に説明したが、これに限定されるものではなく、ターゲットデコーダは、ターゲットエンコーダからの少なくとも１つの中間表現と、コモンエンコーダからの少なくとも１つの中間表現とを入力とするようにすればよい。
【０１４４】
例えば、ターゲットエンコーダにおいてＴＥ−２を求める層を省略し、ソースエンコーダにおいてＳＥ−２を求める層を省略し、コモンエンコーダにおいてＣＥ−２を求める層を省略し、ターゲットデコーダにおいて、ＴＤ−４及びＴＤ−３を求める層を省略し、ソースデコーダにおいて、ＳＤ−４及びＳＤ−３を求める層を省略する構成とすることもできる。この場合、ターゲットデコーダは、
2019207491.tif 000145
をＴＤ−２のサイズに逆畳み込みして、ＴＥ−１及びＣＥ−１と結合し、後続の処理を行う。
【０１４５】
また、上述の実施形態において、コモンエンコーダ、ターゲットエンコーダ、及びターゲットデコーダの中間層の出力のサイズが同じ構成になるものとして記載した。しかし、これに限定されるものではない。
【０１４６】
例えば、ターゲットデコーダが中間表現ＴＤ−２とＴＥ−１と、ＣＥ−１とを結合できればよく、コモンエンコーダ、ターゲットエンコーダ、及びターゲットデコーダの中間表現の縦横サイズ（上記図２のｃｏｐｙにおける立方体で表される中間表現ＴＤ−２と中ＴＥ−１及びＣＥ−１の縦横のサイズ）が同じであれば、チャンネル数（奥行き）の長さは異なっていてもよい。
【０１４７】
例えば、中間表現のサイズが３＊３＊１０と３＊３＊２０である場合に、チャンネル数のみ異なり、結合することができるため、採用することができる。一方、中間表現のサイズが３＊３＊１０と５＊５＊２０である場合には、縦横のサイズが異なることから結合することができず、このような構成を本実施形態において採用することはできない。
【０１４８】
なお、ソースドメインについてのコモンエンコーダ、ソースエンコーダ、及びソースデコーダについても同様である。
【０１４９】
また、本願明細書中において、プログラムが予めインストールされている実施形態として説明したが、当該プログラムを、コンピュータ読み取り可能な記録媒体に格納して提供することも可能である。
【符号の説明】
【０１５０】
１０   モデル学習装置
２０   タスク処理装置
１００ 入力部
１１０ 共通符号化部
１２０ ターゲット符号化部
１３０ ターゲット復号部
１４０ ソース符号化部
１５０ ソース復号部
１６０ 学習部
２００ 入力部
２７０ 出力部
【図１】
2019207491.tif 000146
【図２】
2019207491.tif 000147
【図３】
2019207491.tif 000148
【図４】
2019207491.tif 000149
【図５】
2019207491.tif 000150
【図６】
2019207491.tif 000151