(57)【要約】【課題】機械翻訳における翻訳処理時間を抑えること。【解決手段】機械翻訳装置１は、カテゴリごとの翻訳部１０であって、各翻訳部１０は属するカテゴリのコーパスを用いた機械学習により得られた翻訳学習済みモデルを用いて当該カテゴリの文章を翻訳する、翻訳部１０と、入力された入力文章のカテゴリを、各翻訳部１０の機械学習で用いたコーパスに基づいた機械学習により得られた判定学習済みモデルを用いて判定する判定部１１と、判定部１１によって判定されたカテゴリの翻訳部１０を用いて入力文章を翻訳し、翻訳結果を出力する制御部１２と、を備える。翻訳学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルであってもよい。判定学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルであってもよい。【選択図】図１
2019139629.tif 000002
【特許請求の範囲】
【請求項１】
カテゴリごとの翻訳部であって、各翻訳部は属するカテゴリのコーパスを用いた機械学習により得られた翻訳学習済みモデルを用いて当該カテゴリの文章を翻訳する、翻訳部と、
入力された入力文章のカテゴリを、各前記翻訳部の前記機械学習で用いた前記コーパスに基づいた機械学習により得られた判定学習済みモデルを用いて判定する判定部と、
前記判定部によって判定されたカテゴリの前記翻訳部を用いて前記入力文章を翻訳し、翻訳結果を出力する制御部と、
を備える機械翻訳装置。
【請求項２】
前記翻訳学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルである、請求項１に記載の機械翻訳装置。
【請求項３】
前記判定学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルである、請求項１又は２に記載の機械翻訳装置。
【請求項４】
カテゴリごとの翻訳部であって、各翻訳部は属するカテゴリの文章を翻訳する、翻訳部と、入力された入力文章のカテゴリを判定する判定部と、前記判定部によって判定されたカテゴリの前記翻訳部を用いて前記入力文章を翻訳し、翻訳結果を出力する制御部と、を備える機械翻訳装置の前記翻訳部が文章を翻訳する際に用いる翻訳学習済みモデルであって、
当該翻訳学習済みモデルを用いる前記翻訳部が属するカテゴリのコーパスを用いて重み付け係数が学習されたニューラルネットワークにより構成され、
前記判定部は、当該翻訳学習済みモデルの学習で用いた前記コーパスに基づいた機械学習により得られた判定学習済みモデルを用いてカテゴリを判定する、
翻訳学習済みモデル。
【請求項５】
カテゴリごとの翻訳部であって、各翻訳部は属するカテゴリのコーパスを用いた機械学習により得られた翻訳学習済みモデルを用いて当該カテゴリの文章を翻訳する、翻訳部と、入力された入力文章のカテゴリを判定する判定部と、前記判定部によって判定されたカテゴリの前記翻訳部を用いて前記入力文章を翻訳し、翻訳結果を出力する制御部と、を備える機械翻訳装置の前記判定部がカテゴリを判定する際に用いる判定学習済みモデルであって、
各前記翻訳部の前記機械学習で用いた前記コーパスに基づいて重み付け係数が学習されたニューラルネットワークにより構成される、
判定学習済みモデル。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、機械翻訳を行う機械翻訳装置、翻訳学習済みモデル及び判定学習済みモデルに関する。
【背景技術】
【０００２】
近年、機械翻訳においてニューラルネットワークを用いたニューラル機械翻訳が注目されつつある。従来の統計ベースの機械翻訳に比べて、より自然な翻訳が可能なため、ニューラルネットワークを用いた機械学習による翻訳システムが開発されている。例えば下記特許文献１では、ニューラルネットワークを用いた機械翻訳装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開平０６−３３２９３５号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、ニューラルネットワーク等を用いた機械翻訳では、翻訳対象の語彙数が増えるほど、例えばニューラルネットワークのサイズが大きくなることで、翻訳処理時間が増えるという問題がある。
【０００５】
そこで、本発明はかかる課題に鑑みて為されたものであり、機械翻訳における翻訳処理時間を抑えることができる機械翻訳装置、翻訳学習済みモデル及び判定学習済みモデルを提供することを目的とする。
【課題を解決するための手段】
【０００６】
上記課題を解決するため、本発明の一側面に係る機械翻訳装置は、カテゴリごとの翻訳部であって、各翻訳部は属するカテゴリのコーパスを用いた機械学習により得られた翻訳学習済みモデルを用いて当該カテゴリの文章を翻訳する、翻訳部と、入力された入力文章のカテゴリを、各翻訳部の機械学習で用いたコーパスに基づいた機械学習により得られた判定学習済みモデルを用いて判定する判定部と、判定部によって判定されたカテゴリの翻訳部を用いて入力文章を翻訳し、翻訳結果を出力する制御部と、を備える。
【０００７】
このような機械翻訳装置によれば、カテゴリごとの翻訳部の翻訳学習済みモデルを用いて文章が翻訳される。この場合、例えば、単体の翻訳部が扱う翻訳対象の語彙は、属するカテゴリで使われる語彙に限定できるため、翻訳学習済みモデルが扱う語彙数を少なくすることができる。それにより、単体の翻訳部の翻訳処理時間を抑えることができ、機械翻訳装置全体の翻訳処理時間を抑えることができる。また、判定学習済みモデルは、翻訳部の翻訳学習済みモデルの機械学習で用いたコーパスに基づいた機械学習により得られた学習済みモデルである。そのような判定学習済みモデルを用いてカテゴリを判定するため、例えば、翻訳学習済みモデルが得意とする文章のカテゴリをより正確に判定することができる。それにより、より正確なカテゴリの翻訳部により翻訳されるため、翻訳精度を向上することができる。
【発明の効果】
【０００８】
本発明によれば、機械翻訳における翻訳処理時間を抑えることができる。
【図面の簡単な説明】
【０００９】
【図１】本発明の実施形態に係る機械翻訳装置１の機能ブロック図である。
【図２】翻訳部１０の学習例を示す図である。
【図３】判定部１１の学習例を示す図である。
【図４】判定部１１による判定処理の一例を示す概念図である。
【図５】判定部１１による判定処理の一例を示すフローチャートである。
【図６】語彙数と翻訳処理時間との関係の一例を示すグラフである。
【図７】本発明の実施形態に係る機械翻訳装置１のハードウェア構成図である。
【発明を実施するための形態】
【００１０】
以下、図面とともに装置の実施形態について詳細に説明する。なお、図面の説明においては同一要素には同一符号を付し、重複する説明を省略する。また、以下の説明における実施形態は、本発明の具体例であり、特に本発明を限定する旨の記載がない限り、これらの実施形態に限定されないものとする。
【００１１】
図１は、機械翻訳装置１の機能ブロック図である。図１に示す通り、機械翻訳装置１は、翻訳部１０Ａ、翻訳部１０Ｂ、翻訳部１０Ｃ、判定部１１及び制御部１２を含んで構成される。なお、翻訳部１０Ａ、翻訳部１０Ｂ及び翻訳部１０Ｃを総称して翻訳部１０と適宜記す。
【００１２】
機械翻訳装置１は、ユーザ等により入力された文章（入力文章）を翻訳し、翻訳結果をユーザ等に出力するコンピュータ装置である。翻訳とは、ある言語（第１言語）で表された文章を、他の言語（第２言語）に置き換えて表すことである。一例として、日本語の文章から英語の文章への翻訳が挙げられるが、これに限るものではない。文章は、一つ以上の文から構成される。文は、文字等で書かれたまとまった一連の言葉である。翻訳結果は、翻訳した結果に基づく情報であり、例えば、翻訳された文章（翻訳文章）等であるが、これに限るものではない。
【００１３】
以下、図１に示す機械翻訳装置１の各機能ブロックについて説明する。
【００１４】
翻訳部１０は、カテゴリごとの翻訳部１０であって、各翻訳部１０は属するカテゴリのコーパスを用いた機械学習により得られた学習済みモデル（翻訳学習済みモデル）を用いて当該カテゴリの文章を翻訳する。図１に示す通り、機械翻訳装置１は、カテゴリＡの翻訳部１０Ａ（翻訳部１０ＡはカテゴリＡに属する）、カテゴリＢの翻訳部１０Ｂ（翻訳部１０ＢはカテゴリＢに属する）及びカテゴリＣの翻訳部１０Ｃ（翻訳部１０ＣはカテゴリＣに属する）を含んで構成される。なお、カテゴリは３つに限るものではなく、１つ以上であればいかなる数であってもよい。
【００１５】
カテゴリは、文章の分類上の区分、文章の種類、文章のジャンル、文章の領域、文章の分野又は文章のドメインである。カテゴリは、利用シーンに相当するものであり、例えば、病院で良く使われる話し言葉に強いカテゴリや、ＩＴ（Information  Technology）分野のマニュアル等で良く使われる書き言葉に強いカテゴリ等である。本実施形態では、カテゴリＡは医療カテゴリ、カテゴリＢは旅行カテゴリ、カテゴリＣは買物カテゴリを想定する。
【００１６】
コーパスは、自然言語の文章を構造化し、大規模に集積したデータ（データベース）の一部又は全部である。本実施形態におけるコーパスは、第１言語（日本語）と、当該第１言語の翻訳である第２言語（英語）とが対応付けられたコーパス（対訳コーパス、対訳データ）を想定する。コーパスを用いた機械学習により学習済みモデルを得る処理や、学習済みモデルを用いて文章を翻訳する処理は、従来技術に則った処理である。
【００１７】
学習済みモデルは、コンピュータプログラムとパラメータとの組み合わせである。また、学習済みモデルは、ニューラルネットワークの構造と当該ニューラルネットワークの各ニューロン間の結びつきの強さであるパラメータ（重み付け係数）との組み合わせである。また、学習済みモデルは、コンピュータに対する指令であって、一の結果を得る（所定の処理を実行する）ことができるように組み合わされたもの、すなわち、コンピュータを機能させるコンピュータプログラムである。
【００１８】
図２は、翻訳部１０の学習例を示す図である。例えば、カテゴリＡに属する翻訳部１０Ａは、機械学習を行う際に用いる学習データとして、カテゴリＡ専用コーパス及び汎用コーパスを用いる。カテゴリＡ専用コーパスは、カテゴリＡに特化したコーパスであり、例えば、医療分野で良く使われる文章に関するコーパスである。汎用コーパスは、汎用的な言い回しに関するコーパスである。汎用コーパスは、語彙数を削減するために、特殊な専門用語や特別なカテゴリでしか使わない用語等は含まない文章又は単語等で構成する。翻訳部１０Ｂ及び翻訳部１０Ｃの学習についても、翻訳部１０Ａの学習と同様である。すなわち、カテゴリＢに属する翻訳部１０Ｂは、学習データとしてカテゴリＢ専用コーパス（例えば、旅行分野で良く使われる文章に関するコーパス）及び汎用コーパスを用い、カテゴリＣに属する翻訳部１０Ｃは、学習データとしてカテゴリＣ専用コーパス（例えば、買物分野で良く使われる文章に関するコーパス）及び汎用コーパスを用いる。
【００１９】
以上のように、各カテゴリに属する翻訳部１０はそれぞれ、当該カテゴリの専用コーパスに汎用コーパスを加えたコーパスで学習させる。なお、専用コーパスは、排他的であってもよく、その場合、同じ文章が他のコーパスに含まれることは無い。機械学習を行う際に、専用コーパスだけでは汎用的な言い回しに対応できないため、一部又は全ての翻訳部１０にて、上述の通り共通に用いる汎用コーパスを利用している。また、翻訳部１０Ａ、翻訳部１０Ｂ及び翻訳部１０Ｃのいずれか一つ以上は、学習データとして汎用コーパスを用いずに、専用コーパスのみを用いてもよい。
【００２０】
翻訳学習済みモデルは、ニューラルネットワークに基づく学習済みモデルであってもよい。また、翻訳学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルであってもよい。また、翻訳学習済みモデルは、ニューラルネットワークに限らず、機械学習可能な情報処理に基づく学習済みモデルであってもよい。
【００２１】
翻訳学習済みモデルは、カテゴリごとの翻訳部１０であって、各翻訳部１０は属するカテゴリの文章を翻訳する、翻訳部１０と、入力された入力文章のカテゴリを判定する判定部１１と、判定部１１によって判定されたカテゴリの翻訳部１０を用いて入力文章を翻訳し、翻訳結果を出力する制御部１２と、を備える機械翻訳装置１の翻訳部１０が文章を翻訳する際に用いる翻訳学習済みモデルであって、当該翻訳学習済みモデルを用いる翻訳部１０が属するカテゴリのコーパス（専用コーパス）を用いて重み付け係数が学習されたニューラルネットワークにより構成され、判定部１１は、当該翻訳学習済みモデルの学習で用いたコーパス（専用コーパス）に基づいた機械学習により得られた判定学習済みモデルを用いてカテゴリを判定してもよい。
【００２２】
翻訳学習済みモデルは、所定のカテゴリの入力された入力文章を翻訳し、翻訳結果を出力するよう、コンピュータを機能させるための翻訳学習済みモデルであって、カテゴリのコーパス（専用コーパス）を用いて重み付け係数が学習されたニューラルネットワークにより構成され、当該カテゴリは、当該コーパス（専用コーパス）に基づいた機械学習により得られた判定学習済みモデルを用いて判定された入力文章のカテゴリであってもよい。
【００２３】
判定部１１は、（後述の制御部１２より）入力された入力文章のカテゴリを、各翻訳部１０（翻訳部１０Ａ、翻訳部１０Ｂ及び翻訳部１０Ｃ）の機械学習で用いたコーパス（専用コーパス）に基づいた機械学習により得られた判定学習済みモデルを用いて判定する。コーパスに基づいた機械学習により学習済みモデルを得る処理や、学習済みモデルを用いて文章のカテゴリを判定する処理は、従来技術に則った処理である。
【００２４】
図３は、判定部１１の学習例を示す図である。判定部１１は、学習データとして、翻訳部１０Ａの翻訳学習済みモデルの機械学習で用いたカテゴリＡ専用コーパス、翻訳部１０Ｂの翻訳学習済みモデルの機械学習で用いたカテゴリＢ専用コーパス、及び翻訳部１０Ｃの翻訳学習済みモデルの機械学習で用いたカテゴリＣ専用コーパスを用いる。より具体的には、判定部１１は、学習データとして、カテゴリＡ専用コーパスの第１言語とカテゴリＡを示す情報（ラベル）との組、カテゴリＢ専用コーパスの第１言語とカテゴリＢを示す情報（ラベル）との組、及びカテゴリＣ専用コーパスの第１言語とカテゴリＣを示す情報（ラベル）との組を用いる。判定部１１の学習では、所定のカテゴリの専用コーパスの第１言語の文章を入力として、出力（正解データ）を当該カテゴリのラベルとするように学習する。
【００２５】
判定部１１の学習について、具体例を挙げて説明する。判定部１１は、まず、医療コーパス（カテゴリＡ）、旅行コーパス（カテゴリＢ）及び買物コーパス（カテゴリＣ）にラベル付けを行う。例として、医療コーパスの文章は１、旅行コーパスの文章は２、及び買物コーパスの文章は３とする。そして、判定部１１の判定学習済みモデル（リカレントニューラルネットワーク等）に各コーパスの文章を入力し、入力文章のラベルの次元が「１」、その他は「０」となる出力ベクトルを正解データとして学習させる。この場合、カテゴリの種類が３種類のため、３次元の出力ベクトルとなり、医療コーパスであれば「（１，０，０）」、旅行コーパスであれば「（０、１，０）」、及び買物コーパスであれば「（０，０，１）」が正解データとなる。このように学習させることによって、入力文章を翻訳するのに適切なカテゴリが判定（識別）できるようになる。
【００２６】
判定学習済みモデルは、ニューラルネットワークに基づく学習済みモデルであってもよい。また、判定学習済みモデルは、リカレントニューラルネットワークに基づく学習済みモデルであってもよい。また、判定学習済みモデルは、ニューラルネットワークに限らず、機械学習可能な情報処理に基づく学習済みモデルであってもよい。
【００２７】
判定学習済みモデルは、カテゴリごとの翻訳部１０であって、各翻訳部１０は属するカテゴリのコーパス（専用コーパス）を用いた機械学習により得られた翻訳学習済みモデルを用いて当該カテゴリの文章を翻訳する、翻訳部１０と、入力された入力文章のカテゴリを判定する判定部１１と、判定部１１によって判定されたカテゴリの翻訳部１０を用いて入力文章を翻訳し、翻訳結果を出力する制御部１２と、を備える機械翻訳装置１の判定部１１がカテゴリを判定する際に用いる判定学習済みモデルであって、各翻訳部１０の機械学習で用いたコーパス（専用コーパス）に基づいて重み付け係数が学習されたニューラルネットワークにより構成されてもよい。
【００２８】
判定学習済みモデルは、入力された入力文章のカテゴリを判定するよう、コンピュータを機能させるための判定学習済みモデルであって、所定のコーパス（専用コーパス）に基づいて重み付け係数が学習されたニューラルネットワークにより構成され、入力文章は、当該判定学習済みモデルに基づいて判定されたカテゴリの当該コーパス（専用コーパス）を用いた機械学習により得られた翻訳学習済みモデルを用いて翻訳されてもよい。
【００２９】
図４は、判定部１１による判定処理の一例を示す概念図である。図５は、判定部１１による判定処理の一例を示すフローチャートである。以下、図４を参照しつつ、図５のフローチャートに基づいて、判定部１１による判定処理の一例について説明する。まず、制御部１２から入力文章を入力する（ステップＳ１）。次に、Ｓ１にて入力された入力文章を形態素解析（単語に分割）し、単語列を生成する（ステップＳ２）。次に、Ｓ２にて生成した単語列から単語を（前から順に）抽出する（ステップＳ３）。次に、単語をｗｏｒｄ  ＩＤに変換し、ニューラルネットワーク（判定学習済みモデル）の入力層に（順次）入力する（ステップＳ４）。次に、単語列に単語が残っているか否かを判定する（ステップＳ５）。Ｓ５にて残っていると判定された場合（Ｓ５：ＹＥＳ）、Ｓ３に戻り、残りの単語についてＳ３〜Ｓ５の処理を繰り返す。一方、Ｓ５にて残っていないと判定された場合（Ｓ５：ＮＯ）、すなわち、入力文章の単語列を全て入力した場合、「＜ＥＯＳ＞」（文章の終わりを示す記号）をニューラルネットワークの入力層に入力する（ステップＳ６）。次に、ニューラルネットワークの中間層のベクトルから、分類するカテゴリ数を次元数とする出力ベクトルを計算し、出力層とする。この出力ベクトルをＳｏｆｔｍａｘ処理等で尤度計算し、最も尤度の高い次元に相当するカテゴリを判定結果とする（最適カテゴリと識別する）（ステップＳ７）。
【００３０】
以下では、上述の図４及び図５に関する説明について補足する。上述のニューラルネットワークは、リカレントニューラルネットワークであってもよい。ニューラルネットワークの入力層は、予め所定の次元数に設定する。例えば、入力文章の語彙数が５万語の場合、５００次元に設定する。上述のニューラルネットワークの出力層は、カテゴリ数を次元数とするベクトルに設定する。上述の中間層のベクトルは、非線形な境界で判定（識別）を行うために利用される。中間層のベクトルも所定の次元数に設定する。例えば、中間層のベクトルを、入力層の次元数と同じに設定する。中間層のベクトルから出力層のベクトルに線形写像することで、出力層のベクトルが計算できる。出力層のベクトルの最も高い値を使ってもよいが、Ｓｏｆｔｍａｘ処理を行うことで、ベクトル値を正規化でき、確率分布値に変換できる。これにより、学習時に用いる正解データとして、該当カテゴリのみ「１」、他のカテゴリは「０」というベクトルを正解データに使えるようになる。
【００３１】
Ｓ４において、単語は所定の次元数のベクトルに変換して入力層に入力する。Ｓ４において、ｗｏｒｄ  ＩＤとは、各単語に割り振られたＩＤであり、頻度の高い順に「１」から順番に割り振られる。例えば「１」から「３００００」のＩＤを各単語につけ、３万種類以上の頻度の低い単語は切り捨てる。このｗｏｒｄ  ＩＤを入力層に入力するときに、ＩＤから例えば３００次元のベクトルに圧縮（変換）する。ｗｏｒｄ  ＩＤの種類が小さいほど、このベクトルのサイズも小さくでき、計算量を削減することができる。なお、３万語から３００次元の圧縮は可逆圧縮である。圧縮は、ｗｏｒｄ２ｖｅｃ等の従来技術を用いる。圧縮は、基本的に、各単語のベクトル同士のユークリッド距離がなるべく大きくなるようにベクトルを構成する。
【００３２】
図１に示す各機能ブロックの説明に戻り、制御部１２は、ユーザやネットワーク等を介した他の装置等から入力文章を入力する。次に、制御部１２は、入力した入力文章を判定部１１に出力し、当該出力に応じて判定部１１によって判定されたカテゴリの翻訳部１０を用いて、入力文章を翻訳する。次に、制御部１２は、翻訳結果を、ユーザやネットワーク等を介した他の装置等に出力（表示）する。
【００３３】
次に、本実施形態のように構成された機械翻訳装置１の作用効果について説明する。
【００３４】
本実施形態の機械翻訳装置１によれば、カテゴリごとの翻訳部１０の翻訳学習済みモデルを用いて文章が翻訳される。この場合、例えば、単体の翻訳部１０が扱う翻訳対象の語彙は、属するカテゴリで使われる語彙に限定できるため、翻訳学習済みモデルが扱う語彙数を少なくすることができる。それにより、単体の翻訳部１０の翻訳処理時間を抑えることができ、機械翻訳装置１全体の翻訳処理時間を抑えることができる。また、判定学習済みモデルは、翻訳部１０の翻訳学習済みモデルの機械学習で用いたコーパスに基づいた機械学習により得られた学習済みモデルである。そのような判定学習済みモデルを用いてカテゴリを判定するため、例えば、翻訳学習済みモデルが得意とする文章のカテゴリをより正確に判定することができる。それにより、より正確なカテゴリの翻訳部１０により翻訳されるため、翻訳精度を向上することができる。すなわち、カテゴリ分散して、各カテゴリの語彙数を減らして処理時間を速くしながらも、翻訳精度を落とさない。また、翻訳学習済みモデルの機械学習で用いたコーパスを、判定学習済みモデルの機械学習でも用いるため、学習データを一致させることで最高のパフォーマンスを発揮できると共に、学習データを再利用でき、新たな学習データを用意する手間やコストを減らすことができる。
【００３５】
また、翻訳学習済みモデルが、リカレントニューラルネットワークに基づく学習済みモデルである場合、入力文章の単語（単語レベル）だけでなく、入力文章の語順、言い回し又は表現等も考慮して最適な機械翻訳を行うことができるため、翻訳精度を向上することができる。
【００３６】
また、判定学習済みモデルが、リカレントニューラルネットワークに基づく学習済みモデルである場合、入力文章の単語（単語レベル）だけでなく、入力文章の語順、言い回し又は表現等も考慮して最適なカテゴリの判定を行うことができる。それにより、より正確なカテゴリの翻訳部１０により翻訳されるため、翻訳精度を向上することができる。
【００３７】
本実施形態の機械翻訳装置１は、扱う語彙を複数の翻訳部１０に分散させ、翻訳処理時間を短くしつつ、扱える語彙数を大きくする。具体的に、機械翻訳装置１では、例えばニューラルネットワークで構成された翻訳部１０を複数用意し、それぞれに得意なカテゴリを割り当てる。カテゴリごとに翻訳部１０を用意することにより、単体の翻訳部１０が扱う語彙数はそのカテゴリで使われる語彙に限定できるため、語彙数を小さくできる。したがって、翻訳部１０の翻訳処理時間を小さくできる。しかしながら、入力文章がどのカテゴリの翻訳部１０で翻訳すれば良いかをユーザに選んでもらうことは利便性を損なう可能性がある。そのため、機械翻訳装置１では、入力文章が最適に翻訳されるカテゴリを判定（識別）する判定部１１を備える。そして、判定された最適なカテゴリの翻訳部１０に入力文章を送り、翻訳結果を翻訳文章（出力文章）として出力する。
【００３８】
また、判定部１１の判定学習済みモデルを学習させる方法としては、各カテゴリの翻訳部１０を学習させる時に用いる専用コーパスにラベル付けを行い、当該カテゴリ用コーパスの文章を入力とし、出力（正解データ）はそのカテゴリのラベルとするように学習する。これは、後段の翻訳部１０が得意とする文章に近い文章がそのカテゴリに判定されることになるためである。また、判定学習済みモデルとして、例えば、後段の翻訳部１０と同様のリカレントニューラルネットワークを用いることにより、入力文章の単語だけでなく語順や表現等も考慮して最適なカテゴリ分類が可能になる。
【００３９】
本実施形態の機械翻訳装置１により、語彙数を複数の翻訳部１０に分散させることができ、翻訳処理を高速化することができる。また、判定部１１により、ユーザはどのカテゴリで翻訳するかを意識することなく機械翻訳装置１に文章を入力できるため、ユーザから見ると膨大な語彙を扱える機械翻訳装置１になっている。したがって、膨大な語彙を扱える機械翻訳装置１をＧＰＵ（Graphics  Processing  Unit）を用いず、ＣＰＵ（Central  Processing  Unit）でリアルタイムに動作させることができるようになり、計算機コストを削減することが可能になる。図６は、語彙数と翻訳処理時間との関係の一例を示すグラフである。グラフが示す通り、従来技術による機械翻訳では、語彙数が増えるほど翻訳処理時間は２乗に比例して増加する。一方、機械翻訳装置１の処理時間は語彙数が増えても線形に増加するが、従来技術に比べて小さい。したがって、少ない語彙数の翻訳部１０を複数用意し、判定部１１で適切なカテゴリの翻訳部１０に振り分ける方が高速に処理できることになる。また、翻訳部１０を専用のカテゴリに特化させることによって、カテゴリ特有の言い回し等もうまく翻訳できる効果があり、精度向上の面でもメリットがある。
【００４０】
ニューラルネットワークを用いた従来技術では、語彙数が大きくなればなるほど、入力ベクトルのサイズや出力ベクトルのサイズが大きくなり、学習や翻訳の計算に時間がかかるという課題がある。これは、膨大な語彙データのひとつひとつにＩＤを割り当て、ＩＤの数を次元数とする入力ベクトルと出力ベクトルをニューラルネットワークの学習に使うため、ベクトルのサイズが大きくなり、ニューラルネットワークのサイズも大きくなるため、計算時間が大きくなってしまうからである。扱う語彙数が増えれば増える程大きくになり、現状では５万ワード程度の語彙数がＣＰＵでリアルタイムに翻訳できるレベルである。より膨大な語彙を扱うためには、高性能なＧＰＵを並列に使う必要があり計算機コストが高くなってしまう。
【００４１】
本実施形態の機械翻訳装置１は、ニューラルネットワークを用いた機械翻訳システムの分散処理および精度向上に関する。機械翻訳装置１は、翻訳部１０を複数用意し、各翻訳部１０を特定のカテゴリに特化させ、個々の翻訳部１０が扱う語彙数を小さくすることで、計算時間を小さくする。また、判定部１１で、入力文章を最適なカテゴリに振り分けることで、入力側からはさまざまなカテゴリの文章を扱える機械翻訳システムを実現することができる。
【００４２】
機械翻訳装置１の変形例である機械翻訳装置１Ａは、入力文を所定の種類のドメインに分類するドメイン分類部と、前記ドメインごとの機械翻訳部を備え、前記機械翻訳部の学習に用いるドメイン専用コーパスを、前記ドメイン分類部の学習に用いることを特徴とし、前記ドメイン分類部が、入力文が最も適するドメインを識別し、識別したドメインの機械翻訳部で入力文を翻訳し、翻訳結果を出力する。前記ドメイン分類手段が、リカレント・ニューラルネットワークで構成された識別器であってもよい。前記ドメイン分類部を構成するリカレント・ニューラルネットワークの学習に、各ドメインの機械翻訳部を学習させる各ドメイン用コーパスを利用してもよい。機械翻訳装置１Ａは、入力文を単語に分割する形態素解析部を備え、前記ドメイン分類部のリカレント・ニューラルネットワークにおいて、単語をベクトルに変換する手段を備え、前記ベクトルを前記リカレント・ニューラルネットワークの入力層への入力としてもよい。機械翻訳装置１Ａは、入力文の単語を前記リカレント・ニューラルネットワークに順次入力し、入力が終了した時点での中間層から出力層のベクトルを生成し、出力層のベクトル値から各ドメインの尤度を計算してもよい。
【００４３】
なお、上記実施の形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック（構成部）は、ハードウェア及び／又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的及び／又は論理的に結合した１つの装置により実現されてもよいし、物理的及び／又は論理的に分離した２つ以上の装置を直接的及び／又は間接的に（例えば、有線及び／又は無線）で接続し、これら複数の装置により実現されてもよい。
【００４４】
例えば、本発明の一実施の形態における機械翻訳装置１などは、本発明の判別方法及び機械翻訳方法の処理を行うコンピュータとして機能してもよい。図７は、本発明の一実施の形態に係る機械翻訳装置１のハードウェア構成の一例を示す図である。上述の機械翻訳装置１は、物理的には、プロセッサ１００１、メモリ１００２、ストレージ１００３、通信装置１００４、入力装置１００５、出力装置１００６、バス１００７などを含むコンピュータ装置として構成されてもよい。
【００４５】
なお、以下の説明では、「装置」という文言は、回路、デバイス、ユニットなどに読み替えることができる。機械翻訳装置１のハードウェア構成は、図に示した各装置を１つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
【００４６】
機械翻訳装置１における各機能は、プロセッサ１００１、メモリ１００２などのハードウェア上に所定のソフトウェア（プログラム）を読み込ませることで、プロセッサ１００１が演算を行い、通信装置１００４による通信や、メモリ１００２及びストレージ１００３におけるデータの読み出し及び／又は書き込みを制御することで実現される。
【００４７】
プロセッサ１００１は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ１００１は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置（ＣＰＵ）で構成されてもよい。例えば、上述の翻訳部１０、判定部１１及び制御部１２などは、プロセッサ１００１で実現されてもよい。
【００４８】
また、プロセッサ１００１は、プログラム（プログラムコード）、ソフトウェアモジュールやデータを、ストレージ１００３及び／又は通信装置１００４からメモリ１００２に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施の形態で説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、翻訳部１０、判定部１１及び制御部１２は、メモリ１００２に格納され、プロセッサ１００１で動作する制御プログラムによって実現されてもよく、他の機能ブロックについても同様に実現されてもよい。上述の各種処理は、１つのプロセッサ１００１で実行される旨を説明してきたが、２以上のプロセッサ１００１により同時又は逐次に実行されてもよい。プロセッサ１００１は、１以上のチップで実装されてもよい。なお、プログラムは、電気通信回線を介してネットワークから送信されても良い。
【００４９】
メモリ１００２は、コンピュータ読み取り可能な記録媒体であり、例えば、ＲＯＭ（Read  Only  Memory）、ＥＰＲＯＭ（Erasable  Programmable  ＲＯＭ）、ＥＥＰＲＯＭ（Electrically  Erasable  Programmable  ＲＯＭ）、ＲＡＭ（Random  Access  Memory）などの少なくとも１つで構成されてもよい。メモリ１００２は、レジスタ、キャッシュ、メインメモリ（主記憶装置）などと呼ばれてもよい。メモリ１００２は、本発明の一実施の形態に係る判別方法及び機械翻訳方法を実施するために実行可能なプログラム（プログラムコード）、ソフトウェアモジュールなどを保存することができる。
【００５０】
ストレージ１００３は、コンピュータ読み取り可能な記録媒体であり、例えば、ＣＤ−ＲＯＭ（Compact  Disc  ROM）などの光ディスク、ハードディスクドライブ、フレキシブルディスク、光磁気ディスク（例えば、コンパクトディスク、デジタル多用途ディスク、Ｂｌｕ−ｒａｙ（登録商標）ディスク）、スマートカード、フラッシュメモリ（例えば、カード、スティック、キードライブ）、フロッピー（登録商標）ディスク、磁気ストリップなどの少なくとも１つで構成されてもよい。ストレージ１００３は、補助記憶装置と呼ばれてもよい。上述の記憶媒体は、例えば、メモリ１００２及び／又はストレージ１００３を含むデータベース、サーバその他の適切な媒体であってもよい。
【００５１】
通信装置１００４は、有線及び／又は無線ネットワークを介してコンピュータ間の通信を行うためのハードウェア（送受信デバイス）であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。例えば、制御部１２などは、通信装置１００４で実現されてもよい。
【００５２】
入力装置１００５は、外部からの入力を受け付ける入力デバイス（例えば、キーボード、マウス、マイクロフォン、スイッチ、ボタン、センサなど）である。出力装置１００６は、外部への出力を実施する出力デバイス（例えば、ディスプレイ、スピーカー、ＬＥＤランプなど）である。なお、入力装置１００５及び出力装置１００６は、一体となった構成（例えば、タッチパネル）であってもよい。
【００５３】
また、プロセッサ１００１やメモリ１００２などの各装置は、情報を通信するためのバス１００７で接続される。バス１００７は、単一のバスで構成されてもよいし、装置間で異なるバスで構成されてもよい。
【００５４】
また、機械翻訳装置１は、マイクロプロセッサ、デジタル信号プロセッサ（ＤＳＰ：Digital  Signal  Processor）、ＡＳＩＣ（Application  Specific  Integrated  Circuit）、ＰＬＤ（Programmable  Logic  Device）、ＦＰＧＡ（Field  Programmable  Gate  Array）などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ１００１は、これらのハードウェアの少なくとも１つで実装されてもよい。
【００５５】
情報の通知は、本明細書で説明した態様／実施形態に限られず、他の方法で行われてもよい。例えば、情報の通知は、物理レイヤシグナリング（例えば、ＤＣＩ（Downlink  Control  Information）、ＵＣＩ（Uplink  Control  Information））、上位レイヤシグナリング（例えば、ＲＲＣ（Radio  Resource  Control）シグナリング、ＭＡＣ（Medium  Access  Control）シグナリング、報知情報（ＭＩＢ（Master  Information  Block）、ＳＩＢ（System  Information  Block）））、その他の信号又はこれらの組み合わせによって実施されてもよい。また、ＲＲＣシグナリングは、ＲＲＣメッセージと呼ばれてもよく、例えば、ＲＲＣ接続セットアップ（RRC  Connection  Setup）メッセージ、ＲＲＣ接続再構成（RRC  Connection  Reconfiguration）メッセージなどであってもよい。
【００５６】
本明細書で説明した各態様／実施形態は、ＬＴＥ（Long  Term  Evolution）、ＬＴＥ−Ａ（LTE-Advanced）、ＳＵＰＥＲ  ３Ｇ、ＩＭＴ−Ａｄｖａｎｃｅｄ、４Ｇ、５Ｇ、ＦＲＡ（Future  Radio  Access）、Ｗ−ＣＤＭＡ（登録商標）、ＧＳＭ（登録商標）、ＣＤＭＡ２０００、ＵＭＢ（Ultra  Mobile  Broadband）、ＩＥＥＥ  ８０２．１１（Ｗｉ−Ｆｉ）、ＩＥＥＥ  ８０２．１６（ＷｉＭＡＸ）、ＩＥＥＥ  ８０２．２０、ＵＷＢ（Ultra-WideBand）、Ｂｌｕｅｔｏｏｔｈ（登録商標）、その他の適切なシステムを利用するシステム及び／又はこれらに基づいて拡張された次世代システムに適用されてもよい。
【００５７】
本明細書で説明した各態様／実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本明細書で説明した方法については、例示的な順序で様々なステップの要素を提示しており、提示した特定の順序に限定されない。
【００５８】
入出力された情報等は特定の場所（例えば、メモリ）に保存されてもよいし、管理テーブルで管理してもよい。入出力される情報等は、上書き、更新、または追記され得る。出力された情報等は削除されてもよい。入力された情報等は他の装置へ送信されてもよい。
【００５９】
判定は、１ビットで表される値（０か１か）によって行われてもよいし、真偽値（Boolean：trueまたはfalse）によって行われてもよいし、数値の比較（例えば、所定の値との比較）によって行われてもよい。
【００６０】
本明細書で説明した各態様／実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、所定の情報の通知（例えば、「Ｘであること」の通知）は、明示的に行うものに限られず、暗黙的（例えば、当該所定の情報の通知を行わない）ことによって行われてもよい。
【００６１】
以上、本発明について詳細に説明したが、当業者にとっては、本発明が本明細書中に説明した実施形態に限定されるものではないということは明らかである。本発明は、特許請求の範囲の記載により定まる本発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本明細書の記載は、例示説明を目的とするものであり、本発明に対して何ら制限的な意味を有するものではない。
【００６２】
ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
【００６３】
また、ソフトウェア、命令などは、伝送媒体を介して送受信されてもよい。例えば、ソフトウェアが、同軸ケーブル、光ファイバケーブル、ツイストペア及びデジタル加入者回線（ＤＳＬ）などの有線技術及び／又は赤外線、無線及びマイクロ波などの無線技術を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び／又は無線技術は、伝送媒体の定義内に含まれる。
【００６４】
本明細書で説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
【００６５】
なお、本明細書で説明した用語及び／又は本明細書の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。
【００６６】
本明細書で使用する「システム」および「ネットワーク」という用語は、互換的に使用される。
【００６７】
また、本明細書で説明した情報、パラメータなどは、絶対値で表されてもよいし、所定の値からの相対値で表されてもよいし、対応する別の情報で表されてもよい。例えば、無線リソースはインデックスで指示されるものであってもよい。
【００６８】
上述したパラメータに使用する名称はいかなる点においても限定的なものではない。さらに、これらのパラメータを使用する数式等は、本明細書で明示的に開示したものと異なる場合もある。様々なチャネル（例えば、ＰＵＣＣＨ、ＰＤＣＣＨなど）及び情報要素（例えば、ＴＰＣなど）は、あらゆる好適な名称によって識別できるので、これらの様々なチャネル及び情報要素に割り当てている様々な名称は、いかなる点においても限定的なものではない。
【００６９】
本明細書で使用する「判断（determining）」、「決定（determining）」という用語は、多種多様な動作を包含する場合がある。「判断」、「決定」は、例えば、判定（judging）、計算（calculating）、算出（computing）、処理（processing）、導出（deriving）、調査（investigating）、探索（looking  up）（例えば、テーブル、データベースまたは別のデータ構造での探索）、確認（ascertaining）した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、受信（receiving）（例えば、情報を受信すること）、送信（transmitting）（例えば、情報を送信すること）、入力（input）、出力（output）、アクセス（accessing）（例えば、メモリ中のデータにアクセスすること）した事を「判断」「決定」したとみなす事などを含み得る。また、「判断」、「決定」は、解決（resolving）、選択（selecting）、選定（choosing）、確立（establishing）、比較（comparing）などした事を「判断」「決定」したとみなす事を含み得る。つまり、「判断」「決定」は、何らかの動作を「判断」「決定」したとみなす事を含み得る。
【００７０】
「接続された（connected）」、「結合された（coupled）」という用語、又はこれらのあらゆる変形は、２又はそれ以上の要素間の直接的又は間接的なあらゆる接続又は結合を意味し、互いに「接続」又は「結合」された２つの要素間に１又はそれ以上の中間要素が存在することを含むことができる。要素間の結合又は接続は、物理的なものであっても、論理的なものであっても、或いはこれらの組み合わせであってもよい。本明細書で使用する場合、２つの要素は、１又はそれ以上の電線、ケーブル及び／又はプリント電気接続を使用することにより、並びにいくつかの非限定的かつ非包括的な例として、無線周波数領域、マイクロ波領域及び光（可視及び不可視の両方）領域の波長を有する電磁エネルギーなどの電磁エネルギーを使用することにより、互いに「接続」又は「結合」されると考えることができる。
【００７１】
参照信号は、ＲＳ（Reference  Signal）と略称することもでき、適用される標準によってパイロット（Pilot）と呼ばれてもよい。
【００７２】
本明細書で使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。
【００７３】
本明細書で使用する「第１の」、「第２の」などの呼称を使用した要素へのいかなる参照も、それらの要素の量または順序を全般的に限定するものではない。これらの呼称は、２つ以上の要素間を区別する便利な方法として本明細書で使用され得る。したがって、第１および第２の要素への参照は、２つの要素のみがそこで採用され得ること、または何らかの形で第１の要素が第２の要素に先行しなければならないことを意味しない。
【００７４】
上記の各装置の構成における「手段」を、「部」、「回路」、「デバイス」等に置き換えてもよい。
【００７５】
「含む（including）」、「含んでいる（comprising）」、およびそれらの変形が、本明細書あるいは特許請求の範囲で使用されている限り、これら用語は、用語「備える」と同様に、包括的であることが意図される。さらに、本明細書あるいは特許請求の範囲において使用されている用語「または（or）」は、排他的論理和ではないことが意図される。
【００７６】
本開示の全体において、例えば、英語でのa、an及びtheのように、翻訳により冠詞が追加された場合、これらの冠詞は、文脈から明らかにそうではないことが示されていなければ、複数のものを含むものとする。
【符号の説明】
【００７７】
１…機械翻訳装置、１０…翻訳部、１１…判定部、１２…制御部、１００１…プロセッサ、１００２…メモリ、１００３…ストレージ、１００４…通信装置、１００５…入力装置、１００６…出力装置。
【図１】
2019139629.tif 000003
【図２】
2019139629.tif 000004
【図３】
2019139629.tif 000005
【図４】
2019139629.tif 000006
【図５】
2019139629.tif 000007
【図６】
2019139629.tif 000008
【図７】
2019139629.tif 000009