量子計算を用いたダイレクトモデル

近年機械学習モデルは，実社会適用を意識した複雑なタスクでの成果を期待されている．そうしたタスクは一般に複数のモジュールを用いて実装される．複数のモジュールでの処理を順次通過するようなタスクでの一般的な実装として，カスケードモデルとEnd-to-Endモデルが挙げられる．カスケードモデルは複数のモジュールを結合させてタスクに適用する．この手法は各モデルを分離して学習可能なため汎用性が高い．一方で各モデル間の結合はモデルの入出力であるテキストなどの離散シンボル列を用いるため，機械学習モデルが内部に持つパラメータの情報は一部欠損し[1]，またモジュールごとの誤差が伝搬していく[2]という問題がある．前モデルの出力を複数入力するn-best[3]や，出力を実数ベクトルのまま次モデルに入力するtightintegration[4]等の対策が存在するが，依然として情報欠損の課題は解決されていない．End-to-Endモデルはディープラーニング研究の発展により，大きな成果を得た手法である．ニューラルネットワークを用いてモジュールを結合・通貫して学習させることで，入力から最終出力までを一度に計算できる．この手法は中間出力による情報の欠損が無く，前モデルからの誤り伝搬も無いため，カスケードモデルより高い精度が期待される．実際に音声翻訳の領域では，韻律情報を保ったまま翻訳を行うことで，カスケードモデルより精度を向上させたケースも存在する[5]．しかしながら標準的な評価データセットでは，カスケードモデル優位になることが多い[2]．これはEnd-to-Endモデルの学習には入出力に対応したペアデータが必要で，これまで個々のモジュール用に整備されてきたデータをうまく利活用できないためである[6]．このようにEnd-to-Endモデルは高い性能を示す可能性がある一方で，その取り回しに課題がある．本研究ではカスケードモデルの情報欠損とEnd-to-Endモデルの学習コストという課題にアプローチするため，量子計算の性質に着目する．量子機械学習モデルはカスケードモデルのように各モデルを独立に学習しつつ，中間出力を量子状態で受け渡し可能である．そのためEnd-to-Endモデルが抱えるモジュールの取り回しの問題を解決しながら，モジュール間のエラー伝搬や情報欠損の問題を解消できる可能性がある．具体的には前段モデルの最終層及び後段モデルの先頭層に量子機械学習モデルを取り入れることで，中間出力における情報欠損の抑制を行う．本論文では,前段モデルを音声認識，後段モデルを対話状態追跡とするようなタスク設定において，量子機械学習を用いたダイレクトモデルを提案し，その効果を検証した．