パイプライン型のタスク指向型音声対話システムにおいて，上流に位置する音声認識システムの音声認識誤りが後続処理に与える影響は大きい．本研究では，ユーザ発話のASR出力のN-best候補と直前のシステム発話のペアをBERTに入力し，NextSentencePredictionのアプローチでリランキングすることで，ASRシステムの音声認識誤りを低減させることを試みる．また，リランキング性能の向上を目的として，質問応答データセットを用いてBERTのﬁne-tuningを行う．実験では，音声認識誤りを付与したデータセットを作成し，リランキング手法適用前後の音声認識誤り率を測ることで有効性を示す．

タスク指向型の音声対話システムは，複数のモジュールから構成されるパイプライン型と，1つのモデルで全ての処理を行うEnd-to-End型の2つに分類される[1]．一般的なパイプライン型の音声対話システムは，自動音声認識（AutomaticSpeechRecognition;ASR）システムを用いて音声データであるユーザ発話をテキストに変換し，後段の各モジュールで言語理解（NaturalLanguageUnderstanding;NLU）や行動決定（Policy），対話状態追跡（DialogueStateTracking;DST）といった処理を行う[1]．パイプライン型の対話システムは各モジュールが独立しているため，機能ごとにモジュールを個別開発することができるほか，各モジュールの入出力が明確であり解釈しやすいという実応用上の利点がある．しかし，先行するモジュールから順番に処理される性質上，あるモジュールで生じたエラーが後続のモジュールにも影響を与え，対話能力が低下してしまう欠点が存在する．特に，パイプラインの上流に位置するASRシステムの音声認識誤りが後続処理Score0.34候補1LINER0.89候補20.44候補3BERTCLSUserUtteranceSEPSystemUtteranceSEP候補1個数をおっしゃってくださいハンコChoice3個候補2ASRN-best参考候補3・・・に与える影響は大きい．音声認識誤りは汎用ASRシステムを使用した場合により顕著に現れるが，[2]のような特定のドメインに特化したASRシステムを開発するためには多大なコストがかかる．そのため，音声認識誤りを改善することを目的として，BERT[3]などの大規模言語モデルを用いてASRシステム出力のN-best候補をリランキングする手法が数多く提案されてきた[4,5,6]．本研究では，直前のシステム発話を文脈情報として与え，ユーザ発話のASRN-best候補をリランキングすることで，ASRシステムの音声認識誤りを低減させることを試みる(図1参照)．N-best候補のリランキングは，BERTを用いてNextSentencePrediction(NSP)を行うことで実現する．さらに，数が非常に限られている日本語タスク指向型対話のデータセットの代わりに，質問応答データセットを用いてBERTのﬁne-tuningを行い，リランキング性能を向上させることを試みる．関連研究として，対話状態追跡(DialogueStateTracking;DST)タスクにおいては，質問応答データセットを用いて学習することで未知ドメインに対する性能が向上したことが報告されている[7,8]．.実験では，音声認識誤りを付与したデータセットを作成しリランキング後のASR出力の音声認識誤り率を測ることで，NSPおよび質問応答データセットを用いたﬁne-tuningの有効性を検証する．