言語モデルが生成したテキストを書き換えるタスク非依存の復号手法

本稿では，校正にかかるコストの削減を目的とし言語モデルは流暢なテキスト生成を可能とし幅広て，言語モデルが生成したテキストを対象に，指定い生成タスクに使用されているが，その出力は常にした区間を書き換えるタスクを提案する．ただし，正しいとは限らない．そのため，実際には言語モデ本タスクで対象とする言語モデルは，要約や翻訳なルによって生成されたテキストを手作業で校正するどの特定のタスクに応じたテキストの生成を目的必要があるが，これは時間のかかる作業である．本とした言語モデルに限定し，書き換えられたテキ稿では指定された区間のテキストを書き換えるタスストはそのタスクに応じた特性を満たす必要があク，および書き換えのための復号手法の拡張を提案る．例えば，文書要約を行う言語モデルの生成したする．提案手法は書き換えたいテキストの生成に使テキストを対象にした書き換えでは，書き換えられ用した言語モデルを再利用するため，追加のモデルたテキストも入力文書の要約である必要がある．その学習やデータセットを必要とせずテキストを書きのため，一般的な知識から一部が欠落したテキスト換えることができる．実験では要約タスクと翻訳タの穴埋めを行うtext-inﬁlling[2]や，テキストの意味スクにおける本手法の有効性を評価し，textinﬁllingを変えずに長さや文体の異なるテキストを生成すモデルとparaphraseモデルをベースラインとして比るparaphrasing[3,4]とはタスクの性質が異なる．ま較した．提案手法は品質と多様性の両方においてた，実際のシステムとして運用する場合，複数の書ベースラインを上回り，書き換えタスクへの有効性き換え候補から手動で最も良いものを選べた方が有を実証した．用である．そこで，本タスクでは複数の候補を生成し，その多様性も評価する．