本研究では利用規約が読まれていないことで起こるユーザと企業の双方の問題やトラブルを指摘し，その問題を軽減するため，冗長な利用規約をわかりやすく自動要約する方法が有効であると考えられる．しかし，自動要約の評価には，人間評価者の応用が必要となり，近年公開されている数多くの言語モデルの内，どのモデルが最適しているかの評価が困難となっている．そこで，自動要約の評価を効率化させるために，文書を要約する前にその文書を理解しなければならないという考えのもと，質問応答のタスクを用いて最適な言語モデルを選抜する．その中で，3つの質問応答データセットを用いて単言語・多言語両方種類の複数の言語モデルを微調整を行うことで，日本語の質問応答タスクのおいて優れた言語モデルと，優れたパラメーター（学習率等）について検証し，その結果について報告する．

インターネットの普及に伴いさまざまなサービスが配信されており，それらの多くは利用開始時に利用規約に同意することが求められている．サービスの内容や社会的役割の増大に併せて文章量が増加・複雑化しているためか，利用規約を読まないユーザは多くいることが報告されている[1]．例としてTwitterの利用規約1）は11,432文字，Linkedinの利用規約2）は13,233文字，Facebookの利用規約3）は15,852文字と原稿用紙にして30枚以上もの文量である．これらの冗長な利用規約はサービスを利用するユーザだけでなく，サービスを提供する企業にとっても問題を生む可能性がある．ユーザにとっては利用規約を読まないことで詐欺などの危険や不利益を被る可能性があり，企業側にとっては禁止事項1）https://twitter.com/ja/tos2）https://jp.linkedin.com/legal/user-agreement3）https://ja-jp.facebook.com/legal/termsの伝達漏れ等によるトラブルを誘発する可能性がある．このような問題を軽減する手法の一つとして，ユーザにとって読みやすくするために，冗長な利用規約をわかりやすく要約し，ユーザによる読解率を上げることである．しかし，企業の作業員が行う人手のみによる利用規約を要約する作業は，時間及び人件費がかかり，さらに利用規約の内容が法律に合わせて定期的に更新しなければならないことからすると，人手にて行うことは極めて非効率的である．その課題を解決するためには，文章の自動要約の技術を使うという方法が挙げられる．要約とは元の意味が変わらないように文章を短くすることであり，正確な要約を行うためにはその文章の意味や内容を正しく理解する必要がある．そこで，我々はこのような要約時における入念な理解の重要性に着目し，言語モデルにあらかじめ要約対象文を理解4）させることで自動要約の精度を向上できると考えた．そこで本研究では，要約対象文を理解した状態を「要約対象文に関する質問に正しく答えられる状態」と見なし，質問応答のタスクで学習させた言語モデルがどの程度の精度で自動要約を行えるかを調査する．本論文では具体的に質問応答の部分に焦点を当て，最も高い精度を出せる事前学習済み言語モデルを調査した結果を報告する．