検索クエリログを用いない自然な質問のマイニングの検討

「引っ越しに伴う必要な手続きを教えてください」といった，情報欲求に起因して自然発生する質問をNaturalQuestions（自然な質問）[1,2]と呼ぶ．自然な質問のマイニングには様々な応用がある．例えば，大規模言語モデル向けの指示学習（質問応答）データセットの人手構築に対して，質問の作成コスト軽減や多様化が期待できる．また，商品・サービスに対する自然な質問が収集できれば，需要分析に有用である．このように，自然な質問のマイニングには一定の需要がある．ウェブが普及した現代では，多くのユーザが情報を欲し，質問をする際にGoogle検索といった検索エンジンを用いる．検索エンジンには通常，1語目に情報欲求の対象を，2語目以降にAND検索の形で質問の観点を入力する（図1）．ここで，既存研究[3]の言葉を借りて，1語目をクエリフォーカス，2語目以降を情報要求観点またはサジェストと呼ぶ．本研究では，自然な質問をクエリフォーカスと情報要求観点を表すキーワード列で相当程度表現できるとみなす．自然な質問をマイニングする素朴なアプローチとして，検索エンジンのクエリログを利用すること[1,2]が挙げられる．しかし，検索クエリログは一般利用可能でなく1），自前の検索エンジンを持たない個人・企業が自然な質問をマイニングする手法は自明でない．また，コーパスから疑問表現を手がかりに質問文を抽出する[5]というアプローチも考えられるが，ノイズに対処し，内容を分析するために抽出された質問文から情報欲求の対象や質問の観点を解析する必要がある．その他の取り組みに目を向けると，自然な質問のマイニングの関連タスクとして，与えられたテキスト・画像の内容に対する質問文を生成するQuestionGeneration（質問生成タスク）[6,7]がある．しかし，質問生成タスクで盛んに取り組まれているのは答えが短文となる質問文の生成であり[8]，多様な質問文の収集は主目的でない．本研究では，検索クエリログが利用可能でない状況を考え，テキスト生成モデルを用いた自然な質問のマイニング手法を提案する．具体的にはまず，クエリフォーカスを指定し，その情報要求観点がマスクされたテンプレート文を生成する．次に，テキスト生成モデルT5[9]を用いてマスクされたスパンを予測させることで，情報要求観点の候補を獲得する．最後に，大規模言語モデル(LLM)を用いて指定したクエリフォーカスと予測された情報要求観点から自然言語の質問文を生成する．1）GoogleSuggest/AutocompleteAPIはGoogle検索のサジェストを取得できる一般アクセス可能なAPIであり，これを用いて構築されたデータセットもある[4]が，利用規約が不明瞭であるため，本研究では利用可能でないものとして扱う．.提案手法は，大規模な生コーパスにも自然な質問を表す文が相当程度含まれており，事前学習を通してモデルがよくある疑問を記憶していることを仮定している．また，クエリフォーカスと情報要求観点を表すキーワード列から質問文を生成するため，質問内容を制御しやすい利点があると考えられる．本稿では，一般および金融ドメインのキーワードをクエリフォーカスとして25個ずつ指定し，Google検索のサジェストを正解としたT5による情報要求観点の予測性能を定量的に評価する．また，クエリフォーカスと情報要求観点からの質問文生成について，生成結果を定性的に分析する．