合成データと能動学習を用いた大規模言語モデルへの効率的な知識定着

した最新の事象や，特定の領域・産業固有の知識に近年，大規模言語モデル（LLM）は膨大なWeb対応することは困難である．データを活用することで性能を大幅に向上させていこのような新たな知識や領域固有の情報をLLMる．しかし，実務適用においては，ドメイン固有のに付与するための手段としては，プロンプトチュー知識をモデル内部へ定着させる必要があり，これにニング（PromptTuning）やRAG（Retrieval-Augmented対して多様な手法が提案されてきた．また，単一のGeneration）[3]が提案されているが，PromptTuning事実をモデルに確実に学習させるためには，多角的では入力が長いほど計算コストが上昇する傾向がな文脈や表現を100～1,000回程度提示する必要がある．また，RAGは比較的実装が容易であり，外部あることが報告されているが，そのようなドメインデータベースを用いることで最新の情報に継続的にデータを十分に収集・整理するには多大なコストやアクセスできるため，実務面での活用が期待されて制約が伴う．本研究では，LLMに対する新たな知いる．一方で，あくまで外部知識ベースを参照する識定着を実現する継続事前学習に対して，複数の合にとどまり，モデルパラメーター自体を更新しない成データ生成手法を適用し，効率的な知識獲得方法ため，深い専門知識を内在化した高度な回答には限を検証した．さらに，能動学習を用いたデータセッ界があると指摘されている[4]．ト削減手法を組み合わせることで，知識定着をよりこれに対して，ファインチューニング（Fine-効率化する方法を検討した．実験の結果，事実ベーtuning）はモデルパラメーターの更新を伴う知識スの合成データ生成手法によって多様な合成データの埋め込みを実現し得る手法として期待されていを準備することで，単純な言い換え手法と比較してる．しかし，単純なSupervisedFine-Tuning（SFT）を学習回数を69％削減しつつ，モデル内部への知識用いて新たな知識を効率的に獲得することは難し定着が可能であることが明らかとなった．一方で，いことが指摘されている[5]．一方，継続事前学習能動学習手法による学習効率化は，合成データを用（ContinualPre-Training）[6]は，既存のLLMを再利いる環境下では期待した性能改善を示さなかった．用しつつ新たなドメイン知識を追加学習する手法であり，一からモデルを学習する場合（フルスクラッ