大規模言語モデルに対するチューニング手法の調査：内部のアクセス性に基づく分類と比較

現在，大規模言語モデル（LLM）は幅広い分野において注目されている．LLMは特定のタスクに対して最適化することで幅広いタスクを解くことができる．モデルをタスクに対して最適化する技術をチューニングと呼ぶ．チューニングのアプローチは大きく二つに分けられる．1つ目のアプローチは言語モデル内部のパラメータを最適化する手法である．このアプローチの代表的なチューニング手法は微調整である[1]．微調整はモデル内部のパラメータを教師あり学習を介してタスクに最適化する手法である．2つ目のアプローチは文脈内学習である．文脈内学習は入力文にタスクの情報を追加する．タスクについての指示文や具体的な事例を入力文に追加することで，モデルのパラメータを更新することなく，チューニングを実現する．チューニング手法はモデルのアクセス性によって適用できるアプローチが異なる．例えばモデル内部へのアクセスを制限しているブラックボックスモデルは内部のパラメータにアクセスできない．そのた(a).ホワイトボックスチューニングパラメータ内部状態入力文(b).ブラックボックスチューニングパラメータ内部状態タスクに適応した出力入力文(c).グレーボックスチューニングパラメータ内部状態入力文際にモデル内部のどの情報にアクセスするかで分類する．内部状態は入力文の埋め込みや各層の情報，生成確率などを意味する．各チューニングの分類は青色の部分を固定し，赤色の部分に更新を行う．チューニングの際，灰色の部分の情報にはアクセスしない．めパラメータを最適化するアプローチは適用することができない．本研究は，現状研究されているチューニング手法を適用できるモデルのアクセス性によって分類した．分類はモデル内の全てにアクセスできるホワイトボックスチューニング，内部の情報に一切アクセスしないブラックボックスチューニング，パラメータ以外にアクセスを行うグレーボックスチューニングである（図1）．これらの分類に属する手法をそれぞれ多角的に比較する．また，各分類のチューニング手法はこれまでに公平な比較がされていない．そこで，本研究では各分類の代表的なチューニング手法を選択し，性能面とコスト面の2つの観点から比較する．そして，チューニング手法の分類と比較をもとに今後のチューニング手法の発展について考察を行う．.