大規模言語モデルは，重みの勾配や最適化状態を保持するため，推論時よりも訓練時に要求されるGPUメモリ量が多いことが知られている．したがって，例えば同一の計算資源上で基盤モデルの訓練と推論を行う際には，基盤モデルのサイズは訓練時の資源制約から決定されるため，推論時にはGPUメモリの余剰が発生する．本研究ではこの推論時のメモリの余剰に着目し，これを活用してLoRAモデルの性能を向上させる新たな量子化-LoRAフレームワークとして，PostLoRARestoration（PLR）を提案する．評価実験の結果，訓練時の計算コストはそのままに，PLRによる最大12倍の精度向上が確認できた．

近年のLargeLanguageModel（LLM）のパラメータサイズの大規模化は，モデルの性能を飛躍的に向上させた一方で，計算コストの増加という新たな課題を生んでいる[1,2]．その結果，LLMの運用に伴うインフラコストが上昇し，十分な計算資源を持たない組織やユーザーがLLMを構築・運用することが困難となっている．言語モデルは学習外の知識に対してはその性能を十分に発揮できないことが知られており[3]，未学習のドメインに対してLLMを適応させるFine-Tuning（FT）が必要となるが，これには膨大な計算資源が求められる．こうした背景から，計算資源に制限がある状況下でLLMのFTと推論を行うために，Low-RankAdaptation（LoRA）とQuantization（量子化）を組み合わせた技術が研究されてきた（[4,5,6,7]）．LoRAは，基盤モデルのFTの際にモデルの重みを直接更新するのではなく，代わりにAdapterと呼ばれる低ランクな補助行列をLLMの各LoRAQLoRAxinxinAAPTQWbase𝑾"baseWbaseBBxoutxout*PLRxinPTQA𝑾"baseWbaseWbase:FreezedB:FineTuningxoutQLoRA）の概念図．量子化後のモデルに対しAdapterの学習を行うQLoRAに対し，PLRでは高bit幅へ復元された基盤モデルにQLoRAで学習したAdapterがマージされる．層にマージし，それを訓練することで計算コストを削減する手法である．一方で量子化は，通常は16-bitのデータ型で表現されるLLMの重みを8-bitや4-bit，あるいはそれ以下に圧縮し，モデル自体の軽量化を図る技術である．この二つの技術の併用により，LLMの訓練・推論時のGPUメモリを大幅に削減できるため，少ない計算資源で高精度なモデルを構築することが可能となる．既存の量子化-LoRAフレームワークでは，訓練時と推論時の二つのフェーズで利用可能な計算資源（特にGPUメモリ）を比較し，よりメモリ制約の厳しいフェーズに合わせて基盤モデルのパラメータサイズが選択される．しかし，このプロセスにより，もう一方のフェーズでは計算資源の余剰が生じ，計算資源を有効に活用できていない可能性がある．このような状況が想定される具体例の一つに，同一の計算資源上でLoRAの訓練と推論を行うシナリオが考えられる．一般的に，言語モデルの訓練時に.は，訓練の対象となるパラメータの勾配とその最適化状態を保持する必要があるため，推論時よりも多くのGPUメモリが必要となる．したがって，訓練時に要求されるメモリ量に合わせて基盤モデルを採用した際には，推論時にGPUメモリの余剰が生じる．そこで本研究では，訓練時と推論時に要求される計算コストのギャップから生じるGPUメモリの余剰を有効に活用するためのフレームワークとして，PostLoRARestoration（PLR）を提案する．PLRは，訓練時の資源制約から生まれる推論時のメモリの余剰を活用し，量子化された基盤モデルの復元を行う．これにより，より重みの精度が高い基盤モデルを推論時に活用することが可能となり，言語モデルの各タスクに対する処理性能の向上が期待できる．