品質と網羅性に基づくデータ選択による言語モデルの効率的学習

教師あり微調整（SFT）の学習データ選択は，学習コストを抑えつつ性能を確保するうえで重要である．本稿では，学習前後のモデルにおけるクロスエントロピー（CE）の変化から訓練事例の学習価値を推定し，埋め込み表現の類似度に基づく冗長性除去と組み合わせた選択手法を検討する．OLMo-2-1BのSFTデータセットで実験した結果，単純な上位選択よりも，類似度除去を併用することで，少量データでもランダム選択と同等以上の性能が得られる傾向を確認した．また，類似度推定に用いるテキスト範囲や埋め込み構成の違いが結果に影響することを示す．