トークン分割に起因する分散に基づくトークンベースのメンバーシップ推論の解釈

大規模言語モデルの訓練データに対するメンバーシップ推論に注目が集まる中，英語で有効とされるMin-K%Probのようなトークン絞り込みが，日本語では必ずしも良好な性能を示さないと報告されている．本研究はこの現象の解釈として，トークンベース手法の性能が，サンプル群におけるスコア分散に依存する点に着目する．更に，この分散が言語ごとのトークン分割の分散に起因すると仮定し，既存の実証結果を統一的に理解するための理論的枠組みを提供する．