自己回帰デコーディングでは一度に1つのトークンしか生成せず、メモリバンド幅の制約から推論速度が低下する問題点がありました。一方で再帰的仮説的デコーディングでは小さな言語モデル（draft model）を使用し、「予想」したトークンシーケンスを並列処理しながら生成し、「ターゲット」言語モデル（LLM）でその妥当性検証や修正作業を同時並行で行います。この方法によって推論速度向上や計算資源効率化が図られる点で自己回帰デコーディングと異なります。