拡散モデル
画像生成という問題を考える。 x {\displaystyle x} を画像とし、画像空間上の確率密度関数を p ( x ) {\displaystyle p(x)} とおく。もし p ( x ) {\displaystyle p(x)} 自体が与えられているならば、特定の画像が生成される確率を明確にすることができるが、一般には確率を知ることは難しい。
たいていの場合、特定の画像が生成される具体的な確率には興味がない。むしろ興味の対象は、その特定の画像が近傍の画像と比較してどの程度生成されやすいかである。例えば2本のひげが生えた猫の画像があるとき、その画像のわずかな変種(たとえば3本のひげが生えた猫の画像や、何らかのガウス雑音が加わった画像)と比較してどの程度生じやすいのか、が問題である。
したがって、興味の対象は p ( x ) {\displaystyle p(x)} そのものではなく、むしろ ∇ x ln  p ( x ) {\displaystyle \nabla _{x}\ln p(x)} である。これは2つの効果をもたらす。
第一に p ( x ) {\displaystyle p(x)} を正規化する必要がなく、 p ~ ( x ) = C p ( x ) {\displaystyle {\tilde {p}}(x)=Cp(x)} を用いることができる。