セルバーグ跡公式
K ( x , y ) = ∑ γ ∈ Γ f ( x − 1 γ y ) {\displaystyle K(x,y)=\sum _{\gamma \in \Gamma }f(x^{-1}\gamma y)}
によって定義される積分作用素である。積分核によって定義される作用素の跡は、核関数の対角集合に沿っての積分と等しくなることが知られている。つまり
tr  ( R ( f ) ) = ∫ Γ ∖ G K ( x , x ) d x {\displaystyle \operatorname {tr} (R(f))=\int _{\Gamma \backslash G}K(x,x)\mathrm {d} x}
が成り立つ。右辺の K を f に戻して計算を進めると
tr  ( R ( f ) ) = ∑ γ ∈ { Γ } vol  ( Γ γ ∖ G γ ) ∫ G γ ∖ G f ( x − 1 γ x ) d x {\displaystyle \operatorname {tr} (R(f))=\sum _{\gamma \in \{\Gamma \}}\operatorname {vol} (\Gamma _{\gamma }\backslash G_{\gamma })\int _{G_{\gamma }\backslash G}f(x^{-1}\gamma x)\mathrm {d} x}
コンパクトなリーマン面(英語版) S の場合は、特に興味をもたれている場合である。1956年にアトル・セルバーグ(Atle Selberg)が最初に論文を出したときは、ラプラス微分作用素とそのベキがこの場合を扱った。ラプラシアンのベキのトレースは、セルバーグゼータ函数を使い定義することができる。この場合の興味は、得られた公式と素数の理論の L-函数の明示公式との関係である。そこでは S 上の閉じた測地線が素数の役割を担う。
同時に、ヘッケ作用素のトレースも、セルバーグとマルティン・アイヒラー(英語版)(Martin Eichler)のアイヒラー・セルバーグ跡公式(Eichler-Selberg trace formula)と関連していて、ヘッケ作用素は与えられたウェイトのモジュラー群の合同部分群(英語版)に対しカスプ形式のベクトル空間の上に作用する。ここに、同一視する作用素のトレースは、ベクトル空間の次元、すなわち、与えられたモジュラー形式の空間の次元であり、リーマン・ロッホの定理により伝統的な方法の計算で求めることができる。