フレドホルム理論
g ( x ) = ∫ K ( x , y ) f ( y ) d y {\displaystyle g(x)=\int K(x,y)f(y)\,dy}
この積分はフレドホルム積分方程式の形をしている。函数 K ( x , y ) {\displaystyle K(x,y)} は、グリーン函数、もしくは積分核として知られていて、核作用素と呼ばれることもある。
一般に、x と y が任意の多様体上の点であるとする。最も簡単なケースは、実数直線、あるいは、m-次元ユークリッド空間の場合である。一般の理論でも、函数が何らかの与えられた函数空間に属することを要求する。しばしば、二乗可積分函数が研究され、またソボレフ空間が現れる。
使われる実際の函数空間は、しばしば、微分作用素の固有値問題の解、つまり次式の解によって決まる。
L ψ n ( x ) = ω n ψ n ( x ) {\displaystyle L\psi _{n}(x)=\omega _{n}\psi _{n}(x)}
ここに、 ω n {\displaystyle \omega _{n}} は固有値であり、 ψ n ( x ) {\displaystyle \psi _{n}(x)} は、固有ベクトルである。固有ベクトルの集合はバナッハ空間を張り、内積が存在するときにはヒルベルト空間となる。ここに、リースの表現定理が適用される。
フレドホルム理論は、次の積分方程式の解を見つける理論である。
g ( x ) = ∫ a b K ( x , y ) f ( y ) d y {\displaystyle g(x)=\int _{a}^{b}K(x,y)f(y)\,dy}
この方程式は自然に物理学や数学の多くの問題に微分方程式の逆として自然に現れる。すなわち、次の微分方程式を解くことと同じことである。
L g ( x ) = f ( x ) {\displaystyle Lg(x)=f(x)}
ここに函数 f は与えられた既知のものであり、g は未知の函数である。ここに L は線型微分作用素である。例えば、L を次の式のような楕円型作用素とする。
L = d 2 d x 2 {\displaystyle L={\frac {d^{2}}{dx^{2}}}}
この場合には、解くべき方程式はポアソン方程式となる。この方程式を解く一般的な方法は、グリーン函数による解法である。つまり、直接、上の式を解こうとすることに替わり、次の方程式を解こうとするのである。
L K ( x , y ) = δ ( x − y ) {\displaystyle LK(x,y)=\delta (x-y)}
ここに、 δ ( x ) {\displaystyle \delta (x)} は、ディラックのデルタ函数であり、微分方程式の求めるべき解は次式のように書くことができる。
フレドホルム行列式は、普通、次のように定義される。
det ( I − λ K ) = exp  [ − ∑ n λ n n Tr K n ] . {\displaystyle \det(I-\lambda K)=\exp \left[-\sum _{n}{\frac {\lambda ^{n}}{n}}\operatorname {Tr} \,K^{n}\right].}
ここに
Tr K = ∫ K ( x , x ) d x {\displaystyle \operatorname {Tr} \,K=\int K(x,x)\,dx}
とし、また、
Tr λ 2 ( K ) = ∫∫ K ( x , y ) K ( y , x ) d x d y {\displaystyle \operatorname {Tr} \,\lambda ^{2}(K)=\iint K(x,y)K(y,x)\,dx\,dy}
とし、そのように続ける。対応するゼータ函数は、
ζ ( s ) = 1 det ( I − s K ) {\displaystyle \zeta (s)={\frac {1}{\det(I-sK)}}}
である。ゼータ函数はレゾルベントの行列式として考えることができる。
ゼータ函数は力学系の研究の中でも重要な役目を果たす。これは、リーマンゼータ函数を一般化したタイプであることに注意する。しかし、リーマンゼータ函数の場合は対応する核が知られていない。その場合の核の存在の予想がヒルベルト・ポリア予想として知られている。