# Espace de Hilbert à noyau reproduisant

En analyse fonctionnelle, un espace de Hilbert à noyau reproduisant est un espace de Hilbert de fonctions pour lequel toutes les applications $f\mapsto f(x)$ sont des formes linéaires continues. De manière équivalente, il existe des espaces qu'on peut définir par des noyaux reproduisants. Le sujet a été originellement et simultanément développé par Nachman Aronszajn et Stefan Bergman en 1950. Les espaces de Hilbert à noyau reproduisant sont parfois désignés sous l’acronyme issu du titre anglais RKHS, pour Reproducing Kernel Hilbert Space.
Dans cet article, on suppose que les espaces de Hilbert sont complexes. La principale raison est qu'il existe de nombreux exemples d'espaces de Hilbert à noyau reproduisant qui sont des espaces de fonctions analytiques complexes, même s'il existe des espaces de Hilbert réels qui ont des noyaux reproduisants.
Un important sous-ensemble d'espaces de Hilbert à noyau reproduisant est constitué par les espaces de Hilbert à noyau reproduisant associés à un noyau continu. Ces espaces ont d'importantes applications, dans les domaines de l'analyse complexe, la mécanique quantique, les statistiques, l'analyse harmonique et l’apprentissage automatique.

## Définition

Soit X un ensemble arbitraire et H un espace de Hilbert de fonctions à valeurs complexes sur X. On dit que H est un espace de Hilbert à noyau reproduisant si pour tout x dans X, la forme linéaire
    $L_{x}:f\mapsto f(x)$
de H dans $\mathbb {C}$ est continue. D'après le théorème de représentation de Riesz, cela implique que pour tout x dans X, il existe un unique élément K$_x$ de H avec la propriété que:
    $f(x)=\langle f,\ K_{x}\rangle \quad \forall f\in H\quad (*).$
La fonction K$_x$ est appelée la fonction d'évaluation au point x.
Puisque H est un espace de fonctions, l'élément K$_x$ est lui-même une fonction définie sur X. Nous définissons la fonction $K:X\times X\to \mathbb {C}$ par
    $K(x,y)\ {\stackrel {\mathrm {def} }{=}}\ {\overline {K_{x}(y)}}.$
Cette fonction est appelée le noyau reproduisant pour l'espace de Hilbert H et elle est déterminée entièrement par H car le théorème de représentation de Riesz garantit, pour tout x dans X, que l'élément K$_x$ satisfaisant (*) est unique.

## Exemples

Par exemple, si X est fini et H est formé par toutes les fonctions à valeurs complexes sur X, alors un élément de H peut être représenté par une matrice colonne de nombres complexes. Si on utilise le produit scalaire hermitien canonique, alors K$_x$ est la fonction qui vaut 1 en x et 0 ailleurs, et K n'est autre que la matrice identité puisque K(x, y) = 1 si x = y et K(x, y) = 0 sinon. Dans ce cas, H est isomorphe à $\mathbb {C} ^{n}$.
Un exemple plus sophistiqué est l'espace de Bergman H $^2$(D) des fonctions holomorphes de carré intégrable sur le disque unité D. On peut montrer que le noyau reproduisant pour H $^2$(D) est
    $K(x,y)={\frac {1}{\pi }}{\frac {1}{(1-x{\overline {y}})^{2}}}.$
Ce noyau est un exemple de noyau de Bergman, nommé d'après Stefan Bergman.

## Propriétés
### Propriétés du noyau

Il est clair d'après la discussion ci-dessus que
    $K(x,y)\;=\;{\overline {K_{x}(y)}}\;=\;\langle K_{x},K_{y}\rangle .$
En particulier,
    $K(x,x)\;=\;\langle K_{x},K_{x}\rangle \;\geq \;0,\quad \forall x\in X.$
Notons que
    $K_{x}\;=\;0\quad {\text{ si et seulement si }}\quad f(x)=0\quad \forall \;f\in H.$

### Suites orthonormales

Si $\textstyle \left\{\phi _{k}\right\}_{k=1}^{\infty }$ est une base hilbertienne de H, alors
    $K\left(x,y\right)=\sum _{k=1}^{\infty }\phi _{k}\left(x\right){\overline {\phi _{k}\left(y\right)}}.$

## Théorème de Moore-Aronszajn

Dans les sections précédentes, on a défini une fonction noyau à partir d'un espace de Hilbert à noyau reproduisant. Il résulte de la définition d'une forme hermitienne que le noyau que nous avons défini est symétrique et défini positif (en). Le théorème de Moore-Aronszajn affirme que tout noyau symétrique défini positif définit un unique espace de Hilbert à noyau reproduisant. Le théorème apparaît pour la première fois dans l'article Theory of Reproducing Kernels d'Aronszajn, même s'il l'attribue à E. H. Moore.
Théorème — Si K est un noyau symétrique et défini positif sur l'ensemble E, alors il existe un unique espace de Hilbert de fonctions sur E pour lequel K est un noyau reproduisant.
Étape 1 : construction d'un espace préhilbertien $H_{0}$
Définissons, pour tout x dans E, $K_{x}=K(x,\cdot )$. Soit $H_{0}=\mathrm {Vect} (\{K_{x}:\ x\in E\})$ l'espace vectoriel engendré par les fonctions $K_{x}$ Définissons un produit hermitien sur $H_{0}$ par :
$\left\langle f,g\right\rangle _{H_{0}}=\left\langle \sum _{j=1}^{n}b_{j}K_{y_{j}},\sum _{i=1}^{m}a_{i}K_{x_{i}}\right\rangle _{H_{0}}=\sum _{i=1}^{m}\sum _{j=1}^{n}{\overline {a_{i}}}b_{j}K(y_{j},x_{i}).$
La symétrie de ce produit résulte de la symétrie de K et la non-dégénérescence résulte du fait que K est défini positif. L'espace vectoriel $H_{0}$ muni du produit scalaire $\left\langle .,.\right\rangle _{H_{0}}$ est donc préhilbertien.
Un point particulier est à signaler : les représentations de $f$ et $g$ ne sont pas uniques a priori dans $H_{0}$ ! On peut montrer que le produit scalaire ne dépend pas de cette représentation. En effet :
$\left\langle f,g\right\rangle _{H_{0}}=\sum _{i=1}^{m}\sum _{j=1}^{n}{\overline {a_{i}}}b_{j}K(y_{j},x_{i})=\sum _{i=1}^{m}{\overline {a_{i}}}\left(\sum _{j=1}^{n}b_{j}K(y_{j},x_{i})\right)=\sum _{i=1}^{m}{\overline {a_{i}}}f(x_{i}).$
Donc le produit scalaire ne dépendra qu'aux valeurs prises par $f$ aux points $x_{i}$ et non des $b_{j}$. Le raisonnement est identique pour $g$.
Étape 2 : construction d'un complété $H$ de $H_{0}$ dans $\mathbb {C} ^{E}$
Soit $(f_{n})_{n}$ une suite de Cauchy dans $H_{0}$ et $x\in E$.
$\left|f_{n}(x)-f_{m}(x)\right|=\left|\left\langle f_{n}-f_{m},K_{x}\right\rangle _{H_{0}}\right|\leq \left\|f_{n}-f_{m}\right\|_{H_{0}}\times {\sqrt {K(x,x)}}$
La suite $(f_{n}(x))_{n}$ est donc de Cauchy de $\mathbb {R}$. Il existe donc une limite simple $f$ de la suite de fonctions $(f_{n})_{n}$ dans $\mathbb {C} ^{E}$.
Introduisons désormais un nouvel espace :
$H=\left\{f:E\rightarrow \mathbb {R} ~|~\exists (f_{n})_{n}{\text{ de Cauchy dans }}H_{0},\lim _{n\to \infty }f_{n}=f\right\}$
Par construction $H_{0}\subset H$ et $H$ est clairement un espace vectoriel, sur lequel on peut définir le produit scalaire suivant :
$\left\langle f,g\right\rangle _{H}=\lim _{n\to \infty }\left\langle f_{n},g_{n}\right\rangle _{H_{0}}$
Le lemme suivant permet de montrer que cette application ne dépend pas des suites de Cauchy $(f_{n})_{n}$ et $(g_{n})_{n}$, qu'elle est bien une forme définie positive (la sequilinéarité et la symétrie hermitienne étant évidentes) et qu'elle coïncide bien avec $\left\langle .,.\right\rangle _{H_{0}}$ sur $H_{0}$ :
$\left.{\begin{matrix}(f_{n})_{n}{\text{ de Cauchy dans }}H_{0}\\\forall x\in E,f_{n}(x){\xrightarrow[{n\to \infty }]}f(x)\end{matrix}}\right\$
Et enfin ce dernier lemme permet d'affirmer que $H_{0}$ est dense dans $H$, soit $H={\overline {H_{0}}}$ :
$\left.{\begin{matrix}(f_{n})_{n}{\text{ de Cauchy dans }}H_{0}\\\forall x\in E,f_{n}(x){\xrightarrow[{n\to \infty }]}f(x)~~(f\in H)\end{matrix}}\right\$
Étape 3 : $\left(H,\left\langle .,.\right\rangle \right)$ est complet !
Soit $(h_{n})_{n}$ une suite de Cauchy dans $H$. Par densité, on peut trouver $(f_{n})_{n}$ une suite de $H_{0}$ telle que $\|h_{n}-f_{n}\|_{H}\leq {\frac {1}{n}}$. Ainsi :
${\begin{aligned}\|f_{n}-f_{m}\|_{H}&=\|f_{n}-h_{n}+h_{n}-h_{m}+h_{m}-f_{m}\|_{H}\\\ &\leq \|f_{n}-h_{n}\|_{H}+\|h_{n}-h_{m}\|_{H}+\|h_{m}-f_{m}\|_{H}\\\ &\leq {\frac {1}{n}}+{\frac {1}{m}}+\|h_{n}-h_{m}\|_{H}~~{\xrightarrow[{\min {(n,m)}\to \infty }]}~~0\end{aligned}}$
La suite $(f_{n})_{n}$ est donc de Cauchy dans $H_{0}$, ainsi il existe $f\in H$ telle que $\forall x\in E,f_{n}(x){\xrightarrow[{n\to \infty }]}f(x)$. Il suffit alors d'écrire :
${\begin{aligned}\|h_{n}-f\|_{H}&=\|h_{n}-f_{n}+f_{n}-f\|_{H}\\\ &\leq \|h_{n}-f_{n}\|_{H}+\|f_{n}-f\|_{H}\\\ &\leq {\frac {1}{n}}+\|f_{n}-f\|_{H}~~{\xrightarrow[{n\to \infty }]}~~0\end{aligned}}$
$H$ est donc complet, c'est un espace de Hilbert.
Étape 4 : Unicité
Pour prouver l'unicité, soit $G$ un autre espace de Hilbert de fonctions pour lequel $K$ est un noyau reproduisant. Pour tout $x$ et $y$ dans $E$, $(*)$ implique que: $\langle K_{x},K_{y}\rangle _{H}=K(x,y)=\langle K_{x},K_{y}\rangle _{G}.\,$
Par linéarité, $\langle \cdot ,\cdot \rangle _{H}=\langle \cdot ,\cdot \rangle _{G}$ sur l'espace vectoriel $H_{0}$. Alors $G=H$ à cause de l'unicité de la complétion.

## Noyau de Bergman

Le noyau de Bergman est défini pour tout ouvert D de ℂ$^n$. Prenons l'espace de Hilbert H des fonctions holomorphes sur D qui sont de carré intégrable pour la mesure de Lebesgue. La théorie n'est pas triviale dans le cas où il existe de telles fonctions, qui ne soient pas identiquement nulles. Alors H est un espace à noyau reproduisant, avec comme fonction noyau le noyau de Bergman ; cet exemple, lorsque n = 1, a été introduit par Bergman en 1922.