De plus on montre :

$$
\theta_{[b]}^{[a]}(z + \Omega m + n, \Omega) = \theta(z + \Omega a + b, \Omega) \cdot \exp[\pi i^t a \Omega a + 2\pi i^t a(z + b)]
$$

$$
\theta_{[b+m]}^{[a+n]}(z, \Omega) = \theta_{[b]}^{[a]}(z, \Omega) \cdot \exp(2\pi i^t a.m)
$$

Le groupe symplectique Γ<sub>g</sub> agit sur les paramètres des fonctions thêta selon la proposition suivante :

**Proposition 3.2.1.** (Équation Fonctionnelle). Soient $\gamma = (\begin{smallmatrix} A & B \\ C & D \end{smallmatrix}) \in \Gamma_g$, et $e'$ (reps. $e''$) est le vecteur formé par les coefficients de la diagonale de $\frac{1}{2} {}^tAC$ (resp. $\frac{1}{2} {}^tDB$). Alors pour tous $a, b \in \mathbb{Q}^g$, $z \in \mathbb{C}^g$ et $\Omega \in \mathfrak{H}_g$, on a :

$$
\theta_{[b]}^{[a]} (\gamma z, \gamma \Omega) = \zeta_{\gamma} \sqrt{\det(C\Omega + D)} \exp \left( i\pi^t z (C\Omega + D)^{-1} Cz \right) \\
\cdot \theta^{[t]\gamma(\begin{smallmatrix} a \\ b \end{smallmatrix}) + (\begin{smallmatrix} e' \\ e'' \end{smallmatrix})} (z, \Omega) \exp \left( -2i\pi^t ({}^tAa + {}^tCb + e')e'' \right) \\
\cdot \exp(-i\pi^t aA^tBa) \exp(-i\pi^t bC^tDb) \exp(-2i\pi^t aB^tCb) ,
$$

où $\zeta_{\gamma}$ est une racine huitième de l’unité qui ne depend que de $\gamma$.

Démonstration. Une démonstration se trouve dans [18, Propriété 3.1.24.] .

<figure><img src="image_15.png" /></figure>

**Remarque 3.2.2.** Pour ce qui va suivre, nous n’évaluerons que des quotients de puissances paires des fonctions thêta, alors nous n’aurons pas besoin de la racine huitième de l’unité et la racine carré ( qui sont indépendantes de la caractéristique).

**Proposition 3.2.3.** Soient $\Omega \in \mathfrak{H}_g$ et $X = \mathbb{C}^g / \Omega \mathbb{Z}^g \oplus \mathbb{Z}^g$ une variété abélienne principalement polarisée. Alors les ensembles de fonctions :

$$
- (\theta_{[0]}^{[a]}(nz, n\Omega))_{a \in \frac{1}{n}\mathbb{Z}^g / \mathbb{Z}^g};
$$

$$
- (\theta_{[b]}^{[0]}(z, \Omega/n))_{b \in \frac{1}{n}\mathbb{Z}^g / \mathbb{Z}^g};
$$

$$
- \text{Si } n = k^2, (\theta_{[b]}^{[a]}(nz, \Omega))_{a,b \in \frac{1}{k}\mathbb{Z}^g / \mathbb{Z}^g}
$$

forment une base de l'espace vectoriel $\mathbb{R}_n^\Omega$ des fonctions thêta classiques de niveau $n$ et $\dim \mathbb{R}_n^\Omega = n^g$.

Démonstration. Aller à [88].

<figure><img src="image_16.png" /></figure>

Soient $\mathcal{L}$ le fibré principal de caractéristique 0 associée $\Omega$ et $n \in \mathbb{N}$. On considère la base
de fonctions thêta classiques de niveau $n$ (associées à $\mathcal{L}$) donnée par :

$$
(\theta_{[b]}^{[0]}(z, \Omega/n))_{b \in \frac{1}{n} \mathbb{Z}^g / \mathbb{Z}^g}
$$

On suppose que $3|n$. Soient la fonction $a_\Omega : \mathbb{R}^g \times \mathbb{R}^g \to \mathbb{C}^g$ définie par $(x, y) \mapsto \Omega x + y$ et la
forme symplectique $A$ canonique sur $\mathbb{R}^{2g}$ définie par $A(x, y) = {}^t x_1 y_2 - {}^t y_1 x_2$. On considère
$L \subset \mathbb{Z}^{2g}$ un réseau d'indice $s$, et $L^\perp$ son orthogonal par rapport à la forme $A$. Soit $a_i, b_i \in L^\perp$
avec $1 \le i \le s$ parcourant un système représentative de $L^\perp / \mathbb{Z}^{2g}$ on définit pour $m \in \mathbb{N}^*$, la
fonction :

$$
\phi_L : \mathbb{C}^g / a_\Omega \left( \frac{1}{m} L \right) \to \mathbb{P}_{\mathbb{C}}^{s-1} \\
z \mapsto \left( \theta_{[b_i]}^{[a_i]} (mz, \Omega) \right)_{a_i, b_i \in L^\perp / \mathbb{Z}^{2g}}
$$
**Théorème 3.2.4.** (Lefschetz)

— $\phi_L$ est une application rationnelle de $X' = \mathbb{C}^g / a_\Omega(\frac{1}{m}L)$ dans l'espace projectif $\mathbb{P}_\mathbb{C}^{s-1}$.

— Si de plus $L \subseteq rL^\perp$ pour un certain $r \in \mathbb{N}$

— $r = 2$ implique l'ensemble des points de $X$ qui annulent toutes les fonctions thêta $\theta_{[b_i]}^{[a_i]}(m\cdot, \Omega)$ est vide.

— $r \ge 3$ implique $\phi_L$ est un plongement et son image est une sous-variété algébrique de $\mathbb{P}^{s-1}$.

*Démonstration.* Aller à [88, Théorème 1.3]. □

Pour $m = 1$, $L = n\mathbb{Z}^g + \mathbb{Z}^g$, on a $a_{\Omega/n}(L) = \Omega\mathbb{Z}^g + \mathbb{Z}^g$. Lorsque $n \ge 3$ on retrouve le plongement défini par la base :

$$ (\theta^{[0]}_{[b]}(z, \Omega/n))_{b \in \frac{1}{n}\mathbb{Z}^g / \mathbb{Z}^g} $$

Dans le cas où $n = 2$ et la variété $X$ est simple, alors les fonctions thêta de niveau 2 ne permettent qu'un plongement projective de $(\mathbb{C}^g / \Lambda) / \pm 1$.

### 3.2.2 Liens avec les Jacobiennes de Courbes: Application d'Abel-Jacobi

Dans cette partie nous abordons une constructions de variétés abéliennes principalement polarisées à partir de courbes hyperelliptiques.

Nous commençons d'abord par quelques détails sur une courbe hyperelliptique.

**Définition 3.2.5.** Une courbe lisse $\mathcal{C}/\mathbb{k}$ de genre $g \ge 1$ est appelée courbe hyperelliptique si son corps de fonction $\mathbb{k}(\mathcal{C})$ est une extension séparable de degré 2 du corps de fonction rationnel $\mathbb{k}(x)$ pour une fonction $x$, d'un point de vue géométrique cela signifie que $\mathcal{C}$ admet sur $\mathbb{k}$ un morphisme $\varphi$ de degré 2 sur $\mathbb{P}^1$.

Si on pose $\mathbb{k}(\mathcal{C}) = \mathbb{k}(x, y)$ pour un entier $y \in \mathbb{k}(\mathcal{C})$ alors il existe des polynômes $h$ et $f$ dans $\mathbb{k}[x]$ tel que l'équation de la courbe $\mathcal{C}$ soit donnée par :

$$ y^2 + h(x)y = f(x). $$

Où $2g + 1 \le \deg f \le 2g + 2$ et $\deg h \ge g + 1$ sans singularités. La preuve découle du théorème de Riemann-Roch.

Ainsi $\varphi$ est définie par $\varphi(x, y) = x$ et l'involution hyperelliptique $\iota$ est définie par :

$$ \iota: \mathcal{C} \to \mathcal{C}, \quad \iota(x, y) = (x, -y - h(x)) $$

les points fixes de $\iota$ sont appeés les points de Weierstrass de $\mathcal{C}$ et ils correspondent exactement aux points de ramification de $\varphi$.

Pour $g > 1$ le corps de fonctions de $\mathbb{k}(\mathcal{C})$ est unique; ainsi les courbes elliptiques se distinguent des autres courbes hyperelliptiques.

**Remarque 3.2.6.** — Quand $\deg f$ est impair on dit que la courbe a un modèle imaginaire (cela signifie qu'elle admet un unique point à l'infini); sinon on dit qu'elle a un modèle réel.
— Lorsque la caractéristique du corps $\mathbb{k}$, $char(\mathbb{k})$ est différente de 2, alors par le changement de variable $y \mapsto y - h(x)/2$, l'équation hyperelliptique se réduit à $\mathcal{C} : y^2 = f(x)$, où $f \in \mathbb{k}[x]$ est un polynôme séparable de degré $2g + 1$ ou $2g + 2$. Alors un changement de variable comme par exemple $(x, y) \mapsto \left( \frac{\alpha x}{x - \alpha'}, \frac{y}{(x - \alpha)^3} \right)$ permet de passer du cas degré $2g + 2$ au cas degré $2g + 1$ en envoyant le point d'abscisse $\alpha$ à l'infini.

Une courbe hyperelliptique $\mathcal{C}$ sous la forme $y^2 = f(x)$ est lisse sur $\bar{\mathbb{k}}$ sauf en son point à l'infini $(0 : 1 : 0)$ pour les cas où $\deg f \ge 4$.

Pour la suite les courbes sous le model $y^2 = f(x)$ seront considerées désingularisées. Et lorsque nous disons que la courbe a deux points à l'infini, cela signifie que l'arbre de désingularisation de l'unique point à l'infini possède deux feuilles.

En général nous avons les résultats suivants concernant les courbes lisses.

**Définition 3.2.7.** Pour une courbe lisse $\mathcal{C}$ sur un corps parfait $\mathbb{k}$; on appelle diviseur de $\mathcal{C}$ tout élément de $\text{Div}_{\bar{\mathbb{k}}}(\mathcal{C})$, le groupe libre engendré par les points de $\mathcal{C}(\mathbb{k})$.

Le groupe de Galois $\text{Gal}(\bar{\mathbb{k}}/\mathbb{k})$ agit sur $\text{Div}_{\bar{\mathbb{k}}}(\mathcal{C})$ par :

$$ \sigma \left( \sum_{P \in \mathcal{C}(\bar{\mathbb{k}})} n_P P \right) = \sum_{P \in \mathcal{C}(\bar{\mathbb{k}})} n_P \sigma(P) \quad \text{pour } \sigma \in \text{Gal}(\bar{\mathbb{k}}/\mathbb{k}). $$

Et les éléments stables sous cette action sont appelés diviseurs sur $\mathbb{k}$, on note par $\text{Div}_{\bar{\mathbb{k}}}(\mathcal{C})$ l'ensemble des diviseurs sur $\mathbb{k}$. Par exemple toute fonction rationnelle définie un diviseur noté $\text{div}(f)$ par : $\text{div}(f) = \sum_{P \in \mathcal{C}(\bar{\mathbb{k}})} \text{ord}_P(f)P$ on l'appelle *diviseur principal de C*.

On définit le morphisme de groupe appelé degré noté deg de $\text{Div}_{\bar{\mathbb{k}}}(\mathcal{C})$ dans $\mathbb{Z}$ par : $\sum_{P \in \mathcal{C}(\bar{\mathbb{k}})} n_P P \mapsto \sum_{P \in \mathcal{C}(\bar{\mathbb{k}})} n_P$. Et son noyau noté $\text{Div}_{\bar{\mathbb{k}}}^0(\mathcal{C})$ contient $\text{PDiv}_{\bar{\mathbb{k}}}(\mathcal{C})$ le groupe des diviseurs principaux de $\mathcal{C}$ car une fonction rationnelle possède le même nombre fini de zéros que de pôles.

Alors on appelle *groupe de Picard de degré zéro*, le groupe quotient

$$ \text{Pic}_{\bar{\mathbb{k}}}^{0}(\mathcal{C}) = \text{Div}_{\bar{\mathbb{k}}}^{0}(\mathcal{C}) / \text{PDiv}_{\bar{\mathbb{k}}}^{0}(\mathcal{C}) $$

Pour des raisons que nous allions voir par la suite, l'on préfère $\text{Pic}_{\bar{\mathbb{k}}}^{0}(\mathcal{C})$ à $\text{Pic}_{\mathbb{k}}^{0}(\mathcal{C})$. Et plus généralement lorsque la courbe possède un point rationnel alors :

$$ \text{Pic}_{\bar{\mathbb{k}}}^{0}(\mathcal{C})^{\text{Gal}(\bar{\mathbb{k}}/\mathbb{k})} = \text{Pic}_{\mathbb{k}}^{0}(\mathcal{C}) $$

Soit $\mathcal{C}$ une courbe hyperelliptique de genre $g$ sur $\mathbb{C}$, alors il existe $a_i \in \mathbb{C}$ avec $i \in \{1, \dots, 2g+1\}$ tous distincts telle que l'équation de $\mathcal{C}$ se réduise à :

$$ y^2 = \prod_{i=1}^{2g+1} (x - a_i) \quad \text{et} \quad a_{2g+2} = \infty \in \mathbb{P}^1(\mathbb{C}) $$

La courbe $\mathcal{C}$ étant une surface de Riemann compacte, on peut construire le premier groupe d'homologie $H_1(\mathcal{C}, \mathbb{Z})$ de $\mathcal{C}$ en traçant des chemins disjoints $\gamma_n$ de $\mathbb{P}^1(\mathbb{C})$ d'origine $a_{2n-1}$ et d'extrémité $a_{2n}$ comme l'indiquent la figure ci-dessous : Où $A_1, \dots, A_g, B_1, \dots, B_g$ est une base de $H_1(\mathcal{C}, \mathbb{Z})$. Pour plus de détails sur la construction voir [18].

L'espace vectoriel $\mathcal{C}^1$ des 1-formes différentielles est donné par :

$$ \mathcal{C}^1 = \left\{ \frac{P(x)dx}{y}, P \in \mathbb{C}[X] \text{ et } \deg P \le (g-1) \right\} $$
<figure><img src="image_17.png" /><figcaption>FIGURE 3.3 – Projection des lacets sur $\mathbb{P}^1(\mathbb{C})$.</figcaption></figure>

On note par $(\omega_i)_{1\le i\le g}$ une base normalisée de $\mathcal{C}^1$, alors on a :

$$\int_{A_i} \omega_j = \delta_{i,j}.$$

Ainsi la matrice de périodes associée à une courbe hyperelliptique $\mathcal{C}$ est définie par $(\Omega, \mathrm{Id})$ telle que :

$$\Omega_{ij} = \int_{B_i} \omega_j$$

On montre que la matrice $\Omega$ appartienne à $\mathfrak{H}_g$ le demi-espace de Siegel [88, cor.2.2].

De plus si on note par $\omega$ le $g$-uplet $(\omega_i)_{1\le i\le g}$, alors la correspondance $\omega : P \mapsto \int_{P_\infty}^P \omega$ mod $\Lambda_\Omega$ définit une application de $\mathcal{C} \to \mathbb{C}^g/\Lambda_\Omega$ ne dependant pas du chemin de $P_\infty$ à $P$ sur $\mathcal{C}$. L'application $\omega$ peut s'étendre à $\mathrm{Div}\,\mathcal{C}$ par linéarité sur les diviseurs :

$$\omega \left( \sum_{P \in \mathcal{C}} n_P P \right) = \left( \sum_{P \in \mathcal{C}} n_P \omega(P) \right) \mod \Lambda_{\Omega}$$

**Théorème 3.2.8.** (Abel-Jacobi). L'application $\omega$ d'Abel-Jacobi est un isomorphisme entre la jacobienne algébrique $\mathrm{Jac}(\mathcal{C})$ et la jacobienne analytique $\mathbb{C}^g/\Lambda_\Omega$.

*Démonstration.* Aller à [3, Théorème 11.1.3]. □

<figure><img src="image_18.png" /></figure>

Ce qui montre que $\mathrm{Pic}_0(\mathcal{C})$ admet une structure de variété abélienne principalement polarisée. La réciproque n'est pas vrai en général. En effet Schottky a montré qu'en dimension 4, il existe des variétés abéliennes non Jacobienne de courbes [103]. Cependant nous avons le théorème suivant :

**Théorème 3.2.9.** Une variété abélienne principalement polarisée et simple de dimension $g \le 3$ est la Jacobienne d'une courbe lisse de genre $g$.

D'autre part toute courbe lisse de genre $g \le 2$ est hyperelliptique.

*Démonstration.* Aller à [3, Corollaire 11.8.2]. □

<figure><img src="image_19.png" /></figure>
3.3 SURFACES ABÉLIENNES PRINCIPalement POLARISÉES

Nous consacrons cette partie aux résultats liés à l'espace modulaire des surfaces abéliennes principalement polarisées. Comme pour les courbes elliptiques dans le Chapitre 2 nous voulons travailler génériquement sur l'espace modulaire. Nous avons vu que ces surfaces sont isomorphes aux Jacobiennes de courbes hyperelliptiques de genre 2 et qu'elles sont représentées par des matrices des périodes dans $\mathfrak{H}_2$.

3.3.1 Espace Modulaire de Siegel

Nous commençons par une description du domaine fondamental dans $\mathfrak{H}_2$ sous l'action
espace modulaire de Seigel $\Gamma_2$.

En général pour tout entier $g \ge 2$ le groupe symplectique noté $\Gamma_g$ désigne

$$
Sp_{2g}(\mathbb{Z}) = \{ \gamma \in M_{2g}(\mathbb{Z}) : \gamma \mathcal{I}_g^t \gamma = \mathcal{I}_g \} \quad \text{avec} \quad \mathcal{I}_g = \begin{pmatrix} 0 & \mathrm{Id}_g \\ -\mathrm{Id}_g & 0 \end{pmatrix}
$$

Une matrice $\gamma = (\begin{smallmatrix} A \\ C \\ D \end{smallmatrix})$ appartient à $\Gamma_g$ si et seulement si :

$$
{}^t AC = {}^t CA \quad {}^t BD = {}^t DB \quad {}^t DA - {}^t BC = \mathrm{Id}_g.
$$

ou encore si et seulement si

$$
A^t B = B^t A \quad D^t C = C^t B \quad A^t D - B^t C = \mathrm{Id}_g.
$$

Le groupe $\Gamma_g$ est engendré par la matrice $\mathcal{I}_g$ et les $\frac{g(g+1)}{2}$ matrices de la forme :

$$
\mathfrak{M}_{i,j} = \begin{pmatrix} \mathrm{Id}_g & \mathfrak{m}_{i,j} \\ 0 & -\mathrm{Id}_g \end{pmatrix},
$$

où $\mathfrak{m}_{i,j}$ désigne la matrice de $M_g(\mathbb{Z})$ dont tous les coefficients sont nuls sauf les coefficients
$(i,j)$ et $(j,i)$ qui valent 1 [61].

Nous allons alors noter par : $\mathfrak{M}_1 = \mathfrak{M}_{1,1}$, $\mathfrak{M}_1 = \mathfrak{M}_{1,2}$ et $\mathfrak{M}_3 = \mathfrak{M}_{2,2}$ les générateurs de $\Gamma_2$.
On définit quelques sous groupes de $\Gamma_g$ dont on utilisera pour simplifier l'action de $\Gamma_2$ sur
$\mathfrak{H}_2$.

$$
\Gamma_g(N) := \left\{ \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g : A \equiv D \equiv \mathrm{Id}_g \quad \mod N \text{ et } B \equiv C \equiv 0 \quad \mod N \right\},
$$

$$
\Gamma_g(N, 2N) := \left\{ \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g(N) : {}^t(AC)_0 \equiv {}^t(DB)_0 \equiv 0 \mod 2N \right\},
$$

$$
\Gamma_{g,0}(N) := \left\{ \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g : C \equiv 0 \pmod N \right\},
$$

$$
\text{et } \Gamma_g^0(N) := \left\{ \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g : B \equiv 0 \pmod N \right\}.
$$

3.3.1.1 Domaine Fondamental

Nous avons vu que $\Gamma_g$ agit sur $\mathfrak{H}_g$ par :

$$
\gamma\Omega = (A\Omega + B)(C\Omega + D)^{-1} \quad \text{for} \quad \gamma = \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g
$$
**Définition 3.3.1.** Nous dirons qu'une matrice réelle symétrique $M$ est réduite au sens de Minkowski si pour tout vecteur $n = (n_1, \cdots, n_g) \in \mathbb{Z}^g$ avec $\text{pgcd}(n_1, \cdots, n) = 1, {}^t n M {}^t n \ge M_{ii} \forall i \in \{1, \cdots, g\}$ et $M_{i,i+1} \ge 0 \forall i \in \{1, \cdots, g-1\}$

Alors il existe un domaine fondamental de l'action de $\Gamma_g/(\pm \text{Id}_{2g})$ sur $\mathfrak{H}_g$ noté $\mathcal{F}_g$ et dont les éléments $\Omega$ sont définis par les trois propriétés suivantes:

- $|\text{Re} \Omega_{ij}| \le \frac{1}{2}$ pour tous $i, j \in \{1, \cdots, g\}$;

- la matrice $\text{Im}(\Omega)$ est réduite au sens de Minkowski;

- pour tout $(\begin{smallmatrix} A & B \\ C & D \end{smallmatrix}) \in \Gamma_g, |\det(C\Omega + D)| \ge 1$.

Ainsi pour tout $\Omega \in \mathcal{H}_g$, il existe $\gamma \in \Gamma_g/(\pm \text{Id}_{2g})$ tel que $\gamma\Omega \in \mathcal{F}_g$, de plus $\gamma$ est unique si $\gamma\Omega$ est un point intérieur de $\mathfrak{H}_g$ [61].

D'autre part pour $g=2$ il existe 19 matrices $\mathfrak{N}_i$, $i \in \{1, \cdots, 19\}$ de $\Gamma_g$ qu'il suffit d'utiliser pour le test de la troisième propriété de caractérisation du domaine fondamental [42].

$$ \mathfrak{N}_1 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & 0 \end{pmatrix}, \mathfrak{N}_2 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{1,1} \end{pmatrix}, \mathfrak{N}_3 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{m}_{1,1} \end{pmatrix}, $$

$$ \mathfrak{N}_4 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{2,2} \end{pmatrix}, \mathfrak{N}_5 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{m}_{2,2} \end{pmatrix}, \mathfrak{N}_6 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{Id}_2 \end{pmatrix}, $$

$$ \mathfrak{N}_7 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{Id}_2 \end{pmatrix}, \mathfrak{N}_8 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{2,2} - \text{m}_{1,1} \end{pmatrix}, \mathfrak{N}_9 = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{1,1} - 2,2 \end{pmatrix}, $$

$$ \mathfrak{N}_{10} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{1,2} \end{pmatrix}, \mathfrak{N}_{11} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{m}_{1,2} \end{pmatrix}, \mathfrak{N}_{12} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{1,1} + \text{m}_{1,2} \end{pmatrix}, $$

$$ \mathfrak{N}_{13} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{m}_{1,1} - \text{m}_{1,2} \end{pmatrix}, \mathfrak{N}_{14} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & \text{m}_{1,2} + \text{m}_{2,2} \end{pmatrix}, \mathfrak{N}_{15} = \begin{pmatrix} 0 & -\text{Id}_2 \\ \text{Id}_2 & -\text{m}_{1,2} - \text{m}_{2,2} \end{pmatrix}, $$

$$ \mathfrak{N}_{16} = \begin{pmatrix} \text{Id}_2 & -\text{Id}_2 \\ \text{m}_{1,1} & \text{m}_{2,2} \end{pmatrix}, \mathfrak{N}_{17} = \begin{pmatrix} \text{Id}_2 & -\text{Id}_2 \\ \text{m}_{2,2} & \text{m}_{1,1} \end{pmatrix}, \mathfrak{N}_{18} = \begin{pmatrix} \text{Id}_2 & 0 \\ \text{Id}_2 & -\text{m}_{1,2} \end{pmatrix}, $$

$$ \mathfrak{N}_{19} = \begin{pmatrix} -\text{Id}_2 & 0 \\ \text{Id}_2 & -\text{m}_{1,2} - \text{m}_{1,1} - \text{m}_{1,2} \end{pmatrix}. $$

Il en découle un algorithme 4 permettant de réduire au sens de Minkowski une matrice symétrique réelle et un autre algorithme 5 permettant de réduire une matrice de $\mathfrak{H}_2$ sur $\mathcal{F}_2$.

D'autre part on montre que pour tout $\Omega = \begin{pmatrix} \Omega_1 & \Omega_2 \\ \Omega_2 & \Omega_3 \end{pmatrix} \in \mathcal{F}_2 : \text{Im}(\Omega_1) \ge \frac{\sqrt{3}}{2}$ et toutes les valeurs propres de $\text{Im} \Omega$ sont supérieures ou égales $\frac{\sqrt{3}}{2}$.
**Entrée:** $\gamma = \begin{pmatrix} a & b \\ b & c \end{pmatrix}$ réelle définie positive.

**Sortie:** $U$ entière et unimodulaire telle que $U\gamma^tU$ est réduite au sens de Minkowski.

1. $U = \text{Id}_2, V = \begin{pmatrix} 1 & 0 \\ 0 & -1 \end{pmatrix}$ et $W = \begin{pmatrix} 0 & 1 \\ -1 & 0 \end{pmatrix}$;

2. si $2|c| \le |a|$ alors

a. si $|a| \le |b|$ alors

i. si $|c| \le 0$ alors $\gamma = V\gamma V$ et $U = VU$;

ii. sinon retourner $U$;

b. sinon si $|c| \le 0$ alors $\gamma = W\gamma W$ et $U = WU$;

3. $q = \lfloor c/a \rfloor$;

4. $\gamma = \begin{pmatrix} 1 & 0 \\ -q & 1 \end{pmatrix} \gamma \begin{pmatrix} 1 & -q \\ 0 & 1 \end{pmatrix}$;

5. $U = \begin{pmatrix} 1 & 0 \\ -q & 1 \end{pmatrix} U$;

6. retourner à étape 2.

**Algorithm 4** – Réduction de Minkowski

**Entrée:** $\Omega \in \mathfrak{H}_2$;

**Sortie:** Un couple $(\gamma, \Omega') \in \Gamma_2 \times \mathcal{F}_2$ tel que $\Omega' = \gamma\Omega$.

1. $\gamma = I_4; \Omega' = \Omega$;

2. $U = \text{Minkowski}(\text{Im}(\Omega'))$;

3. $\gamma = \begin{pmatrix} U & 0 \\ 0 & tU^{-1} \end{pmatrix} \gamma$;

4. $\Omega' = U\Omega'^tU$;

5. **pour** $j = 1$ à 3 **faire** :

a. $a = -\lfloor \text{Re} \, \Omega'_j \rfloor$;

b. $\Omega' = M_j^a \Omega'$;

c. $\gamma = M_j^a \gamma$;

6. retourner $(\gamma, \Omega')$;

7. **pour** $j = 1$ à 19 **faire** :

a. si $|\det(C_j\Omega' + D_j)| < 1$ alors :

i. $i = 1$;

ii. $\Omega' = \mathfrak{N}_j\Omega'$;

iii. $\gamma = \mathfrak{N}_j\gamma$;

8. retourner à l'étape 2;

**Algorithm 5** – Réduction sur $\mathcal{F}_2$
### 3.3.1.2 Formes et Fonctions Modulaires

On appelle *thêta constante*, la fonction sur $\mathfrak{H}_g$ correspondant à l'évaluation d'une fonction thêta en $z = 0$. Pour ce qui va suivre nous allons utiliser les thêta constantes en caractéristique $1/2$ c'est à dire que nous prenons $\theta_{a,b}(\Omega) := \theta\begin{bmatrix} a/2 \\ b/2 \end{bmatrix}(0, \Omega)$ pour $a, b \in \{0, 1\}^g$.

**Proposition 3.3.2.** (Formules de duplication). Pour tous $a, b \in \{0, 1\}^g$ et $\Omega \in \mathfrak{H}_g$ :

$$ \theta_{a,b}(2\Omega) = \frac{1}{2^g} \sum_{b_1+b_2 \equiv b \pmod 2} (-1)^{t_{ab_1}} \theta_{0,b_1}(\Omega) \theta_{0,b_2}(\Omega) $$

$$ \theta_{a,b}\left(\frac{\Omega}{2}\right) = \frac{1}{2^g} \sum_{a_1+a_2 \equiv a \pmod 2} (-1)^{t_{a_1 b}} \theta_{a_1,0}(\Omega) \theta_{a_2,0}(\Omega) $$

*Démonstration.* Aller à [28]. □

D'autre part nous avons que :

$$ \theta\begin{bmatrix} a+n \\ b+m \end{bmatrix}(z, \Omega) = \exp(2i\pi^t am)\theta\begin{bmatrix} a \\ b \end{bmatrix}(z, \Omega) \quad \text{et} \quad \theta\begin{bmatrix} a \\ b \end{bmatrix}(z, \Omega) = \theta\begin{bmatrix} -a \\ -b \end{bmatrix}(z, \Omega) $$

ce qui implique : $\theta_{a,b}(\Omega) = \exp(2i\pi^t ab)\theta_{a,b}(\Omega)$.

Nous dirons que la thêta constante $\theta_{a,b}(\Omega)$ est *paire*, lorsque $^t ab \equiv 0 \pmod 2$, sinon nous dirons que la thêta constante est *impaire*. Et on remarque que dans le cas impaire, la fonction thêta est nécessairement nulle. On montre que sur les $4^g$ thêta constantes : $2^{g-1}(2^g + 1)$ sont paires et $2^{g-1}(2^g - 1)$ sont impaires.

**Définition 3.3.3.** Soit $\Gamma$ un sous-groupe d'indice fini de $\Gamma_g$ (avec $g > 1$), une *forme modulaire* de poids $k$ pour $\Gamma$ est une fonction holomorphe $f$ définie sur $\mathfrak{H}_g$ telle que $f(\gamma\Omega) = \det(C\Omega + D)^k f(\Omega)$ pour tous $\gamma = \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma$ et $\Omega \in \mathfrak{H}_g$.

Pour $g = 1$ on ajoute la condition "d'holomorphie aux pointes" dont la condition correspondante est vérifiée lorsque $g > 1$ d'après le principe de Koecher [61, § 4].

**Exemple 3.3.4.** Pour $N$ pair et $a_1, a_2, b_1, b_2 \in \frac{1}{N}\mathbb{Z}^g$, les fonctions sur $\mathfrak{H}_g$ définies par :

$$ \theta\begin{bmatrix} a_1 \\ a_2 \end{bmatrix}(0, \Omega)\theta\begin{bmatrix} b_1 \\ b_2 \end{bmatrix}(0, \Omega) $$

sont modulaires de poids 1 pour $\Gamma_g (N^2, 2N^2)$.

**Définition 3.3.5.** Soit $\Gamma$ un sous-groupe d'indice fini de $\Gamma_g$, on appelle fonction $\Gamma$-modulaire sur $\mathfrak{H}_g$, toute fonction définie par le quotient de deux formes $\Gamma$-modulaires de même poids.

**Exemple 3.3.6.** Pour tous $\gamma = \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_g(2,4)$, et $a,b \in \{0,1\}^g$ et $\Omega \in \mathfrak{H}_g$ on montre que :

$$ \theta_{a,b}^2(\gamma\Omega) = \zeta_{\gamma}^2 \det(C\Omega + D)\theta_{a,b}^2(\Omega). $$

Alors les quotients des carrés des $\theta_{a,b}$ pairs sont des fonctions modulaires pour $\Gamma_g(2,4)$.
3.3.1.3 Invariants Modulaires pour Γ₂

Nous introduisons dans cette partie, les invariants modulaires qui sont l’analogue du j-
invariant en dimension 1 et le corps des fonctions modulaires. Afin de simplifier les notations,
nous utiliserons les numérotations de R.Dupont [28] sur les thêta constantes en genre 2 de 0
à 15. Pour tous a = (a₀/a₁), b = (b₀/b₁) ∈ {0, 1}² on pose :

$$
\theta_{b_0+2b_1+4a_0+8a_1}(\Omega) := \theta_{a,b}(\Omega)
$$

Ils sont au nombre de 16, dont 6 identiquement nulles (car impaires) et les 10 autres sont les
$\theta_i$ avec $i \in \mathcal{P}_2 = \{0, 1, 2, 3, 4, 6, 8, 9, 12, 15\}$.

Alors la proposition suivante établit des relations polynomiales entre les six derniers thêta constantes et les quatres premiers.

**Proposition 3.3.7.** *Pour tout Ω ∈ ℋ₂, si l'on pose (a, b, c, d) = (θ²_j(Ω))_{j∈{0,1,2,3}}, alors :*

$$
(x - \theta_4^4(\Omega))(x - \theta_6^4(\Omega)) = x^2 + (b^2 + d^2 - a^2 - c^2)x + (ac - bd)^2,
$$

$$
(x - \theta_8^4(\Omega))(x - \theta_9^4(\Omega)) = x^2 + (c^2 + d^2 - a^2 - b^2)x + (ab - cd)^2,
$$

$$
\text{et } (x - \theta_{12}^{4}(\Omega))(x - \theta_{15}^{4}(\Omega)) = x^{2} + (b^{2} + c^{2} - a^{2} - d^{2})x + (ad - bc)^{2}.
$$

Démonstration. Aller à [28].

<figure><img src="image_20.png" /></figure>

On considère les applications $h_j$ avec $j \in \{4, 6, 10, 12, 16\}$ de vers $\mathbb{C}$ définies :

$$
h_4 = \sum_{i \in \mathcal{P}} \theta_i^8, \quad h_6 = \sum_{60 \text{ tuples } (i,j,k) \in \mathcal{P}^3} (\theta_i \theta_j \theta_k)^4, \quad h_{10} = \prod_{i \in \mathcal{P}} \theta_i^2,
$$

$$
\begin{align*}
h_{12} ={}& (\theta_0 \theta_1 \theta_2 \theta_4 \theta_8 \theta_{15})^4 + (\theta_0 \theta_1 \theta_2 \theta_6 \theta_9 \theta_{12})^4 + (\theta_0 \theta_1 \theta_3 \theta_4 \theta_9 \theta_{15})^4 \\
& + (\theta_0 \theta_1 \theta_3 \theta_6 \theta_8 \theta_{12})^4 + (\theta_0 \theta_1 \theta_4 \theta_6 \theta_{12} \theta_{15})^4 + (\theta_0 \theta_2 \theta_3 \theta_4 \theta_9 \theta_{12})^4 \\
& + (\theta_0 \theta_2 \theta_3 \theta_6 \theta_8 \theta_{15})^4 + (\theta_0 \theta_2 \theta_8 \theta_9 \theta_{12} \theta_{15})^4 + (\theta_0 \theta_3 \theta_4 \theta_6 \theta_8 \theta_9)^4 \\
& + (\theta_1 \theta_2 \theta_3 \theta_4 \theta_8 \theta_{12})^4 + (\theta_1 \theta_2 \theta_3 \theta_6 \theta_9 \theta_{15})^4 + (\theta_1 \theta_2 \theta_4 \theta_6 \theta_8 \theta_9)^4 \\
& + (\theta_1 \theta_3 \theta_8 \theta_9 \theta_{12} \theta_{15})^4 + (\theta_2 \theta_3 \theta_4 \theta_6 \theta_{12} \theta_{15})^4 + (\theta_4 \theta_6 \theta_8 \theta_9 \theta_{12} \theta_{15})^4 ,
\end{align*}
$$

$$
\begin{align*}
h_{16} ={}& (\theta_3^8 + \theta_6^8 + \theta_9^8 + \theta_{12}^8) (\theta_0 \theta_1 \theta_2 \theta_4 \theta_8 \theta_{15})^4 \\
& + (\theta_3^8 + \theta_4^8 + \theta_8^8 + \theta_{15}^8) (\theta_0 \theta_1 \theta_2 \theta_6 \theta_9 \theta_{12})^4 \\
& + (\theta_2^8 + \theta_6^8 + \theta_8^8 + \theta_{12}^8) (\theta_0 \theta_1 \theta_3 \theta_4 \theta_9 \theta_{15})^4 \\
& + (\theta_2^8 + \theta_4^8 + \theta_9^8 + \theta_{15}^8) (\theta_0 \theta_1 \theta_3 \theta_6 \theta_8 \theta_{12})^4 \\
& + (\theta_2^8 + \theta_3^8 + \theta_8^8 + \theta_9^8) (\theta_0 \theta_1 \theta_4 \theta_6 \theta_{12} \theta_{15})^4 \\
& + (\theta_1^8 + \theta_6^8 + \theta_8^8 + \theta_{15}^8) (\theta_0 \theta_2 \theta_3 \theta_4 \theta_9 \theta_{12})^4 \\
& + (\theta_1^8 + \theta_4^8 + \theta_9^8 + \theta_{12}^8) (\theta_0 \theta_2 \theta_3 \theta_6 \theta_8 \theta_{15})^4 \\
& + (\theta_1^8 + \theta_2^8 + \theta_{12}^8 + \theta_{15}^8) (\theta_0 \theta_3 \theta_4 \theta_6 \theta_8 \theta_9)^4 \\
& + (\theta_0^8 + \theta_6^8 + \theta_8^8 + \theta_{15}^8) (\theta_1 \theta_2 \theta_3 \theta_4 \theta_8 \theta_{12})^4 \\
& + (\theta_0^8 + \theta_4^8 + \theta_8^8 + \theta_{12}^8 + \theta_{15}^8) (\theta_1 \theta_2 \theta_4 \theta_6 \theta_8 \theta_9)^4 \\
& + (\theta_0^8 + \theta_2^8 + \theta_4^8 + \theta_6^8) (\theta_1 \theta_3 \theta_8 \theta_9 \theta_{12} \theta_{15})^4 \\
& + (\theta_0^8 + \theta_1^8 + \theta_8^8 + \theta_9^8) (\theta_2 \theta_3 \theta_4 \theta_6 \theta_{12} \theta_{15})^4 \\
& + (\theta_0^8 + \theta_1^8 + \theta_2^8 + \theta_3^8) (\theta_4 \theta_6 \theta_8 \theta_9 \theta_{12} \theta_{15})^4.
\end{align*}
$$

Et on a la relation: $3h_{16} = h_{12}h_4 - 2h_6h_{10}$

On montre que des formules de transformation des thêta constantes sous l'action de Γ₂
peuvent se réduire à :

$$
\theta_j^2(\gamma\Omega) = i^{\kappa(\gamma)+\nu(\gamma,j)} \det(C\Omega + D)\theta_{\xi(\gamma,j)}^2(\Omega), \quad \forall \Omega \in \mathfrak{H}_2 \text{ et } j \in [0,15].
$$
tel que $\kappa(\gamma) \in [0,3]$, $\nu(\gamma, \cdot) : [0,15] \to [0,3]$ et $\zeta(\gamma, \cdot)$ une permutation de $[0,15]$ existent pour tout $\gamma = \binom{A}{C} \binom{B}{D} \in \Gamma_2$.

Ainsi des calculs explicites dans [28] montrent que pour $j \in \{4, 12, 10, 16\}$, $h_j$ est invariante sous l'action de $\mathfrak{M}_1, \mathfrak{M}_2$, et $\mathfrak{M}_3$ et pour tout $\Omega \in \mathfrak{H}_2$ :

$$h_j(\mathrm{Id}_4 \Omega) = \det(\Omega)^j h_j(\Omega)$$

Alors les $h_j$ avec $j \in \{4, 12, 10, 16\}$ sont des formes modulaires de Siegel de poids $j$ pour $\Gamma_2 = \langle \mathrm{Id}_4, \mathfrak{M}_1, \mathfrak{M}_2, \mathfrak{M}_3 \rangle$.

**Définition 3.3.8.** On appelle *invariants d'Igusa ou encore j-invariants en dimension 2*, les fonctions modulaires $j_1, j_2$ et $j_3$ pour $\Gamma_2$ définies par :

$$j_1 = \frac{h_{12}^5}{h_{10}^6}, \quad j_2 = \frac{h_4 h_{12}^3}{h_{10}^4}, \quad j_3 = \frac{h_{16} h_{12}^2}{h_{10}^4}$$

Ces fonctions ont été introduites par J.Igusa [53]. D'autre part, on appelle série d'Eisentein de poids $k \ge 4$, la série $\psi_k$ donnée par :

$$\psi_k(\Omega) = \sum_{\gamma \in \Gamma_2} \det(C\Omega + D)^{-k}$$

et on définit par suite, les *formes modulaires paraboliques* $\chi_{10}, \chi_{12}$, avec des expressions en fonction des $\psi_k$ avec $k \in \{4, 6, 10, 12\}$.

$$\begin{align*}
\chi_{10} &= -2^{-12}3^{-5}5^{-2}7^{-1}153^{-1}43867(\psi_4\psi_6 - \psi_{10}) \\
\chi_{12} &= 2^{-13}3^{-7}5^{-3}7^{-2}337^{-1}131 \cdot 593(3^27^2\psi_4^3 + 2 \cdot 5^3\psi_6^2 - 691\psi_{12})
\end{align*}$$

c'est-à-dire que ces formes modulaires peuvent s'exprimer sous la forme d'une série de Fourier: $\sum_{t>0} a(t) \exp(2i\pi \mathrm{Tr} t\Omega)$ où $t$ parcourt l'ensemble des matrices semi-entières positives. De plus, nous avons :

$$h_4 = 2^2\psi_4, \quad h_6 = 2^2\psi_6, \quad h_{10} = -2^{14}\chi_{10} \quad \text{and} \quad h_{12} = 2^{17}3\chi_{12}.$$

Sur $\mathbb{C}$ et en dimension 2, l'anneau gradué des formes modulaires de Siegel de poids paires est engendré par les quatre formes modulaires $\psi_4, \psi_6, \chi_{10}, \chi_{12}$ [52].

Par suite nous pouvons introduire les fonctions modulaires très pratiques (appelées souvent aussi *j*-invariants) que l'on doit à Streng [113, Chapter 2, § 2.1] par :

$$j_1 = -2^{-10} \frac{\psi_4 \psi_6}{\chi_{10}}, \quad j_2 = 2^{-7} \cdot 3 \frac{\psi_4^2 \chi_{12}}{\chi_{10}^2}, \quad j_3 = 2^{-18} \frac{\psi_4}{\chi_{10}^2}.$$

Ces invariants sont bironnellement équivalents au *j*-invariants $(j_1, j_2, j_3)$ d'Igusa [53] avec certains avantages algorithmiques de fournir des dénominateurs de tailles plus petites (par exemples pour les polynômes de classses). De plus nous allons remarquer dans le chapitre 4 et la section 4.6 que ces invariants ont des relations très simples et très "appréciées" avec des invariants absolus $(j_1, j_2, j_3)$ abordés dans le chapitre 4 et la section 4.3.

Nous pouvons ainsi énoncer le résultat fondamental suivant: *deux surfaces abéliennes principalement polarisées sont isomorphes si et seulement si leurs représentants sur $\mathcal{F}_2$ prennent les mêmes valeurs pour le triplet $(j_1, j_2, j_3)$ ou de manière équivalente pour le triplet $(j_1, j_2, j_3)$ (aller à [28, 53] pour plus détails sur la démonstration). Et il s'en suit le résultat suivant :*
**Théorème 3.3.9.** Le corps des fonctions modulaires de Siegel en dimension 2 est $\mathbb{C}(j_1, j_2, j_3) = \mathbb{C}(j_1, j_2, j_3)$, on le note $\mathbb{C}_{\Gamma_2}$.

*Démonstration.* Aller à [52]. □

<figure><img src="image_21.png" /></figure>

Générallement, de manière générique, les valeurs $(j_1, j_2, j_3)$ (ou $(j_1, j_2, j_3)$) sur un corps $\mathbb{k}$ (pour $\mathrm{char}(\mathbb{k}) \neq 2$) spécifient de manière unique une classe d'isomorphisme de surfaces abéliennes principalement polarisée sur $\mathbb{k}$. Cette correspondance échoue cependant en les points singuliers et aux pôles de l'application rationnelle $\mathfrak{A}_2 \to \mathbb{A}^3$. Les invariants Igusa ne sont pas définis sur les produits de courbes elliptiques (c'est-à-dire pour $\chi_{10} = 0$) et ne représentent pas une classe d'isomorphisme unique lorsque $\psi_4 = 0$. Et en effet pour $\psi_4 = 0$ tous les éléments du triplet s'annulent, on pourra utiliser d'autres invariants bironnels pour caractériser les classes d'isomorphimes, des exemples de triplets de ce genre sont fournis par le théorème 4.3.2 (le chapitre 4 et la section 4.3) en utilisant leurs fonctions modulaires associées.

### 3.3.2 Invariants avec les thêta constantes

On considère le sous groupe $\Gamma_2(2, 4)$ de $\Gamma_2$, c'est un sous groupe normal d'indice 11520. Soit $\Omega \in \mathcal{F}_2$, on reprend les considérations de la proposition 3.3.7 en supposant qu'aucune thêta constante paire ne s'annule en $\Omega$. Alors les huits possibles 10-uplets de theta constante paires qui satisfont le système d'équations 3.3.7 sont définis par :

$$ \left\{ \left( \theta_j^2 \left( \Omega + \binom{2a}{b} \binom{b}{2c} \right) \right)_{j \in \mathcal{P}_2} : (a, b, c) \in \{0, 1\}^3 \right\} $$

Il en découle la proposition suivante :

**Proposition 3.3.10.** Pour tout $\Omega, \Omega' \in \mathfrak{S}_2$ tels que :

$$ [\theta_0^2(\Omega) : \theta_1^2(\Omega) : \theta_2^2(\Omega) : \theta_3^2(\Omega)] = [\theta_0^2(\Omega') : \theta_1^2(\Omega') : \theta_2^2(\Omega') : \theta_3^2(\Omega')], $$

il existe $\gamma \in \Gamma_2(2, 4)$ tel que $\Omega' = \gamma\Omega$.

*Démonstration.* Aller à [28] □

<figure><img src="image_22.png" /></figure>

Et l'exemple 3.3.6 nous dit que pour tout $i \in \mathcal{P}_2$ et $j = 1, 2, 3$ les fonctions définies par :

$$ c_i(\Omega) := \frac{\theta_i^2(\Omega)}{\theta_0^2(\Omega)} \quad \text{et} \quad b_j(\Omega) := \frac{\theta_i(\Omega/2)}{\theta_0(\Omega/2)} $$

sont $\Gamma_2(2, 4)$-modulaires. À partir des formules de duplication 3.3.2 on montre que l'on peut passer des $c_i$ aux $b_j$ et inversement. Par suite nous avons le résultat suivant :

$$ b_1 = (c_1 + c_9)(1 + c_4 + c_8 + c_{12})^{-1}, $$

$$ b_2 = (c_2 + c_6)(1 + c_4 + c_8 + c_{12})^{-1}, $$

$$ b_3 = (c_3 + c_{15})(1 + c_4 + c_8 + c_{12})^{-1}. $$

**Théorème 3.3.11.** Le corps des fonctions modulaires invariantes par $\Gamma_2(2, 4)$ est $\mathbb{C}(b_1, b_2, b_3) = \mathbb{C}(c_1, \dots, c_{15})$.

*Démonstration.* Aller à [72, 78] □

<figure><img src="image_23.png" /></figure>
## 3.4 ESPACE MODULAIRE DE HILBERT

Dans cette partie nous définissons l'espace modulaire de Hilbert. Cet espace à l'avantage de produire des polynômes modulaires plus petits. Et des polynômes modulaires de Hilbert ont été évalués par E.Milio dans [78] (en fonctions de invariants de Gundlach et aussi en fonctions des invariants thêta). Nous faisons dans cette section un rappel sur la structure de l'espace de module d'Hilbert en se referant aussi sur les travaux de [44, 47-50].

### 3.4.1 Surfaces de Humbert

Soit $\Omega = \begin{pmatrix} \Omega_1 & \Omega_2 \\ \Omega_2 & \Omega_3 \end{pmatrix} \in \mathfrak{H}_2$ et $a, b, c, d, e \in \mathbb{Z}$. Une équation de la forme:

$$a\Omega_1 + b\Omega_2 + c\Omega_3 + d(\Omega_2^2 - \Omega_1\Omega_3) + e = 0$$

est appelée relation singulière de discriminant $\Delta = b^2 - 4ac - 4de$. Et si de plus pgcd $(a, b, c, d, e) = 1$ on dira que la relation singulière est primitive.

Lorsque $\Omega \in \mathfrak{H}_2$ vérifie ces propriétés alors on montre que toute sa classe d'équivalence modulo $\Gamma_2$ les vérifient. Et d'après le Lemme d'Humbert [48, 49], il existe un $\gamma \in \Gamma_2$ tel que élément $\Omega' = \gamma\Omega = \begin{pmatrix} \Omega'_1 & \Omega'_2 \\ \Omega'_2 & \Omega'_3 \end{pmatrix}$ dans cette classe vérifiant la relation normalisée de la forme:

$$\Omega'_1 + \ell\Omega'_2 - \Omega'_3 = 0$$

où $k$ et $\ell$ sont déterminés uniquement par $\Delta = 4k + \ell$ et $\ell \in \{0, 1\}$.

Pour tout $\Omega \in \mathfrak{H}_2$ satisfaisant une relation singulière de discriminant $\Delta$, des algorithmes dans [4, 78] permettent de déterminer un $\gamma \in \Gamma_2$ comme dans le Lemme d'Humbert.

Soit $\Delta = 0, 1$ mod $4$ et $\Delta > 0$, on appelle surface de Humbert $H_\Delta$ de discriminant $\Delta$ l'ensemble formé par les $\Omega \in \mathfrak{H}_2/\Gamma_2$ qui satisfont une relation primitive singulière de discriminant $\Delta$.

**Proposition 3.4.1.** Soient $A_\Omega$ la surface abélienne principalement polarisée associée à $\Omega \in \mathfrak{H}_2$ et $\Delta \neq \Delta'$ deux discriminants qui ne sont pas des carrés, alors:

- $A_\Omega$ est simple si et seulement si $\Omega \notin \bigcup_{m>0} H_{m^2}$;

- Si $\Omega \in H_\Delta$, alors $\text{End}(A_\Omega) \otimes \mathbb{Q}$ contient $\mathbb{Q}(\sqrt{\Delta})$;

- Si $\Omega \in H_\Delta \cap H_{\Delta'}$, alors soit $A_\Omega$ est simple et $\text{End}(A_\Omega) \otimes \mathbb{Q}$ est une algèbre de quaternions totalement indéfinie sur $\mathbb{Q}$, ou $A_\Omega$ est isogène à $E \times E$, où $E$ est une courbe elliptique.

Soit $D$ un entier sans facteur carré et $K = \mathbb{Q}(\sqrt{D})$ un corps quadratique réel de discriminant $\Delta$ (égal à $D$ si $D \equiv 1 \mod 4$ sinon $4D$, son anneau des entiers est $O_K = \mathbb{Z} + \omega\mathbb{Z}$; (où $\omega = \frac{1+\sqrt{D}}{2}$ si $D \equiv 1 \mod 4$ sinon $\omega = \sqrt{D}$).

Pour tout $\lambda \in K$ et pour $z = (z_1, z_2) \in \mathfrak{H}_1^2$ avec $\mathfrak{H}_1 = \{z \in \mathbb{C} : \text{Im } z > 0\}$, on définit sur $\mathfrak{H}_1^2$:

$$\lambda z = (\lambda z_1, \bar{\lambda} z_2), \quad N(z) = z_1 z_2 \quad \text{et} \quad \text{Tr}(z) = z_1 + z_2$$

et une involution $\nu$ telle que : $(z_1, z_2) \mapsto (z_2, z_1)$.

Le groupe $\text{SL}_2(\mathcal{O}_K)$ agit par la gauche sur $\mathfrak{H}_1^2$ par :

$$\begin{pmatrix} a & b \\ c & d \end{pmatrix} \cdot (z_1, z_2) = \left( \frac{az_1 + b}{cz_1 + d}, \frac{\bar{a}z_2 + \bar{b}}{\bar{c}z_2 + \bar{d}} \right)$$

On appelle surface modulaire de Hilbert, l'espace quotient $\text{SL}_2(\mathcal{O}_K)\backslash \mathfrak{H}_1^2$ lequel décrit les surfaces abéliennes principalement polarisées $A$ avec multiplication réelle par l'ordre maximal $\mathcal{O}_K$
dont un plongément est donné par $\mu : \mathcal{O}_{\mathbb{K}} \to \text{End}(\mathcal{A})$. Une fonction holomorphique $f$ sur $\mathfrak{H}_1^2$ est appelée une formes modulaires de Hilbert de poids $k$ pour le sous groupe $\Gamma$ de $\text{SL}_2(\mathcal{O}_{\mathbb{K}})$, si il vérifie pour tout $\gamma = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in \Gamma$ et $\tau = (\tau_1, \tau_2) \in \mathfrak{H}_1^2$ la condition $f(\gamma\tau) = N(c\tau + d)^k f(\tau)$; et une fonction modulaire de Hilbert est le quotient de deux formes modulaires de Hilbert de même poids. Une forme ou une fonction modulaire $f$ est dite symétrique si elle vérifie $f(v(z)) = f(z)$.

**Exemple 3.4.2.** Soit $(e_1, e_2)$ une $\mathbb{Z}$-base de $\mathcal{O}_{\mathbb{K}}$, on définit les séries d'Eisenstein de poids pair $k \ge 2$ par :

$$G_k(z) = 1 + \sum_{t=a+b\bar{c} \in \mathcal{O}_{\mathbb{K}}^{+}} b_k(t)q_1^a q_2^b \quad \text{avec} \quad b_k(t) = \kappa_k \sum_{t\mathcal{O}_{\mathbb{K}} \subset \mu\mathcal{O}_{\mathbb{K}}} |\mathcal{O}_{\mathbb{K}}/\mu\mathcal{O}_{\mathbb{K}}|^{k-1}$$

et $\kappa_k = \zeta_{\mathbb{K}}(k)^{-1}(2\pi)^{2k}((k-1)!)^{-2}\Delta_{\mathbb{K}}^{1/2-k}$. Où on a :

$$q_1 = \exp(2i\pi(e_1t_1 + \bar{e}_1t_2)) \quad \text{et} \quad q_2 = \exp(2i\pi(e_2t_1 + \bar{e}_2t_2))$$

Ces séries d'Eisenstein sont des formes modulaires symétriques pour $\text{SL}_2(\mathcal{O}_{\mathbb{K}})$ avec des coefficients dans $\mathbb{Q}$.

Soit $\dot{\Gamma}(1) = \text{SL}_2(\mathcal{O}_{\mathbb{K}} \otimes \partial_{\mathbb{K}})$ où

$$\text{SL}_2(\mathcal{O}_{\mathbb{K}} \otimes \partial_{\mathbb{K}}) = \left\{ \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in \text{SL}_2(\mathbb{K}) : a, b \in \mathcal{O}_{\mathbb{K}}, b \in \frac{1}{\sqrt{\Delta_{\mathbb{K}}}} \mathcal{O}_{\mathbb{K}} \text{ et } c \in \sqrt{\Delta_{\mathbb{K}}} \mathcal{O}_{\mathbb{K}} \right\}.$$

Soient $z = (z_1, z_2) \in \mathfrak{H}_1^2$, $x \in \mathbb{K}$ et $\gamma = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in \text{SL}_2(\mathbb{K})$ alors on admet les notations suivantes: $z^* = \begin{pmatrix} z_1 & 0 \\ 0 & z_2 \end{pmatrix}$, $x^* = \begin{pmatrix} x & 0 \\ 0 & \bar{x} \end{pmatrix}$ et $\gamma^* = \begin{pmatrix} a^* & b^* \\ c^* & d^* \end{pmatrix}$.

Lorsqu'une $\mathbb{Z}$-base $(e_1, e_2)$ de $\mathcal{O}_{\mathbb{K}}$ fixée l'on définit les applications :

$$\phi_{e_1, e_2} : \mathfrak{H}_1^2 \to \mathfrak{H}_2 \quad \text{et} \quad \phi_{e_1, e_2} : \text{SL}_2(\mathbb{K}) \to \text{Sp}_4(\mathbb{Q}) \\ z \mapsto {}^tRz^*R \qquad \gamma \mapsto S\gamma^*S^{-1}$$

où $R = \begin{pmatrix} e_1 & e_2 \\ \bar{e}_1 & \bar{e}_2 \end{pmatrix}$ et $S = \begin{pmatrix} {}^tR & 0 \\ 0 & R^{-1} \end{pmatrix}$. Et ces applications satisfont :

$$\begin{aligned} - \phi_{e_1, e_2}^{-1}(\Gamma_2) &= \dot{\Gamma}(1) \text{ et } \phi_{e_1, e_2}(v(z)) = \gamma \cdot \phi_{e_1, e_2}(z) \text{ pour un certain } \gamma \in \Gamma_2. \\ \phi_{e_1, e_2}(\gamma \cdot z) &= \phi_{e_1, e_2}(\gamma) \cdot \phi_{e_1, e_2}(z), \forall \gamma \in \dot{\Gamma}(1) \text{ et } z \in \mathfrak{H}_1^2. \end{aligned}$$

$$\begin{aligned} - \phi_{e_1, e_2}(\gamma \cdot z) &= \phi_{e_1, e_2}(\gamma) \cdot \phi_{e_1, e_2}(z), \forall \gamma \in \dot{\Gamma}(1) \text{ et } z \in \mathfrak{H}_1^2. \\ - \text{Pour une autre } \mathbb{Z}\text{-base } (f_1, f_2) \text{ de } \mathcal{O}_{\mathbb{K}} \text{ il existe } \gamma \in \Gamma_2 \text{ tel que: } \phi_{e_1, e_2}(z) = \gamma \cdot \phi_{e_1, e_2}(z). \end{aligned}$$

La fonction: $\phi_{e_1, e_2}$ définie sur $\mathfrak{H}_1^2$ et $\text{SL}_2(\mathbb{K})$ envoie $\mathfrak{H}_1^2$ et $(\dot{\Gamma}(1) \cup \dot{\Gamma}(1)_v) \setminus \mathfrak{H}_1^2$ vers la surface de Humbert de discriminant $\Delta_{\mathbb{K}}$. L'espace analytique quotient $(\dot{\Gamma}(1) \cup \dot{\Gamma}(1)_v) \setminus \mathfrak{H}_1^2$ est appelé une surface modulaire symétrique de Hilbert. Il est birationnellement équivalent à la surface de Humbert.

Ces résultats sont illustrés sur le diagramme commutatif suivant: où $\eta$ est une application rationnelle de degré 2 et $\rho$ est une application génériquement de degré 1 sur la surface de Humbert $H_{\Delta_{\mathbb{K}}}$ ( pour plus de détails sur cette construction aller à [79, § 2]). Une composante irréductible de $H_{\Delta_{\mathbb{K}}}^{\Gamma} = \eta^{-1}(H_{\Delta_{\mathbb{K}}})$ dans $\Gamma\backslash\mathfrak{H}_2$ est appelé une composante de la surface de Humbert.

En particulier lorsque $\mathbb{C}(\Gamma) = \mathbb{C}(i_1, \dots, i_k)$ pour le sous groupe modulaire $\Gamma$ tel que les restrictions des fonctions modulaires $i_j$ n'admettent pas de pôles en les points génériques des composantes $H_{\Delta_{\mathbb{K}}}^{\mathcal{G}}$ (où $\mathcal{G} = \phi_{1,\omega}^{-1}(\Gamma)$). Alors les $\rho^{*}i_j$ engendrent le corps de fonctions $\mathbb{C}_{\mathcal{G}}$ des fonctions modulaires de Hilbert. Par suite, ces tirés-en-arrières ("pullbacks") engendrent les fonctions modulaires symétriques de Hilbert pour $\dot{\Gamma} = \mathcal{G} \cap \dot{\Gamma}(1)$ ou ils engendrent tout
<figure><img src="image_24.png" /><figcaption>FIGURE 3.4 – Diagramme de description de composantes de surface de Humbert</figcaption></figure>

le corps de fonctions $C_{\dot{\Gamma}}$ des fonctions modulaires de Hilbert pour $\dot{\Gamma}$ [79, Prop 2.15.]. Donc le tiré-en-arrière par le plongément de Hilbert permet d'exprimer les $j_i$ (en utilisant $\phi_{1,\omega}^*j_i$) comme invariants sur une surface modulaire symétrique de Hilbert. De façon similaire, $\dot{b}_k = \phi^*b_k$ et $\dot{r}_k = \phi^*r_k$ pour $k=1,2,3$ sont les générateurs pour le corps de fonctions modulaires de Hilbert invariants par $\dot{\Gamma}(2)$ respectivement par $\dot{\Gamma}(2,4)$ si $D \equiv 1 \bmod 4$ et par $\dot{\Gamma}(2) \cup \dot{\Gamma}(2)_v$ respectivement par $\dot{\Gamma}(2,4) \cup \dot{\Gamma}(2,4)_v$ si $D \equiv 2,3 \bmod 4$ où:

$$ \dot{\Gamma}(2) = \phi_{1,\omega}^{-1}(\Gamma(2)) \cap \mathrm{SL}_2(\mathcal{O}_{\mathbb{K}} \otimes \partial_{\mathbb{K}}) \quad \text{et} $$

$$ \dot{\Gamma}(2,4) = \phi_{1,\omega}^{-1}(\Gamma(2,4)) \cap \mathrm{SL}_2(\mathcal{O}_{\mathbb{K}} \otimes \partial_{\mathbb{K}}). $$

Comme $C_{\Gamma_2} = C(j_1, j_2, j_3)$ et les tirés en arrière des invariants d'Igusa peuvent être exprimés en terme des invariants de Gundlach comme l'indique le théorème 3.4.4.

Ainsi toute fonction modulaire symétrique de Hilbert peut être ainsi exprimée en terme des invariants de Gundlach. Et pour les $D$ où l'on n'a pas d'invariants de Gundlach on peut prendre les fonctions algébriquement dépendantes $\phi^*j_k$ pour $k=1,2,3$ comme invariants sur la surface modulaire symétrique de Hilbert.

Par exemple pour le cas $\Gamma = \Gamma_2(2,4)$ le nombre de composantes de la surface de Humbert est:

$$ \begin{cases} 10 & \text{si } D \equiv 1 \bmod 8, \\ 6 & \text{si } D \equiv 5 \bmod 8, \\ 60 & \text{si } D \equiv 2,3 \bmod 4 \end{cases} $$

Et pour $D = 2,3,5$, les composantes de ces surfaces de Humbert sont données par les équations suivantes:

$$ \begin{align*} & b_1 - \frac{1}{2}(b_2 + b_3^2) = 0, \\ & -b_1^4 - b_2^4 - 4b_3^2 - 2b_1^2b_2^2 + 4b_1b_2 + 4b_1b_2b_3^2 = 0, \\ & -\frac{1}{2} \left( \sum_i b_i^4 + \sum_i \sum_{j \neq i} (b_i b_j)^4 \right) + b_1 b_2 b_3 \left( 1 + \sum_i b_i^4 - b_1 b_2 b_3 \right) = 0. \end{align*} $$

La surface modulaire de Hilbert $\mathrm{SL}_2(\mathcal{O}_{\mathbb{K}})\backslash\mathfrak{S}_1^2$ est rationnelle seulement pour $D = 2,3,5,6,7,13,17,21,33$ (d'après [47]). Et les deux générateurs de la surface modulaire symétrique de Hilbert pour les cas $D=2$ et $5$ sont définis comme suit.

• Pour $\mathbb{K} = \mathbb{Q}(\sqrt{2})$, on pose :

$$ H_4 = \frac{11(G_2^2 - G_4)}{2^{-6} \cdot 3^{-2}} \quad \text{et} \quad H_6 = \frac{-5 \cdot 7^2 \cdot G_2^3}{2^8 \cdot 3^3 \cdot 13} + \frac{11 \cdot 59 G_2 G_4}{2^8 3^2 5 \cdot 13} - \frac{19^2 \cdot G_6}{2^7 \cdot 3^3 \cdot 5 \cdot 13} $$
• Pour $\mathbb{K} = \mathbb{Q}(\sqrt{2})$, on pose :

$$ H_6 = \frac{67(G_2^3 - G_6)}{2^5 3^3 5^2}, \quad H_{12} = 2^{-2}(H_6^2 - G_2 H_{10}) \quad \text{et} \\ H_{10} = 2^{-10} 3^{-5} 5^{-5} 7^{-1} (412751 G_{10} - 5 \cdot 67 \cdot 2293 G_2^2 G_6 + 2^2 3 \cdot 7 \cdot 4231 G_2^5) $$

**Théorème 3.4.3.** Le corps des fonctions modulaires de Hilbert pour $SL_2(\mathcal{O}_{\mathbb{K}})$ sont des fonctions rationnelles en $\mathfrak{J}_1$ et $\mathfrak{J}_2$ appelés invariants de Gundlach pour $\mathbb{K}$.

• Lorsque $\mathbb{K} = \mathbb{Q}(\sqrt{2})$ on a $\mathfrak{J}_1 = \frac{G_2^2}{H_4}$ et $\mathfrak{J}_2 = \frac{G_2 H_6}{H_4^2}$.

• Lorsque $\mathbb{K} = \mathbb{Q}(\sqrt{5})$ on a $\mathfrak{J}_1 = \frac{G_2^5}{H_{10}}$ et $\mathfrak{J}_2 = \frac{G_2^2 H_6}{H_{10}}$.

*Démonstration.* Aller à [44]. □

### 3.4.2 De Hilbert à Siegel

On considère $\mathbb{K} = \mathbb{Q}(\sqrt{D})$, alors on a $\partial_{\mathbb{K}} = \sqrt{\Delta_{\mathbb{K}}}\mathcal{O}$ et $\partial_{\mathbb{K}}^{-1} = \frac{1}{\Delta_{\mathbb{K}}}\mathcal{O}_{\mathbb{K}}$.

Une base plus pratique est donnée par $e_1 = 1$ et $e_2 = \epsilon$. Dans ce cas, on a que pour tout $z \in \mathfrak{J}_1^2$, l'image $\phi_{1,\epsilon}(z) = \begin{pmatrix} \Omega_1 & \Omega_2 \\ \Omega_2 & \Omega_3 \end{pmatrix} \in \mathfrak{J}_2$ vérifie :

$$ \frac{D-1}{4}\Omega_1 + \Omega_2 - \Omega_3 = 0 \quad \text{si} \quad D \equiv 1 \quad \text{mod } 4, \\ D\Omega_1 - \Omega_3 = 0 \quad \text{si} \quad D \equiv 2,3 \quad \text{mod } 4. $$

Si de plus $\epsilon$ est une unité de norme $-1$, il existe des bijections $\phi_0 : z \mapsto \frac{\epsilon}{\sqrt{\Delta_K}}z$ et $\phi_0 : \gamma \mapsto \alpha\gamma\alpha^{-1}$ de $SL_2(\mathcal{O}_{\mathbb{K}})$ sur $SL_2(\mathcal{O}_{\mathbb{K}} \otimes \partial_{\mathbb{K}}^{-1})$ avec $\alpha = \text{diag}(1, \sqrt{\Delta_{\mathbb{K}}}/\epsilon)$ telles que lorsque l'on définit $\phi_{\epsilon} = \phi_1 \circ \phi_0$ avec $\phi_1 = \phi_{1,\epsilon}$; alors une forme modulaire symétrique de Hilbert peut être définie comme le tiré en arrière par $\phi_{\epsilon}$ d'une forme modulaire de Siegel pour $\Gamma_2$ de poids $k$ [78, Proposition 5.1.10]. En utilisant cette approche on montre le théorème suivant exprimant en fonction des invariants de Gunlach les tirés en arrière par $\phi_{\epsilon}$ des invariants d'Igusa dans les cas $D=2$ et $D=5$.

**Théorème 3.4.4.** (De Hilbert à Siegel).

• Lorsque $\mathbb{K} = \mathbb{Q}(\sqrt{2})$, on a :

$$ \phi_{\epsilon}^{*}j_1 = 8\mathfrak{J}_1 (3\mathfrak{J}_2^2/\mathfrak{J}_1 - 2)^5; \\ \phi_{\epsilon}^{*}j_2 = 2^{-1}\mathfrak{J}_1 (3\mathfrak{J}_2^2/\mathfrak{J}_1 - 2)^3; \\ \phi_{\epsilon}^{*}j_3 = 2^{-3}\mathfrak{J}_1 (3\mathfrak{J}_2^2/\mathfrak{J}_1 - 2)^2 (4\mathfrak{J}_2^2/\mathfrak{J}_1 + 2^5 3^2 \mathfrak{J}_2/\mathfrak{J}_1 - 3). $$

• Lorsque $\mathbb{K} = \mathbb{Q}(\sqrt{5})$, on a :

$$ \phi_{\epsilon}^{*}j_1 = 8\mathfrak{J}_1^3/\mathfrak{J}_2 (1 + 12/\mathfrak{J}_2 + 12\mathfrak{J}_2/\mathfrak{J}_1)^5; \\ \phi_{\epsilon}^{*}j_2 = 2\mathfrak{J}_1^2/\mathfrak{J}_2 (\mathfrak{J}_1 + 144) (1 + 12/\mathfrak{J}_2 + 12\mathfrak{J}_2\mathfrak{J}_1)^3; \\ \phi_{\epsilon}^{*}j_3 = 8^{-1} (1 + 12/\mathfrak{J}_2 + 12\mathfrak{J}_2\mathfrak{J}_1)^2 \cdot (\mathfrak{J}_1^3/\mathfrak{J}_2 + 16\mathfrak{J}_1^2 + 16\mathfrak{J}_1^3/\mathfrak{J}_2 + 2304\mathfrak{J}_1^2/\mathfrak{J}_2^2 + 408\mathfrak{J}_1^2/\mathfrak{J}_2 + 2880\mathfrak{J}_1). $$
*Démonstration.* Elle consiste à calculer en fonction des invariants de Gunlach les tirés en arrière par $\phi_c$ des formes modulaires $\psi_4, \psi_6, \chi_{10}$ et $\chi_{12}$ en utilisant la Proposition 5.1.10 [78].
Pour plus de détails aller à [93].
□
Dans le chapitre 3 nous avons vu que sur $\mathbb{C}$ les Jacobiennes de courbes de genre 2 étaient exactement des surfaces abéliennes principalement polarisées que l'on pouvait générer à isomorphisme près, à partir d'éléments de $\mathcal{F}_2$. Et d'une manière plus précise, les valeurs prises par les triplets d'invariants d'Igusa (ou de Streng) correspondent aux classes d'isomorphismes et mieux encore nous pouvons retrouver ces classes avec les invariants thêta.

Dans cette partie nous allons revoir les différents types d'invariants définis pour les courbes de genre 2 sur un corps quelconque.

Et cela a été le cas d'abord pour les courbes elliptiques où par exemple, on définit à équivalence près le $j$-invariant à partir de l'équation de la courbe par :

$$j = \frac{1728a_4^3}{4\Delta} \quad \text{avec} \quad \Delta = -16(4a_4^3 + 27a_6^2),$$

pour une courbe elliptique d'équation: $y^2 = x^3 + ax + b$ sur un corps $\mathbb{k}$ de caractéristique $\text{char}(\mathbb{k}) \neq 2, 3$. Alors deux courbes elliptiques isomorphes $E$ et $E'$ ont le même $j$-invariant, et réciproquement si $j(E) = j(E')$, les courbes $E$ et $E'$ sont isomorphes sur $\mathbb{k}$. Ainsi l'espace modulaire des courbes elliptiques sur $\mathbb{k}$ est dimension 1.

L'objectif principal de ce chapitre est l'introduction de nouveaux invariants (la section 4.3) absolus pour les courbes de genre 2, ayant bonne réduction en toutes caractéristiques pour permettre de calculer le relevé canonique en petites caractéristiques sur l'espace de Siegle. Certaines des idées ci-dessous sont reprises de la publication [71].

## 4.1 INVARIANT D'UNE FORME SEXTIQUE

Soit un corps $\mathbb{k}$ de clôture algébrique $\bar{\mathbb{k}}$, une courbe de genre 2 $\mathcal{C}$ sur $\mathbb{k}$ admet un model affine $\mathcal{C}: y^2 + h(x)y = f(x)$ sur $\mathbb{k}[x, y]$, où $\deg(h) = 2$, $f$ est unitaire de degré 5 ou 6. En effet la courbe $\mathcal{C}$ est complètement définie par son corps de fonction $\mathbb{k}(\mathcal{C})$. Et dans le cas où $\mathcal{C}$ est lisse, elle est une normalisation d'un model birationnel de $\mathbb{k}(\mathcal{C})$. Alors comme dans le chapitre 3 et la section 3.2.2, $\mathbb{k}(\mathcal{C})$ est décrit en utilisant la *Théorie de Kummer* en caractéristique différente 2 ou en utilisant la *Théorie d'Artin-Schreier* en caractéristique 2.

Lorsque la caractéristique de $\mathbb{k}$ est $\text{char}(\mathbb{k}) \neq 2$, nous pouvons associer à un modèle hyperelliptique $y^2 = f(x)$, une forme sextique définie par :

$$F(x_1, x_2) = x_2^6 f(x_1/x_2)$$

et $F$ aura la forme suivante:

$$F(x_1, x_2) = a_0 x_1^6 + a_1 x_1^5 x_2 + \dots + a_5 x_1 x_2^5 + a_6 x_2^6$$

Selon la *Théorie des Invariants Algébriques de Hilbert* [76], un covariant est un polynôme $\mathcal{C} \in \mathbb{k}[a_0, \dots, a_6, x_1, x_2]$ en les coefficients de la forme générique du sextique, telque tout changement de variable

$$(x_1, x_2) \rightarrow (ax_1 + \beta x_2, \gamma x_1 + \delta x_2)$$
associé à la matrice $M = \begin{pmatrix} \alpha & \beta \\ \gamma & \delta \end{pmatrix} \in GL_2(\mathbb{K})$, change C par une puissance fixée du $\det(M)$, c'est-à-dire

$$C(a'_0, \dots, a'_6, \alpha x_1 + \beta x_2, \gamma x_1 + \delta x_2) = \det(M)^k C(a_0, \dots, a_6, x_1, x_2)$$

où les $a'_i$ avec $i \in \{0, \dots, 6\}$ sont les coefficients après changement.

**Définition 4.1.1.** Lorsque $C$ est un covariant alors :

- $C$ est homogène en $x_1$ et $x_2$ avec un degré total appelé l'ordre de $C$;

- $C$ est aussi homogène en $a_i$ avec un degré total appelé le degré de $C$;

- et $k$ est appelé l'indice de $C$.

Alors nous avons la propriété suivante [76] :

$$2k = 6(\text{degre de } C) - (\text{ordre de } C)$$

Les covariants de covariants de $C$ sont des covariants de $C$. Et l'algèbre des covariants est de type fini [16].

Soit $G$ le sous-groupe de $GL_2(\mathbb{K})$ qui transforme une forme sextique $F$ en $uF, u \in \mathbb{K}^*$, alors $G$ contient les homothéties. Et le groupe des $\mathbb{K}$-automorphismes de $F: Aut_{\mathbb{K}}(F)$ est l'image de $G$ dans $PGL_2(\mathbb{K})$. [76].

**Définition 4.1.2.** Un invariant $I$ d'une forme sextique $F$ est un covariant d'ordre 0. On note par $I(C)$ ou $I(F)$ la valeur de $I$ associée à la forme sextique $F$ ou à la courbe de genre $2C$.

Deux formes sextiques $F$ et $F'$ sont linéairement équivalentes (classification) si et seulement si il existe $r \in \bar{\mathbb{K}}^*$ tel que pour tout invariant $I$, on a $I(F) = r^d I(F')$, où $d$ est le degré de $I$. Alors le fait qu'un invariant s'annule sur certaines courbes, dépend de la classe d'isomorphisme de la courbe.

Soient $f$ et $g$ deux formes binaires de degré $n$ et $m$. Pour calculer les covariants d'une forme sextique, Clebsch introduisit une opération appelée Ueberschiebung définie par :

$$(fg)_k = \frac{(m-k)!(n-k)!}{m!n!} \left( \left( \frac{\partial f}{\partial x} \right)^r \left( \frac{\partial f}{\partial y} \right)^s - \left( \frac{\partial f}{\partial y} \right)^r \left( \frac{\partial f}{\partial x} \right)^s \right)^k$$

où dans le calcul binomial $\left(\frac{\partial f}{\partial x}\right)^r \left(\frac{\partial f}{\partial y}\right)^s$ signifie $\frac{\partial^{r+s} f}{\partial x^r \partial y^s}$. Et quand $f = g$ on prefère noter $(ff')_k$ à la place de $(ff)_k$.

**Proposition 4.1.3.** — $(fg)_k$ est un covariant de $f$ et $g$ d'ordre $m + n - 2k$ où $m = \deg(f)$ et $n = \deg(g)$.

- En particular si $g$ et $h$ sont deux formes binaires de $f$ d'ordre $m$ et $n$, de degré $r$ et $s$ alors $(gh)_k$ est un covariant de $f$ d'ordre $m + n - k$ et de degré $r + s$.

- Tout covariant de $f$ peut être déterminer en utilisant le Ueberschiebung (appliqué de manière itérée à $f$).

**Démonstration.** Aller à [16, 76]. □

<figure><img src="image_25.png" /></figure>
**Exemple 4.1.4.** Soit $f$ une forme sextique, par le *Ueberschiebung* nous avons les covariants suivant :

<table><thead><tr><th>covariants</th><th>ordre</th><th>deg</th></tr></thead><tbody><tr><td>$i = (ff')_4$</td><td>4</td><td>2</td></tr><tr><td>$\Delta = (ii')_2$</td><td>4</td><td>4</td></tr><tr><td>$y_1 = (fi)_4$</td><td>2</td><td>3</td></tr><tr><td>$y_2 = (iy_1)_2$</td><td>2</td><td>5</td></tr><tr><td>$y_3 = (iy_2)_2$</td><td>2</td><td>7</td></tr><tr><td>$A = (ff')_6$</td><td>0</td><td>2</td></tr><tr><td>$B = (ii')_4$</td><td>0</td><td>4</td></tr><tr><td>$C = (i\Delta)_4$</td><td>0</td><td>6</td></tr><tr><td>$D = (y_3y_1)_2$</td><td>0</td><td>10</td></tr><tr><td>$R = -(y_1y_2)(y_2y_3)(y_3y_1)$</td><td>0</td><td>15</td></tr></tbody></table>

L'algèbre des invariants est engéndré par $A, B, C, D$ et $R$ [16]. D'autre part $R^2$ admet une expression polynomiale en les quatres générateurs de degrés pairs. Alors la condition d'équivalence linéaire des formes sextiques se réduit aux quatres invariants $A, B, C, D$ appelés *invariants de Clebsh*.

En considérant le modèle hyperelliptique des courbes de genre 2 $C$: $y^2 = f(x) = u_0x^6 + u_1x^5 + \dots + u_5x + u_6$ et $\alpha_1, \dots, \alpha_6$ des racines distinctes de $f$: on note par $(ij)$ la différence $(\alpha_{\sigma(i)} - \alpha_{\sigma(j)})$. Alors J. Igusa a montré [51] que les expressions:

$$I_2 = u_0^2 \sum_{15} (12)^2 (34)^2 (56)^2,$$

$$I_4 = u_0^4 \sum_{10} (12)^2 (23)^2 (31)^2 (45)^2 (56)^2 (64)^2,$$

$$I_6 = u_0^6 \sum_{60} (12)^2 (23)^2 (31)^2 (45)^2 (56)^2 (64)^2 (14)^2 (25)^2 (36)^2,$$

$$I_{10} = u_0^{10} \prod_{i<j} (\alpha_i - \alpha_j)^2$$

telles que une racine $\alpha_i$ apparaît dans chaque expression $m$ fois égal au degré de $u_0$, sont des invariants homogènes (à coefficients entiers) de degré $m$. L'invariant $I_{10}$ est le discriminant de la forme sextique associée. Il est possible de calculer ces nouveaux invariants en fonction de ceux de Clebsh et vis-versa, par les relations suivantes:

$$I_2 = -120A,$$

$$I_4 = -720A^2 + 6750B,$$

$$I_6 = 8640A^3 - 108000AB + 202500C,$$

$$I_{10} = -62208A^5 + 972000A^3B + 1620000A^2C - 3037500AB^2 - 6075000BC - 4556250D.$$

Ainsi on appelle les $I_{2i}$ avec $\{1, 2, 3, 5\}$ les *invariants d'Igusa-Clebsh*. Et Igusa montra qu'à tout quadruplet $(A, B, C, D)$ correspond une forme sextique admettant $A, B, C, D$ comme invariants. En caractéristique nulle la connaissance du quadruplet $(A, B, C, D)$ (par équivalence celle des $I_{2i}$) dans l'espace projectif gradué correspond exactement à celle des courbes de
genre 2 dans l'espace de module ("coarse") $M_2$.

Cependant, ces invariants n'ont pas une bonne réduction pour certaines caractéristiques. En effet, les invariants de Clebsh $(A, B, C, D)$ ont une mauvaise réduction en caractéristique 2, 3, 5. Et les réductions en caractéristiques 2 et 3 des invariants d'Igusa-Clebsh même si elle sont définies ne permettent pas une classification des courbes de genre 2 pour ces caractéristiques.

## 4.2 INVARIANTS ARITHMÉTIQUES

Dans le sens d'étendre la classification fournie par les invariants $I_{2i}$ au caractéristique 2 et 3, Igusa procède par exprimer les invariants $I_{2i}$ avec $i \in \{1, 2, 3, 5\}$ comme polynômes sur $\mathbb{Z}$ en les coefficients $a, b, c, d$ de la forme normale universelle associée à une courbe de genre 2 en caractéristique quelconque.

### 4.2.1 Forme Normale Universelle

Dans cette partie nous nous intéressons aux résultats d'Igusa [51, § 2] sur la construction d'une forme normale associée à une courbe hyperelliptique de genre 2.

Lorsque $C$ est une courbe hyperelliptique de genre 2, $P$ un point de Weierstrass de $C$ et $Q$ un point n'étant pas de Weierstrass. Alors d'après la construction d'Igusa [51, § 2], pour $P$ et $Q$ fixé et en utilisant que des transformations projectives on peut toujours déterminer un modèle non-homogène de $C$ sous la forme

$$XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0 \quad (4.1)$$

de manière unique (par transformation près de la forme $(a, b, c, d) \to (\zeta a, \zeta^2 b, \zeta^3 b, \zeta^4 b)$ avec $\zeta^5 = 1$.) Et réciproquement, si une courbe définie par une telle équation n'admet des singularités qu'en $(0, 1, 0)$ alors son modèle lisse est une courbe hyperelliptique d'équation :

$$Y^2 + (1 + aX + bX^2)Y = -X^3(c + dX + X^2)$$

Et l'équation (4.1) est appelée forme normale universelle de la courbe hyperelliptique $C$ de genre 2.

Lorsque la caractéristique est différente de 2, une telle équation peut donner une forme de Rosenhain. En effet pour $x$ différent de 0 et $\infty$, les deux racines de l'équation en $Y$:

$$xY^2 + (1 + ax + bx^2)Y + x^2(c + dx + x^2) = 0$$

détermine un membre d'un système canonique de $C$ autre que $2P$ et $Q + Q'$ (qui correspondent respectivement à $x = 0$ et $x = \infty$). Alors les autres points de Weierstrass (définissant des $Y$ doubles) sont les solutions de l'équation:

$$(1 + aX + bX^2)^2 - 4X^3(c + dX + X^2) = 0$$

Ainsi nous obtenons les points de Weierstrass d'une forme de Rosenhain:

$$X(X - 1)(X - r_1)(X - r_2)(X - r_3) = 0$$

En caractéristique 2, le résultat correspond à la construction d'Artin-Schreier d'une courbe de genre 2: $y^2 - y = R(x)$, où $R$ est une fonction rationelle en $x$ avec diviseurs de pôle. Les classes d'isomorphismes de ces courbes sont en bijection avec les orbites des $R(x)$ sous
la double action par le groupe d'Artin-Schreier $\mathcal{A}\mathcal{S}(\mathbb{k}(x))$ et le groupe projective linéaire $\mathrm{PGL}_2(\mathbb{k})$. Pour plus de détails sur ces actions de groupes se référer à [33, 51]. Il en découle l'existence de trois types de ramifications pour les points de Weierstrass (1, 1, 1), (3, 1), (5) et une courbe correspondant à un de ces types est bironnellement équivalente à une courbe plane affine définie par:

$$ Y^2 - Y = \begin{cases} \alpha X + \beta X^{-1} + \gamma (X-1)^{-1}, & \alpha\beta\gamma \neq 0 & (1,1,1) \\ X^3 + \alpha X + \beta X^{-1}, & \beta \neq 0 & (3,1) \\ X^5 + \alpha X^3, & & (5) \end{cases} $$

En effet en partant de la forme normale non réduite définie précédente, les points de Weierstrass de $\mathcal{C}$ autre que $P$ (s'il en existe) correspondent aux solutions $1 + aX + bX^2 = 0$. Ainsi les cas $ab \neq 0$ correspondent à trois points de Weierstrass c'est-à-dire le type $(1, 1, 1)$. Le cas $a = 0$ ou-bien $b = 0$, nous avons un seul point de Weierstrass différent de $P$ et le type est $(3, 1)$. Dans le dernier cas $a = b = 0$, correspondant au type $(5)$, tous les points de Weierstrass se réduisent sur $P$.

### 4.2.2 Invariants Arithmétiques

En dimension 1, on considère la fonction $j$-invariant $j$. Selon la théorie des invariants de Deuring [26]: $\mathbb{Z}[j]$ est l'anneau des fonctions continues préservant la caractéristique et ne dépendant que des classes bironnelles, définies sur l'ensemble des courbes elliptiques à valeur dans le domaine arithmétique universel.

Alors Igusa définit un *invariant intégral* comme une fonction continue préservant la caractéristique définie sur l'espace des formes sextiques à valeur dans le domaine arithmétique universel qui ne dépendent que des orbites. Et ceux qui ne dépendent que des classes bironnelles des courbes hyperelliptiques de genre 2 sont appelés des *invariants absolus*. En terminologie moderne, un invariant intégral est une section global du champ ("stack") algébrique quotienté par cette action, autrement dit une section de l'espace de module fine $M_2$ ("stack") et aussi de son espace de module (en "coarse").

En genre 2, les invariants intégrals forment un anneau intègre gradué sur $\mathbb{Z}$. Cet anneau tensorisé avec $\mathbb{Q}$ sur $\mathbb{Z}$ est l'anneau intègre gradué des invariants rationnels. Et les $I_{2i}(\mathcal{C})$ sont les valeurs prises par les invariants intégrals homogènes $I_{2i}$ de degré $2i$ sur la sextique associée à $\mathcal{C}$. Un invariant arithmétique est définit comme un invariant rationnel sur $\mathbb{Z}$ en les coefficients $a, b, c, d$ d'une forme normale.

Par exemple :

$$ \begin{align*} J_2 &= 2^{-3}I_2, & J_4 &= 2^{-5}3^{-1}(4J_2^2 - I_4), \\ J_6 &= 2^{-6}3^{-2}(8J_2^3 - 160J_2J_4 - I_6), \\ J_8 &= 2^{-2}(J_2J_6 - J_4^2), & J_{10} &= 2^{-12}I_{10}. \end{align*} $$

sont des invariants arithmétiques associés à la courbe d'équation

$$ XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0 $$

introduits par Igusa dans [51, p. 621]. Les $J_{2i}$ se réduisent bien en toute caractéristique et on a bien $J_{10} \neq 0$ car il encode la propriété que $\mathcal{C}$ est lisse. Et lorsque la caractéristique n'est pas 2, $I_{10}$ correspond au discriminant de $\mathcal{C}$, donc inversible sur $M_2$, car ces courbes sont lisses sur leur base. Les $J_{2i}$ comme polynômes en fonction des $a, b, c, d$ est une quantité ne
dépendant que de la classe bironnementelle des courbes de genre 2. En caractéristique différent de 2, c'est une conséquence de la propriété d'invariance des $I_{2i}$ et en caractéristique 2, c'est une conséquence des relations explicites entre les formes normales réduites l'équation (4.1) et les $J_{2i}$ (détaillées plus loin les équations (4.7) à (4.9)).

Et réciproquement Igusa montre dans [51] qu'en toute caractéristique, à tout quintuplet $(J_2, J_4, J_6, J_8, J_{10})$ avec $J_{10} \neq 0$ correspond une forme normale d'invariant arithmétiques $J_2, J_4, J_6, J_8$ et $J_{10}$ (souvent sur des extensions de corps) [51, § 3, § 5]. Lorsque la caractéristique n'est pas 2, cette construction peut se faire algorithmiquement en utilisant la méthode de Igusa-Clebsh [76] et en caractéristique 2 on pourra utiliser les relations la section 4.3.2. En utilisant la relation $J_2J_6 - J_4^2 - 4J_8 = 0$, on peut se restreindre au quadruplet $(J_2, J_4, J_6, J_{10})$ en caractéristique différente 2. Cependant en caractéristique 2, le rôle de l'invariant $J_8$ est crucial pour décrire les classes d'isomorphismes.

On considère le localisé par les puissances de $J_{10}$, de l'anneau gradué engendré par les invariants $J_{2i}$ $i = 1, 2, 3, 4, 5$. On désigne par $\mathcal{R}$ l'anneau intègre formé par ses éléments homogènes de degré zéro.

Alors d'après [51, § 7] l'anneau $\mathcal{R}$ est engendré sur $\mathbb{Z}$ par les éléments de la forme $J_2^{e_1} J_4^{e_2} J_6^{e_3} J_8^{e_4} J_{10}^{-e_5}$ avec $e_i$ des entiers naturels satisfaisant $e_1 + 2e_2 + 3e_3 + 4e_4 = 5e_5$. Et si $y_1, y_2, y_3$ et $y_4$ sont des variables indépendantes avec $4y_4 = y_1y_3 - y_2^2$, alors la correspondance :

$$J_2^{e_1} J_4^{e_2} J_6^{e_3} J_8^{e_4} J_{10}^{-e_5} \mapsto y_1^{e_1} y_2^{e_2} y_3^{e_3} y_4^{e_4}$$

de $\mathcal{R}$ vers $\mathbb{Z}[y_1, y_2, y_3, y_4]$ définit un isomorphisme entre $\mathcal{R}$ et les éléments de $\mathbb{Z}[y_1, y_2, y_3, y_4]$ invariant par la transformation $y^i \mapsto \zeta_5^i y_i$ pour $i = 1, 2, 3, 4$, où $\zeta_5$ est une racine cinquième de l'unité.

En considérant la condition $J_2J_6 - J_4^2 - 4J_8 = 0$ on arrive à montrer que le monoïde des puissances $e_i$ est engendré par dix éléments, reduit à huit en caractéristique différente de 2. Alors $\mathcal{R}$ est engendré par dix éléments suivants appelés $\gamma_i$ dans [41]:

$$\begin{align*}
\gamma_1 &= J_2^5 / J_{10}, & \gamma_2 &= J_2^3 J_4 / J_{10}, & \gamma_3 &= J_2^2 J_6 / J_{10}, & \gamma_4 &= J_2 J_8 / J_{10}, \\
\gamma_5 &= J_2 J_6 / J_{10}, & \gamma_6 &= J_4 J_8^2 / J_{10}^2, & \gamma_7 &= J_6^2 J_8 / J_{10}^2, & \gamma_8 &= J_6^5 / J_{10}^3, \\
\gamma_9 &= J_6 J_8^3 / J_{10}^3, & \gamma_{10} &= J_8^5 / J_{10}^4.
\end{align*}$$

On considère que, $\mu_5$ le groupe des racines cinquième de l'unité, alors en résumé nous avons le résultat suivant.

**Théorème 4.2.1.** *l'espace de module $M_2$ des courbes de genre 2 est isomorphe à*

$$\mathrm{Proj}(\mathbb{Z}[J_2, J_4, J_6, J_8, J_{10}])_{(J_{10})} = \mathrm{Spec}(\mathbb{Z}[y_1, y_2, y_3, y_4]^{\mu_5}) = \mathrm{Spec}(\mathbb{Z}[\gamma_1, \dots, \gamma_{10}])$$

(avec une graduation pondérée sur $\mathrm{Proj}$). Et la variété $M_2$ peut être vue comme une sous-variété de l'espace affine sur $\mathbb{Z}$ de dimension dix et pas moins.

En caractéritique 2, l'espace tangent de la variété $M_2 \otimes \mathbb{k}$ au point singulier $(J_2 = J_6 = J_8 = 0)$ est de dimension 10.

*Démonstration.* Aller à [51, Théorème 2 et Théorème 6]. □

**Corollaire 4.2.2.** *Nous notons par $\gamma_i(C)$ l'evaluation de $\gamma_i$ sur le model de représentation de $C$.*
— Ainsi pour une courbe $C$ définie sur un corps de nombre $\mathbb{K}$, $C$ a une bonne réduction pour un premier $\mathfrak{p}$ de $\mathbb{K}$ si et seulement si :

$$ \mathrm{ord}_{\mathfrak{p}}(\gamma_i(C)) \geq 0, \quad i = 1, \dots, 10. $$

— Et pour $C_1$ et $C_2$ des courbes sur $\bar{\mathbb{K}}$, alors :

$$ \begin{align*} C_1 \simeq C_2 &\iff (\gamma_1(C_1), \dots, \gamma_1(C_2)) = (\gamma_1(C_2), \dots, \gamma_1(C_2)) \\ &\iff (J_2(C_1) : J_4(C_1) : J_6(C_1) : J_8(C_1) : J_{10}(C_1)) = \\ &\iff (J_2(C_2) : J_4(C_2) : J_6(C_2) : J_8(C_2) : J_{10}(C_2)) \end{align*} $$

(avec graduations pondérées).

## 4.3 CLASSES D'ISOMORPHISMES ET INVARIANTS ABSOLUS

On dit qu'un triplet d'invariants $(i_1, i_2, i_3)$ constitue un triplet d'invariants absolus pour $M_2$ s'il engendre le corps de fonctions $\mathbb{K}(M_2 \otimes \mathbb{K})$. De manière équivalente, un tel triplet d'invariants définit un morphisme birationnel $M_2 \otimes \mathbb{K} \to \mathbb{A}_{\mathbb{K}}^3$, ainsi il définit des coordonnées sur un ouvert $U$ de $M_2 \otimes \mathbb{K}$. Les invariants absolus sont de degré nul (sous forme de quotients d'invariants de même degré). Nous dirons que le triplet d'invariants $(i_1, i_2, i_3)$ est bien défini en $C$ si son évaluation en $C$ correspond à un point géométrique de $U$. C'est une propriété plus forte que celle de: $i_j$ n'ayant juste pas de pôles à $C$, on voudrait aussi que la classe birationnelle de $C$ puisse être récupérée à partir de $(i_1(C), i_2(C), i_3(C))$, ou de manière équivalente par le théorème 4.2.1, que $(J_2(C) : J_4(C) : J_6(C) : J_8(C) : J_{10}(C))$ peut être réconstitué.
Par exemple un système standard d'invariants utilisé pour le calcul des polynômes de classe ou de polynômes modulaires était

$$ (I_2^5 / I_{10}, I_2^3 I_4 / I_{10}, I_2^2 I_6 / I_{10}) $$

et le $U$ correspondant est $I_2 \neq 0$.

Pour décrire les espaces $M_2 \otimes \mathbb{K}$, nous avons besoin de système d'invariants. Nous dirons qu'un tel système d'invariants $\{i, i', i'' \dots \}$ est récouvrement complet si ces invariants définissent des coordonnées sur une stratification de $M_2 \otimes \mathbb{K}$. D'une manière spécifique, on utilise un système d'invariants absolus $i$ sur un $U_0$ ouvert, puis un autre ensemble d'invariants $i'$ sur un $U_1$ ouvert de $M_2 \otimes \mathbb{K} \setminus U_0$, et ainsi de suite. Dans ce cas $i_1$ n'a pas besoin d'être un invariant absolu puisque nous avons seulement besoin qu'il soit défini sur un sous-schéma localement fermé plutôt que sur un sous-schéma ouvert. Et on aura seulement besoin qu'il induise un isomorphisme de $U_1$ vers un ouvert de $\mathbb{A}_{\mathbb{K}}^{m_1}$. Par exemple en caractéristique 2 on allège cette dernière condition à un morphisme universellement injectif sur $U_1$.

On dit qu'un système de recouvrement complet d'invariants est optimal s'il induit une bijection $M_2 \otimes \mathbb{K} \to \mathbb{A}_{\mathbb{K}}^3$ (il faudrait remarquer, que puisque le système est défini sur une stratification, l'application n'est pas un morphisme).

### 4.3.1 En Caractéristique Différente de 2

On peut utiliser les invariants arithmétiques $J_{2i}$ pour définir des invariants absolus comme dans [10, § 1], d'où des coordonnées sur l'espace des modules. Sachant que l'invariant $J_{10}$ définit le discriminant de la courbe, donc n'est pas nul, on obtient que:
— La classe des courbes de genre 2 avec un $J_2$ non nul, est un ensemble ouvert de $M_2$ sur lequel nous avons comme coordonnées le triplet des invariants absolus:

$$ (J_2^5 / J_{10}, J_2^3 J_4 / J_{10}, J_2^2 J_6 / J_{10}). $$

— Les courbes de genre 2 qui s'annulent en $J_2$ avec un $J_4$ non nul, est un sous-espace de $M_2$ où les coordonnées peuvent être définies par:

$$ (0, J_4^5 / J_{10}^2, J_4 J_6 / J_{10}). $$

— Les autres courbes se trouvent dans un ensemble avec des coordonnées définies par:

$$ (0, 0, J_6^5 / J_{10}^3). $$

Il en découle que l'ensemble des points de $M_2 \otimes \mathbb{k}$ est en bijection avec l'ensemble des triplets définis précédemment, donc en bijection avec $A_{\mathbb{k}}^3$. En d'autres termes, ces invariants $(k_1, k_2, k_3)$ sur la stratification définie précédemment sont optimaux.

**Remarque 4.3.1.** Réciproquement, nous pouvons découvrir les $J_{2i}$ projectifs à partir de n'importe quel triplet $(k_1, k_2, k_3) \in A_{\mathbb{k}}^3$ (un point de $M_2 \otimes \mathbb{k}$) en utilisant le chemin suivant de [10, Lemme 1]:

$$ (J_2, J_4, J_6, J_{10}) = \begin{cases} (k_1, k_1 k_2, k_1^2 k_3, k_1^4), & \text{si } k_1 \neq 0, \\ (0, k_2, k_2 k_3, k_2^2), & \text{sinon-si if } k_1 = 0, k_2 \neq 0, \\ (0, 0, k_3^2, k_3^3), & \text{autrement.} \end{cases} $$

### 4.3.2 En Caractéristique 2

Nous rappelons que toute courbe hyperelliptique du genre 2 est binationnellement équivalente à l'un des trois types suivants selon le nombre et le degré des points de Weierstrass ramifiés:

$$ Y^2 - Y = \begin{cases} \alpha X + \beta X^{-1} + \gamma (X-1)^{-1}, & (1, 1, 1) \\ X^3 + \alpha X + \beta X^{-1}, & (3, 1) \\ X^5 + \alpha X^3, & (5) \end{cases} $$

Lorsque $\mathbb{k}$ a $q$ éléments, le nombre $\overline{\mathbb{k}}$-classes d'isomorphisme des courbes projectives lisses du genre 2 défini sur $\mathbb{k}$ est donné dans le tableau suivant selon le type ([33, Théorème 20]): On considère la forme normale associée à une courbe de genre 2 en caractéristique 2.

<table><caption>TABLE 4.1 – Nombre de classes d'isomorphisme selon le type sur $\mathbb{F}_{2^n}$.</caption><thead><tr><th>Type</th><th>Nombre</th></tr></thead><tbody><tr><td>(1, 1, 1)</td><td>$q^3 - q^2$</td></tr><tr><td>(3, 1)</td><td>$q^2 - q$</td></tr><tr><td>(5)</td><td>$q$</td></tr></tbody></table>

$$ XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0. $$
• Si $ab$ est différent de 0, nous obtenons trois points Weierstrass (comme expliquer plus haut): le point à l'infini et deux autres points donnés par l'équation: $1 + aX + bX^2 = 0$. Cela correspond au type (1, 1, 1). On peut mettre l'équation sous la forme: $y^2 - y = R(x)$ en la multipliant par $X(1 + aX + bX^2)^{-2}$ puis en remplaçant $Y$ par $X(1 + aX + bX^2)^{-1}Y$. Après un changement de variable dans [51, § 3] (un peu technique), comprenant une action $Y \mapsto Y + B(X)$ du groupe d'Artin-Schreier et une action linéaire sur $X$, on peut obtenir:

$$ \alpha = ab^{-3}, \tag{4.2} $$

$$ \beta = a^{-3}b\xi^{-2} \left( c + \xi^{-2} + a(c\xi + d + \xi^{-1})^{1/2} \right), \tag{4.3} $$

$$ \gamma = a^{-3}b\eta^{-2} \left( c + \eta^{-2} + a(c\eta + d + \eta^{-1})^{1/2} \right) \tag{4.4} $$

tel que $\xi + \eta = a$, $\eta\xi = b$;

• Mais si $a$ ou $b$ est différent de zéro et $ab = 0$, cela correspond au type (3, 1); et si $a \neq 0$ et $b = 0$, on peut transformer:

$$ XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0 $$

en

$$ Y^2 - Y = X^3 + \alpha X + \beta X^{-1} $$

où

$$ \alpha = a^{5/3} \left( a^{-3}c + (a^{-5} + a^{-4}d)^{1/2} \right), \tag{4.5} $$

$$ \beta = a^{-5/3} \left( a^{-5} + a^{-3}c + (a^{-5} + a^{-4}d + a^{-3}c)^{1/2} \right). \tag{4.6} $$

Si $b \neq 0$ et $a = 0$, nous obtenons $\alpha, \beta$ en termes de $b, c, d$ via une expression plus compliquée pour laquelle nous nous référons à Igusa [51, § 3].

• Le type (5) correspond à $a = b = 0$ et la forme normale associée $XY^2 + Y + X^2(c + dX + X^2) = 0$ peut être transformée en $Y^2 - Y = X^5 + \alpha X^3$ avec $\alpha = c$.

Nous désignons par $M_2[J_2^{-1}] \otimes \mathbb{k}$ l'ouvert de dans $M_2 \otimes \mathbb{k}$ constitué des courbes birationnales équivalentes aux courbes de type (1, 1, 1). Il est caractérisé par la non-annulation de $J_2$ modulo 2, et peut être défini à l'aide des trois invariants arithmétiques absolus suivants:

$$ a_1 = J_4 / J_2^2, \quad a_2 = J_8 / J_2^4 \text{ et } a_3 = J_{10} / J_2^5. $$

En outre on peut découvrir ces invariants à partir des coefficients de la forme normale en utilisant la rélation suivante [51, § 3]:

$$ \left\{ \begin{array}{lclcl} \alpha^2 + \beta^2 + \gamma^2 & = & J_4 / J_2^2, & & \\ \alpha^2 \beta^2 \gamma^2 & = & J_{10} / J_2^5, & & \\ \alpha^2 \beta^2 + \beta^2 \gamma^2 + \gamma^2 \alpha^2 & = & J_8 / J_2^4 + (J_4 / J_2^2)^3 + (J_4 / J_2^2)^4 & & \end{array} \right. \tag{4.7} $$

Alors on remarque que les invariants bironnnels $a_1, a_2, a_3$ sont totalement définis en fonction des trois invariants symétriques standards: $\alpha + \beta + \gamma, \alpha\beta + \beta\gamma + \gamma\alpha, \alpha\beta\gamma$, ces derniers sont également utilisés par Cardona et al. dans [33, § 2] pour définir des invariants: bien qu'ils soient ramifiés sur les invariants symétriques. Dès lors il y a des avantages très importants à travailler avec le système de trois invariants $a_1, a_2, a_3$: puisqu'ils proviennent de fonctions modulaires sur $\mathbb{C}$ et sont en fait définis sur $\mathbb{Z}$. Par contre, les invariants symétriques
ne peuvent être relevés en formes modulaires (sans caractères) en caractéristique 0. Plus précisément, il est démontré dans le théorème 4.3.2 que ces invariants décrivent $M_2[J_2^{-1}]$ sur $\mathbb{Z}$. En particulier, sur $\mathbb{Z}_2$ ces invariants décrivent l'ensemble ouvert $M_2[J_2^{-1}]$ de $M_2$ qui se réduit à $M_2[J_2^{-1}] \otimes \mathbb{k}$ modulo 2, c'est-à-dire des courbes avec une bonne réduction modulo 2, et dont la réduction est de type $(1, 1, 1)$.

Le type $(3, 1)$ est caractérisé par $J_2 = 0$ et la non-annulation de $J_6$ sur $\mathbb{k}$, cela correspond à un sous-schéma fermé de $M_2[J_6^{-1}] \otimes \mathbb{k}$, d'où un sous-schéma localement fermé dans $M_2 \otimes \mathbb{k}$, de courbes binationnellement équivalentes à ce type. Les coordonnées de ce sous-schéma sont définies à l'aide du triplet d'invariants absolus suivant: $(0, J_8J_{10}/J_6^3, J_{10}^3/J_6^5)$. En outre à partir de la section 4.3.2, on retrouve ce triplet en utilisant les relations suivantes:

$$ \left\{ \begin{array}{l} \alpha^6 = J_8^{3/4}/J_6^1, \\ \beta^6 = J_{10}^3/J_6^5, \\ \alpha^2\beta^2 = J_8^{1/4}J_{10}/J_6^2. \end{array} \right. \qquad (4.8) $$

Et les invariants binationnels sont donnés par: $\alpha^3, \alpha\beta$ dans [51, §2].

Le type (5) est caractérisé par $J_2 = J_6 = 0$. Le sous-ensemble fermé correspondant de $M_2 \otimes \mathbb{k}$, peut être défini en utilisant le triplet d'invariants $(0, 0, J_8^5/J_{10}^4)$. Et nous avons la rélation suivante:

$$ \{ \alpha^{10} = J_8^{5/4} / J_{10}. \} \qquad (4.9) $$

Et $\alpha^5$ est un invariant binationnel d'après [51, § 2].

Nous déduisons de cette discussion, que les systèmes d'invariants:

$$ \begin{array}{l} (\mathfrak{a}_1, \mathfrak{a}_2, \mathfrak{a}_3) = (J_4/J_2^2, J_8/J_2^4, J_{10}/J_2^5) \text{ lorsque } J_2 \neq 0, \\ (0, J_8J_{10}/J_6^3, J_{10}^3/J_6^5) \text{ lorsque } J_2 = 0, J_6 \neq 0, \\ \text{et } (0, 0, J_8^5/J_{10}^4) \end{array} $$

induisent une bijection entre l'ensemble des points de $M_2 \otimes \mathbb{k}$ et $\mathbb{A}_{\mathbb{k}}^3$, sont donc optimaux. En effet les formules ci-dessus montre comment découvrir les $\alpha, \beta, \gamma$ à partir de ces invariants. Un inconvénient par rapport aux invariants optimaux définis ci-dessus en caractéristique différente de 2 est qu'ils ne partagent pas de dénominateur commun. Il serait intéressant de combiner les deux versions pour avoir des invariants optimaux valables à la fois pour toute caractéristique.

### 4.3.3 Invariants Absolus pour toute Caractéristique

Un système standard d'invariants utilisé pour le calcul des polynômes de classe ou modulaires était ceux d'Igusa $(I_2^5/I_{10}, I_2^3I_4/I_{10}, I_2^2I_6/I_{10})$ introduits plus haut. Pour réduire la taille de ces polynômes, Streng a introduit dans [113] les invariants absolus $I_4I_6'/I_{10}, I_2I_4^2/I_{10}, I_4^5/I_{10}^2$ où $I_6' = 1/2(I_2I_4 - 3I_6)$ pour un ouver $U$ donné par $I_4 \neq 0$. Ces choix d'invariants correspondent à une belle caractérisation par des formes modulaires définies en termes de constantes thêta (aller à la section 4.6 pour plus détails).

Cependant ces invariants ne se réduisent pas bien modulo 2 et modulo 3. Même si leurs réductions existent, ils ne définissent pas des invariants absolus sur $M_2 \otimes \mathbb{k}$ pour ces caractéristiques. Et nous avons à partir de [51, Theorem 4] que:

- Si $\text{char}(\mathbb{k}) \neq 2$, la variété $M_2 \otimes \mathbb{k}$ admet un et un seul point singulier, ce qui correspond à $J_2 = J_6 = J_8 = 0$.
— Si $\text{char}(\mathbb{k}) = 2$, le lieu des points singuliers de $M_2 \otimes \mathbb{k}$ est une courbe rationnelle correspondant à $J_2 = J_6 = 0$ autrement dit les courbes de type (5) n'ayant qu'un seul point Weierstrass.

Nous allons par suite introduire un système de trois invariants pour chacun des trois ouverts: $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$, $M_2[J_6^{-1}]$, $M_2[J_8^{-1}]$ dans $M_2$ sur $\mathbb{Z}$. Ces ouverts se réduisent bien en toute caractéristique sur un recouvrement de $M_2 \otimes \mathbb{k}$, excepter pour la seule courbe $C_0$ définie par: $J_2 = J_4 = J_6 = J_8 = 0$. Une équation de cette courbe est donnée par $C_0: y^2 + y = x^5$ sur $\mathbb{Q}$, qui a potentiellement une bonne réduction partout [92, Exemple 1], et elle se réduit modulo 2 sur la courbe de type (5) avec $\alpha = 0$.

Les trois ouverts $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$, $M_2[J_6^{-1}]$ sont suffisants pour recouvrir $M_2 \otimes \mathbb{k}$ en caractéristique différente de 2, moins le seul point non lisse $C_0$ défini précédemment. En caractéristique 2, le premier ouvert correspond aux courbes de type (1, 1, 1), et le troisième ouvert contient les courbes de type (3, 1). Nous ne pouvons espérer que les trois invariants sur le dernier ouvert puisse définir un isomorphisme avec un ouvert de $\mathbb{A}^3$ (car $M_2[J_8^{-1}]$ contient les points singuliers).

En résumé, on peut remarquer que nos choix de récouvrement et d'invariants absolus est particulièrement bien adapté à la réduction d'une courbe en $M_2 \otimes \mathbb{Z}_{(2)}$ (et respectivement en $M_2 \otimes \mathbb{Z}_{(3)}$). D'où, en particulier en caractéristique deux (respectivement trois) et zéro, et encore plus précisément pour représenter les relevés sur $\mathbb{Z}_q$ des courbes de genre 2 définies sur $\mathbb{F}_q$, avec $q = 2^n$ (et respectivement $q = 3^n$). Ces situations ne peuvent être couvertes par les invariants habituels comme ceux d'Igusa et ceux de Streng. Alors nous utiliserons plus bas les invariants pour construire des algorithmes de calculs de relevés pour les courbes de genre 2 ordinaires en caractéristique 2 et 3.

**Théorème 4.3.2.** Nous pouvons associer à chacun des récouvrements affines définis précédemment, un système de trois invariants comme suite:

$$ \text{— } a_1 = J_4 / J_2^2, a_2 = J_8 / J_2^4 \text{ et } a_3 = J_{10} / J_2^5 \text{ pour } M_2[J_2^{-1}], $$

$$ \text{— } \delta_1 = J_2^2 / J_4, \delta_2 = J_6^2 / J_4^3 \text{ et } \delta_3 = J_{10}^2 / J_4^5 \text{ pour } M_2[J_4^{-1}], $$

$$ \text{— } u_1 = J_4^3 / J_6^2, u_2 = J_8 J_{10} / J_6^3, \text{ et } u_3 = J_{10}^3 / J_6^5 \text{ pour } M_2[J_6^{-1}], $$

$$ \text{— } w_1 = J_2^4 / J_8, w_2 = J_6^4 / J_8^3, \text{ et } w_3 = J_{10}^4 / J_8^5 \text{ pour } M_2[J_8^{-1}]. $$

tels que ces invariants induisent un isomorphisme de $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$ et $M_2[J_6^{-1}]$ avec l'ouvert standard de $\mathbb{A}^3$ défini par $a_3^{-1}$, $\delta_3^{-1}$, $u_3^{-1}$ respectivement, sur $\mathbb{Z}$, $\mathbb{Z}[1/2]$ et $\mathbb{Z}$ respectivement.

Le dernier système d'invariants défini un récouvrement de $M_2[J_8^{-1}]$ vers l'ouvert standard $\mathbb{A}^3[\mathfrak{w}_3^{-1}]$ sur $\mathbb{Z}$. Et en caractéristique 2, ils se restreignent sur l'ensemble des points singuliers $J_2 = J_6 = 0$ vers un morphisme radiciel avec image $\mathbb{A}_{\mathbb{k}}^1 \setminus \{0\}$.

**Démonstration.** La bonne réduction des invariants $J_{2i}$ implique celle de ces invariants. Il nous reste à démontrer que ces invariants définissent des coordonnées locales autrement dit qu'ils décrivent localement l'espace $\mathbb{Z}[M_2]$. D'après les résultats de la section 4.2.2, il suffit de prouver que nous pouvons réconstituer tous les $\gamma_i$.

Nous allons procéder par calcul direct:

* Pour l'ouvert $M_2[J_2^{-1}]$, nous exprimons les invariants $\gamma_i$ en fonction de $a_1$, $a_2$ et $a_3$.

$$ \gamma_1 = \frac{1}{a_3}, \quad \gamma_2 = \frac{a_1}{a_3}, \quad \gamma_3 = \frac{a_1^2}{a_3} + 4\frac{a_2}{a_3}, \quad \gamma_4 = \frac{a_2}{a_3}, \quad \gamma_5 = \frac{a_1^3}{c} + 4\frac{a_1 a_2}{a_3}, $$

$$ \gamma_6 = \frac{a_1 a_2^2}{a_3^2}, \quad \gamma_7 = \frac{a_1^4 a_2}{a_3^2} + 8 \frac{a_1^2 a_2^2}{a_3^2} + 16 \frac{a_1^3}{a_3^2}, $$
$$
\begin{gather*}
\gamma_8 = \frac{1}{a_3^3} (a_1^{10} + 20a_1^8a_2 + 160a_1^6a_2^2 + 640a_1^4a_2^3 + 1280a_1^2a_2^4 + 1024a_2^5), \\
\gamma_9 = \frac{1}{a_3^3} (a_1^2a_2^3 + 4a_2^4), \quad \gamma_{10} = \frac{a_2^5}{a_3^4}.
\end{gather*}
$$

Cette conversion a un sens sur $\mathbb{Z}$. Alors

$$
M_2[J_2^{-1}] = \mathrm{Spec} (\mathbb{Z}[a_1, a_2, a_3][a_3^{-1}])
$$

et $M_2[J_2^{-1}]$ est un sous espace de $M_2$ de dimension trois sur $\mathbb{Z}$.

• Sur $\mathbb{Z}[1/2]$, les invariants $\gamma_i$ sont exprimés en fonction de $\partial_1$, $\partial_2$ et $\partial_3$ sur $M_2[J_4^{-1}]$ comme suite:

$$
\begin{align*}
\gamma_1 &= \frac{\partial_1^5}{\partial_3}, & \gamma_2 &= \frac{\partial_1^3}{\partial_3}, & \gamma_3 &= \frac{\partial_1^2 s}{\partial_3}, & \gamma_4 &= \frac{\partial_1^2 \partial_2}{4 \partial_3} - \frac{\partial_1}{4 \partial_3}, & \gamma_5 &= \frac{\partial_2}{\partial_3}, \\
\gamma_6 &= \frac{1}{16 \partial_3^2} (\partial_1^2 \partial_2^2 - 2 \partial_1 \partial_2 + 1), & \gamma_7 &= \frac{1}{4 \partial_3^2} (\partial_1 \partial_2^3 - \partial_2^2), & \gamma_8 &= \frac{\partial_2^5}{\partial_3^3}, \\
\gamma_9 &= \frac{1}{64 \partial_3^2} (\partial_1^3 \partial_2^4 - 3 \partial_1^2 \partial_2^3 + 3 \partial_1 \partial_2^2 - \partial_2), & \gamma_{10} &= \frac{1}{1024 \partial_3^4} (\partial_1^5 \partial_2^5 - 5 \partial_1^4 \partial_2^4 + 10 \partial_1^3 \partial_2^3 - 10 \partial_1^2 \partial_2^2 + 5 \partial_1 \partial_2 - \partial_3^4).
\end{align*}
$$

• Pour le cas de $M_2[J_6^{-1}]$, nous pouvons exprimer les $\gamma_i$ en fonction de $u_1$, $u_2$ et $u_3$. Cette conversion a aussi sens sur $\mathbb{Z}$ et la sous-variété $M_2[J_6^{-1}]$ de $M_2$ est de dimension trois sur $\mathbb{Z}$.

$$
\begin{align*}
\gamma_1 &= \frac{1}{u_3^6} (u_3^5 u_1^{10} + 20 u_3^4 u_2 u_1^8 + 160 u_3^3 u_2^2 u_1^6 + 640 u_3^2 u_2^3 u_1^4 + 1280 u_3 u_2^4 u_1^2 + 1024 u_2^5), \\
\gamma_2 &= \frac{1}{u_3^4} (u_3^7 u_1^7 + 12 u_3^2 u_2 u_1^5 + 48 u_3 u_2^2 u_1^3 + 64 u_2^3 u_1), \\
\gamma_3 &= \frac{1}{u_3^3} (u_3^2 u_1^4 + 8 u_3 u_2 u_1^2 + 16 u_2^2), \quad \gamma_4 = \frac{1}{u_3^2} (u_3 u_2 u_1^2 + 4 u_2^2), \\
\gamma_5 &= \frac{u_1}{u_3}, \quad \gamma_6 = \frac{u_1 u_2^2}{u_3^4}, \quad \gamma_7 = \frac{u_2}{u_3^3}, \quad \gamma_8 = \frac{1}{u_3^3}, \quad \gamma_9 = \frac{u_2^3}{u_3^6}, \quad \gamma_{10} = \frac{u_2^5}{u_3^9}.
\end{align*}
$$

• Pour le cas de $M_2[J_8^{-1}]$, alors on arrive à exprimer les carrés des $\gamma_i$ en fonction de $w_1$, $w_2$ et $w_3$.

$$
\begin{align*}
\gamma_1^2 &= \frac{w_1^{10}}{w_3^2}, & \gamma_2^2 &= \frac{1}{w_3^2} (w_1^7 w_2 - 4 w_1^6), & \gamma_3^2 &= \frac{w_1^4 w_2^2}{w_3^2}, & \gamma_4^2 &= \frac{w_1^2}{w_3^2}, \\
\gamma_5^2 &= \frac{1}{w_3^2} (w_1 w_2^3 - 4 w_2^2), & \gamma_6^2 &= \frac{1}{w_3^4} (w_1 w_2 - 4), & \gamma_7^2 &= \frac{w_2^4}{w_3^4}, \\
\gamma_8^2 &= \frac{w_2^{10}}{w_3^6}, & \gamma_9^2 &= \frac{w_2^2}{w_3^6}, & \gamma_{10}^2 &= \frac{1}{w_3^8}.
\end{align*}
$$

Comme on peut le remarquer, nous ne pouvons faire mieux en caractéristique 2, puisque
$M_2[J_8^{-1}] \otimes \mathbb{K}$ contiennent le lieu $J_2 = J_6 = 0$ des points singuliers de l'ensemble des courbes
de type (5). Si nous nous focalisons sur ce domaine en caractéristique 2, nous obtenons que
$w_3 = \alpha^{-40}$. Comme $\alpha^5$ est un invariant birationnel sur ce lieu, on voit que les coordonnées
$w_3$ induisent un récoupement totalement ramifiée de degré 8 sur les courbes de type (5),
excepter comme d'habitude, la courbe $C_0 : y^2 - y = x^5$. $\square$

<figure><img src="image_26.png" /></figure>
## 4.4 CONSTRUCTION DE COURBES DE GENRE 2 À PARTIR D'INVARIANTS

### 4.4.1 En Caractéristique 2

À partir des invariants arithmétiques $J_2, J_4, J_6, J_8$ et $J_{10}$ ou des triplets qu'ils définissent selon chaque type, nous pouvons déterminer une équation de la courbe en utilisant les relations 4.7 et celles de la section 4.3.2 entre les coefficients des formes normales réduites et les triplets d'invariants absolus. Ainsi on arrive à construire une forme normale (ou un model hyperelliptique $y^2 + (1+ax+bx^2)y = -x^3(c+dx+x^2)$) à partir des invariants $J_{2i}$. Réciproquement les relations 4.7 offrent un passage d'une équation sous forme normale aux invariants absolus.

### 4.4.2 Algorithme de Mestre

Lorsque la caractéristique est différente de 2, pour construire une courbe à partir des invariants coordonnés de $M_2(\mathbb{k})$, J-F.Mestre propose dans [76] la méthode suivante dans le cas générique $(\mathrm{Aut}(C) \simeq C_2)$:

Soit $C : y^2 = f(x)$ une courbe de genre 2 définie sur $\overline{\mathbb{k}}$ avec des invariants absolus sur $\mathbb{k}$ et $\mathrm{Aut}(C) \simeq C_2$. On suppose $\mathrm{char}\mathbb{k} \neq 2, 3, 5$ et on note $F$ la sextique associée à $f$. On définit les invariants et covariants suivants où $i$ et $R$ les sont déjà dans le tableau 4.1.4:

$$ 
\begin{align*}
Y_1 &= (F, i)_4, & Y_2 &= (i, Y_1)_2, & Y_3 &= (i, Y_2)_2, \\
X_1 &= (Y_2, Y_3)_1, & X_2 &= (Y_3, Y_1)_1, & X_3 &= (Y_1, Y_2)_1, \\
A_{ij} &= (Y_1, Y_2)_2, & a_{ijk} &= (F, Y_i)_2(F, Y_j)_2(F, Y_k)_2.
\end{align*}
$$

Ces covariants satisfont les relations suivantes :

$$ \sum_{i,j=1}^{3} A_{ij}X_iX_j = 0, \quad \sum_{i,j,k=1}^{3} a_{ijk}X_iX_jX_k = R^3 F, $$

Ce sont des polynômes en les variables $x_1$ et $x_2$ de la sextique $F$. On considère aussi la conique $L$ et la cubique $M$ définies par :

$$ L : \sum_{i,j=1}^{3} A_{ij}Y_iY_j, \quad M : \sum_{i,j,k=1}^{3} a_{ijk}Y_iY_jY_k. $$

Les coefficients $A_{ij}$ et $a_{ijk}$ sont des invariants de degré pairs alors ils admettent des expressions polynômiales en les $J_{2i}$. Ainsi nous obtenons les coefficients des équations sur $\mathbb{k}$ de $L$ et $M$ en les $J_{2i}$ (ou en les invariants $j_i$ d'Igusa).

Si $L(\mathbb{k})$ est non vide alors il existe une courbe $C$ de genre 2 définie sur $\mathbb{k}$ dont les invariants déterminent les coefficients $A_{ij}$ et $a_{ijk}$ de $L$ et de $M$.

Dans ce cas à partir d'un point $P \in L(\mathbb{k})$ on peut paramétrer l'équation de $L$ ce qui correspond au $\mathbb{k}$-isomorphisme de $\mathbb{P}^1$ dans $L$ donné par :

$$ (x_1, x_2) \mapsto (L_1(x_1, x_2), L_2(x_1, x_2), L_3(x_1, x_2)) $$

On détermine une forme sextique de $C$ sur $\mathbb{k}$ en mettant les équations $L_i$ dans $M$.

Cette construction marche bien en toute caractéristique différente de 2, 3 et 5 à cause de l'apparition de leurs multiples dans les dénominateurs des $A_{ij}$ et $a_{ijk}$. On peut toute fois
corriger le problème en caractéristique 3 en multipliant par des entiers, les covariants et
invariants pour avoir des coefficients entiers. Malheureusement cette méthode ne marche
pas en caractérisitique 5, la conique obtenue est dégénérée [67].

Cependant, en caractéristique différente de 2, on peut toujours construire une forme de Rosenhain d'une courbe $\mathcal{C}$ de genre 2 à partir d'un triplet d'invariants $(i_1, i_2, i_3)$ défini par exemple par le théorème 4.3.2. En effet les bijections définies soit par les invariants $a_i$ (ou soit $\partial_i$, $u_i$ et $w_i$) de ce théorème permettent de définir la solution unique correspondant à l'équation de la courbe $\mathcal{C}$. On peut calculer cette solution à partir d'un système polynômial en fonction des $\lambda, \nu$ et $\mu$ tel que $\mathcal{C} : y^2 = x(x-1)(x-\lambda)(x-\nu)(x-\mu)$ et les polynômes du système sont donnés par les $J_{2i}(\mathcal{C})$ et les valeurs $(i_1, i_2, i_3)$ du triplet d'invariants.
Une autre approche est de déterminer la forme normale binationnellement équivalente à une forme de Rosenhain

$$
\mathcal{C} : y^2 = (x-1)(x-2)(x-\lambda)(x-\nu)(x-\mu)
$$

Alors on aura à déterminer les coefficients $c$ et $d$ sachant que $a = -3/2$ et $b = 1/2$ avec

$$
C : y^2 + (1 + ax + bx^2)y = -(1/4)x^3(c + dx + x^2)
$$

Et par suite on arrive à déterminer $c$ et $d$ en utilisant les $J_{2i}(C)$ et les valeurs $(i_1, i_2, i_3)$ du triplet d'invariants comme équations d'un système dont une solution complète les coefficients de la forme normale de $C$. On peut ainsi couvrir les cas des caractéristiques 3 et 5.

4.4.3 Courbes de Genre 2 et Invariants Thêta

Soit $\mathcal{C}$ la courbe de genre 2 sur $\mathbb{C}$. Alors $\mathcal{C}$ est isomorphe via une transformation linéaire
fractionnaire à une courbe de la forme :

$$
y^2 = x(x-1)(x-\lambda)(x-\nu)(x-\mu)
$$

et les $\lambda, \nu$ et $\mu$ sont appelés *invariants de Rosenhain de $\mathcal{C}$*. Ces invariants sont des fonctions *modulaires* pour $\Gamma_2(2)$.

$$
\lambda = \frac{\theta_0^2 \theta_1^2}{\theta_3^2 \theta_2^2}, \quad \mu = \frac{\theta_1^2 \theta_2^2}{\theta_2^2 \theta_1^2} \quad \text{et} \quad \nu = \frac{\theta_0^2 \theta_2^2}{\theta_3^2 \theta_1^2}.
$$

D'autre part, les formules de Thomae [114] établissent des relations entre les racines
{0, 1, λ, μ, ν} et les puissances quatrièmes des thêta constantes de niveau (2, 2) de la matrice
de période Ω associée à C. Partant des racines {0, 1, λ, μ, ν} dans cet ordre nous avons :

$$
\begin{align*}
\left(\frac{\Theta_4}{\Theta_0}\right)^4 &= \frac{\mu}{\lambda\nu} \\
\left(\frac{\Theta_1}{\Theta_0}\right)^4 &= \frac{\mu(\nu-1)(\lambda-1)}{\lambda\nu(\mu-1)}
\end{align*}
\begin{align*}
\left(\frac{\Theta_8}{\Theta_0}\right)^4 &= \frac{\mu(\nu-1)(\lambda-\mu)}{\nu(\mu-1)(\lambda-\nu)} \\
\left(\frac{\Theta_2}{\Theta_0}\right)^4 &= \frac{\mu(\lambda-1)(\nu-\mu)}{\lambda(\mu-1)(\nu-\lambda)}
\end{align*}
$$

Il en découle que le corps des fonctions $\Gamma_2(2)$-modulaires est engendré par les invariants de Rosenhain.

Lorsque l'on travaille sur $\mathbb{C}$ on peut déterminer les racines carrés des $c_i^2 = \theta_i^4(\Omega)/\theta_0^4(\Omega)$ avec $i \in \mathcal{P}_2$, en procédant par intégration numérique à faible précision. L'algorithme 4.4.1 dont les
**Entrée:** $(\alpha_1, \dots, \alpha_6) \in \mathbb{C}^6$ où $C: y^2 = (x - \alpha_1) \cdots (x - \alpha_6)$.

**Sortie:** $(c_i(\Omega))_{i \in \mathcal{P}_2}$ à précision $N$, où $\Omega \in \mathcal{F}_2$ décrit (par équivalence) Jac $C$.

1. Calculer la matrice $\Omega'$ associée à $C$ (par intégration numérique à faible précision) sur la même base du groupe d'homologie que les formules de Thomae;

2. Calculer $(\gamma, \Omega) \in \Gamma_2 \times \mathcal{F}_2$ tels que $\Omega = \gamma\Omega'$ avec l'algorithme 5;

3. Calculer les $c_i^2(\Omega')$ par les formules de Thomae à précision $N$;

4. En déduire les $c_i^2(\Omega) = c_i^2(\gamma\Omega')$ par l'équation fonctionnelle;

5. Calculer les $c_i(\Omega)$ à faible précision à partir de $\Omega$ et les thêta constantes comme séries de Fourier;

6. En déduire les bonnes racines carrés $c_i(\Omega)$ à précision $N$ en utilisant leurs approximations.

**Algorithm 4.4.1** Évaluation des $c_i$ associés à une courbe de genre 2

détailles se trouvent dans [28] en est un exemple. Et l'avantage de cet algorithme est qu'elle tourne avec un nombre constant d'opérations à la précision $N$.

Cependant sur un corps fini, on détermine les thêta constantes de niveau $n$ associées à une variété isomorphe à la Jacobienne de $C$ [68]. Ces isomorphismes sont donnés par l'action de $\Gamma_2$ sur $\mathbb{C}^2 \times \mathfrak{S}_2$ définies par: pour $\gamma = \begin{pmatrix} A & B \\ C & D \end{pmatrix}$ et $z \in \mathbb{C}^2$;

$$ (z, \Omega) \mapsto (\gamma.z, \gamma.\Omega) = ({}^t(C\Omega + D)^{-1}z, (A\Omega + B)(C\Omega + D)^{-1}) $$

On considère les sous groupes :

$$ \Gamma'_2(n) = \{\gamma \in \Gamma_2, \gamma \equiv \pm \mathrm{Id}_4 \quad \mathrm{mod} \ n\} $$

$$ \text{et } \Gamma'_2(n, 2n) = \left\{ \begin{pmatrix} A & B \\ C & D \end{pmatrix} \in \Gamma_2, \operatorname{diag}({}^tAC) \equiv \operatorname{diag}({}^tBD) \equiv 0 \quad \mathrm{mod} \ 2n \right\}. $$

Alors on montre que le sous groupe $\Gamma'_2(n)$ est celui des isomorphismes qui fixent les puissances $2n$-ième des thêta constantes de niveau $(n, n)$ (modulo une constante); $\Gamma'_2(n, 2n)$ les puissances $n$-ième et $\Gamma'_2(n^2, 2n^2)$ les thêta constantes de niveau $(n, n)$. Pour chaque thêta constante non nulle, il existe une matrice $\gamma \in \Gamma'_2(2, 4)$ changeant son signe et laissant fixe les autres thêta constantes de telle sorte que, chaque choix de racines carrés correspond à une variété isomorphe. Alors on peut faire un choix arbitraire des racines carrés sur les : $(\frac{\Theta_1}{\Theta_0})^4$, $(\frac{\Theta_2}{\Theta_0})^4$, $(\frac{\Theta_4}{\Theta_0})^4$ et $(\frac{\Theta_8}{\Theta_0})^4$. Les autres carrés des thêta constantes de niveau $(2, 2)$ sont :

$$ \Theta_6^2 = \frac{1}{\nu} \frac{\Theta_0^2 \Theta_2^2}{\Theta_4^2}, \qquad \Theta_{12}^2 = \frac{1}{\lambda} \frac{\Theta_0^2 \Theta_8^2}{\Theta_4^2}, \qquad \Theta_3^2 = (\nu - 1) \frac{\Theta_4^2 \Theta_6^2}{\Theta_1^2}, $$

$$ \Theta_9^2 = (\lambda - 1) \frac{\Theta_4^2 \Theta_{12}^2}{\Theta_1^2} \quad \text{et} \quad \Theta_6^2 = \frac{\Theta_0^2 \Theta_3^2 - \Theta_1^2 \Theta_2^2}{\Theta_{12}^2}. $$

### Jacobiennes Décomposables

Pour ce qui concerne le cas non générique, nous avons le théorème suivant.

**Théorème 4.4.1.** Soit $C$ une courbe de genre 2 admettant une involution non triviale. Alors il existe au plus deux courbes elliptiques quotient de degré 2 de sa Jacobienne à isomorphisme près. C'est-à-dire il existe une (2,2)-isogénie entre Jac$(C)$ et le produit de ces deux courbes elliptiques.
Dans ce cas on trouve dans [34] des formules algébriques réliant les modules de $\mathcal{C}$ au $j$-invariant des courbes elliptiques dont la Jacobienne de $\mathcal{C}$ est le produit.

## 4.5 CONVERSIONS FORME NORMALE ET MODÈLE HYPERELLIPTIQUE

### 4.5.1 D'une Forme Normale à un Modèle Hyperelliptique

Lorsque l'on part d'une forme normale associée à une courbe $\mathcal{C}$ de genre 2

$$XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0,$$

on peut se ramener sur un modèle hyperelliptique en fixant $x$ différent de 0 et de $\infty$, alors de manière équivalente on a:

$$X^2Y^2 + (1 + aX + bX^2)XY + X^3(c + dX + X^2) = 0$$

alors en appliquant le changement $Y \mapsto Y/X$ on obtient une équation:

$$Y^2 + h(X)Y = f(X) \quad \text{où} \quad h(X) = 1 + aX + bX^2 \quad \text{et} \quad f(X) = -X^3(c + dX + X^2)$$

Lorsque l'on considère deux courbes de genre 2: $C_1$ et $C_2$ données sur $\mathbb{k}$ respectivement par:

$$XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0$$

et

$$XY^2 + (1 + a'X + b'X^2)Y + X^2(c' + d'X + X^2) = 0$$

D'autre part, lorsque l'on considère leurs modèles hyperelliptiques sur $\mathbb{k}$ données respectivement par les équations :

$$y^2 + h_1(x)y = f_1(x) \quad \text{et} \quad y^2 + h_2(x)y = f_2(x).$$

Les deux courbes sont isomorphes sur $\mathbb{k}$ si et seulement si l'on pouvait passer d'une équation à l'autre à l'aide de la transformation définie par:

$$(x, y) \mapsto (u^2x + b, u^5y' + a_2x^2 + \dots + a_1x + a_0)$$

avec $(a_2, \dots, a_1, a_0, b, u) \in \mathbb{k}^4 \times \mathbb{k}$.

En caractéristique différente de 2, on pourra choisir un point de Weierstrass $P$ et un non-point de Weierstrass $Q$ tel que $Q + Q'$ appartient au système canonique sur chaque courbe. Lorsque ce choix est fixé, correspondant respectivement à $x = \infty$ et $x = 0$. Par conséquent, les cinq points de Weierstrass manquants correspondent aux valeurs de $x$ auxquelles les équations quadratiques ci-dessus en $Y$ ont des racines doubles, c'est-à-dire aux racines des équations:

$$(1 + aX + bX^2)^2 - 4X^3(c + dX + X^2) = 0$$

et

$$(1 + a'X + b'X^2)^2 - 4X^3(c' + d'X + X^2) = 0$$

Alors dans ce cas $C_1$ et $C_2$ seront isomorphes sur $\bar{\mathbb{k}}$ si et seulement si les six racines de ces équations (tous deux considérés comme des équations sextiques non homogènes,) sont projectivement équivalentes. Ce qui équivaut à l'existence d'une racine cinquième de l'unité $\zeta$ tel que un coefficients $(a', b', c', d')$ correspondent aux coefficients de la forme $(\zeta a, \zeta^2 b, \zeta^3 c, \zeta^4 d)$.
### 4.5.2 D'un Modèle Hyperelliptique à une Forme Normale

Soit $\mathcal{C}$ une courbe de genre 2 sur un corps $\mathbb{k}$. On veut calculer à partir de son modèle hyperelliptique une équation normale de $\mathcal{C}$ c'est-à-dire les coefficients $(a, b, c, d)$ tels que $\mathcal{C}$ soit défini sur $\mathbb{k}$ par:

$$XY^2 + (1 + aX + bX^2)Y + X^2(c + dX + X^2) = 0$$

Nous allons nous référer à [51, Pages 6-8] pour la conversion entre les modèles hyperellip- tiques et les modèles d'Artin-Shreier.

#### Si la caractéristique de $\mathbb{k}$ est 2

On rappelle qu'en caractéristique 2, il existe une relation entre le modèle hyperelliptique et les coefficients $(a, b, c, d)$ provenant des invariants $J_{2i}$ via les fonctions symétriques sur $\alpha, \beta, \gamma$ (selon le type d'Artin-Shreier), que l'on peut expliciter comme suite.

Soit $y^2 + h(x)y = f(x)$ un model hyperelliptique de $\mathcal{C}$ sur $\mathbb{k}$. On calcule d'abord certains $J_{2i}$ associés à $\mathcal{C}$ selon le besoin:

* Si $J_2 \neq 0$ alors $\mathcal{C}$ est ordinaire ce qui correspond au type $(1, 1, 1)$;

* Si $J_2 = 0$ et $J_6 \neq 0$ alors $\mathcal{C}$ est de $p$-rang 1 ce qui correspond au type $(3, 1)$;

* Pour les autres cas, $\mathcal{C}$ est de $p$-rang 2 et le model hyperelliptique correspondant se réduit en $y^2 + y = x^5 + a_3x^3$ ce qui correspond au type (5).

Pour cette classe de courbes, on a $(a, b, c, d) = (0, 0, a_3, 0)$ comme les coefficients d'une forme normale de $\mathcal{C}$ over $\mathbb{k}$.

Pour les deux premières classes, la stratégie est la même. Nous mettons en évidence un isomorphisme en considérant les points de Weierstrass non triviaux pour les deux modèles de $\mathcal{C}$. Dans le modèle hyperelliptique, elles correspondent aux solutions de l'équation $h(x) = 0$, et à un changement de variables près sur $x$ nous pouvons les prendre non nulles.

* Par exemple, lorsque $J_2 \neq 0$, nous avons deux points de Weierstrass non triviaux avec les abscisses $\zeta$ et $\eta$, alors nous pouvons prendre: $b = 1/(\eta\zeta)$ et $a = b(\zeta + \eta)$. Pour calculer $c$ et $d$ on peut toujours utiliser les relations 4.3.2 et 4.7 dans la section 4.2.

* Lorsque $J_2 = 0$ avec $J_6 \neq 0$ la courbe $\mathcal{C}$ admet un unique point de Weierstrass non trivial d'abscisse $x_0$. Alors on pourra prendre $a = 1/x_0$ et $b = 0$. Par suite on détermine $c$ et $d$ en utilisant les relations 4.3.2 et 4.8 dans la section 4.2.

#### Si la caractéristique de $\mathbb{k}$ est différente de 2

Soit $y^2 = u \cdot (x - \alpha_1) \cdots (x - \alpha_5)$ le modèle hyperelliptique associée à $\mathcal{C}$ sur $\overline{\mathbb{k}}$, et supposons que tous les $\alpha_i$ sont différents de 0 et 1. D'après [51, Pages 6-8], il existe sur $\overline{\mathbb{k}}$ des $a, b, c$ et $d$ tels que les $\alpha_i$ soient solutions de l'équation:

$$(1 + aX + bX^2)^2 - 4X^3(c + dX + X^2) = 0.$$

En évaluant en les $\alpha_i$, cela induit un système d'équation en les $a, b, c$ et $d$ (comme variables) ce qui est alors facile à résoudre.
Cependant nous pouvons aussi reconstituer la forme normale à partir d'un modèle hyperelliptique directement, sans calcul de point de Weierstrass.
Nous avons d'une part la décomposition suivante:

$$
\begin{align*}
y^2 &= (1 + ax + bx^2)^2 - 4x^3(c + dx + x^2) \\
&= -4x^5 + (b^2 - 4d)x^4 + (2ab - 4c)x^3 + (a^2 + 2b)x^2 + 2ax + 1
\end{align*}
$$

tels que les paramètres *a*, *b*, *c* et *d* ont respectivement les poids 1, 2, 3 et 4.
Et d'autre part, en partant du model suivant associé à une courbe de genre 2:

$y^2 = a_5 x^5 + \dots + a_1 x + a_0 \text{ avec } a_0, a_5 \text{ non nuls.}$

En appliquant succéssivement les transformations: $y \mapsto \sqrt{a_0}y$ et $x \mapsto -\sqrt[5]{\frac{4a_0}{a_5}}x$ à:

$y^2 = a_5 x^5 + a_4 x^4 + a_3 x^3 + a_2 x^2 + a_1 x + a_0$

nous avons

$$
y^2 = -4x^5 + \frac{a_4}{a_0} \left( \frac{4a_0}{a_5} \right)^{4/5} x^4 - \frac{a_3}{a_0} \left( \frac{4a_0}{a_5} \right)^{3/5} x^3 + \frac{a_2}{a_0} \left( \frac{4a_0}{a_5} \right)^{2/5} x^2 - \frac{a_1}{a_0} \left( \frac{4a_0}{a_5} \right)^{1/5} x + 1
$$

Posons $\zeta = \sqrt[5]{\frac{4a_0}{a_5}}$, alors le quadruplet (a, b, c, d) est défini par:

$$
a = -\frac{a_1}{2a_0}\zeta, \quad b = \left(\frac{a_2}{2a_0} - \frac{a_1^2}{8a_0^2}\right)\zeta^2,
$$

$$
c = \left( \frac{a_3}{4a_0} + \frac{a_1^3}{32a_0^3} - \frac{a_2a_1}{8a_0^2} \right) \zeta^3, \quad d = \left[ \frac{1}{4} \left( \frac{a_2}{2a_0} - \frac{a_1^2}{8a_0^2} \right)^2 - \frac{a_4}{4a_0} \right] \zeta^4.
$$

Comme pour le modèle hyperelliptique qui n'est pas lisse à l'infini, le modèle normal n'est pas lisse au point (0 : 1 : 0). Par le même procédé développé dans la sous section précédente, le modèle normal est obtenu en réduisant un point de Weierstrass P et un non point de Weierstrass Q ensemble. Une fois que P et Q sont fixés, le modèle normal est unique sous l'action des transformations de la forme (a', b', c', d') ↦→ (a'ζ, b'ζ², c'ζ³, d'ζ⁴) tel que ζ est une racine cinquième de l'unité.

4.6 FORMES MODULAIRES VECTORIELLES ET COVARIANTS

Dans cette section nous discutons des interprétations algébriques de Katz des formes
modulaires en tant que sections des représentations du fibré vectoriel de Hodge.
L'espace de modules grossier sur $\mathbb{Z}$ des courbes hyperelliptiques $M_2$, admet un plongément
(via le morphisme de Torelli) dans l'espace de modules grossier $\mathfrak{M}_2$ des schémas abéliens de
dimension relative 2.

En général, lorsque l'on considère une représentation de dimension finie $\rho : \mathrm{GL}_2(\mathbb{C}) \to \mathrm{GL}(V)$, une forme modulaire (vectorielle) de Siegel de poids $\rho$ est une fonction holomorphe $f : \mathfrak{H}_2 \to V$ satisfaisant : $f(\gamma\Omega) = \rho(C\Omega + D)f(\Omega)$ pour tout $\Omega \in \mathfrak{H}_2$ et $\gamma \in \Gamma_2$. Par conséquent une forme modulaire de Siegel $f$ définie en la section 3.3 et la section 3.3.1 correspond ici au cas où $V$ est de dimension 1 et on dit que $f$ est de *valeur-scalaire*, dans
le cas contraire on dit que $f$ de valeur-vectorielle. Comme toute représentation irréductible de $GL_1(\mathbb{C})$ est de dimension 1, seules les formes modulaires de Siegel à valeur scalaire se produisent dans le genre 1.

On note générallement $\det^k$ (avec $k \in \mathbb{Z}$) la représentation unidimensionnelle (pour $V = \mathbb{C}$) où l'action d'une matrice $m \in GL_2(\mathbb{C})$ est la multiplication par $\det(m)^k$. Alors pour toutes formes modulaires de Siegel $f$ et $g$ de poids respectifs $\det^k$ et $\det^l$, leur produit $fg$ sera de poids $\det^{k+l}$. En dimension 2, il est montré que les représentations irréductibles sont exactement de la forme: $\det^k \mathrm{Sym}^n$ pour $k \in \mathbb{Z}$ et $n \in \mathbb{N}$. $\mathrm{Sym}^n$ est le $n$-ième puissance symétrique des représentations de $GL_2(\mathbb{C})$ sur $\mathbb{C}^2$ donné sur $\mathbb{C}_n[x]$ (des polynômes de degré au plus $n$) par la relation:

$$ \mathrm{Sym}^k(m)P(x) = (bx + d)^k P\left(\frac{ax + c}{bx + d}\right) \quad \text{pour tous} $$

$$ m = \begin{pmatrix} a & b \\ c & d \end{pmatrix} \in \mathrm{GL}_2(\mathbb{C}) \text{ et } P \in \mathbb{C}[X] \text{ avec } \deg(P) \le k. $$

Par suite, lorsque $f$ n'admet pas de pôle en $\Omega \in \mathfrak{S}_2$, pour toute surface abélienne complexe principalement polarisée $\mathcal{A}$ isomorphe à $\mathcal{A}_{\Omega} = \mathbb{C}^2/(\mathbb{Z}^2 + \Omega\mathbb{Z}^2)$ avec une base $\omega \in \Omega^1(\mathcal{A})$ on définit la quantité suivante:

$$ f(\mathcal{A}, \omega) := \rho(\mathrm{t}(m^{-1}))f(\Omega) $$

où $m \in GL_2(\mathbb{C})$ est la matrice de changement de bases entre $\omega$ et la base canonique sur les formes différentielles $(2\pi i dz_1, 2\pi i dz_2)$ sur $\mathcal{A}_{\Omega}$. Et la matrice $m$ dépend uniquement de $\mathcal{A}, \omega$ et $\Omega$ nous renvoyons à [98, §2.2] pour plus de détails sur cette construction.

Puisque le paramètre $(\mathcal{A}, \omega)$ est bien défini sur tout corps quelconque $k$, lorsque $f$ est définie sur un certain $\mathbb{Z}[1/N]$ (comme le montre ses coefficients de Fourier) avec $\mathrm{char}(k) \nmid N$, alors la quantité $f(\mathcal{A}, \omega)$ aura bien un sens sur $k$.

D'autre part, lorsque $\mathcal{A}$ n'est pas un produit de courbes elliptiques on a :

$$ \omega = m\eta^*(\omega(\Omega)) $$

où $\eta$ est un isomorphisme entre $\mathcal{A}$ et la surface complexe $\mathcal{A}_{\Omega}$ avec $\Omega \in \mathfrak{S}_2$ dont une base des différentielles $\omega(\Omega)$. Alors on obtient une courbe hyperelliptique sur $\mathbb{C}$ d'équation:

$$ \mathcal{C}(\Omega) : y^2 = a_6(\Omega)x^6 + \dots + a_1(\Omega)x + a_0(\Omega) $$

où les $q$-expansions des coefficients $a_i(\Omega)$ sont données par [98, Corollaire 3.9] (listés avec des degrés totaux inférieurs à 1.)

En particulier les équations d'une courbe hyperelliptique $\mathcal{C}$ de genre 2 fournissent des paires $(\mathcal{A}, \omega)$ tel que $\omega(\mathcal{C}) = (dx/y, xdx/y)$ soit une base de $\Omega^1(\mathrm{Jac}(\mathcal{C}))$ des formes différentielles sur la surface principalement polarisée Jac($\mathcal{C}$). Par conséquent à toute forme modulaire on pourra associer un covariant sur $\mathcal{C}$ en utilisant l'application définie par :

$$ \mathrm{Cot}(f) : \mathcal{C} \mapsto f(\mathrm{Jac}(\mathcal{C}), \omega(\mathcal{C})), $$

à partir de laquelle on pourra exprimer $\mathrm{Cot}(f)$ en fonction des coefficients la courbe. Et l'on connait des méthodes de détermination de $\mathrm{Cot}(f)$ à partir de la $q$-expansion de $f$ (aller à [98, § 3.3] pour plus détails). En d'autres termes, on peut regarder une forme modulaire comme une section d'une représentation de poids $\rho$ du fibré vectoriel de Hodge sur $\mathfrak{A}_2$, et le tiré-en-arrière ("pullback" en anglais) du morphisme de Torelli $M_2 \to \mathfrak{A}_2$ induit une section
de la représentation de poids $\rho$ du fibré vectoriel de Hodge sur $M_2$.

Par conséquent, étant donné $f$ une fonction modulaire de Siegel de poids $\rho$, $\text{Cot}(f)$ est un covariant fractionnaire (rationnelle en terme des coefficients de la courbe) de poids $\rho$.

À noter que $\text{Cot}(f)$ est un covariant polynomial si et seulement si $f$ n'admet pas de pôles au diviseur à l'infini dans $\overline{\mathfrak{A}}_2$ (une compactification toroïdale de $\mathfrak{A}_2$).

En particulier, si $f$ est une forme modulaire, $\text{Cot}(f)$ est un covariant polynomial selon le principe de Koecher.

Réciproquement, si $F$ est un covariant fractionnaire, la fonction méromorphe $\Omega \mapsto F(C(\Omega))$ est une forme modulaire de Siegel méromorphe bien définie $f$ (du même poids) associé à $F$; puisque $C(\Omega)$ est exactement de poids $\det^{-2}\text{Sym}^6$. Et dans le cas où $F$ est un polynôme, alors $f$ est une forme modulaire s'il n'admet pas de pôles en $\Omega$ tel que $\chi_{10}(\Omega) = 0$.

En résumé, les représentations irréductibles sont de la forme $\det^k \text{Sym}^n$ avec $k \in \mathbb{Z}$ et $n \in \mathbb{N}$. Lorsque l'on considère les paramètres: $m \in \text{GL}_2(\mathbb{k})$ et $u \in \mathbb{k}^*$ des isomorphismes entre les modèles $y^2 = f(x)$ de courbes hyperelliptiques alors en posant $u = \det(m)$, les transformations entre les équations sont données par $\det^2 \text{Sym}^6$ et les bases de différentielles sont déterminées à une action près de la matrice $m^{-t}$. Dès lors les bases de $\Omega^1(\text{Jac}(C))$ sont déterminées à une transformation près donnée par ces changements de variables. Ainsi les équations hyperelliptiques représentent toutes les paires $(A, \omega)$ où $A$ n'est pas un produit de deux courbes elliptiques.

Par suite les covariants d'ordre $n$ et de degré $k$ selon la Théorie des Invariants de Hilbert abordée dans la section 4.1 correspondent aux covariants polynômials de poids $\det^{(k-n/2)} \text{Sym}^n$.

**Exemple 4.6.1.** En particulier, les covariants polynômes $J_{2i}$ ont l'interprétation suivante en terme de formes modulaires (nous utilisons ici les formes paraboliques standards $\chi_{10}, \chi_{12}$ plutôt que celles normalisées de [98]):

$$ 
\begin{aligned}
-3\operatorname{Cot}(\chi_{12}/\chi_{10}) &= J_2, \\
4\operatorname{Cot}(\psi_4) &= I_4, \\
4\operatorname{Cot}(\psi_6) &= \frac{1}{2}(I_2 I_4 - 3I_6) = I_6', \\
-2^2\operatorname{Cot}(\chi_{10}) &= J_{10}.
\end{aligned}
$$

Alors on pourra exprimer les $j$-invariants $j_i$ définis dans le chapitre 3 et la section 3.3.1.3 en terme de quotients de covariants de même poids comme suite:

$$ 
\begin{aligned}
\operatorname{Cot}(j_1) &= \frac{1}{256 J_{10}} (J_2^5 - 60 J_4 J_2^3 + 216 J_6 J_2^2 + 864 J_4^2 J_2 - 5184 J_6 J_4), \\
\operatorname{Cot}(j_2) &= \frac{1}{32 J_{10}} (J_2^5 - 48 J_4 J_2^3 + 576 J_4^2 J_2), \\
\operatorname{Cot}(j_3) &= \frac{1}{16384 J_{10}^2} (J_2^{10} - 120 J_4 J_2^8 + 5760 J_4^2 J_2^6 - 138240 J_4^3 J_2^4 + \\
&\qquad 1658880 J_4^4 J_2^2 - 7962624 J_4^5).
\end{aligned}
$$
Dans ce chapitre nous abordons une généralisation des polynômes modulaires permettant une caractérisation des points $(p, p)$-isogènes sur l'espace de module des surfaces abéliennes principalement polarisés. Ces polynômes modulaires ont été évalués pour la première fois en fonction des invariants d'Igusa par Régit Dupont dans sa thèse de Doctorat [28]. Son algorithme fut ensuite étendu à d'autres invariants par d'autres auteurs.

Nous faisons une présentation générale des polynômes modulaires en dimension 2 ainsi que les principes d'évaluation utilisés en vue de les adapter à des évaluations en fonction des nouveaux invariants (le chapitre 4 et la section 4.3), ayant une bonne réduction en toute caractéristique. À la fin nous allons plus nous interesser aux améliorations proposées par Enea Milio [78].

## 5.1 MATRICE DE $\mathfrak{S}_2$ ASSOCIÉE À UNE COURBE HYPERELLIPTIQUE DE GENRE 2

### 5.1.1 Évaluation des Thêta Constantes

Dans la proposition suivante nous résumons quelques valeurs connues des theta constantes sur le domaine fondamental $\mathcal{F}_2$.

**Proposition 5.1.1.** Soit $\Omega \in \mathcal{F}_2$ :

— La plus petite valeur propre de $\mathrm{Im} \, \Omega$ notée $\lambda(\Omega)$ est telle que:

$$ \lambda(\Omega) \geq \frac{\sqrt{3}}{4}. $$

— Pour tout $j \in \{0, 1, 2, 3\}$, $|\theta_j(\Omega) - 1| \leq 0.405$.

Et cela reste vrai pour tout $\alpha\Omega$ avec $\alpha > 1$.

— Pour tous $j \in \{4, 6\}$ et $k \in \{8, 9\}$ avec $E = |2 \exp(i\pi\Omega_1/2)|$ on a:

$$ \left| \frac{\theta_j(\Omega)}{2 \exp(i\pi\Omega_1/4)} - 1 \right| \le |E| \quad \text{et} \quad \left| \frac{\theta_k(\Omega)}{2 \exp(i\pi\Omega_3/4)} - 1 \right| \le |E|. $$

**Démonstration.** Aller à [28, Pages: 138-145] □

<figure><img src="image_27.png" /></figure>

Par conséquent on montrent que :

• La fonction $\theta_{12}$ ne s'annule pas sur $\mathcal{F}_2$.

• $\theta_{15}$ est la seule thêta constante paire pouvant sannuler sur $\mathcal{F}_2$. Et il en découle le résultat suivant.

**Proposition 5.1.2.** Soit $\Omega \in \mathfrak{S}_2$ et $\Omega'$ son représentant dans le domaine fondamental $\mathcal{F}_2$. Alors soit la matrice $\Omega'$ est diagonale auquel cas exactement une des thêtas constantes paire s'annule en $\Omega$ et avec aussi $\theta_{15}(\Omega') = 0$, soit $\Omega'$ n'est pas diagonale et dans ce cas aucune des thêtas constantes ne s'annule en $\Omega$ (ni en $\Omega'$ par l'équation fonctionnelle).
### 5.1.2 Applications de la Moyenne de Borchardt

Cette partie s'intéresse en premier lieu au problème d'évaluation rapide avec une précision $N$ d'une matrice de Riemann associée à une courbe hyperelliptique $\mathcal{C}$ de genre $g \ge 1$ donnée sous son model

$$ \mathcal{C} : y^2 = \prod_{i=1}^{2g+2} (x - e_i). $$

Elle se refère sur une approche de Dupont [28] dont la complexité est $O(\mathcal{M}(N) \cdot \log N)$.

#### Suites de Borchardt

On considère toujours $g$ un entier fixé $\ge 1$ et on pose $\mathcal{I}_g = (\mathbb{Z}/2\mathbb{Z})^g$. Soit $(a_v)_{v \in \mathcal{I}_g} \in \mathbb{C}^{2g}$, on dit qu'un $2^g$-uplet $(a'_v)_{v \in \mathcal{I}_g}$ est un itéré de Borchardt de $(a_v)_{v \in \mathcal{I}_g}$ s'il existe $(\alpha_v)_{v \in \mathcal{I}_g} \in \mathbb{C}^{2g}$ tel que, pour tout $v \in \mathcal{I}_g$ :

$$ \alpha_v^2 = a_v \quad \text{et} \quad b_v = \frac{1}{2^g} \sum_{v_1+v_2=v} \alpha_{v_1} \alpha_{v_2}. $$

Où le $2^g$-uplet $(\alpha_v)$ est le choix de racines correspondant à cette itération de Borchardt. Ce choix sera dit bon si pour tous $v_2, v_2 \in \mathcal{I}_g$ on a :

$$ |\alpha_{v_1} - \alpha_{v_2}| < |\alpha_{v_1} - \alpha_{v_2}|. $$

Sinon le choix de racines sera dit mauvais.

Les choix $(\alpha_v)_{v \in \mathcal{I}_g}$ et $(-\alpha_v)_{v \in \mathcal{I}_g}$ conduisent au même itéré, ainsi on a au plus $2^{g-1}$ itéré possibles.

On appelle suite de Borchardt toute suite $(a_v^{(n)})_{v \in \mathcal{I}_g}$ tel que pour tout $n \in \mathbb{N}$, $(a_v^{(n+1)})_{v \in \mathcal{I}_g}$ est itéré de Borchardt de $(a_v^{(n)})_{v \in \mathcal{I}_g}$.

Lorsque $g = 1$ ces suites correspondent aux suites AGM.

Soit $(a_v^{(n)})_{v \in \mathcal{I}_g}$ une suite de Borchardt avec $(\alpha_v^{(n)})_{v \in \mathcal{I}_g}$ une suite de choix de racines associée. Alors il existe un unique $A \in \mathbb{C}$ tel que, pour tout $v \in \mathcal{I}_g$: la suite $(a_v^{(n)})$ tend vers $A$. De plus, $A = 0$ si et seulement si la suite $(\alpha_v^{(n)})$ contient une infinité de mauvais choix de racines [3, Théorème 7.1]. Alors le nombre $A$ est appelé moyenne de Borchardt associée à la suite de Borchardt $(a_v^{(n)})_{v \in \mathcal{I}_g}$.

Et on a que $A$ vérifie les propriétés suivantes pour un $n$ fixé :

$$ \begin{gathered} |A| \le \max_{v \in \mathcal{I}_g} |a_v^{(n)}|, \quad \text{Re}(A) \ge \min_{v \in \mathcal{I}_g} \left(\text{Re}(a_v^{(n)})\right) \\ \text{et} \quad \min_{v \in \mathcal{I}_g} \left(\arg(a_v^{(n)})\right) \le \arg(A) \le \max_{v \in \mathcal{I}_g} \left(\arg(a_v^{(n)})\right). \end{gathered} $$

avec $\operatorname{Im} \left( \frac{\alpha_v^{(n)}}{\alpha_0^{(n)}} \right) > 0$ en cas d'égalité.

Et pour la suite nous allons plus nous intéresser à la suite de Borchardt suivante :

Soit $(z_v)_{v \in \mathcal{I}_g \setminus \{0\}} \in \mathbb{C}^{2g-1}$, on considère la suite de Borchardt $(a_v^{(n)})_{v \in \mathcal{I}_g}$, $n \in \mathbb{N}$ définie par $a_0^{(0)} = 1$, $a_v^{(0)} = z_v$ pour $v \in \mathcal{I}_g \setminus \{0\}$ et tel que l'on ait les formules de récurrence suivantes sur $n$ :

$$ a_0^{(n+1)} = \frac{1}{2^g} \sum_{v \in \mathcal{I}_g} a_v^{(n)} \quad \text{et} \quad a_0^{(n+1)} = \sum_{v_1+v_2=v} \alpha_{v_1}^{(n)} \alpha_{v_2}^{(n)} $$
**Entrée:** $(z_v)_{v \in \mathcal{I}_g \setminus \{0\}} \in \mathbb{C}^{2^g-1}$ tels que $\mathrm{Re}(z_v) > 0, \forall v$ et un entier $N$.

**Sortie:** A tel que $\left| \frac{A}{B_g((z_v))} - 1 \right| \le 2^{-N}$.

1. $B = B(N+1, (z_v)); a_0 = 1;$

2. Pour $v \in \mathcal{I}_g \setminus \{0\}$ Faire ;

a. $a_v = z_v;$

3. Pour $n=1$ à B Faire ;

a. Pour $v \in \mathcal{I}_g$ Faire

i. $r_v = \sqrt{a_v}$ avec $\mathrm{Re}(r_v) > 0;$

ii. $b_v = 0;$

b. Pour $v \in \mathcal{I}_g$ Faire

i. $b_0 = b_0 + a_v$

ii. Pour $v \in \mathcal{I}_g$ Faire $b_v = b_v + r_{v1}r_{v+1}$;

c. Pour $v \in \mathcal{I}_g$ Faire

i. $a_v = b_v/2^g;$

4. Retourner $a_0$;

**Algorithm 5.1.1 Evaluation de la Moyenne de Borchardt**

où $a_0^{(n)}$ est une racine carrée quelconque de $a_0^{(n)}$ telle que pour tout $v \neq 0$, $\alpha_v^{(n)} = 0$ si $\alpha_0^{(n)} = 0$ ou si $a_v^{(n)} = 0$ et sinon c'est une racine carrée de $a_v^{(n)}$ telle que : $|\alpha_0^{(n)} - \alpha_v^{(n)}| \le |\alpha_0^{(n)} + \alpha_v^{(n)}|$. On note par $B_g((z_v)_{v \in \mathcal{I}_g \setminus \{0\}})$ la limite d'une telle suite.

Dans le cas où $g \le 2$, la valeur de $B_g((z_v)_{v \in \mathcal{I}_g \setminus \{0\}})$ ne dépend que de l'ensemble $\{z_v\}_{v \in \mathcal{I}_g \setminus \{0\}}$, ce qui n'est pas le cas pour $g > 2$.

Lorsque nous considérons $\mathrm{Re}(z_v) > 0$ pour tout $v \in \mathcal{I}_g \setminus \{0\}$; l'algorithme suivant la section 5.1.2 calcule $A = B_g((z_v)_{v \in \mathcal{I}_g \setminus \{0\}})$ en prenant $a^{(B(N,(z_v)))}$ comme approximation de $A$ avec une précision relative de $N$ bits [28]. Où $B(N, (z_v))$ est définie par :

$$B(N, (z_v)) = \left\lceil \frac{\log\left(1 - \frac{1}{2^g}\right)}{\log\frac{m_0}{7\Delta_0}} \right\rceil + N + 1 + \left\lceil \log\frac{M_0}{7m_0} \right\rceil$$

En utilisant la moyenne de Borchardt on déduit que pour tout $\Omega \in \mathfrak{H}_2$, la suite de Borchardt définie pour tout $n \in \mathbb{N}$ par :

$$(a_n, b_n, c_n, d_n) = \left( \frac{\theta_j^2(2^n \Omega)}{\theta_0^2(\Omega)} \right)_{j \in \{0,1,2,3\}}$$

converge vers $\frac{1}{\theta_0^2(\Omega)}$. Et dont tout choix de racines est bon lorsque $\Omega \in \mathcal{F}_2$. [78, Lemme 2.6.13] et [28, Proposition 9.1]. Ainsi il en découle que pour tout $\Omega \in \mathcal{F}_2$ on a :

$$B_2(c_1(\Omega), c_2(\Omega), c_3(\Omega)) = \frac{1}{\theta^2(\Omega)} \qquad (5.1)$$
Ce qui permet de determiner les carrés des thêta constantes à partir des $c_j$ et de la relation
$\theta_j^2(\Omega) = c_j(\Omega)\theta_0^2(\Omega)$. Par suite on peut extraire la matrice $\Omega$ en utilisant le résultat suivant.

**Proposition 5.1.3.** *Pour tous $\Omega \in \mathcal{F}_2$ et $\gamma \in \{(\mathfrak{M}_1)^2, (\mathfrak{M}_2)^2, (\mathfrak{M}_3)^2\}$,*

$$
B_2(c_1(\gamma\Omega), c_2(\gamma\Omega), c_3(\gamma\Omega)) = \frac{1}{\theta^2(\gamma\Omega)}
$$

Démonstration. Voir [58, Lemme 4.2.].

<figure><img src="image_28.png" /></figure>

Ce qui permet d'étendre le domaine de bon choix des racines dans l'utilisation du résultat
précédent 5.1.

Lorsque l'on pose : $\Omega = \begin{pmatrix} \Omega_1 & \Omega_2 \\ \Omega_2 & \Omega_3 \end{pmatrix} \in \mathfrak{S}_2$, on en déduit que :

$$
\Omega_1 = i \cdot \left[ \theta_4^2(\Omega) B_2 \left( \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)}, \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)}, \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)} \right) \right]^{-1},
$$

$$
\Omega_3 = i \cdot \left[ \theta_8^2(\Omega) B_2 \left( \frac{\theta_9^2(\Omega)}{\theta_8^2(\Omega)}, \frac{\theta_0^2(\Omega)}{\theta_8^2(\Omega)}, \frac{\theta_1^2(\Omega)}{\theta_8^2(\Omega)} \right) \right]^{-1},
$$

$$
\Omega_2^2 - \Omega_1 \Omega_3 = \left[ \theta_4^2(\Omega) B_2 \left( \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)}, \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)}, \frac{\theta_0^2(\Omega)}{\theta_4^2(\Omega)} \right) \right]^{-1}.
$$

Alors pour $\Omega \in \mathcal{F}_2$ on a $\mathrm{Im}\,\Omega_2 > 0$ ce qui permet de determiner la bonne racine carré de $\Omega_2^2$.
D'autres variantes de cet algorithmes n'utilisant pas le résultat 5.1.3 sont décrites dans [28,
Pages 200-201].

5.2 POLYNÔMES MODULAIRES DE SIEGEL

Cette section introduit les polynômes modulaires de Siegel et décrit le principe de calcul
de ces polynômes en dimension 2 pour des systèmes d'invariants quelconques en se réferant
à [28, 78]. Ces résultats seront utilisés pour caractériser les conditions de Kronecker sur l'espace
de Siegel (la section 7.1 et la section 7.1.1) . Et une variante de l'algorithme décrit s'étend aux
calculs de polynômes modulaires en fonction des invariants introduits dans le chapitre 4, la
section 4.2 et le théorème 4.3.2.

5.2.1 Polynômes Modulaires pour $\Gamma_0(p)$

On considère un entier premier $p$. On définit le groupe modulaire $\Gamma_0(p)$ par :

$$
\Gamma_0(p) := \{ (A \ B) \in \Gamma_2 ; C \equiv 0 \ \mathrm{mod} \ p \} .
$$

Alors on montre [28], que $[\Gamma_2 : \Gamma_0(p)] = p^3 + p^2 + p + 1$; et que l'ensemble de représentants
pour les classes de $\Gamma_2$ sous l'action (à droite) de $\Gamma_0(p)$ est défini par :

$$
C_p = \{ T_1(a, b, c), (a, b, c) \in [0, p-1]^3 \} \cup \{ T_3(a), a \in [0, p-1] \} \\
\cup \{ T_2(a, b, c), (a, b, c) \in [0, p-1]^3 \text{ et } ac \equiv b^2 \mod p \} \cup \{ T_4 \}
$$

Où pour tout $a,b,c \in \{0, \dots, p-1\}$ on a :

$$
T_1(a, b, c) = \begin{pmatrix} I_2 & 0 \\ a & b \\ b & c \end{pmatrix}, \quad T_2(a, b, c) = \begin{pmatrix} 0 & -I_2 \\ I_2 & a & b & c \end{pmatrix}
$$
$$
T_3(a) = \begin{pmatrix} 1 & 0 & 0 & 0 \\ 0 & 0 & 0 & -1 \\ 0 & 0 & 1 & a \\ -a & 1 & 0 & 0 \end{pmatrix}, \quad T_4 = \begin{pmatrix} -1 & -1 & 1 & -1 \\ 0 & 0 & -1 & 1 \\ 0 & 0 & 0 & -1 \\ 1 & 0 & 0 & -1 \end{pmatrix}
$$

Soit $f$ une fonction modulaire sur $\Gamma_2$ et $\gamma = (A^B_C D) \in \Gamma_2$, on définit la matrice $\gamma_p$ et les fonctions $f^\gamma, f_p$ et $f_p^\gamma$ de $\mathcal{H}_2 \leftarrow \mathcal{C}$ par :

$$
f^{\gamma}(\Omega) = f(\gamma\Omega), \quad f_{p}(\Omega) = f(p\Omega),
$$

$$
f_p^\gamma(\Omega) = f(p\gamma\Omega) \quad \text{et} \quad \gamma_p := \left( \begin{smallmatrix} A & pB \\ C/p & D \end{smallmatrix} \right)
$$

**Proposition 5.2.1.** *Les trois fonctions $j_{l,p} := (j_l)_p$ sont des invariants modulaires pour $\Gamma_0(p)$. Et $C_{\Gamma_0(p)}$ est égal à $C_{\Gamma_2}(j_{l,p})$ pour $l=1,2,3$.*

Démonstration. Pour tout $\gamma \in \Gamma_0(p)$, on a $p\gamma\Omega = \gamma_p(p\Omega)$ et $\gamma_p \in \Gamma_2$. Alors $j_{l,p}(\gamma\Omega) = j_l(\gamma_p(p\Omega)) = j_l(p\Omega) = j_{l,p}(\Omega)$.

On utilise le résultat qui dit qu'il existe une surjection entre $\Gamma_2 = Sp_4(\mathbb{Z})$ et $Sp_4(\mathbb{Z}/N\mathbb{Z})$ pour tout $N$ entier [78, Lemme 4.2.4].

Comme $C_{\Gamma_0(p)}$ est une extension de $C_{\Gamma_2}$ de degré $[\Gamma_2 : \Gamma_0(p)]$, alors suffit de montrer qu’à $l$ fixé, les fonctions $j_{l,p}^\gamma$ pour $\gamma \in \Gamma_2/\Gamma_0(p)$ sont distinctes. Sinon si deux de ces fonctions sont égales cela implique que le stabilisateur $S \subset \Gamma_2$ de $j_{l,p}$ est égal à $\Gamma_2$ [78, Proposition 4.2.5], ce qui est absurde. $\square$

Les matrices de périodes des variétés abéliennes principalement polarisées *p*-isogènes à une variété $\Omega$ donnée sont les $p\gamma\Omega$ pour $\gamma \in C_p$ (par [6, Théorème 3.2]). Et les fonctions $j_{l,p}$ ont des pôles en les matrices de période $\Omega$ des variétés *p*-isogènes à un produit de courbes elliptiques.

Le polynôme modulaire de niveau *p* modular pour $j_1$ est le polynôme minimal de $j_{1,p}$ sur
le corps $\mathbb{C}(j_1, j_2, j_3)$, et

$$
\phi_{1,p}(X) = \prod_{\gamma \in C_p} (X - j_{1,p}^{\gamma}).
$$

Comme $j_{2,p}$ et $j_{3,p}$ sont dans $C_{\Gamma_2}(j_{1,p}) = C_{\Gamma_2}[j_{1,p}]$ d'après la proposition précédente 5.2.1 alors $j_{2,p} = \phi_{2,p}(j_{1,p})$ et $j_{3,p} = \phi_{3,p}(j_{1,p})$ où $\phi_{2,p}(X)$ et $\phi_{3,p}(X)$ des polynômes unitaires dans $C(j_1, j_2, j_3)[X]$ de degré strictement inférieur à $\deg(\phi_{1,p}(X))$. Et pour $l=2,3$,

$$
\phi_{l,p}(X) = \frac{\psi_{l,p}(X)}{\phi'_{1,p}(X)} \quad \text{avec} \quad \psi_{l,p}(X) = \sum_{\gamma \in C_p} j_{l,p}^{\gamma} \prod_{\gamma' \in C_p \setminus \{\gamma\}} (X - j_{1,p}^{\gamma'}).
$$

Ces polynômes modulaires $\phi_{1,p}(X)$, $\psi_{2,p}(X)$ et $\psi_{3,p}(X)$ sont tous des éléments de $\mathbb{Q}(j_1, j_2, j_3)[X]$ [6, Théorème 2.5]. Et on les appelle les *p*-polynômes modulaires pour $j_1, j_2$ et $j_3$.

L'évaluation de $(j_1, j_2, j_3)$ en $\Omega \in \mathfrak{H}_2$ envoie les polynômes $\phi_{1,p}(X)$, $\phi_{2,p}(X)$ et $\phi_{3,p}(X)$ sur des polynômes dans $\mathbb{C}[X]$. Et si $x$ est une solution sur $\mathbb{C}$ de $\phi_{1,p}(X)$, alors $(x, \phi_{2,p}(x), \phi_{3,p}(x))$ sont les $j$-invariants absolus des surfaces abéliennes principalement polarisées $(p, p)$-isogènes à la surface $\Omega$.

Plus généralement lorsque $\Gamma$ est un sous groupe de congruence $\Gamma_2$, c’est-à-dire pour un
certain entier $N$ on a :

$$
\Gamma_2(N) = \{ M \in \Gamma_2 : M \equiv I_4 \mod N \} \subset \Gamma.
$$
Alors pour un premier *p* ne divisant pas *N*, $C_p$ désignera l'ensemble des représentants des classes de $\Gamma/(\Gamma \cap \Gamma_0(p))$.

Soient $f_1, f_2$ et $f_3$ les trois fonctions modulaires génératrices du corps de fonctions $\mathbb{C}_{\Gamma}$. Alors les *p*-polynômes modulaires pour $f_1, f_2$ et $f_3$ sont $l = 2, 3$ :

$$ \phi_{1,p}(X) = \prod_{\gamma \in C_p} (X - f_{1,p}^{\gamma}), \quad \text{et} \quad \psi_{l,p}(X) = \sum_{\gamma \in C_p} f_{l,p}^{\gamma} \prod_{\gamma' \in C_p \setminus \{\gamma\}} (X - f_{1,p}^{\gamma'_{\gamma}}). $$

### 5.2.2 Evaluations

Pour l'évaluation des polynômes modulaires la plupart des auteurs utilisent des algorithmes d'interpolation des polynômes et des fractions rationnelles multivariées. Pour ce qui suit, nous utilisons une variante de l'algorithmme d'Enea Milio [78] qui généralise celui de Dupont [28] dont nous rappellons les principes de fonctionnement.

On suppose que nous avions un algorithme qui envoie une approximation flottante de la valeur $F(x_1, \dots, x_m)$ pour tout $(x_1, \dots, x_m) \in \mathbb{C}^m$. Et $F$ est une fraction rationnelle multivariée de $\mathbb{C}[X]$ que l'on veut calculer.

Soit $A(X), B(X) \in \mathbb{Z}[X]$ tel que $F(X) = \frac{A(X)}{B(X)}$ avec $\deg A(X) = d_X^A$ et $\deg B(X) = d_X^B$. On pose $n = d_X^A + d_X^B + 1$, si on connaît au préalable les degrés $d_X^A$ et $d_X^B$ et si l'on dispose de $(n+1)$ valeurs $x_i$ de $F$ alors on peut déterminer les coefficients $(A_0, \dots, A_{d_X^A}, B_0, \dots, B_{d_X^B}) \in \mathbb{Z}^{n+1}$ tels que :

$$ \begin{pmatrix} 1 & x_1 & \cdots & x_1^{d_X^A} & -F(x_1) & -F(x_1)x_1 & \cdots & -F(x_1)x_1^{d_X^B} \\ \vdots & \vdots & & \vdots & \vdots & \vdots & & \vdots \\ 1 & x_n & \cdots & x_n^{d_X^A} & -F(x_n) & -F(x_n)x_n & \cdots & -F(x_n)x_n^{d_X^B} \\ \end{pmatrix} \cdot \begin{pmatrix} A_0 \\ \vdots \\ A_{d_X^A} \\ B_0 \\ \vdots \\ B_{d_X^B} \end{pmatrix} = \begin{pmatrix} 0 \\ \vdots \\ 0 \end{pmatrix} $$

Alors on obtient une solution $F$ (de l'équation $A(X) - B(X)F(X) = 0$) définie à une constante (multiplicative) près.

En pratique, on peut déterminer les degrés $d_X^A$ et $d_X^B$ en déterminant la plus petite valeur de $m$ telle que l'espace des solutions du système associé à $A(X) - B(X)F(X) = 0$. Une base de l'espace des solutions permettra alors de déterminer les valeurs de $d_X^A$ et $d_X^B$, ainsi qu'une solution $(A_0, \dots, A_{d_X^A}, B_0, \dots, B_{d_X^B}) \in \mathbb{Z}^{n+1}$.

Cette méthode est n'est pas difficile à implémenter mais elle a une mauvaise complexité.

Lorsque $\deg A < k$ et $\deg B \le m-k$, on part de l'interpolation de polynômes univariés $y_i = F(x_i)$ pour un $(x_1, \dots, x_n) \in \mathbb{C}^m$. On obtient des polynômes $r(X)$ et $t(X)$ tels que $r_i(x_i) = t(x_i)F(x_i)$ pour tout $i$. Et par le théorème des restes Chinois, on extrait $r \equiv tf \mod g$, où $g = \prod_{i=1}^m (X - x_i)$. Ensuite on utilise l'algorithmme d'Euclide étendu sur $g$ et $f$. De plus il est possible de ne calculer qu'une ligne de cet algorithme pour interpoler la fraction $F$.

Ce qui produit un algorithme de complexité $O(M_N(n) \log(n))$ où $M_N(n)$ est la complexité de la multiplication de deux polynômes de degrés inférieurs ou égaux à $n$ avec des coefficients de $N$ bits. Alors on aura seulement $n$ nombres d'évaluations. Cependant cette méthode présente quelques subtilités pour son fonctionnement optimal, pour plus de détails nous
renvoyons le lecteur à la [78, Section 4.1].

Le sous groupe modulaire $\Gamma_2(2,4)$ de $\Gamma_2$ est normal d'indice 11520 et de niveau 4 et on a $C_{\Gamma_2(2,4)} = C(b_1, b_2, b_3) = C(c_1, \dots, c_{15})$ d'après le chapitre 3, la section 3.3.1 et le théorème 3.3.11.

Lorsque $p > 2$, les classes d'équivalence $\Gamma(2,4)/(\Gamma_0(p) \cap \Gamma(2,4))$ sont bijections avec celles de $\Gamma_2/\Gamma_0(p)$, ainsi $C_{\Gamma_0(p) \cap \Gamma(2,4)}$ est égal à $C_{\Gamma(2,4)}(b_{i,p})$ pour tout $i = 1,2,3$ [78, Pages: 120-122]. Pour déterminer $\Omega$ à partir de $(b_1(\Omega), b_2(\Omega), b_3(\Omega))$, on peut utiliser les formules de duplication pour les $(c_j(\Omega))_{j \in P_2}$ et extraire les invariants d'Igusa correspondant à $\Omega$. Pour atteindre le bon $\Omega$ modulo l'action de $\Gamma_2(2,4)$, une méthode détaillée dans [78, Pages: 122, 124] permet de précalculer l'action sur les thêta constantes (permutations et constantes) de l'ensemble des représentants de $\Gamma_2/\Gamma_2(2,4)$ en utilisant l'équation fonctionnelle qui donne :

$$ \theta_k^2(\gamma\Omega') = \zeta_\gamma^2 \det(\dots) i^{\epsilon(\gamma,k)} \theta_l^2(\Omega') \quad \text{avec } \epsilon(\gamma,k) \in \{0,1,2,3\}. $$

On dira ici que l'action de $\gamma$ envoie l'indice $k$ vers l'indice $l$. Cela peut conduire à un ensemble $\mathcal{A}$ des $c_i(\Omega) = c_i(\gamma\Omega')$ et celui $\mathcal{B}$ des dix $c_i(\Omega')$ et en comparant $\mathcal{A}$ et $\mathcal{B}$ on déduit de l'action le représentant $\gamma$ correspondant, ce qui nous permet d'avoir $\gamma\Omega' = \Omega$. On peut aussi avoir le cas où il existe $c \in P_2$ qui s'envoie sur 0 et un $d \in P_2$ tel que 0 s'envoie sur $d$ et

$$ c_c(\gamma\Omega') = i^{\epsilon(\gamma,c) - \epsilon(\gamma,0)} c_d(\Omega')^{-1}. $$

En multipliant l'ensemble $\mathcal{A}$ par $c_d(\Omega')^{-1}$ et en comparant ce nouvel ensemble avec $\mathcal{B}$ on peut aussi déduire l'action de $\gamma$.

Par suite lorsque l'on considère $f_1, f_2$ et $f_3$ les trois invariants générateurs du corps de fonctions modulaires $C_\Gamma$.

À partir de $(f_1(\Omega), f_2(\Omega), f_3(\Omega))$ et un premier $p$ ne divisant pas le niveau de $\Gamma$, l'algorithme de la section 5.2 et l'algorithme 6 calcule le polynôme $\phi_{1,p}(X)$ en $O(M(n_p) \log n_p)$ où $n_p = p^3 + p^2 + p + 1$ est le degré de $\phi_{1,p}(X)$. Ensuite en utilisant des interpolations rapides on évalue les polynômes modulaires $\psi_{2,p}(X)$ et $\psi_{3,p}(X)$ avec la même complexité.

De manière pratique on suppose que relations modulaires $F(f_i, j_i)$ sont connues (ou comme alternative on pourra prendre les relations modulaires $F(f_i, b_i)$). Lors des premières étapes de l'algorithme, ces relations fournissent des conversions entre les valeurs $f_i(\Omega)$ et les $j$-invariants $j_i$ (ou avec les invariants de Rosenhain). De même on pourra récupérer les valeurs de $f_{i,p}^{\gamma}(\Omega)$ à partir de celles de $j_{i,p}^{\gamma}(\Omega)$ en utilisant des algorithmes de Newton combinés avec des calculs à faibles précision pour leurs initialisations.

Lorsque l'on note par $n_p = p^3 + p^2 + p + 1$ le degré de $\phi_{1,p}(X)$, l'algorithme 6 évalue $\phi_{1,p}(X)$ en $O(M(n_p) \log n_p)$ opérations.

On peut améliorer le coût de cacul de ces polynômes en les évaluant à une précision fixée au besoin au-lieu de les déterminer complètement. Aussi en les évaluant pour un triplet $(f_1(\Omega), f_2(\Omega), f_3(\Omega))$ donné, donc pour obtenir des équations polynômiales seulement en fonction d'un triplet (comme variables). Cette approche est celle utilisée par J.Kieffer dans [59]. Ainsi sous certaines conditions heuristiques, pour un triplet $(j_1, j_2, j_3) \in \mathbb{Q}^3$ de hauteur $O(1)$ où les dénominateurs des polynômes ne s'annulent pas, son algorithme calcule les équations modulaires en $(j_1, j_2, j_3)$ avec un coût de $\tilde{O}(p^6)$ opérations binaires.
**Entrée:** ($f_1(\Omega), f_2(\Omega), f_3(\Omega)$) tel que $C_Γ = C(f_1(\Omega), f_2(\Omega), f_3(\Omega))$, un premier $p$ ne divisant pas le niveau de $Γ$, $C_p$ des classes représentatives dans $Γ/(Γ \cap Γ_0(p))$ et un pré-calcul des actions des classes représentatives dans $Γ_2/Γ$, une précision $N \in \mathbb{N}$.

**Sortie:** $\phi_{1,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$ et $\psi_{l,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$ à précision $N$ pour $l = 2,3$.

1. Récupérer les $j$-invariants $j_i(\Omega)$ ou les invariants de Rosenhain à partir $f_i(\Omega)$;

2. À partir de ces invariants construire une courbe hyperelliptique $Y^2 = f(X)$ à précision $N$;

3. Réconstituer les dix $c_i(\Omega)$ à précision $N$ en utilisant les formules de Thomae et avec une intégration numérique pour le choix de racines;

4. Renverser les fonctions pour récupérer $\Omega'$ à précision $N$ en utilisant [28];

5. Déterminer $\Omega$ et $\gamma \in \Gamma_2/\Gamma$ tel que $\Omega = \gamma\Omega'$ (en comparant $f_i(\Omega)$ et $f_i(\Omega')$);

6. Calculer à précision $N$ les $b_{i,p}^{\gamma}(\Omega)$ pour $\gamma \in C_p$ en utilisant [28] et les $j_{i,p}^{\gamma}(\Omega)$ correspondants;

7. Calculer à précision $N$ les $f_{i,p}^{\gamma}(\Omega)$ pour $\gamma \in C_p$;

8. Calculer $\phi_{1,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$ et $\psi_{l,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$ à précision $N$ en utilisant un arbre de sous-produit;

9. Calculer $\phi_{1,p}, \psi_{l,p}$ à précision $N$ pour $l = 2,3$ en utilisant une interpolation de fonctions rationnelles [77];

**Algorithm 6 – Évaluation de Polynômes Modulaires en dimension 2**

### 5.2.3 Exemples avec les Invariants de Streng et des Invariants Thêta

La méthode détaillée dans la section 5.2 a permis à Regit Dupont d'évaluer les polynômes modulaires pour $p = 2$ en fonction des invariants d'Igusa [28]. Suivant une idée de Streng [113] d'introduire les invariants $(j_1, j_2, j_3)$ dans le but de réduire la taille des dénominateurs des polynômes de classe, E.Milio [78] a évalué des polynômes modulaires pour $p = 2$ puis $p = 3$ en les invariants $(j_1, j_2, j_3)$. Les invariants de Streng fourniraient donc des polynômes plus petits en termes de degrés, précision et espace mémoire.

On note $\mathcal{L}_p$ le lieu de toutes les surfaces abéliennes principalement polarisées qui sont p-isogènes à un produit de courbes elliptiques. C'est une sous-variété de $\mathfrak{S}_2/\Gamma_2$ de dimension 2 caractérisée par une équation $L_p = 0$ pour un polynôme $L_p$ de $\mathbb{Q}[j_1, j_2, j_3]$. On montre que $L_p$ divise les dénominateurs des coefficients de $\phi_{1,p}(X), \psi_{1,p}(X)$ et $\psi_{2,p}(X)$.

Soit $\Delta = 0,1 \bmod 4$ et $\Delta > 0$, la surface de Humbert $H_\Delta$ de discriminant $\Delta$ est la surface irreducible surface des matrices de périodes equivalentes aux $\Omega = \begin{pmatrix} \Omega_1 & \Omega_2 \\ \Omega_2 & \Omega_3 \end{pmatrix} \in \Gamma_2 \backslash \mathcal{H}_2$ vérifiant $k\Omega_1 + \ell\Omega_2 - \Omega_3 = 0$ tels que $k$ et $\ell$ sont déterminés de manière unique par $\Delta = 4k + \ell$ et $\ell \in \{0,1\}$. Alors la surface de Humbert surface $H_{m^2}$ (pour $m \in \mathbb{N}$) est l'espace de moduli pour les classes d'isomorphismes des surfaces abéliennes principalement polarisées et isogène à un produit de courbes elliptiques via une isogenie de degré $m^2$. (Aller à [43].)

Pour tout discriminant $\Delta$, il existe un polynôme irréductible $L_\Delta(j_1, j_2, j_3)$ dont l'ensemble des zéros est la surface de Humbert de discriminant $\Delta$. Ainsi $L_{p^2}(j_1, j_2, j_3)$ divise les dénominateurs des polynômes modulaires définis avec les invariants d'Igusa avec une puissance pouvant se déduire du degré de la surface de Humbert de discriminant $p^2$ [78]. Plus particulièrement, le dénominateur commun exact $D_p(\Omega)$ de l'équation modulaire évaluée en un $\Omega$ est donné par [59, Proposition 3.3].
Nous allons pas nous intéresser éssentiellement aux valeurs exactes des degrés (en les invariants) des polynômes modulaires correspondants par contre leurs formes de définition seront considerès lors de leurs utilisations dans les chapitres suivants.

Dans un soucis de pouvoir utiliser les (p, p)-polynômes modulaires en toute caractéristique p et avec une bonne réduction, nous aurons besoin d'évaluer des polynômes modulaires en les invariants définis par le théorème 4.3.2 dans le chapitre 4 et la section 4.2.

En effet nous ne disposions pas de polynômes avec bonne reduction en caractéristique 2 parmi ceux déjà évalués (qui sont en fonctions d'invariants n'ayant pas bonne réduction modulo 2).

D'autre part en toute caractéristique ( plus particulièrement pour $p \le 5$), nous voulons calculer des rélévés de covariants fractionnaires. Alors en caractéristique 3 aussi, il nous faudrait utiliser des polynômes modulaires en fonctions d'invariants ayant bonne réduction modulo 3.

### 5.2.4 Polynômes Modulaires avec les Invariants $a_1, a_2, a_3$

Les conversions d'un modèle hyperelliptique standard: $y^2 + h(x) = f(x)$ vers la forme normale associées à une courbe hyperelliptique sont expliquées dans le chapitre 4 et la section 4.5. Et réciproquement les points de Weierstrass sont donnés par l'équation: $(1 + aX + bX^2)^2 - 4X^3(c + dX + X^2) = 0$ (en caractéristique différent de 2) ce qui permet de récouvrir le modèle hyperelliptique standard de la courbe associé d'une forme normale. Alors on pourra réconstituer les invariants $I_2, I_4, I_6, I_{10}$ en fonction des coefficients $a, b, c, d$ d'une forme normale, puis reconstituer les invariants $J_2, J_4, J_6, J_8, J_{10}$ comme fonctions rationnelles en les coefficients $a, b, c, d$. Comme la forme normale et ses covariants (en fonctions des $a, b, c, d$) se réduisent bien modulo tout $p$, alors les fonctions rationnelles définies par $J_{2i}$ étant des covariants en les $a, b, c, d$ ont une bonne réduction modulo tout $p$.

À partir des $J_i$'s, qui sont des covariants de poids, on peut déterminer les 10 invariants $\gamma_i$. Et inversement, les $\gamma_i$'s permettent de réconstituer les covariants tel que $J_{10} = 1$, ainsi $J_6$ est obtenu (à une racine 5-ième de l'unité près) à partir de $\gamma_8$. Ce qui permet de retrouver les $J_2, J_4, J_8$. La bonne racine pour $J_6$ peut être déterminée en utilisant $\gamma_7$ et $\gamma_9$. Ensuite nous pouvons rétrograduer par $J_{10}$ pour obtenir un point projectif pondéré rationnel.

Cependant, l'utilisation de $\gamma_i$ n'est pas pratique lors de la définition de polynômes modulaires. En effet, nous aimerions décrire l'espace des modules $M_2$ en utilisant seulement trois invariants (au moins bironnellement). De plus, par le résultat [51, Theorem 5], on sait qu'un point générique de la variété des modules $M_2 \otimes \mathbb{k}$ génère une extension purement transcendantale de dimension trois. Et en corollaire, nous obtenons que $M_2 \otimes \mathbb{k}$ est bironnel à $\mathbb{A}_{\mathbb{k}}^3$. Ainsi nous pourrions utiliser les triplets avec bonne réduction définis dans le chapitre 4, la section 4.2 et le théorème 4.3.2.

Par exemple en caractéristique 2 on peut toujours passer d'un modèle hyperelliptique standard vers l'une des formes normales réduites définies par des types (1, 1, 1), (3, 1) et (5) (et vice-versa) en utilisant la Théorie d'Artin-Schreier (aller à le chapitre 4, la section 4.3 et la section 4.3.2). On peut aussi exprimer les $J_i$'s en termes de fonctions symétriques $\alpha, \beta, \gamma$, et réciproquement en utilisant le chapitre 4, la section 4.2 et les équations (4.7) à (4.9). De plus les réductions (en les types) des formes normales se font intégralement dans les classes définies par les rangs respectifs 2, 1 et 0, en particulier les courbes ordinaires sont
birationnellement équivalentes à un type (1, 1, 1); donc leurs classes d'isomorphismes sont entièrement définies par les invariants $a_1, a_2, a_3$.

Par les méthodes détaillées dans les sections 5.1 et 5.2, E.Milio a évalué les polynômes modulaires pour les niveaux 2, 3, 5 etc ... pour plusieurs systèmes d'invariants. Cependant, ses polynômes modulaires de niveau 2 utilisant les invariants modulaires $j_i$ ont une mauvaise réduction en caractéristique 2 et 3. Nous avons plutôt utilisé l'algorithme 6 pour calculer les polynômes modulaires pour les invariants $(a_1, a_2, a_3)$ qui réduisent bien en toute caractéristique et plus particulièrement en caractéristique 2 ce système d'invariants suffit pour décrire les classes d'isomorphisme sur les espaces des courbes ordinaires de genre 2. Ainsi de tels polynômes décrivent les jacobiennes (2,2)-isogènes dans $M_2[J_2^{-1}]$. Cet ouvert est bien adapté aux courbes de type (1, 1, 1) dans la caractéristique 2 par des relations décrites dans le chapitre 4.

- Puisque les invariants $(a_1, a_2, a_3)$ et les invariants $(j_1, j_2, j_3)$ sont bironctionnellement équivalents, nous aurions pu calculer les polynômes modulaires pour $(a_1, a_2, a_3)$ en utilisant un changement de variable dans les polynômes modulaires de $(j_1, j_2, j_3)$. En pratique, ce changement de variable impliquait une fonction rationnelle, cela coûtait trop cher de le faire directement et au risque de voir apparaitre dans les polynômes des facteurs parasites qui pourraient affecter sa réduction. Nous aurions pu le calculer en utilisant l'évaluation/interpolation, mais il était plus facile de simplement réutiliser l'algorithme 6.

- Le dénominateur commun de $(j_1, j_2, j_3)$ est $\chi_{10}$, qui s'annule sur le lieu du produit des courbes elliptiques. Le lieu $\mathcal{L}_p$ des surfaces principalement abéliennes polarisées qui sont $(p, p)$-isogènes à un produit de courbes elliptiques, est une sous-variété algébrique de dimension 2 de l'espace des modules $\Gamma_2 \backslash \mathfrak{S}_2$ et peut être décrit par une équation $L_p = 0$. Et le polynôme $L_p$ divise les dénominateurs des coefficients de $\phi_{1,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$, $\psi_{1,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$ et $\psi_{2,p}(X, f_1(\Omega), f_2(\Omega), f_3(\Omega))$. En utilisant $(a_1, a_2, a_3)$, le dénominateur des polynômes modulaires contiennent le lieu des Jacobiennes $(p, p)$-isogènes aux surfaces abéliennes $\mathcal{A}$ avec $J_2(\mathcal{A}) = 0$. Il serait intéressant d'avoir une interprétation modulaire de ce lieu, similaire à la description de $\mathcal{L}_p$ ci-dessus. Par suite on notera par $\mathcal{D}_p$ le lieu des dénominateurs des polynômes modulaires $\Phi_{1,p}, \Psi_{1,p}, \Psi_{2,p}$.

- Nous n'avons appliqué l'algorithme 6 qu'aux invariants bironctionnels de niveau 1. Il serait intéressant de trouver de bons invariants comme par exemple des niveaux plus élevés qui donneraient des polynômes plus petits.

### 5.2.5 Exemples avec les Invariants $u_1, u_2, u_3$

Sur l'espace modulaire de Siegel, nous disposons de polynômes modulaires de niveau 3 en fonction des invariants d'Igusa et ceux de Streng. Puisqu'ils ont une mauvaise réduction en caractéristique 3, nous proposons d'utiliser les triplets d'invariants définis sur les espaces $M_2[J_2^{-1}] \otimes \mathbb{k}, M_2[J_4^{-1}] \otimes \mathbb{k}$ et $M_2[J_6^{-1}] \otimes \mathbb{k}$. En effet nous avons par exemple:

$$ \gamma_2 = j_2^5 / (192j_3^2) - j_2^3 / (12j_3), \text{ et } \gamma_3 = 2j_2^2j_1 / (27j_3) + j_2^5 / (3456j_3^2) - j_2^3 / (72j_3) $$

dont l'expression en fonction des Invariants algébriques de Streng ont une mauvaise réduction en caractéristique 3.

Cependant nous avons à partir du théorème 4.3.2 dans le chapitre 4 et la section 4.2 que
lorsque $\text{char}(\mathbb{k}) \neq 2$, la variété $M_2 \otimes \mathbb{k}$ admet un unique point singulier, défini par la condition $J_2 = J_6 = J_8 = 0$. En considerant la rélation $J_2J_6 = 4J_8 + J_4^2$, ainsi pour les points non-singuliers soit nous avons ($J_4 \neq 0$) soit (au moins un des invariants $J_2$ ou $J_6$ ne s'annullent pas). Alors les trois espaces $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$ et $M_2[J_6^{-1}]$ (définis dans le théorème 4.3.2 au le chapitre 4 et la section 4.2) suffisent pour décrire les points non-singuliers (en particulier les courbes ordinaires) sur $M_2 \otimes \mathbb{k}$.

Les triplets $(a_1, a_2, a_3)$, $(\partial_1, \partial_2, \partial_3)$ et $(u_1, u_2, u_3)$ d'invariants induisent un isomorphisme de $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$ et $M_2[J_6^{-1}]$ respectivement avec les ouverts standards de $\mathcal{A}^3$ définis par $a_3^{-1}, \partial_3^{-1}, u_3^{-1}$ sur $\mathbb{Z}[1/2]$.

Dès lors comme dans le cas du calcul de polynômes modulaires avec bonne réduction en caractéristique 2, nous pouvons utiliser les triplets d'invariants sur les espaces $M_2[J_2^{-1}]$, $M_2[J_4^{-1}]$ et $M_2[J_6^{-1}]$ et l'algorithme 6 pour évaluer des polynômes modulaires qui restent pratiques en caractéristique 3.

### 5.2.6 Polynômes Modulaires de Hilbert

Dans cette section nous faisons une introduction sur les polynômes modulaires pour l'espace modulaire de Hilbert et nous allons nous intéresser à leurs propriétés en vue de les utiliser pour le relèvement canoniques de surfaces abéliennes dont l'anneau d'endomorphisme a une multiplication réelle par $O_K$ où $K = \mathbb{Q}(\sqrt{D})$ pour $D = 2$ ou $5$. Certains de ces polynômes ont été évalués par E.Milio [78].

Les méthodes de calcul restent des améliorations des méthodes précédentes pour l'espace modulaire de Siegel.

Nous n'avons pas évaluer concretement de nouveaux polynômes dans le cas Hilbert. Nous allons parcourir les cas classiques avec les invariants de Gundlach pour $D = 2$ ou $5$ et les cas faisant récourt aux invariants thêta.

Soit $\mathbb{K} = \mathbb{Q}(\sqrt{D})$ un corps quadratique réel de discriminant $\Delta_{\mathbb{K}}$ et d'anneau des entiers $O_{\mathbb{K}}$. Nous avons $O_{\mathbb{K}} = \mathbb{Z} + \omega\mathbb{Z}$ où $\omega = \frac{1+\sqrt{D}}{2}$ si $D \equiv 1 \mod 4$ sinon $\omega = \sqrt{D}$.

Nous avons parcouru les sections 3.3 et 3.4, quelques rappels sur l'espace de module de Hilbert $\text{SL}_2(O_{\mathbb{K}})\backslash\mathfrak{s}_1^2$ lequel décrit les surfaces abéliennes principalement polarisées $\mathcal{A}$ avec multiplication réelle par l'ordre maximale $O_{\mathbb{K}}$, et dont un plongement dans $\text{End}(\mathcal{A})$ est explicitement donné par $\mu$.

• Lorsque $\beta = \ell$ est un nombre premier. Les sous groupes isotropiques maximaux pour le couplage de Weil qui restent stables sous l'action de la multiplication réelle par $O_{\mathbb{K}}$ sont décrits par $O_{\mathbb{K}}e_i$ (sous l'action près $\mathring{\Gamma}^0(\ell)\backslash\text{SL}_2(O_{\mathbb{K}}\otimes\partial_{\mathbb{K}})$ sur la base $(e_1, e_2)$). Alors le nombre de classe de sous groupes stables par multiplication réelle ($\ell$-isogénies) est donné par le cardinal de $\text{SL}_2(\ell O_{\mathbb{K}}\backslash O_{\mathbb{K}})$:

- Si $\ell$ est inerte dans $O_K$, on a $\ell O_K \backslash O_K \simeq \mathbb{F}_{\ell^2}$ et le nombre de $\ell$-isogénies est $\ell^2 + 1$;

- Si $\ell$ se décompose (split) dans $O_K$, on a $\ell O_K \backslash O_K \simeq \mathbb{F}_{\ell}^2$ et le nombre de $\ell$-isogénies $(\ell+1)^2$;

- Si $\ell$ est ramifié dans $O_K$, on a $\ell O_K \backslash O_K \simeq \mathbb{F}_{\ell}[X]/X^2$ et le nombre de $\ell$-isogénies $\ell^2 + \ell$. (aller [79, Prop 4.3] pour plus de détails).

• D'autre part lorsque $\beta \in O_{\mathbb{K}}$ est totallement positive de norme $\ell$. Dans ce cas soit $\ell$ ramifié dans $O_{\mathbb{K}}$ et il existe un seul type d'isogénies cycliques de degré $\ell$: les $\beta$-isogénies,
ou soit $\ell$ se décompose (splits) en $\ell = \beta\bar{\beta}$ et $\mathcal{A}[\ell] = \mathcal{A}[\beta] \otimes \mathcal{A}[\beta]$, il existe alors dans ce cas, deux types d'isogenies cycliques : les $\beta$-isogénies et les $\bar{\beta}$-isogénies.

Soit

$$ \dot{\Gamma}^0(\beta) = \left\{ \left( c_{\sqrt{\Delta_K}}^{\frac{a}{b/\sqrt{\Delta_K}}} \right) \in \dot{\Gamma} : b \in \beta \mathcal{O}_K \right\} \text{ et} $$

$$ \dot{\Gamma}^0(\beta) = \left\{ \left( c_{\sqrt{\Delta_K}}^{\frac{a}{b/\sqrt{\Delta_K}}} \right) \in \dot{\Gamma} : (a-1), (d-1), b, c \in \beta \mathcal{O}_K \right\}. $$

Alors le recouvrement de Hilbert $\dot{\Gamma}^0(\beta)\backslash\mathfrak{H}_1^2$ décrit les surfaces abéliennes principalement polarisées $\beta$-isogènes avec multiplication par $\mathcal{O}_K$, ou de manière équivalente $\dot{\Gamma}^0(\beta)\backslash\mathfrak{H}_1^2$ décrit les paires $(A, K)$ où $A$ admet multiplication réelle par $\mathcal{O}_K$ et $K \subset \mathcal{A}[\beta]$ est un noyau isotropique maximal pour le $\beta$-couplage de Weil et stable par $\mathcal{O}_K$.

Soient $i_1, i_2$ et $i_3$ les générateurs du corps de fonction de l'espace de module de Hilbert $C_G$ (avec $G = \dot{\Gamma}$ ou $\dot{\Gamma} \cup \dot{\Gamma}_v$) et soit $j$ une fonction modulaire de Hilbert invariant par $\dot{\Gamma} \cap \dot{\Gamma}^0(\beta)$ mais pas par $\dot{\Gamma}$. Alors lorsque $j$ est symétrique $C(i_1, i_2, i_3, j) = C(\dot{\Gamma} \cap \dot{\Gamma}^0(\beta)) \times_{\langle v \rangle} C(i_1, i_2, i_3, j) = C_{\dot{\Gamma} \cap \dot{\Gamma}^0(\beta)}$ (d'après [79, Prop 4.11]).

Ainsi on considère $i_{k,\beta}, i_{k,\beta}^{\gamma}$ et $i_{k,\beta}^{v}$ les fonctions de $\mathfrak{H}_1^2$ vers $C$ définies par:

$$ i_{k,\beta}(z) = i_k\left(\frac{1}{\beta}z\right) \quad i_{k,\beta}^{\gamma}(z) = i_k\left(\frac{1}{\beta}\gamma z\right) \quad \text{et} \quad i_{k,\beta}^{v}(z) = i_k\left(\frac{1}{\beta}vz\right) $$

pour $k=1, 2, 3$ et pour tout $\gamma \in \dot{\Gamma} \cup \dot{\Gamma}_v$. D'autre part pour tout $\gamma = \left(\begin{smallmatrix} a & b \\ c & d \end{smallmatrix}\right) \in \dot{\Gamma}^0(\beta)$ on note par $\gamma_{\beta} = \left(\begin{smallmatrix} a & b/\beta \\ c & \beta \end{smallmatrix}\right) \in \dot{\Gamma}$, et nous avons $\gamma_{\beta}(\frac{1}{\beta}z) = \frac{1}{\beta}\gamma z$. Alors en utilisant ces définitions on aboutit aux propriétés suivantes:

$$ i_{k,\beta}^{\gamma}(z) = i_{k}^{\gamma_{\beta}}\left(\frac{1}{\beta}z\right), \quad i_{k,\beta}^{v}(z) = i_{k}^{v}\left(\frac{1}{\beta}z\right) \quad \text{et} \quad i_{k,\beta}^{\gamma v}(z) = i_{k}^{v\gamma\bar{\beta}}\left(\frac{1}{\beta}z\right) $$

En considerant $\dot{\Gamma}_{\beta} = \{\gamma \in \dot{\Gamma}(1) \mid \gamma_{\beta} \in \dot{\Gamma}\}$ pour tout $\dot{\Gamma}$ un sous groupe $\dot{\Gamma}(1)$, alors pour toute fonction $i$ modulaire pour $\dot{\Gamma}$, $i_{\beta}$ modulaire pour $\dot{\Gamma}_{\beta}$. De plus dans le cas où $i$ est symétrique et $\bar{\beta} = \beta$ son correspondant $i_{\beta}$ est symétrique aussi. Et si on a $\dot{\Gamma} \cap \dot{\Gamma}^0(\beta) = \dot{\Gamma} \cap \dot{\Gamma}_{\beta}$ on peut définir la correspondance modulaire $H_{\dot{\Gamma} \cap \dot{\Gamma}^0(\beta)}$ vers $H_{\dot{\Gamma}} \times H_{\dot{\Gamma}}$, $z \mapsto ((i_1(z), i_2(z), i_3(z)), (i_1(z/\beta), i_2(z/\beta), i_3(z/\beta)))$ tels que $i_1, i_2$ et $i_3$ engendrent $C_{\dot{\Gamma}}$.

Par suite lorsque $C(\dot{\Gamma}(1)) = C(i_1, i_2, i_3)$, les $\beta$-polynômes modulaires pour les invariants $i_k$ décrivent le lieu des points modulaires

$$ ((i_1(z), i_2(z), i_3(z)), (i_1(z/\beta), i_2(z/\beta), i_3(z/\beta))) $$

pour $z \in \mathfrak{H}_1^2$. Alors si $z \in \dot{\Gamma}(1)\backslash\mathfrak{H}_1^2$, pour $\gamma \in \dot{\Gamma}^0(\beta)\backslash\dot{\Gamma}(1)$: $\frac{1}{\beta}\gamma \cdot z$ et $\frac{1}{\bar{\beta}}\gamma \cdot z$ décrivent respectivement les variétés $\beta$-isogènes et celles $\bar{\beta}$-isogènes.

**Définition 5.2.2.** Les polynômes $\phi_{\beta}(X, i_1, i_2, i_3)$ et $\psi_{k,\beta}(X, i_1, i_2, i_3)$ pour $k=2, 3$ définis comme suite

$$ \phi_{\beta}(X, i_1, i_2, i_3) = \prod_{\gamma \in C_{\beta}} (X - i_{1,\beta}^{\gamma}) \quad \text{et} $$

$$ \psi_{k,\beta}(X, i_1, i_2, i_3) = \sum_{\gamma \in C_{\beta}} i_{2,\beta}^{\gamma} \frac{\Phi_{\beta}(X, i_1, i_2, i_3)}{(X - i_{1,\beta}^{\gamma})} $$
sont appelés les β-polynômes modulaires pour les invariants $i_1, i_2, i_3$. Où dans le cas:

- **non symétrique** : $C_β$ est l'ensemble des classes représentatives de $\bar{\Gamma} \cap \bar{\Gamma}^0(\beta) \setminus \bar{\Gamma}$ et $\bar{\Gamma}$ est un sous groupe de congruence tel que $\bar{\Gamma}(2,4) \subset \bar{\Gamma} \subset SL_2(O_K \otimes \partial_K)$.

- **et symétrique** : $\mathcal{G} = \bar{\Gamma} \cup \bar{\Gamma}_v$, et lorsque $\bar{\beta} = \beta$, $C_β$ est l'ensemble des classes représentatives de $\bar{\Gamma} \cap \bar{\Gamma}^0(\beta) \setminus \bar{\Gamma}$, sinon on prend $C_β$ l'ensemble des classes représentatives de $(\mathcal{G} \cap \bar{\Gamma}^0(\beta)) \setminus \mathcal{G}$.

Ainsi à partir $J_1 = (i_1, i_2, i_3)$, un point β-isogènes $J_2 = (a_1, a_2, a_3)$ sur l'espace de module de Hilbert modular (eventuellement dans le cas symétrique) est caractérisé par les équations suivantes: $\phi_β(J_1, a_1) = 0$, $a_2\phi'_β(J_1, a_1) = \psi_{\beta,k}(J_1, a_1)$ et $a_3\phi'_β(J_1, a_1) = \psi_{\beta,k}(J_1, a_1)$.

**Remarque 5.2.3.** Pour plus d'informations sur les degrés des polynômes de Hilbert et selon les cas aller à [79], ce que nous allons remarquer ce qu'ils sont tous inférieurs ou égals à $\ell^2 + 1$. Et cela rend ces polynômes beaucoup plus pratiques comparer à ceux de Siegel pour le même degré. On peut aussi noter que: Dans le cas où $\ell$ se décompose (splits) en $\ell = \beta\bar{\beta}$ (i.e $\beta$ admet $\ell$ comme norme) et $\bar{\Gamma}$ non symétrique, lorsque $v \in \mathcal{G}$, avec $\mathcal{G} = \bar{\Gamma} \times \langle v \rangle$, alors comme $\bar{\Gamma}$ est stable sous l'action de la conjugaison sur les réels, l'action de $v$ peut être expliciter comme suite sur les polynômes modulaires :

$$ \phi_{\ell}(X, i_1, i_2, i_3) = \prod_{\gamma \in C_{\beta}} (X - i_{1,\beta}^{\gamma}) (X - i_{1,\bar{\beta}}^{\gamma v}) = \prod_{\gamma \in C_{\beta}} (X - i_{1,\beta}^{\gamma}) (X - i_{1,\bar{\beta}}^{\gamma}) $$

$$ \psi_{\ell}(X, i_1, i_2, i_3) = \sum_{\gamma \in C_{\beta}} i_{2,\beta}^{\gamma} \frac{\Phi_{\ell}(X, i_1, i_2, i_3)}{(X - i_{1,\beta}^{\gamma})} + \sum_{\gamma \in C_{\beta}} i_{2,\bar{\beta}}^{\gamma} \frac{\phi_{\ell}(X, i_1, i_2, i_3)}{(X - i_{1,\bar{\beta}}^{\gamma})}. $$

où $C_β$ est l'ensemble des classes représentatives de $\bar{\Gamma} \cap \bar{\Gamma}(\beta) \setminus \bar{\Gamma}$.

### 5.2.6.1 Exemples de Polynômes de Hilbert avec les Invariants de Gundlach

Soit $\ell$ un nombre premier tel que $\ell = \beta\bar{\beta}$ avec des facteurs totalement positifs. On note $\bar{\Gamma} = SL_2(O_K)$; pour un $z \in \mathfrak{S}_1^2/\bar{\Gamma}$, les variétés β-isogènes et $\bar{\beta}$-isogènes sont respectivement définies par $\frac{1}{\bar{\beta}}\gamma z$ et $\frac{1}{\beta}\gamma z$ pour $\gamma \in \bar{\Gamma}$.

On considère les matrices :

$$ S = \begin{pmatrix} 0 & -1 \\ 1 & 0 \end{pmatrix} \quad \text{et} \quad T = \begin{pmatrix} 1 & 1 \\ 0 & 1 \end{pmatrix} $$

et le sous-groupe de $\bar{\Gamma}$, $\bar{\Gamma}^0(\beta) = \{(\begin{smallmatrix} a & b \\ c & d \end{smallmatrix}) \in \bar{\Gamma} : \beta|b\} \text{ d'indice } \ell + 1$.

Alors on montre que l'ensemble des matrices :

$$ C_{\beta} = \{S, T^{\ell} / i \in \{0, \dots, \ell - 1\} \} $$

est un ensemble de représentants des classes d'équivalence de $\bar{\Gamma}/\bar{\Gamma}^0(\beta)$.

Alors on montre que le corps $C_{\bar{\Gamma}^0(\beta)}/C_{\bar{\Gamma} \cup \bar{\Gamma}_v}$ est une extension algébrique de degré $2[\bar{\Gamma} : \bar{\Gamma}^0(\beta)] = 2(\ell + 1)$ [78, Lemme 5.3.6.].

On définit les fonctions $\mathfrak{J}_{i,\beta}$ et $\mathfrak{J}_{i\bar{\beta}}^{\gamma}$ de $\mathfrak{S}_1^2 \to \mathbb{C}$ par

$$ \mathfrak{J}_{i,\beta}(z) = \mathfrak{J}_i\left(\frac{1}{\bar{\beta}}z\right) \quad \text{et} \quad \mathfrak{J}_{i,\bar{\beta}}^{\gamma}(z) = \mathfrak{J}_i\left(\frac{1}{\beta}\gamma z\right) $$
pour $i = 1,2$ et pour tout $\gamma \in \bar{\Gamma} \cup \bar{\Gamma}_v$. Ces fonctions ne sont pas en général symétriques.

Pour tous $\gamma \in \bar{\Gamma}^0(\beta)$ et $\gamma_\beta = \begin{pmatrix} a & b/\beta \\ c\beta & d \end{pmatrix} \in \bar{\Gamma}$ on a $\gamma_\beta (\frac{1}{\beta}z) = \frac{1}{\beta}\gamma z$. Par suite on montre que:

$$ \mathfrak{J}_{i,\beta}^{\gamma}(z) := \mathfrak{J}_i\left(\frac{1}{\beta}\gamma z\right) = \mathfrak{J}_{i,\beta}(z). $$

Ainsi le corps des fonctions $\bar{\Gamma}^0(\beta)$-moduaires de Hilbert est

$$ C_{\bar{\Gamma}^0(\beta)} = C(\mathfrak{J}_{i,\beta}, \mathfrak{J}_1, \mathfrak{J}_2) \quad \text{pour } i=1,2. $$

et le polynôme minimal de $\mathfrak{J}_{1,\beta}$ sur $C_{\bar{\Gamma} \cup \bar{\Gamma}_v}$ sera noté $\Phi_\ell(X, \mathfrak{J}_1, \mathfrak{J}_2)$.

Pour ce qui suit, on considère $\epsilon$ l'unité fondamentale et $\epsilon'$ une unité totalement positive de $O_K$ tel que cette dernière soit une puissance paire de $\epsilon$. Alors $\mathfrak{J}_i(\epsilon'z) = \mathfrak{J}_i(z)$ et ainsi toute $\beta$-isogénie sera aussi une $\epsilon'\beta$-isogénie.

Pour $\ell = \beta\bar{\beta}$ avec $\beta \in O_K^+$, on appelle $\beta$-polynômes modulaires, les polynômes définis par:

* Si $\ell$ est ramifié,

$$ \phi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2) = \prod_{\gamma \in C_{\beta}} (X - \mathfrak{J}_{1,\beta}^{\gamma}) \quad \text{et} \quad \Psi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2) = \sum_{\gamma \in C_{\beta}} \mathfrak{J}_{2,\beta}^{\gamma} \frac{\Phi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2)}{(X - \mathfrak{J}_{1,\beta}^{\gamma})} $$

* Si $\ell$ se décompose,

$$ \phi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2) = \prod_{\gamma \in C_{\beta}} (X - \mathfrak{J}_{1,\beta}^{\gamma}) (X - \mathfrak{J}_{1,\bar{\beta}}^{\gamma}) \quad \text{et} $$

$$ \psi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2) = \sum_{\gamma \in C_{\beta}} \mathfrak{J}_{2,\beta}^{\gamma} \frac{\Phi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2)}{(X - \mathfrak{J}_{1,\beta}^{\gamma})} + \sum_{\gamma \in C_{\beta}} \mathfrak{J}_{2,\bar{\beta}}^{\gamma} \frac{\Phi_{\ell}(X, \mathfrak{J}_1, \mathfrak{J}_2)}{(X - \mathfrak{J}_{1,\bar{\beta}}^{\gamma})} $$

On montre que les polynômes modulaires $\phi_\ell(X, \mathfrak{J}_1, \mathfrak{J}_2)$ et $\psi_\ell(X, \mathfrak{J}_1, \mathfrak{J}_2)$ sont des éléments $\mathbb{Q}(\mathfrak{J}_1, \mathfrak{J}_2)[X]$ et dépendent seulement de $\ell$. (Aller à [78, Pages 152-153])

**Proposition 5.2.4.** Les dénominateurs des polynômes modulaires $\phi_\ell$ et $\psi_\ell$ sont divisibles:

— dans le cas $D = 5$ par un polynôme $L_\ell$ dans $\mathbb{Q}[\mathfrak{J}_1, \mathfrak{J}_2]$ paramétrant le lieu $\mathcal{L}_\ell$ des surfaces abéliennes principalement polarisées ayant multiplication réelle par $O_K$ qui sont $\beta$-isogènes (ou $\bar{\beta}$-isogènes dans le cas décomposé) à un produit de courbes elliptiques.

— dans le cas $D = 2$ par un polynôme $L'_\ell$ dans $\mathbb{Q}[\mathfrak{J}_1, \mathfrak{J}_2]$ paramétrant $\mathcal{L}'_\ell$ le sous-ensemble de $\mathcal{L}_\ell$ défini par les pôles des invariants $\mathfrak{J}_1$ et $\mathfrak{J}_2$ c'est-à-dire les z telles que $H_4(\frac{1}{\beta}\gamma z) = 0$ (ou $H_4(\frac{1}{\bar{\beta}}\gamma z) = 0$ dans le cas décomposé), pour un certain $\gamma \in C_\beta$.

**Démonstration.** (En utilisant le [78, Théorème 5.3.9. et Théorème 5.3.10.]) □

<figure><img src="image_29.png" /></figure>

### 5.2.6.2 Exemples de Polynômes de Hilbert avec les Invariants Thêta

Dans cette section nous introduisons les $\beta$-polynômes modulaires proposés par E.Milio [78] pour obtenir des polynômes plus petits que ceux définis avec les invariants de Gundlach. En utilisant les tirés en arrière $\dot{b}_i = \phi^*b_i$ respectivement ou $\dot{r}_i = \phi^*r_i$ pour $i = 1,2,3$ des thêta constantes ou des invariants de Rosenhain comme invariants ( la section 3.4.1 et la section 3.3), pour tout $D$ sans facteur carré on arrive à construire des polynômes modulaires pour tout premier $\ell = \beta\bar{\beta}$ différent de 2. Cependant les sous-groupes utilisés sont différents selon $D$ et les facteurs choisis de $\ell$. Pour les détails qui suivent nous nous focalisons sur le cas des
invariants thêta utilisant le groupe $\bar{\Gamma}(2,4)$; ces résultats peuvent être adapter au cas avec les
invariants de Rosenhain en prennant le groupe $\bar{\Gamma}(2)$ à la place de $\bar{\Gamma}(2,4)$.

On considère les mêmes notations données à la section 3.4.1 et la section 3.3: $\bar{\Gamma} = \text{SL}(\mathcal{O}_K \otimes \partial_K^{-1})$ et $\mathfrak{H}_1^2 / (\bar{\Gamma} \cap \bar{\Gamma}_v)$ est la surface modulaire symétrique de Hilbert. Les $\tilde{b}_i$ sont des fonctions modulaires pour le sous-groupe $\bar{\Gamma}(2,4)$ et on montre que son sous-groupe $\bar{\Gamma}(2,4) \cap \bar{\Gamma}^0(\beta)$ est d'indice $(\ell+1)$. En effet pour tout $\gamma \in \bar{\Gamma}/\bar{\Gamma}^0(\beta)$, il existe un $\gamma' \in \bar{\Gamma}^0(\beta)$ tel que $\gamma'\gamma \in \bar{\Gamma}(2,4)$ [78, Lemme 5.3.11.].

On définit pour $i = 1,2,3$, les fonctions $\dot{b}_{i,\beta}$ et $\dot{b}_{i,\beta}^{\gamma}$ de $\mathfrak{H}_1^2 \to \mathbb{C}$ telles que pour tous $\beta \in \mathcal{O}_K^+$ et $\gamma \in \bar{\Gamma} \cap \bar{\Gamma}_v$:

$$
\dot{b}_{i,\beta}(z) = \dot{b}_i \left( \frac{1}{\beta} z \right) \quad \text{et} \quad \dot{b}_{i,\beta}^{\gamma}(z) = \dot{b}_i \left( \frac{1}{\beta} \gamma z \right)
$$

Par des calculs directs, on montre que les fonctions $\dot{b}_i$ pour $i = 1,2,3$ sont modulaires
pour le sous-groupe $\bar{\Gamma}(2,4) \cap \bar{\Gamma}^0(\beta)$ de $\bar{\Gamma}(2,4)$ lorsque:

• $D \equiv 1 \pmod 4$;

• $D \equiv 2 \pmod 4$ et $\beta = a + b\omega$ avec $b$ pair ( c'est à dire encore $\ell \equiv 1 \pmod 4$ ) où $\mathcal{O}_K = \mathbb{Z} + \omega\mathbb{Z}$;

• $D \equiv 3 \pmod 4$ et $\beta = a + b\omega$ avec $b$ pair.

Ainsi pour ces cas le corps des fonctions modulaires de Hilbert invariantes par le sous-groupe
$\bar{\Gamma}(2,4) \cap \bar{\Gamma}^0(\beta)$ est: $\mathbb{C}(\dot{b}_{i,\beta}, \dot{b}_1, \dot{b}_2, \dot{b}_3)$.

Pour le calcul des polynômes modulaires une différence considérable réside entre les cas
$D \equiv 1 \pmod 4$ et $D \equiv 2,3 \pmod 4$. Dans le premier cas, l'application

$$
\mathfrak{H}_1^2 / \bar{\Gamma}(2,4) \to \mathfrak{H}_2 / \Gamma
$$

est injective alors que dans le second, c'est bien l'application

$$
\mathfrak{H}_1^2 / (\bar{\Gamma}(2,4) \cup \bar{\Gamma}(2,4)_v) \to \mathfrak{H}_2 / \Gamma
$$

qui est injective.

Ainsi pour $\ell = \beta\bar{\beta}$ avec $\beta \in \mathcal{O}_K^+$ et $C_\beta$ un système de représentation des classes de $\bar{\Gamma}(2,4)/\bar{\Gamma}(2,4) \cap \bar{\Gamma}^0(\beta)$, on appelle $\beta$-polynômes modulaires pour $K$, les polynômes définis par:

• Si $D \equiv 1 \pmod 4$,

$$
\phi_{\beta}(X, \dot{b}_{1}, \dot{b}_{2}, \dot{b}_{3}) = \prod_{\gamma \in C_{\beta}} (X - \dot{b}_{1,\beta}^{\gamma}) \quad \text{et}
$$

$$
\psi_{k,\beta}(X, \dot{b}_1, \dot{b}_2, \dot{b}_3) = \sum_{\gamma \in C_\beta} \dot{b}_{k,\beta}^{\gamma} \frac{\phi_\beta(X, \dot{b}_1, \dot{b}_2, \dot{b}_3)}{X - \dot{b}_{1,\beta}^{\gamma}} \quad \text{pour } k = 2,3.
$$

• Si $D \equiv 2,3 \pmod 4$ et $\beta = a + b\omega$ avec $b$ pair, alors

$$
\phi_{\beta}(X, \dot{b}_1, \dot{b}_2, \dot{b}_3) = \prod_{\gamma \in C_{\beta}} (X - \dot{b}_{1,\beta}^{\gamma}) (X - \dot{b}_{1,\beta}^{\gamma v}) \quad \text{et}
$$

$$
\psi_{k,\beta}(X, \dot{b}_1, \dot{b}_2, \dot{b}_3) = \sum_{\gamma \in C_{\beta}} \dot{b}_{k,\beta}^{\gamma} \frac{\phi_{\beta}(X, \dot{b}_1, \dot{b}_2, \dot{b}_3)}{X - \dot{b}_{1,\beta}^{\gamma}} + \sum_{\gamma \in C_{\beta}} \dot{b}_{k,\beta}^{\gamma v} \frac{\phi_{\beta}(X, \dot{b}_1, \dot{b}_2, \dot{b}_3)}{X - \dot{b}_{1,\beta}^{\gamma v}}
$$

pour $k = 2,3$.
Lorsque $\mathcal{L}_\beta$ désigne le lieu des surfaces abéliennes principalement polarisées modulo $\mathfrak{I}(2,4)$ ayant multiplication réelle par $O_K$ telles que $z$, ou $\sigma(z)$ (dans le cas $D \equiv 2,3 \mod 4$) est $\beta$-isogène à $z'$ avec $\phi(z')$ 2-isogène à un produit de courbes elliptiques par $\phi(z') \to \phi(z')/2$ où $\theta_0(\phi(z')/2) = 0$.

Alors on montre par les mêmes arguments que dans le cas classique que tout polynôme $L_\beta$ décrivant l'espace $\mathcal{L}_\beta$ est un facteur communs aux dénominateurs des polynômes modulaires $\phi_\beta$ et $\psi_{k,\beta}$.

**Remarque 5.2.5.**

— Lorsque l'on considère un autre couple $(\beta', \bar{\beta}')$ de $O_K^+$ tel que $\beta'\bar{\beta}' = \ell$ et que : $\beta' = \epsilon^{2n}\beta$ pour $\epsilon$ une unité fondamentale de norme 1 ou $-1$. Alors cela implique que pour tout $z \in \mathcal{H}_1^2$:

$$ \dot{b}_{i,\beta'}(z) = \dot{b}_i \left( \begin{pmatrix} \epsilon^n & 0 \\ 0 & \epsilon^{-n} \end{pmatrix} \frac{1}{\beta} z \right) \quad \text{pour } i=1,2,3. $$

Ainsi on peut en déduire les $\beta'$-polynômes modulaires.

— Lorsque l'on connaît les $\beta$-polynômes modulaires $\phi_\beta$ et $\psi_{k,\beta}$ pour $k=2,3$ alors à partir des propriétés suivantes :

$$ (\dot{b}_1^\nu, \dot{b}_2^\nu, \dot{b}_3^\nu) = (\dot{b}_1, \dot{b}_2, \dot{b}_3) \quad \text{pour tout} \quad D \equiv 2,3 \mod 4, $$

$$ (\dot{b}_1^\nu, \dot{b}_2^\nu, \dot{b}_3^\nu) = (\dot{b}_3, \dot{b}_2, \dot{b}_1) \quad \text{pour tout} \quad D \equiv 1 \mod 4 $$

définies par l'action de $\sigma$ sur $\mathcal{H}_1^2$, on déduit les $\bar{\beta}$-polynômes modulaires $\phi_{\bar{\beta}}$ et $\psi_{k,\bar{\beta}}$.
Troisième partie

RELÈVEMENT CANONIQUE DE SURFACES ABÉLIENNES
En resumé nous avons parcouru des résultats fondamentaux sur le schéma $\mathfrak{A}_g$ des variétés abéliennes complexes et plus particulièrement sur le schéma $\mathfrak{A}_2$ dont le corps de fonctions est donné par $\mathbb{C}(j_1, j_2, j_3)$. D'une autre part un résultat très important d'Igusa [51] montre que $M_2$ est un schéma non lisse sur $\mathbb{Z}$ (le chapitre 4 et la section 4.2) sur lequel nous avons construit des invariants absolus ayant une bonne réduction en toute caractéristique.

L'objectif de cette section est d'aboutir à une généralisation des conditions de Kronecker utilisées en dimension 1 à partir du polynôme modulaire le chapitre 2 et la section 2.5.1. En effet la proposition 6.2.1(Conditions de Kronecker en Dimension $g$) qui suit est l'un de nos résultats fondamentaux fournissant les bases algorithmiques d'un calcul efficace du relevé canonique en fonction du genre $g$ et de la caractéristique moyenne $p$.

## 6.1 THÉORÈME DE SERRE-TATE

Dans cette section nous nous focalisons sur un important résultat de J.P.Serre et J.Tate [69, 104], établissant l'équivalence entre la théorie de la déformation des schémas abéliens et celle associée à leurs groupes $p$-divisibles.

Nous ne proposons pas une démonstration de ce résultat et nous allons nous référer sur les démonstrations de Drinfeld dans l'article de Katz [55].

Notre objectif serait d'établir une forme plus générale des conditions de Kronecker. Et pour ce qui suit nous admettons les notations et définitions suivantes.

On considère que $p > 0$ est un nombre premier et $R$ est un anneau admettant un idéal nilpotent $I$ tel que $R_0 := R/I$. On pose $S_0 = \text{Spec}(R_0)$ et $S = \text{Spec}(R)$ de telle sorte que $S_0 \hookrightarrow S$ soit un éppaississement infinitésimal.

### Groupes $p$-Divisibles

Lorsque $R$ est un anneau Noétherien localement complet.

Un système inductif $(G(n))_{n \in \mathbb{N}}$ de schéma de groupes sur $R$ est un groupe $p$-divisible de hauteur $h$: si $G(n)$ est fini d'ordre $p^{nh}$ et pour tout $n \ge 1$, la suite suivante est exacte,

$$1 \longrightarrow G(n) \longrightarrow G(n+1) \stackrel{p^n}{\longrightarrow} G(n+1)$$

Ainsi $G(n)$ est identifié comme le groupe de $p^n$-torsion de $G(n+1)$ et pour cette raison on note très souvent $G(n)$ par $G[p^n]$ et le groupe $p$-divisible par $G$.

Nous pouvons aussi noter la définition proposée par Grothendieck où $G$ est un faisceau abélien sur un site de *fffff* (fidèlement plate de présentation finie) telle que :

$$G = \lim_{\longrightarrow} G[p^n]$$

avec $[p] : G \longrightarrow G$ est un épimorphisme de gerbes abéliennes et $G[p^n]$ est le noyau donné sur un point de $[p^n] : G(T) \longrightarrow G(T)$.

Alors on montre que pour tout groupe commutative algébrique $G/S$ de type fini tel que
$[p] : G \to G$ est localement libre de rang $p^h$, $G[p^\infty] := (G[p^n])$ est un groupe $p$-divisible de hauteur $h$. Et plus partculièrement pour un schéma abélien $A/S$ de dimension $g$, $A[p^\infty]$ est un groupe $p$-divisible de hauteur $2g$. Soit $S_0 \hookrightarrow S$ un appaisissement infinitésimal avec $p$ localement nilpotent sur $S$. Alors on désignera par AbVar($S$) la catégorie des schémas abéliens sur $S$ et par $\mathcal{D}(S_0)$ la catégorie des triplets $(A_0, G, i)$ où $A_0/S_0$ est un schéma abélien, $G/S$ est un groupe $p$-divisible et $i$ un isomorphisme $A_0[p^\infty] \xrightarrow{\sim} G \otimes_S S_0$.

**Théorème 6.1.1. (Théorème de Serre-Tate)**

Le foncteur :

$$ \Phi : \operatorname{AbVar}(S) \longrightarrow \mathcal{D}(S_0) \\ A \longmapsto (A \otimes S_0, A[p^\infty], i) $$

est une équivalence de catégories.

Démonstration. Aller à [55]. □

**Corollaire 6.1.2. (Applications)**

- Soient $A_0/S_0$ un schéma abélien et $G/S$ un groupe $p$-divisible tel qu'il existe un isomorphisme $i_0 : A_0[p^\infty] \xrightarrow{\sim} G_0$ de groupes $p$-divisible. Alors par le Théorème de Serre-Tate $(A_0, i_0)$ admet un relèvement $(A, i)$ où $A$ est un schéma abélien et un isomorphisme $i : A[p^\infty] \xrightarrow{\sim} G$ de groupes $p$-divisible.

- Soient $A/S$, $B/S$ des schémas abéliens et $f_0 \in \operatorname{Hom}_{S_0}(A_0, B_0)$ alors par le Théorème de Serre-Tate, $f_0$ admet un relèvement $f \in \operatorname{Hom}_S(A, B)$ si et seulement si $f_{0,p} \in \operatorname{Hom}(A[p^\infty], B[p^\infty])$ admet sur $\operatorname{Hom}(A[p^\infty], B[p^\infty])$ un relèvement. Et ces relèvements lorsqu'ils existent sont uniques.

Démonstration. Voir [27, § 1.]. □

Le Théorème de Serre-Tate trouve plusieurs extension avec l'utilisation des Théories de Modules de Dieudonné: *contravariant*, *covariant* et *crystalline* pour s'élargir sur d'autres angles.

## 6.2 CONDITIONS DE KRONECKER

Dans l'objectif, d'une démonstration générale aux conditions de Kronecker rencontrés dans le chapitre 2 et la section 2.5.1, nous introduisons au debut de cette section la notion de champ algébrique ("stack"), qui est une généralisation du concept de schéma, au même sens que le concept de schéma est une généralisation du concept de variété projective. Nous utiliserons comme références, des travaux de D.Mumford [87], de Normann-Oort [90], de Tomás L. Gómez [40] et plus principalement nous allons nous focaliser sur les travaux [15] de Ching-Li Chai et P.Norman.

$\mathfrak{A}_g$ et $\mathcal{M}_g$ ne sont pas des espaces de modules fins, dû au fait que des points sur $\mathfrak{A}_g$ et $\mathcal{M}_2$ ont des automorphismes supplémentaires. L'idée serait d'obtenir des "espace de module fin" à la place de $\mathfrak{A}_g$ et $\mathcal{M}_g$. Alors, on procède par adjonction de structure supplémentaire (structures de niveau $p$ par exemple) pour « tuer l'effet » des automorphismes (suivant des idées qui remontent à Grothendieck et Giraud, et développées par Deligne, Mumford et Artin) en remplaçant le foncteur $F : (\mathrm{Sch}) \to (\mathrm{Ens})$ par un autre foncteur $F'$ muni d'un morphisme $\phi : F' \to F$ (oubli de la structure supplémentaire) de telle sorte que $F'$ soit un espace algébrique. Alors on dira qu'un faisceau d'ensembles sur $\mathrm{Sch}$ est représentable par
un schéma $M$ s'il est isomorphe au foncteur des points $\operatorname{Hom}_S(-, M)$ (où $M$ est un schéma sur $S$). Ce qui n'est pas le cas de $\mathfrak{A}_g$ et $\mathcal{M}_g$.

Dans le cas du module grossier « coarse » $M$, le schéma $M$ est coreprésenté par un foncteur $F$ tel que pour tout corps algébriquement clos $k$ on a la bijection:

$$ \phi(k) : F(\operatorname{Spec} k) \to \operatorname{Hom}_S(\operatorname{Spec} k, M) $$

Par exemple dans le cas du morphisme $\operatorname{Ell} \to \mathbb{A}^1$.

Un préfaisceau dans les groupoïdes (également appelé quasi-foncteur) est un 2-foncteur $F$ contravariant de $(\operatorname{Sch}/S)$ à (groupoïdes). Pour chaque schéma $B$ nous avons un groupoïde $F(B)$ et pour chaque morphisme $f : B' \to B$ nous avons une transformation naturelle des foncteurs $F(f)$ qui est notée $f^*$ (définie par un pullback dans nos exemples). Alors on peut définir un champ « stack » comme un faisceau de groupoïdes, c'est-à-dire un 2-functor (préfaisceau) qui satisfait les axiomes du faisceau à savoir les principes de: "recollement de morphismes", "mono-préfaisceau" et "recollement d'objets" [40, Definition 2.10]. Ce qui implique: qu'un champs admettant un objet avec un automorphisme autre que l'identité, ne peut être représenté par un schéma. Un champ $\mathcal{X}$ est dit représentable par un espace algébrique (resp. schéma) s'il existe un espace algébrique (resp. schéma) $X$ tel que le champ associé à $X$ est isomorphe à $\mathcal{X}$.

Alors nous allons définir un champ algébrique selon Deligne-Mumford. Cette définition est semblable à celle généralement donnée à un espace algébrique (dans le contexte correspondant aux espaces).

Lorsque l'on considère la catégorie $(\operatorname{Sch}/S)$ des $S$-schémas muni de la topologie étale, un champ $F$ est appelé un champ algébrique (Deligne-Mumford) si : le morphisme diagonale $\Delta F : F \to F \times_S F$ est représentable, quasi-compact et separé; de plus il existe un schéma $U$ (appelé atlas) avec un morphisme étale surjectif $u : U \to F$.

Soit $\mathfrak{A}_{g,\Gamma_0(p)}$ le champ algébrique paramétrant les variétés abéliennes principalement polari-sées avec une structure de niveau $p$.

Pour tout schéma $S$, $\mathfrak{A}_{g,\Gamma_0(p)}(S)$ est la catégorie des isogénies.

<figure><img src="image_30.png" /></figure>

des schémas abéliens principalement polarisés $(A_{i/S}, \lambda_{A_i})$, $i = 1,2$ tels que la polarisation $\phi^*(\lambda_{A_2})$ définie par $\hat{\phi} \circ \lambda_{A_2} \circ \phi$ coïncide avec $p \cdot \lambda_{A_1}$. En particulier $\mathfrak{A}_{2,\Gamma_0(p)}$ est régulier excepter en un nombre fini de points. Ces points isolés singuliers correspondent aux isogénies $\phi : A_1 \to A_2$ de $\mathfrak{A}_{2,\Gamma_0(p)} \otimes_{\mathbb{F}_p} \bar{\mathbb{F}}_p$ où les trois composantes irréductibles de $\mathfrak{A}_{2,\Gamma_0(p)}$ s'intersectent [15]. Par exemple en caractéristique $2$, ces trois composantes sont respectivement définies sur la variété $M_2 \otimes k$ par les trois premiers triplets du 4.3.2 dans le chapitre 4 et la section 4.3. Cependant on remarquera que dans ce cas-ci la topologie est fine (dans le cas de $M_2$ elle est grossière).

Dans ce qui suit, notre objectif est de trouver une démonstration aux *conditions de Kronecker* sur le lieu des points ordinaires de l'espace de module de Siegel de $\mathfrak{A}_{g,\Gamma_0(p)}$ muni d'une structure de niveau $\Gamma_0(p)$. Le module $\mathfrak{A}_{g,\Gamma_0(p)}$ a été étudié en profondeur par P.Norman et
Ching-Li Chai comme schéma sur $\text{Spec }\mathbb{Z}_p$ (pour plus de détails, voir [15]). Et en général, on montre d'après la théorie de déformation de variétés abéliennes ordinaires [55], que son lieu des points ordinaires noté $\mathfrak{A}_{g,\Gamma_0(p)}^0$ est lisse sur $\text{Spec }\mathbb{Z}_p$.

On considère pour la suite que le corps $k$ est algébriquement clos et de caractéristique $p > 0$. Pour une variété abélienne ordinaire $A_{/k}$, le module de Tate et son dual sont donnés par:

$$T_p A(k) = \lim_{\leftarrow} A[p^n](k), \quad T_p \hat{A}(k) = \lim_{\leftarrow} \hat{A}[p^n](k)$$

D'après le résultat [15, Theorem Pages:12-13] le Théorème de Serre-Tate implique que pour tout point géométrique $(\phi : A_{/k} \to B_{/k}, \lambda_A, \lambda_B)$ du lieu $\mathfrak{A}_{g,\Gamma_0(p)}^0$ avec $\phi^*(\lambda_B) = p \cdot \lambda_A$. Alors $\phi$ induit deux applications $\mathbb{Z}_p$-linéaires l'une $F : V = T_p A(k) \to W = T_p B(k)$ et l'autre $T : W \to V$ (à partir de son dual $\hat{\phi}$) telles que $T \circ F = p \cdot \text{id}_V$ et $F \circ T = p \cdot \text{id}_W$ et le foncteur contravariant $\mathfrak{M}$ de Dieudonné est canoniquement donné par:

$$R \mapsto \left\{ \begin{array}{l} \text{coupages symétriques} \\ \langle \cdot, \cdot \rangle_V : V \otimes_{\mathbb{Z}_p} V \to 1 + m_R \\ \langle \cdot, \cdot \rangle_W : W \otimes_{\mathbb{Z}_p} W \to 1 + m_R \\ \text{telles que} \\ \langle u, T(w) \rangle_V = \langle F(v), w \rangle_W, \forall v \in V, w \in W \end{array} \right\}$$

où $R$ parcourt les anneaux artiniens locaux dont le corps résiduel est $k$. Lorsque l'on désigne respectivement par $(v_1, \dots, v_g)$ et $(w_1, \dots, w_g)$ les $\mathbb{Z}_p$-bases de $V$ et de $W$ le résultat précédent peut être interpréter en terme de relations linéaires algébriques de la manière suivantes:

$$\begin{array}{l} \{F(v_i) = w_i \text{ et } F(v_{a+j}) = p \cdot w_{a+j}\} \text{ et} \\ \{T(w_i) = p \cdot v_i \text{ et } T(w_{a+j}) = v_{a+j}\} \\ \text{pour } 1 \le i \le a, 1 \le j \le g \\ \text{où } p^a = \#(V/T(W)) \end{array}$$

En utilisant les conditions de coupages symétriques sur ces relations précédentes on obtient:

$$\left\{ \begin{array}{ll} \langle v_i, p v_j \rangle_V = \langle w_i, w_j \rangle_W & \text{pour } 1 \le i, j \le a \\ \langle v_\mu, p v_i \rangle_V = \langle p w_\mu, w_i \rangle_W & \text{pour } 1 \le i \le a, a+1 \le \mu \le g \\ \langle v_i, v_\mu \rangle_V = \langle w_i, w_\mu \rangle_W, & \text{pour } 1 \le i \le a, a+1 \le \mu \le g \\ \langle v_\mu, v_\nu \rangle_V = \langle w_\mu, w_\nu \rangle_W, & \text{pour } a+1 \le \mu, \nu \le g \end{array} \right.$$

En résumé chaque module artinien local du [15, Theorem Pages:12-13] définit un couplage symétrique tel que en un point géométrique $(\phi : A_{/k} \to B_{/k}, \lambda_A, \lambda_B)$ du lieu $\mathfrak{A}_{g,\Gamma_0(p)}^0$ de l'espace de module de Siegel $\mathfrak{A}_{g,\Gamma_0(p)}^0$, le système $\mathfrak{S} = 0$ dont les équations sont définies par les $g^2$ fonctions suivantes:

$$\mathfrak{S} = \left\{ \begin{array}{ll} \langle v_i, p v_j \rangle_V - \langle w_i, w_j \rangle_W & \text{pour } 1 \le i, j \le a \\ \langle v_j, p v_i \rangle_V - \langle p w_j, w_i \rangle_W & \text{pour } 1 \le i \le a, a+1 \le j \le g \\ \langle v_i, v_j \rangle_V - \langle w_i, w_j \rangle_W, & \text{pour } 1 \le i \le a, a+1 \le j \le g \\ \langle v_i, v_j \rangle_V - \langle w_i, w_j \rangle_W, & \text{pour } a+1 \le i, j \le g \end{array} \right.$$
satisfait la condition:

$$
\mathfrak{S}(\hat{\phi}, \phi) = 0
$$

En utilisant les propriétés de symétrie des formes bilinéaires $\langle \cdot, \rangle_V$ et $\langle \cdot, \rangle_W$ on peut définir
le système $\mathfrak{S} = 0$ de manière plus simple en ne considerant que les équations contenant les
valeurs:

$$
\langle v_i, v_j \rangle_V \quad 1 \le i \le j \le a, \quad \langle w_v, w_\mu \rangle_W, \quad 1 \le v \le \mu \le g
$$

$$
\langle v_i, v_\mu \rangle_V = (\langle w_i, w_\mu \rangle_W), \quad 1 \le i \le a, a+1 \le \mu \le g
$$

D'autre part, le schéma $\mathfrak{A}_{g,\Gamma_0(p)}^0$ des points ordinaires de $\mathfrak{A}_{g,\Gamma_0(p)}$ est lisse sur $\text{Spec}(\mathbb{Z}_p)$ de dimension $g \frac{(g+1)}{2}$ [15, Theorem 3.3, Page: 13].

Par suite nous pouvons considérer la fonction vectorielle $\mathfrak{S}$ avec seulement les $g \frac{(g+1)}{2}$ fonc-
tions définies précédemment.

**Proposition 6.2.1. (Conditions de Kronecker)**

Pour tout point géométrique ($\Pi : A_{/k} \longrightarrow A_{/k}^{\Pi}, \lambda_A$) du lieu $\mathfrak{A}_{g,\Gamma_0(p)}^0$ des points ordinaires de $\mathfrak{A}_{g,\Gamma_0(p)}$, la fonction vectorielle $\mathfrak{S}$ satisfait les conditions :

1. $\frac{\partial \mathfrak{S}}{\partial X}(\hat{\Pi}, \Pi)$ s'annule modulo $p$,

2. $\frac{\partial \mathfrak{S}}{\partial \gamma}(\hat{\Pi}, \Pi)$ est inversible modulo $p$.

Démonstration. Lorsque nous sommes en dimension $g=1$, soit $V$ et $W$ représentant respectivement les modules de Tate associés à $A$ et $A^\sigma$ du point géométrique $(\Pi : A_{/k} \longrightarrow A_{/k}^{\Pi}, \lambda_A, \lambda_{A_{/k}^{\Pi}})$. Alors sur $\mathbb{Z}_p$ nous avons : $V = \langle v \rangle$ et $W = \langle w \rangle$. En considérant les notations ci-dessus, on note par $T$ l'application linéaire induite par le Verschiebung à partir de $A_{/k'}^{\Pi}$ alors $\#(V/T(W)) = p$ et $a=1$. Dans ce cas, le système $\mathfrak{S} = 0$ admet une seule équation définie par la valeur :

$$
\mathfrak{S} = \langle v, T(w) \rangle_V - \langle F(v), w \rangle_W
$$

Lorsque l'on considère le couplage $\langle v, v \rangle = X$ et $\langle w, w \rangle = Y$, nous obtenons :

$$
\mathfrak{S} = \langle v, p.v \rangle - \langle w, w \rangle = X^p - Y
$$

Alors :

$$
\bullet \frac{\partial \mathfrak{S}}{\partial X}(\hat{\Pi}, \Pi) = pX^{p-1} \text{ s'annule modulo } p;
$$

* $\frac{\partial \mathfrak{S}}{\partial Y}(\hat{\Pi}, \Pi) = -1$ est inversible modulo $p$, en effet le vecteur $(\hat{\Pi}, \Pi)$ représente un point du schéma lisse $\mathfrak{A}_{g, \Gamma_0(p)}^0$ de dimension 1 sur $\mathbb{Z}_p$.

Dans le cas de la dimension $g$ nous avons $\#(V/T(W)) = p^g$ c'est-à-dire $a = g$.
Les fonctions constituant la fonction vectorielle $\mathfrak{S}$ sont toutes de la forme :

$$
X_{ij}^{p} - Y_{ij} \quad \text{pour} \quad 1 \le i \le j \le g
$$

Alors, posons $X = \{X_{ij}\}$ et $Y = \{Y_{ij}\}$ tels que $X_{ij} = \langle v_i, v_j \rangle$ et $Y_{ij} = \langle w_i, w_j \rangle$ pour $1 \le i \le j \le g$ on obtient:
• $\frac{\partial \mathfrak{S}}{\partial X}(\hat{\Pi}, \Pi)$ s'annule modulo $p$; car les composantes de cette matrice sont les $pX_{ij}^{p-1}$.

• $\frac{\partial \mathfrak{S}}{\partial \Upsilon}(\hat{\Pi}, \Pi) = -\mathrm{Id}_m$ est inversible modulo $p$, en effet $(\hat{\Pi}, \Pi)$ représentent un point du schéma lisse $\mathfrak{A}_{\mathfrak{g}, \Gamma_0(p)}^0$ de dimension $m = g \frac{(g+1)}{2}$ sur $\mathbb{Z}_p$.

□

**Remarque 6.2.2.** Pour les chapitres qui vont suivre, nous allons travailler sur l'espace de module grossier $\hat{\mathfrak{A}}_g$ paramétré par des polynômes modulaires de Siegel ou de Hilbert plutôt que sur l'espace de module fin $\mathfrak{A}_{g,\Gamma_0(p)}$. Une différence considérable entre la structure canonique de "stack" de $\mathfrak{A}_{g,\Gamma_0(p)}$ et la structure "coarse" de $\hat{\mathfrak{A}}_g$ est que certains points de $\mathfrak{A}_{g,\Gamma_0(p)}^0$ ne sont pas lisses sur le schéma $\hat{\mathfrak{A}}_g$. En effet ces points représentent des surfaces abéliennes ayant des automorphismes supplémentaires. C'est-à-dire par exemple des points sur $M_2$ tels que $\mathrm{Aut}(C) \neq C_2$ ou des points $j = 0, 1728$ sur la courbe modulaire en dimension 1. Le lieu des points lisses de $\mathfrak{A}_g$ est birationnellement équivalente au schéma décrit par l'équation modulaire. Lorsque $g = 1$, à partir des opérations de "blowups" on pourrait rendre ce schéma modulaire lisse en les points ordinaires (avec automorphismes triviaux) de $\mathfrak{A}_g$, pour en faire un espace de module grossier. Ce qui pourra bien étendre le domaine de réalisation des conditions de Kronecker en dimension 1 en les points $j \in \mathbb{F}_{p^2}$ de $\mathfrak{A}_{1,\Gamma_0(p)}$ sauf pour $j = 0, 1728$ (dans le chapitre 2 et la section 2.5.1, le domaine de réalisation des conditions de Kronecker était $j \notin \mathbb{F}_{p^2}$). Cependant les blowups ne sont suffisant pour lissifier que sur une courbe, ie $g = 1$ d'après [92].

En résumé les conditions Kronecker fournissent une généralisation de la méthode de calcul du relélé canonique de Satoh aux variétés abéliennes ordinaires.

D'autre part on pourrait se demander qu'en est-il des variétés abéliennes non-ordinaires ? Dans [85] Mumford avait établi un programme pour répondre à cette question. Son approche réposait sur le fait que le point générique de chaque composante de l'espace de module grossier $\hat{\mathfrak{A}}_g$ correspond à une variété abélienne ordinaire. Alors on pourra reléver chaque composante à partir de son point générique. Et cela était suffisant car on sait comment reléver chaque point générique par les méthodes de relèvement canonique.

Cependant c'est à partir des travaux de F.Oort et P.Norman [90] que l'on retrouve les caractéristiques du relèvement d'une variété abélienne d'un corps $\mathbb{k}$ sur anneau intègre $R$ de caractéristique zéro.

## 6.3 RÉDUCTION STABLE DES COURBES DE GENRE 2

Soit $C$ une courbe lisse sur $\mathbb{Q}_q$, géométriquement connexe de genre $g \geq 1$. D'après un théorème de Deligne et Mumford, il existe une extension finie de $K$ de $\mathbb{Q}_q$, telle que la courbe $C_s = C \times_R \overline{\mathbb{F}}_q(s)$ est une courbe stable sur $\overline{\mathbb{F}}_q$ ne dépendant pas du choix de $s$ ni de $K$. Lorsque nous sommes en dimension 1 si $j_E \in \mathbb{Z}_q$ est le $j$-invariant d'une courbe elliptique $E$, alors $E_s$ est lisse sur $\overline{\mathbb{F}}_q$, si $j \notin \mathbb{Z}_q$, alors $C_s$ est une courbe rationnelle avec un seul point double ordinaire.

Ainsi un modèle stable d'une courbe $C$ sur $R$ est une courbe stable sur $R$ à fibre générique isomorphe $C \times_K \mathrm{Frac}(R)$ [92].
Lorsque $g = 2$ et que la courbe $C$ admet comme équation hyperelliptique:

$$y^2 + h(x)y = f(x), \text{ avec } h, f \in \mathbb{K}[x] \text{ et } \deg h \le 2, \deg f \le 5 \text{ or } 6$$

Si la caractéristique de $\mathbb{K} \neq 2$ nous pouvons réduire l'équation précédente à $y^2 = a_0x^5 + \dots + a_5$ et l'on peut définir $J_{2i}$ en fonction de $(a_0, \dots, a_5)$:

$$
\begin{align*}
J_2 &= 5a_0a_4 - 2a_1a_3 + 2^{-2}3a_2^2; \\
J_4 &= -2^{-3}(5^2a_0^2a_3a_5 - 3 \cdot 5a_0^2a_4^2 - 3 \cdot 5a_0a_1a_2a_5 + 7a_0a_1a_3a_4 + \\
    &\quad 2^{-1}a_0a_2^2a_4 - a_0a_2a_3^2 + 2^2a_1a_5 - a_1^2a_2a_4 - a_1^2a_3^2 + a_1a_2^2a_3 - 2^{-4}3a_4^2); \\
J_6 &= -2^{-4}(2^{-1}5^3a_0^3a_2a_5^2 - 5^2a_0a_3a_4a_5 + 5a_0^3a_4^3 - 5^2a_0^2a_1^2a_5^2 - \\
    &\quad 2 \cdot 5a_0^2a_1a_2a_4a_5 + 2 \cdot 5a_0^2a_1a_3^2a_5 - a_0^2a_1a_3a_4^2 - 2^{-2}5a_0^2a_2^2a_3a_5 - \\
    &\quad 2^{-2}11a_0^2a_2^2a_4^2 + 2^{-1}7a_0^2a_2a_3^2a_4 - a_0^2a_3^4 + 2 \cdot 3a_0a_1^3a_4a_5 - 3a_0a_1^2a_2a_3a_5 + \\
    &\quad 2^{-1}7a_0a_1^2a_2a_4^2 - 2a_0a_1^2a_3^2a_4 + 2^{-2}3a_0a_1a_2^2a_5 - 2^{-2}7a_0a_1a_2^2a_3a_4 + \\
    &\quad a_0a_1a_2a_3^3 + 2^{-4}7a_0a_2^4a_4 - 2^{-2}a_0a_2^3a_3^2 - a_1^4a_4^2 + a_1^3a_2a_3a_4 - \\
    &\quad 2^{-2}a_1^2a_3^2a_4 - 2^{-2}a_1^2a_2^2a_3^2 + 2^{-3}a_1a_2^4a_3 - 2^{-6}a_2^6).
\end{align*}
$$

Et d'autre part $J_8 = 2^{-2}(J_2J_6 - J_4^2)$ et $J_{10}$ est défini par le discriminant $D$.

Lorsque la caractéristique de $\mathbb{K} = 2$, les invariants $J_{2i}$ correspondant sont alors les reductions modulo 2 de ceux obtenus sur $\mathbb{Z}_q$ en utilisant la forme $y^2 = \tilde{h}^2 + 4\tilde{f}$ où $\tilde{h}$ et $\tilde{f}$ sont les relévés de $h$ et $f$ sur $\mathbb{Z}_q$.

Soient $K$ une extension finie de $\mathbb{Q}_q$, $R$ la clôture intégrale de $\mathbb{Z}_q$ dans $K$. On dira que $C$ est à réduction stable sur $K$ si elle admet un modèle stable sur une localisation $R'$ de $R$ en un idéal maximal dont la fibre spéciale géométrique est notée $C_s$ sur $R'$. Cette courbe sur $\overline{\mathbb{F}}_q$ ne dépend pas du choix de $R'$, ni de celui de sa localisation.

Soit $J_{2i}$ avec $1 \le i \le 5$, les invariants associés à une équation

$$y^2 + h(x)y = f(x)$$

**Théorème 6.3.1.** *Alors on a:*

- la courbe $C_s$ est lisse si et seulement si: $J_{2i}^5 J_{10}^{-i} \in \mathbb{Z}_q$ pour tout $i = 1, \dots, 5$;

- $C_s$ est irréductible avec un seul point double si et seulement si: $J_{2i}^6 I_{12}^{-i} \in \mathbb{Z}_q$ pour tout $i = 1, \dots, 5$ et $J_{10}^6 I_{12}^{-5} \in p\mathbb{Z}_q$

- $C_s$ est totalement dégénérée si et seulement si

$$I_{12}I_4^{-3} \in p\mathbb{Z}_q, \quad J_{10}^2I_4^{-5} \in p\mathbb{Z}_q, \quad J_{10}I_{2e}I_4^{-3e} \in p\mathbb{Z}_q.$$

$$\text{où } e = 4 \text{ si } p = 2, e = 3 \text{ si } p = 3 \text{ sinon } e = 1.$$

*Démonstration.* Le premier point du théorème est une conséquence directe du [51, Théorème 6].

Les deux autres sont des cas particuliers du [92, Théorème 1]. On peut les démontrer selon le même procédé que dans [92, Théorème 1]. En vérifiant directement par calculs sur un ouvert affine de $C$ dense dans toutes les fibres pour les cas $p \neq 2$ et $C_s$ n'est pas réunion de deux courbes elliptiques d'invariant modulaire nul. Sinon pour les autres cas [92] utilisent la continuité sur l'espace de module $\overline{M} \times \mathbb{Z}_q$. $\square$
**Exemple 6.3.2.** Nous donnons par suite les exemples suivants (aller à [92] pour plus détails) comme des applications aux propriétés citées précédemment.

— Soit $\mathcal{C}$ la courbe sur $\mathbb{Q}$ définie par l'équation: $y^2 + y = x^5$. On vérifie que $J_{2i} = 0$ pour tout $i \neq 5$ et $J_{10} = 5^5$. On en déduit que $\mathcal{C}$ a bonne réduction partout.

— Soit $\mathcal{C}$ la courbe sur $\mathbb{Q}$ définie par l'équation: $y^2 = x^5 + x$. On vérifie que:

$$J_2 = 5, \quad J_4 = 2^{-3}15, \quad I_4 = -2^{2.5}, \quad J_6 = -2^{-4.5},$$

$$J_8 = -2^{-8}325, \quad J_{10} = 2^{-4}, \quad I_{12} = -2 \cdot 25.$$

D'après le théorème précédent la courbe $\mathcal{C}$ a bonne réduction en toute place différente de 2, sa réduction stable $\mathcal{C}_s$ est la réunion de deux courbes elliptiques d'invariant modulaire nul.
Dans ce chapitre nous proposons une extension de la methode de Satoh en genre 2. Ce résumé détaille un peu plus nos nouveaux résultats exposés dans les deux premiers papiers ([70, 71]).

## 7.1 AVEC L'ESPACE MODULAIRE DE SIEGEL

### 7.1.1 Conditions de Kronecker sur l'Espace de Siegel

Dans cette section abordons une propriété très importante des polynômes modulaires sur $\mathbb{Z}_q$. On part d'une variété abélienne $\mathcal{A}$ définie sur $\mathbb{Z}_q$, et l'on se propose d'étudier les différentes types de réductions des $(p^3 + p^2 + p + 1)$ noyaux de $\mathcal{A}$.

#### Réduction des $(p^3 + p^2 + p + 1)$ Isogénies

On considère les points $P, Q, R$ et $S$ avec: $P$ et $Q$ étales, $R$ et $S$ ramifiés et tels que $R$ est le dual de $P$ et $S$ le dual de $Q$ pour le Couplage de Weil. Un noyau isotropique $K$ de l'isogénie de degré $p$ partant de $\mathcal{A}$ a trois possibilités de réduction sur $\mathcal{A}$:

- Dans un premier cas : $K = \langle R, S \rangle$, alors il se réduit entièrement sur $\langle 0 \rangle$ et cela correspond au noyau du relèvement du Frobenius.

- Dans second cas : $K$ se réduit modulo $p$ à un groupe cyclique d'ordre $p$. Comme modulo $p$ nous avons $(p+1)$ groupes cycliques d'ordre $p$ sous les formes: $\langle \bar{P} + b\bar{Q} \rangle$ and $\langle \bar{Q} \rangle$ avec $0 \le b < p-1$. Supposons que $K$ réduit sur $\langle \bar{P} \rangle$, alors $K$ est sous la forme $\langle P + aR + bS, cR + dS \rangle$. En utilisant les conditions de linéarité et d'isotropie nous obtenons $K = \langle P + aR, S \rangle$. Cela correspond à $p$ choix pour chaque groupe cyclique d'ordre $p$ modulo $p$. Et nous avons $(p+1)p$ noyaux relevés.

- Et dans le troisième cas, $K$ se réduit sur $\langle \bar{P}, \bar{Q} \rangle$ alors il est sous la forme $\langle P + aR + bS, Q + cR + dS \rangle$. En appliquant les conditions de linéarité et d'isotropie sur ces bases l'on obtient $b = c$. Cela correspond à $p^3$ noyaux.

Ce qui complète la réduction des $p^3 + p^2 + p + 1$ isogénies correspondant aux solutions du système défini sur $\mathbb{Z}_q$ par les polynômes $\phi_{1,p}, \psi_{1,p}$ et $\psi_{1,p}$.

On considère les polynômes modulaires $\phi_{1,p}, \psi_{1,p}$ et $\psi_{1,p}$ en fonction d'un système d'invariants absolus $(f_1, f_2, f_3)$. Soient $U = (x_1, x_2, x_3)$ avec $x_1 = f_1(\Omega_{\mathcal{A}})$, $x_2 = f_2(\Omega_{\mathcal{A}})$, $x_3 = f_3(\Omega_{\mathcal{A}})$ les invariants absolus de la variété $\mathcal{A}$ et $V = (u, v, w)$ les invariants absolus d'une variété $p$-isogène à $\mathcal{A}$. Alors on définit les polynômes suivants :

$$ \Phi_{1,p} = \mathrm{Num}(\phi_{1,p})(u, x_1, x_2, x_3) $$

$$ \Psi_{2,p} = (\psi_{2,p} - v) \cdot \mathrm{Den}(\psi_{2,p})(x_1, x_2, x_3, u, v) $$

$$ \Psi_{3,p} = (\psi_{3,p} - w) \cdot \mathrm{Den}(\psi_{3,p})(x_1, x_2, x_3, u, w) $$

avec $\mathrm{Num}(\dots)$ et $\mathrm{Den}(\dots)$ les numérateurs et les dénominateurs des polynômes correspondant. Sachant que $\phi_{1,p}, \psi_{2,p}$ et $\psi_{3,p}$ sont les polynômes donnés par la section 5.2 et l'algorithme 6.