# Introduction à la théorie des nombres/Formes quadratiques entières
## Définitions et premières propriétés

* Une forme quadratique (binaire) entière est un polynôme homogène (en deux indéterminées) de degré 2 à coefficients entiers :
    $q\left(x,y\right)=ax^{2}+bxy+cy^{2},\quad a,b,c\in \mathbb {Z}$.
* Un entier $n$ est dit représenté (resp. proprement représenté) par $q$ s'il existe $x,y$ entiers (resp. entiers premiers entre eux) tels que $n=q\left(x,y\right)$.
* $ax^{2}+bxy+cy^{2}$ représente proprement $a$, $c$ et $a+b+c$.
* $2x^{2}+xy+2y^{2}$ ne représente pas $1$ (exercice).
* Toute représentation d'un entier sans facteur carré — en particulier, d'un nombre premier — est propre, puisque ${\bigl\operatorname {pgcd} \left(x,y\right){\bigr )}^{2}\mid ax^{2}+bxy+cy^{2}$.
* $50$ est somme de deux carrés (c'est-à-dire représenté par $x^{2}+y^{2}$) de deux façons, l'une propre et l'autre impropre : $50=1^{2}+7^{2}=5^{2}+5^{2}$.
Le discriminant de la forme quadratique $ax^{2}+bxy+cy^{2}$ est l'entier
    $d:=b^{2}-4ac$.
* La matrice $Q={\begin{pmatrix}a&b/2\\b/2&c\end{pmatrix}}$ de la forme quadratique n'est à coefficients entiers que si $b$ est pair.
* Le discriminant est égal à $-4\times \operatorname {\rm {det}} Q$.
* Il est congru modulo $4$ à $b^{2}$, donc à $0$ ou $1$, selon la parité de $b$.
* Plus généralement, pour tout entier $a$, un entier $d$ est un carré modulo $4a$ si et seulement s'il est le discriminant de $ax^{2}+bxy+cy^{2}$ pour certains entiers $b$ et $c$.
* La propriété « $d$ est un carré ${\bmod {4a}}$ » équivaut, si $a$ est impair, à : $d\equiv 1{\bmod {4}}$ et $d$ est un carré ${\bmod {a}}$, ou $d\equiv 0{\bmod {4}}$ et $d/4$ est un carré ${\bmod {a}}$.
$d$
Pour tout entier $d$ congru à $0$ ou $1{\bmod {4}}$, la « forme principale » $q_{d}$ de discriminant $d$ est définie par :
    $q_{d}\left(x,y\right):={\begin{cases}x^{2}-{\frac {d}{4}}y^{2}&{\text{si }}d\equiv 0{\bmod {4}},\\x^{2}+xy+{\frac {1-d}{4}}y^{2}&{\text{si }}d\equiv 1\mod 4.\end{cases}}$
Par exemple :
* $q_{-4}\left(x,y\right)=x^{2}+y^{2}$ ;
* $q_{-3}\left(x,y\right)=x^{2}+xy+y^{2}$.
Deux formes sont dites équivalentes (resp. proprement équivalentes) si elles se déduisent l'une de l'autre par un changement de variable $x'=\alpha x+\beta y,y'=\gamma x+\delta y$ avec $\alpha ,\beta ,\gamma ,\delta$ entiers tels que $\alpha \delta -\beta \gamma =\pm 1$ (resp. $\alpha \delta -\beta \gamma =+1$).
Soient
    $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$,
    $q'\left(x,y\right)=ax^{2}-bxy+cy^{2}$ et
    $q''\left(x,y\right)=cx^{2}+bxy+ay^{2}$.
* Deux formes sont dites improprement équivalentes si elles peuvent se déduire l'une de l'autre par un changement de variable de déterminant $-1$. Par exemple, $q$ est improprement équivalente à $q'$ (par le changement de variable $x'=-x,y'=y$) et à $q''$ (par interversion des variables).
* La classe d'équivalence de $q$ est la réunion de la classe d'équivalence propre de $q$ et celle de $q'$ (ou $q''$). Ces deux classes sont soit disjointes (et équipotentes), soit égales. Dans le second cas, $q$ dite ambiguë. C'est évidemment le cas si $q=q'{\text{ ou }}q''$ (c'est-à-dire $b=0$ ou $c=a$), mais aussi par exemple si $b=a$, puisqu'alors, $q\left(x-y,y\right)=q'\left(x,y\right)$. En particulier, toutes les formes principales sont ambiguës.
* Les classes d'équivalence (resp. d'équivalence propre) sont les orbites de l'action du groupe $\mathrm {PGL} _{2}(\mathbb {Z} )$ (resp. $\mathrm {PSL} _{2}(\mathbb {Z} )$) des matrices 2×2 à coefficients entiers de déterminant $\pm 1$ (resp. $+1$).
* Si deux formes sont équivalentes alors elles ont :
** les mêmes entiers représentés et les mêmes entiers proprement représentés ;
** pour chacun de ces entiers, les mêmes multiplicités (c'est-à-dire le même nombre de couples $\left(x,y\right)$ solutions) ;
** le même discriminant (d'après la formule de changement de base pour une forme bilinéaire).
Une forme $q$ représente proprement un entier $a$ (si et) seulement si $q$ est équivalente à une forme $ax^{2}+bxy+cy^{2}$ pour certains entiers $b$ et $c$, qui peuvent même alors être choisis tels que l'équivalence soit propre.
Le sens « si » résulte de deux remarques ci-dessus mais on va le redémontrer directement en raisonnant par équivalences.
L'écriture générale d'une forme équivalente à q(x, y) = Ax$^2$ + Bxy + Cy$^2$ est A(αx + βy)$^2$ + B(αx + βy)(γx + δy) + C(γx + δy)$^2$ avec α, β, γ, δ entiers tels que αδ – βγ = ±1 (+1 pour une équivalence propre), et le coefficient de son terme en x$^2$ est Aα$^2$ + Bαγ + Cγ$^2$ = q(α, γ). Or (par définition) q représente proprement a si et seulement s'il existe α et γ premiers entre eux tels que q(α, γ) = a, donc (par le théorème de Bézout) si et seulement s'il existe des entiers α, β, γ, δ tels que q(α, γ) = a et αδ – βγ = ±1 (et l'on peut alors les choisir de telle façon que αδ – βγ = 1).
Soient $m,d\in \mathbb {Z}$.
* Il existe une forme de discriminant $d$ qui représente proprement $m$ (si et) seulement si $d$ est un carré ${\bmod {4m}}$.
* S'il existe une forme de discriminant $d$ qui représente proprement $m$ alors, pour tout diviseur $n$ de $m$, il existe une forme de discriminant $d$ (non nécessairement équivalente) qui représente proprement $n$.
Le premier point résulte de la proposition précédente et de la définition du discriminant.
Le second s'en déduit en remarquant qu'un carré modulo $4m$ est carré modulo tout diviseur de $4m$.
* L'adverbe « proprement » est indispensable dans la proposition et le corollaire ci-dessus (sauf bien sûr lorsqu'il s'agit des représentations d'un entier sans facteur carré). Par exemple, pour n'importe quel discriminant $d$, tout carré $m=n^{2}$ est représentable par une forme de discriminant $d$ (non proprement : $m=q_{d}\left(n,0\right)$) tandis que son diviseur $n$ ne l'est pas toujours : penser par exemple au théorème des deux carrés (exercice 5-5) ou plus généralement, pour un discriminant $d$ non carré, aux nombres premiers modulo lesquels $d$ n'est pas un carré (il y en a une infinité).

## Typologie

Lorsqu'on s'intéresse à l'ensemble des entiers représentés par $ax^{2}+bxy+cy^{2}$, il est naturel de mettre en facteur $\operatorname {pgcd} \left(a,b,c\right)$.
Une forme $ax^{2}+bxy+cy^{2}$ est dite primitive si $\operatorname {pgcd} \left(a,b,c\right)=1$.
* $\operatorname {pgcd} \left(a,b,c\right)$ est le pgcd de tous les entiers représentés par $ax^{2}+bxy+cy^{2}$ (voir l'exercice lié) donc toute forme quadratique équivalente à une forme primitive est, elle aussi, primitive.
* $\operatorname {pgcd} \left(a,b,c\right)^{2}\mid b^{2}-4ac$ donc si $d$ est sans facteurs carrés, $q$ est primitive.
Soient $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ et $d=b^{2}-4ac$.
* Si $a$ et $b$ sont premiers entre eux, $q$ est primitive. C'est le cas par exemple si $q$ est une forme principale (voir supra).
* Plus généralement, s'il existe un entier représenté par $q$ et premier avec $d$, alors $q$ est primitive (l'exercice lié détaille et complète ce thème).
* $6x^{2}+15xy+10y^{2}$ est primitive ($d=-15$).
On introduit de plus la classification suivante (issue de celle des formes réelles) :
Soient $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ et $d=b^{2}-4ac$. La forme $q$ est dite :
* dégénérée si $d=0$ ;
* définie si $d<0$ ;
* indéfinie si $d>0$.
* $4aq\left(x,y\right)=\left(2ax+by\right)^{2}-dy^{2}$ donc lorsque $q$ est définie, elle est constamment du signe de $a$ (égal à celui de $c$).
* Une forme $q$ est définie négative si et seulement si $-q$ est définie positive.
* $q$ est dite isotrope si $d$ est un carré parfait (éventuellement nul), ce qui (cf. exercice lié) équivaut à : $q$ est le produit de deux formes linéaires (de $\mathbb {Z} ^{2}$ dans $\mathbb {Z}$). On exclura donc de l'étude ce cas.
* Toute forme primitive non isotrope représente une infinité de nombres premiers$^,$$^,$$^,$$^,$.
Il reste donc à étudier les formes définies positives et les formes indéfinies non isotropes (en se limitant, si on le souhaite, à celles qui sont primitives).
Pour tout discriminant $d$ non carré, le nombre de classes ${\widetilde {h}}(d)$ est le nombre de classes d'équivalence propre de formes de discriminant $d$, définies positives si $d<0$, et indéfinies si $d>0$. Parmi ces classes, on note $h(d)$ le nombre de celles des formes primitives.
La théorie de la réduction, essentiellement due à Gauss, va permettre de montrer que le nombre de classes est fini.

## Réduction des formes définies positives

On étudie donc ici le cas $d<0$ et $a,c>0$.
Une forme définie positive $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ est dite réduite si $|b|\leq a\leq c$ et si de plus, $b\geq 0$ dès que $a$ est égal à $|b|$ ou à $c$.
Autrement dit : $q$ est réduite si $-a<b\leq a<c$ ou $0\leq b\leq a=c$.
* Pour tout discriminant $d<0$, la forme principale $q_{d}$ est une forme positive réduite de discriminant $d$.
* C'est la seule si et seulement si $d\in \{-3,-4,-7,-8,-11,-19,-43,-67,-163\}$ (cf. exercice 5-7 et « Nombre de Heegner »).
* Si $d=-12$, la seule autre est non primitive : $2x^{2}+2xy+2y^{2}$ (cf. exercice 5-8).
* Toute forme définie positive est proprement équivalente à une unique forme réduite.
* Pour tout $d<0$, le nombre de formes définies positives réduites de discriminant $d$ est fini.
* Unicité. (Baker, p. 70-71.) Soit $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ une forme définie positive réduite.
** Remarquons d'abord que si $|x|,|y|\geq 1$ alors $q\left(x,y\right)\geq \left(a-|b|+c\right)$ donc les plus petites valeurs non nulles prises par $q$ sont $a\leq c\leq a-|b|+c$, en $\left(\pm 1,0\right)$, $\left(0,\pm 1\right)$, et soit $\pm \left(1,1\right)$, soit $\pm \left(1,-1\right)$.
** Si $a=c\leq a-|b|+c$ ou $a\leq c=a-|b|+c$ alors $a,b,c$ sont déterminés par les plus petites valeurs prises par $q$ et leurs multiplicités (ces nombres étant les mêmes pour toute forme équivalente). En effet, si par exemple $a=c<a-|b|+c$, la première valeur est prise 4 fois puis, connaissant $a$ et $c$ (égaux à cette valeur), la valeur suivante est $a-|b|+c$ donc détermine $b$ (car lorsque $a=c$, la définition d'une forme réduite impose $b\geq 0$).
** Si $a<c<a-|b|+c$, les deux plus petites valeurs $a$ et $c$ sont prises chacune 2 fois et la suivante est $a-|b|+c$, ce qui détermine seulement $a,|b|,c$. Il reste donc à montrer que si $|b|<a<c$, les deux formes réduites $q\left(x,y\right)$ et $q'\left(x,y\right)=ax^{2}-bxy+cy^{2}$ ne peuvent être proprement équivalentes que si elles sont égales. Soient $\alpha ,\beta ,\gamma ,\delta \in \mathbb {Z}$ tels que $\alpha \delta -\beta \gamma =1$ et $q'\left(x,y\right)=q\left(\alpha x+\beta y,\gamma x+\delta y\right)$. Par identification des coefficients de $x^{2}$ et $y^{2}$, $a=q\left(\alpha ,\gamma \right)$ et $c=q\left(\beta ,\delta \right)$ donc — d'après la remarque sur les points où les plus petites valeurs sont atteintes — $\gamma =\beta =0$, et le coefficient du terme en $xy$ donne alors : $-b=b\alpha \delta =b$, ce qui prouve que $b=0$.
* Existence. Soit $Q$ une forme définie positive. Soit $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ une forme proprement équivalente à $Q$ pour laquelle $|b|$ est minimum.
** En composant si nécessaire par $\left(x,y\right)\mapsto \left(-y,x\right)$, on peut de plus supposer que $c\geq a$ et aussi, dans le cas $c=a$, que $b\geq 0$.
** Exploitons également les compositions par $\left(x,y\right)\mapsto \left(x+ky,y\right)$, pour $k\in \mathbb {Z}$. Dans $q\left(x+ky,y\right)$, le coefficient de $xy$ est $2ak+b$. On en déduit que $|b|\leq |2ak+b|$ pour tout entier $k$, en particulier $|b|\leq \left|2a-|b|\right|$, donc $a\geq |b|$. Ainsi, $q$ est réduite, sauf si $b=-a$.
** Mais dans ce cas, $q\left(x+y,y\right)=ax^{2}+axy+cy^{2}$ est réduite.
* Finitude. Si $|b|\leq a\leq c$ alors $|d|=4ac-b^{2}\geq 3a^{2}$ donc $0<a\leq {\sqrt {|d|/3}}$. Une fois $a$ choisi, le nombre des valeurs possibles pour $b$ (compris entre $-a$ et $a$ et de même parité que $d$) est majoré par $a+1$. Enfin, $c$ est entièrement déterminé par $d$, $a$ et $b$.
D'après la preuve ci-dessus, l'algorithme suivant fournit la forme réduite proprement équivalente à une forme définie positive donnée :
* tant qu'on n'a pas $-a<b\leq a$, remplacer $ax^{2}+bxy+cy^{2}$ par $a'x^{2}+b'xy+c'y^{2}=a\left(x+ky\right)^{2}+b\left(x+ky\right)y+cy^{2}$ (donc $a'=a,b'=2ak+b,c'=ak^{2}+bk+c$) où l'entier $k$ est celui pour lequel $-a<2ak+b\leq a$ puis, si $c'<a'$, remplacer $a'x^{2}+b'xy+c'y^{2}$ par $c'x^{2}-b'xy+a'y^{2}$ ;
* quand enfin $-a<b\leq a\leq c$, remplacer une dernière fois si nécessaire (c'est-à-dire si $a=c$ et $b<0$) $ax^{2}+bxy+cy^{2}$ par $cx^{2}-bxy+ay^{2}$.

## Réduction des formes indéfinies anisotropes

Dans le cas des formes indéfinies anisotropes ($d>0$ non carré), on pourrait choisir les mêmes définition et algorithme que pour $d<0$ en remplaçant $a,c$ par leurs valeurs absolues, mais on perdrait l'unicité.
Cependant, avec le même genre de définition et d'algorithme que pour la fraction continue (périodique) d'un irrationnel quadratique, Gauss obtient « presque » l'unicité :
Une forme indéfinie anisotrope $q\left(x,y\right)=ax^{2}+bxy+cy^{2}$ de discriminant $d$ est dite réduite si $0<{\sqrt {d}}-b<2|a|<{\sqrt {d}}+b$.
* $\left({\sqrt {d}}-b\right)\left({\sqrt {d}}+b\right)=-4ac$ donc :
** si $ax^{2}+bxy+cy^{2}$ est une forme quadratique (indéfinie anisotrope) réduite, alors $cx^{2}+bxy+ay^{2}$ est réduite ;
** $ax^{2}+bxy+cy^{2}$ est réduite si et seulement si les deux racines $z:={\frac {-b-{\sqrt {d}}}{2a}}$ et $z_{c}:={\frac {-b+{\sqrt {d}}}{2a}}$ du polynôme $q\left(x,1\right)$ vérifient : $\left|z_{c}\right|<1<\left|z\right|$ et $zz_{c}<0$.
* Contrairement au cas défini positif, les formes indéfinies anisotropes principales ne sont pas réduites, sauf $q_{5}\left(x,y\right)=x^{2}+xy-y^{2}$.
Les seules formes quadratiques réduites de discriminant $20$ (cf. exercice) sont, à interversion près de $x$ et $y$ : $2q_{5}\left(x,y\right)$ et $q_{20}\left(x+2y,y\right)=\left(x+2y\right)^{2}-5y^{2}=x^{2}+4xy-y^{2}$.
* Pour tout entier positif $d$ non carré, il n'existe qu'un nombre fini de formes réduites de discriminant $d$.
* Toute forme indéfinie anisotrope est proprement équivalente à au moins une forme réduite.
* Les formes indéfinies anisotropes réduites de chaque classe d'équivalence propre s'organisent en un unique cycle de « formes adjacentes », la forme adjacente à droite d'une forme réduite $q$ étant la forme $q\left(-y,x+ty\right)$, pour l'unique entier $t$ tel que cette forme soit réduite.
* Finitude. $0<b<{\sqrt {d}}$, $b$ est de même parité que $d$, ${\sqrt {d}}-b<2|a|<{\sqrt {d}}+b$, et $c$ est alors déterminé.
* Existence. Soit $Q_{0}\left(x,y\right)=ax^{2}+bxy+cy^{2}$ une forme indéfinie anisotrope de discriminant $d$. Posons $x_{0}={\frac {-b-{\sqrt {d}}}{2a}}$ et considérons l'algorithme qui nous a permis de démontrer le théorème de Lagrange. Il donnait, à partir du développement en fraction continue $x_{0}=\left[a_{0},a_{1},\dots \right]$, une suite de polynômes $P_{n}=\alpha _{n}X^{2}+\beta _{n}X+\gamma _{n}$ tels que $P_{n}\left(x_{n}\right)=0$, où $x_{n}$ désignait le $n$-ième quotient complet de $x_{0}$. À partir d'un certain rang, $x_{n}$ est réduit, c'est-à-dire $x_{n}>1$ et $-1<\left(x_{n}\right)_{c}<0$. Or les polynômes du second degré correspondent bijectivement aux formes quadratiques : $P_{n}\left(X\right)=Q_{n}\left(X,1\right)$ pour $Q_{n}\left(X,Y\right):=Y^{2}P_{n}\left(X/Y\right)$. De plus, par construction, la racine ${\frac {-\beta _{n}-{\sqrt {d}}}{2\alpha _{n}}}$ de $P_{n}$ est égale à $x_{n}$ pour $n$ pair (et au conjugué $\left(x_{n}\right)_{c}$ pour $n$ impair), et l'étape de récurrence, $P_{n+1}\left(X\right)=X^{2}P_{n}\left(a_{n}+1/X\right)$, équivalente à $Q_{n+1}\left(X,Y\right)=Q_{n}\left(a_{n}X+Y,X\right)$, est une équivalence impropre. Pour $n$ pair suffisamment grand, la forme quadratique $Q_{n}$ est donc proprement équivalente à $Q_{0}$ et réduite.
* Presque unicité. Admis. Voir Dickson, p. 102-103 et 108-111.