# Espace euclidien/Exercices/Matrices orthogonales
## Exercice 3-1

Soit B une forme bilinéaire symétrique non dégénérée sur un K-espace vectoriel de dimension n.
Soit $\varphi \in O(B)$, c'est-à-dire $\varphi :E\to E$ une application linéaire telle que $B(\varphi (u),\varphi (v))=B(u,v)$ pour tout $u,v\in E$.
* Trouver une relation entre les matrices de φ et B dans une même base.
* Montrer que det φ = ±1.
* Soit $P_{\varphi }$ le polynôme caractéristique de φ. Montrer que
    $P_{\varphi }(X)=(-X)^{n}(\det \varphi )P_{\varphi }(X^{-1}).$
    Indication. Soit A la matrice de φ. En utilisant 1., montrer que $A^{T}$ est semblable à $A^{-1}$.
* Soit K un corps contenant K tel que $P_{\varphi }$ se décompose en facteurs linéaires sur ${\overline {K}}$ (par exemple, si $K=\mathbb {R}$ ou $\mathbb {Q}$, on peut supposer que ${\overline {K}}=\mathbb {C}$). Montrer que si $\lambda \in {\overline {K}}$ est racine de $P_{\varphi }$, alors $1/\lambda$ est aussi une racine de $P_{\varphi }$, de la même multiplicité.
Soient A la matrice de φ et M celle de B.
* On a $U^{T}MV=(AU)^{T}M(AV)=U^{T}A^{T}MAV$ pour toutes matrices colonnes U et V, donc $M=A^{T}MA$.
* $\det M=\det(A^{T}MA)=(\det A)^{2}\det M$ et $\det M\neq 0$ (car B est non dégénérée) donc $(\det A)^{2}=1$, c'est-à-dire $\det A=\pm 1$.
* D'après 1., $MA^{-1}M^{-1}=A^{T}$, donc $P_{\varphi }(X)=\det(A-X\mathrm {I} _{n})=\det((A-X\mathrm {I} _{n})^{T})=\det(A^{T}-X\mathrm {I} _{n})=\det(MA^{-1}M^{-1}-X\mathrm {I} _{n})=\det(M(A^{-1}-X\mathrm {I} _{n})M^{-1})$ $=\det(A^{-1}-X\mathrm {I} _{n})=\det(A^{-1})\det(\mathrm {I} _{n}-XA)=(\det A)^{-1}(-X)^{n}\det(-X^{-1}\mathrm {I} _{n}+A)=(\det \varphi )^{-1}(-X)^{n}P_{\varphi }(X^{-1})=(-X)^{n}(\det \varphi )P_{\varphi }(X^{-1})$, la dernière égalité résultant de la question précédente.
* Cette propriété est une conséquence immédiate de la précédente, d'après le fait général suivant : si $P(X)=\prod _{i=1}^{n}(X-\lambda _{i})$ alors $X^{n}P(X^{-1})=\left((-1)^{n}\prod _{j=1}^{n}\lambda _{j}\right)\prod _{i=1}^{n}(X-1/\lambda _{i})$.

## Exercice 3-2

* Montrer que l'endomorphisme de $\mathbb {R} ^{2}$ donné par la matrice ${\begin{pmatrix}t&0\\0&t^{-1}\end{pmatrix}}$ est B-orthogonal pour $B={\begin{pmatrix}0&1\\1&0\end{pmatrix}}$.
* On note $R_{\theta }={\begin{pmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{pmatrix}}$. Montrer que l'endomorphisme de $\mathbb {R} ^{4}$ donné par la matrice ${\begin{pmatrix}tR_{\theta }&0\\0&t^{-1}R_{\theta }\end{pmatrix}}$ est B-orthogonal pour $B={\begin{pmatrix}0&\mathrm {I} _{2}\\\mathrm {I} _{2}&0\end{pmatrix}}$.
* Soit P un polynôme à coefficients réels qui vérifie la condition de la question 4 de l'exercice précédent. Montrer qu'il existe une forme bilinéaire symétrique non dégénérée B et un opérateur B-orthogonal dont le polynôme caractéristique est P à un facteur constant près.
* ${\begin{pmatrix}t&0\\0&t^{-1}\end{pmatrix}}^{T}{\begin{pmatrix}0&1\\1&0\end{pmatrix}}{\begin{pmatrix}t&0\\0&t^{-1}\end{pmatrix}}={\begin{pmatrix}0&1\\1&0\end{pmatrix}}$.
* ${\begin{pmatrix}tR_{\theta }&0\\0&t^{-1}R_{\theta }\end{pmatrix}}^{T}{\begin{pmatrix}0&\mathrm {I} _{2}\\\mathrm {I} _{2}&0\end{pmatrix}}{\begin{pmatrix}tR_{\theta }&0\\0&t^{-1}R_{\theta }\end{pmatrix}}={\begin{pmatrix}0&\mathrm {I} _{2}\\\mathrm {I} _{2}&0\end{pmatrix}}$.
* D'après l'hypothèse, et compte tenu du fait que si $\lambda$ est racine de P alors ${\overline {\lambda }}$ est aussi une racine de P, de même multiplicité, P est produit de facteurs des quatre formes suivantes :
** $X-\varepsilon$ avec $\varepsilon =\pm 1$ ;
** $(X-u)(X-{\overline {u}})$ avec $|u|=1$ et $u\neq \pm 1$ ;
** $(X-t)(X-1/t)$ avec $t\in \mathbb {R} \setminus \{1,-1\}$ ;
** $(X-\lambda )(X-1/\lambda )(X-{\overline {\lambda }})(X-1/{\overline {\lambda }})$ avec $|\lambda |\neq 1$ et $\lambda \notin \mathbb {R}$.
En raisonnant par blocs, il suffit de prouver l'assertion dans le cas où P lui-même est de l'une de ces quatre formes. Pour les deux premières formes, l'assertion est immédiate, en prenant pour B le produit scalaire canonique. Pour les troisième et quatrième formes, il suffit d'utiliser les questions 1 et 2, respectivement.

## Exercice 3-3

* Existe-t-il une forme bilinéaire symétrique non dégénérée B sur $\mathbb {R} ^{2}$ telle que la matrice de Jordan ${\begin{pmatrix}1&1\\0&1\end{pmatrix}}$ soit B-orthogonale ?
* Même question (sur $\mathbb {R} ^{3}$) pour ${\begin{pmatrix}1&1&0\\0&1&1\\0&0&1\end{pmatrix}}$.
* Soient $A={\begin{pmatrix}1&1\\0&1\end{pmatrix}}$ et $B={\begin{pmatrix}a&b\\b&c\end{pmatrix}}$. La matrice $A^{T}BA={\begin{pmatrix}a&a+b\\a+b&a+2b+c\end{pmatrix}}$ est égale à B si et seulement si $a=b=0$, mais B est alors dégénérée.
* Soient maintenant $A={\begin{pmatrix}1&1&0\\0&1&1\\0&0&1\end{pmatrix}}$ et $B={\begin{pmatrix}a&b&c\\b&d&e\\c&e&f\end{pmatrix}}$. La matrice $A^{T}BA={\begin{pmatrix}a&a+b&b+c\\a+b&a+2b+d&b+c+d+e\\b+c&b+c+d+e&d+2e+f\end{pmatrix}}$ est égale à B si et seulement si $a=b=0$, $d=-c$ et $e=c/2$, c'est-à-dire $B={\begin{pmatrix}0&0&c\\0&-c&c/2\\c&c/2&f\end{pmatrix}}$, et B est alors non dégénérée si et seulement si $c\neq 0$.

## Exercice 3-4

On rappelle (cf. Réduction des endomorphismes/Exercices/Diagonalisation et sous-espaces stables#Exercice 1-6) que pour tout endomorphisme d'un $\mathbb {R}$-espace vectoriel de dimension finie, il existe un sous-espace stable de dimension 1 ou 2.
Soient E un espace euclidien et $\varphi \in O(E)$.
* Montrer que toutes les valeurs propres de φ sont de module 1 (en particulier ses seules éventuelles valeurs propres réelles sont 1 et –1).
* Montrer que pour tout sous-espace F stable par φ, le sous-espace F$^⊥$ est aussi stable par φ.
* Montrer qu'il existe une base orthonormée de E dans laquelle la matrice de φ est de la forme
    ${\begin{pmatrix}{\begin{matrix}R_{\theta _{1}}&&\\&\ddots &\\&&R_{\theta _{k}}\end{matrix}}&0\\0&{\begin{matrix}\pm 1&&\\&\ddots &\\&&\pm 1\end{matrix}}\\\end{pmatrix}}$, avec $R_{\theta }={\begin{pmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{pmatrix}}$.
* Montrer que cette matrice est diagonalisable sur $\mathbb {C}$.
* Soit un vecteur $u\neq 0$ tel que $\varphi (u)=\lambda u$. Alors, $\|u\|=\|\varphi (u)\|=|\lambda |\|u\|$ donc $|\lambda |=1$.
* Si F est stable par φ alors F$^⊥$ est évidemment stable par φ* (ceci vaut pour n'importe quel endomorphisme φ), c'est-à-dire ici par φ$^{–1}$. Puisque φ$^{–1}$ préserve la dimension, l'inclusion $\varphi ^{-1}(F^{\perp })\subset F^{\perp }$ est en fait une égalité, donc $F^{\perp }=\varphi (F^{\perp })$.
* On raisonne par récurrence sur n = dim E. Si n = 0, il n'y a rien à démontrer. Supposons donc n > 0 et que l'assertion est vraie pour tout espace euclidien de dimension < n. Si φ a une valeur propre (nécessairement égale à ±1 d'après la question 1), on choisit une droite propre associée F, et l'on conclut grâce à la question 2 et à l'hypothèse de récurrence appliquée à F$^⊥$. Si φ n'a pas de valeur propre alors, d'après le rappel, il existe dans E un plan F φ-invariant. La restriction de φ à F est un automorphisme orthogonal du plan sans valeur propre ; c'est donc une rotation, et l'on conclut comme précédemment.
* Si $\theta \notin \pi \mathbb {Z}$, les deux valeurs propres $\mathrm {e} ^{\pm \mathrm {i} \theta }$ de $R_{\theta }$ sont distinctes. Si $\theta \in \pi \mathbb {Z}$, $R_{\theta }=\pm \mathrm {I} _{2}$.
Soit φ un endomorphisme de E antisymétrique, c'est-à-dire tel que φ* = –φ. Montrer de même qu'il existe une base orthonormée de E dans laquelle la matrice de φ est de la forme
    ${\begin{pmatrix}{\begin{matrix}\lambda _{1}R_{\pi /2}&&\\&\ddots &\\&&\lambda _{k}R_{\pi /2}\end{matrix}}&0\\0&{\begin{matrix}0&&\\&\ddots &\\&&0\end{matrix}}\\\end{pmatrix}}$, avec $\lambda _{k}\in \mathbb {R}$.
Pour tout sous-espace stable F, comme déjà remarqué, F$^⊥$ est stable par φ*, c'est-à-dire ici stable par –φ, donc par φ. Ceci permet de raisonner par récurrence comme dans le cas où φ était orthogonal, pour aboutir ici à l'existence d'une base orthonormée de E dans laquelle la matrice de φ est de la forme $\operatorname {diag} (A_{1},\dots ,A_{k},b_{1},\dots ,b_{\ell })$ les matrices carrées $A_{i}$ et $b_{j}$ (de tailles respectives 2 et 1) étant antisymétriques, ce qui se traduit par $b_{j}=0$ et $A_{i}={\begin{pmatrix}0&-\lambda _{i}\\\lambda _{i}&0\end{pmatrix}}=\lambda _{i}R_{\pi /2}$.

## Exercice 3-5

À l'aide de l'exercice précédent, démontrer que tout endomorphisme orthogonal d'un espace euclidien est à la fois :
* composé de réflexions (c'est-à-dire symétries orthogonales par rapport à des hyperplans) ;
* composé de deux symétries orthogonales.
Il suffit de remarquer que le plan, toute rotation R est composée de deux réflexions. En effet, les réflexions du plan sont les isométries négatives, or pour toute isométrie négative S, S$^{–1}$∗R est une isométrie négative T et R = S∗T.

## Exercice 3-6

Soient E un plan euclidien et φ une similitude de E dont la matrice dans une certaine base (u, v) est de la forme $A={\begin{pmatrix}a&-b\\b&a\end{pmatrix}}$ avec $b\neq 0$. Montrer que u et v sont orthogonaux et de même norme.
Remarquons d'abord que la similitude φ est directe (car det(A) > 0). Sa matrice dans une base orthonormée quelconque (i, j) est donc égale soit à A, soit à A$^T$.
Soit $P={\begin{pmatrix}p&q\\r&s\end{pmatrix}}$ la matrice de (u, v) dans (i, j).
Si A = P$^{–1}$AP, on trouve (par le calcul) que q = –r et s = p, d'où la conclusion annoncée.
Si A = P$^{–1}$A$^T$P alors q = r et s = –p, d'où la même conclusion.

## Exercice 3-7

Déterminer la nature d'un endomorphisme orthogonal φ de $\mathbb {R} ^{3}$ ainsi que l'angle de rotation, en fonction du déterminant et de la trace de φ.
D'après l'exercice 3-4, tout endomorphisme orthogonal φ de $\mathbb {R} ^{3}$ a pour matrice, dans une certaine base orthonormée, $A={\begin{pmatrix}R_{\theta }&0\\0&\varepsilon \end{pmatrix}}$ avec $\varepsilon =\pm 1$. On a det φ = $\varepsilon$ et tr φ = $2\cos \theta +\varepsilon$. Donc si det φ = 1, φ est une rotation et si det φ = –1, φ est une rotation suivie (ou précédée) de la réflexion par rapport au plan orthogonal à l'axe de cette rotation. Dans les deux cas, l'angle de rotation a pour cosinus ${\frac {\operatorname {tr} \varphi -\det \varphi }{2}}$.

## Exercice 3-8

Pour chacune des quatre matrices orthogonales suivantes, trouver une base orthonormée dans laquelle la matrice prend la forme canonique de l’exercice 3-4 :
    $A={\frac {1}{3}}{\begin{pmatrix}2&-1&2\\2&2&-1\\-1&2&2\end{pmatrix}},\quad B={\frac {1}{4}}{\begin{pmatrix}3&1&-{\sqrt {6}}\\1&3&{\sqrt {6}}\\{\sqrt {6}}&-{\sqrt {6}}&2\end{pmatrix}},\quad C={\frac {1}{2}}{\begin{pmatrix}1&1&1&1\\1&1&-1&-1\\1&-1&1&-1\\1&-1&-1&1\end{pmatrix}},\quad D={\frac {1}{3}}{\begin{pmatrix}1&1-{\sqrt {3}}&1+{\sqrt {3}}\\1+{\sqrt {3}}&1&1-{\sqrt {3}}\\1-{\sqrt {3}}&1+{\sqrt {3}}&1\end{pmatrix}}$.
* Le vecteur unitaire $w={\frac {1}{\sqrt {3}}}{\begin{pmatrix}1\\1\\1\end{pmatrix}}$ vérifie $Aw=w$ et $-1$ n'est pas valeur propre. On complète en choisissant un couple orthonormé $(u,v)$ dans le plan stable $w^{\perp }$, par exemple $u={\frac {1}{\sqrt {2}}}{\begin{pmatrix}1\\-1\\0\end{pmatrix}}$ et $v={\frac {1}{\sqrt {6}}}{\begin{pmatrix}1\\1\\-2\end{pmatrix}}$. $Au={\frac {1}{2}}u+{\frac {\sqrt {3}}{2}}v$ donc la matrice de l'endomorphisme orthogonal dans la nouvelle base $(u,v,w)$ est ${\begin{pmatrix}R_{\frac {\pi }{3}}&0\\0&1\end{pmatrix}}$.
* Le vecteur unitaire $w={\frac {1}{\sqrt {2}}}{\begin{pmatrix}1\\1\\0\end{pmatrix}}$ vérifie $Bw=w$ et $-1$ n'est pas valeur propre. On complète en choisissant un couple orthonormé $(u,v)$ dans le plan stable $w^{\perp }$, par exemple $u={\begin{pmatrix}0\\0\\1\end{pmatrix}}$ et $v={\frac {1}{\sqrt {2}}}{\begin{pmatrix}1\\-1\\0\end{pmatrix}}$. $Bu={\frac {1}{2}}u+{\frac {\sqrt {3}}{2}}v$ donc à nouveau, la matrice de l'endomorphisme orthogonal dans la nouvelle base $(u,v,w)$ est ${\begin{pmatrix}R_{\frac {\pi }{3}}&0\\0&1\end{pmatrix}}$.
* Le vecteur unitaire $a={\frac {1}{2}}{\begin{pmatrix}-1\\1\\1\\1\end{pmatrix}}$ vérifie $Ca=-a$ et l'hyperplan $a^{\perp }$ est propre pour $1$ donc la matrice de l'endomorphisme orthogonal dans la nouvelle base $(a,b,c,d)$ sera ${\begin{pmatrix}-1&0\\0&\mathrm {I} _{3}\end{pmatrix}}$, quel que soit le choix d'un triplet orthonormé $(b,c,d)$ dans $a^{\perp }$. Par exemple $b={\frac {1}{2}}{\begin{pmatrix}1\\-1\\1\\1\end{pmatrix}}$, $c={\frac {1}{2}}{\begin{pmatrix}1\\1\\-1\\1\end{pmatrix}}$ et $d={\frac {1}{2}}{\begin{pmatrix}1\\1\\1\\-1\end{pmatrix}}$.
* Le vecteur unitaire $w={\frac {1}{\sqrt {3}}}{\begin{pmatrix}1\\1\\1\end{pmatrix}}$ vérifie $Dw=w$ et $-1$ n'est pas valeur propre. On complète en choisissant un couple orthonormé $(u,v)$ dans le plan stable $w^{\perp }$, par exemple $u={\frac {1}{\sqrt {2}}}{\begin{pmatrix}1\\-1\\0\end{pmatrix}}$ et $v={\frac {1}{\sqrt {6}}}{\begin{pmatrix}1\\1\\-2\end{pmatrix}}$. $Du=v$ donc la matrice de l'endomorphisme orthogonal dans la nouvelle base $(u,v,w)$ est ${\begin{pmatrix}R_{\frac {\pi }{2}}&0\\0&1\end{pmatrix}}$.
Déterminer la nature des transformations de $\mathbb {R} ^{3}$ dont les matrices dans la base canonique sont :
    $A={\frac {1}{3}}{\begin{pmatrix}1&-2&-2\\-2&1&-2\\2&2&-1\end{pmatrix}}$, $B={\frac {1}{4}}{\begin{pmatrix}3&1&{\sqrt {6}}\\1&3&-{\sqrt {6}}\\-{\sqrt {6}}&{\sqrt {6}}&2\end{pmatrix}}$, $C={\begin{pmatrix}0&1&0\\0&0&-1\\1&0&0\end{pmatrix}}$, $D={\begin{pmatrix}0&1&0\\0&0&-1\\-1&0&0\end{pmatrix}}$.
$A,B,C,D$ sont orthogonales, directes sauf $C$.
$\ker(A-I)=\mathbb {R} (1,-1,0)$, $\ker(B-I)=\mathbb {R} (1,1,0)$, $\ker(-C-I)=\ker(C+I)=\mathbb {R} (1,-1,-1)$, $\ker(D-I)=\mathbb {R} (1,1,-1)$ donc $A,B,-C,D$ représentent des rotations d'axes ces droites.
L'angle $\theta$ est donné (au signe près) par $1+2\cos \theta =trace$ et vaut respectivement
$\pm \arccos(1/3),\pm \pi /3,\pm 2\pi /3,\pm 2\pi /3$.
$C$ est la composée de la rotation de même axe que $-C$ et d'angle $\theta +\pi$ par la symétrie orthogonale par rapport au plan orthogonal à cet axe.
Pour préciser le $\theta =\pm \ldots$ — dans $\mathbb {R} ^{3}$ muni de son orientation canonique et étant donné le choix d'une orientation de l'axe de rotation par un vecteur unitaire $u$ — on peut utiliser que la partie antisymétrique de la rotation vaut $\sin \theta J_{u}$, où $J_{u}(x)=u\land x$. On trouve alors :
* pour $A$ avec $u=(1,-1,0)/{\sqrt {2}}$ : $\theta =+\arccos(1/3)$ ;
* pour $B$ avec $u=(1,1,0)/{\sqrt {2}}$ : $\theta =+\pi /3$ ;
* pour $-C$ avec $u=(1,-1,-1)/{\sqrt {3}}$ : $\theta =-2\pi /3$ ;
* pour $D$ avec $u=(1,1,-1)/{\sqrt {3}}$ : $\theta =+2\pi /3$.
Soient $E$ un espace euclidien de dimension 3 orienté, et ${\cal {B}}$ une base orthonormée directe (b.o.n.d.) de $E$. Caractériser l'endomorphisme $f_{i}$ de matrice $M_{i}$ dans ${\cal {B}}$.
    $M_{1}={\frac {1}{9}}{\begin{pmatrix}8&-1&-4\\-1&8&-4\\-4&-4&-7\end{pmatrix}}$, $M_{2}={\frac {1}{3}}{\begin{pmatrix}2&1&2\\2&-2&-1\\-1&-2&2\end{pmatrix}}$.
$f_{1},f_{2}$ sont deux endomorphismes orthogonaux car $M_{1},M_{2}$ sont deux matrices orthogonales car leurs trois colonnes sont de norme 1 et orthogonales 2 à 2.
* $\ker(f_{1}-\mathrm {id} )=$ le plan $x+y+4z=0$, donc $f_{1}$ est la symétrie orthogonale par rapport à ce plan. (On pourrait — mais ce n'est pas indispensable — vérifier que $\ker(f_{1}+\mathrm {id} )=$ la droite engendrée par $u=(1,1,4)$, puisque le plan précédent est $u^{\perp }$, et calculer $\det(M_{1})=-1$.)
* $\ker(f_{2}+\mathrm {id} )=$ la droite engendrée par $v=(-1,3,1)$, donc le plan $v^{\perp }$ est stable par $f_{2}$ et la restriction de $f_{2}$ à ce plan est une isométrie n'admettant pas $-1$ pour valeur propre, donc est une rotation, dont il reste à déterminer l'angle. Choisissons une b.o.n.d. $(i,j,k)$ en posant $k=v/{\sqrt {11}}$, $i=(1,0,1)/{\sqrt {2}}$, $j=k\land i=(3,2,-3)/{\sqrt {22}}$. Alors $f_{2}(i)={5 \over 6}i+{{\sqrt {11}} \over 6}j$, donc $f_{2}$ est la composée de la symétrie orthogonale $\sigma$ par rapport au plan $v^{\perp }=k^{\perp }$, et de la rotation $\rho$ d'axe $k$ et d'angle $\theta$ avec $\cos \theta ={\frac {5}{6}}$ et $\sin \theta ={\frac {\sqrt {11}}{6}}$. En effet, l'égalité $f_{2}=\rho \sigma =\sigma \rho$ est vraie sur $\mathbb {R} v$ et sur $v^{\perp }$, donc sur leur somme directe $E$. (On pourrait vérifier que $\det(M_{2})=-1$.)
Trouver les réels $a,b,c$ pour que la matrice suivante soit dans $\mathrm {SO} (3)$ :
    $U={\begin{pmatrix}1/{\sqrt {3}}&-1/{\sqrt {2}}&a\\1/{\sqrt {3}}&1/{\sqrt {2}}&b\\1/{\sqrt {3}}&0&c\end{pmatrix}}$.
(On vérifie d'abord que les deux premières colonnes sont bien de norme $1$ et orthogonales). ${\begin{pmatrix}a\\b\\c\end{pmatrix}}={1 \over {\sqrt {6}}}{\begin{pmatrix}1\\1\\1\end{pmatrix}}\land {\begin{pmatrix}-1\\1\\0\end{pmatrix}}={1 \over {\sqrt {6}}}{\begin{pmatrix}-1\\-1\\2\end{pmatrix}}$.

## Exercice 3-9

Soient $E$ un espace euclidien de dimension 3 orienté, et ${\cal {B}}=(i,j,k)$ une base orthonormée directe de $E$. Écrire la matrice dans ${\cal {B}}$ de la rotation d'axe $i+j-k$ et d'angle $\pi /3$.
(Une autre possibilité serait d'utiliser l'expression d'une rotation à l'aide du produit vectoriel.)
Soit $k'=(i+j-k)/{\sqrt {3}}$. $f(k')=k'$, et pour $Y\perp k',f(Y)=\cos(\pi /3)Y+\sin(\pi /3)k'\land Y$, donc pour ${\begin{pmatrix}x\\y\\z\end{pmatrix}}=X=\lambda k'+Y,f(X)=\lambda k'+{\frac {1}{2}}Y+{\frac {\sqrt {3}}{2}}k'\land Y$.
Il reste à calculer (en fonction de $x,y,z$) $\lambda ,Y,k'\land Y$ :
* $\lambda =\langle k',X\rangle =(x+y-z)/{\sqrt {3}}$,
* $Y=X-\lambda k'={\frac {1}{3}}{\begin{pmatrix}2x-y+z\\-x+2y+z\\x+y+2z\end{pmatrix}}$,
* $k'\land Y={\frac {1}{\sqrt {3}}}{\begin{pmatrix}y+z\\-x-z\\-x+y\end{pmatrix}}$,
d'où $f(X)=(x+y-z)/3{\begin{pmatrix}1\\1\\-1\end{pmatrix}}+{\frac {1}{6}}{\begin{pmatrix}2x-y+z\\-x+2y+z\\x+y+2z\end{pmatrix}}+{\frac {1}{2}}{\begin{pmatrix}y+z\\-x-z\\-x+y\end{pmatrix}}={\frac {1}{6}}{\begin{pmatrix}4x+4y+2z\\-2x+4y-4z\\-4x+2y+4z\end{pmatrix}}$,
d'où $A={\frac {1}{3}}{\begin{pmatrix}2&2&1\\-1&2&-2\\-2&1&2\end{pmatrix}}$.

## Exercice 3-10

Soient $E$ un espace euclidien de dimension $q$ et $a\in \mathrm {L} (E)$ tel que $a^{3}=\mathrm {id} _{E}$. On définit alors la forme bilinéaire symétrique sur $E$ :
    $B(x,y)=\langle x,y\rangle +\langle a(x),a(y)\rangle +\langle a^{2}(x),a^{2}(y)\rangle$.
* Montrer que $B$ est un produit scalaire sur $E$.
* Démontrer que $a$ est orthogonal pour le produit scalaire $B$.
* Montrer que $\det a=1$. Qu'en déduit-on sur la matrice de $a$ dans une base orthonormée pour $B$ ?
* On suppose désormais $q=2$ et $E=\mathbb {R} ^{2}$ euclidien canonique. On considère une matrice $A\in \mathrm {M} _{2}(\mathbb {R} )$ telle que $A^{3}=\mathrm {I} _{2}$ et $A\neq \mathrm {I} _{2}$. Soit $R(\theta )={\begin{pmatrix}\cos \theta &-\sin \theta \\\sin \theta &\cos \theta \end{pmatrix}}$. Déduire de la question précédente qu'il existe $P\in \mathrm {GL} _{2}(\mathbb {R} )$ telle que $A=PR(\pm 2\pi /3)P^{-1}$.
* $B$ est bilinéaire symétrique positive car pour tout $u\in \mathrm {GL} (E)$, $(x,y)\mapsto \langle u(x),u(y)\rangle$ l'est.
* $B(a(x),a(y))=B(x,y)$.
* $(\det a)^{3}=\det \mathrm {id} _{E}=1$. Donc la matrice de $a$ dans toute base orthonormée pour $B$ appartient à $\mathrm {SO} (q)$.
* Soit $P\in \mathrm {GL} _{2}(\mathbb {R} )$ la matrice d'une base orthonormée pour $B$. Alors, $P^{-1}AP\in \mathrm {SO} (2)$ donc $P^{-1}AP=R(\theta )$ pour un certain angle non nul $\theta \in [-\pi ,\pi ]$ tel que $3\theta \equiv 0{\bmod {2\pi }}$, donc $\theta =\pm 2\pi /3$.

## Exercice 3-11

Soient $E$ euclidien de dimension 4 et $\varepsilon =(e_{1},\ldots ,e_{4})$ une base orthonormée de $E$. Soient $A={\frac {1}{4}}{\begin{pmatrix}0&-2{\sqrt {2}}&2{\sqrt {2}}&0\\2{\sqrt {2}}&1&1&-{\sqrt {6}}\\-2{\sqrt {2}}&1&1&-{\sqrt {6}}\\0&{\sqrt {6}}&{\sqrt {6}}&2\end{pmatrix}}$ et $u\in \mathrm {L} (E)$ de matrice $A$ dans $\varepsilon$.
* Montrer que $u\in \mathrm {O} ^{+}(E)$.
* Soit $F$ le plan engendré par $e_{1}$ et $u(e_{1})$. Montrer que $F$ est stable par $u$ et que la restriction de $u$ à $F$ est une rotation.
* Montrer que le plan $F^{\perp }$ est stable par $u$ et est engendré par $e_{4}$ et $u(e_{4})$. La restriction de $u$ à $F^{\perp }$ est-elle une rotation ?
* Calculs.
* $u^{2}(e_{1})=-e_{1}$ donc $F$ est stable. Dans la base $(e_{1},u(e_{1}))$, la matrice de la restriction de $u$ à $F$ est ${\begin{pmatrix}0&-1\\1&0\end{pmatrix}}$, de déterminant $1$, donc c'est une rotation.
* $F^{\perp }$ est stable par $u$ (cf. cours) et contient $e_{4}$ donc aussi $u(e_{4})$, qui forment donc une base de $F^{\perp }$. $1=\det(u)=\det(u_{|F})\det(u_{|F^{\perp }})=\det(u_{|F^{\perp }})$ donc $u_{|F^{\perp }}$ est une rotation. (Vérification : $u^{2}(e_{4})=-e_{4}\dots$.)

## Exercice 3-12

Dans $\mathbb {R} ^{3}$ euclidien, soient $f,g$ deux rotations, distinctes de l'identité. Montrer que $f\circ g=g\circ f$ si et seulement si $f$ et $g$ sont soit deux rotations de même axe, soit deux retournements par rapport à deux droites orthogonales. Dans ce second cas, montrer que $f\circ g$ est un retournement.
Notons $\mathbb {R} x$ l'axe de $f$ et $\mathbb {R} y$ celui de $g$, avec $x$ et $y$ unitaires.
* Supposons $fg=gf$. Alors $f(y)=f(g(y))=g(f(y))$ donc $f(y)\in \mathbb {R} y$ donc $f(y)=\pm y$. Si $f(y)=y$, $y\in \mathbb {R} x$ donc $f,g$ ont même axe. Si $f,g$ n'ont pas même axe alors $f(y)=-y$, donc $f$ est un retournement (et $g$ aussi en intervertissant $f,g$ dans le raisonnement) et $y\perp \mathbb {R} x$.
* Réciproque du premier cas : deux rotations de même axe commutent (et la composée est la rotation de même axe et d'angle la somme des deux angles).
* Réciproque du second cas : deux retournements d'axes orthogonaux $\mathbb {R} x,\mathbb {R} y$ commutent, et la composée est le retournement d'axe $\mathbb {R} (x\land y)$ : on le voit géométriquement ou matriciellement. On peut aussi se contenter de prouver que $h:=f\circ g$ est un retournement de $\mathbb {R} ^{3}$ (sans préciser son axe) en prouvant que $h^{2}={\rm {id}},h^{*}=h,\det(h)=1,h\neq {\rm {id}}$.
* Raisonnement direct par équivalences, en utilisant l'exercice suivant. $fg=gf\Leftrightarrow gfg^{-1}=f\Leftrightarrow$ (en notant $\alpha$ l'angle de $f$) $g(x)=x$ ou $(g(x)=-x$ et $\alpha =-\alpha )\Leftrightarrow f$ et $g$ ont même axe ou sont deux retournements d'axes orthogonaux.

## Exercice 3-13

Dans $\mathbb {R} ^{3}$ euclidien orienté, soient $r$ la rotation d'angle $\alpha$ autour d'un vecteur non nul $x$, et $g$ une rotation quelconque. Montrer que $g\circ r\circ g^{-1}$ est la rotation d'angle $\alpha$ autour de $g(x)$.
Posons $x'=g(x)$ et $r'=g\circ r\circ g^{-1}$. Quitte à diviser $x$ et $x'$ par leur norme (commune), on peut les supposer unitaires. La rotation $r$ est caractérisée par $r(x)=x$ et $\forall y\perp x\quad r(y)=(\cos \alpha )y+(\sin \alpha )x\land y$. On en déduit $r'(x')=g(r(x))=g(x)=x'$ et $\forall y'\perp x'$, en posant $y=g^{-1}(y')$, $0=\langle g(y),g(x)\rangle =\langle y,x\rangle$ donc $r'(y')=g(r(y))=g((\cos \alpha )y+(\sin \alpha )x\land y)=(\cos \alpha )g(y)+(\sin \alpha )g(x\land y)=(\cos \alpha )y'+(\sin \alpha )x'\wedge y'$, d'où le résultat.

## Exercice 3-14

(Simplicité de ${\rm {SO}}(\mathbb {R} ^{3})$) Soit $G$ un sous-groupe distingué du groupe ${\rm {SO}}(\mathbb {R} ^{3})$ des rotations de $\mathbb {R} ^{3}$. On suppose $G$ non réduit au neutre (l'identité de $\mathbb {R} ^{3}$) et l'on va montrer qu'alors $G$ contient au moins un retournement (c), puis qu'il les contient tous (d), puis finalement que $G={\rm {SO}}(\mathbb {R} ^{3})$ tout entier (e).
a) Soit $f$ un élément de $G$ différent de l'identité. En considérant les $f^{n}=f\circ f\circ \ldots f$, montrer qu'il existe dans $G$ au moins une rotation $g$ d'angle $\theta$ tel que $\cos \theta <0$.
b) Montrer qu'il existe un vecteur non nul $x$ tel que $g(x)\perp x$.
c) On note $r$ le retournement autour de $\mathbb {R} x$ et $R=r\circ g\circ r\circ g^{-1}$.
i) Montrer que $R\in G$.
ii) Montrer que $R$ est un retournement (utiliser le résultat des deux exercices précédents).
d) Soit $s$ un retournement arbitraire.
i) Montrer qu'il existe une rotation $t$ telle que $t\circ R\circ t^{-1}=s$ (utiliser le résultat de l'exercice précédent).
ii) En déduire que $s\in G$.
iii) En déduire que $G$ contient tous les retournements.
e)
i) Démontrer que toute rotation dans $\mathbb {R} ^{3}$ est un produit de deux retournements.
ii) En déduire que $G={\rm {SO}}(\mathbb {R} ^{3})$.
a) Soit $\alpha \in [-\pi ,\pi ]$ l'angle de la rotation $f$. Il s'agit de prouver qu'il existe $n\in \mathbb {N} ^{*}$ tel que $\cos(n\alpha )<0$. Si un tel $n$ n'existait pas on aurait (par récurrence sur $k$) $\forall k\in \mathbb {N} \quad 2^{k}\alpha \in [-\pi /2,\pi /2]$, d'où $\alpha =0$, ce qui est exclu par l'hypothèse $f\neq {\rm {id}}$.
b) Soient $k$ un vecteur unitaire de l'axe de la rotation $g$, et $i$ un vecteur unitaire orthogonal à $k$. Posons $x=i+tk$ avec $t\in \mathbb {R}$. Alors $\langle x,g(x)\rangle =\langle i+tk,g(i)+tk\rangle =\langle i,g(i)\rangle +t^{2}=\cos \theta +t^{2}$ est nul pour $t=\pm {\sqrt {-\cos \theta }}$.
c)
i) $r=r^{-1}$ donc $R=(r^{-1}gr)g^{-1}$ donc $R\in G$ car $g\in G$, $r\in {\rm {SO}}(\mathbb {R} ^{3})$ et $G$ est un sous-groupe distingué de ${\rm {SO}}(\mathbb {R} ^{3})$.
ii) D'après l'exercice précédent (appliqué à $\alpha =\pi$), $g\circ r\circ g^{-1}$ est le retournement d'axe $\mathbb {R} g(x)$. D'après la fin de l'exercice 3-12, $R$ est donc un retournement.
d)
i) Soient $\Delta$ l'axe de $R$ et $D$ celui de $s$. D'après l'exercice précédent, il s'agit de trouver une rotation $t$ telle que $t(\Delta )=D$. Si $D=\Delta$, $t={\rm {id}}$ est une solution. Si $D\neq \Delta$, on peut par exemple choisir pour $t$ le retournement par rapport à l'une des deux bissectrices de $D$ et $\Delta$.
ii) $R\in G$, $t\in {\rm {SO}}(\mathbb {R} ^{3})$ et $G$ est un sous-groupe distingué de ${\rm {SO}}(\mathbb {R} ^{3})$.
iii) On vient de prouver que n'importe quel retournement $s$ appartient à $G$.
e)
i) Soient $f$ une rotation dans $\mathbb {R} ^{3}$ et $D$ son axe. Pour décomposer $f$ en produit de deux retournements d'axes $D_{1},D_{2}$ il suffit de décomposer, dans le plan $D^{\perp }$, la rotation plane restriction de $f$ en produit de deux symétries orthogonales d'axes $D_{1},D_{2}$. Une telle décomposition est toujours possible (on peut même choisir arbitrairement, dans le plan $D^{\perp }$, l'une des deux droites $D_{1},D_{2}$).
ii) Résulte de d.iii et e.i.
| Coniques | Orthonormalisation de Gram-Schmidt |