# Trace et transposée de matrice/Résolution au mieux d'un système d'équations insoluble
## Méthode

Nous savons que lorsqu’un système a plus d’équations que d’inconnues, il est en général insoluble. On peut toutefois ne pas avoir besoin d’une solution satisfaisant exactement toutes les équations du système. Des solutions, satisfaisant à peu près les équations, peuvent parfois être suffisantes.
Soit A la matrice des coefficients des premiers membres des équations d’un système.
Soit X la matrice colonne des inconnues du système.
Soit B la matrice colonne des seconds membres.
Le système peut alors être représenté par l’équation matricielle AX = B.
Supposons que ce système ait plus d’équations que d’inconnues. Cela se traduira par le fait que la matrice A a plus de lignes que de colonnes. Autrement dit : A ∈ M$_{n,m}$(ℝ) avec n ≥ m. Nous avons donc à résoudre un système de n équations à m inconnues.
Le problème qui nous préoccupe ici est de trouver une matrice X telle que la distance de la matrice AX à la matrice B soit la plus petite possible (ce qui est équivalent à dire, si l’on considère le système sans le mettre sous forme matricielle, que l’on cherche des valeurs pour les inconnues telles que la somme des carrés des différences entre premier et second membre, soit la plus petite possible). On dira que la matrice colonne des inconnues X satisfait au mieux le système AX = B.
B peut être considéré comme un point fixe dans l’espace des matrices colonnes qui est de dimension n.
Lorsque X varie, AX décrit un sous-espace vectoriel de cet espace (la dimension de ce sous-espace est égale au rang r de la matrice A, c'est-à-dire son nombre maximal — inférieur ou égal à m — de colonnes linéairement indépendantes).
La plus petite distance d'un point à un sous-espace est la distance de ce point à son projeté orthogonal sur ce sous-espace.
Une solution « au mieux » d'un système AX = B est une matrice colonne P telle que AP soit égal au projeté orthogonal du point B sur l’espace engendré par AX, X prenant toutes les valeurs possibles.
P est une solution au mieux d'un système AX = B si et seulement si P est solution du système :
    $^t$A A X = $^t$A B.
Soit P une matrice colonne. Le point AP est égal au projeté orthogonal de la matrice B sur l’espace des matrices AX si et seulement si, pour tout $X\in \mathrm {M} _{n,1}(\mathbb {R} )$ :
    $\langle AX-AP\mid B-AP\rangle =0$,
ce qui se réécrit
    $\langle A(X-P)\mid AP-B\rangle =0$
ou encore, en utilisant la propriété 12 :
    $\langle X-P\mid ^{t}\!A(AP-B)\rangle =0$.
P est donc une solution au mieux de AX = B si et seulement si le vecteur $^{t}\!AAP-^{t}\!AB$ est orthogonal à toutes les colonnes X – P, c'est-à-dire s'il est nul.
Remarque : Le système $^t$A A X = $^t$AB a autant d’équations que d’inconnues et a, par construction, au moins une solution. Ses solutions seront appelées les pseudo-solutions du système AX = B.

## Transformations possibles du système impossible à résoudre

Il faut bien prendre conscience que ce que l’on cherche à faire dans ce chapitre, c’est trouver des valeurs des inconnues telles que la somme des carrés des différences entre premier et second membre soit la plus petite possible. Il se peut, toutefois, que le système soit donné sous une forme qui ne permet pas de le mettre immédiatement sous forme matricielle. Nous sommes amenés à nous demander quelles opérations il nous est permis de faire à ce système sans perturber le résultat final.
Nous savons que nous pouvons ajouter ou retrancher un même nombre aux deux membres d'une équation et cette opération laisse invariante la différence entre les deux membres de l'équation. Nous savons que de cette règle résulte directement la règle du transfert d'un terme d'un membre dans un autre avec changement de signe (+ en - et - en +). Nous déduisons de cela que l’on peut transférer un terme d'un membre d'une équation dans un autre sans perturber la somme des carrés des différences entre les deux membres. Cette opération pourra donc être effectuée sur le système impossible à résoudre pour pouvoir le mettre sous forme matricielle.
Nous savons aussi que l’on peut multiplier les deux membres d'une équation par un même nombre. Toutefois, nous comprenons que si ce nombre est différent de 1 ou de -1, la différence des deux membres va être modifiée. Par conséquent, il nous est interdit de multiplier les deux membres d'une équation d'un système impossible à résoudre avant de le mettre sous forme matricielle.
Par exemple, soit le système :
    ${\begin{cases}2x=3-y\\x-y=2\\5x-2y=7.\end{cases}}$
Pour pouvoir mettre ce système sous forme matricielle, nous pouvons, dans la première équation, commencer par faire passer le y dans le premier membre et nous obtenons :
    ${\begin{cases}2x+y=3\\x-y=2\\5x-2y=7.\end{cases}}$
Par contre, dans le système :
    ${\begin{cases}5x+10y=25\\3x-2y=23\\x-4y=5,\end{cases}}$
on peut être tenté de simplifier la première équation par 5. Cette opération est interdite car cela revient à multiplier les deux membres par 1/5. Il est donc important de ne pas faire cette simplification avant de mettre le système sous forme matricielle sinon le résultat en sera modifié (le lecteur est invité à le vérifier).
| Espace euclidien sur un ensemble de matrices | Droite de régression de y en x |