Dixième problème de Hilbert

Le dixième problème de Hilbert fait partie de la liste des 23 problèmes posés par David Hilbert en 1900 à Paris, lors de sa conférence au congrès international des mathématiciens. Il énonce :
{{énoncé| X. — De la possibilité de résoudre une équation diophantienne.
On donne une équation diophantienne à un nombre quelconque d'inconnues et à coefficients entiers rationnels : On demande de trouver une méthode par laquelle, au moyen d'un nombre fini d'opérations, on pourra distinguer si l'équation est résoluble en nombres entiers rationnels.}}

En termes modernes, il demande de trouver un algorithme général permettant de décider, pour n'importe quelle équation diophantienne (c'est-à-dire équation polynomiale à coefficients entiers), si cette équation possède des solutions entières.

En 1970, Youri Matiiassevitch démontre qu'il n'existe pas de tel algorithme.
Le théorème de Matiiassevitch établit que les ensembles diophantiens, qui sont les ensembles de solutions entières positives ou nulles d'une équation diophantienne avec paramètres, sont exactement tous les ensembles récursivement énumérables, ce qui entraîne qu'un tel algorithme ne peut exister.

 Prérequis 

 Description 
Il s'agit du seul des 23 problèmes de Hilbert qui est ce que l'on appelle aujourd'hui un problème de décision : il existe une infinité dénombrable d'équations diophantiennes, mais la solution du dixième problème demande de trouver une  méthode universelle qui permette de statuer sur la résolubilité de n'importe quelle équation diophantienne. Il existe de fait des méthodes très diverses et utilisant des techniques mathématiques très variées pour résoudre des équations diophantiennes spécifiques. Par exemple, le théorème de Fermat-Wiles résout une famille d'équations diophantiennes à trois inconnues.

Hilbert n'emploie pas le mot « algorithme », mais il n'y a aucun doute que c'est cela qu'il entend. À son époque, il n'existe pas de définition précise de ce qu'est un algorithme, ce qui n'aurait pas été gênant si la solution du problème avait été positive. Pour pouvoir envisager une solution négative, il fallait en proposer une définition mathématique, qui est le fruit de travaux dans les années 1930, et repose sur la thèse de Church, formulée en 1936.

 Équation diophantienne 

Commençons par un exemple : considérons l'équation polynomiale (à deux inconnues)  On sait depuis la découverte des irrationnels en Grèce Antique qu'il n'existe pas de  nombre rationnel   dont le carré vaut . On dira alors que l'équation diophantienne associée au polynôme  ne possède aucune solution (on précise parfois « aucune solution non triviale », c’est-à-dire formée d’entiers strictement positifs). De manière générale, une équation diophantienne est une équation du type  où  est un polynôme à  indéterminées à coefficients  entiers, dont on cherche des solutions  entières (ou parfois seulement entières positives, voir ci-dessous).

Un exemple de familles d'équations diophantiennes dont on sait trouver des solutions, est la famille des équations du type  d'inconnues , où  sont des entiers; par exemple l'équation . On peut bien sûr imaginer des exemples plus exotiques comme  d'inconnues .

Hilbert pose donc la question dans son dixième problème de savoir si l'on peut écrire un algorithme , prenant en entrée un polynôme , à coefficients entiers, et décidant si oui ou non l'équation  possède des solutions entières (en particulier on ne demande pas à l'algorithme  de donner ces solutions si elles existent).

Il est important de noter que la résolution de   où  sont des  entiers quelconques, revient à résoudre  où  sont des entiers naturels. Ainsi, on peut donc ramener le dixième problème de Hilbert à un autre problème de décision, qui est de savoir si une équation diophantienne admet des solutions entières positives (on parle de réduction).

 Ensembles diophantiens 

On ne va maintenant plus considérer une seule équation diophantienne  mais une famille d'équations diophantiennes du type , où  sont des paramètres qui sont des entiers positifs.

Ceci peut donner l'impression que l'on complexifie le problème mais cette interprétation des équations diophantiennes va s'avérer très utile. En effet pour un polynôme  à paramètres entiers , on peut considérer l'ensemble , c'est-à-dire l'ensemble des -uplets de paramètres  tels que l'équation  possède au moins une solution entière positive. Réciproquement, on dit qu'un ensemble de -uplets est diophantien s'il est de cette forme, et alors le polynôme  est une représentation diophantienne de cet ensemble.

Par exemple l'ensemble des entiers naturels pairs est diophantien : en effet   en est une représentation diophantienne. De même, le sous-ensemble de  des couples d'entiers positifs premiers entre eux est diophantien puisque, par le théorème de Bézout, cet ensemble est représenté par le polynôme paramétré  toujours avec  des entiers positifs.

 Problèmes décidables 

Comme dit dans la description, le dixième problème de Hilbert est un problème de décision, c'est-à-dire qu'on se pose la question de l'existence d'un algorithme  qui, à chaque fois que l'on entre une équation diophantienne, renvoie « oui » ou « non » selon qu'elle possède ou non des solutions. S'il existe un tel algorithme, le problème de décision est dit décidable. On dira, de manière équivalente, que l'ensemble des instances positives d'un tel problème est alors récursif.
 Ensembles récursivement énumérables 

Un sous-ensemble  de est dit  récursivement énumérable s’il existe un algorithme qui s'exécute indéfiniment et qui énumère exactement tous les membres de .

En effet, considérons une équation diophantienne  et imaginons un algorithme qui parcourt toutes les valeurs possibles des -uplets  dans un ordre précis (par exemple un  ordre lexicographique), et affiche  chaque fois que . Cet algorithme s'exécutera sans fin et énumérera exactement les -uplets  pour lesquels  a une solution.  

Par exemple, le langage d'acceptation, c'est-à-dire l'ensemble des couples  où  est une machine de Turing qui termine avec le mot  comme donnée initiale, est récursivement énumérable mais pas récursif. Ainsi, on peut trouver un ensemble récursivement énumérable  de -uplets non récursif, c'est-à-dire tel que pour n'importe quel algorithme on puisse trouver un -uplet pour lequel cet algorithme tourne indéfiniment sans jamais renvoyer de réponse. En vue des liens déjà établis entre ensembles diophantiens et ensembles récursivement énumérables, si l'ensemble  précédent était diophantien, on aurait notre réponse au dixième problème de Hilbert.

 Théorème de Matiiassevitch 

Ces derniers énoncés ont incité Martin Davis à conjecturer que les ensembles récursivement énumérables sont exactement les ensembles diophantiens. Ceci donnerait en effet, grâce au dernier énoncé, une réponse négative au dixième problème de Hilbert. Le théorème de Matiiassevitch (1970) prouve la conjecture de  Davis.

 Énoncé 

Le théorème de  Matiiassevitch, prouvant la conjecture de Martin Davis, lui-même est beaucoup plus fort que l'insolubilité du dixième problème. Cet énoncé aussi appelé « Théorème DPRM » (pour Martin Davis, Hilary Putnam, Julia Robinson et  Matiiassevitch) affirme que :

Le fait que tout ensemble diophantien est récursivement énumérable a été expliqué ci-dessus dans la partie ensemble récursivement énumérable, est évidemment le sens de l'équivalence qui a posé le moins de problèmes. C'est l'implication « être récursivement énumérable ⇒ être diophantien » qui a pris vingt ans à être prouvée.

 Réponse au problème 
Ce théorème répond bien au problème puisqu'on peut trouver un ensemble récursivement énumérable non récursif, et par le théorème précédent, cet ensemble est diophantien. On a donc un ensemble diophantien non récursif et la théorie de la  décidabilité nous dit donc que le problème de décision des équations diophantiennes a une réponse négative.
 Conséquences 
 Incomplétude de Gödel 
Le théorème de Matiiassevitch a été depuis employé pour démontrer l'indécidabilité de nombreux problèmes liés à l'arithmétique. De même, on peut également dériver la forme suivante plus forte du premier théorème d'incomplétude de Gödel :

 Équation diophantienne universelle 

Si , on peut lister tous les ensembles récursivement énumérables de -uplets de :

Soit alors  l'ensemble des -uplets tel que: 

Il n'est alors pas compliqué de prouver que  est récursivement énumérable, ainsi par le théorème de Matiiassevitch: 
 

On a donc, de façon analogue à la Machine de Turing universelle, pour tout , l'existence d'un polynôme universel , où l'universalité est à prendre de la façon suivante:

Ainsi, pour un nombre de paramètres fixes, une équation diophantienne, de degré et nombre d'inconnues quelconques, peut se ramener à la résolution d'une équation diophantienne de degré et nombre d'inconnues fixes. 

 Notes et références 

 Bibliographie 
  
  
 Youri Matiiassevitch, Le dixième problème de Hilbert: Son indécidabilité'', Masson, 1995 
 
 

Problème de Hilbert
Informatique théorique
Logique mathématique
Calculabilité
Conjecture réfutée