Aspects géométriques et intégrables des modèles de matrices aléatoires

Cette thèse traite des aspects géométriques et d'intégrabilité associés aux modèles de matrices aléatoires. Son but est de présenter diverses applications des modèles de matrices aléatoires allant de la géométrie algébrique aux équations aux dérivées partielles des systèmes intégrables. Ces différentes applications permettent en particulier de montrer en quoi les modèles de matrices possèdent une grande richesse d'un point de vue mathématique.    Ainsi, cette thèse abordera d'abord l'étude de la jonction de deux intervalles du support de la densité des valeurs propres au voisinage d'un point singulier. On montrera plus précisément en quoi ce régime limite particulier aboutit aux équations universelles de la hiérarchie de Painlevé II des systèmes intégrables. Ensuite, l'approche des polynômes (bi)-orthogonaux, introduite par Mehta pour le calcul des fonctions de partition, permettra d'énoncer des problèmes de Riemann-Hilbert et d'isomonodromies associés aux modèles de matrices, faisant ainsi le lien avec la théorie de Jimbo-Miwa-Ueno. On montrera en particulier que le cas des modèles à deux matrices hermitiens se transpose à un cas dégénéré de la théorie isomonodromique de Jimbo-Miwa-Ueno qui sera alors généralisé. La méthode des équations de boucles avec ses notions centrales de courbe spectrale et de développement topologique permettra quant à elle de faire le lien avec les invariants symplectiques de géométrie algébrique introduits récemment par Eynard et Orantin. Ce dernier point fera également l'objet d'une généralisation aux modèles de matrices non-hermitien (beta quelconque) ouvrant ainsi la voie à la ``géométrie algébrique quantique'' et à la généralisation de ces invariants symplectiques pour des courbes ``quantiques''. Enfin, une dernière partie sera consacrée aux liens étroits entre les modèles de matrices et les problèmes de combinatoire. En particulier, l'accent sera mis sur les aspects géométriques de la théorie des cordes topologiques avec la construction explicite d'un modèle de matrices aléatoires donnant le dénombrement des invariants de Gromov-Witten pour les variétés de Calabi-Yau toriques de dimension complexe trois utilisées en théorie des cordes topologiques.   L'étendue des domaines abordés étant très vaste, l'objectif de la thèse est de présenter de façon la plus simple possible chacun des domaines mentionnés précédemment et d'analyser en quoi les modèles de matrices peuvent apporter une aide précieuse dans leur résolution. Le fil conducteur étant les modèles matriciels, chaque partie a été conçue pour être abordable pour un spécialiste des modèles de matrices ne connaissant pas forcément tous les domaines d'application présentés ici. This thesis deals with the geometric and integrable aspects associated with random matrix models. Its purpose is to provide various applications of random matrix theory, from algebraic geometry to partial differential equations of integrable systems. The variety of these applications shows why matrix models are important from a mathematical point of view.   First, the thesis will focus on the study of the merging of two intervals of the eigenvalues density near a singular point. Specifically, we will show why this special limit gives universal equations from the Painlevé II hierarchy of integrable systems theory. Then, following the approach of (bi) orthogonal polynomials introduced by Mehta to compute partition functions, we will find Riemann-Hilbert and isomonodromic problems connected to matrix models, making the link with the theory of Jimbo, Miwa and Ueno. In particular, we will describe how the hermitian two-matrix models provide a degenerate case of Jimbo-Miwa-Ueno's theory that we will generalize in this context. Furthermore, the loop equations method, with its central notions of spectral curve and topological expansion, will lead to the symplectic invariants of algebraic geometry recently proposed by Eynard and Orantin. This last point will be generalized to the case of non-hermitian matrix models (arbitrary beta) paving the way to ``quantum algebraic geometry'' and to the generalization of symplectic invariants to ``quantum curves''. Finally, this set up will be applied to combinatorics in the context of topological string theory, with the explicit computation of an hermitian random matrix model enumerating the Gromov-Witten invariants of a toric Calabi-Yau threefold.   Since the range of the applications encountered is large, we try to present every domain in a simple way and explain how random matrix models can bring new insights to those fields. The common element of the thesis being matrix models, each part has been written so that readers unfamiliar with the domains of application but familiar with matrix models should be able to understand it.

Keyphrases: géométrie algébrique, équations de boucles, invariants symplectiques, théorie des cordes topologiques, isomonodromie, algebraic geometry, loop equations, symplectic invariants, topological string theory, isomonodromy, polynomes orthogonaux, orthogonal polynomials