Comportement en temps petits des Λ n-coalescents avec l'accent sur les longueurs des branches externes

Le Λ-coalescent est un processus stochastique utilise pour modeliser l'arbre genealogique d'une population composee d'une infinite d'individus, admettant des collisions multiples de lignages. Motivee par les applications en biologie, cette these etudie principalement les longueurs des branches d'une sous-famille de coalescents associee a n individus (les Λ n-coalescents) qui est largement utilisee par les biologistes et les probabilistes. Nous notons que les Λ-coalescents sont caracterises par des mesures finies Λ definies sur [0, 1]. Dans un premier temps, nous nous interessons au cas particulier des Λ n-coalescents avec Λ =Beta(2- α,α), la mesure Beta lorsque 1 < α < 2. Pour simplifier les notations, on les appelle Beta(2- α,α) n-coalescents. Mohle a conjecture dans une communication a Marseille en 2008 que dans ce cas-la, la longueur d'une branche externe choisie au hasard est de l'ordre de n1-α quand n tend vers ∞. Nous montrons que cette longueur normalisee par nα-1 converge vers une loi limite que nous expliciterons. Nous presentons deux methodes pour montrer ce resultat. Ma contribution est d'introduire la construction recursive du Λ n-coalescent qui nous permet d'etablir l'une des methodes. Cette construction consiste a ajouter l'individu n au Λ (n -1)-coalescent d'une certaine maniere pour constituer un Λ n-coalescent. L'avantage de cette construction est que, d'une part, on peut voir directement comment la branche externe de l'individu n s'attache au coalescent, ce qui facilite le calcul de cette longueur. D'autre part, cette construction donne un processus d'auto-apprentissage des individus en fonction du coalescent construit par les precedents, ce qui offre un autre point de vue qui peut etre utile pour d'autres problemes. L'article (14) base sur ce travail, en collaboration avec Jean-Stephane Dhersin, Fabian Freund et Arno Siri-Jegousse, est publie en 2013 dans le revue Stochastic Processes and their Applications. Dans cet article, les resultats sont prouves pour une classe relativement generale de coalescents qui incluent les Beta(2- α,α)-coalescents avec 1 < α < 2. Dans un deuxieme travail, toujours dans le cadre des Beta(2- α,α) n-coalescents avec 1 < α < 2, nous etudions le comportement asymptotique du moment d'ordre 2 de la longueur totale des branches externes en utilisant une methode recursive. Le comportement est decrit d'une facon explicite. On etudie les moments de la longueur d'une seule branche externe ainsi que la covariance entre deux longueurs de branches externes. L'article correspondant est soumis a Journal of Applied Probability. Il existe une version plus generale (16) de cet article qui s'interesse a une classe plus large de Λ-coalescents que les Beta(2- α,α) n-coalescents avec 1 < α < 2. Un troisieme travail cherche a cloturer le probleme de la longueur d'une branche externe en proposant une caracterisation pour beaucoup de Λ n-coalescents. Sous certaines conditions sur la mesure Λ (satisfaites en particulier par le coalescent de Bolthausen-Sznitman et les coalescents avec poussiere comme les Beta(2- α,α) n-coalescents avec 0 < α < 1), nous obtenons un facteur de normalisation « universel » et nous proposons une conjecture pour un resultat d'une classe plus generale de mesures Λ incluant les Beta(2- α,α) n-coalescents avec 1 < α < 2. L'outil principal est une nouvelle construction (measure division construction) du Λ n-coalescent. Pour cette construction, on divise d'abord Λ en deux parties Λ₁,Λ ₂Λ telles que Λ = Λ₁ + Λ₂. On part alors d'un Λ₁n-coalescent que l'on modifie selon la mesure Λ₂ pour avoir finalement un Λ n-coalescent. Si la masse totale de Λ₁est petite, alors le Λ n-coalescent est proche du Λ₂coalescent. En ce sens, on peut esperer que meme si les coalescents sont perturbes par une autre mesure, certaines proprietes restent encore vraies. Cette methodologie aboutit a montrer le resultat principal de ce travail qui est dans l'article Y (2013) soumis a Markov Processes and Related Fields. Le dernier travail est une continuation de l'article de (6). Ce dernier etudie le comportement asymptotique en temps petits du processus de frequence asymptotique ordonnee (Beta(2- α,α) ranked coalescent process) dans le cas ou 1 < α < 2. Nous utilisons ce processus de frequence asymptotique ordonnee et la construction de la boite de peinture de Kingman pour retrouver les Beta(2- α,α) n-coalescents. Ceci nous permet de deduire la loi limite jointe de plusieurs longueurs de branches externes dans le cas des Beta(2- α,α) n-coalescents avec 1 < α < 2. Certaines quantites comme la taille du clade minimal et la taille du bloc maximal en temps petits ont aussi ete etudiees. Il s'agit d'un travail en collaboration avec Arno Siri-Jegousse. L'article est soumis a ALEA (Latin American Journal of Probability and Mathematical Statistics). La these se compose d'une introduction des resultats, suivie des 4 articles parus ou soumis dans leur version originale.