Dans cette thèse, nous étudions les effets d'un environnement stochastique et de l'utilisation d'une stratégie d'opting-out sur l'évolution de la coopération dans les jeux évolutionnaires. La thèse contient 8 articles, dont 6 sont déjà publiés dans des revues avec comité de lecture. Outre l'introduction, la thèse est divisée en deux parties, la partie 1 composée de 5 articles et la partie 2 de 3 articles. La partie 1 étudie l'impact de gains randomisés dans les jeux évolutionnaires. L'article 1 introduit les concepts de stabilité pour les jeux avec matrice de paiement aléatoire 2x2 dans des populations infinies avec des générations discrètes sans chevauchement dans un environnement stochastique. On y donne les conditions pour qu'un équilibre, sur la frontière ou à l'intérieur du simplexe des fréquences des stratégies, soit stochastiquement localement stable ou instable. L'article 2 étend les résultats de l'article 1 au cas où la valeur sélective est une fonction exponentielle du gain attendu suite à des interactions aléatoires par paires et montre que, de manière inattendue, le bruit aléatoire environnemental peut rompre un cycle périodique et favoriser la stabilité d'un équilibre intérieur. L'article 3 discute des effets de la sélection faible. Alors que les conditions de stabilité dans un environnement aléatoire reviennent aux conditions du cas déterministe lorsque l'intensité de la sélection diminue, les fluctuations aléatoires des gains peuvent accélérer la vitesse de convergence vers un équilibre stable sous une sélection plus faible. L'article 4 applique la théorie de la stabilité évolutive stochastique à un jeu randomisé de dilemme du prisonnier. On y montre que l'augmentation de la variance des gains de défection est propice à l'évolution de la coopération. L'article 5 étudie les jeux matriciels randomisés dans des populations finies et donne les conditions pour que la sélection favorise l'évolution de la coopération dans le contexte du jeu randomisé de dilemme du prisonnier. La partie 2 considère un jeu répété de dilemme du prisonnier dans le cas où un comportement d'opting-out est adopté par chaque joueur dans les interactions par paires. L'article 6 étudie la dynamique évolutive de la coopération et de la défection dans ce contexte et montre une possible coexistence à long terme, en supposant une population infinie et un équilibre rapide (en fait, instantané) dans les fréquences des paires. L'article 7 rapporte des résultats expérimentaux avec 264 étudiants universitaires utilisant la stratégie d'opting-out qui soutiennent la prédiction théorique d'une coexistence à long terme de coopération et de défection. L'article 8 étend l'analyse du modèle avec la stratégie d'opting-out au cas d'une population finie et fournit une preuve rigoureuse des deux échelles de temps pour les fréquences de coopération et de défection d'une part et les fréquences de paires de stratégies d'autre part.

Mots-clés : Diffusion approximation , Évolution de la coopération , Gains aléatoires , Dynamique du réplicateur , Approximation de la diffusion , Dilemme du Prisonnier , Dilemme du Prisonnier aléatoire , Stratégie d'opting-out , Probabilité de fixation , Deux échelles de temps , Stochastiquement localement stable , Stochastiquement localement instable , Stochastiquement évolutivement stable , Stochastiquement convergence stable , Sélection faible , Coexistence à long terme