Il y a plus de 20 ans, la détection de planètes extrasolaires a créé une véritable révolution dans le domaine de l’astronomie. Ces dernières étant si peu lumineuses par rapport à leur étoile hôte, ce n'est toutefois que depuis le milieu des années 2000 qu'on arrive à en « voir » directement, grâce à la lumière qu'elles émettent. Les quelques dizaines d'exoplanètes détectées ainsi révèlent des aspects intrigants de l'architecture des systèmes exoplanétaires et de la nature des compagnons de faible masse. Plusieurs relevés par imagerie directe ont été entrepris, et de nouveaux instruments dédiés à l'imagerie haut contraste comme GPI ou SPHERE s'attaquent maintenant à détecter des planètes de plus en plus semblables aux planètes géantes de notre Système Solaire. Les confins des systèmes planétaires, là où on ne s'attend pas à trouver beaucoup de compagnons, ont été jusqu'à maintenant un peu négligés.  Dans le relevé profond qui est présenté dans la première partie, l'imagerie est exploitée sous sa forme la plus simple, sans technique sophistiquée d'imagerie haut contraste, afin pousser la recherche d'exoplanètes géantes gazeuses dans des régions très éloignées autour d'étoiles jeunes de faible masse. À cette fin, un relevé profond d'imagerie appelé PSYM-WIDE (Planet Search around Young-associations M dwarfs) a été effectué à l'Observatoire Gemini Sud, avec l'instrument GMOS (Gemini Multi-Object Spectrographs), dans deux filtres du proche infrarouge (i et z). Les étoiles sondées sont des membres nouvellement identifiés d'associations d'étoiles jeunes. Les compagnons autour de ces étoiles, dont l'âge est de moins de ~200 millions d'années, sont encore en train de se contracter et de refroidir, et sont donc plus lumineux. Conformément à la théorie, de tels compagnons très distants semblent rares. Plus spécifiquement, ce relevé permet de déduire que 0,84_{-0,66}^{+6,73}% des étoiles ont au moins un compagnon de masse entre 5 et 13MJup dans l'intervalle de séparations orbitales entre 500 et 5000 unités astronomiques (ua, 1ua = la distance Terre-Soleil).   Un seul compagnon de masse planétaire (~11MJup) a été détecté, à 2000ua de GU Psc, une étoile d'environ le tiers de la masse du Soleil qui est membre de l'association jeune (~100-150Ma) AB Doradus. L'étude détaillée de cet objet unique constitue la seconde partie de cette thèse. Des observations ont été effectuées à Gemini Nord avec GNIRS (spectroscopie infrarouge), au Télescope Canada-France-Hawaii (CFHT; photométrie dans l'infrarouge proche) avec WIRCam et avec le satellite spatial WISE (photométrie dans l'infrarouge moyen) ainsi qu'au télescope Keck (imagerie haut contraste). La comparaison de ces observations avec des modèles d'atmosphère et d'évolution a permis d'en déterminer les caractéristiques physiques. Ce curieux objet de type spectral T3.5 aurait une température d'environ 1000K et une faible gravité de surface, typique à ce jeune âge. Comme tous les compagnons de masse planétaire lointains, il est difficile d'expliquer la présence de cet objet à une si grande distance de son étoile par les méthodes traditionnelles de formation planétaire. C'est cependant un objet très intéressant, sa grande distance le rendant beaucoup plus facile à étudier que les exoplanètes plus rapprochées de leur étoile détectées par imagerie haut-contraste, qui ont une masse et un âge similaires.  La troisième partie de cette thèse exploite justement cet avantage. On y présente l'étude de la variabilité de la luminosité de GU Psc b, faite au Télescope Canada-France-Hawaii (CFHT). Trois  séquences d'observation photométriques de 5-6h consécutives ont été faites dans l'infrarouge (filtre J), avec l'instrument WIRCam. Lors d'une de ces trois séquences, une variation de 4+-1% (pic-à-pic) de la luminosité sur une période d'environ 6h a été détectée. Aucune variabilité n'est détectée de manière convaincante pour les deux autres séquences. Cette variation périodique de l'intensité lumineuse, déjà observée pour des naines brunes plus massives et plus vieilles, peut s'expliquer par la rotation de ces objets, qui montrent tour à tour différentes portions de leur atmosphère, non uniforme. Des observations plus longues et/ou sur des télescopes plus grands ou dans l'espace permettront de confirmer ce résultat et de mieux contraindre la période de rotation de GU Psc b.

Mots-clés : Exoplanètes , Imagerie directe , Étoiles de faible masse , Associations jeunes