Faits :
A.
C._, né en 1977, est décédé le 26 février 2016. Dans son testament du 8 octobre 2015, il a institué seul et unique héritier son fils mineur D._, fils de B._, en précisant qu'au cas où il décéderait avant que son fils ait atteint sa majorité, la totalité des biens qui lui seraient dévolus dans le cadre de sa succession devait être soustraite à l'administration de sa mère. Il a désigné son père A._ en qualité d'exécuteur testamentaire de sa succession avec les pouvoirs les plus étendus et lui a confié la mission d'administrateur des biens dévolus à son fils. Il a enfin émis le voeu que ses parents puissent voir régulièrement leur petit-fils, B._ étant priée de respecter cette demande.
B.
B.a. Le 25 avril 2016, la Juge de paix du district de Nyon (ci-après: Juge de paix) a délivré à A._ une attestation d'exécuteur testamentaire.
B.b. Le 23 septembre 2016, B._, agissant pour le compte de son fils mineur, a requis la révocation de l'exécuteur testamentaire.
B.c. Le 1er décembre 2016, A._ a exposé avoir entrepris des démarches auprès de la banque F._ pour trouver la trace des montants qui auraient été avancés à son fils par le père de B._ et que la banque avait refusé de donner suite à ses recherches faute de certificat d'héritier. A l'audience du 20 janvier 2017, il a annoncé qu'il s'informerait auprès de la banque F._ sur les mouvements intervenus sur le compte sur lequel la somme de 600'000 fr. avait été créditée. Le 28 février 2017, il a indiqué que les démarches auprès de F._ n'avaient pas abouti.
B.d. Compte tenu de la minorité de l'héritier légal et institué, un inventaire civil a été dressé et clôturé le 5 mai 2017. Celui-ci mentionne des actifs par 1'113'164 fr. 99 et des passifs par 1'111'313 fr. 58, dont 625'560 fr. de solde du prêt de E._, père de B._, par 600'000 euros. La succession présente un solde positif de 1'851 fr. 41.
Le certificat d'héritiers a été délivré le 11 mai 2017.
B.e. Le 6 juillet 2017, B._ a produit un certain nombre de documents bancaires attestant que C._ a signé le 27 août 2015 une procuration générale sur son compte F._ en faveur de son père A._, que ce dernier a prélevé 80'000 euros sur ce compte le 13 octobre 2015, que le 14 octobre 2015, C._ a autorisé par écrit son père à retirer tout son capital et à mettre fin à sa relation bancaire avec la banque F._, que A._ a prélevé sur le compte F._ précité 80'000 euros le 15 octobre 2015 et 201'000 euros le 23 octobre 2015 et que A._ a procédé au bouclement de la relation bancaire précitée les 30 octobre et 25 novembre 2015, avec prélèvement des sommes respectives de 221'645 euros et de 8'478 fr. 70.
B.f. A l'audience du 15 septembre 2017, A._ a exposé qu'en octobre et novembre 2015, conformément aux instructions de son fils, il avait prélevé les fonds de celui-ci auprès de F._ et les lui avait remis en mains propres. Il a indiqué ignorer ce que son fils avait fait de ces montants.
B.g. Par décision du 13 octobre 2017, la Juge de paix a rejeté la requête de révocation de l'exécuteur testamentaire formée le 23 septembre 2016, a constaté que A._ s'était engagé à ne procéder à aucun transfert mobilier et immobilier ni en sa faveur ni en faveur de tiers, et a dit que les clés de l'appartement de U._ seraient remises à l'exécuteur testamentaire une fois la décision définitive et exécutoire.
En droit, la Juge de paix a notamment considéré que le prélèvement par l'exécuteur testamentaire de fonds déposés auprès de F._ au nom du de cujus avait été fait du vivant de ce dernier et à sa demande, de sorte qu'il ne s'agissait pas d'une soustraction d'actifs justifiant la destitution de l'exécuteur testamentaire.
B.h. Saisie par un recours de B._, la Chambre des recours civile du Tribunal cantonal vaudois (ci-après: Chambre des recours civile) a, par arrêt du 19 janvier 2018, admis le recours, annulé la décision du 13 octobre 2017 et renvoyé la cause à la Juge de paix pour qu'elle procède dans le sens des considérants.
La Chambre des recours civile a relevé que l'exécuteur testamentaire avait longtemps prétendu ne rien savoir du sort des fonds placés sur le compte F._ du défunt. Confronté aux pièces établissant qu'il avait lui-même soldé ledit compte, il avait déclaré avoir remis l'argent prélevé, par 582'645 euros et 8'478 fr. 70, à son fils en mains propres et ignorer ce que celui-ci en avait fait. Ce faisant, l'exécuteur testamentaire ne s'était pas comporté de bonne foi et n'avait pas respecté son devoir de collaborer à l'inventaire des biens de la succession. Ses explications tardives n'étaient guère crédibles. Etant l'homme de confiance de son fils, il était très peu vraisemblable qu'il n'ait pas été informé par le défunt de la destination de l'argent prélevé ou qu'il n'ait pas été chargé de son affectation, ce d'autant plus que l'exécuteur testamentaire était chargé en substance de veiller aux intérêts de son petit-fils futur héritier et d'administrer les biens qui lui étaient dévolus en veillant à ce qu'ils soient soustraits à l'administration de la représentante légale de l'enfant. Par ailleurs, on voyait mal l'ayant droit du compte se faire remettre une pareille somme en liquide dans sa chambre d'hôpital et l'y conserver avec les risques de disparition qu'une telle situation susciterait jusqu'à sa remise à un ou plusieurs tiers. Plus vraisemblablement, il avait donné à l'exécuteur testamentaire des instructions sur la conservation et le dépôt de cet argent en Suisse ou à l'étranger jusqu'à sa remise à l'héritier.
Dès lors, l'exécuteur testamentaire avait objectivement violé ses devoirs légaux de collaborer à l'inventaire officiel du patrimoine de la succession. Cela étant, il avait agi ainsi dans sa propre compréhension de l'intérêt de l'héritier et très probablement en se conformant avec une loyauté aveugle aux instructions données par son fils mourant et non pour se favoriser personnellement. Dans ce contexte, la décision entreprise devait être annulée et la cause retournée au premier juge pour qu'ilentende à nouveau l'exécuteur testamentaire afin que celui-ci s'explique en détail sur la remise de ces fonds, les instructions reçues, leur destination, leur affectation ou leur dépôt et qu'il produise tout document utile pour étayer ses explications. Si celui-ci ne collaborait à nouveau pas et ne saisissait pas cette ultime opportunité de corriger l'inventaire civil, sa destitution, comme ultima ratio, devrait le cas échéant être prononcée.
B.i. Entendu par la Juge de paix à l'audience du 29 juin 2018, A._ a déclaré qu'il était allé avec son fils à la banque à V._ en juillet-août 2015 et que par la suite, ce dernier lui avait donné une procuration spéciale pour qu'il aille prélever de l'argent. Cela s'était passé après que son fils fut hospitalisé à W._. Au retour de son fils à U._, il était allé prélever de l'argent, qu'il avait remis à son fils. Il lui avait demandé d'où venait cet argent et celui-ci lui avait répondu que c'était le sien. Il n'avait alors plus posé de questions. Il a précisé avoir prélevé de l'argent deux fois à V._ et une fois à U._ et ne pas savoir ce qui était advenu de ces fonds, son fils ne lui ayant rien communiqué à ce propos et ne lui ayant pas donné d'instructions. Il a ajouté que son fils avait beaucoup d'amis. Il a répété qu'il ne savait pas où était cet argent et qu'il ignorait que l'argent appartiendrait aux parents de B._. Il a déclaré s'être rendu dans deux banques, soit les banques G._ et F._, afin d'essayer de retrouver ces fonds. Pendant la maladie de son fils, il aurait été prêt à faire tout ce que celui-ci lui aurait demandé. Il n'aurait pas été surpris de devoir remettre une somme aussi importante à son fils et n'aurait pas eu envie de savoir ce que celui-ci voulait faire de cet argent, en raison de sa douleur.
B._ a pour sa part déclaré que ses parents auraient prêté 900'000 euros à feu C._. 300'000 euros auraient été restitués, elle-même disposant d'une procuration sur le compte en question et ayant procédé à des retraits à hauteur de ce montant entre 2012 et 2014 pour rembourser ses parents. Ses parents n'auraient pas obtenu le remboursement des 600'000 euros restants.
B.j. Par décision du 29 octobre 2018, la Juge de paix a derechef rejeté la requête présentée le 23 septembre 2016 par B._, a constaté que A._ s'était engagé à ne procéder à aucun transfert mobilier et immobilier ni en sa faveur ni en faveur de tiers, et a dit que les clés de l'appartement de U._ seraient remises à l'exécuteur testamentaire une fois la décision définitive et exécutoire.
En droit, la Juge de paix a considéré que l'exécuteur testamentaire avait collaboré à l'instruction menée ensuite de l'arrêt de renvoi de la Chambre des recours civile. Il avait répondu à toutes les questions qui lui avaient été posées et s'était exprimé au sujet des instructions données par son fils quant au prélèvement de fonds auprès de F._. A cet égard, il avait évoqué la remise de ces fonds, mais n'avait pas pu renseigner le premier juge quant à la destination de ceux-ci, leur affectation ou leur dépôt, puisqu'il ignorait ce que son fils avait fait de l'argent qu'il avait prélevé en son nom à F._ et qu'il ne lui avait pas posé de question à ce sujet. Dès lors, il ne pouvait pas être reproché à l'exécuteur testamentaire de ne pas avoir profité de l'audition du 29 juin 2018 pour corriger l'inventaire civil dressé le 5 mai 2017 et la révocation de l'intimé de ses fonctions d'exécuteur testamentaire ne se justifiait pas.
B.k. Par acte du 9 novembre 2018, B._ a interjeté recours contre cette décision, en concluant à sa réforme en ce sens que sa requête du 23 septembre 2016 soit admise et que A._ soit destitué de sa fonction d'exécuteur testamentaire avec effet immédiat.
Dans sa réponse du 7 janvier 2019, A._ a conclu au rejet du recours.
B.l. Par arrêt du 21 janvier 2019, expédié le 31 suivant, la Chambre des recours civile a notamment admis le recours et réformé la décision entreprise en ce sens que la requête présentée le 23 septembre 2016 par B._ est admise et que A._ est destitué de sa fonction d'exécuteur testamentaire avec effet immédiat.
C.
Par acte posté le 1er mars 2019, A._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt du 21 janvier 2019. Principalement, il conclut à sa réforme en ce sens que la requête présentée le 23 septembre 2016 par B._ est rejetée, que sa fonction d'exécuteur testamentaire lui est restituée et/ou maintenue, les frais judiciaires et les dépens de première et deuxième instance étant mis à la charge de B._. Subsidiairement, il sollicite le renvoi de la cause à la cour cantonale pour nouvelle décision dans le sens des considérants.
Des déterminations sur le fond n'ont pas été requises.
D.
Par ordonnance présidentielle du 19 mars 2019, la requête d'effet suspensif assortissant le recours a été rejetée.

Considérant en droit :
1.
Le recours a été interjeté contre une décision finale (<ref-law>) en matière de surveillance d'un exécuteur testamentaire (art. 72 al. 2 let. b ch. 5 LTF; arrêt 5A_55/2016 du 11 avril 2016 consid. 1), rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF). Comme le litige porte sur la destitution de l'exécuteur testamentaire, le recours a pour objet une affaire pécuniaire, dont la valeur litigieuse - qui se détermine au regard de la valeur des actes accomplis ou devant être accomplis par l'exécuteur testamentaire contesté (arrêts 5A_55/2016 précité; 5A_395/2010 du 22 octobre 2010 consid. 1.2.2) - atteint 30'000 fr. (art. 51 al. 1 let. a et 74 al. 1 let. b LTF), comme l'a constaté la Chambre des recours civile. Le recours a en outre été déposé en temps utile (<ref-law>) et dans la forme prévue par la loi (<ref-law>). Sa recevabilité doit par ailleurs être admise sur la base de l'<ref-law>, dès lors que le recourant est touché dans sa mission d'exécuteur testamentaire (arrêt 5A_349/2018 du 18 juin 2018 consid. 3 et la référence).
2.
2.1. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 s. LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 2.3; <ref-ruling> consid. 2). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs soulevés (<ref-ruling> consid. 2.4 et les références). Le recourant doit par conséquent discuter les motifs de la décision entreprise et indiquer précisément en quoi il estime que l'autorité précédente a méconnu le droit (<ref-ruling> consid. 1.7.1; <ref-ruling> consid. 2.4 et la référence); il ne peut se contenter de reprendre presque mot pour mot l'argumentation formée devant l'autorité cantonale (ATF <ref-ruling> consid. 2; <ref-ruling> consid. 2.1 et 2.3). En outre, lorsque la décision attaquée repose sur une pluralité de motivations, indépendantes, alternatives ou subsidiaires, toutes suffisantes pour sceller le sort de la cause, le recourant doit démontrer, sous peine d'irrecevabilité, que chacune d'elles est contraire au droit en se conformant aux exigences de motivation requises (<ref-ruling> consid. 2.4; <ref-ruling> consid. 4.1.4). Le Tribunal fédéral ne connaît par ailleurs de la violation de droits fondamentaux que si un tel grief a été expressément invoqué et motivé de façon claire et détaillée par le recourant (" principe d'allégation ", <ref-law>; <ref-ruling> consid. 2.1; <ref-ruling> consid. 2.4).
2.2. En vertu des principes de la bonne foi et de l'épuisement des griefs (<ref-law>), le recours n'est ouvert qu'à l'encontre des décisions rendues par une autorité cantonale de dernière instance, ce qui suppose que les voies de droit cantonales aient été non seulement utilisées sur le plan formel, mais aussi épuisées sur le plan matériel. Lorsque l'autorité de dernière instance cantonale peut se limiter à examiner les griefs régulièrement soulevés (<ref-ruling> consid. 2.2.4; arrêt 4A_290/2014 du 1er septembre 2014 consid. 3.1), le principe de l'épuisement matériel des instances cantonales veut que les griefs soumis au Tribunal fédéral aient déjà été invoqués devant l'instance précédente (<ref-ruling> consid. 1.1 et les références; arrêts 5A_605/2018 du 7 décembre 2018 consid. 5.2; 4A_32/2018 du 11 juillet 2018 consid. 5.2.1-5.2.2). Ce principe s'applique également lorsqu'une partie n'a pas soulevé de moyen de droit dans la procédure cantonale et était de ce fait uniquement partie intimée (arrêts 4A_599/2017 du 13 décembre 2017; 5A_136/2014 du 5 novembre 2014 consid. 3.3.3; pour l'application de ce principe devant le Tribunal fédéral: ATF <ref-ruling> consid. 2).
2.3. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si ceux-ci ont été constatés de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le recourant qui soutient que les faits ont été établis d'une manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.2 et la référence), doit satisfaire au principe d'allégation susmentionné (<ref-law>; cf. supra consid. 2.1). Il ne saurait dès lors se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; il doit indiquer de façon précise en quoi ces constatations sont arbitraires au sens de l'art. 9 Cst. (<ref-ruling> consid. 1.4.3). Une critique des faits qui ne satisfait pas à cette exigence est irrecevable (<ref-ruling> consid. 1.3.1 et la référence).
Le recourant intègre à son mémoire un " bref rappel des faits " (recours, p. 4-6). En tant qu'il s'écarte des constatations retenues dans l'arrêt attaqué sans démontrer qu'elles auraient été établies de manière arbitraire, son exposé est appellatoire et, partant, irrecevable.
2.4. Lorsque l'autorité cantonale jouit d'un pouvoir d'appréciation (<ref-law>), le Tribunal fédéral n'en revoit l'exercice qu'avec retenue. Il n'intervient que lorsque celle-ci s'écarte sans raison des règles établies par la doctrine et la jurisprudence, ou lorsqu'elle s'appuie sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou encore lorsqu'elle ignore des éléments qui auraient absolument dû être pris en considération. Le Tribunal fédéral intervient en outre lorsque la décision, dans son résultat, est manifestement inéquitable ou heurte de manière choquante le sentiment de la justice (<ref-ruling> consid. 9.2; <ref-ruling> consid. 2.1; <ref-ruling> consid. 2.2.1).
3.
La présente affaire porte sur la destitution de l'exécuteur testamentaire.
3.1. Le disposant peut, par une disposition pour cause de mort, charger un exécuteur testamentaire d'exécuter ses dernières volontés (<ref-law>). En principe, l'exécuteur testamentaire a les droits et les devoirs de l'administrateur officiel d'une succession (<ref-law>), mais le de cujus peut étendre les pouvoirs de l'exécuteur testamentaire ou, au contraire, les limiter à certains aspects de la liquidation de la succession, à certains biens ou à une certaine durée. L'exécuteur testamentaire est responsable de la bonne et fidèle exécution des tâches qui lui sont confiées; cette responsabilité à l'égard des héritiers s'apprécie comme celle d'un mandataire, auquel on l'assimile (<ref-law>; <ref-ruling> consid. 5.2.2; <ref-ruling> consid. 4.1 et 4.3; arrêts 5A_50/2019 du 20 juin 2019 consid. 3; 5A_290/2016 du 30 mars 2017 consid. 2.2 publié in RTiD 2017 II 796 et in RNRF 2019 p. 6; 5A_55/2016 précité consid. 3.1; 5A_414/2012 du 19 octobre 2012 consid. 8.2.2).
Lorsque le testateur n'en dispose pas autrement, l'exécuteur testamentaire est chargé de faire respecter la volonté du défunt, notamment de gérer la succession, de payer les dettes, d'acquitter les legs et de préparer le partage conformément aux ordres du disposant ou suivant la loi (<ref-law>). L'exécuteur testamentaire doit commencer son activité sans tarder, la mener rapidement et sans interruption. Il doit identifier les affaires les plus urgentes et prendre les mesures conservatoires nécessaires pour sauvegarder au mieux les droits des héritiers. Comme corollaire de son devoir de rendre compte aux héritiers (GRÉGOIRE PILLER, Commentaire romand, CC II, 2016, n° 32 ad <ref-law>), il est tenu de dresser un inventaire des actifs et passifs de la succession. Il a de surcroît pour devoir d'administrer le patrimoine successoral, c'est-à-dire de prendre toutes les mesures utiles à la conservation de celui-ci et à sa liquidation. Il doit en définitive agir au mieux des intérêts de la succession; il jouit à cet égard d'un grand pouvoir d'appréciation, limité d'une part par le droit de recours des héritiers à l'autorité de surveillance, d'autre part par son devoir de diligence sanctionné par sa responsabilité à leur égard (ATF <ref-ruling> consid. 4.3.1 et les références).
3.2. L'exécuteur testamentaire est soumis à la surveillance de l'autorité (art. 518 cum <ref-law>), qui a notamment le pouvoir de prendre des mesures disciplinaires, dont la plus grave est la destitution de celui-ci pour cause d'incapacité ou de violation grossière de ses devoirs (arrêts 5A_50/2019 précité consid. 3 et les références; 5D_136/2015 du 18 avril 2016 consid. 5.1 et 5.3; 5A_55/2016 précité et la référence). Cette dernière mesure n'entre en considération que lorsqu'il y a un danger concret pour les biens de la succession et qu'une mesure moins rigoureuse ne permet pas d'atteindre le but recherché car elle a des conséquences majeures sur l'administration future de la succession, l'autorité de surveillance n'ayant pas le pouvoir de nommer un remplaçant à l'exécuteur testamentaire destitué, les héritiers devant liquider eux-mêmes la succession (arrêts 5D_136/2015 précité consid. 5.3; 5A_414/2012 précité consid. 8.4.2; 5A_713/2011 du 2 février 2012 consid. 3). Parmi les motifs pouvant justifier la saisine de l'autorité, la pratique et la doctrine retiennent l'inaptitude de l'exécuteur (incapacité civile ou faillite personnelle), le retard dans l'accomplissement du mandat, l'inopportunité d'une décision ou l'absence d'informations (FIORENZO COTTI, in Commentaire du droit des successions, 2012, n° 138 ad <ref-law>; DANIEL ABT, Der Willensvollstrecker aus Sicht des Erben: " il buono, il brutto o il cattivo ", in PJA 2018 p. 1313 ss, 1315). L'autorité de surveillance vérifie les mesures prises ou projetées par l'exécuteur testamentaire; cependant, les questions de droit matériel demeurent du ressort des tribunaux ordinaires (<ref-ruling> consid. 3; <ref-ruling>; 66 II 148; arrêts 5A_50/2019 précité; 5D_136/2015 précité consid. 5.2; 5A_55/2016 précité et la référence), en sorte qu'elle n'est pas compétente pour se prononcer sur une action en révocation de l'exécuteur testamentaire à cause d'une situation double créée par le testateur - ou du moins connue de lui - et d'un grave conflit d'intérêts qui en résulte. Une telle révocation ne peut être obtenue que par une action en nullité de la disposition à cause de mort instituant l'exécuteur testamentaire (art. 519 et 520 CC; <ref-ruling> consid. 3 in fineet 4; arrêts 5A_55/2016 précité; 5A_414/2012 précité consid. 4.1). Lorsqu'en revanche la collision d'intérêts était inconnue du testateur ou qu'elle n'a surgi qu'après sa mort, alors les héritiers peuvent s'en plaindre auprès de l'autorité de surveillance (SJ 2001 I 519 consid. 3a et la référence; voir aussi arrêt 5D_136/2015 précité consid. 5.3 et la référence; PILLER, op. cit., n° 182 ad <ref-law>).
4.
S'en prenant à la motivation tant principale que subsidiaire de la cour cantonale, le recourant se plaint d'une violation de l'<ref-law>. Il invoque également une violation de l'<ref-law>, sans toutefois motiver plus avant son moyen, sauf à relever que cette disposition renvoie à l'<ref-law>. En substance, il soutient avoir entrepris toutes les démarches nécessaires pour retrouver les fonds litigieux et avoir exercé sa fonction d'exécuteur testamentaire en toute diligence et de manière conforme. Sa destitution n'était ainsi pas justifiée.
4.1. Le recourant fait grief à la cour cantonale d'avoir omis de prendre en compte d'une part " le contexte dans lequel le retrait de la somme querellée s'est déroulé ". Ainsi, les retraits qu'il avait effectués sur le compte bancaire du 13 au 30 octobre 2015 l'avaient été du vivant de feu son fils, suite à sa demande expresse, et sur la base d'une procuration générale conférée le 27 août 2015 ainsi que d'une autorisation expresse l'habilitant à retirer la totalité du capital et à clore le compte en question, ce qui avait été fait bien avant le décès du de cujus. Dès lors qu'il n'était pas exécuteur testamentaire à cette époque, le montant litigieux ne pouvait pas apparaître à l'inventaire de la succession, celui-ci n'entrant pas dans l'actif successoral. L'entier des prélèvements avait été remis en mains propres à feu son fils et en pleine connaissance de cause. En effet, ce dernier avait rédigé son testament le 8 octobre 2015, dans le cadre duquel il avait été désigné en qualité d'exécuteur testamentaire. La procuration générale [recte: autorisation écrite] en sa faveur avait été rédigée et signée le 14 octobre 2015. Il était dès lors manifeste que le de cujus était parfaitement conscient de ses agissements et apte à administrer ses affaires, la validité du testament n'ayant à aucun moment été contestée. Dès sa nomination en qualité d'exécuteur testamentaire, il avait procédé aux démarches utiles pour l'établissement de l'inventaire de la succession. Son comportement ne pouvait être considéré comme une soustraction d'actifs. Il n'avait jamais tenté de dissimuler le compte litigieux et avait fourni toutes les explications utiles à cet égard. Il avait, à plusieurs reprises, déclaré l'existence dudit compte dans le cadre de différentes correspondances adressées à la Justice de paix. Il avait également effectué diverses démarches afin de retrouver ces fonds par l'intermédiaire de son précédent conseil. Ces démarches avaient toutefois été entravées par l'intimée, qui l'avait empêché d'exercer correctement " la gestion de son mandat ". Il ne pouvait dès lors lui être reproché de ne pas avoir entrepris des recherches plus actives afin de retrouver les fonds disparus. Au demeurant, l'intimée avait déclaré, lors de l'audience du 29 juin 2018, que ceux-ci appartenaient à ses parents, résidant en France, et non à l'héritier. Ce n'était donc en définitive pas le rôle de l'exécuteur testamentaire de faire des recherches pour connaître leur emplacement. Cet élément nouveau, qui lui était inconnu avant ladite audience, n'avait étonnamment pas été pris en considération par la cour cantonale. C'était également à tort que cette dernière avait admis l'existence d'un conflit d'intérêts, dès lors qu'il n'avait pas violé ses devoirs d'exécuteur testamentaire. Il avait tout mis en oeuvre pour se conformer aux exigences et sauvegarder les dernières volontés de son fils et, de ce fait, les intérêts de son petit-fils. Ce d'autant plus que les fonds litigieux appartenaient aux parents de l'intimée et avaient en partie été retirés par cette dernière au bénéfice d'une procuration sur le compte en question.
Le recourant conteste par ailleurs s'être borné à maintenir sa version des faits antérieure suite à l'arrêt de renvoi. Il n'avait en effet que suivi les instructions de la cour cantonale contenues dans cet arrêt. Ainsi, lors de l'audience devant la Juge de paix du 29 juin 2018, il avait exposé dans les détails le déroulement des faits ainsi que tout ce qu'il savait sur les fonds litigieux. Dans ce cadre, il avait indiqué des dates précises, fait part du nombre de retraits ainsi que des circonstances de la remise de ces fonds. Il avait par ailleurs fait part d'un nombre important d'informations afin d'être le plus complet possible. Sur la question de l'origine des fonds litigieux, il s'était contenté de la réponse de son fils, étant essentiellement préoccupé par l'état de santé de ce dernier. Comme tout au long de la procédure, il avait exposé à maintes reprises ne pas savoir ce qu'il était advenu des fonds litigieux. A cet effet, il avait expliqué l'ambiance qui régnait à l'époque au sein de la famille. Il était en conséquence manifeste qu'il avait pleinement collaboré dans le cadre de l'audience après renvoi. Il avait répondu de manière complète à l'ensemble des questions posées par la Justice de paix ainsi que par le conseil de l'intimée et s'était dès lors exécuté conformément à la volonté de la cour cantonale.
4.2. Le recourant perd manifestement de vue que l'autorité dispose en la matière d'un large pouvoir d'appréciation (cf. arrêt 5A_50/2019 précité consid. 3 in fineet la référence), dont le Tribunal fédéral ne revoit l'exercice qu'avec retenue (cf. supra consid. 2.4). Or, l'argumentation du recourant, essentiellement appellatoire et largement reprise de son mémoire de réponse au recours cantonal, est impropre à démontrer que la cour cantonale aurait en l'espèce abusé de son pouvoir d'appréciation. Au vu des faits retenus dans l'arrêt attaqué - lesquels, non valablement remis en cause, lient le Tribunal fédéral -, il n'y a en particulier rien de choquant à considérer que le recourant s'est comporté de façon gravement négligente dans l'exercice de ses devoirs tels que rappelés ci-avant (cf. supra consid. 3.1). Alors qu'il savait pertinemment qu'avant son décès, une somme de plusieurs centaines de milliers d'euros était déposée sur le compte F._ de son fils, qu'il l'avait retirée et remise à ce dernier et que le compte en question avait été clos par ses soins, le recourant, au bénéfice d'une attestation d'exécuteur testamentaire depuis le 25 avril 2016, a tu ces faits et s'est abstenu d'entreprendre en temps opportun les démarches idoines et raisonnablement exigibles aux fins d'identifier la destination des fonds litigieux et de permettre de les porter aux actifs de l'inventaire de la succession. Il ne saurait à l'évidence guérir a posteriori de tels manquements et justifier une absence d'inventorisation en faisant valoir qu'il n'était pas exécuteur testamentaire à l'époque des retraits opérés sur le compte de son fils et qu'il n'avait appris qu'à l'audience du 29 juin 2018 que ceux-ci provenaient d'un prêt des parents de l'intimée. Dans ces conditions, la cour cantonale n'a pas excédé son pouvoir d'appréciation en retenant que le recourant n'avait pas contribué à l'établissement de l'inventaire civil, faute d'avoir porté à la connaissance de la Justice de paix qu'un montant de près de 600'000 euros avait été retiré en espèces du compte F._ du défunt quelques mois avant son décès et d'avoir fait toutes les recherches nécessaires pour connaître l'emplacement de ces fonds. Compte tenu des circonstances de l'espèce, de tels manquements apparaissent en eux-mêmes suffisants pour justifier la destitution du recourant de sa fonction d'exécuteur testamentaire. Point n'est donc besoin d'encore examiner si c'est à juste titre que la cour cantonale a considéré que le recourant se trouve à l'évidence dans un conflit d'intérêts avec son petit-fils, incompatible avec sa fonction d'exécuteur testamentaire. Enfin, le constat selon lequel les déclarations faites par le recourant lors de l'audience appointée par la Juge de paix sur retour de la Chambre des recours civile ne consistent qu'en le maintien de sa version des faits antérieure apparaît exact et ne saurait dès lors prêter le flanc à la critique.
5.
5.1. Le recourant fait encore valoir une violation de l'<ref-law>. Il reproche à la cour cantonale de n'avoir pas pris en compte les dernières volontés du défunt en le destituant de sa fonction d'exécuteur testamentaire et en laissant le soin à l'intimée d'éventuellement solliciter la nomination d'un nouvel exécuteur testamentaire. Il était pourtant manifeste que, selon la volonté du défunt, cette dernière ne devait pas gérer les biens de l'héritier jusqu'à ce que celui-ci ait atteint la majorité. Dès lors que le défunt avait explicitement voulu exclure l'intimée de l'administration de la succession, elle ne pouvait en aucun cas être exécutrice testamentaire. Ainsi, il convenait de renvoyer la cause par-devant le premier juge afin de nommer un curateur ad hoc, cette démarche ayant au demeurant déjà été entreprise par tant son ancien que son actuel conseil, sans pour autant qu'une suite y soit donnée par la Justice de paix.
5.2. Dans la mesure où le recourant avait obtenu gain de cause devant la Juge de paix, on ne pouvait certes exiger de lui qu'il porte l'affaire devant le Tribunal cantonal. Au vu de l'issue possible du recours interjeté par l'intimée contre cette décision, à savoir la révocation de sa fonction d'exécuteur testamentaire, il lui appartenait toutefois de développer ses arguments relatifs au respect des dernières volontés du défunt et à l'instauration d'un curateur ad hoc dans sa réponse au recours du 7 janvier 2019. Faute de l'avoir fait, il n'est plus recevable à soulever ce moyen devant la Cour de céans sauf à violer les principes de la bonne foi et de l'épuisement des griefs (cf. supra consid. 2.2).
6.
En définitive, le recours est rejeté dans la mesure de sa recevabilité, aux frais de son auteur (<ref-law>). L'intimée, qui n'a pas été invitée à se déterminer au fond mais a été suivie dans les conclusions qu'elle a prises dans ses déterminations sur la requête d'effet suspensif, a droit à une indemnité de dépens pour cette écriture, mise à la charge du recourant (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge du recourant.
3.
Une indemnité de 500 fr., à payer à l'intimée à titre de dépens, est mise à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 26 juin 2019
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président : Herrmann
La Greffière : Hildbrand