Faits:
A. A.a X._, né en 1922, est décédé le 6 janvier 2012 en Floride (Etats-Unis), son dernier domicile ayant été Y._ (Suisse), où il vivait depuis 1976. Il a laissé une veuve et trois enfants: A._, B._ et C._.
Par testament du 12 mars 2010 et codicille du 9 décembre 2011, le défunt avait soumis sa succession à la loi d'Angleterre et du Pays de Galles et nommé ses deux filles B._ et C._ en qualité d'exécutrices testamentaires. Il avait également désigné plusieurs bénéficiaires, dont son fils A._, pour une modeste part.
Depuis de nombreuses années, le patrimoine dépendant de la succession était géré par un "family office".
A.b Le 17 avril 2012, A._ a formé opposition aux dispositions testamentaires de son défunt père, qu'il considère nulles en raison de l'incapacité de discernement du testateur, contraires à l'ordre public et "favorisant de manière outrancière trois personnes dont il estime qu'elles sont indignes de succéder". Il s'est aussi opposé à la délivrance du certificat d'héritier.
B. Par requête du 19 avril 2012, A._ a requis du Juge de paix du district de Nyon (ci-après: le Juge de paix) des mesures d'urgence, à savoir un inventaire conservatoire, l'apposition de scellés et l'administration d'office de la succession de feu X._.
B.a Faisant partiellement droit à la requête, le Juge de paix a, par ordonnance du 19 avril 2012, prononcé l'apposition de scellés sur tous les documents concernant les avoirs de feu X._ en mains des sociétés D._ SA et E._ SA, sociétés agissant en qualité de fiduciaire privée du défunt.
Dans leurs déterminations du 27 avril 2012, B._ et C._ ont conclu au rejet de la requête du 19 avril 2012 en tant qu'elle portait sur l'administration d'office et l'établissement d'un inventaire de la succession, exposant que le notaire F._ avait déjà été chargé de dresser un inventaire fiscal, avec la collaboration de la société G._.
B.b Par décision du 18 mai 2012, le Juge de paix a ordonné l'inventaire conservatoire de la succession de feu X._ et désigné le notaire F._ à cette fin. Il a par ailleurs rejeté la requête tendant à ce que la succession soit soumise à une administration d'office.
B.c Statuant sur le recours de A._, la Chambre des recours civile du Tribunal cantonal du canton de Vaud (ci-après: la Chambre des recours) a, par arrêt du 17 août 2012 notifié aux parties le 30 août 2012, confirmé la décision du Juge de paix du 18 mai 2012.
C. Par acte du 1er octobre 2012, A._ (ci-après: le recourant) interjette un recours en matière civile au Tribunal fédéral. Il conclut au complétement de l'état de fait, à l'annulation de l'arrêt entrepris et à sa réforme en ce sens que la Justice de paix du district de Nyon doit ordonner l'administration officielle de la succession de feu X._ et confier cette administration à un tiers neutre. A l'appui de ses conclusions, il soulève l'arbitraire dans l'établissement des faits et l'appréciation des preuves, ainsi que dans l'application du droit, en particulier des art. 556 al. 3 CC et 106 ss CPC.
Des réponses n'ont pas été requises.
Considérant en droit:
1. 1.1 La décision attaquée, qui refuse d'ordonner l'administration d'office d'une succession soumise au droit anglo-saxon, est une décision finale (art. 90 LTF; arrêt 5A_95/2008 du 20 août 2008 consid. 1.2), qui tranche une cause civile (art. 72 al. 1 LTF) relevant de la juridiction gracieuse (arrêts 5A_171/2010 du 19 avril 2010 consid. 1; 5P.112/2002 du 16 juillet 2002 consid. 1.1; 5P.400/1999 du 25 mai 2000 consid. 5). Dans les causes pécuniaires - ce qui est le cas en l'occurrence (arrêts 5A_184/2012 du 6 juillet 2012 consid. 1.3; 5A_754/2009 du 28 juin 2010 consid. 1.1) -, le recours en matière civile n'est en principe recevable que si la valeur litigieuse atteint 30'000 fr. au moins (art. 74 al. 1 let. b LTF). Contrairement à ce que prescrit l'art. 112 al. 1 let. d LTF, la décision entreprise est muette sur ce point et le recourant n'est guère plus explicite (art. 42 al. 2 LTF). Il ressort toutefois du dossier de la cause que cette valeur est amplement atteinte (ATF 136 III 60 consid. 1.1.1 p. 62 et les références).
Le présent recours a en outre été déposé en temps utile (art. 100 al. 1 LTF) et dans la forme prévue par la loi (art. 42 LTF), par une partie ayant succombé devant l'autorité précédente et ayant un intérêt digne de protection à l'annulation ou à la modification de l'arrêt entrepris dans le sens d'une admission de ses conclusions (art. 76 al. 1 LTF; arrêts 5A_725/2010 du 12 mai 2011 consid. 1.1). Enfin, la décision attaquée a été rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF). Au regard de ces dispositions, le recours en matière civile est en principe recevable.
1.2 Le prononcé refusant d'ordonner l'administration d'office d'une succession, en application de l'art. 556 al. 3 CC - cas d'administration d'office de l'art. 554 al. 1 ch. 4 CC (arrêt 5A_502/2008 du 4 mars 2009 consid. 1.2 et les références) - constitue une décision de mesures provisionnelles au sens de l'art. 98 LTF qui ne peut être attaquée que pour violation des droits constitutionnels.
2. 2.1 Le Tribunal fédéral n'examine la violation des droits constitutionnels que si un tel grief a été dûment invoqué et motivé par la partie recourante (ATF 137 II 305 consid. 3.3 p. 310 s.; 133 II 249 consid. 1.4.2 p. 254). Le recourant qui se plaint de la violation de droits fondamentaux doit satisfaire au principe d'allégation, en indiquant précisément quelle disposition constitutionnelle a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation ("Rügeprinzip", art. 106 al. 2 LTF; ATF 133 IV 286 consid. 1.4 p. 287; 133 II 249 consid. 1.4.2 p. 254). Il ne peut donc se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours jouit d'une libre cognition; il ne peut, en particulier, se contenter d'opposer sa thèse à celle de l'autorité cantonale (ATF 134 II 349 consid. 3 p. 351 s.; 133 II 396 consid. 3.2 p. 400; arrêt 5A_99/2011 du 22 septembre 2011 consid. 2.1). Les critiques de nature appellatoire sont irrecevables (ATF 133 II 396 consid. 3.1 p. 399, 589 consid. 2 p. 591). De plus, en vertu de l'art. 75 al. 1 LTF, le recours n'est ouvert qu'à l'encontre des décisions rendues par une autorité cantonale de dernière instance, ce qui suppose que la partie recourante ait épuisé toutes les voies de droit quant aux griefs qu'elle entend soumettre au Tribunal fédéral (ATF 135 III 1 consid. 1.2 p. 3 s. et 424 consid. 3.2 p. 429; 134 III 524 consid. 1.3 p. 527).
2.2 Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par la juridiction précédente (art. 105 al. 1 LTF). Dans l'hypothèse d'un recours soumis à l'art. 98 LTF, le recourant ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels par l'autorité cantonale; les art. 95, 97 et 105 al. 2 LTF ne s'appliquent pas directement (ATF 133 III 393 consid. 7.1 p. 398; 133 III 585 consid. 4.1 p. 588 s.). Toutefois, l'application de l'art. 9 Cst. aboutit pratiquement au même résultat: le Tribunal fédéral ne corrige les constatations de fait que si elles sont arbitraires et ont une influence sur le résultat de la décision (arrêts 5A_528/2011 du 26 janvier 2012 consid. 2.1; 5A_475/2011 du 12 décembre 2011 consid. 2.2; 5A_361/2011 du 7 décembre 2011 consid. 2.2).
3. Le recours a pour objet l'administration d'office d'une succession ouverte en Suisse mais soumise au droit anglo-saxon, pour laquelle le disposant a désigné deux exécutrices testamentaires.
La Chambre des recours a rejeté les griefs de violation du droit d'être entendu et d'appréciation arbitraire des preuves soulevés par le recourant qui estimait que le premier juge s'était fondé "sur une version inventée" des faits. Elle a considéré que le recourant se bornait à apporter des compléments et des corrections à l'état de fait sans démontrer l'incidence de ceux-ci sur l'issue de la cause, d'une part, et que ses critiques relatives à des faits non allégués et à l'appréciation des preuves étaient dénuées de tout fondement, d'autre part. Les juges précédents ont également rejeté le grief de violation de l'art. 8 CC. Ils ont relevé que les constatations critiquées par le recourant, singulièrement le rôle du "family office" et le fait que les deux exécutrices testamentaires se sont entourées des professionnels nécessaires, résultaient de l'instruction de la cause. Pour le surplus, les juges cantonaux ont estimé que le recourant ne faisait valoir aucun élément qui permette de retenir que les exécutrices testamentaires ne seraient pas capables d'assumer leur fonction. Enfin, la Chambre des recours a nié la violation des art. 554 al. 1 ch. 4 et 556 al. 3 CC. Elle a estimé que le recourant ne faisait qu'alléguer les éléments qui fonderaient le risque justifiant l'institution d'une administration d'office, sans apporter de preuves à l'appui de ses éléments, alors que le premier juge avait admis qu'au vu des dispositions prises, notamment la gestion du patrimoine par un "family office" et le recours à des professionnels aux côtés des exécutrices testamentaires, un tel risque n'existait pas en l'état ou n'était pas démontré.
4. Le recourant se plaint d'abord d'un état de fait incomplet et soulève les griefs de constatation arbitraire des faits (art. 9 Cst.) et de violation du droit d'être entendu (art. 29 al. 2 Cst.). Le recourant critique la décision attaquée en tant qu'elle ne contient aucune constatation relative au contenu de la succession de feu X._. Il estime à cet égard avoir allégué et prouvé que les actifs de la succession se composent pour l'essentiel d'actions de "sociétés offshores" détenant des actions du groupe H._, dit groupe étant constitué de plusieurs dizaines de sociétés, 70 usines et 1'246 points de vente. Le recourant reproche également aux juges cantonaux d'avoir retenu, d'une part, que les actifs de la succession sont gérés par un "family office" en Suisse et, d'autre part, que les deux s?urs exécutrices testamentaires se sont entourées des professionnels nécessaires, en l'occurrence un notaire et la société G._. Le recourant sollicite en outre l'ajout de plusieurs faits qui ne figureraient pas dans l'arrêt entrepris, notamment au sujet de la gestion du patrimoine de feu X._ et de l'intervention de la société G._.
4.1 Autant que le recourant voit une violation de son droit d'être entendu (art. 29 al. 2 Cst.), son moyen n'est pas fondé. Certes, la garantie constitutionnelle de l'art. 29 al. 2 Cst. prévoit que toute personne a le droit de s'expliquer avant qu'une décision ne soit prise à son détriment, d'avoir accès au dossier, de fournir des preuves quant aux faits de nature à influer sur la décision à rendre, de participer à l'administration des preuves valablement offertes, à moins que le fait à prouver ne soit dépourvu de pertinence ou que le moyen de preuve n'apparaisse manifestement inapte à établir le fait allégué, et de se déterminer à leur propos (ATF 132 V 368 consid. 3.1 p. 370 s. et les références; 129 II 497 consid. 2.2 p. 504 s.; 127 III 576 consid. 2c p. 578; 127 I 54 consid. 2b p. 56). En l'espèce, toutefois, le grief tombe à faux. Le recourant, qui se contente d'affirmer que son droit d'être entendu a été violé et d'énoncer les faits qu'il estime avoir été retenus à tort, ne prétend ni avoir été empêché de présenter une preuve, ni que la cour cantonale aurait refusé l'administration d'une preuve offerte, en sorte que l'on peine à comprendre en quoi la non-prise en compte de certaines allégations du recourant dans l'état de fait de l'arrêt de la Chambre des recours serait constitutive d'une violation du droit d'être entendu du recourant. Cela étant, l'autorité cantonale a jugé que le rôle exercé par le "family office" domicilié en Suisse et le fait que les exécutrices testamentaire s'entourent des professionnels nécessaires résultent des pièces déposées et des propres allégations du recourant dans sa requête au premier juge. Ce faisant, l'autorité précédente a procédé à une appréciation des preuves. Si le recourant entendait la contester, il lui appartenait de soulever un grief détaillé à cet égard (art. 106 al. 2 LTF; ATF 131 I 153 consid. 3 p. 157; 130 II 425 consid. 2.1 p. 428; 125 I 417 consid. 7b p. 430; 115 Ia 8 consid. 3a p. 11/12 et 97 consid. 5b p. 101), ce qu'il a d'ailleurs fait en parallèle en invoquant la prohibition de l'arbitraire (art. 9 Cst.). L'établissement des faits et l'appréciation des preuves doit donc être examinée sous cet angle.
4.2 Dans les recours soumis à l'art. 98 LTF (cf. supra consid. 2.2), une rectification ou un complément de l'état de fait n'entre en considération que si l'autorité précédente a violé des droits constitutionnels (ATF 133 III 393 consid. 7.1 p. 398). De jurisprudence constante, le Tribunal fédéral se montre réservé. Il n'intervient, pour violation de l'art. 9 Cst. que si le juge précédent n'a manifestement pas compris le sens et la portée d'un moyen de preuve, a omis sans motifs objectifs de tenir compte de preuves pertinentes ou a effectué, sur la base des éléments recueillis, des déductions insoutenables (ATF 136 III 552 consid. 4.2 et les arrêts cités).
4.2.1 En tant que le grief porte sur le complétement et la rectification de l'état de fait, singulièrement sur le contenu du patrimoine successoral et sa gestion par un "family office", sur l'aide apportée par la société G._, il est uniquement fait référence aux allégués du recours cantonal du 22 mai 2012, dont les offres de preuves sont respectivement la requête déposée devant le Juge de paix le 19 avril 2012 et l' "[a]bsence de preuve contraire". Or, de simples allégations de partie - fussent-elles même plausibles - ne suffisent pas à prouver un fait, à moins qu'elles ne soient corroborées par des pièces qui accréditent la thèse soutenue (arrêt 5A_225/2010 du 2 novembre 2010 consid. 3.2 non publié à l'ATF 136 III 583). Dans cette mesure, le grief d'établissement arbitraire des faits doit être rejeté.
4.2.2 S'agissant de la constatation selon laquelle les exécutrices testamentaires sont également bénéficiaires de la succession, ce fait n'est pas explicitement mentionné dans la décision entreprise, mais ressort du dossier de la cause et des pièces produites devant les autorités inférieures et citées par le recourant, à savoir le testament et le codicille de feu X._. Il s'ensuit que cette constatation est manifeste et est au demeurant tenue pour établie par toutes les parties et les autorités.
5. Le recourant reproche ensuite à la Chambre des recours d'avoir versé dans l'arbitraire (art. 9 Cst.) dans l'application du droit fédéral. Il expose que l'autorité précédente a arbitrairement appliqué, d'une part, l'art. 556 al. 3 CC en ce qui concerne l'instauration d'une administration d'office de la succession et, d'autre part, les art. 106 ss CPC relatifs à l'allocation de dépens à la partie obtenant gain de cause.
5.1 Une décision est arbitraire (art. 9 Cst.) lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; en outre, pour que cette décision soit censurée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat (ATF 137 I 1 consid. 2.4 p. 5; 136 I 316 consid. 2.2.2 p. 318 s.; 133 I 149 consid. 3.1 p. 153).
5.2 Le recourant soutient premièrement que l'autorité précédente a arbitrairement appliqué l'art. 556 al. 3 CC en n'imposant pas à la Justice de paix d'ordonner l'administration officielle de la succession de feu X._. Il expose qu'il n'est pas acquis que le degré de confiance que la Chambre des recours devait avoir en les héritiers légaux soit un critère déterminant dans le cas d'espèce, dès lors qu'il s'agit d'une succession soumise au droit anglo-saxon, "lequel ne connaît peut-être pas l'institution de la possession provisoire par les héritiers" et dont un descendant a été écarté. Il affirme en outre qu'il est possible, si ce n'est probable, que l'action en annulation des dispositions à cause de mort l'ayant exclu de la succession sera toujours pendante après l'exécution du partage, de sorte que l'autorité précédente devrait avoir "non seulement une confiance temporaire en les héritiers légaux", mais aussi "une confiance aveugle en les héritiers institués et/ou en les légataires", dont elle devrait attendre qu'ils ne touchent pas à la substance des actifs successoraux qui leur sont dévolus et qu'ils s'imposent, après partage, une "restriction drastique de leurs droits de propriétaire". Le recourant précise encore que les actifs de la succession sont productifs de rendements, partant, que l'autorité cantonale devait, pour renoncer à ordonner une administration d'office, avoir confiance en les héritiers légaux, institués et les légataires afin d'être certaine qu'aucune de ces personnes ne touchera aux rendements jusqu'au jugement définitif et exécutoire sur l'action en nullité des dispositions à cause de mort. Le recourant soutient en conclusion que, lorsqu'un descendant a été exclu d'une succession, l'autorité compétente ne peut en aucun cas attendre pareil comportement de la part d'héritiers institués ou de légataires, de sorte que l'autorité précédente ne pouvait pas d'emblée "écarter le risque qu'ils portent atteinte à la substance des biens successoraux au détriment éventuel de la personne ayant requis l'administration officielle". Le recourant requiert en outre que l'administration officielle qui doit être ordonnée ne soit pas confiée aux exécutrices testamentaires, dès lors qu'elles sont également bénéficiaires dans la succession.
5.2.1 L'art. 554 al. 1 CC indique les circonstances dans lesquelles le juge ordonne l'administration d'office d'une succession: en cas d'absence prolongée d'un héritier (ch. 1), lorsqu'on ne sait pas qui est héritier ou qu'on ignore même si le défunt a laissé un héritier (ch. 2) et lorsque tous les héritiers ne sont pas connus (ch. 3). En outre, le chiffre 4 de cet alinéa renvoie de manière générale "aux autres cas prévus par la loi". Ces cas sont uniquement ceux qu'énumère le droit civil fédéral. Parmi eux, on trouve le cas indiqué à l'art. 556 al. 3 CC, qui accorde au juge la faculté, après la remise du testament, soit d'envoyer les héritiers légaux en possession provisoire des biens, soit d'ordonner l'administration d'office de la succession (arrêt 5A_502/2008 du 4 mars 2009 consid. 2; PIOTET, Droit successoral, Traité de droit privé suisse, IV, p. 631). A défaut d'héritiers légaux à qui la gestion des biens puisse être confiée, ou lorsque la gestion par les héritiers présente un risque particulier, l'autorité ordonnera donc l'administration d'office (STEINAUER, Le droit des successions, 2006, n° 888; arrêt précité 5A_502/2008 du 4 mars 2009 consid. 2).
5.2.2 S'agissant des particularités de la succession litigieuse justifiant le prononcé de mesures de sûreté, le recourant part de la prémisse erronée qu'il est exclu de la succession de son père, ce qui doit être rejeté, au vu des constatations de fait de l'arrêt entrepris que le recourant ne remet pas en cause, et selon lesquelles feu X._ a, par testament et codicille, désigné plusieurs bénéficiaires, dont son fils pour une modeste part. De même concernant le danger auquel serait exposé le patrimoine successoral, le recourant se contente de substituer sa propre appréciation du risque en cas d'envoi en possession à celle de l'autorité précédente en se fondant sur sa version des faits, notamment en ce qui concerne la gestion du patrimoine par un "family office", l'intervention de professionnels aux côtés des exécutrices testamentaires et la nature des biens composant les actifs successoraux, version qui ne saurait être retenue (cf. supra consid. 4.2.1). Pour le surplus, le recourant ne démontre pas que le raisonnement de la cour cantonale selon lequel il n'existe pas de danger en l'état pour les biens de la succession qui pourraient lui échoir serait arbitraire; ainsi, il ne prétend pas que les mesures prises par les autorités précédentes, à savoir l'apposition de scellés et la prise d'inventaire seraient insuffisantes pour garantir ses droits d'héritier présomptif. La décision querellée n'est donc pas arbitraire sur ce point, le seul fait qu'une autre solution soit concevable, voire préférable, ne constituant pas une violation de l'art. 9 Cst. (ATF 133 I 149 consid. 3.1 p. 153). De surcroît, le recourant ne parvient pas à établir que la gestion par ses deux s?urs bénéficiaires présente un risque particulier, partant que l'arrêt attaqué refusant l'institution d'une administration d'office de la succession aboutit à un résultat insoutenable ou choquant (cf. supra consid. 5.1). S'agissant de sa demande de désignation d'un tiers neutre en raison du conflit d'intérêts des exécutrices testamentaires, elle devient sans objet, dès lors qu'il n'y a pas lieu de réformer l'arrêt entrepris et d'ordonner l'administration d'office de la succession.
5.3 Dans la motivation de son recours, le recourant soutient deuxièmement que l'autorité précédente a fait preuve d'arbitraire dans l'application des art. 106 ss CPC. Il expose que, dans le cadre d'une procédure gracieuse d'institution d'une administration d'office de la succession, il ne peut nécessairement y avoir qu'une seule partie, de sorte que ses deux s?urs ne doivent pas être considérées comme parties intimées et qu'elles n'ont de ce fait pas droit à l'allocation d'une indemnité de dépens. Il affirme que la décision de l'autorité précédente est arbitraire sur ce point. Toutefois son mémoire de recours ne contient aucune conclusion relative à la réforme de l'arrêt entrepris en ce qui concerne l'allocation de dépens pour la procédure cantonale.
5.3.1 Selon l'art. 42 al. 1 LTF, les mémoires de recours doivent contenir des conclusions. Le recourant doit donc indiquer sur quels points la décision est attaquée et quelles sont les modifications demandées. Si les conclusions font défaut ou sont, dans leur ensemble, insuffisantes, le recours est irrecevable. Toutefois, l'interdiction du formalisme excessif impose de ne pas se montrer trop strict dans la formulation des conclusions si, à la lecture du mémoire, on comprend clairement ce que veut le recourant (arrêts 5A_441/2011 du 16 décembre 2011 consid. 1.3.1; 4A_321/2009 du 15 janvier 2010 consid. 2; 1C_100/2008 du 18 juin 2008 consid. 1); tel est en particulier le cas lorsque le but et l'objet du recours ressortent sans aucun doute des motifs invoqués (ATF 56 I 195 consid. 1 p. 197 s.; 52 I 222 consid. 1 p. 224; arrêt 5P.29/1991 du 17 mai 1991, jurisprudence rendue sous l'empire de l'OJ encore valable sous la LTF: ATF 134 III 235 consid. 2 p. 236 s.).
5.3.2 En l'espèce, bien que dépourvu de conclusion en relation avec le versement de dépens en instance cantonale de recours, le mémoire du recourant permet néanmoins de déterminer ses intentions, à savoir qu'il requiert que le chiffre IV du dispositif de l'arrêt entrepris soit annulé et réformé en ce sens qu'il ne doit aucune indemnité de dépens à ses deux s?urs exécutrices testamentaires. Au regard de ce qui précède, il y a donc lieu d'entrer en matière sur la prétendue application arbitraire des art. 106 ss CPC, en dépit de l'absence de conclusion formelle à ce sujet.
5.3.3 Le recourant invoque l'application des dispositions du CPC. Bien que le recourant n'expose rien à ce sujet, il y a lieu d'examiner si ces normes sont applicables au cas d'espèce. L'institution de l'administration d'office d'une succession est un acte de la juridiction gracieuse (arrêts 5A_754/2009 du 28 juin 2010 consid. 4.2 avec les références; 5P.326/2002 du 28 mars 2003 consid. 2.1; 5P.282/1994 du 29 septembre 1994 consid. 1). Les juges cantonaux ont relevé que, en droit vaudois, les mesures de sûreté successorales, qui comprennent l'administration d'office d'une succession, sont régies par le code vaudois de droit privé judiciaire du 12 janvier 2010 (ci-après: CDPJ). On peut se demander si le législateur vaudois était effectivement compétent pour légiférer en matière de procédure civile pour les affaires de nature gracieuse de droit fédéral attribuées par le droit cantonal à un juge, partant si le champ d'application du CPC se limite aux affaires gracieuses attribuées à une autorité judiciaire par le droit fédéral (cf. arrêt 5A_270/2010 du 24 septembre 2012 consid. 7). Cette problématique peut toutefois souffrir ici de demeurer indécise, dès lors que le CDPJ ne contient aucune disposition relative aux dépens de la procédure gracieuse fédérale attribuée à un juge par le droit cantonal (art. 104 à 109 CDPJ par renvoi de l'art. 111 CDPJ), en sorte que le CPC s'applique à tout le moins à titre de droit cantonal supplétif (art. 104 CDJP).
5.3.4 De manière générale, dans le cadre d'une procédure gracieuse, une autorité ou un organe de l'Etat intervient, mais il n'y a souvent qu'une seule partie, à savoir le particulier qui sollicite un acte de l'autorité (CORBOZ, Commentaire de la LTF, 2009, n° 14 ad art. 66 LTF). Cependant, dans certaines circonstances, il peut arriver qu'une procédure gracieuse comprenne deux ou plusieurs parties, lesquelles ne sont au demeurant pas nécessairement opposées les unes aux autres (ATF 136 III 178 consid. 5.2 p. 182 avec la référence). La notion de partie au sens des art. 106 ss CPC doit d'ailleurs être comprise de manière large; partant, cette qualité doit être reconnue à toute personne légitimée à agir, même seulement sur un point particulier (TAPPY, Code de procédure civile commenté, 2011, n° 24 ad art. 106 CPC).
5.3.5 En l'occurrence, les deux s?urs du recourant sont bénéficiaires d'une part de la succession de feu X._ (cf. supra consid. 4.2.2) et également exécutrices testamentaires de cette même succession. A ce dernier titre, elles ont, de par la loi, une prétention à être désignées en qualité d'administratrices de la succession (art. 554 al. 2 CC) - nomination que le recourant conteste -, de sorte qu'elles ont un intérêt juridique au présent litige justifiant qu'elles fassent valoir leurs droits. Contrairement à ce qu'affirme le recourant sans le démontrer, elles auraient pu intervenir dans la procédure au sens de l'art. 74 CPC. Cela étant, le recourant ne soutient pas, ni a fortiori ne démontre, s'être opposé à l'intervention de ses s?urs à la procédure cantonale, singulièrement à la prise de conclusions par celles-ci. Sa critique, en tant qu'elle porte sur la constatation de l'intervention des exécutrices testamentaires à la procédure, est donc irrecevable, faute d'épuisement des instances cantonales (art. 75 al. 1 LTF; cf. supra consid. 2.1).
En définitive, les deux s?urs sont des intervenantes à la procédure, et, dès lors qu'elles ont déposé des écritures en instance cantonale de recours, pris des conclusions indépendantes et obtenu gain de cause, le juge peut, selon sa libre appréciation, leur octroyer une indemnité de dépens (TAPPY, op. cit., n° 24 ad art. 106 CPC; ATF 130 III 571 consid. 6 p. 578; arrêt 5A_195/2012 du 21 juin 2012 consid. 5.3). L'allocation de dépens à des personnes intervenues à la procédure et qui ont obtenu gain de cause quant à leurs conclusions ne saurait être considérée comme insoutenable ou choquante (cf. supra consid. 5.1). L'autorité précédente n'a donc pas versé dans l'arbitraire dans l'application des art. 106 ss CPC; le grief est mal fondé dans la mesure de sa recevabilité.
6. Dans l'hypothèse où la cour de céans ne constaterait pas de violation de l'arbitraire dans l'application de l'art. 556 al. 3 CC, le recourant développe une argumentation subsidiaire. Il expose que, même s'il faut considérer que le critère de la confiance est une question de circonstances et/ou de personnes, la Chambre des recours a néanmoins versé dans l'arbitraire dans l'établissement des faits pertinents.
6.1 Le recourant soutient que l'autorité précédente a violé son droit d'être entendu (art. 29 al. 2 Cst.), la prohibition de l'arbitraire (art. 9 Cst.) et dénonce un déni de justice, dès lors qu'elle a méconnu le syllogisme effectué par le recourant dans son mémoire cantonal afin de démontrer que les faits retenus en première instance seraient "une version inventée". Le recourant affirme que la Chambre des recours a omis de prendre en considération les critiques qui figuraient dans la partie en fait de son mémoire, précisant que "c'était pour ne pas allonger cette écriture que le syllogisme n'avait pas été répété dans la partie en droit".
6.1.1 En l'occurrence, il ressort de la décision attaquée que la cour cantonale a considéré que les faits allégués par le recourant n'étaient pas établis et estimé que celui-ci ne démontrait pas en quoi les modifications qu'il sollicitait étaient pertinentes pour l'issue de la cause. En conséquence, contrairement à ce qu'affirme le recourant, l'autorité précédente a examiné le reproche relatif à l'établissement des faits. Cela étant, le recourant ne prétend ni avoir été empêché de présenter une preuve, ni que la cour cantonale aurait refusé l'administration d'une preuve offerte, ni même qu'elle n'aurait manifestement pas compris le sens et la portée d'un moyen de preuve ou tiré de ce moyen des déductions insoutenables, en sorte que l'on ne saurait considérer que la non-prise en compte dans l'état de fait d'allégations du recourant non établies et dont l'incidence sur le sort du litige est incertaine serait constitutive d'une violation du droit d'être entendu et de la prohibition de l'arbitraire. Ces reproches sont mal fondés.
6.1.2 Selon la jurisprudence, il y a formalisme excessif, constitutif d'un déni de justice formel prohibé par l'art. 29 Cst., lorsque la stricte application des règles de procédure ne se justifie par aucun intérêt digne de protection, devient une fin en soi et complique de manière insoutenable la réalisation du droit matériel ou entrave de manière inadmissible l'accès aux tribunaux. L'excès de formalisme peut résider soit dans la règle de comportement imposée au justiciable par le droit cantonal, soit dans la sanction qui lui est attachée (ATF 134 II 244 consid. 2.4.2 p. 248; 130 V 177 consid. 5.4.1 p. 183 s.).
En l'espèce, ainsi qu'il a déjà été dit (cf. supra consid. 6.1.1), la cour cantonale n'a pas omis de rapprocher les faits allégués de la théorie exposée dans la partie "en droit" et de traiter ce grief. Par conséquent, la critique de formalisme excessif doit d'emblée être rejetée.
6.2 Enfin, le recourant soulève à nouveau les griefs de violation du droit d'être entendu (art. 29 al. 2 Cst.) et d'arbitraire (art. 9 Cst.) dans l'établissement des faits et l'appréciation des preuves, critiquant les constatations de fait relatives à la gestion du patrimoine successoral par un "family office", au soutien apporté aux exécutrices testamentaires par la société G._ et aux compétences de celles-ci. Ces reproches sont en substance identiques à ceux que le recourant a soulevés dans la première partie de son mémoire (cf. supra consid. 4.1 et 4.2.1), de sorte qu'ils doivent subir le même sort.
7. Vu ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité. Le recourant, qui succombe, supportera les frais judiciaires (art. 66 al. 1 LTF). Il n'y a pas lieu d'allouer une indemnité de dépens aux exécutrices testamentaires qui n'ont pas été invitées à se déterminer.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 21 novembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin