Faits:
A. A.a X._, ressortissant français né en 1920, a eu trois enfants avec sa première épouse, décédée en 2007: A._, B._ et C._.
En secondes noces, X._ a épousé dame X._, le 7 décembre 2009 à N._, où il résidait depuis plus de 60 ans.
Par testament en la forme authentique du 9 octobre 2007, X._ a institué ses dix petits-enfants comme légataires universels de sa succession. Par un codicille du 26 octobre 2009, X._ a légué la quotité disponible de sa succession à sa seconde épouse.
A.b Dès le mois de novembre 2009, les époux X._ ont entrepris diverses démarches en vue d'un déménagement en Suisse. Le 3 décembre 2009, à l'occasion d'un déplacement à Genève, X._ a conclu avec l'entreprise Q._ SA un contrat de mandat consistant à rechercher un bien à la location pour une disponibilité immédiate, soit dès le 15 décembre 2009, et la société R._ SA a été contactée en vue d'un déménagement à partir du 21 décembre 2009. Le 15 décembre 2009, l'entreprise Q._ SA a déposé au nom des époux X._ un dossier de candidature pour une villa sise à O._. Le même jour, X._ a établi une procuration en faveur de Me P._, conférant à celui-ci le pouvoir de signer le bail ainsi que toutes les démarches administratives dans le cadre de la délocalisation des époux X._. Par courrier recommandé adressé le 17 décembre 2009 à leur bailleur, le couple X._ a indiqué qu'il désirait résilier le bail de l'appartement de N._ au plus tôt, proposant un état des lieux et la remise des clés pour le 22 décembre 2009. Le 18 décembre 2009, l'avocat des époux X._ a requis l'Administration cantonale des impôts d'imposer ceux-ci selon le régime de l'impôt d'après la dépense, en vue de leur installation en Suisse. Le bail à loyer pour la villa à O._ a été signé par Me P._ pour les époux X._ le 22 décembre 2009 avec effet dès le 15 décembre 2009. Un inventaire des biens du couple destinés à être transportés en Suisse a également été signé le 22 décembre 2009. Le déménagement du mobilier dans la villa de O._ a été effectué le 23 décembre 2009. Le même jour, dame X._ a annoncé son arrivée au Service de la population de l'État de Vaud. Le lendemain, l'ECA a établi une police d'assurance Mobilière Ménage avec pour assurés "Mme et M. X._".
B. Le 22 décembre 2009, X._ a été victime d'un accident vasculaire cérébral et a été transporté dans un état critique au Centre hospitalier de Q._, avant d'être transféré, le jour même, à l'Hôpital américain de N._. L'état de santé de X._ s'est progressivement altéré avec une diminution de son état de conscience. Il est décédé le 2 janvier 2010 à l'hôpital de N._.
A la suite du décès de feu X._, plusieurs procédures ont été ouvertes par la veuve et les enfants du défunt, en Suisse et en France. Le 7 avril 2011, la veuve a notamment requis du Président du Tribunal civil de l'arrondissement de la Côte qu'il désigne un représentant de la communauté héréditaire jusqu'au moment du partage.
B.a Par décision du 22 juin 2011, le Président du Tribunal d'arrondissement de la Côte a déclaré irrecevable la requête en désignation d'un représentant de la communauté héréditaire formée par la veuve. L'arrêt complet a été notifié aux parties le 26 septembre 2011.
B.b La Chambre des recours civile du Tribunal cantonal du canton de Vaud (ci-après: la Chambre des recours) a rejeté l'appel de la veuve par arrêt du 9 décembre 2011, expédié aux parties le 13 mars 2012.
C. Par acte du 11 avril 2012, dame X._, interjette un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral. Elle conclut principalement à la réforme de l'arrêt entrepris en ce sens que le Président du Tribunal d'arrondissement de la Côte est compétent pour traiter la requête en désignation d'un représentant de la communauté héréditaire en lien avec la succession de feu X._, subsidiairement, au renvoi de la cause à l'autorité précédente, et très subsidiairement, au renvoi de la cause devant le premier juge. A l'appui de ses conclusions, la recourante invoque les art. 1 et 308 CPC, l'art. 23 CC et l'art. 20 LDIP. Elle se prévaut aussi de la prohibition de l'arbitraire et de la violation de l'égalité de traitement (art. 8 al. 1 et 9 Cst.) dans l'application des art. 1 et 308 CPC, ainsi que des art. 23 CC et 20 LDIP. La recourante invoque encore la garantie du droit d'être entendu (art. 29 al. 2 Cst.) et la primauté du droit fédéral (art. 122 Cst.). Enfin, elle soulève le grief de constatation inexacte des faits au sens de l'art. 97 al. 1 LTF.
Des réponses n'ont pas été requises.

Considérant en droit:
1. Le présent recours a été déposé en temps utile (art. 100 al. 1 LTF) et dans la forme prévue par la loi (art. 42 LTF), par une partie ayant succombé devant l'autorité précédente et ayant un intérêt à l'annulation ou à la modification de l'arrêt entrepris (art. 76 al. 1 LTF). La décision attaquée, qui confirme l'irrecevabilité d'une requête en désignation d'un représentant de la communauté héréditaire (art. 602 al. 3 CC), est une décision mettant fin à la procédure, soit une décision finale au sens de l'art. 90 LTF, qui tranche une cause civile (art. 72 al. 1 LTF; arrêts 5D_133/2010 du 12 janvier 2011 consid. 1.1; 5A_787/2008 du 22 janvier 2009 consid. 1.1), de nature pécuniaire dont la valeur litigieuse minimale de 30'000 fr. est manifestement atteinte (art. 74 al. 1 let. b LTF; arrêts 5A_184/2012 du 6 juillet 2012 consid. 1.3, 5A_787/2008 du 22 janvier 2009 consid. 1.1). L'arrêt attaqué a en outre été rendu sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF). La voie du recours en matière civile est ouverte, de sorte que le recours constitutionnel subsidiaire est d'emblée irrecevable (art. 113 LTF).
2. La décision relative à la désignation d'un représentant de la communauté héréditaire (art. 602 al. 3 CC), qui relève de la juridiction gracieuse (<ref-ruling> consid. 2a p. 310; arrêt 5P.458/2005 du 18 avril 2006 consid. 1.1), ne préjuge pas la question de l'existence des droits que les parties intéressées pourraient avoir dans la succession; elle constitue une décision de mesures provisionnelles au sens de l'art. 98 LTF, qui ne peut être attaquée que pour violation des droits constitutionnels (arrêts 5A_725/2010 du 12 mai 2011 consid. 1.3; 5A_787/2008 du 22 janvier 2009 consid. 1.1).
2.1 Le Tribunal fédéral n'examine la violation des droits constitutionnels que si un tel grief a été dûment invoqué et motivé par la partie recourante (<ref-ruling> consid. 3.3 p. 310 s.; <ref-ruling> consid. 1.4.2 p. 254). Le recourant qui se plaint de la violation de droits fondamentaux doit satisfaire au principe d'allégation, en indiquant précisément quelle disposition constitutionnelle a été violée et en démontrant, par une argumentation précise, en quoi consiste la violation (art. 106 al. 2 LTF; <ref-ruling> consid. 1.4 p. 287; <ref-ruling> consid. 1.4.2 p. 254). Les critiques de nature appellatoire sont irrecevables (<ref-ruling> consid. 3.1 p. 399, 589 consid. 2 p. 591).
Lorsque le recourant se plaint d'arbitraire (art. 9 Cst.), il ne peut se borner à critiquer la décision attaquée comme il le ferait en instance d'appel, où l'autorité de recours dispose d'une libre cognition; il ne saurait se contenter d'opposer son opinion à celle de la juridiction précédente, mais doit démontrer, par une argumentation précise, que cette décision se fonde sur une application du droit manifestement insoutenable (<ref-ruling> consid. 3 p. 351 s. et les arrêts cités).
2.2 Le Tribunal fédéral conduit son raisonnement sur la base des faits établis par la juridiction précédente (art. 105 al. 1 LTF). Dans l'hypothèse d'un recours soumis à l'art. 98 LTF, le recourant ne peut obtenir la rectification ou le complètement des constatations de fait de l'arrêt cantonal que s'il démontre la violation de droits constitutionnels par l'autorité cantonale; les art. 95, 97 et 105 al. 2 LTF ne s'appliquent pas directement (<ref-ruling> consid. 7.1 p. 398; <ref-ruling> consid. 4.1 p. 588 s.). Toutefois, l'application de l'art. 9 Cst. aboutit pratiquement au même résultat: le Tribunal fédéral ne corrige les constatations de fait que si elles sont arbitraires et ont une influence sur le résultat de la décision (arrêts 5A_528/2011 du 26 janvier 2012 consid. 2.1; 5A_475/2011 du 12 décembre 2011 consid. 2.2; 5A_361/2011 du 7 décembre 2011 consid. 2.2).
3. La présente affaire se rapporte à la compétence internationale pour désigner un représentant de la communauté héréditaire.
3.1 La demande de désignation d'un représentant de la communauté héréditaire au sens de l'art. 602 al. 3 CC, à l'instar de la nomination d'un administrateur officiel, est une mesure ordonnée dans le cadre de la dévolution successorale, qui doit être introduite au lieu du dernier domicile du défunt (art. 18 LFors, 28 al. 2 CPC, WEIBEL, Erbrecht, Praxiskommentar, 2ème éd., 2011, n° 63 ad art. 602 CC; SCHAUFELBERGER/KELLER LÜSCHER, Basler Kommentar, ZGB II, 4ème éd., 2011, n° 40 ad art. 602 CC).
3.2 L'autorité précédente a relevé que, en se conformant aux voies de droit qui lui avaient été indiquées, la veuve avait fait appel de la décision du Président du Tribunal d'arrondissement, alors que le règlement des litiges gracieux réservés au juge sont soumis au Code de droit privé judiciaire vaudois du 12 janvier 2010 (ci-après: CDPJ), lequel prévoit le seul recours limité au droit contre les décisions de cette nature. Selon la législation cantonale, les juges cantonaux ont donc traité l'appel interjeté contre la décision d'irrecevabilité comme un recours au sens de l'art. 319 CPC. Sur le fond, la Chambre des recours a constaté qu'il n'était pas établi que le défunt ait eu une résidence effective en Suisse au moment de son décès. Elle a estimé que, contrairement à l'avis de la recourante, la jurisprudence ne laissait nullement entendre que l'on pourrait être domicilié en Suisse sans y résider. L'autorité précédente a constaté que le décès était survenu alors que feu X._ était encore domicilié en France, bien qu'il fût sur le point de déménager en Suisse; partant elle a jugé que les autorités suisses étaient incompétentes à raison du lieu pour statuer sur la requête en désignation d'un représentant de la communauté héréditaire. La Chambre des recours a en définitive confirmé la décision de première instance déclarant la requête irrecevable ratione loci.
4. La recourante fait grief à la Chambre des recours d'avoir violé son droit d'être entendue garanti par l'art. 29 al. 2 Cst., soutenant que l'autorité cantonale n'est pas entrée en matière sur les moyens de fait soulevés et toutes les offres de preuves présentées en "appel".
4.1 Le droit d'être entendu est un grief de nature formelle (<ref-ruling> consid. 3d/aa p. 437 s.), dont la violation entraîne l'annulation de la décision attaquée indépendamment des chances de succès du recours sur le fond (<ref-ruling> consid. 3d/aa p. 437), qu'il convient par conséquent d'examiner avant tout autre (<ref-ruling> consid. 2.6.1 p. 285; <ref-ruling> consid. 1 p. 50).
Le droit d'être entendu découlant de l'art. 29 al. 2 Cst. comprend en particulier le droit pour le justiciable de s'expliquer avant qu'une décision ne soit prise à son détriment, de fournir des preuves quant aux faits de nature à influer sur la décision, d'avoir accès au dossier, de participer à l'administration des preuves, d'en prendre connaissance et de se déterminer à leur propos; le droit d'être entendu est à la fois une institution servant à l'instruction de la cause et une faculté de la partie, en rapport avec sa personnalité, de participer au prononcé de décisions qui touchent à sa situation juridique (<ref-ruling> consid. 5.1 p. 293; <ref-ruling> consid. 2.2 p. 190; <ref-ruling> consid. 2.2. p. 504 s.).
4.2 En l'occurrence, la recourante soutient que la Chambre des recours a écarté "en bloc tous les moyens de fait soulevés et toutes les offres de preuve présentées", citant notamment la domiciliation fiscale et la dimension conjugale du domicile. La recourante n'explicite toutefois pas plus avant sa critique par rapport à l'arrêt entrepris - son reproche tient en cinq lignes -, de sorte qu'une telle critique toute générale ne permet pas de comprendre en quoi la non-prise en compte de certaines de ses allégations dans l'état de fait de l'arrêt de la Chambre des recours serait constitutive d'une violation de son droit d'être entendue. Dans ces conditions, son grief n'est pas suffisamment motivé eu égard au principe d'allégation; partant il est d'emblée irrecevable (art. 106 al. 2 LTF; cf. supra consid. 2.1).
5. En ce qui concerne la constatation des faits, la recourante reproche aux juges cantonaux, sous l'angle de l'art. 97 al. 1 LTF, d'avoir omis de relever et de prendre en considération plusieurs actes du défunt, de nature à influer sur le sort de la cause parce qu'ils "constituent indéniablement l'expression et la concrétisation de la volonté du précité de s'établir durablement à O._". Elle estime que le mandat de "service complet de relocation" signé en vue de trouver un logement en Suisse, l'état des lieux du logement occupé à U._, le dédouanement définitif des meubles et la domiciliation fiscale n'ont pas été pris en considération par l'autorité précédente, en dépit des pièces produites en appel à l'appui de ces faits.
5.1 En l'espèce, bien que la recourante indique "l'établissement manifestement inexact des faits" en vertu de l'art. 97 al. 1 LTF, autrement dit une violation du droit fédéral au sens de l'art. 95 let. a LTF, il ressort de son acte qu'elle reproche à l'autorité cantonale d'avoir arbitrairement omis de mentionner plusieurs faits clairement établis, qu'elle énumère. Il y a donc lieu d'entrer en matière sur ce grief, en tant que la recourante se plaint d'une violation du principe de l'interdiction de l'arbitraire (art. 9 Cst.) dans l'établissement des faits et l'appréciation des preuves.
5.2 En l'occurrence, la Chambre des recours n'a pas omis de prendre en considération les éléments mentionnés par la recourante, qui figurent au demeurant dans l'état de fait (cf. supra let. A.b). Les juges précédents ont cependant estimé que ces constatations, notamment le mandat de "service complet de relocation" et le domicile fiscal, étaient uniquement de nature à prouver l'expression de la volonté du défunt et de la veuve de s'établir à O._ - aspect subjectif non litigieux - et qu'ils n'étaient pas pertinents pour démontrer la résidence effective. Il est établi que le contrat de bail du logement en Suisse a été signé par un mandataire le jour de l'accident vasculaire cérébral du défunt, à l'issue duquel il a sombré dans le coma. Lors du déménagement du mobilier en Suisse le lendemain, celui-ci se trouvait, selon le dossier de la cause, singulièrement de l'arrêt entrepris et des rapports médicaux, hospitalisé à N._, où il est demeuré jusqu'à son décès le 2 janvier 2010. En conséquence, l'autorité précédente n'a pas versé dans l'arbitraire en constatant que la résidence effective en Suisse n'avait pas été prouvée par la recourante et qu'aucune nouvelle pièce n'était de nature à démontrer que le défunt a eu une résidence effective en Suisse avant son décès, vu les faits de la cause établis et non querellés. Le grief doit donc être rejeté.
6. La recourante fait ensuite grief à la Chambre des recours civile d'avoir violé le droit fédéral, à savoir les art. 23 CC et 20 LDIP. De surcroît, elle reproche aux juges cantonaux d'avoir versé dans l'arbitraire (art. 9 Cst.) et d'avoir violé l'égalité de traitement (art. 8 al. 1 Cst.) dans l'application des art. 23 CC et 20 LDIP. Selon la recourante, la cour cantonale n'a pas seulement mal apprécié les critères applicables pour déterminer le domicile, mais a écarté à tort la plupart de ces critères, "en érigeant en prétendue condition absolue la présence corporelle personnelle en un lieu donné de quiconque constitue son domicile en ce lieu". Ce faisant, les juges précédents auraient traité "par prétérition" la question de savoir si l'élément objectif de la notion de domicile requérait ou non la présence corporelle de l'intéressé.
6.1 En tant qu'elle invoque les art. 23 CC et 20 LDIP de manière autonome, la critique de la recourante est d'emblée irrecevable, seule la violation de droits constitutionnels pouvant être soulevée dans le cadre d'un recours soumis à l'art. 98 LTF (cf. supra consid. 2.1, art. 106 al. 2 LTF).
6.2 Une décision est arbitraire (art. 9 Cst.) lorsqu'elle est manifestement insoutenable, méconnaît gravement une norme ou un principe juridique clair et indiscuté, ou heurte de manière choquante le sentiment de la justice et de l'équité; il ne suffit pas qu'une autre solution paraisse concevable, voire préférable; pour que cette décision soit censurée, encore faut-il qu'elle se révèle arbitraire, non seulement dans ses motifs, mais aussi dans son résultat (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 2.2.2 p. 318 s.; <ref-ruling> consid. 3.1 p. 153). L'inégalité de traitement (art. 8 al. 1 Cst.) apparaît comme une forme particulière d'arbitraire, consistant à traiter de manière inégale ce qui devrait l'être de manière semblable ou inversement (<ref-ruling>67 consid. 3.5 p. 175; <ref-ruling> consid. 6 p. 357).
6.3 Le domicile est déterminé selon les critères prévus par l'art. 20 al. 1 let. a LDIP, dont la teneur correspond à celle de l'art. 23 al. 1 CC. La notion de domicile comporte deux éléments: l'un objectif, la présence physique en un lieu donné; l'autre subjectif, l'intention d'y demeurer durablement (<ref-ruling> consid. 3.6 p. 126 s., III 593 consid. 3.5 p. 600; <ref-ruling> consid. 4.3 p. 409 s., 135 III 49 consid. 6.2 p. 56).
6.3.1 L'élément objectif du domicile (i.e. la présence physique en un endroit donné) ne suppose pas nécessairement que le séjour ait déjà duré un certain temps; si la condition subjective (i.e. la manifestation de l'intention de rester durablement en ce lieu) est par ailleurs remplie, la constitution d'un domicile peut se produire dès l'arrivée dans le nouveau pays de séjour; en d'autres termes, pour déterminer si l'intéressé s'y est créé un domicile, ce n'est pas la durée de sa présence à cet endroit qui est décisive, mais bien la perspective d'une telle durée (arrêts 5A_432/2009 du 23 décembre 2009 consid. 5.2.1, 5A_398/2007 du 28 avril 2008 consid. 3.2, 5C.163/2005 du 25 août 2005 consid. 4.1, 5C.99/1993 consid. 3a; OTHENIN-GIRARD, Commentaire de l'arrêt 5A_659/2011, in PJA 6/2012, p. 858; idem, pour la résidence habituelle: arrêts 5A_607/2008 du 2 mars 2009 consid. 4.4, 5A_440/2011 du 25 novembre 2011 consid. 2.2).
6.3.2 Pour déterminer si une personne réside dans un lieu déterminé avec l'intention de s'y établir durablement (élément subjectif du domicile), la jurisprudence ne se fonde pas sur la volonté interne de l'intéressé; seules sont décisives les circonstances objectives, reconnaissables pour les tiers, permettant de déduire une telle intention (<ref-ruling> consid. 1 p. 238; <ref-ruling> consid. 2b p. 8; <ref-ruling> consid. 2b/bb p. 65; arrêts 5A_659/2011 du 5 avril 2012 consid. 2.2.2; 5A_432/2009 du 23 décembre 2009 consid. 5.2.1; OTHENIN-GIRARD, op. cit., p. 857 in fine avec les références). Pour qu'une personne soit domiciliée à un endroit donné, il faut donc que des circonstances de fait objectives manifestent de manière reconnaissable pour les tiers que cette personne a fait de cet endroit, ou qu'elle a l'intention d'en faire, le centre de ses intérêts personnels, sociaux et professionnels (ATF <ref-ruling> consid. 2b/bb p. 65; arrêt 5C.163/2005 du 25 août 2005 consid. 4.1 et les références citées). Un endroit peut (encore) constituer le domicile d'une personne qui a manifesté son intention de transférer par la suite son domicile dans un autre pays, si elle n'a pas encore mis son intention à exécution. Ainsi, dans le cas d'une personne qui s'apprêtait à rejoindre son domicile à l'étranger au terme d'un voyage se terminant en Suisse et qui s'était cassée le col du fémur avant le départ, demeurant empêchée de retourner dans son pays et qui est donc restée en Suisse jusqu'à son décès, le Tribunal fédéral a admis la constitution d'un domicile en Suisse (arrêt 5A_725/2010 du 12 mai 2011 consid. 2.3 et 4).
6.3.3 Le lieu où la personne réside (élément objectif) et son intention de s'établir (élément subjectif) constituent des questions de fait dont la solution lie le Tribunal fédéral (ATF <ref-ruling> consid. 2a p. 8). Si ces manifestations de volonté relèvent du fait, les conclusions à en tirer au sens des art. 23 CC et 20 LDIP constituent une question de droit que le Tribunal fédéral peut revoir dans le cadre des griefs invoqués (art. 98 LTF, cf. supra consid. 2.1; ATF <ref-ruling> consid. 2a et la référence citée).
6.4 Le raisonnement de la cour cantonale ne prête pas le flanc à la critique. La manifestation de l'intention de s'établir en Suisse, au demeurant non litigieuse, en tant qu'expression de la volonté interne de l'intéressé, ne suffit pas (<ref-ruling> consid. 3 p. 3 ss et les citations). Il ressort de l'état de fait qui lie la cour de céans (cf. supra consid. 2.2) que, s'il avait l'intention de s'établir en Suisse, feu X._ n'a pas pu mettre son projet à exécution en raison de son hospitalisation d'urgence au lieu de son domicile français qu'il entendait quitter, le jour précédant la date du déménagement du mobilier. Il ressort en outre des faits - que la recourante ne remet pas en cause sur ce point - que feu X._ est demeuré hospitalisé à cet endroit sans interruption et plongé dans le coma, jusqu'à son décès. Il ne s'est ainsi jamais rendu en Suisse pour y résider et n'y a par conséquent jamais constitué sa résidence, même sur une très courte période (cf. supra consid. 6.3.1 in fine). La condition objective nécessaire à la constitution valable d'un domicile au sens des art. 23 CC et 20 LDIP de X._ en Suisse n'a jamais été réalisée. L'autorité précédente n'a ni versé dans l'arbitraire, ni violé l'égalité de traitement dans ce contexte (cf. supra consid. 6.2 in fine) en retenant que la condition objective à la constitution d'un domicile civil au sens des art. 23 CC et 20 LDIP n'était pas satisfaite. Le grief doit ainsi être rejeté.
7. La recourante fait ensuite valoir que la Chambre des recours a violé le principe de la primauté du droit fédéral, car la procédure civile est du ressort de la Confédération (art. 122 Cst.). La recourante relève que le droit fédéral doit primer le droit cantonal qui lui est contraire, en sorte que le CPC, applicable au cas d'espèce et ne laissant pas de place à une réglementation complémentaire, prime les règles cantonales en matière de procédure. La recourante expose que, dès lors qu'une affaire de nature gracieuse est attribuée au pouvoir judiciaire, le CPC est applicable (art. 1er let. b CPC). La recourante soutient donc que les juges cantonaux, qui ont appliqué les art. 109 al. 3 et 111 du Code de droit privé judiciaire vaudois du 12 janvier 2010 (ci-après: CDPJ) imposant une voie de recours plus restrictive que l'appel au sens de l'art. 308 CPC, ont violé le principe de la primauté du droit fédéral.
7.1 En l'occurrence, la recourante n'expose pas les conséquences qu'aurait eue la non-application du CPC par l'autorité précédente sur le raisonnement de l'arrêt entrepris, se contentant de formuler son reproche de manière générale et abstraite. La critique de la recourante ne satisfait donc guère à l'exigence d'allégation (cf. supra consid. 2.1).
7.2 Cela étant, il est manifeste que l'issue de la procédure n'aurait pas été différente si l'autorité précédente avait examiné les griefs de la recourante dans le cadre d'un appel cantonal au sens de l'art. 308 CPC, dès lors que la résidence effective en Suisse du défunt n'a pas été prouvée et qu'aucune nouvelle pièce n'est de nature à démontrer que le défunt a eu une résidence effective en Suisse avant son décès, vu les faits de la cause établis et non querellés (cf. supra consid. 5.2). Aussi, l'éventuelle violation de la primauté du droit fédéral et, partant, l'application de règles cantonales de procédure civile ne saurait dans ce cas entraîner l'annulation de la décision entreprise. Il s'ensuit que la controverse relative à l'application du CPC aux affaires de nature gracieuse attribuées par les cantons à une autorité judiciaire (art. 54 al. 2 et 3 Tit. fin. CC et art. 1er let. b CPC) peut souffrir ici de demeurer indécise, celle-ci n'ayant pas d'influence sur l'issue du recours.
8. La recourante reproche enfin à la Chambre des recours d'avoir violé les art. 1er et 308 CPC, ainsi que d'avoir versé dans l'arbitraire (art. 9 Cst.) et violé l'égalité de traitement (art. 8 al. 1 Cst.) dans l'application de ces normes.
8.1 Dans la mesure où la recourante se plaint de la violation du droit fédéral, à savoir les art. 1er et 308 CPC, son reproche est d'emblée irrecevable, dès lors que, dans le cadre d'un recours soumis à l'art. 98 LTF, seule la violation de droits constitutionnels peut être soulevée (cf. supra consid. 2.1, art. 106 al. 2 LTF).
8.2 Pour le surplus, sous couvert du grief d'application arbitraire des art. 1er et 308 CPC, la recourante entend en réalité se plaindre de la non-application de ces dispositions au profit des art. 319 et 326 CPC. Ainsi qu'il a été exposé ci-dessus (cf. supra consid. 7), l'éventuelle non-application des dispositions fédérales de procédure n'a aucune incidence sur l'issue de la présente procédure (cf. supra consid 7.2), en sorte que le grief d'arbitraire (art. 9 Cst.) dans l'application des art. 1er et 308 CPC doit être rejeté.
9. Vu ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Les frais judiciaires sont mis à la charge de la recourante qui succombe (art. 66 al. 1 LTF). Les intimés n'ayant pas été invités à se déterminer sur le recours, ils n'ont pas droit à une indemnité de dépens (art. 68 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière civile est rejeté dans la mesure où il est recevable.
3. Les frais judiciaires, arrêtés à 10'000 fr., sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties et à la Chambre des recours civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 21 novembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin