Faits:
A. A.a D._, ressortissant français né en 1920, a eu trois enfants de son mariage avec E._, décédée en 2007: A._, B._, et C._.
Le 7 décembre 2009, il a épousé en secondes noces X._.
D._ avait sa résidence habituelle dans un appartement loué à Neuilly-sur-Seine. Dès le mois de novembre 2009, D._ et X._ ont entrepris des démarches en vue d'un déménagement en Suisse:
Le 3 décembre 2009, à l'occasion d'un déplacement à Genève, D._ a conclu avec l'entreprise F._ SA un contrat de mandat consistant à rechercher un bien à la location pour une disponibilité immédiate, soit dès le 15 décembre 2009;
Le 11 décembre 2009, la société G._ SA a été contactée en vue d'un déménagement à partir du 21 décembre 2009;
Le 15 décembre 2009, l'entreprise F._ SA a déposé au nom des époux D.X._ un dossier de candidature pour une villa sise à H._. Le même jour, D._ a établi une procuration en faveur de Me I._, conférant à celui-ci le pouvoir de signer le bail ainsi que toutes les démarches administratives dans le cadre de la délocalisation des époux D.X._;
Par courrier recommandé adressé le 17 décembre 2009 à leur bailleur, le couple a indiqué qu'il désirait résilier le bail de l'appartement de Neuilly-sur-Seine au plus tôt, proposant un état des lieux et la remise des clés pour le 22 décembre 2009;
Le bail à loyer pour la villa à H._ a été signé le 22 décembre 2009 avec effet dès le 15 décembre 2009;
Le 22 décembre 2009, a été signé un inventaire des biens du couple destinés à être transportés en Suisse, le déménagement étant prévu pour le lendemain.
Le 22 décembre 2009, D._ a été transféré dans un état critique au Centre hospitalier J._, avant d'être hospitalisé, le jour même, à l'Hôpital K._ de Paris. D._ est décédé le 2 janvier 2010 dans cet hôpital.
Le déménagement dans la villa de H._ a été effectué le 23 décembre 2009. Le même jour, X._ a annoncé son arrivée au Service de la population de l'État de Vaud.
A.b L'acte de décès de D._ mentionnait initialement un domicile à H._. A la demande de A._, B._, et C._, cet acte a été rectifié le 9 juillet 2010 par ordonnance du Procureur de la République à Nanterre pour indiquer que le domicile de D._ au moment de son décès se situait à Neuilly-sur-Seine.
A._, B._, et C._ ont ouvert action contre X._ devant le Tribunal de Grande Instance de Nanterre le 3 août 2010, afin qu'il soit constaté que l'indication du domicile de H._ sur l'acte de décès était une fraude à la loi, que le droit français était applicable à la succession, et que tous les actes y relatifs effectués en Suisse ne leur seraient pas opposables. Le tribunal a rejeté l'exception d'incompétence invoquée par X._ au motif qu'il ne résultait d'aucun élément du dossier que l'installation des époux D.X._ en Suisse ait été effective au jour du décès. X._ a fait appel de cette décision.
A.c A._, B._, et C._ ont également déposé, le 20 décembre 2010, une requête de conciliation préalable devant la Justice de paix du district de Nyon, tendant à ce qu'il soit constaté que X._ n'avait ni la qualité d'héritière ni celle de légataire dans la succession de feu D._.
B. Par décision du 12 août 2010, le Préposé au Contrôle des habitants de H._ a radié, à la demande de A._, B._, et C._, l'inscription de feu D._ du registre du Contrôle des habitants.
X._ a formé recours contre cette décision devant la Municipalité de H._. Par décision du 1er octobre 2010, celle-ci a admis le recours en ce sens que l'inscription de D._ au registre du Contrôle des habitants était acceptée pour la période du 23 décembre 2009 à son décès, le 2 janvier 2010.
A._, B._, et C._ ont recouru contre cette décision auprès du Tribunal cantonal du canton de Vaud. Par arrêt du 26 août 2011, le Tribunal cantonal a admis le recours et annulé la décision de la Municipalité de H._ du 1er octobre 2010.
C. Par acte du 28 septembre 2011, X._ dépose un recours en matière de droit public et recours constitutionnel subsidiaire auprès du Tribunal fédéral. Elle conclut principalement à ce que l'arrêt du Tribunal cantonal du 26 août 2011 soit réformé et la décision du 1er octobre 2010 de la Municipalité de H._ confirmée, feu D._ étant inscrit au registre du Contrôle des habitants de la commune de H._ à dater du 23 décembre 2009. Subsidiairement, elle demande l'annulation de l'arrêt du 26 août 2011 et le renvoi de la cause au Tribunal cantonal pour nouveau jugement dans le sens des considérants. Plus subsidiairement encore, elle requiert le renvoi de la cause à la Municipalité de H._ pour nouvelle décision dans le sens des considérants.
Par courrier du 20 octobre 2011, X._ a déposé une pièce nouvelle, établie par les autorités fiscales vaudoises le 10 octobre 2011.
A._, B._, et C._ ont déposé leur réponse le 11 novembre 2011. Ils concluent au rejet du recours en matière de droit public, dans la mesure où il est recevable, et à l'irrecevabilité du recours constitutionnel subsidiaire, subsidiairement au rejet de celui-ci.
Le 19 décembre 2011, X._ a déposé des observations complémentaires. De leur côté, A._, B._, et C._ ont déposé un mémoire d'observations complémentaires le 30 janvier 2012 ainsi que 4 pièces nouvelles, dont une ordonnance de référé du 5 janvier 2012 du Tribunal de Grande Instance de Nanterre désignant un mandataire successoral afin d'administrer la succession de feu D._. Le 13 février 2012, X._ a déposé des dernières observations.
En date du 14 mars 2012, A._, B._, et C._ ont déposé deux nouvelles pièces, à savoir les arrêts rendus le 9 décembre 2011 par la Chambre des recours civile du Tribunal cantonal du canton de Vaud, rejetant les recours de X._ contre la décision de la Justice de paix de Nyon se déclarant incompétente pour traiter la succession de feu D._, et contre le jugement du Président du Tribunal civil de l'arrondissement de la Côte déclarant irrecevable la requête de X._ de désigner un représentant de la communauté héréditaire de feu D._.
Par courrier du 20 mars 2012, X._ s'est déterminée sur les nouvelles pièces produites par les intimés.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (art. 29 al. 1 LTF; cf. ATF 136 II 470 consid. 1 p. 472 et les arrêts cités).
1.1 Aux termes de l'art. 89 al. 1 LTF, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let a), est particulièrement atteint par la décision attaquée (let. b) et a un intérêt digne de protection à l'annulation ou à la modification de celle-ci (let. c). Constitue un intérêt digne de protection, au sens de cette disposition, tout intérêt pratique ou juridique à demander la modification ou l'annulation de la décision attaquée. L'intérêt digne de protection consiste ainsi en l'utilité pratique que l'admission du recours apporterait au recourant (ATF 133 II 249 consid. 1.3.1 p. 252). Le moment déterminant du point de vue de la recevabilité est celui où le Tribunal de céans rend son jugement (cf. ATF 136 II 497 consid. 3.3 p. 500 et les arrêts cités). Pour déterminer si, au moment où il se prononce, les conditions de recevabilité sont réunies, le Tribunal fédéral peut ainsi prendre en compte des faits postérieurs à l'arrêt attaqué; il s'agit d'exceptions à l'interdiction des faits nouveaux prévue à l'art. 99 al. 1 LTF (cf. arrêt 2C_811/2011 du 5 janvier 2012 consid. 1.1).
La recourante cherche à obtenir l'inscription de feu son mari dans le registre de la commune de H._. Elle fait valoir que l'admission du recours pourrait influencer la décision des juridictions civiles concernant le for de la succession de feu son mari, et que du lieu d'ouverture de la succession dépend le droit applicable et ses droits comme héritière. Il convient d'examiner si tel est le cas, ce qui fonderait un intérêt digne de protection à recourir au Tribunal fédéral.
1.2 Depuis l'entrée en vigueur de la loi fédérale du 23 juin 2006 sur l'harmonisation des registres des habitants et d'autres registres officiels de personnes (loi sur l'harmonisation de registres, LHR; RS 431.02), les registres cantonaux et communaux des habitants ne sont plus seulement régis par le droit cantonal et communal, en l'occurrence la loi vaudoise du 9 mai 1983 sur le contrôle des habitants (LCH; RS-VD 142.01) et son règlement d'application du 28 décembre 1983 (RLCH; RS-VD 142.01.1), mais également par ladite loi (art. 2 al. 2 let. a LHR) ainsi que par l'ordonnance du 21 novembre 2007 sur l'harmonisation de registres (OHR; RS 431.021).
Conformément à l'art. 3 let. b LHR, constitue la commune d'établissement d'une personne la commune dans laquelle une personne réside, de façon reconnaissable pour des tiers, avec l'intention d'y vivre durablement et d'y avoir le centre de ses intérêts personnels. Intitulé "lieu d'enregistrement", l'art. 3 RLCH dispose par ailleurs qu'à l'exception des détenus, toute personne, y compris les mineurs et les interdits, doit être annoncée et inscrite à son lieu de résidence effective, quel que soit le lieu de son domicile civil.
Selon la jurisprudence, l'établissement et le séjour, le domicile civil et les domiciles spéciaux sont déterminés par des autorités différentes dans des procédures distinctes (cf. arrêt 2C_478/2008 du 23 septembre 2008 consid. 3.5). La plupart du temps, c'est le domicile civil qui sert de point de référence aux autres domaines du droit. Le message du Conseil fédéral du 23 novembre 2005 concernant l'harmonisation de registres officiels de personnes précise ainsi expressément que l'art. 3 let. b LHR donne de l'établissement une définition qui s'appuie notamment sur la définition du Code civil suisse (cf. FF 2005 p. 439 ss, p. 469).
1.3 En droit civil, selon l'art. 23 al. 1 CC, le domicile de toute personne est au lieu où elle réside avec l'intention de s'y établir. Lorsque la détermination du domicile d'une personne soulève des difficultés, tant le critère de l'intention de s'établir que la notion de centre de vie commandent de recenser tous les facteurs qui pourraient s'avérer importants. Chacun de ces facteurs, pris en lui-même, ne constitue donc rien de plus qu'un indice. Ainsi, le dépôt des papiers au contrôle de l'habitant, l'établissement du permis de séjour, l'exercice des droits politiques, le paiement des impôts ne sont jamais déterminants en eux-mêmes pour fonder le domicile civil volontaire (cf. ATF 136 II 405 consid. 4.3 p. 409 s.; 133 V 309 consid. 3.3. p. 313; 125 III 100 consid. 3 p. 101 et les références citées).
Il découle de la jurisprudence précitée que c'est régulièrement le domicile civil et les domiciles spéciaux qui permettent d'établir si une personne est établie dans une commune donnée au sens de l'art. 3 let. b LHR, et non l'inverse. Dans ces conditions, on ne saurait retenir comme règle que le juge civil se fonde sur l'établissement selon le droit de registre pour établir le domicile civil d'une personne.
1.4 L'état de fait de la présente affaire corrobore cette analyse. Ainsi, la recourante ne démontre pas que l'inscription de l'établissement de feu son mari dans le registre de H._ serait prépondérant pour les juges civils au moment de statuer sur le for de la succession. Bien au contraire, le Tribunal de Grande Instance de Nanterre, dans son ordonnance de référé du 5 janvier 2012, a retenu qu'au regard de tous les éléments à sa disposition, il y avait lieu de considérer qu'au moment de son décès, feu D._ avait toujours son domicile au sens du droit civil à Neuilly-sur-Seine. Pour aboutir à cette conclusion, le Tribunal de Grande Instance de Nanterre s'est fondé sur le fait que D._, s'il avait l'intention de s'établir en Suisse, n'avait pas pu mettre son projet à exécution et n'y avait par conséquent jamais constitué sa résidence. De son côté, la Chambre des recours civile du Tribunal cantonal du canton de Vaud, dans l'un de ses arrêts du 9 décembre 2011, en se référant à l'arrêt attaqué du 26 août 2011, a certes relevé que la notion d'établissement (au sens de la LHR) n'est pas sans influence sur la fixation d'un domicile (civil). Elle a cependant ensuite retenu, en se fondant sur l'ensemble des éléments à sa disposition, que dès lors que D._ n'avait pas résidé effectivement à H._, il n'y avait pas son domicile civil au regard des art. 23 CC et 20 LDIP (RS 291). En outre, dans son second arrêt du 9 décembre 2011, la même autorité a retenu, sans aucune référence à l'établissement selon la LHR, que la condition objective nécessaire à la constitution valable d'un domicile au sens des art. 23 CC et 20 LDIP de D._ en Suisse, à savoir une résidence effective dans ce pays, n'était pas réalisée.
La recourante a annoncé avoir fait appel de la décision du Tribunal de Grande Instance de Nanterre, mais ainsi qu'elle le relève elle-même, toute décision ou tout jugement rendu sur la question du domicile de feu D._ par les autorités françaises ne lierait nullement les autorités suisses. De même, la recourante expose vouloir faire appel des arrêts de la Chambre des recours civile du Tribunal cantonal du canton de Vaud tout en relevant que "les arrêts en question ne sauraient lier le Tribunal fédéral et portent sur des questions ayant exclusivement trait à la notion de domicile civil indépendamment de la législation applicable en matière de contrôle des habitants". Elle reconnaît de la sorte elle-même l'absence de lien entre son recours en matière de droit public et les décisions rendues ou à rendre par les juridictions civiles suisses et françaises saisies de la question du domicile civil.
Dans ces conditions, force est de constater que l'intérêt digne de protection au sens de l'art. 89 al. 1 let. c LTF fait défaut à la recourante et que son recours en matière de droit public doit être déclaré irrecevable.
2. Reste à examiner la recevabilité du recours constitutionnel subsidiaire interjeté simultanément par la recourante (cf. art. 113 al. 1 LTF). Selon l'art. 115 let. b LTF, a qualité pour former un recours constitutionnel celui qui a un intérêt juridique à l'annulation ou à la modification de la décision attaquée.
La condition de l'intérêt au recours est définie plus largement pour le recours en matière de droit public que pour le recours constitutionnel. Ce dernier ne constitue donc pas une voie de droit subsidiaire lorsque l'intérêt digne de protection à interjeter un recours en matière de droit public fait défaut, mais lorsque la recevabilité d'un tel recours doit être niée en raison des exceptions prévues par l'art. 83 LTF ou parce que la valeur litigieuse fixée à l'art. 85 al. 1 LTF n'est pas atteinte (cf. arrêt 8C_1033/2008 du 26 mars 2009 consid. 3.3).
En l'espèce, il a été constaté que l'intérêt de fait digne de protection faisait défaut à la recourante en ce qui concerne son recours en matière de droit public. Il en va donc a fortiori de même en ce qui concerne l'intérêt juridique à son recours constitutionnel subsidiaire qui est par conséquent également irrecevable.
3. Tant le recours en matière de droit public que le recours constitutionnel subsidiaire sont ainsi irrecevables.
Succombant, la recourante doit supporter les frais judiciaires (art. 66 aI. 1 LTF) et n'a pas droit à des dépens (art. 68 al. 1 LTF). En outre, elle versera aux intimés, créanciers solidaires, une indemnité à titre de dépens (cf. art. 68 al. 1 LTF).
Aucun dépens ne sera alloué à la Municipalité de H._, qui ne s'est du reste pas déterminée (cf. art. 68 al. 3 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public et le recours constitutionnel subsidiaire sont irrecevables.
2. Les frais judiciaires, fixés à CHF 3'000.-, sont mis à la charge de la recourante.
3. La recourante versera au intimés, créanciers solidaires, une indemnité de CHF 3'000.- à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires de la recourante et des intimés, à la Municipalité de H._ et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 4 avril 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti