Faits:
A. Ressortissante roumaine née en 1970, A._ a épousé, le 6 juin 1997, D.X._, un ressortissant turc, avec lequel elle a eu deux enfants: B._, né en 1996, et C._, né en 2001. D.X._ avait déjà une épouse coutumière, Y._, qui lui avait donné quatre enfants.
Le 11 novembre 1997, D.X._ a déposé une demande d'asile en Suisse. Le 25 octobre 1998, il a été rejoint par Y._ et leurs quatre enfants. Le 22 octobre 1999, D.X._ et son épouse coutumière ont obtenu l'asile en Suisse.
Le 15 février 2003, A.X._ est entrée en Suisse après avoir transité par l'Allemagne. Elle a déposé, le 25 février 2003, une demande d'autorisation de séjour pour pouvoir vivre avec D.X._. Elle a indiqué qu'elle ne désirait pas bénéficier du statut de réfugiée, mais seulement vivre auprès de son époux avec leurs enfants.
Le 14 mars 2003, l'Office fédéral des réfugiés, actuellement l'Office fédéral des migrations, a révoqué l'asile accordé à D.X._ parce qu'il n'avait pas mentionné des séjours en Roumanie et qu'il n'aurait pas obtenu l'asile si les autorités en avaient eu connaissance. Le 16 avril 2003, D.X._ a recouru contre cette décision auprès de la Commission suisse de recours en matière d'asile, en se prévalant notamment de la présence en Suisse de ses quatre enfants avec lesquels il entretenait des liens étroits. L'effet suspensif a été accordé au recours.
Par décision du 27 août 2003, le Service de la population du canton de Vaud (ci-après: le Service de la population) a refusé d'octroyer à A.X._ une autorisation de séjour pour elle et ses fils, parce que son époux émargeait à l'aide sociale et qu'elle était entrée en Suisse avec ses enfants sans être au bénéfice d'un visa; il était précisé qu'une interdiction d'entrée en Suisse serait vraisemblablement prononcée à l'encontre de l'intéressée. A.X._ a recouru contre cette décision auprès du Tribunal administratif vaudois qui, le 29 octobre 2003, a suspendu la procédure jusqu'à droit connu sur le sort du recours de D.X._ contre la révocation de l'asile. Cette suspension a été prolongée à maintes reprises et a duré plusieurs années.
Le 27 octobre 2006, A.X._ s'est vu refuser l'autorisation de travailler pour une entreprise de nettoyage, car elle n'était pas en possession d'un titre de séjour "B" valable.
Le 12 août 2008, le Tribunal administratif fédéral - qui a succédé, le 1er janvier 2007, à la Commission suisse de recours en matière d'asile - a rejeté le recours formé par D.X._ le 16 avril 2003 en tant qu'il s'en prenait à la révocation de l'asile, mais l'a admis dans la mesure où il contestait le retrait de la qualité de réfugié. Le Tribunal administratif fédéral a donc doté l'intéressé du statut de réfugié au bénéfice d'une admission provisoire (cause D-6318/2006). En substance, cette autorité a reproché à D.X._ d'avoir dissimulé plusieurs séjours en Roumanie, alors qu'il était certain qu'en 1999, époque où il avait obtenu l'asile en Suisse, il aurait eu le droit de séjourner de manière durable en Roumanie avec sa femme et leur enfant. Ces dissimulations n'avaient toutefois pas de liens avec les persécutions dont l'intéressé avait été victime en Turquie, de sorte que sa qualité de réfugié ne pouvait lui être retirée.
Selon un courrier du Centre social régional de l'Ouest lausannois du 10 septembre 2008, D.X._ était à la recherche d'un emploi, mais émargeait encore à l'aide sociale. Quant à A.X._, elle ne pouvait, en raison de sa situation, mettre à profit la formation universitaire acquise dans son pays d'origine. Les enfants, pour leur part, étaient bien intégrés en classe et suivaient une scolarité normale, mais ils vivaient dans la crainte d'être renvoyés dans leur pays d'origine qu'ils ne connaissaient pas.
D'après une attestation du 8 septembre 2008, D.X._ a bénéficié de revenus d'insertion et reçu à ce titre 99'214,75 fr. du 1er juillet 2006 (et non pas 2007) au 31 août 2008.
B. Le 19 décembre 2008, la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après: le Tribunal cantonal) - qui avait entre-temps succédé au Tribunal administratif vaudois - a rejeté le recours formé par A.X._ et ses enfants et confirmé la décision du Service de la population du 27 août 2003 refusant de leur délivrer des autorisations de séjour. En substance, il a été retenu que le mari de l'intéressée, qui avait la qualité de réfugié bénéficiant d'une admission provisoire en Suisse, ne disposait pas d'un droit de présence assuré dans ce pays. Par conséquent, A.X._ ne pouvait pas invoquer le droit au respect de sa vie familiale garanti par l'art. 8 CEDH. Elle n'avait pas non plus droit au regroupement familial en vertu de la législation interne. Tout au plus pourrait-elle bénéficier d'une autorisation de séjour accordée dans le cadre de la libre appréciation de l'autorité cantonale. La situation de A.X._ serait la même en application du nouveau droit des étrangers. En effet, la famille dépendait de l'aide sociale et aucun élément ne permettait de considérer que cette situation n'allait pas perdurer. Les juges cantonaux ont toutefois souligné que, compte tenu de la durée du séjour en Suisse de l'intéressée et de ses enfants, scolarisés en Suisse, leur intégration devrait faire l'objet d'un examen approfondi. Il appartenait ainsi au Service de la population, et non au Tribunal cantonal, d'examiner, sur demande, si l'on ne pourrait pas considérer que le renvoi dans le pays d'origine constituerait un cas personnel d'extrême gravité. Enfin, l'adhésion de la Roumanie à l'Union européenne ne changeait rien à la situation, les règles ordinaires demeurant temporairement applicables.
C. Contre l'arrêt du Tribunal cantonal du 19 décembre 2008, A.X._ et ses deux enfants, B._ et C._, ont interjeté un recours en matière de droit public au Tribunal fédéral en concluant, sous suite de frais et dépens, principalement à l'annulation de l'arrêt entrepris et au renvoi de la cause "à l'Autorité cantonale pour nouvelle instruction et nouveau jugement dans le sens des considérants", subsidiairement à la réforme de l'arrêt attaqué dans le sens de l'octroi des autorisations de séjour sollicitées au titre du regroupement familial.
Par ordonnance du 19 janvier 2009, le Tribunal fédéral a accordé l'assistance judiciaire requise par les recourants et désigné Me Christian Favre comme avocat d'office.
Le Tribunal cantonal se réfère à l'arrêt attaqué, tout en corrigeant "une erreur de relecture". Le Service de la population a renoncé à se déterminer sur le recours. L'Office fédéral des migrations propose de rejeter le recours.

Considérant en droit:
1. La loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) est entrée en vigueur le 1er janvier 2008 (RO 2007 5487). En vertu de l'art. 126 al. 1 LEtr, les demandes déposées avant l'entrée en vigueur de la nouvelle loi sont régies par l'ancien droit. La demande d'autorisation de séjour qui est à l'origine de la présente procédure a été déposée le 25 février 2003, de sorte qu'elle doit être examinée à la lumière de l'ancien droit, notamment de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS I 113) en vigueur jusqu'au 31 décembre 2007. La procédure est en revanche régie par le nouveau droit (art. 126 al. 2 LEtr). L'ancien droit ne perd cependant pas toute portée sur les questions procédurales, en particulier s'agissant de savoir si les recourants peuvent, sur le fond, se prévaloir d'un droit à une autorisation de séjour, ce qui est une condition de recevabilité du recours en matière de droit public (cf. <ref-ruling> consid. 1.2 p. 145).
2. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1.1 p. 3).
2.1 En 2003, A.X._ a déposé une demande d'autorisation de séjour auprès des autorités cantonales compétentes et indiqué expressément qu'elle ne souhaitait pas bénéficier du statut de réfugiée, mais qu'elle voulait simplement vivre auprès de son époux avec leurs enfants. Lesdites autorités ne se sont prononcées que sous l'angle du droit des étrangers et aucune procédure tendant à ce que A.X._ et ses enfants bénéficient de l'asile n'a été envisagée, de sorte que la présente cause ne tombe pas sous le coup de l'exception prévue à l'art. 83 let. d LTF.
2.2 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
2.2.1 Bien qu'elle ait la nationalité roumaine, A.X._ ne peut pas se prévaloir, dans la présente procédure, d'un droit propre de séjour qui découlerait de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ci-après: ALCP; RS 0.142.112.681). En effet, le Protocole du 27 mai 2008 à l'ALCP, concernant la participation, en tant que parties contractantes, de la République de Bulgarie et de la Roumanie, à la suite de leur adhésion à l'Union européenne (ci-après: le Protocole additionnel II à l'ALCP; RS 0.142.112.681.1), qui fixe les dispositions transitoires concernant l'exercice d'une activité lucrative et la prestation de services en Suisse des ressortissants roumains et bulgares, est entré en vigueur le 1er juin 2009, soit après que l'arrêt attaqué eut été rendu (cf. <ref-ruling> consid. 1e p. 320 s.). En revanche, rien n'empêche la recourante qui, comme cela a été constaté, a la volonté de s'intégrer sur le marché du travail, de déposer auprès des autorités cantonales compétentes une demande tendant à l'octroi d'une autorisation de séjour aux conditions prévues par le Protocole additionnel II, maintenant qu'il est en vigueur.
2.2.2 Ne pouvant faire valoir un droit propre, les recourants se prévalent d'un droit au regroupement familial découlant de leurs liens avec D.X._, leur époux et père.
Dès lors que ce dernier ne possède pas d'autorisation d'établissement, son épouse et ses enfants ne peuvent se fonder sur l'art. 17 al. 2 LSEE (<ref-ruling> consid. 2.2 p. 284). Ils ne peuvent pas non plus tirer de droit des dispositions sur le regroupement familial figurant aux art. 38 et 39 de l'ordonnance du 6 octobre 1986 limitant le nombre des étrangers (OLE; RO 1986 1791) en vigueur jusqu'au 31 décembre 2007 (<ref-ruling> consid. 2.2 p. 284 et la jurisprudence citée).
Les recourants ne peuvent pas davantage invoquer l'art. 14c LSEE, dans sa version entrée en vigueur le 1er janvier 2007 (RO 2006 4767, 4773; cf. art. 26 al. 5 LSEE; cf. consid. 1, ci-dessus). Cet article prévoyait, à son alinéa 3bis, que le conjoint et les enfants célibataires de moins de 18 ans des personnes admises provisoirement, y compris les réfugiés admis provisoirement, pouvaient, à certaines conditions, bénéficier du regroupement familial et du même statut, au plus tôt trois ans après le prononcé de l'admission provisoire. Le contenu de cette disposition, abrogée le 1er janvier 2008, a d'ailleurs été repris à l'art. 85 al. 7 LEtr (RUEDI ILLES, Familiennachzug für vorläufig aufgenommene Flüchtlinge, ASYL 2008/2 p. 6), explicité par l'art. 74 de l'ordonnance du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201). En effet, l'admission provisoire de D.X._ n'a été prononcée que le 12 août 2008, de sorte qu'une demande sur cette base serait prématurée. En outre, dans la mesure où il serait question de mettre les recourants au bénéfice d'une admission provisoire, le recours en matière de droit public serait irrecevable en application de l'art. 83 let. c ch. 3 LTF (ALAIN WURZBURGER, in Commentaire de la LTF, 2009, n° 55 ad art. 83).
Reste à examiner si les recourants ne peuvent pas déduire directement de l'art. 8 CEDH un droit au regroupement familial. Pour que cette disposition puisse être invoquée, la jurisprudence exige que le membre de la famille qui séjourne en Suisse jouisse lui-même d'un droit de résidence durable. Tel est en pratique le cas lorsqu'il possède la nationalité suisse ou qu'il est au bénéfice soit d'une autorisation d'établissement soit d'une autorisation de séjour qui, elle-même, se fonde sur un droit durable (<ref-ruling> consid. 1.3.1 p. 145 s.). Malgré les critiques de la doctrine à propos de cette exigence (cf. <ref-ruling> consid. 3.1 p. 285 et les références), le Tribunal fédéral l'a récemment confirmée (cf. <ref-ruling> consid. 1.3.1 et 1.3.2 p. 145 s.; <ref-ruling> consid. 3.1 p. 285 et les références), de sorte qu'il n'y a pas lieu d'y revenir. Le Tribunal fédéral a certes laissé ouverte la question de savoir si un réfugié dont l'admission provisoire a été prolongée durant plusieurs années en application de l'art. 14c LSEE ne bénéficierait pas de facto d'un statut durable permettant à sa famille de se prévaloir d'un droit au regroupement fondé sur l'art. 8 CEDH (<ref-ruling> consid. 2b/cc p. 341 s.; arrêt 2A.8/2005 du 30 juin 2005 consid. 3.2 et 3.3). Dès lors que la décision conférant à l'époux de A.X._ le statut de réfugié au bénéfice d'une admission provisoire date du 12 août 2008, on ne se trouve de toute façon pas dans la situation évoquée par la jurisprudence. Force est donc d'admettre que D.X._ possède actuellement un statut précaire en Suisse (cf. art. 84 LEtr). En outre, il avait déjà reçu près de 100'000 fr. de revenus d'insertion à la fin du mois d'août 2008 et il était encore au chômage lorsque l'arrêt attaqué est intervenu; dès lors, on ne peut pas considérer son intégration comme réussie ni, par conséquent, envisager qu'il obtienne une autorisation de séjour sur la base de l'art. 84 al. 5 LEtr. La situation de l'époux et père des recourants ne permet donc pas à ces derniers d'invoquer un droit au regroupement familial.
Le présent recours, en tant qu'il est considéré comme un recours en matière de droit public, est par conséquent irrecevable au regard de l'art. 83 let. c ch. 2 LTF.
3. La voie du recours en matière de droit public étant fermée, il faut encore se demander si le mémoire déposé peut être converti en un recours constitutionnel subsidiaire (cf. <ref-law>). En effet, la dénomination erronée d'un recours ne peut pas porter préjudice à son auteur pour autant que les conditions de recevabilité du recours qui aurait dû être interjeté soient réunies (<ref-ruling> consid. 3.1 p. 399; arrêt 8C_473/2009 du 3 août 2009 consid. 4.1).
Se prévalant d'une violation de l'art. 8 CEDH, les recourants invoquent la violation d'un droit constitutionnel (<ref-law>); sous cet angle, leur recours peut être envisagé comme un recours constitutionnel subsidiaire au sens des <ref-law>. L'écriture présentée en remplit d'ailleurs les conditions formelles (cf. <ref-law>). Cependant, dans la mesure où la mauvaise application du droit fédéral, en particulier de l'art. 85 al. 7 LEtr (art. 14c al. 3bis LSEE) est aussi invoquée, le grief est irrecevable.
4. En revanche, les griefs découlant de l'art. 8 CEDH (respectivement 13 Cst.) sont admissibles dans le cadre du recours constitutionnel subsidiaire. Toutefois, comme déjà indiqué s'agissant de la recevabilité du recours en matière de droit public (cf. supra consid. 2.2.2), le mari de la recourante ne bénéficie pas d'un droit durable de résider en Suisse, de sorte que son statut ne permet pas à sa famille de se prévaloir d'un droit au regroupement familial tiré de l'art. 8 CEDH ou 13 Cst., ce qui exclut toute violation de ces dispositions.
Le recours, envisagé comme un recours constitutionnel subsidiaire, doit donc être rejeté dans la mesure de sa recevabilité.
5. Bénéficiant de l'assistance judiciaire, les recourants sont dispensés de payer des frais judiciaires (<ref-law>); la Caisse du Tribunal fédéral versera à leur avocat d'office une indemnité appropriée à titre d'honoraires (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1. Le recours en matière de droit public est irrecevable.
2. Le recours, envisagé comme un recours constitutionnel subsidiaire, est rejeté dans la mesure où il est recevable.
3. Il n'est pas perçu de frais judiciaires.
4. La Caisse du Tribunal fédéral versera à l'avocat d'office des recourants une indemnité de 2'000 fr. à titre d'honoraires.
5. Le présent arrêt est communiqué à l'avocat d'office des recourants, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 5 octobre 2009
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Müller Dupraz