Faits:
A. De nationalité congolaise, les époux D.X._, née en 1966, et E.X._, né en 1961, ont eu trois enfants, A.X._, née en 1987, B.X._, né en 1990, et C.X._, née en 1994.
E.X._ est parti seul pour la Suisse en 1995. Après avoir divorcé en mai 1997, il s'est remarié, le 27 février 1998, avec une ressortissante suisse, avec laquelle il a eu une fille. En 2002, il a acquis la nationalité suisse par voie de naturalisation.
Le 4 juin 1999, il a demandé à faire venir en Suisse ses trois enfants issus du premier lit. Cette requête de regroupement familial a été admise. Les deux aînés ont pu rejoindre leur père en décembre 1999, tandis que la cadette est entrée en Suisse en juin 2001, accompagnée de sa mère. Celle-ci n'est pas repartie, mais est restée en Suisse. Depuis avril 2000, les deux aînés sont logés (la cadette depuis juin 2001) dans un autre appartement que celui de leur père. Le 14 juin 2001, E.X._ a demandé une autorisation d'établissement pour son ex-épouse afin qu'elle puisse s'occuper de leurs enfants communs. Le 4 mars 2002, le Service de la population du canton de Vaud s'était déclaré prêt à délivrer une autorisation de séjour à l'intéressée, sous réserve de l'approbation de l'autorité fédérale compétente.
Le 10 octobre 2002, l'Office fédéral de l'immigration, de l'intégration et de l'émigration a rendu une décision de refus d'autorisation de séjour ainsi que de renvoi de Suisse à l'encontre de D.X._. Statuant sur recours le 22 juillet 2003, le Département fédéral de justice et police a confirmé cette décision.
Par arrêt du 29 août 2003, le Tribunal fédéral a rejeté dans la mesure où il était recevable le recours de droit administratif déposé contre la décision du 22 juillet 2003 par D.X._, E.X._ ainsi que A.X._, B.X._ et C.X._ (procédure 2A.375/2003).
Un délai au 30 septembre 2003 était fixé à D.X._ pour quitter la Suisse.
Le 25 mars 2004, D.X._ a déposé une requête auprès de la Cour européenne des droits de l'homme.
Le 19 avril 2004, un nouveau délai de départ au 30 novembre 2004 a été imparti à D.X._. Des notifications ultérieures de menace de mise en détention administrative ont échoué, cette dernière étant introuvable.
B. Par courrier du 17 décembre 2004, D.X._, E.X._ ainsi que A.X._, B.X._ et C.X._ ont saisi le Service de la population d'une demande de réexamen de la situation et sollicité la délivrance d'une autorisation de séjour en faveur de D.X._. Le 24 mai 2006, le mandataire de cette dernière a produit divers documents dont il ressortait que la requête auprès de la Cour européenne des droits de l'homme avait été rejetée, que D.X._ bénéficiait de prestations mensuelles de l'aide sociale (2'071 fr.) et enfin qu'une convention ratifiée par la Présidente du Tribunal civil avait été passée entre D.X._ et E.X._ confiant la garde et l'autorité parentale des enfants B.X._ et C.X._ à leur mère.
Les enfants A.X._, B.X._ et C.X._ ont obtenu une autorisation d'établissement.
Le 30 juin 2006, le Service de la population a entendu D.X._ et ses enfants. Le 24 avril 2007, le bureau des étrangers de Montreux a précisé que D.X._ était aidée par l'assistance publique et que le père des enfants avail l'intention de les "reprendre".
Par décision du 7 juin 2007, le Service de la population a refusé de délivrer l'autorisation de séjour à D.X._.
Le 22 juin 2007, A.X._, B.X._ et C.X._ ont saisi le Tribunal administratif du canton de Vaud d'un recours contre la décision du 7 juin 2007. Ces derniers pouvaient compléter leur recours jusqu'au 27 août 2007, ce qu'ils n'ont pas fait. Le 27 août 2007, D.X._ a déposé en son nom un mémoire de recours complémentaire, enregistré par le Tribunal administratif comme nouveau recours. Ce dernier a été retiré par courrier 14 septembre 2007. Le 14 septembre 2007, A.X._, B.X._ et C.X._ ont déposé un mémoire complémentaire.
C. Par arrêt du 26 novembre 2007, le Tribunal administratif a rejeté le recours de A.X._, B.X._ et C.X._ dans la mesure où il était recevable. Le recours de A.X._, majeure au moment où la décision du 7 juin 2007 a été rendue, était irrecevable. La recevabilité du recours des deux autres enfants pouvait rester ouverte au vu du sort du recours. Le mémoire complémentaire, hors délai, était irrecevable. La requête de réexamen n'exposait aucun élément nouveau sinon l'écoulement du temps. La violation de la Convention relative au droit de l'enfant devait être invoquée dans la procédure de recours dirigée contre la première décision de refus d'accorder un permis de séjour à D.X._. La convention de droit civil passée entre le père des enfants et leur mère accordant à cette dernière l'autorité parentale et la garde des enfants n'avait pas eu d'incidence sur les relations familiales puisqu'avant cette convention le père ne s'était jamais correctement occupé des enfants qui avaient logés dans un autre appartement que le sien. C'était par conséquent à tort que le Service de la population était entré en matière sur la requête de réexamen.
D. Agissant par la voie du recours en matière de droit public, A.X._, B.X._ et C.X._ demandent au Tribunal fédéral, sous suite de frais et dépens, de leur accorder l'assistance judiciaire, d'annuler l'arrêt rendu le 26 novembre 2007 par le Tribunal administratif et d'accorder à Madeleine D.X._ une autorisation de séjour de type B, subsidiairement, de renvoyer la cause aux autorités administratives vaudoises pour nouvelle décision au sens des considérants. Ils se plaignent de la violation de l'art. 8 de la Convention européenne de sauvegarde des droits de l'homme et des libertés fondamentales du 4 novembre 1950 (Convention européenne des droits de l'homme; CEDH; RS 0.101).
Le Tribunal cantonal et le Tribunal administratif du canton de Vaud ayant fusionné depuis le 1er janvier 2008, c'est la Cour de droit administratif et public du Tribunal cantonal qui a renoncé à déposer une réponse. Le Service de la population du canton de Vaud a renoncé à déposer des observations. L'Office fédéral des migrations conclut au rejet du recours.
Par ordonnance du 16 janvier 2008, le Président de la IIe Cour de droit public a admis la requête d'effet suspensif déposée par A.X._, B.X._ et C.X._.
Considérant en droit:
1. La loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1 p. 113) a été abrogée lors de l'entrée en vigueur, le 1er janvier 2008, de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20; cf. ch. I de l'annexe à l'art. 125 LEtr). Selon l'art. 126 al. 1 LEtr, les demandes déposées avant l'entrée en vigueur de la nouvelle loi sont régies par l'ancien droit. La demande de réexamen de la situation de la mère des recourants ayant été déposée le 17 décembre 2004, la présente cause reste soumise à l'ancien droit.
2. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF).
2.1 Selon l'art. 83 lettre c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral ni le droit international ne donnent droit.
L'art. 8 CEDH peut conférer, selon les circonstances, un droit à une autorisation de séjour à un étranger dont un membre de la famille bénéficie d'un droit de présence assuré en suisse - comme par exemple un permis d'établissement - si les liens noués entre les intéressés sont étroits et si le regroupement vise à assurer une vie familiale commune effective (cf. ATF 129 II 193 consid. 5.3.1 p. 211, 215 consid. 4.1 p. 218; 127 II 60 consid. 1d p. 64 ss). Les enfants âgés de plus de dix-huit ans ne peuvent en principe pas invoquer la disposition conventionnelle en cause s'ils ne se trouvent pas dans un état de dépendance particulière par rapport à ce parent, en raison par exemple d'un handicap ou d'une maladie graves (cf. ATF 120 Ib 257 consid. 1d/e p. 261; 115 Ib 1 consid. 2c p. 5). Selon la jurisprudence, s'il y a lieu de prendre en considération, exceptionnellement, l'âge de l'intéressé lors du dépôt de la requête de regroupement familial pour examiner la recevabilité du recours sous l'angle de l'art. 17 al. 2 LSEE, il en va différemment pour la procédure d'autorisation de séjour fondée sur l'art. 8 CEDH pour laquelle est déterminant l'âge au moment où le Tribunal fédéral statue (ATF 120 Ib 257 consid. 1f p. 262).
En l'espèce, A.X._ a plus de dix-huit ans aujourd'hui et ne prétend pas souffrir d'un handicap ou d'une maladie graves la plaçant dans un état de dépendance particulière par rapport à sa mère. Son recours est par conséquent irrecevable. B.X._, n'ayant dix-huit ans que le 14 juillet 2008, et C.X._ sont en revanche encore mineurs aujourd'hui. Leur recours est en principe recevable.
2.2 Lorsque l'autorité saisie d'une demande de réexamen refuse d'entrer en matière, un recours ne peut porter que sur le bien-fondé de ce refus. En revanche, lorsqu'elle entre en matière et, après réexamen, rend une nouvelle décision au fond, ce nouveau prononcé peut faire l'objet d'un recours pour des motifs de fond, au même titre que la décision initiale (ATF 113 Ia 146 consid. 3c p. 153-154).
En l'espèce, le Service de la population est entré en matière sur la demande de réexamen déposée le 17 décembre 2004. Il a rendu une nouvelle décision refusant de délivrer l'autorisation de séjour. Par arrêt du 26 novembre 2007, le Tribunal administratif a jugé à titre principal que le Service de la population était entré à tort en matière sur la demande de réexamen, les recourants n'ayant invoqué aucune circonstance propre à fonder un droit au réexamen en raison d'une modification essentielle des faits ou de la situation juridique. Il a toutefois brièvement examiné la situation au fond par surabondance de motivation. Ainsi, les griefs des recourants relatifs à l'existence de circonstances propres à fonder un droit au réexamen, ainsi que ceux subsidiaires relatif à l'examen de fond du Tribunal administratif sont recevables.
3. Les recourants soutiennent qu'il y avait des motifs suffisants d'entrer en matière sur la demande de réexamen du 17 décembre 2004.
3.1 Sous certaines conditions, les autorités administratives peuvent réexaminer leurs décisions. Elles sont tenues de le faire si une disposition légale le prévoit - les règles sur la révision valant a fortiori pour le réexamen (ATF 113 Ia 146 consid. 3a p. 151) - ou selon une pratique administrative constante. De plus, la jurisprudence a déduit de l'art. 4 aCst. une obligation pour l'autorité administrative de se saisir d'une demande de réexamen dans deux cas: lorsque les circonstances se sont modifiées dans une mesure notable depuis que la décision en cause a été prise et lorsque le demandeur s'appuie sur des faits ou des moyens de preuve importants qu'il ne connaissait pas avant cette décision ou dont il n'avait pas alors la faculté - en droit ou de fait - ou un motif suffisant de se prévaloir (ATF 124 II 1 consid. 3a p. 6; 120 Ib 42 consid. 2b p. 46-47; 113 Ia 146 consid. 3a p. 151-152).
3.2 Dans l'arrêt attaqué, le Tribunal administratif a relevé à juste titre que la procédure de réexamen ne pouvait pas avoir pour objet la conformité de la décision rendue le 10 octobre 2002 par l'Office fédéral de l'immigration, de l'intégration et de l'émigration à la Convention relative aux droits de l'enfant (RS 0.107). Cette question aurait dû en effet être soulevée dans le cadre des recours successifs déposés contre la décision en cause.
3.3 Le Tribunal administratif a également reconnu qu'entre l'arrêt du Tribunal fédéral du 29 août 2003 et la demande de réexamen du 17 décembre 2004, les recourants ont été mis au bénéfice d'une autorisation d'établissement. Il n'en a néanmoins pas conclu qu'il s'agissait d'une circonstance justifiant le réexamen de la décision de refus définitivement confirmée par l'arrêt du Tribunal fédéral du 29 août 2003, ce dont se plaignent les recourants.
Il est vrai que la délivrance de l'autorisation d'établissement est une condition qui permet aux recourants de se prévaloir de l'art. 8 CEDH pour obtenir une autorisation de séjour en faveur de leur mère. Toutefois, tant le Département fédéral de justice et police, dans sa décision du 22 juillet 2003, que le Tribunal fédéral, dans son arrêt du 29 août 2003, ont alors déjà examiné la situation à la lumière de l'art. 8 CEDH et jugé que D.X._ avait librement choisi de vivre séparée de ses enfants, ou plus précisément ne s'était pas opposée à la demande de regroupement familial déposée par leur père, de sorte qu'elle ne disposait pas d'un droit inconditionnel au regroupement familial fondé sur cette disposition conventionnelle. Dans ces conditions, la délivrance de l'autorisation d'établissement, dont ont bénéficié les recourants, ne modifiait pas leur situation et ne saurait constituer une circonstance nouvelle permettant un réexamen.
3.4 De l'avis des recourants, le Tribunal administratif aurait dû considérer que la convention judiciaire passée le 18 mai 2006 entre D.X._ et E.X._, accordant à celle-ci l'autorité parentale et la garde sur les enfants C.X._ et B.X._ constituait une circonstance nouvelle d'importance, puisque depuis le 18 mai 2006, D.X._ avait des devoirs d'éducation, de soins et de protection qui n'existaient pas officiellement avant.
Ce point de vue ne peut pas être suivi. En effet, comme l'a constaté à juste titre le Tribunal administratif, il ressortait déjà de l'arrêt du Tribunal fédéral du 29 août 2003 qu'à l'époque, le père ne faisait pas ménage commun avec ses enfants et que les conditions du regroupement familial ne semblaient déjà plus réalisées. Le fait avéré et répété par les recourants que D.X._ avait de facto un rôle correspondant à la garde des enfants avait donc déjà été pris en compte. Dans ce sens, c'est à bon droit que le Tribunal administratif a jugé que l'attribution judiciaire de l'autorité parentale et de la garde des enfants ne constituait pas une circonstance nouvelle justifiant un réexamen.
Pour le surplus, comme l'a constaté à bon droit le Tribunal administratif le seul écoulement du temps entre les décisions des autorités ne constitue pas à lui seul un motif de justifiant le réexamen.
Mal fondés, les griefs des recourants dirigés contre le refus d'entrer en matière sur la demande de réexamen du 17 décembre 2004 prononcé par le Tribunal administratif sont rejetés.
4. Dans une motivation subsidiaire, le Tribunal administratif a jugé sur le fond qu'en raison de la situation financière obérée de D.X._, qui avait bénéficié au 28 mars 2007 de prestations de l'aide sociale s'élevant à 42'870 fr. et touchait le revenu d'insertion depuis le 1er janvier 2006, l'intérêt public à son éloignement l'emportait sur son intérêt privé à s'occuper de ses enfants. Il est douteux que cette affirmation puisse suffire à sceller le sort de la cause sur le fond, du moment que D.X._ était interdite de travail en Suisse, mais a démontré qu'elle disposait de promesses d'embauche dès la régularisation de sa situation.
Quoiqu'il en soit, il faut remarquer que, selon la jurisprudence, un droit de séjour en Suisse fondé sur le regroupement familial n'est en principe accordé à un parent adulte étranger que s'il se trouve dans un état de dépendance envers les membres de la famille qui ont un droit ferme à demeurer en Suisse et non dans la situation inverse (ATF 120 Ib 257; arrêt 2C_451/2007 du 22 janvier 2008, consid. 2.2). En l'espèce, ce n'est pas D.X._, la mère des recourants, qui serait dans une relation de dépendance envers ceux-ci, mais, selon leurs dires, ses enfants envers elle. Toutefois, au vu de leur âge (21, 18 en juillet 2008 et 13) et du fait que leur père est en Suisse, on peut douter que ce soit encore le cas.
5. Les considérants qui précèdent conduisent au rejet du recours, dans la mesure où il est recevable. Les conditions de l'art. 64 LTF étant réunies, il convient de faire droit à la demande d'assistance judiciaire et de statuer sans frais; Me Astyanax Peca est désigné comme défenseur d'office des recourants pour la présente procédure et une indemnité lui sera versée à titre d'honoraires par la caisse du Tribunal fédéral.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure où il est recevable.
2. Les recourants sont mis au bénéfice de l'assistance judiciaire. Me Astyanax Peca est désigné comme défenseur d'office et une indemnité de 1'500 fr. lui est allouée à titre d'honoraires, à payer par la caisse du Tribunal fédéral.
3. Le présent arrêt est communiqué au mandataire des recourants, au Service de la population et au Tribunal administratif du canton de Vaud (p.a. Cour de droit administratif et public du Tribunal cantonal) ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 2 mai 2008
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Merkli Dubey