Faits:
A. Y._, ressortissante angolaise, née en 1964, est arrivée en Suisse le 14 octobre 1997 et a obtenu une autorisation de séjour par son mariage, le 19 mars 1999, avec X._, ressortissant italien au bénéfice d'une autorisation d'établissement. Elle a elle-même bénéficié d'une autorisation d'établissement dès le 19 mars 2004, puis elle a obtenu la nationalité italienne le 17 janvier 2006.
A.a Le 16 mai 2003, Y._ a déposé une demande de regroupement familial pour ses enfants, ressortissants de la République démocratique du Congo, Z._, née en 1987, B._, né en 1990 et A._, née en 1994. Cette demande a été rejetée par le Service cantonal de la population du canton de Vaud (ci-après: le Sevice de la population) le 8 janvier 2004. Le 22 décembre 2004, Y._ a présenté une nouvelle demande de regroupement familial pour ses enfants, qui a été rejetée, tant par le Service de la population, le 19 décembre 2005, que par le Tribunal administratif du canton de Vaud (devenu Cour de droit administratif et public du Tribunal cantonal), le 29 mai 2006. Le recours déposé par les intéressés auprès du Tribunal fédéral a été rejeté, par arrêt du 18 décembre 2006 (2A.405/2006). Les juges fédéraux ont notamment retenu qu'en vertu de la jurisprudence alors en vigueur (ATF 130 II 1 consid. 3 p. 5 ss), l'art. 3 Annexe I de l'accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681) ne s'appliquait pas, car les enfants de Y._ ne bénéficiaient ni de la nationalité, ni d'une autorisation de séjour d'un Etat membre.
A la suite de cet arrêt, Z._ a été priée de quitter la Suisse, où elle était arrivée sans visa le 10 juin 2005 et avait déposé une demande d'autorisation de séjour, le 18 août 2005. Elle a alors requis, les 26 avril et 21 mai 2007, une autorisation de séjour pour raisons importantes fondées sur l'ancienne ordonnance limitant le nombre des étrangers, subsidiairement la suspension sine die de son renvoi, en faisant valoir sa grossesse, puis l'état de santé de ses jumeaux C._ et D._, nés en 2007. Il n'a pas été statué sur cette demande.
Le 9 février 2009, A._ a déposé un rapport d'arrivée indiquant qu'elle était entrée en Suisse le 10 janvier 2009. Par la suite, elle a fait état d'une date d'arrivée au 12 janvier 2005.
A.b Le 21 avril 2009, X._, Y._, Z._, ainsi que ses deux jumeaux C._ et D._, B._ et A._ ont déposé une troisième demande d'autorisation de séjour en faveur des enfants et petits-enfants de Y._, B._ sollicitant au surplus une autorisation d'entrée. Cette requête, traitée comme une demande de réexamen, a été rejetée par décision du Service de la population du 7 septembre 2009. Celui-ci a estimé que les arguments invoqués (nationalité italienne de Y._, séjour en Suisse de A._, volonté de Z._ d'épouser le père de D._ et C._ et état de santé des jumeaux) étaient nouveaux, mais pas pertinents.
Le Tribunal cantonal vaudois a confirmé cette décision, par arrêt du 14 octobre 2009. Il a retenu en substance que Y._ avait obtenu la nationalité italienne le 17 janvier 2006 déjà, de sorte qu'il ne s'agissait pas d'un élément nouveau de nature à ouvrir une demande de réexamen. Au demeurant, même en tenant compte de cet élément, l'ALCP n'était pas applicable, dès lors que les enfants, ressortissants d'Etats tiers, n'étaient pas titulaires d'une autorisation de séjour durable dans un Etat membre de l'Union européenne ou de l'AELE. Quant aux autres faits nouveaux, ils ne justifiaient pas de revenir sur les refus de regroupement familial déjà prononcés de manière définitive.
Saisi d'un recours contre ce prononcé, le Tribunal fédéral l'a déclaré irrecevable, par arrêt du 17 avril 2010 (2C_760/2009). Il a notamment retenu qu'il n'y avait pas lieu d'examiner la question du changement de jurisprudence intervenu dans son arrêt 2C_196/2009 du 29 septembre 2009 (ATF 136 II 5 ss), par lequel il a été renoncé à l'exigence du séjour préalable dans un Etat membre pour pouvoir se prévaloir d'un droit tiré de l'art. 7 let. d ALCP, en relation avec l'art. 3 Annexe I ALCP. En effet, ce changement de jurisprudence n'était pas connu lorsque les autorités cantonales avaient statué, de sorte que celles-ci n'avaient pas pu en tenir compte.
B. Le 8 décembre 2010, le mandataire des recourants a présenté une requête fondée sur l'ALCP pour obtenir une autorisation de séjour en faveur de Z._ et de ses jumeaux C._ et D._, B._ et A._. Le Service de la population a rejeté cette requête le lendemain, en relevant notamment que la décision de renvoi était entrée en force et que le Tribunal fédéral avait constaté que ses "mandantes ne pouvaient pas se prévaloir de l'ALCP".
Saisi d'un recours contre cette décision, le Tribunal cantonal l'a rejeté, par arrêt du 27 janvier 2011. Comme l'autorité inférieure, il a estimé que les recourants ne démontraient pas l'existence de faits ou de moyens de preuve nouveaux susceptibles d'ouvrir la voie du réexamen au sens de l'art. 64 de la loi cantonale vaudoise sur la procédure administrative (LPA-VD; RSVD 173.36). Au sujet de l'application de l'ALCP, il s'est contenté de renvoyer à l'arrêt du Tribunal fédéral du 17 avril 2010.
C. Agissant par la voie du recours en matière de droit public, X._, Y._, Z._, ainsi que ses enfants C._ et D._, B._ et A._ concluent à l'admission de leur recours dirigé contre l'arrêt du Tribunal cantonal du 27 janvier 2011 et demandent au Tribunal fédéral de régler leurs conditions de séjour par l'octroi d'un titre de présence CE/AELE, respectivement d'un titre d'entrée et de résidence pour B._. A titre subsidiaire, ils concluent au renvoi de la cause au Service cantonal de la population ou au Tribunal cantonal pour qu'ils règlent leurs conditions de séjour par l'octroi d'un titre de présence CE/AELE.
Le Tribunal cantonal conclut au rejet du recours, en se référant aux considérants de son arrêt. De son côté, le Service de la population a renoncé à se déterminer.
L'Office fédéral des migrations propose le rejet du recours.
D. Par ordonnance présidentielle du 19 mai 2011, la demande d'effet suspensif présentée par les recourants a été admise, mais leur requête de mesures provisionnelles tendant à accorder un droit d'entrée à B._ a été rejetée.
Considérant en droit:
1. 1.1 Selon l'art. 83 let. c ch. 2 LTF, en droit des étrangers, le recours en matière de droit public est irrecevable à l'encontre des décisions qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Comme il a déjà été constaté (arrêt 2C_760/2009 du 17 avril 2010, consid. 1) les recourants disposent, en vertu de l'art. 8 CEDH, d'un droit à séjourner en Suisse qui leur ouvre la voie du recours en matière de droit public. Un tel droit peut également être tiré de l'art. 7 let. d ALCP en relation avec l'art. 3 Annexe I ALCP, dès lors que X._, qui agit en qualité de beau-père pour demander le regroupement familial des enfants de son épouse, possède la nationalité italienne et a vécu dans son pays d'origine jusqu'à l'âge de 28 ans, soit jusqu'en 1974 (cf. ATF 136 II 177 consid. 3.2 p. 183 ss qui a repris la pratique découlant de l'arrêt de la Cour de justice de l'Union européenne C-413/1999 du 17 septembre 2002 en la cause Baumbast). Il n'est ainsi pas nécessaire de trancher la question de savoir si la recourante Y._ peut encore se prévaloir de l'ALCP en vertu de la nouvelle jurisprudence de la Cour de justice de l'Union européenne (voir arrêt C-434/09 du 5 mai 2011 en la cause McCarthy), du moment qu'elle n'a acquis la nationalité italienne que par son mariage en Suisse et n'a jamais fait usage de son droit à la libre circulation. La voie du recours en matière de droit public est donc en principe ouverte contre l'arrêt du Tribunal cantonal du 27 janvier 2011.
1.2 Pour le reste, le recours est dirigé contre un jugement final (art. 90 LTF) rendu dans une cause de droit public (cf. art. 82 let. a LTF) par un tribunal cantonal supérieur (art. 86 al. 1 let. d et al. 2 LTF), sans que l'on se trouve dans l'un des cas d'exceptions mentionnés par l'art. 83 LTF. Déposé en outre dans le délai légal (art. 100 al. 1 LTF) et dans les formes requises (art. 42 al. 2 LTF), par des recourants qui sont atteints par la décision entreprise et ont un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), il remplit ainsi les autres conditions de recevabilité du recours en matière de droit public, de sorte qu'il y a lieu d'entrer en matière.
2. Le Tribunal fédéral est tenu d'appliquer les lois fédérales et le droit international, en particulier de l'ALCP (art. 190 Cst.; ATF 131 V 390 consid. 5.2 p. 398). Dans les recours formés en raison de la violation de ce dernier (art. 95 let. b LTF), il examine d'office les dispositions sur la libre circulation des personnes figurant à l'Annexe I, dans la mesure où celles-ci sont assez précises pour être directement applicables (art. 106 al. 1 LTF; FLORENCE AUBRY GIRARDIN, L'interprétation et l'application de l'Accord sur la libre circulation des personnes du point de vue de la jurisprudence, in L'accord sur la libre circulation des personnes Suisse-UE: interprétation et application dans la pratique, Zurich 2011, p. 31), ce qui est le cas de l'art. 3 Annexe I ALCP. Le grief tiré de violation de cette disposition soulevé par les recourants est suffisant au regard des exigences de motivation de l'art. 42 al. 2 LTF, de sorte que le recours sera considéré comme recevable. En revanche, il n'y a pas lieu d'examiner toutes les critiques présentées de façon prolixe dans le recours.
3. Les recourants soutiennent essentiellement que l'arrêt attaqué est arbitraire dans sa motivation (art. 9 Cst.) et viole l'art. 3 al. 1 Annexe I ALCP, en tant qu'il nie l'existence de faits nouveaux pertinents, alors que le droit à la délivrance d'un titre de séjour pour les enfants des ressortissants d'un Etat membre de l'Union européenne ne dépend que de leur lien de parenté. Ils font ainsi valoir qu'ils avaient la faculté d'exercer et d'invoquer en tout temps les droits découlant de l'ALCP et que leur requête ne pouvait dès lors être traitée par les autorités cantonales comme une demande de réexamen.
3.1 Le Tribunal cantonal a estimé que les recourants n'avaient nullement démontré l'existence de faits ou de moyens de preuve nouveaux susceptibles d'ouvrir la voie du réexamen au sens de l'art. 64 LPA-VD, mais se bornaient à remettre une nouvelle fois en cause "le raisonnement juridique auquel ont procédé les autorités, en dernier lieu le Tribunal fédéral le 16 avril 2010, qui a abouti à constater qu'ils ne pouvaient pas se prévaloir de l'ALCP".
3.2 Comme le Tribunal fédéral l'a déjà relevé dans sont arrêt précédent (2C_760/2009 du 17 avril 2010), le réexamen de décisions administratives entrées en force ne doit pas être admis trop facilement. Il ne saurait en particulier servir à remettre sans cesse en cause des décisions exécutoires ou à détourner les délais prévus pour les voies de droit ordinaires (ATF 136 II 177 consid. 2.1 p. 181; 120 Ib 42 consid. 2b p. 47). Les autorités administratives ne sont ainsi tenues d'entrer en matière sur une nouvelle demande que si les circonstances se sont modifiées de façon notable depuis la décision attaquée ou lorsque le requérant invoque des faits essentiels et des moyens de preuve nouveaux qu'il ne connaissait pas ou a été dans l'impossibilité de faire valoir dans la procédure antérieure (ATF 124 II 1 consid. 3a p. 6).
Le droit des étrangers n'échappe pas à cette règle, de sorte que les recourants considèrent à tort qu'ils pouvaient, en lieu et place d'une demande de réexamen, former une requête nouvelle, mais portant sur le même objet que leur précédente demande de regroupement familial. Ils ne prétendent pas davantage qu'ils auraient invoqué des faits ou éléments nouveaux comme l'exige l'art. 64 LPA-VD et ne motivent pas non plus leur recours conformément à l'art. 42 al. 2 LTF sur ce point. Le Tribunal cantonal a donc estimé à juste titre qu'il y avait lieu d'examiner la quatrième demande de regroupement familial déposée par les recourants comme une demande de réexamen visant à revenir sur les refus de leur octroyer des autorisations de séjour précédemment entrés en force et qu'il pouvait rejeter cette demande, faute d'éléments nouveaux. Partant, le grief d'arbitraire soulevé par les recourants est à cet égard mal fondé et doit être rejeté dans la mesure où il est recevable.
3.3 Reste à déterminer si, indépendamment de tout fait nouveau, la question de la violation de l'art. 3 Annexe I ALCP alléguée par les recourants devait être examinée.
3.3.1 Selon l'ancienne jurisprudence du Tribunal découlant de l'arrêt Akrich de la Cour de justice de l'Union européenne (C-109/01), les membres de la famille dont le regroupement familial était demandé en application de l'ALCP devaient avoir séjourné au préalable légalement dans un autre pays membre (ATF 130 II 1 consid. 3.6 p. 9 ss, confirmé in 134 II 10 consid. 3 p. 14 ss). Dans son premier arrêt du 18 décembre 2006 (2A.405/2006), le Tribunal fédéral avait ainsi constaté que les recourants ne pouvaient pas se prévaloir de l'art. 3 Annexe I ALCP, car les enfants de Y._ ne bénéficiaient ni de la nationalité, ni d'une autorisation de séjour dans un Etat membre (consid. 3). Par la suite, tant le Service cantonal de la population que le Tribunal cantonal avaient jugé l'ALCP inapplicable, en se fondant sur cette jurisprudence.
Dans son arrêt du 29 septembre 2009 (ATF 136 II 5 ss), le Tribunal fédéral a pris en compte le changement de jurisprudence de la Cour de justice dans son arrêt Metock du 25 juillet 2008 (C-127/08), en renonçant à la condition faisant dépendre le droit au regroupement familial d'une personne ayant la nationalité d'un Etat tiers d'un séjour préalable et légal dans un Etat membre. Il s'est ainsi écarté de la solution prévue par le droit interne qui, selon lui, ne devait pas influencer l'interprétation de l'ALCP (ATF 136 II 5 consid. 3.6.1 et 3.6.2 p. 14 ss; sur cette problématique, voir aussi FLORENCE AUBRY GIRARDIN, op. cit., pp. 45 à 47 et MARC SPESCHA, Das Familienleben als hervorragendes Rechtsgut des Freizügigkeitsrechts - am Beispiel der aktuellen Rechtsprechung zum Familiennachzug im Geltungsbereich des FZA in L'accord sur la libre circulation des personnes Suisse-UE: interprétation et application dans la pratique, Zurich 2011, p. 147/148). Toutefois, dans son second arrêt du 17 avril 2010 (2C_760/2009) rendu au sujet de la précédente demande formée par les recourants, le Tribunal fédéral avait renoncé à examiner si ce changement de jurisprudence permettait de revenir à titre exceptionnel sur le refus d'octroyer les autorisations de séjour à titre de regroupement familial, en particulier parce que les considérants de l'arrêt du 29 septembre 2009 n'étaient pas encore connus lorsque le Tribunal cantonal avait statué. Cette question doit donc maintenant être tranchée.
3.3.2 Exceptionnellement, un changement de jurisprudence peut entraîner la modification d'une décision entrée en force lorsque la nouvelle jurisprudence a une telle portée générale qu'il serait contraire au droit à l'égalité de ne pas l'appliquer dans tous les cas en maintenant une ancienne décision pour un seul justiciable ou un petit nombre d'entre eux (ATF 135 V 215 consid. 5.1.1 p. 219). La nouvelle pratique découlant du regroupement familial réalise ces conditions. Par conséquent, dans la mesure où les recourants ont motivé leur requête de regroupement familial du 8 décembre 2010 sous l'angle de l'art. 3 Annexe I ALCP et qu'au moment où les autorités cantonales se sont prononcées, les considérants de l'ATF 136 II 5 ss étaient connus, celles-ci ne pouvaient se dispenser d'examiner la requête sous cet angle. L'application de la nouvelle jurisprudence étant une question de droit, il appartient au Tribunal fédéral de vérifier d'office (art. 106 al. 1 LTF) si son application permet de justifier l'octroi d'une autorisation de séjour aux recourants.
4. 4.1 D'après l'art. 3 al. 1 Annexe I ALCP, en relation avec l'art. 7 let. d ALCP, les membres de la famille d'une personne ressortissant d'une partie contractante ayant un droit de séjour ont le droit de s'installer avec elle. Le travailleur salarié doit disposer d'un logement pour sa famille considéré comme normal pour les travailleurs nationaux salariés dans la région où il est employé sans que cette disposition puisse entraîner de discriminations entre les travailleurs nationaux et les travailleurs en provenance de l'autre partie contractante (al. 1). Sont notamment considérés comme membres de la famille, quelle que soit leur nationalité, le conjoint et leurs descendants de moins de 21 ans ou à charge (al. 2 let. a).
4.2 Du point de vue du droit interne (art. 42 ss de la loi fédérale sur les étrangers: LEtr; RS 142.20), c'est le moment du dépôt de la demande de regroupement familial qui est déterminant pour calculer l'âge de l'enfant (cf. ATF 136 II 497 ss). Le droit au regroupement familial doit ainsi être reconnu, lorsque l'enfant n'a pas l'âge limite au moment du dépôt de la demande, même s'il atteint cet âge au cours de la procédure (ATF 136 II 497 consid. 4 p. 506). Cette jurisprudence doit être reprise, en l'espèce, pour calculer l'âge des enfants et voir s'ils peuvent être considérés comme des descendants de moins de 21 ans au sens de l'art. 3 al. 2 let. a Annexe I ALCP.
4.3 Y._ a déposé une première demande de regroupement familial, le 16 mai 2003, puis une seconde demande, le 22 décembre 2004, alors qu'elle était titulaire d'un permis d'établissement. Celles-ci ont été définitivement jugées sous l'angle de l'art. 17 al. 2 , 3ème phrase de l'ancienne loi fédérale sur le séjour et l'établissement des étrangers (LSEE; RO 1 p. 113) et de l'art. 8 CEDH, de sorte que la date de leur dépôt ne saurait être prise en considération, comme le voudraient les recourants. Y._ a présenté ensuite une troisième demande, le 21 avril 2009, en invoquant pour la première fois sa nationalité italienne. Là aussi, le Tribunal fédéral a mis fin définitivement à la procédure dans son arrêt du 17 avril 2010. C'est dès lors la date de la requête du 8 décembre 2010 faisant l'objet de la présente procédure qui doit être prise en considération pour calculer l'âge des enfants.
A cette date, Z._, née en 1987, avait dépassé la limite d'âge de 21 ans révolus prévue par l'art. 3 al. 2 let. a Annexe I ALCP, de sorte qu'elle ne peut plus revendiquer une autorisation de séjour sur la base de l'Accord. Quant à l'art. 8 CEDH, la cause a déjà été examinée et rejetée sous cet angle, de sorte qu'il n'y a pas lieu d'y revenir (cf. arrêt du 18 décembre 2006, consid. 5). Le recours doit dès lors être rejeté en tant qu'il porte sur l'octroi d'une autorisation de séjour à Z._ et à ses deux enfants, C._ et D._. Bien que cette question ne fasse pas l'objet de la présente procédure, il faut relever que l'autorité cantonale compétente n'a jamais statué sur la demande d'autorisation de séjour déposée les 26 et 21 mai 2007 par Z._, fondée sur l'ancienne ordonnance limitant le nombre des étrangers du 6 octobre 1986. Il appartiendrait donc au Service cantonal de la population d'examiner encore si une autorisation de séjour serait justifiée dans le cadre du droit actuel, soit de l'art. 30 LEtr.
Pour les deux autres enfants, soit B._, né en 1990 et A._, née en 1994, la limite d'âge de 21 ans contenue dans l'Accord n'était pas atteinte au moment du dépôt de la demande du 8 décembre 2010. Ils ont donc en principe un droit à obtenir une autorisation de séjour sur la base de l'art. 3 Annexe I ALCP, respectivement d'entrée et de résidence pour B._, en leur qualité de beaux-enfants de X._ (cf. ATF 136 II 65, consid. 5.2 p. 76). Même fondé sur l'ALCP, le regroupement familial ne doit toutefois pas être autorisé sans réserve. Il faut que le citoyen de l'Union européenne donne son accord, que le parent de l'enfant soit autorisé à s'en occuper ou, en cas d'autorité parentale conjointe ait obtenu l'accord de l'autre parent et qu'il existe une relation familiale minimale entre le parent en Suisse et l'enfant résidant à l'étranger. Enfin, le regroupement familial doit paraître approprié au regard de la Convention relative aux droits de l'enfant du 20 novembre 1989 (CDE; RS 0.107) et ne pas être contraire au bien-être de l'enfant (ATF 136 II 177 consid. 3.2.2 p. 185, 65 consid. 5.2 p. 76; MARC SPESCHA, op. cit. p. 152). Les intéressés doivent aussi pouvoir disposer d'un logement conforme à l'art. 3 Annexe I al. 1, 2ème phrase ALCP pour accueillir les membres de leur famille.
En l'espèce, les recourants n'ont pas démontré, ni rendu vraisemblable que B._, qui a toujours vécu chez sa grand-mère, à Kinshasa, ait pu maintenir une relation avec sa mère. Celle-ci allègue certes qu'elle envoie des sommes importantes pour financer son entretien, le père de B._ étant décédé environ un an après sa naissance, mais elle n'apporte aucune preuve des liens personnels qu'elle aurait pu conserver avec son fils, qu'elle a quitté lorsqu'il n'avait même pas neuf ans. Or, dans son arrêt du 18 décembre 2006 (2A_405/2006, consid. 5.1), le Tribunal fédéral avait déjà constaté que la recourante n'avait pas établi avoir entretenu des relations particulièrement intenses avec ses enfants durant leur séparation et que ses liens ne l'emportaient pas sur les attaches familiales et socio-culturelles que les enfants avaient tissées en Afrique. Au vu du temps qui s ́est écoulé depuis lors, il était d ́autant plus important qu'elle motive la demande d'entrée en Suisse et d'autorisation de séjour pour son fils B._, car rien ne justifie de déraciner ce dernier, alors qu'il est maintenant parvenu à l'âge adulte. Le recours doit ainsi être rejeté en ce qui le concerne. La situation est en revanche différente pour A._, qui vit avec sa mère et son beau-père, en tout cas depuis le dépôt de son rapport d'arrivée en Suisse, le 9 février 2009, voire 2005 selon ses dires. Par ailleurs, dans les circonstances présentes, les considérations relevées par le Tribunal fédéral au sujet de son existence cachée lors de l'arrivée en Suisse de sa mère ne sont plus pertinentes (arrêt 2A.409/2006 du 18 décembre 2006, consid. 5.3). Elle remplit ainsi les conditions posées par la jurisprudence pour l'octroi d'une autorisation de séjour pour regroupement familial sous l'angle de l'ALCP (cf. ATF 136 II 65 consid. 5.2 p. 76). L'affaire doit dès lors être renvoyée au Service de la population pour qu'il accorde à A._ une autorisation de séjour fondée sur l'art. 3 Annexe I ALCP.
5. Au vu de ce qui précède, le recours doit être partiellement admis dans la mesure où il est recevable et l'arrêt attaqué annulé en tant qu'il concerne A._. Il doit être confirmé pour le surplus.
La cause sera renvoyée au Service cantonal pour qu'il accorde une autorisation de séjour à A._ sur la base de l'art. 3 Annexe I ALCP.
Le Tribunal fédéral renonce à faire usage de la faculté prévue aux art. 67 et 68 al. 5 LTF, de sorte que la cause doit être également renvoyée au Tribunal cantonal pour qu'il fixe à nouveau les frais et dépens de la procédure qui s'est déroulée devant lui.
Les recourants n'obtenant que partiellement gain de cause, il y a lieu de mettre des frais de justice à leur charge dans la même proportion et solidairement entre eux (art. 66 al. 1 et 4 LTF). Il n'y a en revanche pas lieu de percevoir de frais de justice auprès du canton de Vaud (art. 66 al. 4 LTF).
Une indemnité à titre de dépens réduits doit être allouée aux recourants, solidairement entre eux; elle sera mise à la charge du canton de Vaud (art. 68 al. 1 et 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis dans la mesure où il est recevable et l'arrêt attaqué est annulé en tant qu'il concerne A._. Il est confirmé pour le surplus.
2. La cause est renvoyée au Service de la population du canton de Vaud pour qu'il accorde une autorisation de séjour à A._.
3. La cause est renvoyée au Tribunal cantonal du canton de Vaud afin qu'il statue à nouveau sur le sort des frais et dépens de la procédure accomplie devant lui.
4. Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge solidaire des recourants.
5. Le canton de Vaud versera aux recourants, solidairement entre eux, une indemnité de 1'000 fr. à titre de dépens.
6. Le présent arrêt est communiqué au mandataire des recourants, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 17 octobre 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Rochat