Faits:
A. Ressortissante camerounaise officiellement née en 1993, A._ a sollicité, le 9 avril 2009, une autorisation de séjour pour vivre à D._ (VD) auprès de sa mère C._, naturalisée suisse, ainsi que de son beau-père B._. Le 30 juin 2010, le Service cantonal de la population du canton de Vaud (ci-après: le Service cantonal) a refusé de faire droit à cette demande et a imparti à A._ un délai de trois mois pour quitter la Suisse. Par arrêt du 10 mai 2011 (cause 2C_941/2010), le Tribunal fédéral a rejeté le recours formé par A._ et C._ contre le refus des autorités vaudoises d'octroyer une autorisation de séjour.
B. Le 9 août 2011, A._, sa mère et son beau-père (art. 105 al. 2 LTF) ont requis du Service cantonal le réexamen de la décision du 30 juin 2010, au motif que B._, devenu Suisse en 2009, avait conservé la nationalité italienne et pouvait en déduire un droit au regroupement familial. Le 26 août 2011, le Service cantonal a, principalement, refusé d'entrer en matière sur la demande de réexamen, et l'a rejetée subsidiairement. Par arrêt du 8 novembre 2011, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours formé par A._ contre la décision du 26 août 2011 au motif que les conditions du réexamen n'étaient pas réalisées.
C. Le 8 décembre 2011, A._, ainsi que les époux B._ et C._ ont interjeté un recours en matière de droit public et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre l'arrêt du Tribunal cantonal précité. Ils concluent à ce que leur demande de réexamen soit déclarée recevable et admise, partant qu'une autorisation de séjour soit octroyée à A._ par regroupement familial.
Les instances cantonales ont été invitées à produire leurs dossiers sans échange d'écritures.
Par ordonnance présidentielle du 14 décembre 2011, le Tribunal fédéral a rejeté la requête d'effet suspensif formée par les recourants.
D. Par courrier du 27 février 2012, les recourants ont informé la Cour de céans, pièces à l'appui, de l'intention de la recourante n° 1 de se marier avec un ressortissant étranger titulaire d'un permis d'établissement. Ils ont sollicité une autorisation provisoire pour que la recourante n° 1 puisse séjourner en Suisse en vue de son mariage.
Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (art. 29 al. 1 LTF) et contrôle librement la recevabilité des recours qui lui sont soumis (ATF 136 I 43 consid. 1 p. 43; 136 II 470 consid. 1 p. 472).
1.1 Dans le même acte (art. 119 al. 1 LTF), les recourants ont déposé à la fois un recours en matière de droit public et un recours constitutionnel subsidiaire.
1.2 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral, ni le droit international ne donnent droit.
1.2.1 Comme déjà indiqué (arrêt 2C_941/2010 du 10 mai 2011 consid. 1), A._ peut potentiellement tirer un droit, issu de l'art. 42 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), à vivre en Suisse avec sa mère de nationalité suisse. En conséquence, l'exception de l'art. 83 let. c ch. 2 LTF ne leur est pas opposable. Un tel droit peut également être déduit de l'art. 7 let. d de l'Accord du 21 juin 1999 entre la Confédération suisse d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681) en relation avec l'art. 3 Annexe I ALCP, dès lors que le recourant n° 2, qui agit en qualité de beau-père pour demander le regroupement familial de la fille de son épouse, est double national suisse et italien (cf. ATF 136 II 177 consid. 3.2 p. 183 ss; cf. aussi les ATF 136 II 65 consid. 4.5 et 4.6 p. 75 s.; 135 II 369 consid. 2 p. 372).
1.2.2 Certes, les recourants nos 2 et 3 n'ont pas été mentionnés comme parties dans l'arrêt attaqué. Il s'agit à l'évidence d'une inadvertance, dès lors que ceux-ci avaient initié la procédure de réexamen par requête du 9 août 2011 et qu'ils ont tous les trois recouru au Tribunal cantonal contre la décision du Service cantonal rendue le 26 août 2011. Cette omission n'a cependant pas porté à conséquence. En effet, l'arrêt entrepris n'a pas considéré que les recours de la mère et du beau-père de la recourante n° 1 auraient été irrecevables; il a procédé au contraire à un examen des arguments avancés en commun par les trois recourants, de sorte que le fait que les recourants nos 1 et 3 n'aient pas été mentionnés sur la première page de l'arrêt querellé ne leur a pas été préjudiciable. Partant, les recourants ne peuvent se fonder sur cette omission pour obtenir l'annulation de l'arrêt du Tribunal cantonal. Il ne sera donc pas entré en matière sur les critiques formulées à cet égard. Il y a en revanche lieu de rectifier d'office cette inadvertance et d'admettre la qualité de parties desdits recourants sur le plan cantonal (art. 105 al. 2 LTF; cf. ATF 131 I 57 consid. 2.2 p. 63).
1.3 Pour le surplus, l'arrêt attaqué est une décision finale (art. 90 LTF), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF) contre un arrêt confirmant le refus de réexamen d'une décision déniant la délivrance d'une autorisation de séjour par regroupement familial. Le recours a de plus été déposé en temps utile (art. 100 al. 1 LTF) et dans les formes requises (art. 42 LTF), par des recourants qui sont atteints par la décision entreprise et ont un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF).
1.4 Compte tenu de ce qui précède, le recours en matière de droit public est recevable, ce qui entraîne l'irrecevabilité du recours constitutionnel subsidiaire (art. 113 a contrario LTF; cf. arrêt 2C_505/2009 du 29 mars 2010 consid. 1.2, non publié in ATF 136 I 285).
1.5 Saisi d'un recours en matière de droit public, le Tribunal fédéral contrôle librement le respect du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'art. 106 al. 2 LTF. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal que si ce grief a été invoqué et motivé par le recourant. En ces matières, l'acte de recours doit, sous peine d'irrecevabilité, contenir un exposé succinct des droits ou principes constitutionnels violés et préciser en quoi consiste la violation (ATF 136 II 304 consid. 2.5 p. 314; 135 II 243 consid. 2 p. 248). Par conséquent, la Cour de céans n'examinera pas les griefs d'ordre constitutionnel que les recourants ont invoqués de manière confuse et non suffisamment motivée.
1.6 Dans la mesure où les pièces qui accompagnent le mémoire de recours ne ressortent pas déjà de la procédure cantonale, il s'agit de moyens nouveaux irrecevables (art. 99 al. 1 LTF). Il en va de même pour le courrier des recourants et les annexes envoyés le 27 février 2012, étant de surcroît précisé que leur demande tendant à l'octroi d'une autorisation de séjour provisoire en vue du mariage de la recourante n° 1 ne fait pas l'objet du présent recours et est partant irrecevable devant le Tribunal fédéral.
2. 2.1 Les recourantes nos 1 et 3 ont déposé une première demande tendant à l'octroi d'une autorisation de séjour par regroupement familial le 9 avril 2009. Cette procédure a été rejetée par les autorités cantonales, puis par le Tribunal fédéral le 10 mai 2011 (arrêt 2C_941/2010 précité). Moins de trois mois plus tard, soit le 9 août 2011, les recourants ont formé une demande de réexamen auprès du Service cantonal, faisant état de la nationalité italienne du recourant n° 2, qu'ils n'avaient pas invoquée précédemment.
2.2 L'arrêt querellé confirme le bien-fondé du refus d'entrer en matière sur la requête en réexamen. En substance, les juges cantonaux ont considéré que ni les faits, ni le droit existant au moment de la décision du 30 juin 2010 n'avaient changé: la nationalité italienne du recourant n° 2 était en effet déjà connue des recourants et le revirement de jurisprudence contenu dans les ATF 136 II 5 et 65 a été opéré avant la décision du 30 juin 2010, si bien qu'il aurait été possible pour les recourants de s'en prévaloir, l'ignorance alléguée de la représentante des recourantes à ce sujet leur étant imputable. Si une inadvertance pouvait être reprochée aux autorités pour ne pas avoir, d'office, découvert une pièce au dossier mentionnant la nationalité italienne du recourant n° 2, les recourants ne pouvaient se prévaloir d'un motif de révision dès lors qu'ils avaient eux-mêmes omis de faire valoir cet élément durant toute la procédure vaudoise.
3. Les recourants se plaignent d'une violation de l'interdiction de l'arbitraire et du droit à une procédure équitable, au motif que le Tribunal cantonal n'aurait, en particulier, pas constaté le fait que la représentante des recourants n'avait pas connu la nationalité italienne du recourant n° 2 dans le cadre de la procédure initiale tendant au regroupement familial, et que les recourants ne connaissaient pas l'incidence possible de la nationalité italienne sur l'issue de la procédure. Par ailleurs, l'arrêt violerait la maxime d'office, puisqu'il aurait incombé au Tribunal cantonal d'établir de lui-même que le recourant n° 2 avait conservé sa nationalité italienne; en effet, le recourant n° 2 avait indiqué sa nationalité dans un document, versé au dossier du Service cantonal, destiné à garantir la prise en charge financière de l'entretien de la recourante n° 1.
4. 4.1 Lorsque, comme en l'espèce, le juge cantonal confirme le refus d'entrer en matière sur une demande de réexamen, la procédure ne peut porter que sur le bien-fondé de ce refus (cf. ATF 126 II 377 consid. 8d p. 395; 113 Ia 146 consid. 3c p. 153 s.; arrêt 2C_1010/2011 du 31 janvier 2012 consid. 2.1).
4.2 Les autorités administratives sont tenues de réexaminer leurs décisions si une disposition légale expresse ou une pratique administrative constante les y oblige (arrêt 2C_1010/2011 du 31 janvier 2012 consid. 2.2). Etant donné que les recourants ne se plaignent pas d'une application arbitraire du droit de procédure cantonal, seules les garanties générales de procédure issues de l'art. 29 al. 1 et 2 Cst. seront examinées. Aux termes de ces dernières, l'autorité administrative est tenue de se saisir d'une demande de réexamen lorsque les circonstances se sont modifiées de façon notable depuis la décision attaquée ou lorsque le requérant invoque des faits essentiels et des moyens de preuve nouveaux qu'il ne connaissait pas ou a été dans l'impossibilité de faire valoir dans la procédure antérieure. Le réexamen de décisions administratives entrées en force ne doit pas être admis trop facilement. Il ne saurait en particulier servir à remettre sans cesse en cause des décisions exécutoires ou à détourner les délais prévus pour les voies de droit ordinaires. Le droit des étrangers n'échappe pas à cette règle (cf. ATF 136 II 177 consid. 2.1 p. 181).
Une modification ultérieure de la pratique ou de la jurisprudence ne constitue en règle générale pas une raison suffisante pour réexaminer une décision (arrêts 2C_1010/2011 du 31 janvier 2012 consid. 2.2; 2C_114/2011 du 26 août 2011 consid. 2.2). Exceptionnellement, un changement de jurisprudence peut entraîner la modification d'une décision entrée en force lorsque la nouvelle jurisprudence a une telle portée générale qu'il serait contraire au droit à l'égalité de ne pas l'appliquer dans tous les cas en maintenant une ancienne décision (cf. ATF 135 V 215 consid. 5.1.1 p. 219; arrêt 2C_195/2011 du 17 octobre 2011 consid. 3.3.2). Il faut toutefois que la jurisprudence nouvelle n'ait pas pu être invoquée et appliquée lors de la procédure initiale (ATF 136 II 177 consid. 2.2.1 p. 182 s.; arrêt 2C_154/2010 du 8 novembre 2010 consid. 2.2).
4.3 Comme les recourants l'indiquent eux-mêmes, le recourant n° 2 a obtenu en 2009 la nationalité suisse, mais il a conservé la nationalité italienne, qui existait ainsi et était connue au moment auquel les recourantes nos 1 et 3 ont requis le regroupement familial. Partant, la nationalité italienne du recourant n° 2 ne constitue pas un fait nouveau. Quant au changement de jurisprudence opéré dans les ATF 136 II 5 (du 29 septembre 2009) et 136 II 65 (du 5 janvier 2010), il était antérieur à la décision du 30 juin 2010 ainsi qu'à l'arrêt du Tribunal cantonal du 5 novembre 2010 confirmant cette décision de refus, de sorte qu'il eût été possible pour les recourants de se fonder directement sur la nouvelle pratique découlant de l'ALCP dans la procédure ordinaire cantonale.
4.4 On ne peut davantage suivre les recourants, lorsqu'ils reprochent aux autorités de ne pas avoir tenu compte d'office de la nationalité italienne du recourant n° 2 dans la procédure antérieure. D'une part, il ne s'agit pas d'un motif de révocation ou de réexamen. D'autre part, il appartenait aux recourants de contester l'établissement erroné des faits s'agissant d'éléments les concernant dans la procédure précédente.
Il est certes vrai que, selon la maxime inquisitoire, l'autorité définit les faits pertinents et ne tient pour existants que ceux qui sont dûment prouvés (cf. PIERRE MOOR/ETIENNE POLTIER, Droit administratif, vol. II, 3e éd., Berne 2011, p. 292 s.). Cette maxime oblige notamment les autorités compétentes à prendre en considération d'office l'ensemble des pièces pertinentes qui ont été versées au dossier. En revanche, elle ne dispense pas les parties de collaborer à l'établissement des faits (arrêts 5A_522/2011 du 18 janvier 2012 consid. 4.1; 2C_118/2009 du 15 septembre 2009 consid. 4.2; voir aussi ATF 133 III 507 consid. 5.4 p. 511). Ceci est d'autant moins le cas lorsqu'il s'agit d'établir des faits que les parties sont mieux à même de connaître que l'autorité (arrêts 2C_212/2011 du 13 juillet 2011 consid. 7.1; 2C_50/2010 du 17 juin 2010 consid. 2.2), et que, comme en l'espèce, la procédure relative au regroupement familial avait été ouverte à la demande des recourants et dans leur intérêt (cf. ISABELLE HÄNER, Die Feststellung des rechtserheblichen Sachverhalts, in: Das erstinstanzliche Verwaltungsverfahren [Isabelle Häner/Bernhard Waldmann (éd.)], Zurich/Bâle/Genève 2008, p. 33 ss, 43; MOOR/POLTIER, op. cit., p. 294). De surcroît, le droit des étrangers fonde une obligation spécifique de collaborer à charge du ressortissant étranger en vertu de l'art. 90 LEtr (cf. arrêts 2C_403/2011 du 2 décembre 2011 consid. 3.3.1; 2C_15/2011 du 31 mai 2011 consid. 4.2.1).
En l'occurrence, il est douteux qu'il puisse être reproché au Service cantonal d'avoir enfreint la maxime d'office [recte: inquisitoire] régissant l'établissement des faits en procédure administrative, dès lors que la nationalité italienne du recourant n° 2 résultait d'une simple inscription manuscrite sur une pièce produite en copie et destinée à attester de la prise en charge financière de la recourante n° 1. Quoi qu'il en soit, il n'est pas pour autant possible pour les recourants de se prévaloir de l'inadvertance commise par le Service cantonal. En effet, les recourants avaient la possibilité de contester ce point dans le cadre de la première procédure devant le Tribunal cantonal, ainsi que le cas échéant devant le Tribunal fédéral, ce qu'ils ont cependant omis de faire. Par conséquent, ils ne peuvent, dans la présente procédure, se prévaloir d'une violation de la maxime inquisitoire.
4.5 Le fait que la représentante des recourants ait ignoré la nationalité du recourant n° 2 ne leur permet pas davantage de s'en prévaloir sous l'angle d'une demande de réexamen, car les actes ou omissions de la représentante choisie par les recourants leur sont directement imputables, conformément aux règles générales sur la représentation (cf. art. 32 CO; ATF 126 III 59 consid. 1b p. 64; YVES DONZALLAZ, Loi sur le Tribunal fédéral - Commentaire, Berne 2008, ad art. 40 LTF, p. 376 N 816; LAURENT MERZ, ad art. 40 LTF, in: Commentaire bâlois LTF, 2e éd., Bâle 2011, p. 444 N 11). Ces omissions apparaissent d'autant moins excusables qu'il ressort des constats du Tribunal cantonal que les recourantes nos 1 et 3 avaient formé des griefs spécifiques sur le terrain de l'ALCP dans le cadre de la procédure relative au regroupement familial initiée en 2009, en se plaignant d'une "discrimination à rebours" au détriment des citoyens suisses et en invoquant notamment l'arrêt Metock rendu par la Cour de justice de l'Union européenne le 25 juillet 2008 (C-127/08), en référence auquel le Tribunal fédéral avait modifié sa jurisprudence précitée (ATF 136 II 5 et 136 II 65).
4.6 Ayant omis de se prévaloir de la nationalité italienne du recourant n° 2 durant l'ensemble de la procédure relative au refus de regroupement familial du 30 juin 2010, les recourants doivent ainsi se voir opposer la force de chose jugée de cette décision, de même que les conditions limitatives, non remplies en l'espèce, auxquelles il peut y être le cas échéant dérogé. Contrairement à ce qu'ils suggèrent, il ne leur est donc pas possible de contourner lesdites conditions en formant une nouvelle requête de regroupement familial, portant sur le même objet que la précédente demande (cf. arrêt 2C_195/2011 du 17 octobre 2011 consid. 3.2; ATF 136 II 177 consid. 2.1 p. 181).
4.7 Quant au grief de déni de justice également invoqué par les recourants et qui serait lié au fait que la première décision serait basée sur une erreur grossière de la part des autorités, il est également infondé.
En effet, on ne voit pas qu'en ne se prononçant pas sur un élément que les recourants eux-mêmes n'ont pas invoqué, les autorités judiciaires auraient pu commettre un déni de justice (cf. sur cette notion, ATF 137 I 305 consid. 2 p. 310 ss; arrêt 2C_601/2010 du 21 décembre 2010 consid. 2). Au demeurant, les recourants ne pourraient remettre en cause la précédente procédure qui s'est soldée par un arrêt de la Cour de céans (cf. arrêt 2C_941/2010 précité) que dans le cadre d'une demande de révision. Or, comme le relève pertinemment le Tribunal cantonal, la révision est exclue lorsque le requérant, en faisant preuve de la diligence que l'on pouvait attendre de lui, aurait été à même de faire valoir ses griefs au cours de la procédure ordinaire (ATF 111 Ib 209 consid. 1 p. 210 s.; arrêts 1C_411/2010 du 1er avril 2011 consid. 2, in: RtiD 2011 II 220; 2P.34/2006 du 16 juin 2006 consid. 3.3, in: RtiD 2007 I 667; 2P.112/2003 du 29 août 2003 consid. 3.3, in: RDAF 2004 II 161). Comme déjà indiqué, les recourantes nos 1 et 3 et leur mandataire n'ont à aucun moment invoqué la nationalité italienne du recourant n° 2 pour en déduire des droits au regard de l'ALCP, bien qu'elles auraient pu le faire, la nouvelle jurisprudence ayant déjà été rendue à cette époque.
4.8 Compte tenu des éléments qui précèdent, les griefs susmentionnés doivent être écartés.
5. Au vu de ce qui précède, c'est à juste titre que le Tribunal cantonal a confirmé le refus du Service cantonal de réexaminer la décision du 30 juin 2010. Le recours en matière de droit public doit par conséquent être rejeté dans la mesure de sa recevabilité; le recours constitutionnel subsidiaire est quant à lui irrecevable. Succombant, les recourants supportent solidairement les frais judiciaires (cf. art. 66 al. 1 LTF) et n'ont pas droit à des dépens (cf. art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, débiteurs solidaires.
4. Le présent arrêt est communiqué à la représentante des recourants, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 12 mars 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton