Faits:
A. X._, ressortissant chilien né en 1959, son épouse et leurs deux enfants sont arrivés en Suisse en avril 1983. La demande d'asile déposée par X._ a été rejetée en janvier 1985; l'intéressé et sa famille, agrandie par la naissance subséquente d'un troisième enfant, ont néanmoins obtenu en 1987 une autorisation de séjour pour cas de rigueur, qui a été régulièrement renouvelée jusqu'en mai 2003. X._ et son épouse ont divorcé. En 1991, l'intéressé a eu un quatrième enfant avec une amie dont il s'est séparé. A fin 1994, il s'est mis en ménage avec une compatriote titulaire d'un permis d'établissement née en 1961, Y._, qui lui a donné un cinquième enfant, né en 1996.
B. B.a En décembre 1996, le Tribunal correctionnel du district de Lausanne a condamné X._ à la peine de seize mois d'emprisonnement et de cinq ans d'expulsion de Suisse, avec sursis durant trois ans, pour infraction grave et contravention à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121), commises entre fin 1992 et début 1995. Par décision du 15 janvier 1998, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a refusé de renouveler l'autorisation de séjour de X._ et lui a imparti un délai pour quitter le canton; cette décision a été annulée par le Tribunal administratif vaudois en mars 1999, qui a toutefois précisé que "toute nouvelle infraction ne pourrait qu'impliquer une révocation".
B.b En novembre 2002, le Tribunal correctionnel de l'arrondissement de Lausanne a condamné X._ à la peine de dix mois d'emprisonnement, avec sursis pendant trois ans, et prononcé une expulsion pour une durée de cinq ans, avec sursis et délai d'épreuve pendant trois ans, pour infraction grave à la LStup et infraction à l'ancienne loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (aLSEE); il a en outre révoqué le sursis accordé en 1996, en ordonnant l'exécution de la peine de seize mois d'emprisonnement moins 102 jours de détention préventive.
Par décision du 21 juillet 2003, le Service cantonal a refusé de renouveler l'autorisation de séjour de X._ et lui a imparti un délai immédiat pour quitter le canton de Vaud. Le Tribunal administratif vaudois a confirmé cette décision par arrêt du 14 avril 2005, contre lequel X._ a recouru avant de retirer son recours devant le Tribunal fédéral (cf. ordonnance du 23 juin 2005 rendue dans la cause 2A.312/2005). Le 21 juillet 2006, l'Office fédéral des migrations a étendu les effets du renvoi à tout le territoire suisse. Libéré conditionnellement le 10 juillet 2004, X._ s'est annoncé, avec Y._, auprès du Contrôle des habitants de Lausanne; il n'a pas donné suite à l'injonction de quitter la Suisse.
B.c Invoquant, en octobre 2006, une détérioration de son état de santé, X._ a sollicité la reconsidération de la décision du 21 juillet 2003, demande qui a été rejetée par le Service cantonal. Le recours formé contre cette dernière décision a été rejeté par la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) le 9 juillet 2009. Une seconde demande de reconsidération, présentée en novembre 2009 toujours pour des motifs de santé, a été rejetée par le Service cantonal le 21 décembre 2009, qui a fixé un nouveau délai de départ à X._; le 5 janvier 2010, son départ a été enregistré pour une destination inconnue.
C. Le 22 décembre 2010, X._ a sollicité auprès du bureau des étrangers de Lausanne l'octroi d'une autorisation de séjour en vue de son mariage avec Y._. Par décision du 22 mars 2011, l'état civil a déclaré la demande d'ouverture de la procédure préparatoire de mariage irrecevable; il a toutefois accepté de reconsidérer cette décision et de poursuivre la procédure le 15 juin 2011.
Par décision du 2 mai 2011, le Service cantonal a rejeté la demande d'autorisation de séjour et a prononcé le renvoi de Suisse de X._. Par arrêt du 19 décembre 2011, le Tribunal cantonal a rejeté le recours formé par X._ et Y._ contre la décision du 2 mai 2011.
D. Le 1er février 2012, X._ et Y._ ont interjeté un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt du Tribunal cantonal du 19 décembre 2011. Ils concluent, sous suite de frais et dépens, à l'annulation de cet arrêt cantonal, ainsi qu'à l'octroi d'une autorisation de séjour à X._ en vue de son mariage avec Y._. Le Service cantonal renonce à se déterminer sur le recours; le Tribunal cantonal et l'Office fédéral des migrations concluent à son rejet.

Considérant en droit:
1. 1.1 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral ni le droit international ne donnent droit. D'après la jurisprudence, il suffit qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte (<ref-ruling> consid. 1.1 p. 179; arrêt 2C_382/2011 du 16 novembre 2011 consid. 2.1).
En l'espèce, les recourants ont mené une vie de couple en Suisse entre fin 1994 et janvier 2010. Ils ont de plus un enfant commun né en 1996 et ont valablement introduit une procédure préparatoire de mariage auprès de l'état civil. En tant que détentrice d'un permis d'établissement, la recourante dispose en outre d'un droit de présence assuré en Suisse. Se prévalant notamment des art. 8 et 12 CEDH au titre du droit au respect de la vie familiale et du droit au mariage, le recourant est susceptible d'avoir un droit à l'obtention d'une autorisation de séjour pour regroupement familial (art. 43 al. 1 LEtr; cf. arrêt 2C_349/2011 du 23 novembre 2011 consid. 1.1, non publié in <ref-ruling>; PHILIPP EGLI/TOBIAS D. MEYER, ad art. 17 LEtr, in: Bundesgesetz über die Ausländerinnen und Ausländer [Martina Caroni et al. (éd.)], Berne 2010, p. 147 N 13). En pareilles circonstances, il convient donc d'admettre un droit, sous l'angle de l'art. 83 let. c ch. 2 LTF, permettant aux recourants de former un recours en matière de droit public. La question de savoir si c'est ou non à juste titre que les juges cantonaux ont confirmé le refus du Service cantonal d'autoriser le recourant à séjourner en Suisse en vue d'y préparer son mariage avec la recourante, et le prononcé de son renvoi de Suisse ressortit au fond et non à la recevabilité (cf. <ref-ruling> consid. 1.1 p. 179).
1.2 Pour le surplus, l'arrêt attaqué est une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile compte tenu des féries (art. 46 al. 1 let. c et 100 al. 1 LTF) et dans les formes prescrites (<ref-law>) par les destinataires de l'arrêt attaqué qui ont qualité pour recourir au sens de l'<ref-law>, le recours en matière de droit public est par conséquent recevable.
1.3 Dans la mesure où les pièces qui accompagnent le mémoire de recours ne ressortent pas déjà de la procédure cantonale, il s'agit de moyens nouveaux irrecevables (<ref-law>).
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant.
En outre, le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ceux-ci n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 4.3 p. 62) - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. Sinon, il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué.
3. L'arrêt attaqué confirme une décision par laquelle le Service cantonal a refusé de délivrer au recourant une autorisation de séjour en vue de son mariage avec la recourante, et a prononcé son renvoi de Suisse. L'objet de la présente contestation ne porte donc pas sur l'octroi d'une autorisation de séjour par regroupement familial au sens de l'art. 43 al. 1 LEtr, mais sur l'obtention, directement fondée sur la CEDH, d'une autorisation de séjour pour la durée de la préparation et de la célébration du mariage des recourants en Suisse. Il convient donc d'examiner si et, dans l'affirmative, à quelles conditions le droit d'un étranger à pouvoir séjourner en Suisse en vue de s'y marier peut être déduit du droit au mariage garanti par l'art. 12, voire de l'art. 8 CEDH.
4. 4.1 L'art. 12 CEDH garantit le droit fondamental, pour un homme et une femme, de se marier et de fonder une famille. Selon la jurisprudence de la Cour européenne des droits de l'Homme (ci-après: la CourEDH), l'exercice de ce droit, qui emporte des conséquences sociales, personnelles et juridiques, obéit tant pour la procédure que pour le fond aux lois nationales des Etats contractants, mais les limitations en résultant ne doivent pas le restreindre ou le réduire d'une manière ou à un degré qui l'atteindraient dans sa substance même (cf. ACEDH Jaremowicz c. Pologne, du 5 janvier 2010, req. 24023/03, Rec. 2010, par. 48 ss; Emonet et al. c. Suisse, du 13 décembre 2007, req. 39051/03, par. 90; F. c. Suisse [Plénum], du 18 décembre 1987, req. 11329/85, série A128, par. 32). Dans le cadre de la législation sur l'immigration et pour des raisons justifiées, la CourEDH a jugé que les Etats pouvaient être fondés à empêcher les mariages de complaisance, contractés dans le seul but d'obtenir un avantage au regard des lois sur l'immigration, étant précisé qu'une telle ingérence ne doit être ni arbitraire, ni disproportionnée (cf. ACEDH Frasik c. Pologne, du 5 janvier 2010, req. 22933/02, Rec. 2010, par. 89 s.). Dans l'affaire O'Donoghue, la CourEDH a estimé inadmissible que les requérants en cause, dont l'intention de se marier était sincère et ne visait pas à contourner les lois d'immigration, n'avaient pas pu obtenir un certificat les autorisant à se marier en raison, d'abord, de la situation personnelle du fiancé qui était entré illégalement au Royaume-Uni et était dépourvu de titre de séjour, puis, par la suite, faute de disposer des moyens leur permettant de s'acquitter des frais de dossier (cf. ACEDH O'Donoghue et al. c. Royaume-Uni, du 14 décembre 2010, req. 34848/07, Rec. 2010, par. 85 ss).
4.2 Le Tribunal fédéral a récemment fait siens les principes dégagés par la CourEDH. Tant sous l'angle de l'art. 12 CEDH que de l'art. 14 Cst., il a, d'une part, retenu que la garantie du droit au mariage appartenait en principe à toute personne physique majeure, quelle que soit sa nationalité - y compris les apatrides - et sa religion (<ref-ruling> consid. 3 p. 46; <ref-ruling> consid. 3.5 p. 357). D'autre part, il a considéré que le système mis en place par le législateur suisse pouvait s'avérer contraire à l'art. 12 CEDH lorsqu'un étranger, bien qu'en situation irrégulière en Suisse, désirait néanmoins réellement et sincèrement se marier; en effet, en cas de refus de l'autorité de police des étrangers de régulariser - même temporairement - sa situation, il ne pourrait pas, en vertu de l'<ref-law>, entré en vigueur le 1er janvier 2011 (RO 2010 p. 3057), concrétiser son projet en Suisse (<ref-ruling> consid. 3.5 p. 357 s.).
A la faveur d'une interprétation conforme de la législation suisse aux art. 14 Cst. et 12 CEDH, la Cour de céans a cependant soumis l'octroi d'une autorisation de séjour en vue de mariage aux conditions suivantes: les autorités de police des étrangers sont tenues de délivrer un titre de séjour en vue du mariage lorsqu'il n'y a pas d'indice que l'étranger entende, par cet acte, invoquer abusivement les règles sur le regroupement familial, et qu'il apparaît clairement que l'intéressé remplira les conditions d'une admission en Suisse après son union (cf. art. 17 al. 2 LEtr par analogie). Dans un tel cas, il serait en effet disproportionné d'exiger de l'étranger qu'il rentre dans son pays pour s'y marier ou pour y engager à distance une procédure en vue d'obtenir le droit de revenir en Suisse pour se marier. En revanche, dans la situation inverse, soit si, en raison des circonstances, notamment de la situation personnelle de l'étranger, il apparaît d'emblée que ce dernier ne pourra pas, même une fois marié, être admis à séjourner en Suisse, l'autorité de police des étrangers pourra renoncer à lui délivrer une autorisation de séjour provisoire en vue du mariage; il n'y a en effet pas de raison de l'autoriser à séjourner en Suisse pour s'y marier alors qu'il ne pourra de toute façon pas, par la suite, y vivre avec sa famille (<ref-ruling> consid. 3.7 p. 360, confirmé in <ref-ruling> consid. 4 p. 47; arrêt 2C_702/2011 du 23 février 2012 consid. 4.3).
Il convient partant de vérifier si les recourants satisfont aux critères susmentionnés, de manière à ce que, dans l'affirmative, le recourant puisse prétendre à une autorisation de séjour en vue de préparer son mariage avec la recourante en Suisse.
4.3 Selon les faits établis par le Tribunal cantonal, Y._ et X._ vivent en concubinage depuis 1994 et ont un enfant commun, né en 1996. Ils ont été séparés uniquement entre la date du départ de Suisse du recourant en janvier 2010 et l'annonce de son retour auprès des autorités vaudoises en décembre 2010, à supposer que le recourant ait véritablement quitté la Suisse durant cette période. Compte tenu de ce qui précède, aucun élément, et les autorités inférieures ne l'ont d'ailleurs pas étayé, ne permettrait de retenir que le mariage qui serait célébré par les recourants constituerait une pure union de complaisance (cf. arrêt 2C_400/2011 du 2 décembre 2011 consid. 3).
Il est certes vrai que l'attitude du recourant consistant à multiplier les procédures en matière de droit des étrangers et à ne pas donner suite aux injonctions de quitter la Suisse, peut faire penser que la volonté de contracter mariage, formée au printemps 2010 au moment où le recourant avait/aurait dû quitter la Suisse et après près de seize années de concubinage (cf. recours, p. 2 ch. 8), poursuive avant tout le but d'obtenir un droit de séjour au regard de la législation suisse en matière d'étrangers. Nul n'est toutefois besoin d'approfondir la question d'un éventuel abus de droit à ce titre; en effet, comme il sera vu, la seconde condition cumulative posée par la jurisprudence fait en tout état défaut.
4.4 Il convient en effet de vérifier si, au regard des circonstances du cas d'espèce, il apparaît d'emblée que le recourant, une fois marié à la recourante, pourrait être admis à séjourner en Suisse. Ceci conduit nécessairement à se demander si les conditions de fond qui président à l'octroi d'une autorisation de séjour "ordinaire", c'est-à-dire d'un titre non limité à la préparation et célébration du mariage, seraient réunies en cas de mariage. En conséquence, c'est en vain que le recourant exige qu'en traitant de sa requête à pouvoir séjourner en Suisse en vue d'y célébrer le mariage, il soit fait strictement abstraction d'une éventuelle future procédure relative, cette fois-ci, à l'octroi d'une autorisation de séjour par regroupement familial (recours, p. 5 ch. 5).
4.4.1 Aux termes de l'art. 43 al. 1 LEtr, le conjoint étranger du titulaire d'une autorisation d'établissement ainsi que ses enfants célibataires étrangers de moins de 18 ans ont droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité, à condition de vivre en ménage commun avec lui. A l'instar de l'art. 13 al. 1 Cst., l'art. 8 par. 1 CEDH, dont se prévalent les recourants sous l'angle de la protection de leur vie privée et familiale, peut être invoqué par l'étranger afin de s'opposer à une éventuelle séparation de sa famille, lorsque sa relation avec une personne de sa famille ayant le droit de résider durablement en Suisse est étroite et effective (cf. <ref-ruling> consid. 1.3 p. 287; <ref-ruling> consid. 1.3.1 p. 145). Si le recourant épousait Y._, il remplirait ces conditions (cf. art. 43 al. 1 LEtr ainsi que l'art. 8 par. 1 CEDH).
4.4.2 D'après l'art. 51 al. 2 let. b LEtr, toutefois, les droits prévus à l'art. 43 LEtr s'éteignent s'il existe des motifs de révocation au sens de l'art. 62 LEtr. Selon l'art. 62 let. b et c LEtr, l'autorité compétente peut révoquer une autorisation, à l'exception de l'autorisation d'établissement, ou une autre décision fondée sur la présente loi, lorsque l'étranger a été condamné à une peine privative de liberté de longue durée (...), ou lorsqu'il attente de manière grave ou répétée à la sécurité et l'ordre publics en Suisse ou à l'étranger, les met en danger ou représente une menace pour la sécurité intérieure ou extérieure de la Suisse.
Une peine privative de liberté est considérée comme de longue durée, au sens de l'art. 62 let. b LEtr, lorsqu'elle dépasse un an d'emprisonnement (<ref-ruling> consid. 4.2 p. 379 ss; arrêt 2C_768/2011 du 4 mai 2012 consid. 3), indépendamment du fait qu'elle ait été prononcée avec un sursis complet ou partiel, respectivement sans sursis (arrêts 2C_897/2011 du 13 mai 2012 consid. 3.1; 2C_972/2010 du 24 mai 2011 consid. 4.1).
Il y a atteinte à la sécurité et à l'ordre publics, au sens des art. 62 let. c LEtr et 80 al. 1 let. a de l'ordonnance fédérale du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), notamment en cas de violation importante ou répétée de prescriptions légales ou de décisions d'autorité. Tel est aussi le cas lorsque les actes individuels ne justifient pas en eux-mêmes une révocation mais que leur répétition montre que la personne concernée n'est pas prête à se conformer à l'ordre en vigueur (arrêt 2C_915/2010 du 4 mai 2011 consid. 3.2.1). En tant qu'elles lèsent ou compromettent l'intégrité corporelle des personnes, qui est un bien juridique particulièrement important, les infractions à la LStup, en particulier le trafic de stupéfiants, constituent en règle générale une atteinte "très grave" à la sécurité et à l'ordre publics; or, une telle atteinte justifie la révocation d'un permis d'établissement au sens de l'art. 63 al. 1 let. b LEtr (arrêt 2C_655/2011 du 7 février 2012 consid. 9.2; cf. <ref-ruling> consid. 3.3 p. 303), et donc a fortiori celle d'une autorisation de séjour (cf. arrêt 2C_915/2010 du 4 mai 2011 consid. 3.2.1, qui évoque les conditions de révocation "moins strictes" inhérentes à l'art. 62 let. c LEtr).
En l'espèce, les conditions d'extinction du droit à l'octroi d'un titre de séjour en Suisse en vertu de l'art. 43 al. 1 LEtr sont remplies; les recourants ne le remettent d'ailleurs pas en cause. En effet, la condamnation du recourant, le 20 décembre 1996, à seize mois d'emprisonnement, soit à une peine de plus d'un an (cf. <ref-ruling> consid. 2 p. 299 ss), pour infraction grave et contravention à la LStup tombe sous le coup de l'art. 62 let. b LEtr. La condamnation du 5 novembre 2002 à dix mois d'emprisonnement pour infraction grave à la LStup et pour infraction à l'aLSEE dénote une atteinte à la fois grave et répétée à la sécurité et l'ordre publics en Suisse, au regard de l'art. 62 let. c LEtr.
En l'espèce, les conditions d'extinction du droit à l'octroi d'un titre de séjour en Suisse en vertu de l'art. 43 al. 1 LEtr sont remplies; les recourants ne le remettent d'ailleurs pas en cause. En effet, la condamnation du recourant, le 20 décembre 1996, à seize mois d'emprisonnement, soit à une peine de plus d'un an (cf. <ref-ruling> consid. 2 p. 299 ss), pour infraction grave et contravention à la LStup tombe sous le coup de l'art. 62 let. b LEtr. La condamnation du 5 novembre 2002 à dix mois d'emprisonnement pour infraction grave à la LStup et pour infraction à l'aLSEE dénote une atteinte à la fois grave et répétée à la sécurité et l'ordre publics en Suisse, au regard de l'art. 62 let. c LEtr.
4.5 4.5.1 Cela étant, le refus de l'autorisation ou la révocation de celle-ci ne se justifie que si la pesée des intérêts à effectuer dans le cas d'espèce fait apparaître la mesure comme proportionnée aux circonstances. Il convient donc de prendre en considération, dans la pesée des intérêts publics et privés en présence, la gravité de la faute commise par l'étranger, son degré d'intégration respectivement la durée de son séjour en Suisse et le préjudice que l'intéressé et sa famille auraient à subir en raison de la mesure (cf. art. 96 al. 1 LEtr; <ref-ruling> consid. 4.3 p. 381; arrêts 2C_360/2011 du 18 novembre 2011 consid. 3; 2C_651/2009 du 01.03.2010, consid. 4.2).
Quand le refus d'octroyer une autorisation de séjour se fonde sur la commission d'une infraction, la peine infligée par le juge pénal est le premier critère servant à évaluer la gravité de la faute et à procéder à la pesée des intérêts en présence (arrêts 2C_972/2011 du 8 mai 2012 consid. 2.3; 2C_968/2011 du 20 février 2012 consid. 3.2). La jurisprudence se montre particulièrement rigoureuse avec les ressortissants étrangers qui se livrent au trafic de drogue, surtout s'ils ne sont pas eux-mêmes consommateurs de drogue, mais agissent par pur appât du gain (arrêts 2C_758/2010 du 22 décembre 2010 consid. 6.2; 2C_651/2009 du 1er mars 2010 consid. 4.3). De plus, le comportement correct de l'étranger durant l'exécution de sa peine ne permet pas sans autre de conclure à sa reconversion durable; plus la violation des biens juridiques a été grave, plus il sera facile de retenir un risque de récidive. Il n'est pas non plus inutile de rappeler que les années passées en Suisse dans l'illégalité, en prison, ou au bénéfice d'une simple tolérance ne sont pas déterminantes dans la pesée des intérêts (<ref-ruling> consid. 4.3 p. 24). Lorsque l'autorité cantonale effectue une pesée soignée des intérêts, le Tribunal fédéral ne revoit celle-ci qu'avec retenue (arrêt 2C_758/2010 du 22 décembre 2010 consid. 6.2).
La pesée des intérêts effectuée au titre de la LEtr se confond largement avec celle que le juge doit accomplir lors de la mise en oeuvre de l'art. 8 par. 2 CEDH (cf. <ref-ruling> consid. 4.3 p. 381; <ref-ruling> consid. 5.5 p. 22 s.; arrêt 2C_360/2011 du 18 novembre 2011 consid. 3; ACEDH Boultif c. Suisse, du 2 août 2001, req. 54273/00, Rec. 2001-IX, par. 47 ss), de sorte qu'il y sera procédé simultanément, étant donné que les recourants se prévalent également de cette disposition (consid. 4.5.2 ss infra).
4.5.2 En l'espèce, les juges cantonaux ont souligné que "la question de la balance entre l'intérêt général de sécurité publique à voir le recourant quitter la Suisse et l'intérêt privé de celui-ci à séjourner en Suisse [avait] déjà été tranchée à diverses reprises par des décisions entrées en force"; le seul élément nouveau qui n'avait pas encore été pris en compte par le Tribunal cantonal, à savoir le projet de mariage des recourants, n'était pas de nature à influencer la balance déjà établie, laquelle avait déjà tenu compte du concubinage et de l'enfant commun des recourants. Ce raisonnement ne prête pas le flanc à la critique in casu; il résulte en effet des arrêts du 14 avril 2005 et du 9 juillet 2009, auxquels renvoie l'arrêt attaqué du 19 décembre 2011, que le Tribunal cantonal a, en l'absence de faits nouveaux importants, correctement soupesé les différents intérêts et éléments en présence.
4.5.3 D'une part, il convient de retenir en faveur du recourant ses attaches personnelles fortes avec sa compagne (la recourante), avec laquelle il cohabite depuis 1994, de même qu'avec leur fils né en 1996 et le troisième fils du recourant issu d'une précédente union, ses autres enfants étant majeurs et indépendants ou n'ayant plus de relation avec leur père. S'y ajoute que les juges cantonaux ont implicitement admis qu'on ne pourrait que difficilement exiger de la recourante et de son fils presque majeur qu'ils s'établissent au Chili auprès de leur compagnon et père. Plaideraient également en faveur du recourant: une certaine intégration professionnelle en Suisse par des emplois toutefois non qualifiés ou intérimaires; l'absence de récidive pénale depuis la libération conditionnelle du recourant intervenue en juillet 2004, ainsi que son état de santé détérioré, que les juges cantonaux ont cependant sans arbitraire considéré comme pouvant être pris en charge adéquatement au Chili.
D'autre part, il sied de tenir compte des faits suivants, qui s'opposent à l'octroi d'une autorisation de séjour au recourant:
A juste titre, le Tribunal cantonal s'est attardé sur les deux condamnations pénales dont le recourant a fait l'objet le 20 décembre 1996 (seize mois d'emprisonnement et cinq ans d'expulsion de Suisse avec sursis), puis le 5 novembre 2002 (dix mois d'emprisonnement et cinq ans d'expulsion de Suisse avec sursis, le sursis accordé en 1996 étant révoqué) pour trafic de stupéfiants, et qui lui ont valu des peines privatives de liberté totalisant vingt-six mois (cf. arrêt 2C_265/2011 du 27 septembre 2011 consid. 6.2.5). Il ressort ainsi du jugement pénal de 1996, dont des extraits sont cités dans l'arrêt du Tribunal cantonal du 14 avril 2005 (p. 2 et 13), que le recourant avait agi sans scrupules et dans des "circonstances (...) particulièrement éc?urantes", en incitant notamment son ex-épouse à consommer de la cocaïne et en réalisant son trafic "alors même que son propre fils, dont il avait la garde et qu'il voyait tous les jours, était toxicomane", ce dernier ayant même ramené un client à son père. En dépit de cette première condamnation, de la toxicomanie de son enfant, du sursis pénal accordé, et quand bien même le Tribunal administratif avait accepté de renouveler l'autorisation de séjour du recourant en 1999, "pour tenir compte notamment de la durée de son séjour en Suisse et de la présence dans notre pays de ses cinq enfants", en l'avertissant que "toute nouvelle infraction ne pourrait qu'impliquer une révocation", ce dernier n'a pas hésité à se lancer dans un nouveau trafic de stupéfiants plusieurs mois durant, jusqu'à sa nouvelle arrestation. Par ailleurs, il ressort de l'arrêt du Tribunal administratif du 14 avril 2005 (p. 14), que la recourante ne pouvait ignorer que son compagnon risquait de devoir quitter la Suisse au moment de reprendre son activité délictueuse; ayant en effet elle-même participé au trafic de stupéfiants avec le recourant, elle avait été condamnée le 5 novembre 2002 pour infraction grave à la LStup et dommages à la propriété à une peine de douze mois et quinze jours d'emprisonnement avec sursis.
A ces éléments, plaidant tous en défaveur de la poursuite du séjour du recourant en Suisse, il sied encore d'ajouter les considérations suivantes, qui résultent de l'arrêt attaqué ainsi que des précédents arrêts du Tribunal administratif cantonal auquel ce dernier renvoie explicitement: premièrement, le critère de la durée du séjour du recourant en Suisse doit être fortement relativisé. Par suite du rejet, en janvier 1985, de sa demande d'asile déposée en avril 1983, le recourant n'a en effet été mis au bénéfice d'une autorisation de séjour pour cas de rigueur (art. 13 let. f de l'ancienne ordonnance fédérale du 6 octobre 1986 limitant le nombre des étrangers; aOLE) qu'en 1987; de plus, son autorisation de séjour a été renouvelée la dernière fois jusqu'au 28 mai 2003 et le recourant a passé plusieurs mois en prison, qu'il a pu quitter en juillet 2004. Il en découle que sa présence dans notre pays s'est avérée illégale entre la date d'expiration de son autorisation de séjour et le prononcé de l'arrêt querellé le 19 décembre 2011, voire jusqu'au jour du prononcé du présent arrêt, et qu'elle a tout au plus été tolérée durant l'incarcération et les procédures de recours entamées par l'intéressé.
Deuxièmement, les juges cantonaux ont correctement constaté que le recourant a, à la suite du refus du 21 juillet 2003 prononcé par le Service cantonal de renouveler l'autorisation de séjour, et sous réserve de son éventuel départ de Suisse entre janvier et décembre 2010, opiniâtrement ignoré l'injonction des autorités tendant à ce qu'il quitte notre pays; ce n'est d'ailleurs que pour ce motif et du fait qu'il a multiplié les procédures ordinaires tout comme extraordinaires (en particulier deux demandes de reconsidération), que le séjour du recourant sur territoire suisse s'est prolongé; le recourant est partant mal venu de se prévaloir, comme il le fait, de l'écoulement du temps pour en tirer un droit à pouvoir demeurer en Suisse.
Troisièmement, il ressort des faits retenus par le Tribunal cantonal que l'intégration du recourant en Suisse ne présente pas une intensité particulière, ses attaches semblant se concentrer sur les "relations qu'il entretient avec son amie actuelle et avec leur fils" (cf. arrêt du Tribunal cantonal du 14 avril 2005, p. 14); son intégration professionnelle, au travers d'emplois précaires ou non qualifiés, tels que ponctués par au moins une longue période à la charge des services sociaux et du chômage, reste pour le surplus modeste. Bien que le recourant, qui est arrivé en Suisse à l'âge adulte, affirme que ses "liens avec le Chili sont extrêmement ténus", les juges cantonaux ont constaté dans leur arrêt du 14 avril 2005 que ces relations, en particulier avec sa fratrie restée dans ce pays, perduraient.
Finalement, et sans abuser de leur pouvoir d'appréciation, les premiers juges ont retenu qu'en dépit de la complication indubitable des relations familiales en découlant, le refus d'autoriser le recourant à séjourner en Suisse ne signifiait pas la rupture complète des contacts avec les membres de sa famille vivant dans notre pays; si sa compagne, de nationalité chilienne mais arrivée en Suisse à l'âge de treize ans (cf. recours, p. 8), ne désirait pas l'accompagner il demeure en effet possible pour le recourant de conserver avec celle-ci et ses enfants, dont la plupart sont adultes, les liens que permet la distance géographique (téléphone, visites durant les vacances, etc.; cf. arrêt 2C_758/2010 du 22 décembre 2010 consid. 6.3.2). En outre, l'ACEDH Amrollahi c. Danemark (du 11 juillet 2002, req. 56811/00) que citent les recourants se distingue de leur situation; à l'opposé du couple dano-persan en cause dans cette affaire, les recourants sont tous deux de nationalité chilienne et ne seraient pas empêchés, ni de facto ni de jure, de poursuivre leur vie familiale à l'extérieur de la Suisse; par ailleurs, le recourant a, contrairement au déserteur persan considéré, commis une récidive pénale, qui plus est importante. Quant aux deux autres arrêts de la CourEDH cités par les recourants, ils diffèrent, du propre aveu de ces derniers, dans la mesure où ils concernent des étrangers dits de la deuxième génération (ACEDH Mokrani c. France, du 15 juillet 2003, req. 52206/99; Ezzouhdi c. France, du 13 février 2001, req. 47160/99).
4.6 Compte tenu de l'ensemble des circonstances, il apparaît que l'intérêt public à éloigner le recourant l'emporte ici sur l'intérêt privé de celui-ci et de sa famille à pouvoir vivre ensemble en Suisse. Il en découle que la seconde condition qui préside à l'exercice du droit au mariage des recourants sur territoire suisse fait défaut. Par conséquent, en rendant l'arrêt attaqué, le Tribunal cantonal n'a enfreint ni les art. 8 et 12 CEDH, ni les art. 13 al. 1 et 14 Cst., ni encore la législation fédérale sur les étrangers; il a en particulier procédé à une pesée des intérêts en présence correcte, qui reste dans les limites prévues par le droit fédéral et conventionnel.
5. Les considérants qui précèdent conduisent au rejet du recours dans la mesure de sa recevabilité. Succombant, les recourants supportent solidairement les frais judiciaires (cf. art. 66 al. 1 et 5 LTF). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, débiteurs solidaires.
3. Le présent arrêt est communiqué au représentant des recourants, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 11 juin 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
Le Greffier: Chatton