Faits:
A. X._, ressortissant du Kosovo né le *** 1964, est entré en Suisse le 20 décembre 1991 et y a déposé une demande d'asile. A cette époque, il alléguait être marié avec A._, également ressortissante kosovare née le *** 1972 et qui demeurait toujours au Kosovo avec leurs trois enfants communs. Un quatrième enfant est né de cette union en 1995. Entre-temps, le 16 novembre 1994, la requête d'asile a définitivement été rejetée par la Commission fédérale de recours en matière d'asile. Après de multiples reports, le délai de départ de X._ a été fixé au 31 août 1997. Le 28 juillet de la même année, le prénommé a épousé B._, ressortissante suisse née le *** 1958. Dans la procédure de mariage, il a indiqué être célibataire. Dès le 7 août 1997, X._ a bénéficié d'une autorisation de séjour au titre du regroupement familial.
Le 21 septembre 2000, X._ a déposé une demande de naturalisation facilitée fondée sur son mariage avec une Suissesse. L'Office fédéral des migrations y a donné suite et, par décision du 27 mars 2002, a procédé à la naturalisation. Peu de temps après, à savoir en février 2003, les époux X._ se sont séparés, puis le divorce a été prononcé le 26 février 2004.
En 2004 également, A._ ainsi que ses quatre enfants ont demandé à pouvoir entrer en Suisse afin de contracter un mariage avec X._ et de permettre à la famille de vivre réunie en Suisse. A la suite de cette demande, le Service de la population du canton de Vaud a informé l'Office fédéral des migrations, en date du 18 mars 2005, que X._ s'était marié avec B._ alors qu'il était possible qu'il fût déjà marié à A._, mentionnée en qualité d'épouse lors des auditions de la procédure d'asile. En conséquence, le certificat de célibataire adressé aux autorités de l'état civil était probablement un faux, ce qui avait permis tant le mariage que la naturalisation facilitée.
B. Le 23 juin 2006, l'Office fédéral des migrations, faisant application de l'art. 41 de la loi sur l'acquisition et la perte de la nationalité suisse (LN; RS 141.0), a annulé la naturalisation de X._, décision qui a été confirmée par arrêt du Tribunal administratif fédéral du 22 octobre 2007. Dans ce cadre, il a spécialement été mis en évidence que le prénommé avait menti à l'Office fédéral des migrations en omettant de déclarer l'existence de ses enfants sur le formulaire à remplir lors de la procédure de naturalisation facilitée. De plus, le mariage de X._ avec B._ ne constituait nullement une communauté conjugale au sens de l'art. 27 al. 1 LN, en tous les cas depuis septembre 2001, date de leur déclaration commune aux termes de laquelle ils avaient pourtant confirmé former une telle communauté. Comme X._ avait dissimulé des faits essentiels sur la réalité de son mariage, les conditions de l'annulation de la naturalisation facilitée étaient remplies. La fin du considérant 7.3 de cet arrêt - confirmé par le Tribunal fédéral le 7 décembre 2007 (arrêt 1C_379/2007) - retient en particulier ce qui suit: "Le fait que le lien conjugal ait été rompu de facto moins de onze mois seulement après l'obtention de la naturalisation facilitée amène à la conclusion que la communauté conjugale vécue par les intéressés ne présentait manifestement pas l'intensité et la stabilité requises durant les mois qui ont précédé la décision de naturalisation et, partant, au moment de la signature de leur déclaration commune, le 9 septembre 2001. Il appert ainsi de toute évidence que l'existence d'une volonté matrimoniale intacte, orientée vers l'avenir, faisait alors défaut."
C. Le 3 janvier 2008, X._ a demandé au Service de la population l'octroi d'une autorisation d'établissement et d'un titre de voyage. Le 28 janvier de la même année, la société C._ SA a déposé une demande de permis de séjour avec activité lucrative en sa faveur.
Le 20 juin 2008, le Service de la population a informé X._ qu'il envisageait de refuser de donner une suite favorable à ces requêtes, estimant en particulier que les motifs qui avaient prévalu pour l'annulation de la naturalisation, notamment la dissimulation de faits essentiels par l'intéressé, seraient également valables pour refuser toute autorisation de séjour ou d'établissement, en application des art. 62 let. a et 63 al. 1 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20). Après avoir donné à X._ l'occasion de se déterminer, le Service de la population a refusé, par décision du 26 janvier 2009, de lui octroyer l'autorisation d'établissement, respectivement celle de séjour. Le recours formé contre ce prononcé auprès de la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a été rejeté par arrêt du 31 mars 2010.
D. Par écriture parvenue au Tribunal fédéral le 6 mai 2010, X._ a formé un recours en matière de droit public et un recours constitutionnel subsidiaire à l'encontre de l'arrêt du Tribunal cantonal du 31 mars 2010. Dans une motivation parfois confuse, il se plaint d'une violation de l'art. 7 al. 1 de la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1 113); il fait valoir qu'il aurait "biffé par négligence certaines rubriques se rapportant à l'existence d'éventuels enfants mineurs dans sa demande de naturalisation", qu'à défaut de mariage il aurait obtenu une autorisation d'établissement, que l'art. 50 al. 1 LEtr lui confère un droit à l'octroi d'une autorisation de séjour et à sa prolongation; il dénonce une violation de l'art. 61 al. 1 LEtr ainsi que des art. 96 al. 1 et 30 al. 1 let. b de cette loi. Il se plaint aussi d'une violation de l'art. 8 CEDH. Il conclut à l'annulation de la décision du 31 mars 2010 et au renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants, ainsi qu'à l'octroi d'une autorisation d'établissement, subsidiairement de séjour, le tout sous suite de frais et dépens.
Le Service de la population a renoncé à se déterminer sur le recours. Le Tribunal cantonal et l'Office fédéral des migrations ont conclu à son rejet.

Considérant en droit:
1. Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 444).
1.1 D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, il suffit qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte (<ref-ruling> consid. 1.1).
En vertu de l'art. 7 al. 1 LSEE, le conjoint étranger d'un ressortissant suisse a droit à l'octroi et à la prolongation de l'autorisation de séjour. Après un séjour régulier et ininterrompu de cinq ans, il a droit à l'autorisation d'établissement.
En l'occurrence, le recourant a été formellement marié à une ressortissante suisse durant plus de cinq ans, de sorte qu'il a potentiellement un droit à l'autorisation sollicitée. La voie du recours en matière de droit public lui est par conséquent ouverte, étant précisé que la question de savoir si les conditions d'un tel droit sont en l'espèce effectivement réunies relève du fond.
1.2 Au surplus, le recours est dirigé contre une décision rendue en dernière instance cantonale par un tribunal supérieur (cf. art. 86 al. 1 let. d et al. 2 LTF) et il a été déposé en temps utile (cf. <ref-law>) ainsi que dans les formes prescrites (cf. <ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (cf. <ref-law>). Le recours en matière de droit public est donc en principe recevable. Il s'ensuit que le recours constitutionnel subsidiaire est irrecevable (cf. <ref-law>).
2. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>).
3. 3.1 Lors de son entrée en vigueur, le 1er janvier 2008, la loi fédérale sur les étrangers a abrogé la loi fédérale sur le séjour et l'établissement des étrangers. Selon l'art. 126 LEtr, les demandes déposées avant l'entrée en vigueur de cette loi sont régies par l'ancien droit en ce qui concerne les conditions matérielles du droit au séjour, la procédure étant en revanche réglée par le nouveau droit.
3.2 En l'espèce, la demande d'autorisation d'établissement a été déposée le 3 janvier 2008, à savoir après l'entrée en vigueur du nouveau droit. Le recourant fait néanmoins valoir un droit acquis sous l'ancien régime juridique, arguant en particulier qu'il aurait eu droit à une autorisation d'établissement sous le régime de la loi sur le séjour et l'établissement des étrangers. De fait, selon la jurisprudence (<ref-ruling> consid. 3 p. 5 ss), l'annulation de la naturalisation a pour effet de replacer l'intéressé dans la situation qui était la sienne avant la naturalisation, sous réserve d'éventuels motifs entraînant la perte de son statut. Il n'y a toutefois pas d'office remise en force d'une ancienne autorisation (sur le caractère précaire de celle de séjour, cf. ci-dessous) et il convient alors de décider de l'octroi d'une nouvelle autorisation au vu de la situation, telle qu'elle se présente au moment où l'autorité doit à nouveau statuer sur cette question (<ref-ruling> consid. 3.2 p. 6 et la jurisprudence citée). Dès lors que le mariage du recourant remonte au 28 juillet 1997, que la procédure de naturalisation a été introduite en septembre 2000, que la nationalité suisse a été accordée le 27 mars 2002, que la séparation des époux est intervenue en février 2003 et leur divorce le 26 février 2004, tous les faits déterminants pour fixer le statut du recourant sont intervenus sous le régime de la loi sur le séjour et l'établissement des étrangers. Cette loi doit donc être examinée dans un premier temps pour décider si elle conférait au recourant un droit durable qui produirait encore des effets à ce jour. Si tel ne devait pas être le cas, il faudrait alors se demander si la situation du recourant à l'heure actuelle lui permet de se prévaloir d'un droit de séjourner en Suisse sous le régime de la loi sur les étrangers.
4. Lors de la naturalisation du recourant, le 27 mars 2002, les époux étaient mariés depuis moins de cinq ans. Le recourant ne pouvait alors se prévaloir d'un droit à une autorisation d'établissement, en vertu de l'art. 7 al. 1 LSEE, puisque cette norme fait dépendre son octroi d'un séjour régulier et ininterrompu de cinq ans. Concrètement, d'ailleurs, le recourant n'a jamais bénéficié d'une autorisation d'établissement, mais bien uniquement d'une autorisation de séjour. Le remettre dans la situation qui était la sienne avant qu'il n'obtienne frauduleusement la nationalité suisse ne saurait ainsi aboutir à lui conférer un droit dont il ne disposait pas à l'époque, à savoir une autorisation d'établissement. Quant à l'autorisation de séjour, il faut rappeler que l'art. 7 al. 2 LSEE prévoit que le conjoint étranger d'un ressortissant suisse n'a pas de droit à l'octroi ni à la prolongation d'une telle autorisation lorsque le mariage a été contracté dans le but d'éluder les dispositions sur le séjour et l'établissement des étrangers et notamment celles sur la limitation du nombre des étrangers. La jurisprudence a déduit de cette norme que l'abus de droit manifeste que constitue l'invocation d'un mariage n'existant plus que formellement dans le seul but d'obtenir une autorisation de séjour n'est pas protégé par l'art. 7 al. 1 LSEE (<ref-ruling> consid. 2.2 p. 151).
La situation a ceci de particulier, s'agissant de la seule autorisation de séjour, que celle-ci est par définition limitée dans le temps (art. 5 al. 1 LSEE) et qu'elle prend fin à son échéance (art. 9 al. 1 lit. a LSEE). Dès lors, force est de reconnaître que l'autorisation de séjour dont le recourant disposait au moment de sa naturalisation ne lui conférait aucun droit à sa reconduction l'an suivant, spécialement au regard de l'art. 7 al. 2 LSEE. Celui-ci ne peut dès lors rien tirer de la situation, telle qu'elle se présentait à la date de sa naturalisation. Contrairement à ce qu'il semble penser, il n'a pas de droit acquis à faire valoir de ce chef. En outre, l'invocation de l'art. 50 LEtr relatif à l'octroi d'une autorisation de séjour après dissolution de la famille ne lui est ici d'aucun secours puisque les conséquences du mariage relèvent toutes de la seule loi sur le séjour et l'établissement des étrangers.
5. 5.1 Le Tribunal fédéral a jugé qu'il faut procéder à une nouvelle appréciation de la situation, telle qu'elle se présente lorsque l'autorisation de séjour est à nouveau examinée (cf. consid. 3.2 ci-dessus). Dans le cas particulier, une demande d'autorisation d'établissement puis une requête de permis de séjour ont été déposées respectivement le 3 et le 28 janvier 2008. La question doit donc être traitée en application de la loi sur les étrangers.
5.2 Le recourant ne dispose à l'heure actuelle d'aucun titre de séjour en Suisse. Il ne saurait en conséquence être question de rechercher s'il existe des motifs de révocation au sens de l'art. 62 LEtr. La problématique de l'octroi de l'autorisation de séjour relève ainsi exclusivement de l'art. 33 LEtr, dans la mesure où le recourant ne peut se prévaloir d'un mariage et donc d'un droit au regroupement familial, étant rappelé que celui contracté sous le régime de la loi sur le séjour et l'établissement des étrangers ne lui a donné aucun droit auquel il pourrait prétendre à ce jour. Or, en dehors des situations spécifiquement prévues par la loi - voir par exemple les art. 42, 43 et 50 LEtr -, l'étranger ne dispose pas d'un droit à l'octroi une autorisation de séjour. Il ne peut en conséquence contester le refus d'accéder à une telle requête par la voie du recours en matière de droit public au Tribunal fédéral (cf. consid. 1.1 ci-dessus).
5.3 S'agissant de l'art. 34 LEtr relatif à l'octroi d'une autorisation d'établissement, cette disposition a un caractère potestatif (cf. art. 34 al. 2 LEtr: "l'autorité compétente peut octroyer une autorisation d'établissement [...]"; cp. art. 44 LEtr et à ce sujet arrêt 2C_685/2009 du 16 mars 2010 consid. 3.1), de sorte que le recourant n'est à nouveau pas admis, pour le même motif déduit de l'art. 83 let. c ch. 2 LTF, à faire valoir la mauvaise application de cette norme devant le Tribunal fédéral. Le grief est, partant, également irrecevable.
6. Le recourant se prévaut d'une dérogation aux conditions d'admission, en invoquant spécialement l'art. 30 al. 1 let. b LEtr. Or, selon l'art. 83 let. c ch. 5 LTF, ce domaine est exclu du recours en matière de droit public auprès du Tribunal fédéral. Le grief est donc irrecevable.
7. 7.1 Dans une argumentation intégrée au recours constitutionnel subsidiaire - mais également recevable dans le cadre du recours en matière de droit public -, le recourant fait encore valoir l'art. 8 CEDH. Cette norme peut en effet aussi être invoquée en raison des liens privés particulièrement intenses qu'un étranger entretient avec la Suisse. Toutefois, selon le Tribunal fédéral, le droit à une autorisation de séjour découlant de la protection de la vie privée, garantie par cette disposition, ne peut en être déduit qu'à des conditions extrêmement restrictives, le requérant devant entretenir avec la Suisse des liens sociaux ou professionnels d'une intensité particulière, allant au-delà d'une intégration normale, et des relations sociales profondes en dehors du cadre familial. Le Tribunal fédéral a notamment refusé de présumer qu'à partir d'une certaine durée de séjour, l'enracinement en Suisse était suffisant pour fonder un droit à une autorisation de séjour et a précisé que la durée du séjour était un critère parmi d'autres à prendre en compte lors de la pesée des intérêts à effectuer (<ref-ruling> consid. 3.2.1 p. 286 s. et la jurisprudence citée). Il n'a reconnu un droit de séjour au titre de la protection de la vie privée que dans des cas exceptionnels (voir l'arrêt 2C_266/2009 du 2 février 2010 consid. 3 et 4), comme par exemple en faveur d'un étranger qui résidait en Suisse depuis vingt ans au bénéfice d'une autorisation de séjour et qui ne pouvait pratiquement vivre nulle part ailleurs sa vie privée et familiale de manière satisfaisante (<ref-ruling> consid. 3.2 et 3.3 p. 286 ss). Il a en revanche considéré qu'un étranger ayant vécu pendant seize ans en Suisse en y développant normalement ses relations privées ne pouvait en déduire un droit à une autorisation de séjour (arrêt 2P.253/1994 du 3 novembre 1994 consid. 2b). En outre, selon la jurisprudence et sauf cas exceptionnels, la durée du séjour en Suisse pendant le déroulement des procédures de recours entraînant un effet suspensif ne devrait normalement pas être prise en considération, ou ne devrait se voir reconnaître qu'une portée restreinte (<ref-ruling> consid. 3.3 p. 289 et la jurisprudence citée).
7.2 Le recourant ne remplit de toute évidence nullement les conditions très strictes posées par la jurisprudence pour disposer d'un droit de séjour fondé sur l'art. 8 par. 1 CEDH. D'une part, la durée de son séjour en Suisse - 19 ans -, doit être relativisée, dans la mesure où il s'y trouve en partie grâce à l'effet suspensif lié aux recours introduits en matière d'asile puis de droit des étrangers. D'autre part, le recourant a pu demeurer dans cet Etat en bénéficiant de manière indue de la nationalité suisse, après avoir trompé les autorités. La durée du séjour en Suisse pouvant être prise en considération, durée qui ne constitue pas, faut-il le rappeler, à elle seule un motif d'autorisation, est donc bien moindre que ce qu'il semble au premier abord. A cela s'ajoute que, à la différence des situations tout à fait particulières où une autorisation a été octroyée au titre de la protection de la vie privée garantie par l'art. 8 CEDH, le recourant a toute sa famille au Kosovo, à savoir ses enfants et la femme - avec laquelle il s'est peut-être marié entre-temps - qu'il entendait épouser en Suisse, une fois obtenu le regroupement familial, auquel il a ultérieurement renoncé. Le grief doit donc être rejeté.
8. Au vu de ce qui précède, le recours en matière de droit public doit être rejeté dans la mesure de sa recevabilité et le recours constitutionnel subsidiaire être déclaré irrecevable.
Succombant, le recourant doit supporter les frais judiciaires (cf. <ref-law>). Il n'est pas alloué de dépens (cf. <ref-law> a contrario).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours en matière de droit public est rejeté dans la mesure où il est recevable.
2. Le recours constitutionnel subsidiaire est irrecevable.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 4 octobre 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin