Faits:
A. Ressortissant de Serbie-et-Monténégro né en 1984, X._ est entré illégalement en Suisse le 1er octobre 2005. Le 7 août 2006, il a épousé Y._, une ressortissante espagnole née en 1973 et titulaire d'une autorisation d'établissement.
A la suite de son mariage, X._ a obtenu une autorisation de séjour CE/AELE valable jusqu'au 6 août 2011. Depuis le 4 septembre 2006, il exerce une activité lucrative au service d'une entreprise de montage d'échafaudages et est intégré socialement.
Les époux se sont séparés le 1er décembre 2006 et n'ont pas eu d'enfant.
En 2008, le Service de la population du canton de Vaud (ci-après le Service cantonal), ayant appris la séparation du couple, a demandé la mise en oeuvre d'une enquête. Il ressort des déclarations des époux que Y._ avait noué une relation avec un autre homme en décembre 2006, avec lequel elle a eu une fille, née le 18 février 2008.
B. Le 5 juin 2009, le Service cantonal a révoqué l'autorisation de séjour CE/AELE de X._ et lui a imparti un délai d'un mois pour quitter la Suisse, au motif notamment qu'il s'était séparé de son épouse après quatre mois de vie commune.
Par arrêt du 20 octobre 2009, le Tribunal cantonal du canton de Vaud, Cour de droit administratif et public (ci-après: le Tribunal cantonal), a rejeté le recours déposé par X._ à l'encontre de la décision du Service cantonal du 5 juin 2009 et a confirmé cette dernière. Les juges ont retenu en substance que le recourant ne pouvait prétendre à une autorisation de séjour en qualité de conjoint étranger d'une ressortissante communautaire, dès lors que les époux n'avaient vécu ensemble que pendant quatre mois et que leur union se limitait à un lien formel depuis décembre 2006. Il n'existait en outre aucune circonstance permettant le maintien de l'autorisation de séjour à un autre titre.
C. A l'encontre de l'arrêt précité du 20 octobre 2009, X._ forme un recours en matière de droit public au Tribunal fédéral, en concluant, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et à l'octroi d'une autorisation de séjour. Il interjette aussi un recours constitutionnel subsidiaire, dans lequel il prend des conclusions en renvoi.
Le Tribunal cantonal et le Service cantonal ont renoncé à se déterminer. L'Office fédéral des migrations conclut au rejet du recours.

Considérant en droit:
1. Le mémoire de recours contient à la fois un recours en matière de droit public et un recours constitutionnel subsidiaire (cf. <ref-law>). Ce dernier est irrecevable si le recours en matière de droit public est recevable (<ref-law>), de sorte qu'il faut commencer par examiner si la voie de droit ordinaire est ouverte en l'espèce.
1.1 Selon la jurisprudence, le recours en matière de droit public est recevable contre la révocation d'une autorisation de séjour qui déploierait encore ses effets s'il n'y avait pas eu de révocation (<ref-ruling> consid. 1.2.1 p. 4). Dans un tel cas, la recevabilité du recours en matière de droit public se fonde en effet sur la confiance légitime que l'autorisation qui a été accordée durera jusqu'à l'échéance de sa validité (cf. arrêt 2C_21/2007 du 16 avril 2007, consid. 1.2; 2D_8/2007 du 24 mai 2007, consid. 1.2.1), sans égard à l'existence d'un droit à ladite autorisation au sens de l'art. 83 let. c ch. 2 LTF (arrêt 2C_635/2009 du 26 mars 2010, consid. 1.1).
Comme le litige porte en l'occurrence sur la révocation d'une autorisation de séjour CE/AELE valable jusqu'au 6 août 2011, la voie du recours en matière de droit public est en principe ouverte. Le recours constitutionnel subsidiaire est partant irrecevable.
1.2 Dirigé contre un jugement final (cf. <ref-law>), rendu par une autorité judiciaire cantonale supérieure de dernière instance (cf. art. 86 al. 1 let. d et al. 2 LTF), le recours en matière de droit public a été déposé dans le délai prévu par la loi (cf. <ref-law>) et dans les formes prescrites (<ref-law>). Il convient donc d'entrer en matière.
2. La procédure concernant la révocation de l'autorisation de séjour du recourant a été initiée en 2008, soit après l'entrée en vigueur, le 1er janvier 2008, de la loi fédérale du 16 décembre 2005 sur les étrangers (RS 142.20; LEtr). Partant, la présente cause est régie par cette loi (cf. art. 126 LEtr; arrêt 2C_329/2009 du 14 septembre 2009, consid. 2.1), même si l'autorisation révoquée a été délivrée sous l'ancien droit (cf. arrêt 2C_635/2009 du 26 mars 2010, consid. 2).
3. Se fondant sur l'<ref-law>, le recourant s'en prend aux faits retenus.
3.1 L'<ref-law> prévoit que le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95, et si la correction du vice est susceptible d'influer sur le sort de la cause. La notion de "manifestement inexacte" de l'<ref-law> correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 7.1 p. 398). La partie recourante doit expliquer de manière circonstanciée en quoi les conditions de l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans l'acte attaqué (cf. <ref-ruling> consid. 1.4.3 p. 254/255; <ref-ruling> consid. 6.2 p. 288).
3.2 Le recourant reproche tout d'abord à l'autorité cantonale d'avoir méconnu le contenu de plusieurs pièces établissant, selon lui, un degré d'intégration en Suisse excluant tout retour dans son pays d'origine. Ce faisant, il perd toutefois de vue que l'arrêt attaqué constate qu'il est effectivement bien intégré professionnellement et socialement en Suisse, de sorte que l'on ne voit pas que les faits seraient manifestement inexacts sur ce point. En réalité, le recourant s'en prend moins à la constatation des faits qu'à leur appréciation juridique sous l'angle notamment de la proportionnalité de la révocation (cf. arrêt 2C_21/2007, du 16 avril 2007, consid. 2.4). Or, il s'agit là d'une question de droit (cf. art. 96 al. 1 LEtr) que le Tribunal fédéral revoit librement (cf. <ref-law> et 106 LTF).
3.3 Le recourant soutient également qu'il ne ressort pas du dossier que son épouse aurait engagé une procédure de divorce. On peut se demander si un tel grief est admissible, dès lors qu'il s'épuise dans la dénégation du fait retenu par l'autorité précédente, sans apporter d'élément concret propre à en établir le caractère manifestement inexact. Le recourant n'explique par exemple pas pourquoi son épouse aurait menti, le 18 novembre 2008, lorsqu'elle a déclaré qu'elle avait engagé une procédure de divorce. Au demeurant, l'existence d'une telle procédure n'est en toute hypothèse pas de nature à faire apparaître comme insoutenable l'appréciation de l'autorité cantonale selon laquelle l'union conjugale est vidée de toute substance depuis décembre 2006, dès lors que les époux n'ont vécu que quatre mois ensemble, qu'ils sont séparés depuis plusieurs années et que l'épouse a eu un enfant d'un autre homme depuis lors. Que l'épouse ait engagé une procédure de divorce n'est par conséquent pas susceptible d'influer sur le sort de la cause, ce qui fait perdre toute portée à la critique du recourant (cf. art. 97 al. 1 in fine LTF).
3.4 Partant, les griefs concernant les constatations cantonales sont infondés.
4. Le recourant se plaint d'une violation de son droit d'être entendu. Il reproche au Tribunal cantonal d'avoir évoqué une dénonciation du 21 avril 2009 selon laquelle Y._ l'aurait épousé pour de l'argent, afin qu'il obtienne un permis C. Le recourant soutient que les juges ne pouvaient se fonder sur cet élément pour révoquer son autorisation de séjour, sans approfondir l'instruction et l'interroger, ainsi que son épouse, à ce propos.
4.1 Le grief tiré de la violation du droit d'être entendu n'est pas réservé au recours constitutionnel subsidiaire et peut être soulevé dans le cadre d'un recours en matière de droit public. Par conséquent, il convient de l'examiner, même si le recourant, méconnaissant ce principe, ne l'a formulé qu'en relation avec son recours constitutionnel subsidiaire.
4.2 Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. comprend notamment le droit pour l'intéressé de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou, à tout le moins, de s'exprimer sur son résultat lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 5.3 p. 148; <ref-ruling> consid. 3.1 p. 277 et la jurisprudence citée).
4.3 Il est vrai que, dans la partie en fait de l'arrêt attaqué, la dénonciation écrite datée du 21 avril 2009 a été mentionnée. Les juges n'ont toutefois pas pris position sur le contenu de ce document, présenté du reste au conditionnel, et surtout n'en ont tiré aucune conséquence juridique. En effet, ils ont estimé que le mariage avait manifestement perdu toute substance en se fondant sur la courte durée de la vie commune (moins de quatre mois), sur l'existence d'une séparation des époux depuis décembre 2006 (soit depuis près de trois ans) et sur le fait que l'épouse avait refait sa vie avec un autre homme dont elle avait eu un enfant en 2008. L'éventualité d'un mariage contracté pour de l'argent n'a jamais été évoquée lorsque les juges ont apprécié la nature et l'intensité du lien entre les époux. Contrairement à ce que semble croire le recourant, il s'agit donc d'un élément non pertinent, de sorte que l'on ne saurait retenir de violation du droit d'être entendu à son propos. Certes eût-il été préférable que le Tribunal cantonal s'abstînt de faire état d'un élément aussi délicat qu'une dénonciation pour n'en tirer aucune conséquence juridique. Cela ne permet toutefois pas de conclure à une violation de l'art. 29 al. 2 Cst.
Le grief lié au droit d'être entendu est donc infondé.
5. Le recourant conteste en outre de manière générale le bien-fondé de la révocation. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cependant, compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, il n'examine en principe que les griefs invoqués (<ref-ruling> consid. 1.4 p. 400), à moins que l'arrêt attaqué révèle une violation évidente du droit.
Tel n'est pas le cas en l'espèce. Comme il a été retenu sans arbitraire (cf. supra consid. 3.3) que son mariage est vidé de toute substance depuis décembre 2006, le recourant ne peut plus se prévaloir du droit au regroupement familial découlant de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses États membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681) pour justifier le maintien de son autorisation de séjour CE/AELE (cf. <ref-ruling> consid. 9.5 p. 134 et les arrêts cités).
En outre, aucune disposition du droit interne ne permet de fonder une telle autorisation. Ainsi, l'art. 43 LEtr n'est pas applicable, car il subordonne le regroupement familial en faveur du conjoint à la condition que les époux vivent en ménage commun. En présence d'un mariage seulement formel, le recourant ne peut davantage se fonder sur l'art. 49 LEtr, puisque cette disposition suppose que la communauté familiale soit maintenue. De même, le recourant ne peut rien tirer de l'art. 50 LEtr, dès lors que l'union conjugale n'a pas duré trois ans au sens de cette disposition (cf. arrêt 2C_635/2009 du 26 mars 2010 consid. 5.2) et qu'aucun élément ne permet de retenir de raisons personnelles majeures justifiant la poursuite du séjour du recourant en Suisse (sur cette notion, cf. <ref-ruling> consid. 5). Si l'on ajoute à ces circonstances le fait que le recourant ne séjourne en Suisse que depuis 4 ans (dont seulement 3 ans légalement) et qu'il a gardé des attaches notamment familiales au Kosovo où il a vécu les 21 premières années de sa vie, la révocation n'apparaît pas disproportionnée (cf. art. 96 LEtr), même si le recourant est intégré socialement et professionnellement en Suisse. Enfin, quant à savoir si l'intéressé pourrait, sous l'angle de l'art. 30 al. 1 let. b LEtr, obtenir une autorisation de séjour en dérogation aux conditions d'admission, il s'agit d'une question qui ne peut être examinée dans le cadre de la présente procédure en vertu de l'art. 83 let. c ch. 5 LTF.
Partant, en confirmant la révocation de l'autorisation de séjour du recourant sur la base de l'art. 23 al. 1 de l'ordonnance du 22 mai 2002 sur l'introduction de la libre circulation des personnes (RS 142.203), l'arrêt attaqué a correctement appliqué le droit fédéral.
Dans ces circonstances, le recours en matière de droit public ne peut qu'être rejeté.
6. Compte tenu de l'issue du litige, les frais judiciaires seront mis à la charge du recourant (<ref-law>). Il ne lui sera pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours constitutionnel subsidiaire est irrecevable.
2. Le recours en matière de droit public est rejeté.
3. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 2 juin 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Addy