Faits:
A. X._, ressortissant de Serbie-et-Monténégro né en 1966, est père de quatre enfants issus de son premier mariage avec sa compatriote Y._ née Z._. Il s'agit de A._ née en 1990, B._ née en 1993, C._ né en 1995 et D._ née en 1999.
X._ est entré en Suisse le 2 juillet 2001. Ses enfants restés au pays ont été pris en charge, apparemment, par leur mère et, accessoirement, par le frère du prénommé, E._, toute la famille vivant dans le village de F._ (Kosovo).
Sa demande d'asile ayant été rejetée, X._ a été mis au bénéfice d'une admission provisoire.
Le mariage des époux X.-Z._ a été dissous par jugement du tribunal d'arrondissement de K._ du 30 septembre 2003. La garde des enfants A._, B._ et C._ a été confiée à leur père, un droit de visite étant accordé à la mère.
Le 29 juillet 2004, X._ s'est remarié avec H._, ressortissante suisse née en 1936. Il a de ce fait obtenu une autorisation de séjour par regroupement familial.
Par décision du 15 avril 2006, le Service de la population du canton de Vaud a révoqué ladite autorisation, au motif que les époux s'étaient séparés le 9 décembre 2005. Le couple ayant déclaré avoir repris la vie commune, le Service de la population est revenu sur sa décision le 10 juillet 2006.
Entre-temps, par jugement du 30 janvier 2006, le tribunal communal de G._ a confié la garde de D._ - qui n'était pas mentionnée dans le jugement du tribunal d'arrondissement de K._ du 30 septembre 2003 pour le motif qu'elle n'avait pu être enregistrée en raison de la situation de guerre dans le pays - à son père.
Le 3 mars 2008, A._, B._, C._ et D._ ont déposé une demande de visa pour la Suisse, afin de pouvoir rejoindre leur père à Renens. Ils ont notamment produit une attestation selon laquelle leur mère Y._ consentait à ce qu'ils se rendent auprès de leur père en Suisse.
Par décision du 27 avril 2009, le Service de la population a refusé de délivrer une autorisation d'entrée et de séjour aux enfants A._, B._, C._ et D._.
B. A l'encontre de cette décision, X._ a interjeté un recours qui a été rejeté par arrêt de la Cour de droit administratif et public du Tribunal cantonal vaudois du 20 octobre 2009. Les juges cantonaux ont soulevé la question de savoir si, dans le cas particulier, le regroupement était régi par l'art. 42 al. 1 ou par l'art. 44 LEtr. Ils se sont également demandé si la distinction opérée par la jurisprudence entre regroupement complet et regroupement partiel était toujours justifiée. Ils ont laissé ces questions ouvertes, en considérant que dans tous les cas un droit au regroupement devait être nié lorsqu'il était invoqué de manière abusive. Tel était bien le cas en l'occurrence, selon les juges cantonaux, du moment que les dispositions sur le regroupement familial étaient invoquées moins dans le but de réunir la famille que dans la perspective de procurer aux enfants - à tout le moins aux deux aînées - un permis de séjour avec activité lucrative.
C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, principalement, de réformer l'arrêt du 20 novembre 2009 en ce sens qu'une autorisation d'entrée et de séjour est délivrée à ses enfants A._, B._, C._ et D._; à titre subsidiaire, il conclut à ce que l'arrêt entrepris soit annulé et la cause renvoyée au Tribunal cantonal vaudois pour nouvelle décision dans le sens des considérants.
L'Office fédéral des migrations propose de rejeter le recours dans la mesure où il est recevable. L'autorité précédente ainsi que le Service de la population renoncent à se déterminer.

Considérant en droit:
1. Le 1er janvier 2008 est entrée en vigueur la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20), qui a remplacé la loi fédérale du 26 mars 1931 sur le séjour et l'établissement des étrangers (LSEE; RS 1 113; en vigueur jusqu'au 31 décembre 2007). En vertu de l'art. 126 al. 1 LEtr, les demandes déposées avant l'entrée en vigueur de la loi sont régies par l'ancien droit.
La demande de regroupement familial qui est à la base de la présente affaire est postérieure au 1er janvier 2008, de sorte qu'elle est régie par le nouveau droit.
2. 2.1 Selon l'art. 83 lettre c ch. 2 LTF, en droit des étrangers, le recours en matière de droit public est irrecevable à l'encontre des décisions qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Aucun traité international n'étant applicable en l'espèce (cf. art. 2 LEtr), le regroupement familial est régi par les art. 42 ss LEtr. Lorsque la demande tend à ce qu'un enfant puisse vivre en Suisse avec l'un de ses parents seulement - regroupement familial partiel - et que celui-ci est (re)marié, le droit de l'enfant à séjourner en Suisse dépend du statut du parent concerné, indépendamment du statut ou de la nationalité du nouveau conjoint (arrêt 2C_537/2009 du 31 mars 2010 consid. 2.2.2). En l'occurrence, c'est donc la situation du recourant - et non celle de son épouse, ressortissante suisse - qui est déterminante. Le recourant étant titulaire d'un permis de séjour, le regroupement familial doit être envisagé sous l'angle de l'art. 44 LEtr. Or, cette disposition, de par sa formulation potestative, ne confère pas un droit à une autorisation de séjour, l'octroi d'une telle autorisation étant laissé à l'appréciation de l'autorité. Il s'ensuit que la voie du recours en matière de droit public n'est pas ouverte sur la base de cette disposition (cf. arrêt 2C_345/2009 du 22 octobre 2009 consid. 2.2.1 et les références).
2.2 Le recourant invoque l'art. 8 CEDH pour faire venir ses enfants en Suisse. Un étranger peut se prévaloir de la protection de la vie familiale découlant de l'art. 8 CEDH à condition qu'il entretienne une relation étroite et effective (cf. <ref-ruling> consid. 5 p. 269; <ref-ruling> consid. 5.3.1 p. 211) avec une personne de sa famille ayant le droit de résider durablement en Suisse (ce qui suppose que cette personne ait la nationalité suisse, une autorisation d'établissement en Suisse ou un droit certain à une autorisation de séjour en Suisse, cf. <ref-ruling> consid. 1.3.1 p. 145 s.; <ref-ruling> consid. 3.1 p. 285). Les relations familiales qui peuvent fonder, en vertu de l'art. 8 par. 1 CEDH, un droit à une autorisation de police des étrangers sont avant tout les rapports entre époux ainsi qu'entre parents et enfants mineurs vivant ensemble (<ref-ruling> consid. 1d/aa p. 65; <ref-ruling> consid. 1d p. 261). Un étranger majeur ne peut se prévaloir de cette disposition que s'il se trouve dans un état de dépendance particulier par rapport à des membres de sa famille résidant en Suisse en raison, par exemple, d'un handicap (physique ou mental) ou d'une maladie grave (<ref-ruling> consid. 2 p. 13 s.; <ref-ruling> consid. 1e p. 261 et la jurisprudence citée).
En tant qu'époux d'une citoyenne suisse, le recourant a en principe un droit au renouvellement de son autorisation de séjour en Suisse, pour autant qu'il fasse ménage commun avec sa femme (cf. art. 42 al. 1 LEtr) ou bénéficie d'une exception à cette exigence en vertu de l'art. 49 LEtr. L'arrêt attaqué ne retient pas que le recourant ne vivrait pas avec son épouse. Il a ainsi le droit de résider durablement en Suisse, de sorte qu'un droit au regroupement familial peut a priori découler de l'art. 8 CEDH en ce qui concerne ses enfants mineurs, à savoir B._, C._ et D._ (cf. arrêt 2C_345/2009, précité, consid. 2.2.2). En revanche, A._ est aujourd'hui - moment déterminant pour se prononcer sur la recevabilité du recours sous l'angle de l'art. 8 par. 1 CEDH (cf. <ref-ruling> consid. 2.1 p. 141; <ref-ruling> consid. 2 p. 13) - âgée de plus de 18 ans et le recourant ne prétend pas qu'elle soit dans un état de dépendance particulier, au sens de la jurisprudence, vis-à-vis de lui. Il s'ensuit que le recours est irrecevable dans la mesure où il tend à l'octroi d'une autorisation à la fille aînée du recourant.
2.3 Les autres conditions de recevabilité du recours en matière de droit public (cf. <ref-law>) étant réunies, il convient d'entrer en matière sur le recours dans la mesure où il tend à l'octroi d'une autorisation d'entrée et de séjour à B._, C._ et D._.
3. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que les faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui qui est contenu dans l'acte attaqué (cf. <ref-ruling> consid. 5.2.2 p. 322; <ref-ruling> consid 1.4 p. 400; <ref-ruling> consid. 1.4 p. 254/255). Aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant lui (<ref-law>).
Invoquant la protection contre l'arbitraire, le recourant critique les faits retenus dans l'arrêt attaqué, notamment la constatation selon laquelle les enfants auraient vécu auprès de leur mère au Kosovo. Ce faisant, il se contente d'opposer une argumentation appellatoire, en se référant de manière générale aux pièces produites, mais sans indiquer aucun élément précis propre à faire apparaître comme insoutenables les faits retenus dans l'arrêt attaqué. Une telle motivation n'est pas recevable. Le Tribunal de céans s'en tiendra donc aux faits ressortant de l'arrêt attaqué.
4. L'art. 8 CEDH constitue l'unique base qui permettrait de fonder le droit du recourant de faire venir ses enfants en Suisse. Le litige revient ainsi à déterminer si, sous l'angle de cette seule disposition, il se justifie d'octroyer aux enfants du recourant une autorisation de séjour au titre du regroupement familial.
4.1 L'art. 8 CEDH ne confère en principe pas un droit à séjourner dans un Etat déterminé. Le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse peut toutefois entraver sa vie familiale et porter ainsi atteinte au droit au respect de la vie privée et familiale garanti par cette disposition (<ref-ruling> consid. 1.3.1 p. 145, 153 consid. 2.1 p. 154 s.). Pour autant, les liens familiaux ne sauraient conférer de manière absolue, en vertu de l'art. 8 CEDH, un droit d'entrée et de séjour. Ainsi, lorsqu'un étranger a lui-même pris la décision de quitter sa famille pour aller vivre dans un autre Etat, ce dernier ne manque pas d'emblée à ses obligations de respecter la vie familiale s'il n'autorise pas la venue des proches du ressortissant étranger ou qu'il la subordonne à certaines conditions (Frowein/ Peukert, EMRK-Kommentar, 3e éd., 2009, no 40 ad art. 8 CEDH p. 309).
La protection accordée par l'art. 8 CEDH suppose, entre autres conditions, que la relation avec l'enfant, qui doit être étroite et effective (cf. consid. 2.2 ci-dessus), ait préexisté (arrêts 2C_490/2009 du 2 février 2010 destiné à la publication, consid. 3.2.3; 2C_537/2009, précité, consid. 3).
4.2 Le droit au respect de la vie privée et familiale garanti par l'art. 8 par. 1 CEDH n'est pas absolu. Une ingérence dans l'exercice de ce droit est possible aux conditions de l'art. 8 par. 2 CEDH. La question de savoir si, dans un cas d'espèce, les autorités de police des étrangers sont tenues d'accorder une autorisation de séjour fondée sur l'art. 8 CEDH doit être résolue sur la base d'une pesée de tous les intérêts publics et privés en présence (<ref-ruling> consid. 5.5 p. 23 avec l'indication des circonstances à prendre en considération; ATF <ref-ruling> consid. 4.1 p. 290; <ref-ruling> consid. 2 p. 5/6; <ref-ruling> consid. 4a p. 25). Il s'agit de mettre en balance les intérêts à l'octroi de l'autorisation et les intérêts publics qui s'y opposent. L'autorisation est refusée si les seconds l'emportent sur les premiers, en ce sens que l'ingérence au sens de l'art. 8 par. 2 CEDH apparaît nécessaire (<ref-ruling> consid. 2.1 p. 147, 153 consid. 2.2.1 p. 156).
S'agissant d'un regroupement familial partiel, il convient de tenir compte dans la pesée des intérêts notamment des exigences auxquelles le droit interne soumet celui-ci (cf. arrêt 2C_537/2009, précité, consid. 3, selon lequel les conditions posées par la nouvelle jurisprudence en matière de regroupement valent aussi sous l'angle de l'art. 8 CEDH; voir aussi <ref-ruling> consid. 3.1 p. 10 en ce qui concerne l'ancienne jurisprudence, plus restrictive). Lorsque l'art. 44 LEtr est applicable, il convient de prendre en considération en particulier l'existence d'un logement approprié et de moyens suffisants pour subvenir à l'entretien des intéressés. Il n'est en effet pas concevable que, par le biais de l'art. 8 CEDH, un étranger qui ne dispose, en vertu de la législation interne, d'aucun droit à faire venir sa famille proche en Suisse, puisse obtenir des autorisations de séjour pour celle-ci, sans que les conditions posées par les art. 42 ss LEtr et en particulier celles figurant à l'art. 44 LEtr ne soient réalisées. Du reste, les conditions de logement et d'absence d'aide sociale posées par cette dernière disposition se retrouvent dans la législation relative au regroupement familial de la plupart des Etats parties à la Convention (cf. Frowein/ Peukert, loc. cit.).
5. 5.1 En l'occurrence, l'autorité précédente a confirmé le refus de délivrer une autorisation d'entrée et de séjour aux enfants du recourant pour le motif que les dispositions de la loi fédérale sur les étrangers régissant le regroupement familial étaient invoquées de manière contraire à leur but et partant abusivement. Elle s'est basée ce faisant sur la jurisprudence relative à l'abus de droit développée sous l'empire de l'ancienne loi fédérale sur le séjour et l'établissement des étrangers, en tenant compte en outre de certains aspects de l'ancienne jurisprudence concernant le regroupement familial partiel. Or, d'une part, la notion d'abus de droit n'a plus le même contenu dans le contexte de la nouvelle loi sur les étrangers (cf. arrêt 2C_606/2009 du 17 mars 2010 consid. 2.4.1) et, d'autre part, la jurisprudence relative au regroupement familial partiel rendue sous l'ancien droit n'a plus cours sous la nouvelle loi (arrêt 2C_270/2009 du 15 janvier 2010 destiné à la publication, consid. 4.7). Dans sa motivation, l'arrêt attaqué ne peut donc être suivi. Le Tribunal fédéral n'étant pas lié par les motifs de la décision attaquée (ATF <ref-ruling> consid. 1.4.1 p. 254), il convient de se demander si, au vu de l'état de fait qui en ressort (cf. consid. 3 ci-dessus), celle-ci est néanmoins conforme au droit et en particulier à l'art. 8 CEDH.
5.2 Selon l'état de fait établi par l'autorité précédente, qui lie le Tribunal de céans (cf. <ref-law>), le recourant a lui-même choisi de quitter sa famille en 2001, en laissant ses quatre enfants âgés respectivement de 11, 8, 6 et 2 ans au Kosovo. Il en a obtenu la garde en 2003, mais il a été constaté que la garde effective des enfants avait été assurée par la mère, aidée par les membres de la famille du père restés au Kosovo. Après son départ en 2001, le recourant n'a plus revu ses enfants pendant 3 ans. Depuis 2004, les contacts se limitent à des visites deux à trois fois par an, selon les déclarations du recourant, et à des appels téléphoniques. On ne peut donc, comme l'a du reste indiqué l'autorité précédente, retenir l'existence de relations familiales étroites et effectives, de sorte que l'on peut déjà se demander si la requête du recourant est fondée sous l'angle de l'art. 8 par. 1 CEDH. La question peut toutefois demeurer indécise, car la pesée des intérêts n'est pas en faveur des conclusions du recourant. En effet, la demande de regroupement familial a été présentée en 2008, alors que les enfants étaient âgés de 17 ans et 9 mois (A._), 15 ans (B._), 12 ans et demi (C._) et 8 ans et demi (D._). Cette demande a certes été déposée dans les délais transitoires de l'art. 126 al. 3 LEtr et ne peut par conséquent être qualifiée de tardive. Il n'en demeure pas moins que les enfants du recourant ont toujours vécu dans leur pays d'origine, auprès des membres de leur famille. Ils ont effectué toute leur scolarité au Kosovo et ne parlent pas le français, à l'exception de B._, qui a suivi quelques cours, de sorte que, ainsi que l'ont relevé les juges cantonaux, leur intégration s'avérerait difficile, ce d'autant que le recourant, qui ne maîtrise pas non plus le français, ne pourrait les aider de ce point de vue. En outre, la situation des enfants en Suisse serait pour le moins précaire: leur père exerce une activité professionnelle à plein temps et ne pourrait donc leur procurer l'assistance dont ils ont besoin - en particulier les deux plus jeunes -, alors que les enfants bénéficient d'un solide encadrement au Kosovo. Le recourant ne peut de plus guère compter sur son épouse, âgée de 73 ans, qui a des problèmes de santé nécessitant parfois une hospitalisation en unité psychiatrique. En outre, l'arrêt attaqué ne retient pas que le recourant disposerait d'un logement adéquat pour accueillir sa famille. Enfin, la venue en Suisse de B._, C._ et D._ aurait pour conséquence de les séparer de leur soeur aînée A._ et de la famille, y compris leur mère, qui s'est jusqu'à présent toujours occupée d'eux au Kosovo.
Dans ces conditions, la pesée des intérêts ne justifie pas d'octroyer à B._, C._ et D._ une autorisation de séjour sous l'angle du seul art. 8 CEDH. L'arrêt attaqué, qui leur refuse une telle autorisation, n'est donc pas contraire à cette disposition.
6. Vu ce qui précède, le recours doit être rejeté dans la mesure où il est recevable.
Succombant, le recourant supporte les frais judiciaires (cf. <ref-law>) et n'a pas droit à des dépens (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Des frais judiciaires de 2'000 fr. sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et à la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud, ainsi qu'à l'Office fédéral des migrations.
Lausanne, le 20 mai 2010
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Le Greffier:
Zünd Vianin