Faits:
A.
A.a. X._, ressortissant kosovar né en 1974, est entré illégalement en Suisse en septembre 2008. Il a été interpellé par la police fribourgeoise le 30 août 2009; à cette occasion, il a indiqué qu'il vivait et travaillait en Suisse depuis le 1er octobre 2008.
Le 28 octobre 2009, le Service de la population et des migrants du canton de Fribourg a rendu une décision de renvoi de Suisse à l'encontre de l'intéressé. X._ a fait l'objet d'une mesure d'interdiction d'entrée en Suisse prononcée par l'Office fédéral des migrations le 29 octobre 2009. Par ordonnance pénale du 9 décembre 2009, le juge d'instruction cantonal fribourgeois a condamné l'intéressé pour séjour et travail illégaux.
A.b. Le 22 janvier 2010, X._ et A._, ressortissante mauricienne née en 1946, titulaire d'une autorisation d'établissement en Suisse, ont formé auprès de l'Office de l'état civil de Lausanne une demande d'ouverture d'un dossier de mariage.
Les fiancés ont été entendus séparément le 10 juin 2010 par l'Officier de l'état civil de Lausanne. Celui-ci a transmis le dossier des intéressés à la Direction de l'état civil du canton de Vaud le 21 juin 2010 en lui indiquant présumer l'existence d'un mariage de complaisance.
Parallèlement, le 5 février 2010, X._ a sollicité auprès du bureau des étrangers de la commune de Prilly l'octroi d'une autorisation de séjour en vue de son mariage avec A._.
Par décision du 27 septembre 2010, l'Office de l'état civil a refusé son concours à la célébration du mariage de X._ et A._. La Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours déposé par les intéressés et confirmé la décision querellée le 22 février 2011. Le Tribunal fédéral a rejeté dans la mesure de sa recevabilité le recours contre cet arrêt le 9 août 2011 (cause 5A_225/2011).
Le 7 décembre 2010, à la suite de la dénonciation de la commune de Prilly, le Juge d'instruction de l'arrondissement de Lausanne a condamné X._ pour infraction à la législation sur les étrangers.
Par décision du 24 octobre 2011, le Service de la population du canton de Vaud (ci-après: le Service de la population) a refusé à X._ l'octroi d'une autorisation de séjour.
X._ a quitté le territoire suisse le 7 octobre 2011. Le 24 octobre 2011, X._ et A._ se sont mariés au Kosovo. A la suite du mariage, X._ a sollicité la reconsidération de la décision du Service de la population du 24 octobre 2011.
A.c.
Le 30 novembre 2011, X._ a déposé, depuis le Kosovo, une demande d'entrée, respectivement de séjour, en vue de rejoindre son épouse en Suisse. Par courrier du 1er décembre 2011, l'Ambassadeur de Suisse au Kosovo a indiqué au Service de la population que A._ ne parlait pas l'albanais, que X._ avait des connaissances très limitées en français et qu'il avait l'intention de demander le regroupement familial pour ses deux fils B._, né en 1999, et C._, né en 2004, issus d'une union avec une compatriote. Le 19 avril 2012, X._ a été entendu à l'Ambassade de Suisse à Pristina (Kosovo). Lors de cette audition, il a notamment indiqué qu'il n'avait pas épousé A._ dans le seul but d'obtenir un titre de séjour en Suisse.
Le 5 juin 2012, le Service de la population a informé X._ de son intention de refuser l'octroi d'une autorisation d'entrée en Suisse. Par décision du 21 novembre 2012, après avoir entendu l'intéressé, le Service de la population a refusé de lui octroyer une autorisation d'entrée, respectivement de séjour.
Saisi d'un recours contre cette décision, le Tribunal cantonal l'a rejeté par arrêt du 15 mai 2013. Il a considéré en substance qu'un faisceau d'indices montrait que X._ ne souhaitait manifestement pas fonder une communauté conjugale avec A._, mais qu'il entendait éluder les dispositions sur l'admission et le séjour des étrangers en invoquant son mariage avec une personne retraitée nettement plus âgée que lui et au bénéfice d'une autorisation d'établissement.
B.
Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt entrepris et de renvoyer la cause à l'autorité intimée pour nouvelle décision.
Le Service de la population a renoncé à se déterminer sur le recours et le Tribunal cantonal s'est référé aux considérants de son arrêt. Le recourant a renoncé à formuler des observations complémentaires.

Considérant en droit:
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>). Il contrôle donc librement la recevabilité des recours déposés devant lui (<ref-ruling> consid. 1 p. 133).
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, il suffit, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte. La question de savoir si les conditions d'un tel droit sont effectivement réunies relève du fond (<ref-ruling> consid. 1.1 p. 179).
1.2. En l'occurrence, le recourant a épousé une ressortissante mauricienne titulaire d'une autorisation d'établissement, de sorte qu'il peut se prévaloir de l'art. 43 al. 1 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20). Dans ces conditions, le recourant dispose d'un droit potentiel, sous l'angle de l'art. 83 let. c ch. 2 LTF, à l'autorisation sollicitée, de sorte que la voie du recours en matière de droit public lui est ouverte. La question de savoir si un droit doit effectivement lui être reconnu sur une telle base relève du fond.
1.3. Pour le surplus, le recours est dirigé contre une décision finale (<ref-law>) rendue dans une cause de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d et al. 2 LTF); il a été formé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>). Il est donc en principe recevable.
2.
Le recourant se plaint à plusieurs reprises d'arbitraire dans l'établissement des faits et l'appréciation des preuves.
2.1. Aux termes de l'<ref-law>, le recourant ne peut critiquer les constatations de faits que si ceux-ci ont été établis de manière manifestement inexacte ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>, qui autorise également le Tribunal fédéral à compléter ou rectifier d'office l'état de fait à ces conditions) et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause. Le grief tiré de la constatation manifestement inexacte d'un fait au sens de l'<ref-law> revient à démontrer que celui-ci a été établi de manière arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.1 p. 450).
L'appréciation des preuves est arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables, ce qu'il appartient au recourant de démontrer (<ref-ruling> consid. 4.2 p. 234; <ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 4.3 p. 62).
Le grief d'arbitraire dans l'appréciation des preuves et la constatation des faits est soumis à des règles de motivation accrues (<ref-law>; <ref-ruling> consid. 1.4 p. 287). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 3 p. 104; <ref-ruling> consid 1.4 et 1.5 p. 400 s.; <ref-ruling> consid. 1.4 p. 254 s.).
2.2. En l'occurrence, le recourant méconnaît ces principes. Il se contente, pour l'essentiel, d'opposer sa propre appréciation des faits à celle du Tribunal cantonal. Il se limite en particulier à exposer que c'est pour des raisons de confort que son épouse, lorsqu'elle se trouvait au Kosovo, a séjourné dans un appartement loué et non dans sa maison familiale, comme le voudrait la culture kosovare. Il n'indique cependant pas en quoi il serait arbitraire de considérer que le séjour dans un appartement loué servirait à "cacher" le fait que la relation entre le recourant et la mère de ses enfants n'a jamais véritablement cessé. Le recourant procède par ailleurs de même en ce qui concerne sa connaissance du français. Il se contente d'alléguer qu'il parle mieux le français que ce que relate l'Ambassadeur de Suisse au Kosovo dans son rapport. Le recourant n'expose toutefois pas en quoi il serait arbitraire de constater que, malgré quelques progrès depuis sa rencontre avec sa future épouse, ses connaissances de français restaient "très limitées" (cf. arrêt attaqué, p. 7). De telles argumentations, caractéristiques de l'appel, ne sont pas admissibles.
2.3. Le recourant s'en prend aussi à l'appréciation des juges cantonaux selon laquelle il aurait fait preuve d'empressement pour se marier. En l'occurrence, cette appréciation repose sur le constat que le projet de mariage a été élaboré très tôt dans la relation. Le recourant a en effet manifesté sa volonté de se marier lors de sa première rencontre avec sa future épouse. Selon le Tribunal cantonal, l'empressement du recourant était par ailleurs confirmé par le fait que le mariage au Kosovo avait eu lieu moins de trois mois après l'arrêt du Tribunal fédéral rejetant son recours contre le refus de célébrer le mariage en Suisse. Le recourant n'expose pas en quoi cette appréciation serait arbitraire ou manifestement inexacte. Il se limite à relever que les époux se sont mariés presque deux ans après leur décision de s'unir, ce qui tendrait à infirmer la thèse de l'empressement du Tribunal cantonal. Le recourant se fonde, ce faisant, sur une présentation tronquée des faits. Il perd en effet de vue que l'appréciation du Tribunal cantonal repose essentiellement sur la rapidité avec laquelle le recourant a évoqué son désir de se marier. Le laps de temps qui s'est écoulé entre la décision de se marier et la célébration du mariage au Kosovo, en tant qu'il est dû uniquement au refus des autorités suisses de célébrer le mariage, n'est à cet égard d'aucune pertinence.
2.4. Le recourant reproche également à l'instance précédente de n'avoir pas tenu compte de l'absence d'intérêt financier de l'épouse qui, ensuite de son mariage, aurait subi une diminution de sa rente de veuve. Le recourant ne fait cependant pas valoir qu'une rectification de l'état de fait dans le sens qu'il propose serait de nature à influer sur le sort de la cause. Le grief est, partant, irrecevable.
2.5. Pour le surplus, lorsque le recourant reproche au Tribunal cantonal d'avoir tenu compte de la différence d'âge entre lui et son épouse et d'avoir considéré que les époux ne semblaient pas partager de loisirs communs, il se plaint en réalité de l'appréciation juridique opérée par l'autorité cantonale de données factuelles dûment constatées dans l'arrêt attaqué. Il en va de même des autres griefs du recourant, selon lesquels l'instance précédente n'aurait pas pris en considération le fait que les époux ont emménagé ensemble six mois avant de décider de se marier et que, lors d'un séjour au Kosovo, A._ a fait la connaissance des membres de la famille du recourant. Ces critiques ne concernent ni l'établissement des faits ni l'appréciation des preuves, mais relèvent de l'importance donnée aux éléments favorables au recourant. Elles seront examinées dans ce contexte (cf. infra consid. 4.3).
2.6. Il en découle que les critiques concernant l'arbitraire dans l'établissement des faits et l'appréciation des preuves sont, dans la mesure où elles répondent aux exigences de l'<ref-law>, sans fondement. Dans la suite du raisonnement, la Cour de céans se fondera donc exclusivement sur les constatations de l'arrêt attaqué (<ref-law>).
3.
Le recourant invoque une violation des art. 43, 51 al. 2 let. a LEtr et 8 par. 2 CEDH.
3.1. Aux termes de l'art. 43 al. 1 LEtr, le conjoint étranger du titulaire d'une autorisation d'établissement a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité, à condition de vivre en ménage commun avec lui. D'après l'art. 51 al. 2 let. a LEtr toutefois, les droits prévus à l'art. 43 LEtr s'éteignent lorsqu'il sont invoqués abusivement, notamment pour éluder les dispositions de la LEtr.
3.2. Dans l'arrêt 2C_811/2010 du 23 février 2011, le Tribunal fédéral a jugé que la jurisprudence rendue sous l'ancien droit en matière de mariage abusif pouvait être reprise sous le nouveau droit (cf. arrêt 2C_177/2013 du 6 juin 2013 consid. 3.2). Il y a par conséquent mariage fictif lorsque celui-ci est contracté dans le seul but d'éluder les dispositions de la loi fédérale sur les étrangers, en ce sens que les époux (voire seulement l'un d'eux) n'ont jamais eu la volonté de former une véritable communauté conjugale (cf. <ref-ruling> consid. 4a p. 55; arrêt 2C_75/2013 du 29 août 2013 consid. 3.2). Est considérée comme abusive l'invocation d'un mariage qui n'a plus de substance et n'existe plus que formellement parce que l'union conjugale paraît définitivement rompue, faute de chances de réconciliation entre les époux (cf. <ref-ruling> consid. 4.2 p. 117; <ref-ruling> consid. 2 et 3 p. 151 s.). Dans l'une et l'autre de ces hypothèses, l'intention réelle des époux ne peut souvent pas être établie par une preuve directe, mais seulement grâce à des indices (cf. <ref-ruling> consid. 5a p. 57).
3.3. La volonté de fonder une communauté conjugale est un élément intime qui, par la nature des choses, ne peut guère être prouvé directement. Le plus souvent, l'abus ne pourra être établi qu'au moyen d'un faisceau d'indices, tels qu'une grande différence d'âge entre les fiancés, une impossibilité ou de grandes difficultés à communiquer entre eux, une méconnaissance réciproque de leur cadre de vie et de leurs conditions d'existence (famille, amis, profession, hobbies, habitudes, etc.), un arrangement financier en vue du mariage, un projet de mariage élaboré peu de temps après la rencontre des fiancés, une procédure de renvoi en cours contre le fiancé dont le droit de résider en Suisse dépend de la conclusion du mariage, une absence de vie commune des fiancés avant le mariage, l'appartenance de la personne admise à résider en Suisse à un groupe social marginal, etc. (arrêts 2C_75/2013 du 29 août 2013 consid. 3.3; 2C_177/2013 du 6 juin 2013 consid. 3.3 et les références citées). L'autorité se fonde en principe sur un faisceau d'indices autonomes, aucun des critères n'étant à lui seul déterminant pour juger du caractère fictif du mariage (cf. arrêt 2C_441/2007 du 9 janvier 2007 consid. 4.1).
3.4. Les constatations portant sur des indices peuvent concerner des circonstances externes, tout comme des éléments d'ordre psychique, relevant de la volonté interne (volonté de chacun des époux). Il s'agit, dans les deux cas, de constatations de fait (cf. ATF <ref-ruling> consid. 2.3 p. 152 et les arrêts cités) qui lient le Tribunal fédéral, sauf si elles ont été établies de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, ce qui n'est en l'occurrence pas le cas (cf. supra consid. 2).
4.
4.1. En l'espèce, le Tribunal cantonal a considéré qu'un faisceau d'indices évidents laissait apparaître que le recourant ne souhaitait manifestement pas fonder une communauté conjugale, mais éluder les dispositions sur l'admission et le séjour des étrangers en contractant mariage. Il a retenu en particulier que le recourant avait parlé mariage lors de sa première rencontre avec sa future épouse. Il avait ainsi fait preuve d'un empressement certain, ce qui traduisait sa volonté de régulariser sa situation au plus vite. Quant à l'emménagement du recourant chez sa fiancée en septembre 2009, le Tribunal cantonal a relevé qu'il coïncidait à trois jours près avec un contrôle policier à l'issue duquel l'intéressé avait été dénoncé pour séjour et travail illégaux en Suisse. Il a retenu également la grande différence d'âge entre les époux (28 ans), les difficultés de ceux-ci à communiquer couramment dans une langue commune, ainsi que l'absence de loisirs communs entre les époux. Enfin, l'instance cantonale a relevé les soupçons de l'Ambassadeur de Suisse au Kosovo quant à l'existence d'une vie conjugale "traditionnelle" entre le recourant et la mère de ses enfants (cf. arrêt attaqué p. 8).
4.2. Le recourant conteste la pertinence du critère de la différence d'âge entre les intéressés. Il fait valoir que, malgré leur différence d'âge, les époux entretiennent une relation stable depuis plusieurs années. Il est vrai que la différence d'âge n'est pas à elle seule suffisante pour conclure à l'existence d'un mariage abusif (cf. supra consid. 3.3 in fine). Cet élément constitue néanmoins un critère parmi d'autres à prendre en considération pour déterminer si le mariage est invoqué de manière abusive. Or le Tribunal cantonal a apprécié le critère de la différence d'âge comme faisant partie d'un faisceau d'indices, n'accordant aucun poids déterminant à ce seul élément. Sur ce point, son raisonnement ne prête donc pas le flanc à la critique. Il en va de même lorsque le recourant s'en prend à la pertinence de l'indice des loisirs et intérêts en commun retenu par la juridiction cantonale. Il s'agit également d'un critère parmi d'autres pour juger de la réalité de l'union conjugale du recourant (cf. arrêts 2F_12/2013 du 25 juillet 2013 consid. 2; 2C_177/2013 du 6 juin 2013 consid. 4.3; 2C_487/2010 du 9 novembre 2010 consid. 6.1.3; 2C_703/2007 du 19 mars 2008 consid. 3.3). Le recourant ne prétend du reste pas avoir partagé avec sa femme des moments privilégiés ou avoir des intérêts ou loisirs en commun. Les activités de couple dont se prévaut le recourant (à savoir, les courses alimentaires, la télévision et une sortie mensuelle en discothèque) ne sont nullement significatifs par rapport à la réalité de l'union conjugale, mais constituent simplement des activités de la vie courante.
4.3. C'est également en vain que le recourant soutient que l'autorité précédente n'aurait pas tenu compte des six mois de vie commune du couple et du fait que l'épouse a fait la connaissance de la famille du recourant. Les juges cantonaux ont pris ces éléments en considération, mais sans leur accorder l'importance qu'aurait souhaitée le recourant. En l'occurrence, sur la base des constatations cantonales, on ne peut reprocher à l'instance précédente d'avoir admis l'existence d'un mariage fictif entre les époux, soit d'une union destinée uniquement à permettre au recourant d'obtenir la délivrance d'une autorisation de séjour au titre de regroupement familial. Les éléments permettant d'asseoir cette conclusion sont en effet nombreux et pertinents au sens de la jurisprudence. On peut relever à ce propos les connaissances rudimentaires de la langue française du recourant et ses difficultés à communiquer avec son épouse, le fait que le mariage a été évoqué lors de la première rencontre entre les futurs époux et qu'il a été célébré au Kosovo à peine trois mois après l'arrêt du Tribunal fédéral confirmant le refus de célébrer le mariage en Suisse, la différence d'âge relativement importante entre les conjoints (28 ans), le peu de temps écoulé entre le contrôle policier et l'emménagement du recourant chez sa future épouse, la méconnaissance du recourant de la famille de sa conjointe ainsi que l'absence de moments privilégiés ou d'intérêts en commun. De plus, en ce qui concerne la situation du recourant, il convient de relever que celui-ci est entré illégalement en Suisse en septembre 2008, qu'il a fait l'objet d'une décision de renvoi de Suisse le 28 octobre 2009, suivie le lendemain d'une mesure d'interdiction d'entrée en Suisse, et qu'il a été condamné pénalement le 9 décembre 2009 pour séjour et travail illégaux. Le mariage apparaissait alors comme le seul moyen pour le recourant d'obtenir un titre de séjour en Suisse. Le recourant est par ailleurs soupçonné de maintenir une vie conjugale avec la mère de ses deux enfants qui vit au Kosovo. Enfin, l'épouse a elle-même admis que le mariage avait eu pour but de régulariser la situation du recourant.
4.4. Dans ces conditions, en jugeant que le recourant ne souhaitait pas fonder une communauté conjugale, mais entendait éluder les dispositions sur l'admission et le séjour des étrangers, l'arrêt attaqué n'a pas violé le droit fédéral.
5.
5.1. Aux termes de l'art. 8 CEDH, toute personne a notamment droit au respect de sa vie privée et familiale. Cette disposition ne confère cependant pas un droit à séjourner dans un État déterminé. Le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse peut toutefois porter atteinte au droit au respect de la vie privée et familiale garanti par cette disposition (cf. <ref-ruling> consid. 1.3.1 p. 145 s.; 153 consid. 2.1 p. 154 s.). Pour autant, les liens familiaux ne sauraient conférer de manière absolue, en vertu de l'art. 8 CEDH, un droit d'entrée et de séjour (arrêts 2C_644/2012 du 17 août 2012 consid. 2.3; 2C_793/2011 du 22 février 2012 consid. 2.1). Selon une jurisprudence constante, un étranger peut néanmoins, selon les circonstances, se prévaloir du droit au respect de sa vie privée et familiale au sens de l'art. 8 par. 1 CEDH pour s'opposer à une éventuelle séparation de sa famille. Encore faut-il, pour pouvoir invoquer cette disposition, que la relation entre l'étranger et une personne de sa famille ayant le droit de résider durablement en Suisse soit étroite et effective (<ref-ruling> consid. 1.3 p. 287; arrêt 2C_365/2013 du 30 août 2013 consid. 2.1 destiné à la publication).
5.2. Comme il a été démontré ci-dessus (cf. supra consid. 4), l'existence d'une relation étroite et effective entre le recourant et son épouse fait défaut en l'espèce. Partant, dans la mesure où le lien conjugal entre les époux n'est qu'une façade destinée à éluder les dispositions sur l'admission et le séjour des étrangers, le recourant ne peut pas invoquer l'art. 8 CEDH pour obtenir une autorisation de séjour (cf. <ref-ruling> consid. 1d/aa p. 64; <ref-ruling> consid. 4.3.1 p. 211; arrêts 2C_339/2008 du 9 juin 2008 consid. 4; 2C_675/2008 du 30 septembre 2008 consid. 2.2). Au surplus, on ne voit pas que la décision attaquée serait disproportionnée, ce que le recourant ne soutient du reste pas. Ce grief est par conséquent mal fondé.
6.
Les considérants qui précèdent conduisent au rejet du recours dans la mesure où il est recevable. Succombant, le recourant doit supporter les frais judiciaires (art. 65 et 66 al. 1 LTF). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, et à l'Office fédéral des migrations.
Lausanne, le 2 décembre 2013
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: McGregor