Faits :
A.
A.a. Le 1er août 2012, A._, ressortissant kosovar né en 1988, a épousé dans son pays d'origine une ressortissante suisse née en 1991. L'intéressé est entré en Suisse en octobre 2012 et a été mis au bénéfice d'une autorisation de séjour au titre du regroupement familial. L'union conjugale a pris fin le 1er mars 2019 au plus tard. Aucun enfant n'est né de cette union.
A.b. A._ travaille depuis janvier 2014 comme monteur métallique. Sur le plan financier, il a accumulé au 5 février 2021 des poursuites pour un montant total de 9'894 fr. et des actes de défaut de biens pour 5'070 fr. 70. Quant à sa dette sociale, celle-ci s'élève à 37'033 fr. 95 et se constitue de dettes fiscales, ainsi que de dettes liées au non-paiement des primes de l'assurance-maladie obligatoire et de cautions. Par avenant à la convention de divorce, les époux ont convenu de se répartir ce montant par moitié. A._ fait l'objet d'une saisie de salaire de 1'000 fr. par mois depuis le 1er août 2020. Il a remboursé ses dettes à hauteur d'environ 1'400 fr. au 22 décembre 2020 et a par la suite effectué un paiement de 248 fr. 80 en avril 2021.
B.
Par décision du 9 février 2018, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a refusé la délivrance d'une autorisation d'établissement en faveur de A._ et a transmis le dossier au Secrétariat d'Etat aux migrations (ci-après: le Secrétariat d'Etat) pour approbation au renouvellement de son autorisation de séjour.
Le 13 avril 2018, A._ a été condamné à une peine pécuniaire de 60 jours-amende à 50 fr., avec sursis pendant deux ans, ainsi qu'à une amende de 600 fr., pour injure et menaces qualifiées.
Par décision du 25 février 2019, le Secrétariat d'Etat a refusé d'approuver la prolongation de l'autorisation de séjour de l'intéressé et a prononcé son renvoi de Suisse. Par arrêt du 14 octobre 2021, le Tribunal administratif fédéral a rejeté le recours formé par A._ contre cette décision.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif, d'annuler l'arrêt attaqué et de renvoyer la cause au Service cantonal pour qu'il lui octroie une autorisation de séjour; subsidiairement, d'annuler l'arrêt attaqué et de renvoyer la cause au Tribunal administratif fédéral pour nouvelle décision dans le sens des considérants.
Par ordonnance présidentielle du 23 novembre 2021, la requête d'effet suspensif a été admise.
Le Tribunal administratif fédéral renonce à prendre position sur le recours. Le Secrétariat d'Etat conclut au rejet du recours.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable à l'encontre des décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
En l'occurrence, le recourant invoque de manière soutenable l'art. 50 de la loi fédérale du 16 décembre 2005 sur les étrangers (LEI; RS 142.20; dans sa version en vigueur avant le 1er janvier 2019 [RO 2007 5437], ci-après: LEtr; cf. art. 126 al. 1 LEI), qui subordonne la prolongation de l'autorisation de séjour après la dissolution de la famille à certaines conditions dont il se prévaut. Le recours en matière de droit public est partant recevable, étant rappelé que le point de savoir si le recourant dispose effectivement d'un droit à la prolongation de son autorisation de séjour relève du fond et non de la recevabilité (cf. <ref-ruling> consid. 1.1).
1.2. Au surplus, le recours, dirigé contre une décision finale (<ref-law>) rendue par le Tribunal administratif fédéral (<ref-law>), a été déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>) par le destinataire de l'arrêt attaqué, qui a qualité pour recourir (cf. <ref-law>). Il convient donc d'entrer en matière.
2.
2.1. Saisi d'un recours, le Tribunal fédéral applique le droit d'office (<ref-law>). Toutefois, et conformément à l'<ref-law>, il ne connaît de la violation des droits fondamentaux que si ce grief a été invoqué et motivé par la partie recourante, c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (<ref-ruling> consid. 5.1).
2.2. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), hormis dans les cas visés à l'<ref-law>. Selon l'<ref-law>, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 2). Le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées (cf. <ref-law>).
3.
Le 1er janvier 2019 est entrée en vigueur une révision de la loi fédérale sur les étrangers du 16 décembre 2005 (anciennement LEtr), devenue la loi sur les étrangers et l'intégration (LEI; RO 2017 6521). Conformément à la règle générale posée à l'art. 126 al. 1 LEI, c'est l'ancien droit matériel qui reste applicable en la cause, dès lors que le Secrétariat d'Etat a informé le recourant de son intention de ne pas approuver la prolongation de son autorisation de séjour en juillet 2018 (cf. arrêt 2C_586/2020 du 26 novembre 2020 consid. 3.1 et les arrêts cités). La Cour de céans se référera dès lors à la LEtr dans le présent arrêt (cf. RO 2007 5437).
4.
Le recourant se plaint d'une appréciation arbitraire des faits.
4.1. S'agissant de l'appréciation des preuves et des constatations de fait, il y a arbitraire lorsque l'autorité ne prend pas en compte, sans raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des constatations insoutenables (<ref-ruling> consid. 2.3).
4.2. Le recourant fait grief à l'autorité précédente d'avoir retenu de manière arbitraire que les efforts accomplis pour rembourser ses dettes ne provenaient "que" de sa saisie de salaire, alors qu'il avait procédé, en mars 2021, au rachat volontaire de deux actes de défaut de bien. Une telle critique est infondée, voire téméraire, dès lors que l'arrêt attaqué précise expressément que seule "une partie" des remboursement effectués était imputable à l'exécution de ladite saisie.
Le recourant reproche ensuite aux juges précédents d'avoir qualifié son niveau de français de suffisant mais faible au regard des nombreuses années passées en Suisse, alors qu'il serait, selon lui, suffisant et bon. Il en veut pour preuve que son employeur le considère comme un excellent élément, qu'il souligne avoir une totale confiance en ses compétences et qu'il précise qu'il sait diriger les instructions, conseiller, rassurer ses collègues et mener à bien les projets des chantiers qui lui sont soumis, ce qui démontrait qu'il avait "des connaissances linguistiques suffisantes". Une fois encore, la critique est vaine. Non seulement les juges précédents ne nient pas le caractère suffisant des connaissances linguistiques du recourant, mais il ressort expressément de l'arrêt attaqué que l'intéressé a produit une attestation selon laquelle il a un niveau de compétences A1 en français (soit, selon le Cadre européen commun de référence pour les langues, un niveau de compétence "introductif" de la langue visée; <ref-law>). Dans ces circonstances, on ne voit pas, et l'intéressé ne le démontre pas non plus, en quoi il aurait été arbitraire, pour l'autorité précédente, de retenir un niveau de français suffisant, mais faible au regard du temps passé en Suisse.
Pour le reste, même si le recourant soulève une question de droit, et non de fait, lorsqu'il affirme que la durée de son séjour en Suisse permettrait à elle seule de conclure à l'existence de liens sociaux suffisamment forts avec ce pays, il peut d'emblée être relevé qu'une telle présomption est, selon la jurisprudence, fondée sur un séjour légal de plus de dix ans en Suisse (<ref-ruling> consid. 3.9), durée qui fait défaut en l'espèce.
4.3. Le grief tiré de l'appréciation arbitraire des faits doit être rejeté. Le Tribunal fédéral se fondera ainsi exclusivement sur les faits tels qu'ils ressortent de l'arrêt attaqué.
5.
Le recourant se plaint de la violation de l'art. 50 al. 1 let. a LEtr. Il estime que c'est à tort que l'autorité précédente a nié sa bonne intégration en Suisse, étant précisé qu'il n'est pas contesté que son union conjugale a duré plus de trois ans.
5.1. Selon l'art. 50 al. 1 let. a LEtr, après dissolution de la famille, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste si l'union conjugale a duré au moins trois ans et que l'intégration est réussie. Ces deux conditions sont cumulatives (<ref-ruling> consid. 3.8; <ref-ruling> consid. 3.3.3).
5.1.1. Le principe de l'intégration doit permettre aux étrangers dont le séjour est légal et durable de participer à la vie économique, sociale et culturelle de la Suisse (art. 4 al. 2 LEtr). D'après l'art. 77 al. 4 de l'ordonnance du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), dans sa teneur en vigueur jusqu'au 31 décembre 2018 (RO 2007 5497), un étranger s'est bien intégré, au sens de l'art. 50 al. 1 let. a LEtr, notamment lorsqu'il respecte l'ordre juridique suisse et les valeurs de la Constitution fédérale (let. a) et qu'il manifeste sa volonté de participer à la vie économique et d'apprendre la langue nationale parlée au lieu de domicile (let. b). Selon l'art. 4 de l'ancienne ordonnance du 24 octobre 2007 sur l'intégration des étrangers (aOIE; RO 2007 5551), remplacée au 1er janvier 2019 par l'ordonnance du même nom du 15 août 2018 (RS 142.205), la contribution des étrangers à l'intégration se manifeste notamment par le respect de l'ordre juridique et des valeurs de la Constitution fédérale (let. a), par l'apprentissage de la langue nationale parlée sur le lieu de domicile (let. b), par la connaissance du mode de vie suisse (let. c) et par la volonté de participer à la vie économique et d'acquérir une formation (let. d). L'adverbe "notamment", qui est employé tant à l'ancien art. 77 al. 4 OASA qu'à l'art. 4 aOIE, illustre le caractère non exhaustif des critères d'intégration qui sont énumérés par ces dispositions et met aussi en exergue le fait que la notion d'"intégration réussie" doit s'examiner à l'aune d'une appréciation globale des circonstances. Dans l'examen de ces critères d'intégration, les autorités compétentes disposent d'un large pouvoir d'appréciation que le Tribunal fédéral ne revoit qu'avec retenue (cf. arrêt 2C_706/2020 du 14 janvier 2021 consid. 4.2 et les nombreux arrêts cités).
5.1.2. Selon la jurisprudence, il n'y a pas d'intégration réussie lorsque l'étranger n'exerce pas d'activité lucrative qui lui permette de couvrir ses besoins et qu'il dépend des prestations sociales pendant une période relativement longue. Il n'est pas indispensable que l'étranger fasse montre d'une carrière professionnelle exemplaire. L'essentiel en la matière est que la personne subvienne à ses besoins, n'émarge pas à l'aide sociale et ne s'endette pas de manière disproportionnée (arrêt 2C_822/2019 du 9 juin 2020 consid. 3.3 et les arrêts cités). L'impact de l'endettement dans l'appréciation de l'intégration d'une personne dépend du montant des dettes, de leurs causes et du point de savoir si la personne les a remboursées ou s'y emploie de manière constante et efficace (arrêt 2C_725/2019 du 12 septembre 2019 consid. 7.2 et les arrêts cités). Des condamnations pénales mineures n'excluent pas forcément d'emblée la réalisation de l'intégration (arrêt 2C_541/2019 du 22 janvier 2020 consid. 3.4.1 et les arrêts cités). L'absence de liens sociaux très étroits en Suisse n'exclut pas non plus d'emblée l'existence d'une intégration réussie, de même que l'absence de vie associative (arrêt 2C_642/2020 du 16 novembre 2020 consid. 5.2 et l'arrêt cité).
5.2. En l'espèce, les juges précédents ne remettent pas en question l'intégration professionnelle en Suisse du recourant. En revanche, ils estiment que son intégration sociale n'est pas réussie. Ils relèvent sur ce point que le recourant, qui séjourne légalement en Suisse depuis octobre 2012, n'a nullement démontré avoir tissé des liens forts avec ce pays. Il avait par ailleurs émargé à l'aide sociale et son emploi ne l'avait pas empêché d'accumuler des dettes pour 51'997 fr. (33'480 fr. si l'on tient compte de l'accord entre les époux se répartissant le montant de leurs dettes sociales par moitié chacun), dont plus de 5'000 fr. d'actes de défaut de biens. A cela s'ajoutait que le recourant avait été condamné en avril 2018 pour injure et menaces qualifiées. Ainsi, quand bien même fallait-il relever en sa faveur les efforts qu'il avait entrepris pour rembourser ses dettes (une partie étant en tout état de cause imputable à l'exécution d'une saisie de salaire) et son niveau de langue suffisant, ces éléments, faute de respect de l'ordre juridique suisse et d'attaches sociales suffisantes, ne permettaient pas de conclure à une intégration réussie.
Les arguments avancés par le recourant ne permettent pas d'arriver à une autre conclusion. Selon lui, le simple fait d'avoir été en mesure "d'accepter une condamnation" et de ne pas récidiver durant le délai d'épreuve démontrerait qu'il respecte suffisamment l'ordre juridique suisse. Il perd toutefois de vue qu'un tel comportement est celui attendu de tout délinquant, si bien qu'il ne pèse que peu dans la balance (<ref-ruling> consid. 5.5.2). Il en va de même en tant qu'il se targue de ne pas s'être opposé à la décision ordonnant la saisie de son salaire, comportement d'autant moins extraordinaire que, une fois soumis à la poursuite par voie de saisie, le débiteur doit tolérer celle-ci, pour autant qu'elle ne porte pas atteinte à son minimum vital, ce que le recourant ne prétend pas que cela aurait été le cas. Enfin, dans la mesure où il se prévaut de l'absence de gravité des infractions qu'il a commises, on relèvera que l'infraction de menaces qualifiées est constitutive d'un délit, et non pas d'une simple contravention, et est en outre poursuivie d'office dès lors qu'elle a été commise dans le cadre de l'union conjugale, de sorte qu'elle n'est à ce titre-là pas anodine.
S'agissant de l'endettement de l'intéressé, il ressort des constations de l'arrêt attaqué (<ref-law>) que le recourant a remboursé ses dettes à hauteur d'environ 1'400 fr. au 22 décembre 2020, et s'est par la suite acquitté d'une somme de 248 fr. 80. Bien que ces versements volontaires doivent être mis au crédit du recourant, toujours est-il que le montant de ses dettes demeurait, au 5 février 2021, relativement important, et qu'il n'apparaît pas, et l'intéressé ne prétend ni ne démontre le contraire, qu'il aurait effectué d'autres versements après celui de 248 fr. 80, si bien que l'on ne peut que sérieusement douter, contrairement à ce qu'il soutient, qu'il s'emploie de manière constante et efficace au remboursement de celles-ci. Sous cet angle, quoi qu'il en pense, les remboursements intervenus depuis le 1er août 2020 sur la base de la saisie de son salaire ne jouent pas un rôle déterminant, puisqu'il s'agit précisément de saisies opérées par l'autorité des poursuites, et non pas sur une base volontaire. On relèvera en outre que la quasi-totalité des dettes sont des dettes fiscales ou ayant trait à des montants dus à l'assurance-maladie, soit des obligations légales qui incombent à toute personne vivant en Suisse, ce qui plaide en défaveur du recourant. Dans ces conditions, ce dernier ne saurait se prévaloir d'une intégration économique réussie.
Enfin, l'intégration sociale dont se prévaut l'intéressé ne repose que sur ses propres allégations non démontrées, comme l'a retenu sans arbitraire l'autorité précédente (cf. supra consid. 4.2). Pour le reste, comme on l'a vu (cf. supra consid. 4.2 in fine), la présomption selon laquelle l'étranger a, en raison de la durée de son séjour en Suisse, développé des liens sociaux suffisamment étroits avec ce pays lui conférant un droit à y séjourner déduit de l'art. 8 CEDH ne vaut, selon la jurisprudence, qu'à partir d'une durée de résidence légale de dix ans, qui fait défaut en l'espèce, ce que le recourant ne conteste pas.
5.3. Dans ces circonstances, nonobstant quelques facteurs favorables au recourant, force est d'admettre que l'examen global de l'autorité précédente niant l'intégration réussie de l'intéressé ne prête pas le flanc à la critique. Le grief de violation de l'art. 50 al. 1 let. a LEtr est donc rejeté.
6.
Finalement, il ne ressort pas de l'arrêt attaqué que d'autres éléments seraient de nature à fonder l'existence de raisons personnelles majeures au sens de l'art. 50 al. 1 let. b et al. 2 LEtr, ce que le recourant n'invoque du reste pas. En particulier, la réintégration dans le pays d'origine n'apparaît pas fortement compromise. En effet, le recourant est jeune et en bonne santé, il a vécu la majeure partie de sa vie dans son pays d'origine et rien n'indique qu'il serait confronté à des difficultés de réadaptation insurmontables en cas de retour au Kosovo, pays dont il parle la langue, où réside une partie de sa famille et où il pourra mettre à profit l'expérience professionnelle acquise en Suisse.
7.
Les considérants qui précèdent conduisent au rejet du recours en matière de droit public. Les frais seront mis à la charge du recourant, qui succombe, mais fixés en tenant compte de sa situation financière (art. 65 al. 2 et 66 al. 1 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 1'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Tribunal administratif fédéral, Cour VI, au Secrétariat d'Etat aux migrations et au Service de la population du canton de Vaud.
Lausanne, le 28 février 2022
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
La Présidente : F. Aubry Girardin
Le Greffier : H. Rastorfer