Faits :
A.
A.a. A._, ressortissant kosovar né le 16 août 1984, a séjourné illégalement en Suisse durant de nombreuses années. Deux interdictions d'entrée dans le pays ont été rendues à son encontre. La première a été prononcée le 3 juillet 2009 et a pris fin le 2 juillet 2012. La seconde mesure d'éloignement, encore en vigueur, a été prise en date du 5 mars 2015 pour une durée de sept ans.
Après avoir été renvoyé au Kosovo par les autorités suisses en date du 19 juillet 2016, A._ a déposé, le 23 septembre 2016, une demande de visa auprès de l'Ambassade de Suisse à Pristina, afin de pouvoir vivre auprès de B._, une ressortissante suisse avec qui il allait avoir un enfant et projetait de se marier. L'intéressé s'est installé illégalement en Suisse auprès de sa fiancée le 30 juin 2017, avant que le Service de la population du Canton de Vaud (ci-après: le Service cantonal) ne lui délivre une tolérance provisoire en vue du mariage en date du 27 août 2018. A._ a annulé la procédure de mariage le 24 septembre 2018.
A.b. A._ et B._ ont eu deux enfants communs, à savoir C._ née le 21 mars 2017 et D._ né le 20 avril 2018, qui sont tous deux de nationalité suisse. En date du 21 mai 2019, B._ s'est vu retirer le droit de déterminer leur lieu de résidence par décision de la Justice de paix du district de Nyon (ci-après: la Justice de paix). Les enfants ont ensuite été placés en foyer dès le 15 août 2019.
A.c. Il ressort du casier judiciaire que A._ a été condamné:
- le 25 juillet 2011, à une peine de 150 jours-amende à 30 fr. et à une amende de 950 fr. pour séjour illégal et activité lucrative sans autorisation;
- le 13 mars 2014, à une peine pécuniaire de 180 jours-amende à 30 fr. pour séjour illégal et activité lucrative sans autorisation;
- le 3 décembre 2014, à une peine de liberté de 120 jours pour séjour illégal;
- le 24 juillet 2015, à une peine privative de liberté de 90 jours et à une amende de 600 fr. pour pornographie, séjour illégal et activité lucrative sans autorisation;
- le 7 juin 2016, à une peine privative de liberté de 120 jours pour séjour illégal et activité lucrative sans autorisation;
- le 24 octobre 2016, sans peine additionnelle au jugement du 7 juin 2016, pour séjour illégal et activité lucrative sans autorisation.
- le 18 janvier 2021, à une peine privative de liberté de huit mois, avec sursis pendant quatre ans, pour menaces qualifiées, contrainte, violation simple des règles de la circulation routière, violation des devoirs en cas d'accident, conduite d'un véhicule automobile sans permis de conduire et infraction à la LEI.
B.
En date du 26 octobre 2018, A._ a requis l'octroi d'une autorisation de séjour afin de pouvoir rester auprès de ses deux enfants. Le 28 octobre 2019, le Service cantonal s'est déclaré favorable à l'octroi d'une telle autorisation. Il a transmis l'affaire au Secrétariat d'Etat aux migrations (ci-après: le SEM) pour que ce dernier lève l'interdiction d'entrée en Suisse prononcée à l'égard de l'intéressé et approuve l'octroi de l'autorisation de séjour.
Par décision du 24 juin 2020, le SEM a refusé d'approuver l'octroi d'une autorisation de séjour en faveur de A._. Il a par ailleurs refusé de réexaminer l'interdiction d'entrée prononcée le 5 mars 2015, impartissant à l'intéressé un nouveau délai au 15 septembre 2020 pour quitter le pays.
Le 27 août 2020, A._ a formé recours auprès du Tribunal administratif fédéral contre la décision précitée. Le Tribunal administratif fédéral a rejeté ledit recours par arrêt du 16 juillet 2021.
C.
A._ dépose un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt précité. Demandant l'annulation de la décision du SEM du 24 juin 2020, il conclut à l'admission de sa demande de réexamen et de levée de l'interdiction d'entrée en Suisse, ainsi qu'à l'octroi d'une autorisation de séjour en sa faveur. Il requiert en outre la délivrance de l'effet suspensif à son recours et, partant, l'autorisation de séjourner en Suisse durant la procédure devant le Tribunal fédéral.
La Juge présidant la Cour de céans a admis la requête d'effet suspensif par ordonnance du 15 septembre 2021.
Le Tribunal administratif fédéral a renoncé à déposer des observations sur le recours. Il en va de même du SEM, qui conclut au rejet de ce dernier.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, il suffit, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte. La question de savoir si les conditions d'un tel droit sont effectivement réunies relève du fond (<ref-ruling> consid. 1.1, 497 consid. 3.3).
En l'occurrence, le recourant prétend de manière plausible avoir droit à une autorisation de séjour en application de l'art. 8 de la Convention européenne des droits de l'homme du 4 novembre 1950 (CEDH; RS 0.101), lequel protège sa relation avec ses deux enfants mineurs, qui résident actuellement en Suisse et jouissent de la nationalité helvétique. Il s'ensuit que son recours échappe au motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF (cf. <ref-ruling> consid. 3.3).
1.2. Au surplus, le présent recours de droit public a été déposé en temps utile compte tenu des féries estivales (art. 100 al. 1 en lien avec <ref-law>) par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>). Dirigé contre une décision finale (<ref-law>) rendue par le Tribunal administratif fédéral (<ref-law>) dans une cause de droit public (<ref-law>), il est donc recevable, sous réserve de sa conclusion tendant à l'annulation de la décision du SEM du 24 juin 2020. Une telle conclusion est en effet irrecevable en raison de l'effet dévolutif complet du recours déposé auprès du Tribunal administratif fédéral (cf. <ref-ruling> consid. 1.2), dont la décision peut seule être attaquée devant le Tribunal fédéral (cf. <ref-law>).
2.
Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (art. 95 let. a et b et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Il y procède en se fondant sur les faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - c'est-à-dire arbitrairement (<ref-ruling> consid. 7.1) - ou en violation du droit au sens de l'<ref-law> (<ref-law>), ce qu'il appartient à la partie recourante de démontrer dans sa motivation (cf. <ref-law>). D'une manière générale, la correction du vice doit en outre être susceptible d'influer sur le sort de la cause (art. 97 al. 1 in fine LTF).
3.
Le présent litige concerne le refus du Tribunal administratif fédéral d'approuver l'octroi d'une autorisation de séjour initiale au recourant, de même que celui de lever l'interdiction d'entrée dont ce dernier fait l'objet depuis 2015. Ce double refus empêche le recourant de demeurer en Suisse à proximité de ses deux enfants, de nationalité suisse, actuellement placés en foyer. Il est précisé que l'intéressé ne peut se prévaloir d'aucun droit à séjourner dans le pays en vertu de la législation interne. D'après l'art. 42 al. 2 de la loi fédérale du 16 décembre 2005 sur les étrangers et l'intégration (LEI; RS 142.20), les parents étrangers de citoyens suisses ne peuvent en effet revendiquer de droit à une autorisation au titre du regroupement familial que s'ils sont, entre autres conditions, titulaires d'une autorisation de séjour durable délivrée par un Etat avec lequel la Suisse a conclu un accord sur la libre circulation des personnes. Or, il ne ressort pas de l'arrêt attaqué que le recourant, ressortissant kosovar, satisferait à cette exigence. L'intéressé ne prétend du reste pas le contraire dans son mémoire, dans lequel il revendique uniquement un droit au regroupement familial déduit de l'art. 8 CEDH.
4.
Le recourant affirme tout d'abord que le Tribunal administratif fédéral aurait constaté les faits de manière arbitraire en la cause.
4.1. L'intéressé reproche très précisément à l'autorité précédente de n'avoir pas tenu compte d'un document daté du 1er juin 2021 dans lequel son ex-compagne déclare souhaiter qu'il ne quitte pas le pays pour le bien de leurs enfants communs, au motif qu'elle-même ne peut pas s'occuper d'eux. Il considère que le tribunal a procédé à un établissement des faits arbitraire en refusant de mentionner et, partant, de prendre en considération une telle pièce dans son arrêt, alors même qu'elle serait pertinente pour juger de la gravité des infractions pénales qu'il a commises en Suisse.
4.2. Selon la jurisprudence, il y a arbitraire dans l'établissement des faits ou l'appréciation des preuves si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait des déductions insoutenables (<ref-ruling> consid. 4.1.2; <ref-ruling> consid. 4.2).
4.3. Il est en l'occurrence vrai que, dans l'arrêt attaqué, le Tribunal administratif fédéral passe sous silence le document invoqué par le recourant, bien qu'il ait été produit au dossier. On ne voit toutefois pas qu'un tel défaut de mention soit constitutif d'un établissement arbitraire des faits en la cause. Le Tribunal administratif fédéral n'a en effet procédé à aucun constat de fait en contradiction avec cette pièce. Le recourant ne le prétend pas lui-même. Il se contente d'affirmer que le document en question - dans lequel son ex-compagne déclare souhaiter qu'il puisse rester en Suisse pour s'occuper de leurs enfants communs à sa place - permettrait de relativiser la gravité des infractions pénales qu'il a commises. Cela étant, on peine à suivre le recourant sur ce point. Ledit document ne se réfère nullement à son comportement délictuel passé. En réalité, il met uniquement en lumière le fait - mentionné dans l'arrêt attaqué - selon lequel les enfants du recourant sont aujourd'hui placés en foyer en raison de l'incapacité actuelle de leur mère de s'en occuper. Or, savoir si le Tribunal administratif a suffisamment tenu compte de cet élément dans son arrêt ne relève pas d'un éventuel établissement arbitraire des faits, mais de la bonne application du droit. Cette question sera en l'occurrence examinée ci-après.
5.
Le recourant invoque une violation du droit au respect de la vie familiale garanti par l'art. 8 CEDH, ainsi qu'une violation de l'interdiction de l'arbitraire consacrée à l'art. 9 al. 1 Cst. Il soutient remplir les conditions donnant droit à un regroupement familial inversé selon la jurisprudence rendue par le Tribunal fédéral en lien avec la première disposition. Il affirme en outre qu'il serait choquant de lui refuser toute autorisation de séjour pour des motifs essentiellement liés au fait qu'il ne dispose encore d'aucun permis de ce type, sans tenir compte des efforts qu'il fournit et de l'intérêt particulier de ses enfants à ce qu'il demeure en Suisse.
5.1. L'art. 8 CEDH, qui garantit le droit au respect de la vie privée et familiale, ne confère pas en lui-même le droit à séjourner dans un Etat déterminé. Toutefois le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse peut entraver la vie familiale de l'intéressé et porter une atteinte disproportionnée au droit garanti par cette disposition. La jurisprudence retient ainsi qu'un parent étranger qui n'a pas la garde sur son enfant et qui ne peut de toute manière entretenir une relation familiale avec celui-ci que de façon limitée ne doit pas forcément être habilité à résider durablement en Suisse, et ce même si son enfant jouit de la nationalité suisse ou d'un droit de présence assuré dans le pays en lien avec son autre parent. Sous l'angle du droit au respect de la vie familiale (cf. art. 8 par. 1 CEDH et 13 al. 1 Cst.), il suffit en règle générale que le parent étranger exerce son droit de visite dans le cadre de séjours brefs, au besoin en aménageant ses modalités quant à la fréquence et à la durée, ou par le biais de moyens de communication modernes (<ref-ruling> consid. 5.1 p. 96 s. et les références). Un droit plus étendu peut cependant exister en présence 1) de relations étroites et effectives avec l'enfant d'un point de vue affectif et 2) d'un point de vue économique, 3) de l'impossibilité pratique à maintenir la relation en raison de la distance qui sépare le pays de résidence de l'enfant du pays d'origine de son parent et 4) d'un comportement exempt de reproche. Ces exigences doivent être appréciées ensemble et faire l'objet d'une pesée des intérêts globale (cf. <ref-ruling> consid. 3 et 4). Dans le cadre de l'examen de la proportionnalité de la mesure, les exigences relatives à l'étendue de la relation que l'étranger doit entretenir avec son enfant d'un point de vue affectif et économique doivent par ailleurs rester dans l'ordre du possible et du raisonnable (<ref-ruling> consid. 5.2.2 et les références citées). Il convient également de tenir compte de l'intérêt fondamental de l'enfant (art. 3 de la Convention relative aux droits de l'enfant du 20 novembre 1989 [CDE; RS 0.107]) à pouvoir grandir en jouissant d'un contact étroit avec ses deux parents (<ref-ruling> consid. 5.2 et les références).
5.2. La jurisprudence qui précède s'applique aux situations les plus courantes dans lesquelles l'enfant de l'étranger requérant vit en Suisse avec l'autre parent qui en a la garde (cf. en particulier <ref-ruling>; <ref-ruling>). Elle n'est pas transposable telle quelle aux autres cas de figure, moins fréquents, où les enfants vivent séparés de leurs deux parents en raison d'une mesure de placement prononcée en application du droit de protection de l'enfant. Dans de tels cas, l'analyse de la situation sous l'angle de l'art. 8 par. 2 CEDH doit tenir compte du fait que l'organisation de la relation entre enfants et parents ne dépend pas en premier lieu de la volonté de ceux-ci, mais de celle de l'autorité (arrêts 2C_591/2020 du 4 janvier 2021 consid. 5.2; 2C_1009/2018 du 30 janvier 2019 consid. 3.5; 2C_ 972/2011 du 8 mai 2012 consid. 4.2). Face à de telles situations, il s'agit de garder à l'esprit que la prise en charge d'un enfant à des fins d'assistance est une mesure censée être temporaire, qui doit être levée dès que la situation s'y prête, et que l'Etat doit prendre les mesures propres à réunir les parents et l'enfant concerné (arrêt 2C_ 972/2011 du 8 mai 2012 consid. 3.4; aussi 2C_800/2018 du 12 février 2020 consid. 5.4 et arrêt de la CourEDH, Johansen c. Norvège du 7 août 1996, Recueil CourEDH 1996-III, p. 979 § 78). Dans toute la mesure du possible, il appartient donc aux autorités de droit des migrations de prendre des décisions qui ne ferment pas définitivement la porte à une réunion des enfants placés avec leurs parents naturels, de préférence en Suisse lorsque cet enfant est de nationalité helvétique (arrêts 2C_800/2018 du 12 février 2020 consid. 5.5 et 2C_1009/2018 du 30 janvier 2019 consid. 3.5). L'appréciation des circonstances doit se faire avec d'autant plus de circonspection que le parent étranger dont le séjour en Suisse est litigieux est le seul avec lequel il est envisageable que l'enfant placé puisse être réuni. Dans un tel cas, un comportement irréprochable de ce parent ne peut être exigé: seule une atteinte d'une certaine gravité à l'ordre et à la sécurité publics peut l'emporter sur le droit de l'enfant suisse faisant l'objet d'un placement de pouvoir un jour vivre à nouveau avec l'un de ses parents naturels en Suisse (cf. arrêts 2C_591/2020 du 4 janvier 2021 consid. 5; 2C_ 972/2011 du 8 mai 2012 consid. 4.2 et 4.3; cf. aussi <ref-ruling> consid. 3.3). Il convient le cas échéant d'autoriser le parent étranger à séjourner en Suisse pendant la durée du placement de ses enfants, s'il n'apparaît pas exclu qu'il puisse en récupérer la garde, tant qu'il n'oeuvre pas de manière abusive au maintien de la mesure afin de prolonger son droit de présence en Suisse (cf. arrêt 2C_800/2018 du 12 février 2020 consid. 5.6).
5.3. Il ressort en l'occurrence de l'arrêt attaqué que le recourant a séjourné de nombreuses années illégalement en Suisse, ce qui a d'ailleurs conduit à ce qu'il soit plusieurs fois condamné pour séjour illégal et pour activité lucrative sans autorisation entre 2011 et 2016. Après être retourné au Kosovo en été 2016, il est revenu illégalement en Suisse en juin 2017, bien qu'il ait été sous le coup d'une interdiction d'entrée sur le territoire valable jusqu'en mars 2022. Il y a rejoint sa compagne suissesse d'alors, avec qui il venait d'avoir un enfant et projetait de se marier. Le couple a eu un deuxième enfant en avril 2018, avant de se séparer quelques mois plus tard. Le recourant, qui venait de recevoir une tolérance en vue de mariage, a immédiatement déposé une demande d'autorisation de séjour afin de pouvoir rester auprès de ses enfants, qui ont été ensuite retirés à leur mère et placés en foyer. D'après l'arrêt attaqué, cette dernière a perdu le droit de déterminer leur lieu de résidence en date du 21 mai 2019, après être devenue incapable d'en assurer la garde en raison, entre autres circonstances, du climat de violences ayant empreint sa relation avec le recourant, lequel a du reste été condamné pour menace qualifiée et contrainte à l'encontre de son ex-compagne début 2021. Depuis lors, le recourant rend régulièrement visite à ses enfants au foyer. Ce droit de visite a été élargi avec le temps; il est pour l'heure fixé au mardi après-midi et à toute la journée du dimanche. Le recourant, qui n'a jamais été autorisé à exercer une activité lucrative en Suisse, ne verse en revanche aucune contribution d'entretien à ses enfants.
5.4. Sur la base des éléments qui précèdent, le Tribunal administratif fédéral a considéré que le recourant, qui ne pouvait se prévaloir d'aucun comportement irréprochable, n'entretenait pas de relation personnelle ni de lien économique d'une intensité particulière avec ses enfants. Il a également estimé que l'intéressé avait la possibilité d'exercer un droit de visite depuis le Kosovo en cas de renvoi, par exemple en organisant des séjours de courte durée en Suisse, et qu'il pourrait continuer d'entretenir des contacts réguliers avec ses enfants grâce aux moyens de communication modernes. Il en a conclu qu'aucune des conditions posées par la jurisprudence concernant le droit au regroupement familial inversé d'un parent jouissant uniquement d'un droit de visite sur son enfant résidant en Suisse n'était réunie en l'espèce. D'après l'autorité précédente, il serait dès lors juste de refuser toute autorisation de séjour au recourant.
5.5. Le raisonnement qui précède applique la jurisprudence comme s'il s'agissait d'un cas ordinaire de parent étranger n'ayant qu'un droit de visite sur ses enfants résidant en Suisse (consid. 5.1). Il ne tient pas compte des circonstances particulières du présent cas, en particulier du fait que les enfants du recourant, âgés de 3 et 4 ans au moment de l'arrêt de l'autorité inférieure, font l'objet d'un placement en foyer depuis plus de deux ans. Il ressort en effet de l'arrêt attaqué que leur mère s'est vu retirer le droit de déterminer leur lieu de résidence sur demande du Service des curatelles et des tutelles professionnelles en mai 2019. Le Tribunal administratif fédéral n'a toutefois pas procédé à de plus amples constats à cet égard. Il s'est contenté de relever que " la mère des enfants étant suisse, elle sera toujours présente auprès d'eux et qu'en cas d'éventuelle incapacité de celle-ci de s'en occuper, les structures d'accueil existants en Suisse permettraient de garantir une prise en charge adéquate ". L'arrêt attaqué ne se prononce ainsi nullement sur le point de savoir si l'on peut s'attendre à ce que la mère se charge un jour à nouveau durablement de la garde des enfants. Il n'aborde pas du tout cette problématique, n'indiquant même pas si celle-ci exerce actuellement un droit de visite sur ces derniers et, si oui, à quelle fréquence et dans quelles conditions. Cet élément est pourtant fondamental s'agissant de savoir si le père est le seul parent qui a encore des contacts avec les enfants. Suivant la même logique, l'arrêt attaqué ne traite d'aucune manière la question corrélée de savoir s'il serait concevable que le recourant assume lui-même la garde de ses enfants à plus ou moins long terme à la place de son ex-compagne. En l'état, il ressort uniquement de l'arrêt attaqué que le recourant a effectué des démarches afin que sa fille et son fils - qu'il voit deux fois par semaine - puissent dormir à son domicile à l'avenir. Il n'apparaît pas que le Tribunal administratif fédéral se soit intéressé au point de savoir si l'intéressé serait capable d'assurer une prise en charge permanente de ses enfants, hypothèse que leur mère semble pourtant envisager dans son courrier du 1er juin 2021 (cf. supra consid. 4). La récente condamnation du recourant pour menaces qualifiées et contrainte à l'encontre de son ex-compagne permet certes d'en douter. Cette condamnation, à propos de laquelle l'arrêt attaqué ne fournit aucun détail - si ce n'est qu'elle a donné lieu au prononcé d'une peine privative de liberté de huit mois avec sursis en concours avec d'autres infractions à la législation sur la circulation routière -, ne suffit toutefois pas à elle seule à dénier toute capacité parentale au recourant. D'après l'arrêt pénal produit au dossier, le pronostic de récidive ne serait pas défavorable. Quant au "stalking" dont s'est rendu coupable le recourant à l'encontre de son ex-compagne, il résulterait en partie de son souhait de voir ses enfants, avec lesquels l'intérêt entretiendrait des relations étroites et dont il s'occuperait bien (cf. <ref-law>).
Ces diverses éléments de fait, qui auraient permis de poser un pronostic sur le maintien de la mesure de placement des enfants et de leur éventuelle garde par le recourant, ne trouvent pas de réponse dans l'arrêt attaqué. Ils s'avèrent pourtant essentiels pour juger d'un éventuel droit au regroupement familial de l'intéressé tiré de l'art. 8 par. 1 CEDH. Ils constituent en effet des points de bascule de la pesée des intérêts que sous-tend la demande d'autorisation de séjour du recourant.
5.6. Dans l'hypothèse où une garde des enfants par la mère ne serait pas envisageable dans un proche avenir, tandis qu'il serait concevable que le père se la voie confier, sachant qu'un telle réunion devrait être préférée à un placement prolongée des enfants (voir <ref-law>; arrêt 5A_131/2021 du 10 septembre 2021 consid. 4.4), il n'existerait pas seulement un " intérêt indéniable " de ces derniers à vivre en présence de leur père, comme l'a reconnu en passant l'autorité précédente dans l'arrêt attaqué. Il s'agirait bien plus de prendre en compte l'importance fondamentale qu'il y a de préserver les chances des enfants à pouvoir retourner chez (un de) leurs parents au plus vite et dans les meilleures conditions. Dans ce cadre, il y aurait lieu de songer à l'octroi d'une autorisation de séjour au recourant pour la durée de la mesure de placement, comme le préconise la jurisprudence (cf. supra consid. 5.2). La délivrance d'une telle autorisation ne semble en tout cas pas fondamentalement exclue sur la base des faits établis par l'arrêt attaqué. Le comportement du recourant n'est certes pas irréprochable. Son casier judiciaire est émaillé de nombreuses condamnations qui laissent transparaître un certain mépris de l'ordre juridique suisse. Après avoir commis plusieurs infractions à la loi sur les étrangers entre 2011 et 2016, il s'est encore vu infliger une peine privative de liberté d'une durée de 8 mois en 2021, en raison non seulement de diverses violations de la législation routière, mais aussi de délits contre la liberté. Cela étant, il n'est pas possible de considérer, sans constatations de faits plus précises sur les circonstances de la dernière condamnation, que le recourant a porté gravement atteinte à la sécurité et à l'ordre publics suisses et qu'il existe dès lors un intérêt prépondérant à son renvoi de Suisse, surpassant nécessairement celui de ses enfants de nationalité suisse à ce qu'il puisse rester dans le pays.
6.
Il découle de ce qui précède que l'arrêt attaqué ne contient pas les constatations de fait nécessaires pour répondre aux questions juridiquement pertinentes se posant dans le cas d'espèce sous l'angle de l'art. 8 CEDH. Il convient donc d'admettre le recours dans la mesure où il est recevable, d'annuler l'arrêt attaqué et de renvoyer la cause au Tribunal administratif fédéral pour qu'il complète les faits et rende une nouvelle décision sur cette base.
Par ailleurs, si le Tribunal administratif fédéral devait arriver à la conclusion que le recourant a droit à une autorisation de séjour pour regroupement familial, il lui incomberait de réexaminer dans la foulée l'interdiction d'entrée infligée à l'intéressé (cf. art. 67 al. 5 LEI), à moins que ladite mesure, décidée en 2015 et d'une durée de sept ans, ne soit arrivée à échéance dans l'intervalle.
7.
Compte tenu de l'issue du litige, le présent arrêt sera rendu sans frais (<ref-law>). Le recourant étant représenté par un avocat, des dépens peuvent lui être alloués à la charge du SEM (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, dans la mesure où il est recevable.
2.
L'arrêt du 16 juillet 2021 du Tribunal administratif fédéral est annulé et la cause est renvoyée à cette autorité afin qu'elle complète l'instruction et rende un nouvel arrêt dans le sens des considérants.
3.
Il n'est pas perçu de frais judiciaires.
4.
Une indemnité de 2'000 fr., à payer au recourant à titre de dépens, est mise à la charge du SEM.
5.
Le présent arrêt est communiqué au mandataire du recourant, au SEM, au Tribunal administratif fédéral, Cour VI, et au Service de la population du Canton de Vaud.
Lausanne, le 2 février 2022
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
La Présidente : F. Aubry Girardin
Le Greffier : E. Jeannerat