Faits :
A.
A.a. A.X._, ressortissant kosovar, a été mis au bénéfice d'une autorisation de séjour à la suite de son mariage, en août 2007, avec une ressortissante suisse. Le 31 juillet 2012, il s'est vu délivrer une autorisation d'établissement. L'intéressé a trois enfants issus d'un premier mariage au Kosovo avec E.X._: B.X._, né en 1996, C.X._, née en 1997 et D.X._, né en 2001.
A.b. Le 29 mai 2013, B.X._ a déposé auprès de l'Ambassade de Suisse à Pristina une demande de visa pour pouvoir rejoindre son père en Suisse. A l'appui de sa demande, l'intéressé a indiqué qu'il vivait au Kosovo avec sa mère, grièvement handicapée, ainsi que son frère et sa soeur. Ces derniers continueraient à s'occuper de leur mère, avec l'aide d'un cousin de la famille, Y._.
Par courrier du 14 octobre 2013, A.X._ a précisé que E.X._ s'était occupée de B.X._ aussi longtemps qu'elle l'avait pu. Lorsqu'elle était tombée gravement malade, son frère, F.X._, avait pris soin des enfants. L'intéressé a joint à son courrier une copie du jugement du 14 avril 2013 lui attribuant l'autorité parentale ainsi que les droits de garde des trois enfants, en modification du jugement de divorce du 18 novembre 2003. E.X._ acceptait cette décision à cause de sa maladie et de la mauvaise situation économique. Le 2 décembre 2013, A.X._ a ajouté que le soutien de la famille élargie, dont ses enfants avaient pu bénéficier durant quelques années, "s'était beaucoup amoindri en raison du fait qu'ils ne vivaient plus dans la maison de leur oncle paternel". Il a encore précisé que son autre fils, G.X._, né en 1993 d'une précédente union, ne pouvait pas prendre en charge ses enfants, ce dernier étant étudiant et vivant à 40 kilomètres de la maison familiale.
A.c. Le 11 février 2014, C.X._ et D.X._ ont tous deux déposé auprès de l'Ambassade de Suisse à Pristina une demande d'autorisation d'entrée et de séjour en Suisse afin de pouvoir rejoindre leur père en Suisse. Ils ont indiqué que leur demi-frère, G.X._, prendrait soin de leur mère avec une tante.
B.
Le 31 mars 2014, le Service de la population du canton de Vaud (ci-après: le Service de la population) a préavisé favorablement les demandes d'autorisation d'entrée fondées sur l'art. 47 al. 4 LEtr en faveur des trois enfants, et transmis le dossier à l'Office fédéral des migrations (devenu le 1er janvier 2015 le Secrétariat d'Etat aux migrations, ci-après: le Secrétariat d'Etat) pour approbation.
Invité par le Secrétariat d'Etat à s'exprimer avant qu'une décision soit rendue, A.X._ a indiqué que son épouse était disposée à accueillir ses trois enfants et qu'il assurerait lui-même leur prise en charge financière.
Le 6 juin 2014, le Secrétariat d'Etat a prononcé un refus d'autorisation d'entrée et d'approbation à l'octroi d'une autorisation de séjour en faveur de B.X._, C.X._ et D.X._. Il a considéré que le cercle familial des enfants se trouvait au Kosovo et qu'on ne pouvait attendre d'eux, compte tenu de leur âge, qu'ils vivent chez leur père, auprès duquel ils n'avaient pratiquement jamais vécu.
Le 8 septembre 2015, A.X._ et ses trois enfants ont informé le Tribunal administratif fédéral du décès de E.X._, survenu le 31 août 2015 à Petrovë.
Le 27 novembre 2015, le Secrétariat d'Etat a partiellement reconsidéré sa décision du 6 juin 2014 et a accepté d'autoriser l'entrée et le regroupement familial de D.X._. Il a en revanche maintenu sa décision s'agissant des deux enfants majeurs, considérant qu'ils devaient envisager leur vie d'adultes seuls au Kosovo avec l'aide de leur père depuis la Suisse et les membres de leur famille sur place.
Par arrêt du 1er novembre 2016, le Tribunal administratif fédéral a rayé la cause du rôle dans la mesure où elle portait sur le refus d'autorisation d'entrée et d'approbation à l'octroi d'une autorisation de séjour en faveur de D.X._ et a rejeté le recours pour le surplus. Il a retenu que les demandes de regroupement familial avaient été déposées hors délai et qu'il n'existait pas de raisons familiales majeures permettant le regroupement familial différé. L'autorité fédérale a souligné en particulier que les enfants disposaient d'attaches socio-culturelles importantes dans leur pays d'origine, qu'un déplacement de leur centre de vie en Suisse constituerait un déracinement susceptible d'entraîner de grandes difficultés d'intégration et que les enfants pourront toujours compter sur le soutien de leur père qui pourra continuer à pourvoir à leur entretien.
C.
Agissant par la voie du recours en matière de droit public, A.X._ et ses enfants D.X._, C.X._ et B.X._, demandent au Tribunal fédéral, sous suite de frais et dépens, de réformer l'arrêt du Tribunal administratif fédéral du 1er novembre 2016 en ce sens que C.X._ et B.X._ soient mis au bénéfice d'une autorisation de séjour au titre de regroupement familial. Subsidiairement, ils concluent à l'annulation de l'arrêt entrepris et au renvoi de la cause à l'autorité précédente pour nouvelle décision dans le sens des considérants.
Le Tribunal administratif fédéral renonce à prendre position sur le recours. Le Secrétariat d'Etat propose de le rejeter.

Considérant en droit :
1.
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Les recourants se prévalent des art. 43 al. 1 et 47 al. 4 LEtr. D'après l'art. 43 al. 1 LEtr, les enfants du titulaire d'une autorisation d'établissement ont droit à l'octroi d'une autorisation de séjour, à condition que ceux-ci soient âgés de moins de 18 ans (cf. <ref-ruling> consid. 3.2 p. 499). Pour statuer sur la recevabilité du recours contre une décision rendue en matière de regroupement familial, le Tribunal fédéral se fonde sur l'âge de l'enfant au moment du dépôt de la demande (cf. <ref-ruling> consid. 3.2 p. 500).
En l'espèce, le recourant 1 est titulaire d'une autorisation d'établissement depuis le 31 janvier 2012. Les recourants 2 et 3 étaient tous deux âgés de 16 ans lorsque les requêtes de regroupement familial les concernant ont été déposées. Il s'ensuit que l'art. 43 al. 1 LEtr est potentiellement de nature à leur conférer un droit à une autorisation de séjour. Quant au recourant 4, qui séjourne en Suisse au bénéfice d'une autorisation de séjour, il a un intérêt de fait à vivre en Suisse avec ses frère et soeur. Le recours échappe en conséquence au motif d'irrecevabilité de l'art. 83 let. c ch. 2 LTF. La voie du recours en matière de droit public est par conséquent ouverte sous cet angle, le point de savoir si les recourants peuvent obtenir un titre de séjour sur la base de cette disposition relevant du fond et non de la recevabilité.
1.2. Pour le surplus, le recours, dirigé contre une décision finale (<ref-law>) rendue par le Tribunal administratif fédéral (<ref-law>), a été déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>). Le recours en matière de droit public est par conséquent recevable.
2.
Les recourants se plaignent d'arbitraire dans l'établissement des faits et l'appréciation des preuves.
2.1. Le Tribunal fédéral fonde son raisonnement juridique sur les faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 7.1 p. 51) - ou en violation du droit (<ref-law>). Le recourant qui entend s'écarter des constatations de fait de l'autorité précédente (cf. <ref-law>) doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (<ref-law>).
2.2. Lorsque la partie recourante s'en prend à l'établissement des faits ou à l'appréciation des preuves, la décision n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a procédé à des déductions insoutenables (<ref-ruling> consid. 2.3 p. 266; <ref-ruling> consid. 4.1.2 p. 62).
2.3. Les recourants reprochent à l'instance précédente d'avoir retenu qu'il existait des possibilités de prise en charge sur place au Kosovo. D'après les intéressés, la constatation selon laquelle G.X._, le demi-frère des recourants 2 et 3, passait "ses week-ends dans la maison familiale", ce qui constituait "une attache familiale importante" (cf. arrêt attaqué, consid. 9.4 p. 18) serait en contradiction avec les pièces du dossier. En réalité, B.X._ et C.X._ n'auraient "plus que des contacts ponctuels avec leur frère aîné" (cf. mémoire de recours, p. 5). En l'occurrence, l'instance précédente s'est fondée sur une attestation de résidence du 29 janvier 2014, d'où il ressortait que E.X._ résidait dans la maison familiale avec son beau-fils G.X._ et ses enfants, B.X._, C.X._ et D.X._, ainsi que sur la demande de regroupement familial de C.X._, selon laquelle G.X._ ainsi qu'une tante pouvaient s'occuper de E.X._ en cas d'octroi d'un titre de séjour en Suisse. Sur la base de ces éléments, il n'est pas arbitraire de retenir, comme l'a fait l'autorité précédente, que G.X._ rendait des visites le week-end à ses frères et soeurs et qu'il constituait une attache familiale au Kosovo. Par ailleurs, contrairement à ce que prétendent les recourants, les juges précédents ont constaté que les enfants ne vivaient plus chez leur oncle paternel, F.X._, mais dans "une maison indépendante, neuve et bien meublée" (cf. arrêt attaqué consid. 9.5 p.19). Quant à savoir si ces relations familiales suffisent pour constituer une solution alternative au sens de l'art. 47 LEtr, il s'agit d'une question de droit qui sera examinée ci-après (cf. infra consid. 3.4). Dans la suite du raisonnement, le Tribunal fédéral se fondera donc exclusivement sur les faits établis par l'autorité précédente.
3.
3.1. Les recourants se plaignent de la violation de l'art. 47 LEtr. Selon cette disposition, le regroupement familial doit être demandé dans les cinq ans. Pour les enfants de plus de douze ans, le regroupement familial doit intervenir dans un délai de douze mois. Ces délais commencent à courir, pour les membres de la famille d'étrangers, lors de l'octroi de l'autorisation de séjour ou d'établissement ou lors de l'établissement du lien familial (art. 47 al. 3 let. b LEtr). Au titre des dispositions transitoires, l'art. 126 al. 3 LEtr prévoit que les délais fixés à l'art. 47 al. 1 LEtr commencent à courir à l'entrée en vigueur de la loi, soit le 1er janvier 2008, dans la mesure où l'entrée en Suisse ou l'établissement du lien familial sont antérieurs à cette date. Passé ce délai, le regroupement familial différé n'est autorisé que pour des raisons familiales majeures (art. 47 al. 4 LEtr). En outre, les droits au regroupement familial prévus à l'art. 43 LEtr s'éteignent lorsqu'ils sont invoqués abusivement, notamment pour éluder les dispositions de la loi sur les étrangers ou ses dispositions d'exécution (art. 51 al. 2 LEtr) ou s'il existe des motifs de révocation au sens de l'art. 62 LEtr.
En l'espèce, il n'est pas contesté que les demandes de regroupement familial ont été déposées tardivement. Dans les deux cas, le délai d'une année de l'art. 47 al. 1 LEtr n'a pas été respecté. Seule demeure donc ouverte la possibilité offerte par l'art. 47 al. 4 LEtr de bénéficier d'un regroupement familial différé pour des raisons familiales majeures.
3.2. Les raisons familiales majeures au sens de l'art. 47 al. 4 LEtr peuvent être invoquées, selon l'art. 75 de l'ordonnance fédérale du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), lorsque le bien de l'enfant ne peut être garanti que par un regroupement familial en Suisse. C'est notamment le cas lorsque des enfants se trouveraient livrés à eux-mêmes dans leur pays d'origine (par ex. décès ou maladie de la personne qui en a la charge; arrêts 2C_147/2015 du 22 mars 2015 consid. 2.4.3; 2C_303/2014 du 20 février 2015 consid. 6.1). C'est l'intérêt de l'enfant, non les intérêts économiques (prise d'une activité lucrative en Suisse), qui prime (Message du 8 mars 2002 concernant la loi sur les étrangers, FF 2002 3551). D'une façon générale, il ne doit être fait usage de l'art. 47 al. 4 LEtr qu'avec retenue (cf. arrêts 2C_905/2015 du 22 décembre 2015 consid. 4.2; 2C_438/2015 du 29 octobre 2015 consid. 5.1; 2C_1198/2012 du 26 mars 2013 consid. 4.2).
Selon la jurisprudence, le parent qui sollicite une autorisation de séjour pour son enfant au titre du regroupement familial doit en principe bénéficier de l'autorité parentale (<ref-ruling> consid. 2.3.1 p. 291; arrêts 2C_787/2016 du 18 janvier 2017 consid. 6.2; 2C_147/2015 du 22 mars 2016 consid. 2.4.3). Lorsque le regroupement familial est demandé en raison de changements importants des circonstances à l'étranger, notamment dans les rapports de l'enfant avec le parent qui en avait la charge, il convient d'examiner s'il existe des solutions alternatives permettant à l'enfant de rester où il vit; cette exigence est d'autant plus importante pour les adolescents (<ref-ruling> consid. 3.1.2 p. 11; arrêts 2C_438/2015 du 29 octobre 2015 consid. 5.1; 2C_1129/2014 du 1er avril 2015 consid. 3.2; 2C_887/2014 du 11 mars 2015 consid. 3.1). Le regroupement familial partiel suppose également de tenir compte de l'intérêt supérieur de l'enfant, comme l'exige l'art. 3 par. 1 de la convention du 20 novembre 1989 relative aux droits de l'enfant (CDE; RS 0.107). Enfin, les raisons familiales majeures pour le regroupement familial ultérieur doivent être interprétées d'une manière conforme au droit fondamental au respect de la vie familiale (art. 13 Cst. et 8 CEDH; cf. arrêts 2C_905/2015 du 22 décembre 2015 consid. 4.2; 2C_438/2015 du 29 octobre 2015 consid. 5.1; 2C_473/2014 du 2 décembre 2014 consid. 4.3; 2C_276/2011 du 10 octobre 2011 consid. 4.1, non publié in <ref-ruling>).
3.3. Dans le cas particulier, le Tribunal administratif fédéral a retenu que le père disposait seul de l'autorité parentale et de la garde sur les deux enfants, que les relations unissant ces enfants à leur père étaient effectives malgré l'éloignement et entretenues par le biais de visites régulières au Kosovo (environ quatre fois par année) et d'appels téléphoniques. Il a également relevé que le père a toujours soutenu ses enfants financièrement. Par ailleurs, les faits constatés ne permettaient pas de retenir que la demande de regroupement familial ait été formée abusivement et il n'existait aucun élément constitutif d'un cas de révocation au sens de l'art. 63 LEtr (cf. arrêt attaqué, consid. 6.3.1). L'autorité précédente a cependant confirmé le rejet des demandes de regroupement familial aux motifs qu'il n'était pas dans l'intérêt des enfants de quitter le pays où ils avaient toujours vécu, qu'ils rencontreraient des difficultés d'adaptation en Suisse, compte tenu notamment de leur âge, et que le soutien familial dont bénéficiaient les enfants au Kosovo constituait une solution alternative existant sur place.
Les recourants font principalement valoir la dégradation de l'état de santé de leur mère et l'absence de prise en charge de la famille au Kosovo depuis qu'ils ne vivent plus dans la maison de leur oncle paternel. En l'occurrence, il ressort des faits constatés par l'instance précédente, qui lient le Tribunal de céans (<ref-law>), que B.X._ et C.X._ ont été élevés par leur mère. Atteinte d'une tumeur au cerveau, celle-ci a subi une opération en janvier 2005. Depuis lors, elle a présenté des troubles du langage ainsi que des difficultés à se déplacer. Selon un rapport médical datant du mois d'octobre 2012, E.X._ était frappée d'une paralysie des extrémités droites, de sorte qu'elle nécessitait l'aide d'un tiers pour assumer ses besoins. A ce moment-là au plus tard, il est évident qu'un changement important de circonstances est intervenu dans la prise en charge des recourants au Kosovo. Il reste à établir s'il existait des solutions alternatives permettant aux recourants de demeurer dans leur pays d'origine. Cette question revêt une importance particulière dans les situations où, comme en l'espèce, le regroupement familial est sollicité alors que les recourants ont passé toute leur enfance et adolescence dans leur pays d'origine (cf. arrêt 2C_555/2012 du 19 novembre 2012 consid. 3.3). Un soudain déplacement du cadre de vie peut en effet constituer un véritable déracinement et s'accompagner de grandes difficultés d'intégration dans un nouveau pays d'accueil (<ref-ruling> consid. 3.1.1 p. 11; arrêt 2C_303/2014 du 20 février 2015 consid. 6.1).
3.4. En l'occurrence, le Tribunal administratif fédéral a constaté que B.X._ et C.X._ pouvaient compter sur plusieurs membres de leur famille au Kosovo, notamment leur demi-frère ainsi que trois oncles et leur famille vivant tous dans des maisons à proximité de celle des intéressés. Les recourants contestent que la présence, à Petrovë, de plusieurs membres de leur famille constitue une prise en charge acceptable au sens de la jurisprudence précitée. II ne ressort certes pas de l'arrêt attaqué que la diminution de la prise en charge des enfants par leur mère ait été palliée par une garde effective et permanente par un membre déterminé de la famille résidant au Kosovo. D'après la décision entreprise, F.X._, l'oncle paternel, a hébergé la famille et pris soin des enfants lorsque leur mère est tombée gravement malade. A une date indéterminée, les enfants et leur mère ont déménagé dans une maison à proximité de celle de F.X._ et de sa famille. A partir de ce moment-là, aucune prise en charge quotidienne par un membre de la famille des recourants n'a été établie par les autorités. Les juges précédents ont cependant constaté que le demi-frère de B.X._ et C.X._ passait des week-ends dans la maison familiale et que ces derniers pouvaient compter sur le soutien moral de plusieurs membres proches de leur famille habitant le même quartier, dont trois oncles et leur famille vivant dans des maisons voisines à celle des intéressés. D'après l'arrêt attaqué, la famille invitait B.X._ et C.X._ lors des jours de fête et les contactait aussi bien par téléphone que par des visites directes. Sur le plan de la garde des enfants, cette situation, dictée par les circonstances, ne correspond certes pas au choix initial des parents. Ce n'est qu'au vu de la dégradation de son état de santé que la mère a accepté le transfert de l'autorité parentale et la garde des enfants à leur père, admettant qu'il n'était plus dans leur intérêt de demeurer au Kosovo. Compte tenu de ces circonstances, la présente espèce constitue un cas limite. Le Tribunal fédéral a cependant précisé à plusieurs reprises que lorsque l'enfant est proche de sa majorité, les solutions de garde doivent être appréciées avec moins de rigueur que s'il s'agissait d'un jeune enfant (arrêt 2C_276/2011 du 10 octobre 2011 consid. 4.2 non publié in <ref-ruling>). La question de la garde ne joue ainsi plus de rôle spécifique s'agissant d'enfants devenus majeurs (cf. arrêts 2C_897/2013 du 16 avril 2014 consid. 2.2; 2C_1198/2012 du 26 mars 2013 consid. 4.3). Ainsi, même s'il convient de prendre en compte l'âge de l'enfant au jour du dépôt de la demande de regroupement familial, force est tout de même de reconnaître qu'à ce jour, B.X._ et C.X._ sont âgés respectivement de vingt et dix-neuf ans, et qu'ils n'ont par conséquent plus réellement besoin d'être pris en charge, à tout le moins sur le plan éducatif (cf. arrêt 2C_438/2015 du 29 octobre 2015 consid. 5.3). Dans ces conditions, il y a lieu de considérer que la présence dans le quartier de membres proches de leur famille, ainsi que leurs visites et prises de contact régulières suffisent à titre de solution alternative. Le père des recourants peut du reste continuer à les aider financièrement depuis la Suisse.
3.5. Cette solution correspond au demeurant à l'intérêt supérieur des enfants au sens de la CDE, dans la mesure où ils ont passé toute leur vie au Kosovo et que, depuis la séparation de leurs parents, ils n'ont jamais vécu auprès de leur père. Une coupure des liens familiaux, sociaux et culturels pour séjourner dans un lieu dont ils ne parlent pas la langue et dans lequel ils n'ont jamais vécu n'apparaît pas dans leur intérêt. Le fait que les recourants souffrent tout deux d'épisodes de dépression n'y change rien. Ils continueront, comme par le passé, à suivre des traitements adéquats au Kosovo, avec le soutien des membres de leur famille résidant sur place et celui, à distance, de leur père.
3.6. Compte tenu de ce qui précède, c'est sans violer le droit fédéral que le Tribunal administratif fédéral a exclu un cas de raisons familiales majeures au sens de l'art. 47 al. 4 LEtr.
4.
Les recourants se prévalent également des art. 8 CEDH et 13 Cst., dont la portée est identique (cf. <ref-ruling> consid. 8.3.2 p. 350). Ils ne peuvent toutefois rien déduire de ces dispositions, dès lors que les recourants 2 et 3 sont à ce jour majeurs et qu'ils ne se trouvent pas dans un lien de dépendance particulier avec leur père (<ref-ruling> consid. 3.2 p. 500; arrêt 2C_131/2016 du 10 novembre 2016 consid. 5).
5.
Le recours doit par conséquent être rejeté. Succombant, les recourants supporteront les frais judiciaires, solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge des recourants, solidairement entre eux.
3.
Le présent arrêt est communiqué à la mandataire des recourants, au Secrétariat d'Etat aux migrations et au Tribunal administratif fédéral, Cour III ainsi que, pour information, au Service de la population du canton de Vaud.
Lausanne, le 25 avril 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : McGregor