Faits :
A.
A.X._ est d'origine kosovare. Il était titulaire d'une autorisation d'établissement avant d'être naturalisé suisse. Il est père d'un enfant, B.X._, ressortissant bosniaque né le 28 juillet 1995.
Le 22 octobre 2009, l'intéressé a déposé une demande de regroupement familial pour son fils vivant avec sa mère en Bosnie. L'Office des migrations du canton de Zurich a rejeté cette demande par décision du 16 juillet 2010. L'intéressé n'a pas contesté ce prononcé. Le 2 décembre 2010, il en a demandé le réexamen. Par décision du 6 décembre 2010, l'Office précité n'est pas entré en matière sur cette demande. Suite à sa naturalisation, A.X._ a déposé une nouvelle demande de regroupement familial le 23 décembre 2010. Celle-ci a été rejetée par l'Office des migrations du canton de Zurich le 4 mars 2011. Le recours contre le prononcé de cet office a été rejeté le 5 janvier 2012 par la Direction de sécurité du canton de Zurich.
B.
Dans un courrier daté du 21 juin 2012, A.X._ a déposé, dans le canton de Vaud, une troisième demande de regroupement familial en faveur de son fils, entré en Suisse le 8 juin 2012 au bénéfice d'un visa. Par décision du 12 février 2013, le Service de la population du canton de Vaud a admis la demande et transmis le dossier à l'Office fédéral des migrations (actuellement le Secrétariat d'Etat aux migrations; ci-après: le Secrétariat d'Etat) pour approbation.
Par décision du 15 juillet 2013, le Secrétariat d'Etat a refusé d'approuver l'octroi d'une autorisation de séjour en faveur de B.X._ et lui a fixé un délai de départ. A.X._ a contesté cette décision auprès du Tribunal administratif fédéral le 23 juillet 2013.
Le 13 avril 2015, le Tribunal administratif fédéral a rejeté le recours de A.X._. Il a jugé en substance que la demande de regroupement familial avait été faite hors délais et qu'il n'existait pas de raisons familiales majeures donnant droit à une autorisation de séjour.
C.
Agissant par la voie du recours en matière de droit public, A.X._ demande au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif, d'approuver l'octroi de l'autorisation de séjour proposée par le canton de Vaud. Il se plaint de discrimination à rebours ainsi que de violation du droit fédéral et international.
Par ordonnance du 28 mai 2015, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la requête d'effet suspensif.
Le Tribunal administratif fédéral renonce à se déterminer. Le Secrétariat d'Etat conclut au rejet du recours.

Considérant en droit :
1.
1.1. Le recourant, de nationalité suisse, se prévaut en particulier des art. 42 al. 2 et 47 al. 4 LEtr (RS 142.20). Il invoque de manière soutenable son droit à entretenir une relation avec son fils de nationalité bosniaque. Son recours échappe par conséquent au motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF (<ref-ruling> consid. 3.3 p. 500 ss). Au surplus, déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le présent recours, dirigé contre un arrêt final (<ref-law>) du Tribunal administratif fédéral (<ref-law>) rendu dans une cause de droit public (<ref-law>), est recevable, sous réserve de ce qui suit.
1.2. En ce que le recourant invoque une violation de l'art. 8 CEDH pour fonder le regroupement familial, son recours doit être déclaré irrecevable, son fils étant entretemps devenu majeur (<ref-ruling> consid. 3.2 p. 499 s.). Le grief de violation de l'art. 14 CEDH s'y rapportant, dont les garanties n'ont pas de portée indépendante (<ref-ruling> consid. 3 p. 260; <ref-ruling> consid. 4.2 p. 146), est irrecevable puisque le recourant n'invoque la violation d'aucune autre garantie conventionnelle qui serait recevable. En outre, le grief ne respecte pas l'obligation de motivation accrue en la matière (cf. <ref-law>).
2.
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (cf. <ref-law>). Le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>), ce que la partie recourante doit démontrer d'une manière circonstanciée, conformément aux exigences de motivation de l'<ref-law> (cf. <ref-ruling> consid. 1.4.3 p. 254 s.). La notion de "manifestement inexacte" correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.1 p. 450).
Par conséquent, en tant que le recourant avance des éléments de fait ne ressortant pas de l'arrêt attaqué, par exemple en relation avec le fait que son fils soit né hors mariage ou avec les montants d'argent qu'il lui faisait parvenir, sans exposer en quoi les conditions qui viennent d'être rappelées seraient réunies, il n'en sera pas tenu compte.
3.
Le recourant invoque une violation de l'art. 42 al. 2 LEtr et se plaint d'une discrimination à rebours par rapport à des ressortissants de l'Union européenne.
3.1. L'art. 42 al. 2 LEtr dispose que les membres de la famille d'un ressortissant suisse titulaires d'une autorisation de séjour durable délivrée par un Etat avec lequel la Suisse a conclu un accord sur la libre circulation des personnes ont droit à l'octroi d'une autorisation de séjour et à la prolongation de sa validité. Ni le Kosovo, ni la Bosnie n'ont conclu de tel accord avec la Suisse, au sens de l'art. 2 al. 1 LEtr. Le recourant fait implicitement valoir que l'art. 42 al. 2 LEtr est inconstitutionnel en ce qu'il crée une discrimination des ressortissants suisses par rapport aux ressortissants de l'Union européenne. Dans ce contexte, il invoque également l'art. 14 CEDH.
3.2. Le Tribunal fédéral a déjà eu à maintes reprises l'occasion de se prononcer sur cette problématique. Dans un arrêt récent (arrêt 2C_1071/2014 du 28 mai 2015 consid. 2.1), il a notamment expliqué qu'initialement, avec l'art. 42 al. 2 LEtr, le législateur désirait régler le regroupement familial pour les ressortissants suisses de la même manière que pour les ressortissants de l'Union européenne, conformément à la conception originaire de l'ALCP (RS 0.142.112.681; cf. <ref-ruling> consid. 3.3.1 p. 126 s.). Le Tribunal fédéral ayant entretemps repris la jurisprudence Metock de la Cour de justice de l'Union européenne rendue en 2008, relative à l'application de l'ALCP (cf. <ref-ruling>), le regroupement familial pour les ressortissants de l'Union européenne est devenu plus généreux que pour les ressortissants suisses. Il appartenait donc au législateur de réexaminer dans quelle mesure l'art. 42 al. 2 LEtr devait être modifié afin de prendre en compte la jurisprudence précitée (cf. <ref-ruling> consid. 3.3 p. 126 ss). En ne donnant pas suite à une initiative parlementaire allant dans le sens d'une modification de cette disposition (BO 2011 CN 1765 ss), le législateur a clairement exprimé son refus (cf. initiative parlementaire Tschümperlin : Supprimer toute discrimination subie en raison du droit interne, numéro d'objet 10.427; cf. également arrêt 2C_354/2011 du 13 juillet 2012 consid. 2.6). A ce propos, il a déjà été jugé que la mise en oeuvre d'une politique d'immigration restrictive constitue un intérêt public important et digne de protection (arrêt 2C_459/2011 du 26 avril 2012, consid. 3.2.2 destiné à la publication; <ref-ruling> consid. 4.1.2 p. 249 s.; cf. aussi <ref-ruling> consid. 5c/cc p. 438). Eu égard aux traités bilatéraux existants et à la jurisprudence y relative, la maîtrise du flux d'immigration peut être mise en oeuvre en prenant la nationalité pour critère de distinction. Il existe ainsi des motifs suffisants, non discriminatoires au regard de l'art. 14 CEDH, qui justifient de traiter les ressortissants suisses différemment des ressortissant de l'Union européenne en matière de regroupement familial. Si le législateur est d'avis qu'il faut mener une politique d'immigration restrictive et qu'il pose des limites à cet effet là où il dispose d'une marge de manoeuvre prévue par le droit conventionnel, comme c'est le cas en l'espèce (cf. arrêt 2C_354/2011 précité consid. 2.7.3), le Tribunal fédéral ne peut se substituer à lui.
3.3. Par conséquent, compte tenu de ce qui précède, il n'est pas possible d'affirmer, comme le fait le recourant, que l'art. 42 al. 2 LEtr constitue une discrimination des ressortissants suisses créée involontairement par le législateur. Pour autant que ce grief soit recevable (cf. consid. 1.2 ci-dessus), il ne saurait en outre être question d'une violation de l'art. 14 CEDH. Le recours, sur ce point, doit donc être rejeté.
4.
Le recourant fait ensuite implicitement valoir une violation de l'art. 47 LEtr.
4.1. La LEtr a introduit des délais pour requérir le regroupement familial. Selon l'art. 47 al. 1 LEtr, il doit être demandé dans les cinq ans. Pour les enfants de plus de douze ans, le regroupement familial doit intervenir dans un délai de douze mois. Ces délais commencent à courir, pour les membres de la famille des ressortissants suisses, au moment de leur entrée en Suisse ou de l'établissement du lien familial (art. 47 al. 3 let. a LEtr). Au titre des dispositions transitoires, l'art. 126 al. 3 LEtr prévoit que les délais fixés à l'art. 47 al. 1 LEtr commencent à courir à l'entrée en vigueur de la loi, soit le 1 er janvier 2008, dans la mesure où l'entrée en Suisse ou l'établissement du lien familial sont antérieurs à cette date. Passé ce délai, le regroupement familial différé n'est autorisé que pour des raisons familiales majeures (art. 47 al. 4 LEtr). En outre, les droits au regroupement familial prévus à l'art. 42 LEtr s'éteignent lorsqu'ils sont invoqués abusivement, notamment pour éluder les dispositions de la loi sur les étrangers ou ses dispositions d'exécution (art. 51 al. 1 let. a LEtr) ou s'il existe des motifs de révocation au sens de l'art. 63 LEtr.
En l'espèce, il n'est pas contesté que le délai de douze mois prévu par l'art. 47 al. 1 LEtr qui, en vertu de la disposition transitoire de l'art. 126 al. 3 LEtr, a commencé à courir le 1 er janvier 2008, était échu lors de la demande de regroupement familial du 21 juin 2012. Le regroupement sollicité ne peut donc être autorisé que pour des raisons familiales majeures au sens de l'art. 47 al. 4 LEtr. On ajoutera qu'il n'est pas non plus contesté, et qu'il n'y a pas lieu de douter, que le regroupement n'a pas été demandé abusivement et qu'il n'existe pas de motifs de révocation.
5.
S'agissant des raisons familiales majeures, le recourant invoque le fait que son fils a vécu chez sa mère malade, aussi longtemps que possible. Quand la maladie a rendu la prise en charge impossible, B.X._ a été confié aux parents du recourant, au Kosovo. Le père de ce dernier est resté hémiplégique des suites d'un accident vasculo-cérébral, raison pour laquelle il n'existe plus aucune possibilité de prise en charge, ni en Bosnie, ni au Kosovo. En outre, le recourant a encore expliqué que la prise en charge de son fils au Kosovo avait été un échec en raison de l'environnement linguistique et culturel différent de celui dans lequel son fils avait grandi, c'est-à-dire en Bosnie. Il a ajouté que la mère de B.X._ était entretemps décédée. Le recourant invoque finalement l'arrêt 2C_1013/2013 du 17 avril 2014 dans lequel, selon lui, " un état de fait et une situation assez similaires " ont conduit le Tribunal fédéral a admettre le regroupement familial.
5.1. En cas de regroupement familial différé partiel, les raisons familiales majeures au sens de l'art. 47 al. 4 LEtr peuvent être invoquées, selon l'art. 75 de l'ordonnance fédérale du 24 octobre 2007 relative à l'admission, au séjour et à l'exercice d'une activité lucrative (OASA; RS 142.201), lorsque le bien de l'enfant ne peut être garanti que par un regroupement familial en Suisse. C'est notamment le cas lorsque des enfants se trouveraient livrés à eux-mêmes dans leur pays d'origine (par exemple en raison du décès ou d'une maladie de la personne qui en a la charge, <ref-ruling>). C'est l'intérêt de l'enfant et non les intérêts économiques (prise d'une activité lucrative en Suisse) qui prime (Message concernant la loi sur les étrangers, FF 2002 3549). Il n'est fait usage de l'art. 47 al. 4 LEtr qu'avec retenue (cf. arrêt 2C_1198/2012 du 26 mars 2013 consid. 4.2). Lorsque le regroupement familial est demandé en raison de changements importants des circonstances à l'étranger, notamment dans les rapports de l'enfant avec le parent qui en avait la charge, il convient d'examiner s'il existe des solutions alternatives permettant à l'enfant de rester où il vit; cette exigence est d'autant plus importante pour les adolescents (<ref-ruling> consid. 3.1.2 p. 11; cf. aussi arrêts 2A.737/2005 du 19 janvier 2007 et 2A.405/2006 du 18 décembre 2006). Les raisons familiales majeures pour le regroupement familial ultérieur doivent être interprétées d'une manière conforme au droit fondamental au respect de la vie familiale (art. 13 Cst. et 8 CEDH).
5.2. En ce que le recourant invoque le décès de la mère de son fils, cet événement ne saurait consister en une raison familiale majeure, dès lors que B.X._, à la date dudit décès en juin 2013, n'habitait déjà plus chez sa mère, mais était pris en charge par ses grands-parents. Il en va de même des arguments relatifs à la détérioration de l'état de santé de cette dernière. En effet, puisque une prise en charge durable par les grands-parents est intervenue entretemps, c'est uniquement à la lumière de cette situation qu'il convient d'examiner la présente cause. La relation existant entre le fils du recourant et sa mère a, à ce jour, perdu de son actualité.
5.3. Lors de la demande de regroupement familiale déposée auprès du Service de la population en juin 2012, le fils du recourant était âgé de 16 ans et 10 mois et était jusque-là scolarisé au Kosovo, avant d'arriver en Suisse le 8 juin 2012. Le recourant a principalement fait valoir la dégradation de l'état de santé du grand-père, et en particulier la grave atteinte neurologique ayant conduit à une hémiparésie de ce dernier, pour fonder sa demande de regroupement familiale. Tout d'abord, force est de constater que le Tribunal administratif fédéral a retenu, de manière à lier le Tribunal fédéral (<ref-law>), qu'il n'était nullement établi que la capacité éducative du grand-père ait été réduite en raison de son hémiparésie. De plus et surtout, la mère du recourant, âgée de 72 ans, est toujours disponible pour l'éducation de son petit-fils. Les affirmations du recourant quant à une prétendue capacité éducative réduite de cette dernière n'ont été étayées par aucun moyen de preuve, alors que l'autorité précédente avait expressément invité le recourant à en déposer. On ne saurait donc parler de changement important des circonstances à l'étranger, comme tente de le faire valoir le recourant. De plus, accompagné d'au moins un de ses grands-parents, B.X._ ne se trouve pas livré à lui-même au Kosovo. Au demeurant, même s'il fallait admettre que la mère du recourant (et/ou son mari) ne devait plus être capable de prendre en charge son petit-fils, le recourant a encore trois soeurs et un frère au Kosovo. Ceux-ci pourraient également s'occuper de l'enfant à titre de prise en charge alternative. Cette solution serait de toute façon à préconiser pour un adolescent qui n'a jamais vécu en Suisse et qui suit sa scolarité au Kosovo (cf. <ref-ruling> consid. 3.1.2 p. 11 s.). Le recourant n'a pas non plus fait valoir de manière suffisante que les capacités éducatives nécessaires seraient absentes chez chacune de ces quatre personnes. Malgré le fait qu'il y ait été invité par le Tribunal administratif fédéral, le recourant n'a pas plus expliqué en quoi les six autres membres de la famille de son fils (du côté maternel), vivant en Bosnie, n'auraient pas été capables de prendre ce dernier en charge. En tout état de cause, même s'il convient de prendre en compte l'âge de l'enfant au jour du dépôt de la demande de regroupement familial (cf. <ref-ruling> consid. 3.4 p. 502 s.), force est tout de même de reconnaître qu'à ce jour B.X._ est âgé de 20 ans et qu'il n'a par conséquent plus réellement besoin d'être pris en charge, à tout le moins sur le plan éducatif.
Même s'il ne l'invoque pas, le recourant ne peut déduire aucun droit de ce que son fils se trouve déjà en Suisse. Tenir compte de ce fait dans la présente cause reviendrait à encourager la politique du fait accompli et, par conséquent, à porter atteinte au principe de l'égalité par rapport aux nombreux étrangers qui respectent les procédures établies pour obtenir un titre de séjour en Suisse (arrêt 2C_161/2012 du 1 er avril 2013 consid. 1.4.2).
Le recourant relève encore la similitude des faits de sa cause avec ceux ressortant de l'arrêt 2C_1013/2013 précité. Cet argument ne saurait lui être d'un quelconque secours. Au contraire de la situation prévalant dans cet arrêt, le fils du recourant n'a pas fait l'objet d'attouchement de la part de la personne ayant sa charge et il est en outre plus âgé que l'un des enfants alors concerné. Contrairement à ce que le recourant tente de faire valoir et à ce qu'avait retenu le Tribunal fédéral dans la cause précitée, le placement de son fils auprès de ses parents ne constitue pas une solution alternative, en l'occurrence imposée par la détérioration de l'état de santé de la mère de B.X._ (cf. consid. 5.2 ci-dessus). Il faut rappeler que le départ du Kosovo du fils du recourant, alors qu'il y était scolarisé et y vivait auprès de ses grands-parents, ne saurait être considéré comme étant favorable, une prise en charge alternative étant au surplus envisageable (cf. consid. 5.3 ci-dessus).
5.4. Compte tenu de ce qui précède, c'est sans violer le droit fédéral que le Tribunal administratif fédéral a exclu un cas de raisons familiales majeures au sens de l'art. 47 al. 4 LEtr. Le recours doit par conséquent être rejeté.
6.
Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué à la représentante du recourant, au Secrétariat d'Etat aux migrations SEM, au Tribunal administratif fédéral, Cour III, ainsi qu'au Service de la population du canton de Vaud.
Lausanne, le 29 octobre 2015
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Zünd
Le Greffier : Tissot-Daguette