Faits :
A.
A.X._, ressortissant camerounais né en 1986, est arrivé en Suisse le 13 novembre 2005. Le 14 décembre 2005, le Service de la population du canton de Vaud (ci-après: le Service cantonal) lui a délivré une autorisation de séjour temporaire pour études. En 2007, l'intéressé a eu un enfant, B._, avec une ressortissante suisse. Par décision du 4 octobre 2007, l'Office fédéral des migrations (devenu entretemps le Secrétariat d'Etat aux migrations; ci-après: le SEM), a refusé le renouvellement de son autorisation de séjour et prononcé son renvoi de Suisse. A.X._ n'a toutefois pas quitté le territoire helvétique. En 2009, il a eu un deuxième enfant, C.X._, avec une autre ressortissante suisse, qu'il a épousée le 4 juin 2010. Le Service cantonal l'a alors mis au bénéfice d'une autorisation de séjour au titre de regroupement familial. Les époux se sont séparés le 15 juillet 2010. Un projet de convention sur les effets accessoires du divorce a été établi le 8 janvier 2016.
B.
Par décision du 3 juillet 2014, le Service cantonal s'est déclaré favorable à la prolongation de l'autorisation de séjour de l'intéressé, sous réserve de l'approbation du SEM. Le 17 septembre 2015, celui-ci a refusé d'approuver la prolongation de l'autorisation de séjour en faveur de A.X._et a prononcé son renvoi de Suisse. Ce dernier a contesté ce prononcé auprès du Tribunal administratif fédéral par acte du 25 septembre 2015.
Par arrêt du 29 avril 2016, le Tribunal administratif fédéral a rejeté le recours. Il a jugé en bref que A.X._ ne pouvait pas se prévaloir d'une durée suffisante de son union conjugale ou de raisons personnelles majeures pour prétendre à demeurer en Suisse.
C.
Agissant par la voie du recours en matière de droit public, A.X._ a demandé au Tribunal fédéral, sous suite de frais et dépens, outre l'effet suspensif, de prolonger son autorisation de séjour.
Par ordonnance du 8 juin 2016, le Président de la IIe Cour de droit public du Tribunal fédéral a accordé l'effet suspensif au recours.
Le Tribunal administratif fédéral a renoncé à se déterminer. Le SEM a conclu au rejet du recours.
Le 21 octobre 2016, le recourant a produit une nouvelle pièce.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 133).
1.1. Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de droit des étrangers à laquelle ni le droit fédéral, ni le droit international ne donnent droit. Selon la jurisprudence, il suffit, sous l'angle de la recevabilité, qu'il existe un droit potentiel à l'autorisation, étayé par une motivation soutenable, pour que cette clause d'exclusion ne s'applique pas et que, partant, la voie du recours en matière de droit public soit ouverte (cf. <ref-ruling> consid. 2.5 p. 315; arrêts 2C_165/2016 du 8 septembre 2016 consid. 1.1 et 2C_1061/2013 du 14 juillet 2015 consid. 1.1).
Le recourant se prévaut de ses liens étroits avec ses deux fils mineurs, de nationalité suisse. Ces relations sont potentiellement de nature à lui conférer un droit à l'obtention d'une autorisation de séjour sous l'angle de son droit au respect de sa vie privée et familiale. Son recours échappe ainsi au motif d'irrecevabilité prévu à l'art. 83 let. c ch. 2 LTF, étant précisé que le point de savoir si l'intéressé remplit les conditions pour obtenir l'autorisation requise relève du fond et non de la recevabilité (cf. <ref-ruling>consid. 1.1 p. 179; arrêt 2C_165/2016 du 8 septembre 2016 consid. 1.1).
1.2. Pour le surplus, l'arrêt attaqué est une décision finale (<ref-law>), rendue par le Tribunal administratif fédéral (<ref-law>) dans une cause de droit public (<ref-law>). Le recours ayant de surcroît été déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>), par le recourant qui est atteint par la décision entreprise et a un intérêt digne de protection à son annulation ou à sa modification, de sorte qu'il faut lui reconnaître la qualité pour recourir (<ref-law>), il est partant recevable.
1.3. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). L'exclusion des faits et moyens de preuve nouveaux est la règle. Celle-ci connaît une exception lorsque c'est la décision de l'autorité précédente qui, pour la première fois, a rendu pertinents ces faits ou moyens de preuve (<ref-ruling> consid. 3.1.2 p. 123; arrêt 5A_904/2015 du 29 septembre 2016 consid. 2.3).
L'arrêt entrepris du 29 avril 2016, même s'il mentionne le projet de convention de divorce du 8 janvier 2016, ne justifie pas de présenter, pour la première fois, le jugement de divorce du 18 octobre 2016. Attendu qu'il s'agit là d'un véritable novum, abstraction sera faite, ci-après, de ce moyen de preuve. En conséquence, le Tribunal fédéral tiendra compte du droit de visite sur C.X._ tel qu'il était pratiqué lorsque le Tribunal administratif fédéral a rendu l'arrêt entrepris - soit le samedi, de 10 heures à 17 heures - et non pas tel qu'il ressort du jugement de divorce produit le 21 octobre 2016 par le recourant.
2.
2.1. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (<ref-ruling> consid. 2.4 p. 313 s.) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées. A défaut d'une telle motivation, il n'est pas possible de prendre en considération un état de fait qui diverge de celui contenu dans la décision attaquée, ni des faits qui n'y sont pas constatés (<ref-ruling> consid. 6.2 p. 288).
2.2. Dans la mesure où le recourant présente une argumentation partiellement appellatoire, en opposant sa propre version des faits à celle du Tribunal administratif fédéral, sans cependant invoquer ni l'arbitraire, ni une constatation manifestement inexacte des faits, le Tribunal fédéral ne peut pas en tenir compte. Il statuera donc sur la base des faits tels qu'ils ressortent de l'arrêt attaqué.
3.
3.1. D'après l'art. 42 al. 1 LEtr, le conjoint d'un ressortissant suisse a droit à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité à condition de vivre en ménage commun avec lui. En l'espèce, il n'est pas contesté que le recourant et son épouse, ressortissante suisse, ont pris un domicile séparé à partir du 15 juillet 2010, la vie commune n'ayant pas repris depuis lors. Le recourant ne peut donc pas se prévaloir de l'art. 42 al. 1 LEtr.
3.2. Selon l'art. 50 al. 1 let. a LEtr, après dissolution de la famille, le droit du conjoint et des enfants à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste si l'union conjugale a duré au moins trois ans et l'intégration est réussie. La période minimale de trois ans de l'union conjugale commence à courir dès le début de la cohabitation effective des époux en Suisse et s'achève au moment où ceux-ci cessent de faire ménage commun (<ref-ruling> consid. 4.1 p. 348; arrêt 2C_165/2016 du 8 septembre 2016 consid. 4.2). En l'occurrence, le recourant s'est marié le 4 juin 2010 avec une ressortissante suisse. Les époux ont pris un domicile séparé à partir du 15 juillet 2010, si bien que l'union conjugale a duré moins de trois ans. Partant, l'intéressé ne peut, ce qu'il ne fait d'ailleurs pas, se prévaloir de l'art. 50 al. 1 let. a LEtr. Seul l'art. 50 al. 1 let. b LEtr, qui suppose l'existence de raisons personnelles majeures, peut donc entrer en ligne de compte en l'espèce.
4.
Le recourant invoque une violation des articles 8 CEDH, 50 LEtr et 4 (recte: 3) de la Convention du 20 novembre 1989 relative aux droits de l'enfant (CDE; RS 0.107).
4.1. Selon l'art. 50 al. 1 let. b LEtr, après dissolution de la famille, le droit du conjoint et des enfants à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité en vertu des art. 42 et 43 LEtr subsiste lorsque la poursuite du séjour du recourant en Suisse s'impose pour des raisons personnelles majeures. De telles raisons peuvent en particulier découler d'une relation digne de protection avec un enfant qui a le droit de séjourner en Suisse (cf. <ref-ruling> consid. 2.1 p. 318 s.). Dans ce cas, les conditions posées par l'art. 50 al. 1 let. b LEtr ne recoupent pas nécessairement celles de l'octroi d'un titre de séjour fondé sur l'art. 8 CEDH (arrêt 2C_411/2010 du 9 novembre 2010 consid. 5, non publié in <ref-ruling>; arrêts 2C_157/2016 du 13 octobre 2016 consid. 6.1 et 2C_165/2016 du 8 septembre 2016 consid. 5.1). Le droit au respect de la vie familiale garanti par les articles 8 CEDH et 13 Cst. doit néanmoins être pris en compte dans l'application de l'art. 50 al. 1 let. b LEtr dont l'application ne saurait être plus restrictive que celle des articles 8 CEDH et 13 Cst. (arrêts 2C_328/2016 du 14 novembre 2016 consid. 4.1; 2C_652/2013 du 17 décembre 2013 consid. 2.3 et les références citées, non publié in <ref-ruling> mais in RDAF 2015 I 401).
4.2. Le parent qui n'a pas l'autorité parentale ni la garde de l'enfant ne peut d'emblée entretenir une relation familiale avec celui-ci que de manière limitée, en exerçant le droit de visite dont il bénéficie. Or, il n'est en principe pas nécessaire que, dans l'optique de pouvoir exercer son droit de visite, le parent étranger soit habilité à résider durablement dans le même pays que son enfant. Sous l'angle du droit à une vie familiale (cf. art. 8 par. 1 CEDH et art. 13 al. 1 Cst.), il suffit en règle générale que le parent vivant à l'étranger exerce son droit de visite dans le cadre de séjours de courte durée, au besoin en aménageant ses modalités quant à la fréquence et à la durée (cf. <ref-ruling> consid. 2.2 p. 319; arrêt 2C_328/2016 du 14 novembre 2016 consid. 4.2). Le droit de visite d'un parent sur son enfant ne doit en effet pas nécessairement s'exercer à un rythme bimensuel et peut également être organisé de manière à être compatible avec des séjours dans des pays différents (cf. arrêts 2C_328/2016 du 14 novembre 2016 consid. 4.2 et 2C_1031/2011 du 22 mars 2012 consid. 4.2.3). Selon la jurisprudence constante du Tribunal fédéral, un droit plus étendu ne peut le cas échéant exister qu'en présence de liens familiaux particulièrement forts d'un point de vue affectif et économique, lorsque cette relation ne pourrait pratiquement pas être maintenue en raison de la distance qui sépare le pays de résidence de l'enfant du pays d'origine de son parent, et que l'étranger a fait preuve en Suisse d'un comportement irréprochable (<ref-ruling> consid. 3.2 p. 147; <ref-ruling> consid. 2.2 p. 319 et les arrêts cités; arrêt 2C_328/2016 du 14 novembre 2016 consid. 4.2). Ces exigences doivent être appréciées ensemble et faire l'objet d'une pesée des intérêts globale (cf. arrêts 2C_165/2016 du 8 septembre 2016 consid. 5.2; 2C_723/2014 du 6 août 2015 consid. 2.3; 2C_728/2014 du 3 juin 2015 consid. 4.1 et 4.4). Dans le cadre de l'examen de la proportionnalité de la mesure (cf. art. 8 par. 2 CEDH, art. 96 LEtr et art. 13 cum art. 36 Cst.), il faut aussi tenir compte de l'intérêt fondamental de l'enfant (art. 3 CDE) à pouvoir grandir en jouissant d'un contact étroit avec ses deux parents (arrêts 2C_860/2016 du 2 décembre 2016 consid. 3.3.2; 2C_27/2016 du 17 novembre 2016 consid. 5.5.1; 2C_157/2016 du 13 octobre 2016 consid. 6.2; 2C_165/2016 du 8 septembre 2016 consid. 5.2; 2C_1125/2014 du 9 septembre 2015 consid. 4.2 et les références citées; cf. aussi arrêt de la CourEDH El Ghatet c. Suisse du 8 novembre 2016 [requête no 56971/10], par. 27 s. et 46 s.).
4.3. L'exigence du lien affectif particulièrement fort doit être considérée comme remplie lorsque les contacts personnels sont effectivement exercés dans le cadre d'un droit de visite usuel selon les standards d'aujourd'hui (en Suisse romande, il s'agit d'un droit de visite d'un week-end toutes les deux semaines et durant la moitié des vacances; arrêts 2C_420/2015 du 1er octobre 2015 consid. 2.3 et 2C_794/2014 du 23 janvier 2015 consid. 3.2), lorsque l'étranger détient déjà un droit de séjour en Suisse, de façon à prendre en compte l'art. 9 par. 3 de la CDE, sans toutefois déduire de cette convention une prétention directe à l'octroi d'une autorisation (<ref-ruling> consid. 3.2 p. 148; <ref-ruling> consid. 2.4 s. p. 320 s.; arrêt 2C_165/2016 du 8 septembre 2016 consid. 5.3).
4.4. S'agissant de l'enfant C.X._, né en avril 2009, il ressort des constatations de faits de l'arrêt entrepris, que le recourant, qui s'est séparé de la mère de son fils un peu plus d'une année après sa naissance, n'en a jamais eu la garde. Il a bénéficié d'un droit de visite restreint, limité tout d'abord à des visites totalement ou partiellement médiatisées d'une à trois heures hebdomadaires, ce notamment en raison de son comportement (absences, retards, discrédit envers les éducateurs). Une mesure de curatelle d'assistance et de surveillance des relations personnelles a été instaurée en faveur de l'enfant le 18 juin 2015. Compte tenu de l'évolution positive de l'attitude du recourant, son droit de visite a été élargi, depuis l'automne 2015, pour s'exercer chaque samedi, de 10 heures à 17 heures. Ce droit de visite figure dans le projet de convention sur les effets accessoires du divorce du 8 janvier 2016. En outre, il ressort de l'arrêt attaqué que "l'attitude paternelle de l'intéressé n'a cessé de progresser au fil du temps" et que le droit de visite en question se déroule de manière régulière et sans encombre. Cela étant, contrairement à ce que soutient le recourant, un tel droit de visite ne réunit pas les conditions d'un droit de visite usuel dès lors que la prise en charge de l'enfant n'a pas lieu de manière ininterrompue durant plusieurs jours successifs - nuits comprises - et que le droit de visite est exercé sur la base de la mesure de curatelle susmentionnée. Dans ces conditions, l'autorité parentale conjointe ne suffit pas pour considérer le droit de visite du recourant comme usuel, étant rappelé que seul le caractère effectif des liens entre l'enfant et le parent est déterminant (<ref-ruling> consid. 3.1 p. 148; arrêts 2C_62/2016 du 26 mai 2016 consid. 5.4 et 2C_644/2012 du 17 août 2012 consid. 2.4). Il apparaît ainsi que le recourant ne peut se prévaloir d'une relation affective d'une intensité particulière avec son fils C.X._.
Dans de telles circonstances, la question de savoir si l'absence d'obligation judiciaire de verser une pension alimentaire permet, comme le prétend le recourant, de faire abstraction de la condition du lien économique particulièrement fort, peut souffrir de demeurer indécise, les conditions posées par la jurisprudence pour pouvoir invoquer l'art. 8 CEDH étant cumulatives (cf. arrêts 2C_209/2015 du 13 août 2015 consid. 3.3.2; 2C_728/2014 du 3 juin 2015 consid. 4.3.1; 2C_794/2014 du 23 janvier 2015 consid. 3.3; 2C_586/2013 du 3 décembre 2013 consid. 3.2.6; 2C_382/2012 du 7 décembre 2012 consid. 2.3).
Quant à l'enfant B._, le droit de visite médiatisé du recourant s'exerce, depuis 2014, un mercredi après-midi sur deux de 14 heures 30 à 18 heures, ce qui ne correspond pas à un droit de visite usuel. Le recourant ne le conteste pas. Il fait valoir que la mère de l'enfant aurait fait obstruction à tout contact entre lui et son fils avant 2014. Cet argument - au demeurant purement appellatoire - tombe à faux compte tenu de l'effectivité des relations entre parent et enfant requise pour justifier d'une relation particulièrement forte. Il est vrai que, sur le plan économique, le recourant s'acquitte régulièrement d'une contribution d'entretien mensuelle de 200 fr. en faveur de B._. Cependant, l'absence actuelle de relations personnelles particulièrement étroites au sens de la jurisprudence entre le père et le fils suffit à exclure l'application de l'art. 8 CEDH.
4.5. A cela s'ajoute que le recourant, qui a séjourné illégalement en Suisse durant près de trois ans, ne saurait se targuer d'un comportement irréprochable, même s'il se trouve, de par l'autorité parentale conjointe dont il dispose sur C.X._, dans une des situations pour lesquelles la jurisprudence en la matière a été assouplie (cf. <ref-ruling> consid. 4.1 p. 148 s.; arrêts 2C_723/2014 du 6 août 2015 consid. 2.3; 2C_165/2014 du 18 juillet 2014 consid. 4.3; 2C_606/2013 du 4 avril 2014 consid. 5.3).
4.6. Ces circonstances, prises dans leur ensemble, à savoir l'absence de relations personnelles particulièrement fortes entre le recourant et ses deux fils, ainsi que le comportement en Suisse de l'intéressé, font apparaître que les précédents juges n'ont pas violé les articles 50 al. 1 let. b LEtr et 8 CEDH en considérant qu'il n'y avait pas de raison personnelle majeure imposant la poursuite du séjour du recourant dans ce pays, étant précisé que les cas de jurisprudence auxquels celui-ci se réfère (arrêt de la CourEDH M.P.E.V. et autres c. Suisse du 8 juillet 2014 [requête no 3910/13]; arrêt de la CourEDH Ciliz c. Pays-Bas du 11 juillet 2000 [requête no 29192/95]; <ref-ruling>; <ref-ruling>; arrêts 2C_497/2014 du 26 octobre 2015; 2C_723/2014 du 6 août 2015; 2C_171/2009 du 3 août 2009) ne sont pas comparables à sa situation.
5.
5.1. En dernier lieu, hormis les liens du recourant avec ses fils, dont on a vu que, bien qu'il soit dans l'intérêt de ceux-ci de pouvoir grandir en jouissant d'un contact étroit avec les deux parents, ils ne justifient pas à eux seuls son séjour en Suisse, l'arrêt attaqué ne révèle aucun élément déterminant qui ferait apparaître le refus d'approuver la prolongation de l'autorisation de séjour de l'intéressé comme disproportionné (cf. art. 96 LEtr). Le grief du recourant, qui fait valoir de manière appellatoire que ses finances et celles des mères de ses enfants ne permettraient pas le maintien des droits de visite en cas de retour au Cameroun, peut sans autre être écarté, étant précisé que le Tribunal administratif fédéral a tenu compte de la possibilité pour le recourant de conserver des liens avec ses fils en dépit de l'éloignement (notamment par communication téléphonique et correspondance). L'autorité précédente a en outre pris en considération l'âge d'arrivée en Suisse du recourant (19 ans), la durée et la qualité de son séjour en ce pays, le fait que son intégration professionnelle et socioculturelle en Suisse n'est pas particulièrement marquée, son comportement, les conséquences pour lui et ses fils d'un refus de demeurer en Suisse, ainsi que ses possibilités de réinsertion au Cameroun, pays dans lequel résident sa mère et deux de ses frères. C'est partant à bon droit que le Tribunal administratif fédéral a confirmé le refus d'approuver la prolongation de l'autorisation de séjour du recourant.
5.2. On peut encore ajouter que, dans la mesure où le jugement de divorce du 18 octobre 2016 (produit le 21 octobre 2016 par le recourant, cf. supra consid. 1.3) prévoit, en faveur de l'intéressé, un large droit de visite sur son fils C.X._, cet élément pourrait éventuellement justifier un réexamen de la situation par les autorités cantonales.
6.
Les considérants qui précèdent conduisent au rejet du recours. Les frais judiciaires sont mis à la charge du recourant, qui succombe (<ref-law>). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Secrétariat d'Etat aux migrations, au Tribunal administratif fédéral, Cour III, et au Service de la population du canton de Vaud.
Lausanne, le 13 janvier 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Ermotti