Faits :
A.
X._, né en 1974, est ressortissant d'Allemagne, pays où il a vécu dès l'âge de 16 ans. Arrivé en Suisse le 15 mars 2010, il a été mis au bénéfice d'une autorisation de séjour UE/AELE avec activité lucrative, valable initialement jusqu'au 30 juin 2015, puis renouvelée jusqu'au 30 juin 2020. Père de deux enfants (nés en 1995 et 2004) vivant en Allemagne (<ref-law>), X._ a rencontré en Suisse, vers la fin de l'année 2010, Y._, ressortissante suisse, elle-même déjà mère d'un enfant né en 2004, qui habite avec elle. Le couple, qui n'est pas marié, a eu un fils, né en 2014, que X._ a reconnu.
Sur le plan professionnel et financier, X._ a travaillé comme employé salarié dans le domaine du bâtiment jusqu'en 2012. A partir de 2013, il a bénéficié de prestations du revenu d'insertion (RI). Ses dettes s'élèvent à environ 15'000 fr.
B.
Le 30 septembre 2015, le Tribunal correctionnel de l'Est vaudois a condamné X._ à une peine privative de liberté de 36 mois, dont 18 mois avec sursis, délai d'épreuve de 5 ans subordonné à un traitement psychothérapeutique ambulatoire, pour crime, délit et contravention à la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121). En substance, il est reproché à X._, lui-même consommateur de cocaïne, d'avoir, entre avril 2013 ( recte : début 2011) et mars 2014, vendu environ 1'151.8 grammes de cette substance, correspondant à 733 grammes de drogue pure, ou servi d'intermédiaire entre des fournisseurs et d'autres clients, pour un chiffre d'affaires de 112'600 fr. au minimum (rapport final de la police du 24 juin 2014).
Au moment du jugement, X._ a été libéré compte tenu de la détention, provisoire (dès le 16 avril 2014) et au titre d'exécution anticipée de peine, subie avant jugement. Depuis le mois de décembre 2015, X._, retourné vivre auprès de Y._, du fils de celle-ci et de leur enfant commun, travaille comme salarié.
C.
Par décision du 29 février 2016, le Service de la population du canton de Vaud (ci-après: le Service cantonal) a révoqué l'autorisation de séjour UE/AELE de X._ et prononcé son renvoi de Suisse en raison des actes délictueux et criminels commis. La Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté, dans un arrêt du 8 juin 2016, le recours de X._ contre cette décision et confirmé celle-ci.
D.
Par acte du 16 juin 2016, X._ forme un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt du 8 juin 2016. Il conclut, sous suite de frais et dépens, principalement à l'annulation de l'arrêt entrepris, subsidiairement à la réforme de l'arrêt en ce sens que l'autorisation de séjour UE/AELE en sa faveur n'est pas révoquée et son renvoi de Suisse n'est pas ordonné.
Le Service cantonal et le Tribunal cantonal renoncent à se déterminer, le second se référant aux considérants de son arrêt. Le Secrétariat d'Etat aux migrations n'a pas déposé d'observations sur le recours dans le délai imparti à cet effet.
Par ordonnance du 20 juin 2016, le Président de la IIe Cour de droit public du Tribunal fédéral a admis la demande d'effet suspensif contenue dans le recours.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 2.1 p. 397; <ref-ruling> consid. 2 p. 59).
1.1. D'après l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions relatives à une autorisation de séjour à laquelle ni le droit fédéral ni le droit international ne donnent droit. Selon la jurisprudence, le recours en matière de droit public est recevable contre la révocation d'une autorisation qui déploierait ses effets s'il n'y avait pas eu de révocation (cf. <ref-ruling> consid. 1.2.1 p. 4; arrêt 2C_1178/2012 du 4 juin 2013 consid. 1.2), ce qui est le cas en l'occurrence, l'échéance de l'autorisation de séjour délivrée au recourant étant fixée au 30 juin 2020. En sa qualité de ressortissant allemand, le recourant peut en outre se prévaloir de l'Accord du 21 juin 1999 entre la Confédération suisse, d'une part, et la Communauté européenne et ses Etats membres, d'autre part, sur la libre circulation des personnes (ALCP; RS 0.142.112.681; cf. <ref-ruling> consid. 1.1 p. 179), qui confère en principe aux ressortissants des Etats contractants le droit de séjourner et d'accéder à la vie économique sur le territoire suisse conformément aux dispositions de l'annexe I ALCP (cf. art. 1 let. a et 4 ALCP). Il s'ensuit que le présent recours ne tombe pas sous le coup de l'exception prévue à l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'<ref-law>.
1.2. Au surplus, déposé en temps utile (<ref-law>), et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>), le présent recours, dirigé contre une décision finale (<ref-law>), rendue par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>), est recevable.
1.3. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral et du droit international (cf. art. 95 let. a et b ainsi que 106 al. 1 LTF). Il statue sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire - ou en violation du droit au sens de l'<ref-law> (cf. <ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Le contrat de travail du 14 juin 2016 produit en annexe au recours est une pièce nouvelle, dont il ne peut dès lors être tenu compte.
2.
Le recourant reproche au Tribunal cantonal d'avoir examiné sa situation au regard de la loi fédérale du 16 décembre 2005 sur les étrangers (LEtr; RS 142.20) et de la jurisprudence y relative au lieu de s'en tenir exclusivement aux dispositions de l'ALCP et de la CEDH. Du point de vue de ces textes, les conditions permettant la révocation d'une autorisation de séjour ne seraient pas réunies.
Le litige implique donc de rappeler quelles sont les dispositions pertinentes dans la situation du recourant, avant d'en vérifier la correcte application.
2.1. Selon son art. 2 al. 2, la LEtr ne s'applique aux ressortissants des Etats membres de l'Union européenne que lorsque l'ALCP n'en dispose pas autrement ou lorsqu'elle prévoit des dispositions plus favorables.
Sous réserve des exigences figurant à l'<ref-law> (cf. infra consid. 2.3), l'ALCP ne réglemente pas la révocation des autorisations de séjour ou d'établissement UE/AELE (arrêts 2C_127/2016 du 13 septembre 2016 consid. 4.1; 2C_394/2016 du 26 août 2016 consid. 5.1; 2C_473/2011 du 17 octobre 2011 consid. 2.1 en matière d'autorisation d'établissement; arrêt 2C_370/2012 du 29 octobre 2012 consid. 3.1 en matière d'autorisation de séjour).
2.2. A teneur de l'art. 62 let. b LEtr, une autorisation de séjour peut être révoquée notamment si l'étranger a été condamné à une peine privative de liberté de longue durée. Par peine de longue durée, il faut entendre une peine supérieure à un an (<ref-ruling> consid. 4.2 et 4.5 p. 379 ss), résultant d'un seul jugement pénal (cf. <ref-ruling> consid. 2.3 p. 300 ss), prononcée avec sursis, sursis partiel ou sans (<ref-ruling> consid. 2.1 p. 18). Cette disposition est applicable à la révocation d'une autorisation de séjour UE/AELE en raison de condamnations pénales (cf. art. 23 al. 1 de l'ordonnance fédérale du 22 mai 2002 sur l'introduction progressive de la libre circulation des personnes entre, d'une part, la Confédération suisse et, d'autre part, l'Union européenne et ses Etats membres, ainsi qu'entre les Etats membres de l'Association européenne de libre-échange [OLCP; RS 142.203]; cf. arrêts 2C_370/2012 du 29 octobre 2012 consid. 3.1; 2C_317/2012 du 17 octobre 2012 consid. 3.2), dans la mesure où il convient de déterminer de la même manière le seuil minimum à partir duquel une condamnation pénale peut justifier la révocation d'une autorisation de séjour pour le ressortissant d'un Etat membre de l'Union européenne que pour le ressortissant d'un Etat tiers (cf. art. 2 et 12 ALCP).
2.3. Dès lors qu'il constitue une limite à la libre circulation des personnes, le retrait de l'autorisation UE/AELE - de séjour ou d'établissement - doit en revanche être conforme aux exigences de l'<ref-law>, selon lequel les droits octroyés par les dispositions de l'ALCP ne peuvent être limités que par des mesures justifiées par des raisons d'ordre public, de sécurité publique et de santé publique (cf. <ref-ruling> consid. 5.3 p. 125 s.; <ref-ruling> consid. 3.4 p. 12 s.; cf. arrêts 2C_247/2015 du 7 décembre 2015 consid. 5.1; 2C_370/2012 du 29 octobre 2012 consid. 3.1).
2.4. Comme lorsqu'il y a lieu d'examiner la conformité d'une mesure d'éloignement prise à l'encontre de n'importe quel autre étranger, la révocation d'une autorisation UE/AELE doit également être proportionnelle. Cette exigence découle notamment de l'art. 96 al. 1 LEtr, applicable au domaine régi par l'ALCP (cf. art. 2 al. 2 LEtr; <ref-ruling> consid. 3.4.2 p. 184, 493 consid. 3.3 p. 499 s.; arrêt 2C_410/2015 du 29 octobre 2015 consid. 4.1). Si l'étranger entretient une relation étroite et effective avec une personne de sa famille ayant le droit de résider durablement en Suisse et qu'il peut en conséquence se prévaloir de l'art. 8 CEDH (cf. <ref-ruling> consid. 1.3 p. 287), le respect du principe de proportionnalité est aussi imposé par l'art. 8 par. 2 CEDH. L'examen de la proportionnalité sous l'angle de cette disposition se confond toutefois avec celui imposé par l'art. 96 LEtr (arrêts 2C_1189/2014 du 26 juin 2015 consid. 4.1 et 2C_419/2014 du 13 janvier 2015 consid. 4.3).
2.5. En l'espèce, le Tribunal cantonal a correctement exposé les bases légales qui précèdent et, contrairement à ce que soutient le recourant, ne les a pas ignorées dans son raisonnement. Relevant que la peine privative de liberté de 36 mois prononcée à l'encontre du recourant réalisait la condition de durée prévue à l'art. 62 let. b LEtr, le Tribunal cantonal a en effet poursuivi son analyse au regard de l'<ref-law>, puis, ayant admis que le recourant représentait une menace réelle et actuelle suffisamment grave pour justifier la mesure de révocation de l'autorisation de séjour, vérifié si celle-ci respectait le principe de proportionnalité. Le grief du recourant relatif à l'application des mauvaises dispositions par l'instance inférieure tombe ainsi à faux.
3.
En tant qu'il conteste représenter une menace grave pour la sécurité et l'ordre publics, le recourant reproche en réalité au Tribunal cantonal une appréciation erronée des exigences de l'<ref-law>.
3.1. Conformément à la jurisprudence rendue en rapport avec l'<ref-law>, les limites posées au principe de la libre circulation des personnes doivent s'interpréter de manière restrictive. Ainsi, le recours par une autorité nationale à la notion d'"ordre public" pour restreindre cette liberté suppose, en dehors du trouble de l'ordre social que constitue toute infraction à la loi, l'existence d'une menace réelle et d'une certaine gravité affectant un intérêt fondamental de la société (<ref-ruling> consid. 5.3 p. 125 s. et les références citées). L'évaluation de cette menace doit se fonder exclusivement sur le comportement personnel de celui qui fait l'objet de la mesure, et non sur des motifs de prévention générale détachés du cas individuel (cf. art. 3 par. 1 directive 64/221/CEE [JO L 56 du 4 avril 1964 p. 850] applicable par le renvoi de l'<ref-law>; arrêt 2C_406/2014 du 2 juillet 2015 consid. 2.3). La seule existence d'antécédents pénaux ne permet pas de conclure (automatiquement) que l'étranger constitue une menace suffisamment grave pour l'ordre et la sécurité publics (cf. art. 3 par. 2 directive 64/221/CEE). Il faut procéder à une appréciation spécifique du cas, sous l'angle des intérêts inhérents à la sauvegarde de l'ordre public, qui ne coïncide pas obligatoirement avec les appréciations à l'origine des condamnations pénales. Autrement dit, ces dernières ne sont déterminantes que si les circonstances les entourant laissent apparaître l'existence d'une menace actuelle et réelle, d'une certaine gravité pour l'ordre public (cf. <ref-ruling> consid. 5.3 p. 125 s. et les références citées). Il n'est pas nécessaire d'établir avec certitude que l'étranger commettra d'autres infractions à l'avenir pour prendre une mesure d'éloignement à son encontre; inversement, ce serait aller trop loin que d'exiger que le risque de récidive soit nul pour que l'on renonce à une telle mesure. En réalité, ce risque ne doit pas être admis trop facilement et il faut l'apprécier en fonction de l'ensemble des circonstances du cas, en particulier au regard de la nature et de l'importance du bien juridique menacé, ainsi que de la gravité de l'atteinte qui pourrait y être portée. L'évaluation de ce risque sera d'autant plus rigoureuse que le bien juridique menacé est important (<ref-ruling> consid. 5.3 p. 125 s. et les références citées). A cet égard, le Tribunal fédéral se montre particulièrement rigoureux en présence d'infractions à la législation fédérale sur les stupéfiants (cf. <ref-ruling> consid. 5.3 p. 125 s. et les références citées; arrêts 2C_328/2015 du 2 novembre 2015 consid. 3.2; 2C_406/2014 du 2 juillet 2015 consid. 4.2), étant précisé que la commission d'infractions qui sont en étroite relation avec la toxicomanie du délinquant peut, selon les circonstances, atténuer cette position de principe (<ref-ruling> consid. 5.3 p. 125 s.; arrêt 2C_625/2007 du 2 avril 2008 consid. 8.2).
3.2. Le recourant a été condamné à une peine privative de liberté de 36 mois. Ainsi que l'a relevé le Tribunal cantonal, cette peine, qui excède largement le seuil d'une année à partir duquel une peine privative de liberté est considérée comme étant de longue durée, reflète la gravité des actes commis. La condamnation du recourant sanctionne en effet la vente de plus de 700 grammes de cocaïne pure, quantité dépassant massivement le seuil du cas grave de l'<ref-law>, fixé à 18 grammes par la jurisprudence (<ref-ruling> consid. 3.2 p. 103 et les références citées). Le comportement du recourant s'est inscrit dans la durée. Arrivé en Suisse en 2010, il a dès 2011, mais surtout à partir de 2013, et jusqu'à mars 2014 - son activité cessant seulement du fait de son arrestation - vendu de la drogue et/ou servi d'intermédiaire entre des trafiquants et des clients. Le recourant a mis en danger la santé de nombreuses personnes, portant atteinte à un bien juridique important. Il y a en conséquence lieu de se montrer rigoureux dans l'évaluation du danger qu'il représente.
3.3. Le recourant ne conteste pas la gravité des actes commis, mais y oppose les circonstances à l'origine des infractions reprochées, soit sa propre toxicomanie à l'époque des faits, le caractère unique de la condamnation, son repentir sincère, son comportement irréprochable, notamment son abstinence, depuis son incarcération ainsi que sa stabilité professionnelle et affective actuelle pour nier le risque de récidive et, partant, l'existence d'une menace sérieuse et actuelle pour la société au sens de l'<ref-law>. Selon lui, le fait que la sanction ait été assortie du sursis et qu'il ait été libéré conditionnellement attesteraient de cette absence de risque.
En l'espèce, le comportement pénalement répréhensible du recourant a commencé un an après son arrivée en Suisse en 2010 et s'est prolongé durant trois années avant son arrestation. Cette circonstance rend moins significative l'absence de condamnations antérieures pour évaluer le risque de récidive.
Le Tribunal cantonal n'a pas ignoré que le recourant avait agi pour financer sa consommation personnelle, ce qui atténue légèrement sa faute. La situation du recourant ne peut toutefois être comparée à celle où une condamnation pénale sanctionne presque exclusivement la consommation de stupéfiants (cf. arrêt 2C_625/2007 du 2 avril 2008 consid. 8.4). Par le trafic de plus de 700 grammes de cocaïne pure, le recourant a en effet mis en danger la vie de plusieurs personnes en sus de la sienne. Il en a en outre tiré un gain important. Dans ce contexte, le fait que le recourant soit lui-même consommateur ne saurait permettre de conclure à l'absence de risque de récidive. Au contraire, les quantités trafiquées, les montants acquis par ce biais et la durée des activités du recourant laissent supposer une addiction forte à cette drogue, qui peut faire craindre une réitération d'agissements similaires (cf. arrêts 2C_328/2015 du 2 novembre 2015 consid. 3.2.2; 2C_625/2007 du 2 avril 2008 consid. 8.2). L'abstinence alléguée du recourant est trop récente pour infirmer ce constat, étant relevé qu'aucune consommation n'était possible durant les mois d'incarcération.
Le comportement du recourant en milieu carcéral, décrit comme "irréprochable" dans l'arrêt attaqué, n'est pas un facteur déterminant en vue d'évaluer sa dangerosité une fois libéré, une telle attitude étant attendue de tout délinquant (cf. <ref-ruling> consid. 5.5.2 p. 128 et les références citées).
Le recourant ne peut que dans une moindre mesure tirer argument de son attitude sur le plan professionnel et personnel depuis sa sortie de prison. Outre que la libération du recourant est récente et encore subordonnée au respect d'un suivi psychothérapeutique, il convient de relever que certains actes reprochés au recourant ont eu lieu en 2011 et 2012, alors qu'il avait encore un emploi. La stabilité affective dont il bénéfice grâce à la présence de sa compagne doit être relativisée car leur relation est née avant qu'il ne commence ses activités délictueuses. Quant à la naissance de son enfant en 2014, elle n'est pas décisive, deux paternités en Allemagne n'ayant pas détourné le recourant de la commission d'infractions (cf. arrêt 2C_908/2010 du 7 avril 2011 consid. 4.2).
Le sursis partiel octroyé au recourant par les autorités pénales n'est pas non plus déterminant pour apprécier la dangerosité de celui-ci. Le sursis - y compris le sursis partiel - est la règle dont le juge ne peut s'écarter qu'en présence d'un pronostic défavorable. Il prime en cas d'incertitude (cf. art. 42 al. 1 et 43 al. 1 CP; cf. <ref-ruling> consid. 2.1 p. 185 s.; <ref-ruling> consid. 5.3.1. p. 10; arrêt 6B_713/2007 du 4 mars 2008 consid. 2.2). Le bénéfice du sursis ou du sursis partiel ne renseigne donc que de manière accessoire sur la dangerosité d'un délinquant du point de vue de la sécurité publique. Il ne pourrait en aller différemment que si le sursis avait été accordé au recourant nonobstant une condamnation à une peine - privative de liberté ou pécuniaire - supérieure à six mois ou 180 jours dans les cinq ans qui précèdent l'infraction, le pronostic posé étant dans cette hypothèse particulièrement favorable (cf. <ref-law>; cf. arrêt 2C_378/2013 du 21 août 2013 consid. 5.5). En tout état de cause, il sera rappelé au recourant que les autorités compétentes en matière de droit des étrangers ne sont pas tenues par le résultat de l'examen effectué par les autorités pénales dès lors qu'elles se fondent sur d'autres considérations. Elles sont libres de tirer leurs propres conclusions quant à la dangerosité pour l'ordre public d'une personne condamnée (cf. <ref-ruling> consid. 4.3.3. p. 187 ss; 493 consid. 4.2 p. 500 s.; <ref-ruling> consid. 3.2 p. 216 s.; arrêt 2C_121/2014 du 17 juillet 2014 consid. 4.3).
Contrairement à ce qu'il prétend, le recourant n'a pas bénéficié d'une libération conditionnelle, le prononcé d'une peine avec sursis partiel excluant cette possibilité (cf. <ref-law>). Le recourant ne pourrait du reste rien déduire d'un tel fait (cf. arrêt 2C_238/2012 du 30 juillet 2012 consid. 3.3.2).
En définitive, les facteurs évoqués par le recourant ne sont pas de nature à relativiser la menace actuelle et réelle que celui-ci représente pour l'ordre et la sécurité publics. C'est en conséquence à juste titre que les juges cantonaux ont estimé que la révocation de l'autorisation de séjour UE/AELE du recourant était conforme à l'<ref-law>.
4.
Le recourant souligne le caractère préjudiciable d'une décision de renvoi sur sa vie de famille et allègue une violation du principe de proportionnalité.
4.1. La question de la proportionnalité d'une révocation d'autorisation, résultant des art. 96 LEtr et 8 par. 2 CEDH (cf. supra consid. 2.4) doit être tranchée au regard de toutes les circonstances du cas d'espèce, les critères déterminants se rapportant notamment à la gravité de l'infraction, à la culpabilité de l'auteur, au temps écoulé depuis l'infraction, au comportement de celui-ci pendant cette période, au degré de son intégration et à la durée de son séjour antérieur, ainsi qu'aux inconvénients qui le menacent, lui et sa famille, en cas de révocation (cf. <ref-ruling> consid. 2.4 p. 149; 31 consid. 2.3.1 p. 33; 16 consid. 2.2.1 p. 19; <ref-ruling> consid. 4.3 p. 381). Quand la mesure de révocation est prononcée en raison de la commission d'une infraction, la peine infligée par le juge pénal est le premier critère à utiliser pour évaluer la gravité de la faute et pour procéder à la pesée des intérêts en présence (arrêt 2C_1153/2014 du 11 mai 2015 consid. 5.4).
4.2. Le recourant, arrivé en Suisse à 35 ans, vit dans ce pays depuis un peu plus de six ans. Ce séjour relativement court, initié à l'âge adulte et dont une partie non négligeable proportionnellement s'est déroulée en prison en raison d'un trafic de stupéfiants qui avait duré trois ans, donne une indication sur le degré d'intégration du recourant dans le pays et, partant, de son intérêt à y demeurer comparé à l'intérêt public, important vu la nature des infractions commises, à l'éloigner du territoire suisse.
En soulignant la difficulté qu'aurait sa compagne à l'accompagner s'il venait à devoir quitter la Suisse, le recourant admet du reste implicitement qu'il n'en va pas de même pour lui. Comme l'a à juste titre souligné le Tribunal cantonal, le recourant a construit la majeure partie de sa vie en Allemagne, y effectuant sa formation et y travaillant plusieurs années. Quelle que soit l'intensité des liens entre le recourant et sa compagne ou entre celui-ci et les deux enfants vivant avec eux, les attaches de l'intéressé en Allemagne sont à tout le moins aussi fortes, deux de ses enfants, dont l'un est encore mineur, vivant dans ce pays.
Le Tribunal cantonal a admis qu'il ne pourrait être exigé de la compagne du recourant qu'elle aille vivre en Allemagne, son fils issu d'une précédente relation ayant son centre de vie (école, famille) en Suisse. Sans nier l'importance de cet intérêt, il convient de noter que l'enfant commun du couple est très jeune et que, de ce point de vue, la famille pourrait envisager de s'installer en Allemagne. Par ailleurs, comme le souligne l'arrêt attaqué, l'obstacle que constituera l'éloignement du recourant pour la vie de famille restera raisonnable, les distances géographiques entre la Suisse et les pays limitrophes permettant de fréquentes visites et des contacts soutenus (cf. arrêts 2C_1237/2012 du 22 avril 2013 consid. 6.2; 2C_862/2012 du 12 mars 2013 consid. 5.1).
4.3. En conclusion, l'autorité précédente a pris en considération tous les éléments imposés par la jurisprudence, que cela soit en rapport avec le risque de récidive concret tel que prévu à l'<ref-law> ou avec le principe de proportionnalité, de sorte qu'il convient de confirmer l'arrêt attaqué.
5.
Les considérants qui précèdent conduisent au rejet du recours. Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, au Service de la population du canton de Vaud, au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public, ainsi qu'au Secrétariat d'Etat aux migrations.
Lausanne, le 6 octobre 2016
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Kleber