Faits : A. A.X._, ressortissant de la République du Kosovo né en 1974, est entré en Suisse le 1er février 2006. A la suite de son mariage le 27 septembre 2007 avec une ressortissante portugaise, B.X._, il a été mis au bénéfice d'une autorisation de séjour UE/AELE. Le couple a eu deux filles, nées en février 2008 et avril 2010. Dans son pays d'origine, A.X._ avait épousé traditionnellement C._. De cette union sont issus quatre enfants, dont l'aîné, D.X._, est né en 1996. Le 4 avril 2013, A.X._ a déposé auprès de la représentation suisse au Kosovo une demande de regroupement familial en faveur de son fils D.X._. Répondant au Service de la population du canton de Vaud (ci-après: le Service cantonal), il a expliqué que le but du séjour en Suisse de son fils était l'intégration dans un pays libre où il pourrait avoir un bon avenir professionnel. Le 1er juin 2014, D.X._ est entré en Suisse sans les documents requis. B. Par décision du 8 septembre 2014, le Service cantonal a refusé d'octroyer à D.X._ une autorisation de séjour UE/AELE par regroupement familial, au motif que la demande était abusive, et a prononcé son renvoi de Suisse. La Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté par arrêt du 5 janvier 2016 le recours formé par A.X._ et D.X._ contre cette décision et confirmé celle-ci. C. A l'encontre de l'arrêt du 5 janvier 2016, A.X._ dépose un recours en matière de droit public au Tribunal fédéral. Il conclut, sous suite de frais et dépens, principalement à l'annulation de l'arrêt attaqué et à ce que son fils D.X._ soit autorisé à rester en Suisse, subsidiairement à l'annulation de l'arrêt entrepris et au renvoi de la cause à l'instance inférieure pour réexamen. Le Tribunal cantonal se réfère à l'arrêt attaqué; le Service cantonal renonce à se déterminer. Le Secrétariat d'Etat aux migrations conclut au reje t du recours. Le recourant a déposé des observations. Par ordonnance du 14 juillet 2016, la Juge de la IIe Cour de droit public du Tribunal fédéral chargée de l'instruction a déclaré irrecevable la requête d'effet suspensif au recours, dès lors que l'arrêt attaqué ne visait pas le statut juridique du recourant en Suisse, mais seulement de son fils.