Faits :
A.
Ressortissant kosovar né en 1978, A.X._ est entré en Suisse en tant que requérant d'asile le 29 octobre 2001. Aucune autorisation valable ne lui a été délivrée. Il est par la suite à nouveau entré en Suisse, sans visa, le 23 mai 2003. A la suite de son mariage, en septembre 2003, avec Y._, une ressortissante suisse née en 1957, A.X._ a obtenu une autorisation de séjour le 7 novembre 2003, puis une autorisation d'établissement. Les époux se sont séparés de fait le 31 mars 2011 et ont divorcé le 25 août 2011.
Le 3 octobre 2014, Z._, ressortissante kosovare née en 1981, a déposé une demande d'entrée et de séjour pour elle-même et ses trois enfants, B.X._, né en 2000, C.X._, née en 2007, et D.X._, né en 2011, dont le père est A.X._, avec lequel elle a dit être fiancée.
Le 9 février 2015, le Service de la population et des migrants du canton de Fribourg (ci-après: le Service cantonal) a entendu A.X._ et son ex-épouse dans le cadre de l'examen des conditions actuelles du séjour. Il en ressort notamment que Y._ n'avait pas connaissance avant cette audition de la paternité de son ex-époux.
B.
Après avoir entendu A.X._ sur son intention de révoquer son autorisation d'établissement, le Service cantonal a, par décision du 29 janvier 2016, révoqué dite autorisation, ordonné son renvoi de Suisse et déclaré sans objet la demande de Z._ et de ses enfants.
A.X._ a recouru en allemand contre cette décision auprès du Tribunal cantonal fribourgeois, Ie Cour administrative (ci-après: le Tribunal cantonal), en concluant à ce qu'il soit autorisé à rester en Suisse. Il n'a en revanche pas contesté la décision du Service cantonal en tant qu'elle concernait Z._ et leurs enfants communs.
Par arrêt du 26 janvier 2017 rendu en français, le Tribunal cantonal a rejeté le recours.
C.
Agissant en personne par la voie du recours en matière de droit public et du recours constitutionnel subsidiaire, A.X._ demande au Tribunal fédéral d'annuler l'arrêt du 26 janvier 2017 du Tribunal cantonal et de confirmer son autorisation d'établissement.
Le Tribunal cantonal se réfère aux considérants de son arrêt et conclut au rejet du recours. Le Service cantonal renvoie à l'arrêt attaqué et confirme sa décision. Le Secrétariat d'Etat aux migrations ne s'est pas déterminé. A.X._ a déposé des observations.
Par ordonnance du 1 er mars 2017, le Président de la IIe Cour de droit public a admis la demande d'effet suspensif contenue dans le recours.

Considérant en droit :
1.
1.1. Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable contre les décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit. Il est recevable contre les décisions révoquant, comme en l'espèce, une autorisation d'établissement, parce qu'il existe en principe un droit au maintien de cette autorisation (<ref-ruling> consid. 1.2.1 p. 4). La présente cause ne tombe ainsi pas sous le coup de l'art. 83 let. c ch. 2 LTF, ni d'aucune autre clause d'irrecevabilité figurant à l'<ref-law>. Partant, la voie du recours en matière de droit public est ouverte, ce qui implique l'irrecevabilité du recours constitutionnel subsidiaire (cf. <ref-law> a contrario).
1.2. D'après l'<ref-law>, les mémoires de recours doivent être rédigés dans une langue officielle. La langue du mémoire n'est pas forcément la même que la langue de la procédure, qui est conduite en règle générale dans la langue de la décision attaquée (cf. <ref-law>). Le recourant peut donc rédiger le mémoire de recours dans la langue (officielle) de son choix, qui ne doit pas nécessairement correspondre à celle de la procédure devant le Tribunal de céans (arrêts 2C_700/2015 du 8 décembre 2015 consid. 1.4; 2C_237/2013 du 27 mars 2013 consid. 1.2). Il s'ensuit que le mémoire déposé par le recourant, rédigé en allemand, est recevable. La langue de la décision attaqué étant toutefois le français, le présent arrêt sera rendu dans cette langue, le recourant n'ayant formulé aucune demande justifiant de faire exception à l'<ref-law> (cf. JEAN-MARIE FRÉSARD, in Commentaire de la LTF, 2 e éd. 2014, n° 19 ad <ref-law>).
1.3. Déposé au surplus en temps utile (<ref-law>) et dans les autres formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification et qui a de ce fait qualité pour recourir (<ref-law>), le présent recours, dirigé contre une décision finale (<ref-law>) rendue par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>), est recevable.
2.
2.1. Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF). En revanche, il n'examine la violation de droits fondamentaux que si ce grief a été invoqué et motivé par le recourant, conformément au principe d'allégation (cf. <ref-law>). L'acte de recours doit alors, sous peine d'irrecevabilité, contenir un exposé succinct des droits et principes constitutionnels violés et préciser de manière claire et détaillée en quoi consiste la violation (cf. <ref-ruling> consid. 1.3 p. 41; <ref-ruling> consid. 2.2 p. 232).
2.2. En l'espèce, le recourant se plaint, en lien avec son prétendu droit à la poursuite du séjour et avec celle de la révocation de son autorisation d'établissement, d'une violation des art. 8 CEDH et 29 al. 2 Cst., sans toutefois expliquer en quoi ces dispositions auraient été violées. Ces griefs ne respectant pas les exigences de l'<ref-law>, ils ne seront pas examinés.
3.
3.1. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits constatés par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (<ref-ruling> consid. 2 p. 117) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). Si le recourant entend s'écarter des constatations de fait de l'autorité précédente (cf. <ref-law>), il doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées et la correction du vice susceptible d'influer sur le sort de la cause (<ref-law>). Sinon, il n'est pas possible de tenir compte d'un état de fait divergeant de celui qui est contenu dans l'acte attaqué (<ref-ruling> consid. 2 p. 457; <ref-ruling> consid. 5.2.2 p. 322). En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 2.3 p. 266).
3.2. Le recourant perd de vue ces principes, puisqu'il complète à sa guise les faits de la cause de manière appellatoire, sans alléguer ni a fortiori démontrer que les faits figurant dans l'arrêt attaqué seraient constatés de manière arbitraire. La Cour de céans fondera donc son raisonnement sur les faits tels qu'ils ont été établis par le Tribunal cantonal.
4.
Invoquant une violation de son droit d'être entendu sous l'angle du devoir de motiver une décision, le recourant soutient que "le point de savoir sur quels éléments essentiels les juges précédents ont fondé leur décision se pose". Il leur reproche de s'être limités à tirer des conclusions quant au caractère fictif de son mariage avec Y._ sur la seule base de l'enchaînement temporel des faits, sans tenir compte des propos qu'a tenus son ex-épouse lors de l'audition devant le Service cantonal, qui plaident selon lui en faveur d'un mariage réellement vécu.
4.1. Le droit d'être entendu est garanti à l'art. 29 al. 2 Cst. et la jurisprudence en a déduit le droit d'obtenir une décision motivée. Il suffit, pour que ce droit soit respecté, que l'autorité mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels elle a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause. L'autorité n'a pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties, mais elle peut au contraire se limiter à ceux qui lui paraissent pertinents (<ref-ruling> consid. 3.2.1 p. 565 et les références citées; <ref-ruling> consid. 2.2 p. 183.
4.2. En l'occurrence, l'arrêt attaqué expose les motifs pertinents qui ont conduit les juges précédents à révoquer l'autorisation d'établissement du recourant. Il relève en effet que le fait que le recourant ait caché aux autorités l'existence de sa relation parallèle avec Z._, alors que celles-ci allaient statuer sur l'octroi d'une autorisation d'établissement fondée sur son union avec Y._, constituait une dissimulation de faits essentiels au sens de l'art. 62 let. a LEtr et que, dans ces circonstances, le point de savoir si le mariage contracté avec cette dernière était fictif ou non importait peu (arrêt attaqué consid. 2c).
Cette motivation est claire et répond manifestement aux exigences de l'art. 29 al. 2 Cst. Elle mentionne par ailleurs expressément que la question du caractère fictif ou non du mariage du recourant n'était pas relevante. Partant, le grief tiré de la violation du droit d'être entendu doit être rejeté.
5.
Au fond, le litige porte sur le point de savoir si c'est à bon droit que l'arrêt attaqué confirme la révocation de l'autorisation d'établissement du recourant, étant rappelé que ce dernier n'a pas contesté devant les juges précédents la décision du Service cantonal en tant qu'elle vise Z._ et leurs trois enfants.
6.
Le recourant invoque d'abord une violation des art. 50 al. 1, 51 al. 2, 62 let. a et b LEtr et art. 63 al. 1 LEtr.
6.1. La révocation d'une autorisation d'établissement est régie à l'art. 63 LEtr.
6.1.1. A teneur de l'art. 63 al. 2 LEtr, l'autorisation d'établissement d'un étranger qui séjourne en Suisse légalement et sans interruption depuis plus de quinze ans ne peut être révoquée que pour les motifs mentionnés aux art. 62 let. b et 63 al. 1 let. b LEtr. Pour les étrangers qui séjournent légalement en Suisse depuis moins de quinze ans, l'art. 63 al. 1 let. a LEtr prévoit que l'autorisation d'établissement peut notamment être révoquée aux conditions de l'art. 62 let. a LEtr, à savoir si l'étranger ou son représentant légal a fait de fausses déclarations (première alternative de l'art. 62 let. a LEtr) ou a dissimulé des faits essentiels durant la procédure d'autorisation (seconde alternative de l'art. 62 let. a LEtr). L'autorisation peut aussi être révoquée si l'étranger a été condamné à une peine privative de liberté de longue durée ou a fait l'objet d'une mesure pénale prévue aux art. 59 à 61 ou 64 CP (cf. art. 62 al. 1 let. b LEtr).
6.1.2. Pour déterminer si l'étranger a séjourné légalement et sans interruption durant au moins quinze ans en Suisse, la jurisprudence a précisé que seul le séjour expressément autorisé devait être considéré comme légal (<ref-ruling> consid. 10 consid. 4.4 p. 13 s.) et que le calcul de la durée se vérifiait au jour du prononcé de la décision de révocation de l'autorisation d'établissement par l'autorité de première instance (<ref-ruling> consid. 3.1 p. 266; <ref-ruling> consid. 4.2 p. 12).
6.1.3. En l'espèce, le Service cantonal a révoqué l'autorisation d'établissement du recourant le 29 janvier 2016, soit un peu plus de douze ans après qu'il a été mis au bénéfice d'une autorisation de séjour. La durée du séjour antérieure en Suisse du recourant sans autorisation ne peut être prise en compte puisque, comme l'indique l'art. 63 al. 2 LEtr, seuls comptent les séjours ininterrompus et légaux en Suisse. Le recourant a donc séjourné moins de quinze ans en Suisse, de sorte qu'il faut examiner si les conditions de l'art. 62 let. a LEtr (en lien avec l'art. 63 al. 1 let. a LEtr) sont remplies, étant précisé que l'art. 62 let. b LEtr, dont la violation est aussi invoquée par le recourant, n'a pas été retenue par les juges précédents et n'entre manifestement pas en ligne de compte en l'espèce, le recourant n'ayant, selon les faits constatés, fait l'objet d'aucune condamnation pénale.
6.2. Selon la jurisprudence rendue en application de l'art. 62 let. a LEtr, lorsque l'autorité pose des questions à l'étranger, celui-ci doit y répondre conformément à la vérité. Les fausses déclarations, qui portent sur des éléments déterminants pour l'octroi de l'autorisation de séjour ou d'établissement, conduisent à la révocation de celle-ci. Il ne doit toutefois pas être établi que l'autorisation aurait avec certitude été refusée si l'autorité avait obtenu une information correcte. Quant à la dissimulation de faits essentiels, au même titre que pour les fausses déclarations, il faut que l'étranger ait la volonté de tromper l'autorité. Cela est notamment le cas lorsqu'il cherche à provoquer, respectivement à maintenir, une fausse apparence sur un fait essentiel (<ref-ruling> consid. 3.1 p. 266 et les références citées).
L'étranger est donc tenu de collaborer à la constatation des faits et en particulier de fournir des indications exactes et complètes sur les éléments déterminants pour la réglementation du séjour (art. 90 al. 1 let. a LEtr). Toutefois, il appartient en premier lieu à l'autorité de poser les questions appropriées à l'étranger. Il ne saurait être reproché à ce dernier de ne pas avoir de lui-même indiqué un élément de fait qu'il ne devait pas considérer comme étant déterminant pour l'octroi de son autorisation. Ainsi, en l'absence de question précise de l'autorité chargée de l'instruction, on ne peut critiquer l'étranger de ne pas avoir annoncé l'existence d'un enfant né d'une autre union que celle fondant l'autorisation de séjour ou d'établissement. Un tel élément n'a en effet pas d'incidence essentielle sur le droit d'obtenir une autorisation, car il ne peut pas être présumé que son existence conduirait vraisemblablement à reconnaître un caractère fictif à l'union donnant droit à une autorisation en Suisse. Il en va en revanche différemment de l'absence d'indications quant à l'existence d'une liaison parallèle. En ne mentionnant pas qu'il entretient une relation durable avec une autre personne, l'étranger cherche à tromper l'autorité sur le caractère stable de sa relation vécue en Suisse avec la personne lui donnant le droit d'obtenir une autorisation de séjour ou d'établissement, conformément aux art. 42 et 43 LEtr. Il provoque ou maintient ainsi une fausse apparence de monogamie. La dissimulation d'une relation parallèle conduit donc à la révocation de l'autorisation, en application de l'art. 62 let. a LEtr, par renvoi de l'art. 63 al. 1 let. a LEtr s'il est question d'autorisation d'établissement (<ref-ruling> consid. 3.2 p. 267 et les références citées).
En l'espèce, il ressort des faits constatés dans l'arrêt attaqué que le recourant a été mis au bénéfice d'une autorisation de séjour puis d'établissement ensuite de son mariage, le 12 septembre 2003, avec Y._, et ce alors qu'il entretenait déjà une relation parallèle durable au Kosovo avec Z._. Cette relation avait donné lieu à la naissance d'un premier enfant, B.X._, le 20 décembre 2000, que le recourant avait reconnu. Elle s'est poursuivie durant le mariage, au cours des séjours que le recourant a effectués au Kosovo, comme l'attestent la naissance de C.X._ le 13 avril 2007 puis celle de D.X._ le 31 mars 2011, que le recourant a aussi reconnus. Cette relation a du reste perduré après le divorce du recourant, l'arrêt attaqué relevant que les intéressés désiraient désormais se marier. Les juges précédents ont donc constaté à bon droit que le recourant avait entretenu une relation parallèle avec Z._ qui avait débuté avant son mariage avec Y._. Les arguments appellatoires qu'il fait valoir pour tenter de le nier ne peuvent être pris en considération (supra consid. 3.2).
Certes, l'arrêt attaqué ne précise pas si le Service cantonal a expressément demandé au recourant, au cours de la procédure d'autorisation d'établissement, s'il avait déjà des enfants. Ce point n'est toutefois pas décisif en l'espèce, puisque l'existence d'enfants au Kosovo est liée à la relation parallèle entretenue par le recourant avec Z._ dans ce pays. Or, dissimuler une telle relation constitue un cas de révocation de l'autorisation d'établissement, si bien que c'est à bon droit que les juges précédents ont retenu que l'autorisation d'établissement du recourant pouvait être révoquée en application de l'art. 63 al. 1 let. a LEtr en lien avec l'art. 62 let. a LEtr.
6.3. S'il existe un motif de révocation au sens de l'art. 62 LEtr, le droit du conjoint à l'octroi d'une autorisation de séjour et à la prolongation de sa durée de validité après la dissolution de la famille en application de l'art. 50 LEtr s'éteint (cf. art. 51 al. 2 let. b LEtr).
Le recourant ne peut donc plus se prévaloir de l'art. 50 LEtr pour obtenir le droit de poursuivre son séjour en Suisse. Il n'y a donc pas lieu d'examiner si le recourant remplit, comme il le soutient, les conditions de l'art. 50 al. 1 LEtr.
7.
Lorsqu'un motif de révocation d'une autorisation d'établissement est réalisé, il faut encore vérifier que cette mesure est proportionnée (cf. art. 96 LEtr; <ref-ruling> consid. 2.2 p. 147 s.), ce que le recourant conteste également.
7.1. Dans le cadre de l'examen de la proportionnalité d'une mesure d'éloignement, il faut prendre en considération, outre une éventuelle faute et sa gravité, la situation personnelle de l'étranger, son degré d'intégration, la durée de son séjour en Suisse ainsi que les inconvénients que lui et sa famille devraient subir si la mesure litigieuse était appliquée (<ref-ruling> consid. 4.3 p. 381). La durée du séjour, à elle seule, n'est pas déterminante, lorsque les années de présence de l'étranger en Suisse reposent sur la dissimulation d'une relation parallèle durable (cf. par exemple arrêts 2C_1115/2015 du 20 juillet 2016 consid. 6.1 [révocation de l'autorisation après un séjour de 17 ans]; 2C_562/2015 consid. 4.1 [révocation de l'autorisation après un séjour de 16 ans] 2C_205/2014 consid. 3.3 [révocation de l'autorisation après un séjour de 11 ans]; 2C_374/2013 du 8 janvier 2014 consid. 2.6 [révocation de l'autorisation après un séjour de douze ans et demi]). De même, la bonne intégration de l'intéressé, qui a pu demeurer en Suisse en se prévalant de son mariage, tout en taisant une vie de famille menée parallèlement à l'étranger, doit être relativisée et ne pèse que d'un faible poids dans la balance des intérêts. Elle ne peut en tout cas pas justifier à elle seule la prolongation du séjour en Suisse (cf. arrêt 2C_359/2014 précité consid. 5.3;). Il s'ensuit que la révocation d'une autorisation ensuite de la dissimulation d'une relation parallèle est une mesure qui est en règle générale proportionnée, sous réserve de circonstances particulières (cf. 2C_706/2015 précité consid. 5 non publié).
7.2. En l'espèce, l'autorité précédente a retenu que le recourant était entré en Suisse à l'âge de 23 ans, de sorte qu'un renvoi au Kosovo, où se trouvent non seulement ses trois enfants et sa fiancée, qui est aussi la mère de ses enfants, mais aussi la grande majorité de sa famille, n'impliquerait aucun déracinement. Sous l'angle économique, ils ont jugé que la situation difficile au Kosovo ne constituait pas un motif de nature à renoncer à un renvoi, que le fait que le recourant perde son statut professionnel d'entrepreneur n'était pas un motif suffisant pour justifier le maintien de sa présence en Suisse et qu'un retour au Kosovo ne le placerait pas dans une situation discriminatoire par rapport à ses compatriotes. Sous l'angle socio-culturel, les juges précédents retiennent que le recourant n'a pas tissé des liens d'une telle intensité en Suisse qu'un renvoi serait impossible, la durée de son séjour en Suisse n'étant pas de nature à modifier cette constatation.
7.3. Il faut d'emblée souligner que, contrairement à ce que soutient le recourant, les juges précédents n'ont pas conclu à l'existence d'un intérêt public prépondérant à l'éloignement du recourant en raison de l'existence d'un prétendu mariage fictif.
Au surplus, et conformément à la jurisprudence rappelée ci-dessus, la révocation de l'autorisation d'établissement du recourant, obtenue par dissimulation d'un fait essentiel, doit être confirmée, aucune circonstance particulière ne permettant de conclure à titre exceptionnel au caractère disproportionné de cette mesure. Le fait que le recourant exploite sa propre entreprise, qu'il soit intégré, qu'il n'ait pas de dettes et qu'il n'ait pas été condamné pénalement ne sont pas suffisants à cet égard, et le recourant ne peut pas non plus, dans le contexte de dissimulation d'une relation parallèle qui est le sien, se prévaloir de la durée de son séjour en Suisse. Enfin, il faut souligner que le recourant est né et a grandi au Kosovo, où il a vécu jusqu'à l'âge de 23 ans, et que c'est dans ce pays que vivent sa fiancée et leurs trois enfants communs. La révocation de son autorisation d'établissement n'a donc pas pour conséquence de séparer une famille, mais au contraire de la réunir.
Les juges précédents n'ont donc pas violé le droit fédéral en concluant au caractère proportionné de la révocation de l'autorisation d'établissement du recourant.
8.
Ce qui précède conduit au rejet du recours en matière de droit public. Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours en matière de droit public est rejeté.
3.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au recourant, au Service de la population et des migrants du canton de Fribourg, au Tribunal cantonal du canton de Fribourg, Ie Cour administrative, et au Secrétariat d'Etat aux migrations.
Lausanne, le 11 septembre 2017
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Vuadens