Sachverhalt:
A.
A.a. Der aus dem Kosovo stammende X._ (geb. 1974) reiste 1995 erstmals in die Schweiz ein; in der Folge erhielt er einen negativen Asylentscheid. 1997 lernte er im Kosovo seine Landsfrau A._ (geb. 1977) kennen. Mit ihr hat er zwei Söhne (geb. 1999 und 2000).
A.b. Am 6. Mai 2004 heiratete X._ im Kosovo die im Kanton Zürich niederlassungsberechtigte Landsfrau B._ (geb. 1984). Nach seiner Einreise in die Schweiz am 30. Juli 2004 ersuchte er um Erteilung einer Aufenthaltsbewilligung zum Verbleib bei der Ehefrau. Einen Hinweis auf seine beiden in der Heimat lebenden Kinder unterliess er.
Am 10. August 2007 gab er anlässlich einer "Mutationsmeldung für Ausländer" seinen Personenstand mit "getrennt" an. In seinem über den Arbeitgeber gestellten Gesuch vom 23. Mai 2008 um Verlängerung der Aufenthaltsbewilligung gab er dann aber wieder an, verheiratet zu sein und mit seiner Ehefrau in gemeinsamem Haushalt zusammenzuleben.
Im April 2009 stellte er ein Gesuch um Erteilung der Niederlassungsbewilligung mit - was seine familiären Verhältnisse betrifft - denselben Angaben. Kinder erwähnte er nicht. Am 11. September 2009 erhielt er die Niederlassungsbewilligung. Etwas mehr als drei Monate später - am 23. Dezember 2009 - wurde seine Ehe geschieden. Am 14. August 2010 heiratete er im Kosovo A._ und ersuchte am 8. Januar 2011 für sie und die beiden Söhne um Familiennachzug.
B.
Nach Gewährung des rechtlichen Gehörs und weiteren Abklärungen widerrief die Sicherheitsdirektion des Kantons Zürich (Migrationsamt) mit Verfügung vom 26. Juli 2011 die Niederlassungsbewilligung von X._, setzte ihm Frist zum Verlassen der Schweiz bis zum 31. Oktober 2011 und wies die Nachzugsgesuche für die Ehefrau und die Söhne ab.
Die dagegen erhobenen Rechtsmittel blieben erfolglos (Entscheid der Sicherheitsdirektion des Kantons Zürich vom 12. Oktober 2012, Urteil des Verwaltungsgerichts des Kantons Zürich vom 26. Juni 2013).
C.
Mit Eingabe vom 2. September 2013 führt X._ beim Bundesgericht Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Anträgen, das letztgenannte Urteil aufzuheben und das Migrationsamt anzuweisen, die Niederlassungsbewilligung nicht zu widerrufen bzw. ihm - dem Beschwerdeführer - wieder eine solche zu erteilen. Eventuell sei die Sache an die Vorinstanz zurückzuweisen zur Prüfung, ob anstelle der Niederlassungsbewilligung eine Aufenthaltsbewilligung erteilt werden könne.
Die Sicherheitsdirektion und das Verwaltungsgericht des Kantons Zürich haben auf Vernehmlassung verzichtet. Das Bundesamt für Migration schliesst auf Abweisung der Beschwerde.
D.
Mit Verfügung vom 10. September 2013 hat der Abteilungspräsident der Beschwerde - antragsgemäss - aufschiebende Wirkung zuerkannt.

Erwägungen:
1.
1.1. Der Beschwerdeführer beantragt vor dem Bundesgericht nur noch die Aufhebung des Widerrufs seiner Niederlassungsbewilligung (bzw. die Wiedererteilung einer solchen), derweil die Ablehnung des Familiennachzugsgesuchs für die Ehefrau sowie die gemeinsamen Kinder nicht mehr Streitgegenstand bildet.
1.2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den kantonal letztinstanzlichen Endentscheid betreffend den Widerruf der Niederlassungsbewilligung ist zulässig, weil grundsätzlich ein Anspruch auf das Fortbestehen dieser Bewilligung besteht (vgl. Art. 83 lit. c [e contrario], Art. 86 Abs. 1 lit. d und Art. 90 BGG; <ref-ruling> E. 1.2.1 S.4). Als Adressat des angefochtenen Urteils ist der Beschwerdeführer zur Ergreifung des Rechtsmittels legitimiert (<ref-law>). Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
1.3. Mit der Beschwerde kann eine Rechtsverletzung nach Art. 95 und 96 BGG geltend gemacht werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es legt seinem Urteil den Sachverhalt zugrunde, wie die Vorinstanz ihn festgestellt hat (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law> bzw. <ref-law>). Eine entsprechende Rüge, welche rechtsgenüglich substantiiert vorzubringen ist (<ref-law>; <ref-ruling> E. 2.5 S. 314 mit Hinweisen), setzt zudem voraus, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>).
2.
2.1. Nach dem hier anwendbaren Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) kann die Niederlassungsbewilligung widerrufen werden, wenn der Ausländer oder sein Vertreter im Bewilligungsverfahren falsche Angaben macht oder wesentliche Tatsachen verschwiegen hat (Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 lit. a AuG). Namentlich muss die falsche Angabe oder das Verschweigen wesentlicher Tatsachen in der Absicht erfolgen, gestützt darauf den Aufenthalt oder die Niederlassung bewilligt zu erhalten (Urteile 2C_682/2012 vom 7. Februar 2013 E. 4.1; 2C_726/2011 vom 20. August 2012 E. 3.1.1; 2C_656/2011 vom 8. Mai 2012 E. 2.1). Ein "Verschweigen" im Sinne von Art. 62 lit. a AuG liegt dann vor, wenn der Ausländer aufgrund seiner Gesuchsbegründung bzw. anderer von ihm zu vertretender Umstände bei den Behörden einen falschen Anschein über eine wesentliche Tatsache erweckt hat oder (etwa durch Verschweigen) aufrechterhält (Urteile 2C_214/2013 vom 14. Februar 2014 E. 2.2; 2C_211/2012 vom 3. August 2012 E. 3.1). Der Widerruf der Niederlassungsbewilligung ist indessen auch dann nur zulässig, wenn er aufgrund der relevanten Gesamtumstände als verhältnismässig erscheint (vgl. genanntes Urteil 2C_214/2013 E. 2.1 sowie Urteile 2C_682/2012 vom 7. Februar 2013 E. 5; 2C_726/2011 vom 20. August 2012 E. 3.1.1; 2C_656/2011 vom 8. Mai 2012 E. 2.1).
2.2. Eine ausländische Person ist verpflichtet, an der Feststellung des Sachverhalts mitzuwirken und insbesondere zutreffende und vollständige Angaben über die für die Regelung des Aufenthalts wesentlichen Tatsachen zu machen (Art. 90 Abs. 1 lit. a AuG; Urteil 2C_161/2013 vom 3. September 2013 E. 2.2.1). Wesentlich sind dabei nicht nur Umstände, nach denen die Migrationsbehörde ausdrücklich fragt, sondern auch solche, von denen der Gesuchsteller wissen muss, dass sie für den Bewilligungsentscheid massgeblich sein können (Urteile 2C_211/2012 vom 3. August 2012 E. 3.1; 2C_656/2011 vom 8. Mai 2012 E. 2.1; 2C_403/2011 vom 2. Dezember 2011 E. 3.3.1). Als wesentlicher Umstand gilt gemäss ständiger Rechtsprechung insbesondere das Vorhandensein von vor- bzw. ausserehelichen Kindern bei Gesuchen zum Verbleib beim in der Schweiz ansässigen Ehepartner bzw. bei der Ehepartnerin (vgl. genanntes Urteil 2C_211/2012 E. 3.1 sowie die Urteile 2C_595/2011 vom 24. Januar 2012, E. 3.4; 2C_243/2008 vom 18. Juni 2008 E. 2.3; 2A.423/2006 vom 26. Oktober 2006 E. 2.1; 2A.346/2004 vom 10. Dezember 2004 E. 2.2, in: Pra 2005 Nr. 100 S. 716; je mit Hinweisen). Das Fehlen konkreter Fragen entbindet den Antragsteller nicht von vornherein, über wesentliche Tatsachen von sich aus zu informieren: Zwar trifft eine ausländische Person im Bewilligungsverfahren keine generelle Pflicht, auf vor- oder aussereheliche Kinder hinzuweisen (Urteil 2C_ 214/2013 vom 14. Februar 2014 E. 2.2), und obliegt es kraft des im Verwaltungsverfahren geltenden Untersuchungsgrundsatzes in erster Linie den Behörden, entsprechende Fragen an den Ausländer zu richten (letztgenanntes Urteil a.a.O. sowie Urteile 2C_682/2012 vom 7. Februar 2013 E. 4.1; 2C_726/2011 vom 20. August 2012 E. 3.1.1; 2C_211/2012 vom 3. August 2012 E. 3.1 in fine). Anders ist dies aber bei Konstellationen, bei denen das Vorhandensein von Kindern auf eine Parallelbeziehung im Heimatland hinweisen könnte. Diesfalls werden die Migrationsbehörden, die von einem Gesuch um Aufenthalts- bzw. Niederlassungsbewilligung zwecks Bildung oder Fortsetzung einer ehelichen Gemeinschaft mit dem anwesenheitsberechtigten Partner in der Schweiz ausgehen, durch das Verschweigen der Kinder in dieser Annahme bestärkt, während sie bei Offenlegung weitere Abklärungen treffen würden (vgl. genanntes Urteil 2C_214/2013 a.a.O. sowie Urteile 2C_396/2013 vom 7. Januar 2014 E. 3.4 und 3.5; 2C_746/2013 vom 8. September 2013 E. 2.1; vgl. Thomas Hugi Yar, Von Trennungen, Härtefällen und Delikten - Ausländerrechtliches rund um die Ehe- und Familiengemeinschaft, in: Alberto Achermann et. al [Hrsg.], Jahrbuch für Migrationsrecht 2012/2013, 2013, S. 31 ff., 118).
3.
3.1. Die Vorinstanz stellte fest - nachdem sie sich zunächst mit dem Vorliegen einer allfälligen, von Beginn an bestehenden Scheinehe zwischen dem Beschwerdeführer und B._ auseinandergesetzt hatte -, der Ehemann habe spätestens ab August 2007 nicht mehr in ehelicher Gemeinschaft mit seiner ersten Ehefrau gelebt. Anlässlich der anstehenden Verlängerung seiner Aufenthaltsbewilligung 2008 und auch im Gesuch um Erteilung der Niederlassungsbewilligung 2009 habe er dann wieder angegeben, in gemeinsamem Haushalt mit der Ehefrau zu leben. Während seiner Zeit in der Schweiz sei demgegenüber der Kontakt zu seinen vorehelichen Söhnen aufrecht erhalten worden. Den ersten habe er ungefähr zwei Monate nach der Geburt anerkannt. Spätestens seit 2005 lebe seine jetzige zweite Ehefrau zusammen mit den beiden Kindern bei seinen Eltern und werde von diesen finanziell unterstützt. Daraus schloss die Vorinstanz, die Behauptung des Beschwerdeführers, er habe mit A._ in dieser Zeit keine Beziehung geführt, sei nicht plausibel. Vielmehr habe er in Täuschungsabsicht - um seiner Familie den Nachzug zu ermöglichen - die Existenz seiner beiden Kinder sowie die Trennung von seiner ersten Ehefrau verschwiegen und die Ausländerbehörden dazu veranlasst, ihm zunächst die Aufenthaltsbewilligung zu verlängern und anschliessend die Niederlassungsbewilligung zu erteilen.
3.2. Der Beschwerdeführer rügt, die Vorinstanz habe den Sachverhalt willkürlich festgestellt und Beweise willkürlich gewürdigt. Das Verwaltungsgericht sei zu Unrecht von einer Scheinehe ausgegangen. Dafür gebe es weder Indizien noch Beweise. Vielmehr sei die Ehe mit B._ aus Liebe geschlossen worden, und die Eheleute hätten nach einer vorübergehenden Krisensituation wieder zusammengefunden. Sie hätten bis zur Scheidung am 23. Dezember 2009 zusammengelebt. Es gebe keine "Pläne" des Beschwerdeführers, und mit der Mutter seiner Kinder habe dieser keine Parallelbeziehung unterhalten.
3.3. Die Vorinstanz hat zwar Indizien für eine Scheinehe erwähnt, aber die Frage einer solchen (ab Beginn bestehenden) Scheinehe offen gelassen (E. 4.4). Soweit der Beschwerdeführer vorträgt, seine - erste - Ehe sei aus Liebe geschlossen worden und anfänglich normal gelebt worden, geht seine Argumentation daher an der Sache vorbei. Das Verwaltungsgericht hat vielmehr massgebend darauf abgestellt, dass der Beschwerdeführer nach drei Jahren Ehedauer den Behörden die Existenz seiner Kinder und die Trennung von seiner Ehefrau verschwiegen habe. Das Verwaltungsgericht geht also davon aus, dass diese Ehe (spätestens) nach drei Jahren nur noch zum Schein aufrecht erhalten wurde und dies - sowie die vom Beschwerdeführer verschwiegene Existenz seiner Kinder - für die Erteilung der Niederlassungsbewilligung kausal war.
3.4. Dies ist zwar insofern nicht ganz korrekt, als der Beschwerdeführer seinen Personenstand nach drei Jahren Ehedauer als "getrennt" angab und insoweit die Behörden über den Zustand seiner Ehe damals nicht getäuscht hat. Zutreffend ist aber, dass er vor der Erteilung der Niederlassungsbewilligung (unbestrittenermassen) nichts von der Existenz seiner im Kosovo lebenden Kinder erwähnte und als Personenstand wieder "verheiratet" angab. Der Beschwerdeführer bestreitet auch nicht, dass seine heutige Ehefrau zusammen mit den Kindern im Hause seiner Eltern lebte und von diesen finanziell unterstützt wurde. Unter diesen Umständen aber hätte er im Gesuch um Erteilung der Niederlassungsbewilligung von sich aus auf die Existenz dieser beiden Kinder hinweisen müssen, denn es drängte sich die Frage nach dem Vorliegen einer Parallelbeziehung auf (vorne E. 2.2). Für die Behörden bestand - anders als in dem im bereits erwähnten Urteil 2C_403/2011 behandelten Fall - auch kein Anlass, vor Erteilung der Niederlassungsbewilligung beim Beschwerdeführer nachzufragen, zumal dieser offensichtlich eine Parallelbeziehung führte. Die entsprechenden Kritiken sind unbegründet: Dafür, dass und weshalb die Kindsmutter zusammen mit den Kindern im Hause der Eltern des Beschwerdeführers gelebt hätte, ohne mit diesem Kontakte zu pflegen, ist kein Grund ersichtlich. Wären die Migrationsbehörden vom Beschwerdeführer wahrheitsgetreu auf seine familiären Verhältnisse (zwei voreheliche Kinder zusammen mit der Kindsmutter im Hause seiner Eltern lebend) hingewiesen worden, hätten sie ihm keine Niederlassungsbewilligung erteilt. Der Widerrufsgrund (vorne E. 2.1) ist daher gegeben.
3.5. Auch die erforderliche Verhältnismässigkeitsprüfung (vorne E. 2.1, am Ende) der Vorinstanz ist nicht zu beanstanden: Der Beschwerdeführer ist im Kosovo aufgewachsen und hat dort die prägenden Kinder- und Jugendjahre sowie auch einen nicht unwesentlichen Teil seines Erwachsenenlebes verbracht. Eine besonders gute Integration in der Schweiz liegt nicht vor (vgl. S. 12 des angefochtenen Entscheides [diverse strafrechtliche Verurteilungen]). Hinzu kommt, dass seine Kernfamilie, d.h. seine heutige Frau und die beiden gemeinsamen Kinder, im Kosovo leben, so dass das Familienleben ohne Weiteres dort geführt werden kann (vgl. Urteile 2C_746/2013 vom 8. September 2013 E. 2.3; 2C_287/2012 vom 2. November 2012 E. 3.4). Eine Rückkehr erscheint klarerweise zumutbar.
4.
Der vom Beschwerdeführer gestellte Eventualantrag auf Rückweisung der Sache zur Erteilung einer Aufenthaltsbewilligung ist unbegründet (vgl. Urteil 2C_375/2010 vom 3. September 2012 E. 3.6 und dort zitierte Urteile).
5.
Die Beschwerde ist damit abzuweisen. Der unterliegende Beschwerdeführer trägt die Kosten des Verfahrens (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, der Sicherheitsdirektion und dem Verwaltungsgericht (4. Kammer) des Kantons Zürich sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 28. März 2014
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Seiler
Der Gerichtsschreiber: Klopfenstein