Sachverhalt:
A.
A._, ein 1978 geborener Staatsangehöriger Kosovos, reiste am 15. Dezember 2006 in die Schweiz ein. Hier wurde ihm nach der im Februar 2007 erfolgten Heirat mit der über eine Niederlassungsbewilligung verfügenden Ukrainerin B._ (geboren 1966) eine Aufenthaltsbewilligung für den Kanton Zürich erteilt. Am 8. März 2012 wurde A._ eine Niederlassungsbewilligung erteilt. Die kinderlos gebliebene Ehe mit B._ wurde am 1. Dezember 2014 geschieden.
Am 31. März 2016 heiratete A._ in seiner Heimat die 1978 geborene C._, die serbische Staatsangehörige ist. Mit dieser hat er eine bereits im Juli 2003 geborene Tochter sowie einen im April 2007 geborenen Sohn. Am 2. Juni 2016 und am 20. März 2018 ersuchten A._ und C._ um Bewilligung der Einreise Letzterer und ihrer beiden Kinder zum Ehemann bzw. Vater in die Schweiz. Das erste dieser beiden Gesuche wurde anfangs 2017 wegen Fehlens erforderlicher Unterlagen als gegenstandslos abgeschrieben.
Das Migrationsamt des Kantons Zürich widerrief mit Verfügung vom 25. Juli 2019 die Niederlassungsbewilligung von A._ und wies ihn aus der Schweiz weg; zugleich wies es das Familiennachzugsgesuch vom 20. März 2018 ab. Zur Begründung führte das Migrationsamt aus, C._ und A._ hätten während dessen erster Ehe in der Schweiz eine Parallelbeziehung geführt.
B.
Die hiergegen von A._ erhobenen kantonalen Rechtsmittel blieben ohne Erfolg (Entscheid der Sicherheitsdirektion des Kantons Zürich vom 6. März 2020; Urteil des Verwaltungsgerichts des Kantons Zürich vom 8. September 2020 [versandt am 15. September 2020]).
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht vom 16. Oktober 2020 beantragt A._, unter Aufhebung des Urteils des Verwaltungsgerichts des Kantons Zürich vom 8. September 2020 sei seine Niederlassungsbewilligung nicht zu widerrufen und sei die Sache zu neuem Entscheid über den beantragten Familiennachzug seiner heutigen Ehefrau und der beiden gemeinsamen Kinder an das Migrationsamt des Kantons Zürich zurückzuweisen. Im Übrigen verlangte A._ die Erteilung der aufschiebenden Wirkung.
Das Migrationsamt des Kantons Zürich, die Sicherheitsdirektion des Kantons Zürich, das Verwaltungsgericht des Kantons Zürich und das Staatssekretariat für Migration verzichten auf Vernehmlassung.
Mit Präsidialverfügung vom 19. Oktober 2020 erteilte das Bundesgericht der Beschwerde antragsgemäss die aufschiebende Wirkung.

Erwägungen:
1.
Mit dem angefochtenen Urteil wird der Widerruf der Niederlassungsbewilligung des Beschwerdeführers und - als Folge davon - die Verweigerung des Familiennachzuges für seine Ehefrau sowie die gemeinsamen beiden Kinder bestätigt. Gegen den Widerruf der Niederlassungsbewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig, weil grundsätzlich ein Anspruch auf den Fortbestand der Niederlassungsbewilligung gegeben ist (<ref-law> e contrario; <ref-ruling> E. 1.2.1 S. 4). Im Falle der Unzulässigkeit des Widerrufs hätten die Ehefrau und die minderjährigen Kinder des hier niedergelassenen Beschwerdeführers grundsätzlich Anspruch auf Familiennachzug (Art. 43 Abs. 1 des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer [AuG; seit dem 1. Januar 2019: Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländern und über die Integration [Ausländer- und Integrationsgesetz, AIG; SR 142.20; zum Intertemporalrecht sogleich E. 3] und Art. 8 EMRK), so dass die Beschwerde in öffentlich-rechtlichen Angelegenheiten auch insoweit zulässig ist.
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und 96 BGG gerügt werden. Die Anwendung kantonalen Rechts wird vom Bundesgericht - abgesehen von den Fällen von Art. 95 lit. c und d BGG - als solche nicht überprüft. Möglich ist nur die Rüge, die Anwendung kantonalen Rechts widerspreche u.a. dem Bundesrecht (<ref-ruling> E. 2.1 S. 372). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>).
Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Das Gericht prüft grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 2 S. 116; <ref-ruling> E. 1.4.1 S. 254).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 116). Die Beschwerdeführer können die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Sie haben substanziiert darzulegen, weswegen diese Voraussetzungen gegeben sein sollen; werden sie dieser Anforderung nicht gerecht, bleibt es beim vorinstanzlich festgestellten Sachverhalt (<ref-ruling> E. 1.3.1 S. 18).
Die Sachverhaltsfeststellung bzw. Beweiswürdigung erweist sich als willkürlich (<ref-law>), wenn das Gericht Sinn und Tragweite eines Beweismittels offensichtlich verkannt hat, wenn es ohne sachlichen Grund ein wichtiges und entscheidwesentliches Beweismittel unberücksichtigt gelassen oder wenn es auf der Grundlage der festgestellten Tatsachen unhaltbare Schlussfolgerungen gezogen hat. Dass die von Sachgerichten gezogenen Schlüsse nicht mit der eigenen Darstellung der Beschwerdeführer übereinstimmen, belegt keine Willkür (<ref-ruling> E. 2.3 S. 266; <ref-ruling> E. 4.2 S. 234; <ref-ruling> E. 4.2 S. 560).
2.3.
2.3.1. Im angefochtenen Urteil erklärte die Vorinstanz insbesondere, der Beschwerdeführer habe zunächst noch ausgeführt, dass seine erste Ehe "immer wieder von Spannungen geprägt" gewesen sei und er "während diesen Jahren [...] aussereheliche intime Beziehung mit seine bereits frühere Partnerin" gepflegt habe (E. 4.3 des angefochtenen Urteils). Erst im Rahmen der späteren Gehörsgewährung habe das heutige Ehepaar hiervon abweichend vorgebracht, a) der Kontakt untereinander sei vor der Geburt ihrer Tochter abgebrochen, b) man habe sich erst wiedergesehen, als diese "3-4 Jahre alt" gewesen sei, c) dannzumal unter Alkoholeinfluss eine Nacht miteinander verbracht und d) sich in der Folge abermals für mehrere Jahre (ausser bei zwei Gerichtsverhandlungen in den Jahren 2010 und 2013) nicht mehr gesehen.
Der Beschwerdeführer macht diesbezüglich sinngemäss geltend, die Vorinstanz habe den Sachverhalt auf willkürliche Weise festgestellt, indem sie ihm mit den genannten Ausführungen unterstellt habe, abweichend von seiner früheren Darstellung erklärt zu haben, seine heutige Ehefrau erst drei bis vier Jahre nach der Geburt der Tochter wieder gesehen zu haben. Es lässt sich aber nicht sagen, die Vorinstanz habe in diesem Punkt aus den festgestellten Tatsachen unhaltbare Schlüsse gezogen oder den rechtserheblichen Sachverhalt auf andere Weise willkürlich festgestellt. Denn die von der Vorinstanz aufgegriffenen Aussagen des heutigen Ehepaares erscheinen insofern als widersprüchlich (resp. als voneinander abweichend), als der Beschwerdeführer gemäss seiner ursprünglichen Aussage während den Jahren seiner ersten Ehe - also über eine gewisse Zeitspanne hinweg - eine aussereheliche Beziehung zur heutigen Ehefrau pflegte, wogegen das heutige Ehepaar gemäss einer eigenen, späteren Aussage während der Dauer der ersten Ehe des Beschwerdeführers nur für eine Nacht intim geworden sein soll und sich die Kontakte im Übrigen auf zwei Gerichtstermine beschränkt haben sollen. Dieser hinsichtlich der Natur (und Dauer) der ausserehelichen Kontakte während der ersten Ehe bestehende Widerspruch in den Aussagen lässt sich entgegen der Beschwerde auch nicht mit dem Hinweis auflösen, dass die Tochter im Jahr 2003 und der Sohn vier Jahre später, im Jahr 2007, geboren wurde.
2.3.2. Der Beschwerdeführer macht sinngemäss auch geltend, die Vorinstanz habe den rechtserheblichen Sachverhalt auf willkürliche Weise festgestellt, indem sie angenommen habe, er und seine erste Ehefrau hätten widersprüchliche Angaben zur Frage gemacht, ob diese Ehefrau mit ihm im Kosovo gewesen sei. Zwar habe seine erste Ehefrau - wie im angefochtenen Urteil festgehalten - ausgesagt, nie in der Heimat des Beschwerdeführers gewesen zu sein, und habe er demgegenüber erklärt, mit seiner ersten Ehefrau insgesamt zehnmal gemeinsame Ferien in seinem Heimatland verbracht zu haben. Doch lasse sich darin entgegen der Vorinstanz kein Widerspruch erblicken, da es auf der Hand liege, dass hier "ein Kommunikationsproblem" vorliege und der Beschwerdeführer bei Abgabe der genannten Erklärung die gemeinsamen Ferien in Albanien offensichtlich als Ferien in seinem Heimatland betrachtet habe (vgl. Beschwerde, S. 15).
Es kann hier dahingestellt bleiben, ob die vorinstanzliche Annahme als willkürlich erscheint, dass die erste Ehefrau des Beschwerdeführers eine von seinen Angaben auffälligerweise abweichende Darstellung zur Frage abgegeben hat, ob sie mit ihm im Kosovo gewesen war. Denn wie im Folgenden ersichtlich wird, würde sich am Ausgang des vorliegenden Verfahrens selbst dann nichts ändern, wenn davon auszugehen wäre, dass der Beschwerdeführer und seine erste Ehefrau in diesem Punkt keine widersprüchlichen Angaben gemacht haben.
2.4. Nach dem Gesagten ist vorliegend grundsätzlich vom Sachverhalt auszugehen, wie er im angefochtenen Urteil festgestellt worden ist (vgl. <ref-law>).
3.
Das Widerrufsverfahren und das vorliegend in Frage stehende Nachzugsgesuch sind im Jahr 2018 eingeleitet bzw. eingereicht worden (vgl. Ziff. I. des angefochtenen Urteils). Folglich ist die Vorinstanz zu Recht davon ausgegangen, dass das AuG in der bis zum 31. Dezember 2018 geltend gewesenen Fassung zur Anwendung gelangt (vgl. E. 4.1 des angefochtenen Urteils).
4.
4.1. Nach Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 Abs. 1 lit. a AuG kann die Niederlassungsbewilligung einer Person widerrufen werden, wenn sie oder ihr Vertreter im Bewilligungsverfahren falsche Angaben macht oder wesentliche Tatsachen verschwiegen hat. Dies ist namentlich beim Vorliegen einer Scheinehe der Fall (vgl. <ref-ruling> E. 3.2 S. 267; <ref-ruling> E. 2.1 S. 395; Urteile 2C_562/2019 vom 12. November 2019 E. 5.1; 2C_1077/2017 vom 8. Januar 2019 E. 4.1).
Der Widerruf der Niederlassungsbewilligung nach Art. 62 Abs. 1 lit. a AuG ist nicht zulässig, wenn sich der Ausländer seit mehr als 15 Jahren ununterbrochen und ordnungsgemäss in der Schweiz aufhält (Art. 63 Abs. 2 AuG). Massgebend für die Berechnung der 15-Jahres-Frist ist der Zeitpunkt der erstinstanzlichen Widerrufsverfügung (<ref-ruling> E. 4.2 S. 12; Urteil 2C_144/2019 vom 25. Februar 2019 E. 2.3).
4.2. Eine ausländische Person, welche um Aufenthalt in der Schweiz ersucht, ist verpflichtet, an der Feststellung des Sachverhalts mitzuwirken und zutreffende sowie vollständige Angaben über die für die Regelung des Aufenthalts wesentlichen Tatsachen zu machen (Art. 90 Abs. 1 lit. a AuG). Nach der Rechtsprechung zu Art. 62 Abs. 1 lit. a AuG muss die ausländische Person die Fragen der Migrationsbehörde wahrheitsgetreu beantworten. Falsche Angaben, welche für die Erteilung der Aufenthalts- oder Niederlassungsbewilligung relevant sind, führen grundsätzlich zum Widerruf derselben. Dabei ist nicht erforderlich, dass die Bewilligung bei richtigen oder vollständigen Angaben mit Sicherheit verweigert worden wäre. Es genügt, wenn der Anspruch auf eine Bewilligung bei Offenlegung der Verhältnisse ernsthaft in Frage gestellt gewesen wäre (<ref-ruling> E. 3.1 S. 266; Urteile 2C_562/2019 vom 12. November 2019 E. 5.2; 2C_279/2017 vom 25. September 2017 E. 3.1).
4.3. Was das Verschweigen wesentlicher Tatsachen betrifft, muss bei der ausländischen Person eine Täuschungsabsicht vorliegen. Eine solche ist zu bejahen, wenn die ausländische Person einen falschen Anschein über Tatsachen erweckt hat oder aufrechterhält, von denen sie vernünftigerweise wissen musste, dass sie für den Bewilligungsentscheid von Bedeutung sein könnten (<ref-ruling> E. 4.1 S. 9; Urteil 2C_169/2018 vom 17. August 2018 E. 2.2).
Gemäss bundesgerichtlicher Praxis trifft die ausländische Person im Bewilligungsverfahren ohne ausdrückliche entsprechende Befragung seitens der Behörden keine generelle Pflicht, auf die Existenz von vor- oder ausserehelichen Kindern im Ausland hinzuweisen. Dies ist nur soweit erforderlich, als deren Existenz für den ausländerrechtlichen Status nicht nur potentiell, sondern aufgrund sämtlicher Umstände auch konkret als wesentlich zu gelten hat (<ref-ruling> E. 3.2 S. 266 f.; Urteile 2C_169/2018 vom 17. August 2018 E. 3.3.1; 2C_1115/2015 vom 20. Juli 2016 E. 4.2.1). Ausschlaggebend ist demnach nicht das (alleinige) Verschweigen von vor- oder ausserehelichen Kindern, sondern der dadurch indizierte Verdacht, dass im Heimatland eine parallel gelebte Beziehung bestand, die künftig unter Umgehung von Sinn und Zweck der ausländerrechtlichen Regeln zu einem Familiennachzug führen soll (Urteile 2C_169/2018 vom 17. August 2018 E. 3.3.1; 2C_1115/2015 vom 20. Juli 2016 E. 4.2.1). Das Verschweigen einer Parallelbeziehung im Ausland ist ein Widerrufsgrund nach Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 Abs. 1 lit. a AuG, da die ausländische Person damit versucht, die Behörden über den stabilen Charakter ihrer Beziehung zu der in der Schweiz lebenden Person zu täuschen, aufgrund welcher sie gemäss Art. 42 oder 43 AuG einen Anspruch auf Erteilung einer Aufenthalts- oder Niederlassungsbewilligung hat (<ref-ruling> E. 3.2 S. 266 f.; Urteil 2C_169/2018 vom 17. August 2018 E. 3.3.1). Die Geburt von ausserehelichen oder vorehelichen Kindern während des Bestehens der Ehe in der Schweiz bildet ein - nicht allein - entscheidendes Indiz in diesem Zusammenhang. Neben der Zeugung gemeinsamer Kinder sind je nachdem zusätzliche andere Hinweise dafür erforderlich, dass tatsächlich eine Zweitbeziehung bestand. Solche können etwa darin liegen, dass sich die Partner regelmässig wechselseitig besuchen, besondere wirtschaftliche Leistungen an den anderen Elternteil erbringen oder eine De-facto-Ehe in der Heimat aufrechterhalten. Entscheidend ist die qualitative Natur der Beziehung, die - parallel zur hiesigen Ehe - im Ausland gelebt wird und zeitverschoben den späteren Familienzusammenschluss in der Schweiz bezweckt (Urteil 2C_1115/2015 vom 20. Juli 2016 E. 4.2.2; siehe zum Ganzen Urteil 2C_118/2018 vom 17. Mai 2019 E. 4.4).
4.4. Bei der Beurteilung, ob eine Scheinehe vorliegt, gilt es weiter zu berücksichtigen, dass eine solche nicht bereits dann gegeben ist, wenn auch ausländerrechtliche Motive den Eheschluss beeinflusst haben. Erforderlich ist vielmehr, dass der Wille zur Führung der Lebensgemeinschaft im Sinne einer auf Dauer angelegten wirtschaftlichen, körperlichen und spirituellen Verbindung zumindest bei einem der Ehepartner fehlt (<ref-ruling> E. 3b S. 102; Urteil 2C_292/2017 vom 8. März 2018 E. 4.2). Dabei ist es grundsätzlich Sache der Migrationsbehörde, die Scheinehe nachzuweisen. Dass eine Scheinehe vorliegt, darf nicht leichthin angenommen werden. Diesbezügliche Indizien müssen klar und konkret sein (<ref-ruling> E 4.2 S. 10; <ref-ruling> E. 2.2 S. 151; Urteil 2C_118/2017 vom 18. August 2017 E. 4.2). Der Untersuchungsgrundsatz wird aber durch die Mitwirkungspflicht der Parteien relativiert (Art. 90 AuG; vorne E. 4.2). Diese kommt naturgemäss bei Tatsachen zum Tragen, die eine Partei besser kennt als die Behörden und die ohne ihre Mitwirkung gar nicht oder nicht mit vernünftigem Aufwand erhoben werden können (vgl. <ref-ruling> E. 8.6.4 S. 496 f.; Urteil 2C_118/2017 vom 18. August 2017 E. 4.2 mit Hinweisen). Insbesondere für den Fall, dass bereits gewichtige Hinweise für eine Ausländerrechtsehe sprechen, wird vom betroffenen Ausländer erwartet, dass er von sich aus Umstände vorbringt und belegt, die den echten Ehewillen glaubhaft machen (Urteile 2C_723/2020 vom 3. Dezember 2020 E. 4.3.2; 2C_562/2019 vom 12. November 2019 E. 5.4; 2C_377/2018 vom 30. August 2018 E. 3.1; 2C_936/2016 vom 17. März 2017 E. 2.3).
4.5. Die Feststellung von Indizien, die für das Vorliegen einer Scheinehe sprechen, ist eine Tatfrage, die das Bundesgericht nur auf offensichtliche Unrichtigkeit und auf Rechtsverletzungen im Sinne von <ref-law> hin überprüft (vorne E. 2.1). Keine Kognitionsbeschränkung besteht hingegen für die Rechtsfrage, ob die festgestellten Tatsachen (Indizien) darauf schliessen lassen, die Berufung auf die Ehe sei rechtsmissbräuchlich (BGE <ref-ruling> E. 2.3 S. 152; Urteile 2C_562/2019 vom 12. November 2019 E. 5.4; 2C_1077/2017 vom 8. Januar 2019 E. 4.1).
5.
Nachdem sich der Beschwerdeführer seit seiner Heirat mit B._ im Februar 2007 ordnungsgemäss in der Schweiz aufhält und die erstinstanzliche Widerrufsverfügung am 25. Juli 2019 ergangen ist, ist Art. 63 Abs. 2 AuG mangels Ablaufes der 15-jährigen Frist nicht anwendbar (vgl. vorne E. 4.1). Damit kommt vorliegend grundsätzlich ein Widerruf der Niederlassungsbewilligung nach Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 Abs. 1 lit. a AuG in Betracht.
5.1. Die Vorinstanz erwog, dass der Widerrufstatbestand von Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 Abs. 1 lit. a AuG erfüllt sei, weil es sich bei der früheren Ehe des Beschwerdeführers mit B._ um eine Scheinehe gehandelt habe. Sie erklärte, die zeitliche Abfolge der Geschehnisse (Erteilung der Niederlassungsbewilligung am 8. März 2012, Einleitung der einvernehmlichen Scheidung Ende September 2014, Heirat mit der in der Heimat lebenden Mutter seiner vorehelichen Kinder keine eineinhalb Jahre nach der Scheidung der ersten Ehe und zwei Monate später die Einreichung eines Familiennachzugsgesuches betreffend die neue Gattin sowie die gemeinsamen Kinder) entspreche einem bekannten Verhaltensmuster, mit welchem ausländische Personen beabsichtigen würden, sich in der Schweiz ein gesichertes Aufenthaltsrecht zu verschaffen und der Familie später den Nachzug zu ermöglichen. Indiz für eine Scheinehe bilde auch der Umstand, dass B._ zwölf Jahre älter als der Beschwerdeführer sei. Weiter erklärte die Vorinstanz, der Beschwerdeführer habe bis zum Gesuch um Nachzug seiner zweiten Ehefrau das Migrationsamt des Kantons Zürich nicht über seine zweifache Vaterschaft in Kenntnis gesetzt, obschon ihm hätte klar sein müssen, dass das Migrationsamt im Wissen darum Abklärungen hinsichtlich seiner Beziehung zur gleichaltrigen Kindsmutter vorgenommen hätte. Ferner verwies die Vorinstanz darauf, dass die ursprüngliche Aussage des Beschwerdeführers über seine Kontakte zu seiner heutigen Ehefrau während seiner ersten Ehe - wie ausgeführt - nicht mit der späteren Darstellung des heutigen Ehepaares übereinstimmt. Ernsthafte Zweifel an der jüngeren Darstellung des heutigen Ehepaares, wonach während der ersten Ehe des Beschwerdeführers über die genannte gemeinsam verbrachte Nacht hinaus kaum Kontakte bestanden hätten, seien auch gegeben, weil (namentlich aufgrund von Angaben in aktenkundigen Steuererklärungen und einem Gerichtsentscheid) Hinweise darauf bestünden, dass die neue Ehefrau zusammen mit den Kindern schon Jahre vor der Heirat mit dem Beschwerdeführer in dessen Haus in U._ gewohnt habe. Sodann sei auch als Indiz für eine Scheinehe zu werten, dass der Beschwerdeführer und seine erste Ehefrau teils lückenhafte, widersprüchliche Angaben zu ihrer Hochzeit gemacht hätten, indem sie unterschiedliche Personen als Trauzeuge der Ehegattin genannt hätten und sich die erste Ehefrau des Beschwerdeführers nicht an das Hochzeitsdatum habe erinnern können. Im Übrigen habe der Beschwerdeführer bei der Angabe des Geburtsdatums seiner ersten Ehefrau anlässlich einer polizeilichen Befragung grob daneben gelegen (xx.xx. 1962 statt yy.yy. 1966).
5.2. Es ist nicht zu beanstanden, dass die Vorinstanz angesichts des eben Dargelegten auf eine Scheinehe geschlossen und damit einen Widerrufsgrund im Sinne von Art. 63 Abs. 1 lit. a in Verbindung mit Art. 62 Abs. 1 lit. a AuG bejaht hat:
5.2.1. Zwar lässt sich vorliegend mangels verlässlicher Angaben über den Zeitpunkt des Kennenlernens nicht sagen, der Beschwerdeführer und seine erste Ehefrau hätten sich in auffälliger Weise nur kurz vor ihrer Heirat kennengelernt. Auch liegt (wie in der Beschwerde zutreffend geltend gemacht wird) anders als in anderen Fällen, bei welchen eine Scheinehe bejaht wurde, keine kurz nach Abweisung eines Asylgesuches (oder Abweisung eines anderen Gesuches um Erlangung eines Aufenthaltstitels) erfolgte Heirat mit einer hier anwesenheitsberechtigten Person vor und war der Beschwerdeführer vor Eingehung der Ehe mit der hier niedergelassenen Person auch nicht mit der späteren Ehefrau bereits einmal verheiratet gewesen. Zudem zeugte er während seiner ersten Ehe keine ausserehelichen Kinder.
Gleichwohl durfte die Vorinstanz den vorliegenden zeitlichen Ablauf der Geschehnisse bundesrechtskonform als Indiz für eine Scheinehe werten: Denn die Zeitspanne zwischen der Erteilung der Niederlassungsbewilligung (März 2012) und der Einleitung der Scheidung (Ende September 2014) erscheint als verhältnismässig kurz, ebenso die Zeitspanne zwischen der Scheidung (1. Dezember 2014) und der Heirat mit der heutigen Ehefrau (Ende März 2016) sowie der Zeitraum zwischen der letzteren Heirat und dem ersten Familiennachzugsgesuch vom 2. Juni 2016. Zwar weist der Beschwerdeführer zutreffend darauf hin, dass in anderen Konstellationen, bei welchen Scheinehen mit einer Parallelbeziehung im Ausland bejaht wurden, eine raschere Abfolge einzelner (oder aller) Etappen vorgelegen hat (vgl. Beschwerde, S. 8 f., mit Hinweis auf <ref-ruling> [zweite Heirat im Monat nach Rechtskraft der Scheidung und Familiennachzugsgesuch einen Monat später]; Urteil 2C_672/2013 vom 27. November 2013 [zweite Heirat rund vier Monate nach der Scheidung; Familiennachzugsgesuch aber erst rund zweieinhalb Jahre nach der zweiten Heirat]; Urteil 2C_734/2009 vom 19. April 2010 [zweite Heirat rund sechs Monate nach der Scheidung; Familiennachzugsgesuch knapp zwei Jahre nach der zweiten Heirat]). Gleichwohl sind die erwähnten Zeitspannen im vorliegenden Fall bei einer Gesamtbetrachtung genügend kurz, um den zeitlichen Ablauf, wenn auch nicht (wie nach dem angefochtenen Urteil) als gewichtiges, so doch als nicht unbedeutendes Indiz für das Vorliegen einer Scheinehe zu qualifizieren.
5.2.2. Der Beschwerdeführer hat gegenüber dem kantonalen Migrationsamt unbestrittenermassen die Existenz seiner beiden vor- bzw. ausserehelichen Kinder verschwiegen. Dabei bildet der Umstand, dass eines dieser Kinder während seiner Ehe geboren wurde, rechtsprechungsgemäss ein Indiz dafür, dass er eine Parallelbeziehung im Ausland verschwiegen haben könnte (vgl. vorne E. 4.3). Es fehlt auch nicht an weiteren, nach der erwähnten Rechtsprechung unter Umständen erforderlichen Hinweisen dafür, dass tatsächlich eine parallele Zweitbeziehung bestand. Als entsprechender Hinweis ist insbesondere der Umstand zu betrachten, dass Anhaltspunkte dafür bestehen, dass die heutige Ehefrau während der ersten Ehe des Beschwerdeführers mit den Kindern in dessen Haus in U._ gewohnt hat. Denn sollte dies der Fall gewesen sein, hätte der Beschwerdeführer seiner heutigen Ehefrau und Mutter seiner Kinder schon während der ersten Ehe besondere wirtschaftliche Leistungen erbracht (vgl. dazu auch vorne E. 4.3). Der Beschwerdeführer stösst deshalb ins Leere, soweit er vor dem Bundesgericht geltend macht, der Umstand, dass seine heutige Ehefrau während seiner ersten Ehe mit den Kindern in seinem Haus gelebt haben soll, könne nicht als Indiz für eine Parallelbeziehung im Sinne der Rechtsprechung gewertet werden.
Die Tatsache, dass der Beschwerdeführer in der Schweiz einer geregelten Erwerbstätigkeit nachgegangen und er jährlich (lediglich) für mindestens zwei Wochen zu Besuchszwecken in seine Heimat zurückgekehrt ist, schliesst sodann nicht aus, dass er eine Parallelbeziehung zu seiner heutigen Ehefrau führte. Dies gilt schon deshalb, weil es auf die qualitative Natur der ausserehelichen Beziehung ankommt (vgl. vorne E. 4.3), die Dauer der Besuche des Beschwerdeführers im Heimatland dagegen nicht allein entscheidend ist und die Aussagen des Beschwerdeführers es ohnehin auch als möglich erscheinen lassen, dass er während seiner ersten Ehe durchschnittlich erheblich mehr als zwei Wochen bei seiner heutigen Ehefrau in der Heimat weilte.
Sodann steht (anders als gemäss der Beschwerde) der Umstand, dass der Beschwerdeführer vor der Geburt seines Sohnes den Kosovo verliess und die erste Ehe einging, der Annahme einer Parallelbeziehung nicht entgegen, da das Verlassen der Heimat und der damit verbundene Verzicht auf das Beisein bei der Geburt des Sohnes im Interesse einer rascheren Ermöglichung des Familiennachzuges erfolgt sein können.
Es ist mit Blick auf das Ausgeführte im Übrigen nicht ersichtlich, worauf der Beschwerdeführer abzielen will, soweit er behauptet, es habe "nur" ein "aussereheliches Verhältnis" mit "ausserehelichen Intimitäten" und keine Parallelbeziehung im Sinne der Rechtsprechung vorgelegen (vgl. dazu Beschwerde, S. 14).
5.2.3. Weiter lassen sich die von der Vorinstanz als Indizien ins Feld geführten, hiervor in E. 5.1 genannten widersprüchlichen oder lückenhaften Angaben des Beschwerdeführers und seiner ersten Ehefrau durchaus als zusätzliche Hinweise auf das Vorliegen einer Scheinehe betrachten. Das Heiratsdatum, die Person des Trauzeugen und das Geburtsdatum einer Ehepartnerin bilden - anders als der Beschwerdeführer zu suggerieren sucht - keine Nebensächlichkeiten, bei welchen es nicht ungewöhnlich ist, dass sie nach mehreren Jahren in Vergessenheit geraten. Zu berücksichtigen ist in diesem Kontext auch, dass der Beschwerdeführer und seine erste Ehefrau auch unterschiedliche Angaben zur Frage lieferten, wann sie sich kennengelernt haben, und der Beschwerdeführer diesbezüglich die Darstellung im Laufe der Zeit wechselte. Selbst wenn es möglich ist, dass einzelne dieser Sachverhalte nicht mehr korrekt in Erinnerung geblieben sind, sticht doch die Häufung der genannten widersprüchlichen und lückenhaften Angaben ins Auge, zumal gerade das erste Kennenlernen und die Trauung nach allgemeiner Lebenserfahrung prägende Ereignisse bilden, die im Gedächtnis haften bleiben (vgl. Urteil 2C_186/2019 vom 16. September 2019 E. 8.2).
5.2.4. Weil schon mit Blick auf das Ausgeführte - unabhängig davon, ob (auch) widersprüchliche Angaben zu Aufenthalten der ersten Ehefrau des Beschwerdeführers im Kosovo vorliegen - gewichtige Hinweise für eine Scheinehe sprachen, hätte es am Beschwerdeführer gelegen, von sich aus Umstände vorzubringen und zu belegen, welche den echten Ehewillen glaubhaft machen (vgl. vorne E. 4.4). Solches hat der Beschwerdeführer aber nicht ansatzweise getan.
6.
6.1. Der Widerruf der Niederlassungsbewilligung muss verhältnismässig sein (vgl. <ref-law> und Art. 96 AuG). Abzuwägen ist das öffentliche Interesse an der Wegweisung gegen das private Interesse des Betroffenen am Verbleib in der Schweiz (<ref-ruling> E. 2.1 S. 147). Massgebliche Kriterien sind dabei unter anderem die Dauer der Anwesenheit und der Grad der Integration, die familiären Verhältnisse sowie die Wiedereingliederungschancen im Herkunftsstaat (<ref-ruling> E. 2.2 S. 19 ff.; <ref-ruling> E. 2.3 S. 33 ff.). Die Niederlassungsbewilligung eines Ausländers, der sich seit langer Zeit in der Schweiz aufhält, soll nur mit besonderer Zurückhaltung widerrufen werden (Urteil 2C_782/2019 vom 10. Februar 2020 E. 3.1).
6.2. Die Vorinstanz wog das öffentliche Interesse an der verfügten ausländerrechtlichen Massnahme mit dem privaten Interesse des Beschwerdeführers am Verbleib in der Schweiz ab und gelangte zum Schluss, dass der Widerruf der Niederlassungsbewilligung verhältnismässig sei. Es führte aus, der Beschwerdeführer sei im Alter von 28 Jahren in die Schweiz eingereist und halte sich hier seit bald 14 Jahren auf, doch beruhe seine hiesige Anwesenheit einzig auf einer Täuschung der Behörden und könne die Aufenthaltsdauer damit nur eine untergeordnete Rolle spielen. Zwar möge der Beschwerdeführer wirtschaftlich und beruflich gut integriert sein, doch seien ausserfamiliäre soziale Kontakte nicht belegt. Hingegen habe der Beschwerdeführer während seines hiesigen Aufenthalts mit seinen jährlichen Besuchen regelmässige Kontakte zu seinem Heimatland aufrechterhalten, wo nebst seiner heutigen Ehefrau und den Kindern auch seine Eltern sowie vier seiner insgesamt neun Geschwister leben würden. Der Beschwerdeführer sei mit den Verhältnissen im Heimatland, wo er den Grossteil seines bisherigen Lebens verbracht habe, noch bestens vertraut und verfüge dort auch über Wohneigentum. Mit Unterstützung seiner Familie dürfte es ihm - so die Vorinstanz - ohne grössere Probleme möglich sein, sich wieder in der Heimat zu integrieren.
6.3. Die von der Vorinstanz vorgenommene Verhältnismässigkeitsprüfung ist im Ergebnis bundesrechtskonform. Zwar hielt sich der Beschwerdeführer während fast 15 Jahren und damit schon seit längerer Zeit in der Schweiz auf (vgl. E. 6.1 hiervor), doch ist diese Aufenthaltsdauer erheblich zu relativieren, da sein Aufenthalt auf einer Täuschung der Behörden beruhte (vgl. Urteil 2C_234/2017 vom 11. September 2017 E. 7.1 mit Hinweisen). Die in der Schweiz gepflegten familiären Kontakte des Beschwerdeführers, der hier nach eigenen Angaben über vier Geschwister verfügt, hat die Vorinstanz mitberücksichtigt (und dem Beschwerdeführer entgegen der Darstellung in der Beschwerde nicht unterstellt, in der Schweiz gar keine sozialen Kontakte zu unterhalten). Allein gestützt auf die Aufenthaltsdauer lässt sich sodann nicht darauf schliessen, dass der Beschwerdeführer ausserfamiliäre soziale Beziehungen in der Schweiz pflegt. Zwar dürfte es dem Beschwerdeführer - wie er unter Hinweis auf die Arbeitslosenquote im Kosovo sinngemäss geltend macht - nicht leicht fallen, in wirtschaftlicher bzw. beruflicher Hinsicht in seiner Heimat Fuss zu fassen. Nebst seiner Familie können dem Beschwerdeführer, der seine prägenden Kindheits- und Jugendjahre im Kosovo verbrachte, dabei aber die in der Schweiz erworbenen Berufserfahrungen und seine Vertrautheit mit den Verhältnissen im Heimatland helfen. Es erscheint auch nicht als bundesrechtswidrig, dass die Vorinstanz das Grundeigentum, über das der Beschwerdeführer in der Heimat verfügt, als Stütze bei der Reintegration betrachtet hat (vgl. Urteil 2C_664/2020 vom 10. November 2020 E. 8.2).
6.4. Nach dem Gesagten ist es bundesrechtskonform, dass die Vorinstanz den Widerruf der Niederlassungsbewilligung bestätigt hat. Diesbezüglich ist die Beschwerde somit unbegründet und abzuweisen.
7.
Der Nachzug der heutigen Ehefrau des Beschwerdeführers sowie der beiden gemeinsamen Kinder fällt angesichts des Widerrufs seiner Niederlassungsbewilligung ausser Betracht (vgl. auch Urteil 2C_169/2018 vom 17. August 2018 E. 5). Auch insoweit erweist sich die Beschwerde damit als unbegründet und ist abzuweisen.
8.
Bei diesem Verfahrensausgang sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Es ist keine Parteientschädigung geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 23. Februar 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Der Gerichtsschreiber: König