Sachverhalt:
A.
A.A._ (geboren 1955) ist Staatsbürger der Republik Kosovo. Er heiratete am 13. Dezember 2003 in zweiter Ehe die Schweizer Bürgerin D._ (geboren 1933) und reiste am 5. Januar 2004 in die Schweiz ein, wo ihm im Rahmen des Familiennachzugs eine Aufenthaltsbewilligung erteilt wurde. Diese wurde in der Folge mehrmals verlängert, und am 23. Juni 2009 wurde ihm eine Niederlassungsbewilligung erteilt. Mit Urteil eines kosovarischen Gerichts vom 6. Juli 2010 wurde die Ehe geschieden.
Am 30. März 2015 ersuchte A.A._ um Familiennachzug für seine neue, im Kosovo wohnhafte Ehefrau B.A._ (geboren 1970) und ihre gemeinsame Tochter C.A._ (geboren 2006).
B.
Das Migrationsamt des Kantons Zürich wies die Gesuche mit Verfügung vom 6. Juli 2015 ab und widerrief die Niederlassungsbewilligung von A.A._. Zum Verlassen der Schweiz setzte es ihm eine Frist bis 31. Oktober 2015 an. Die hiergegen erhobenen kantonalen Rechtsmittel blieben ohne Erfolg (Entscheid der Sicherheitsdirektion des Kantons Zürich vom 5. Oktober 2016; Urteil des Verwaltungsgerichts des Kantons Zürich vom 19. Januar 2017).
C.
Mit Eingabe an das Bundesgericht vom 24. Februar 2017 erhebt A.A._ Beschwerde in öffentlich-rechtlichen Angelegenheiten. Er beantragt sinngemäss, der angefochtene Entscheid sei aufzuheben und vom Widerruf der Niederlassungsbewilligung sei abzusehen. Eventualiter sei der angefochtene Entscheid aufzuheben und die Sache zur neuen Beurteilung an die Vorinstanz zurückzuweisen. In formeller Hinsicht beantragt er, der Beschwerde sei die aufschiebende Wirkung zuzuerkennen und es sei ihm für die Dauer des Beschwerdeverfahrens der Aufenthalt in der Schweiz zu bewilligen.
Das Bundesgericht hat auf die Durchführung eines Schriftenwechsels verzichtet.

Erwägungen:
1.
1.1. Gegen den Widerruf der Niederlassungsbewilligung steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (<ref-law> [e contrario]; <ref-ruling> E. 1.2.1 S. 4). Da die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde grundsätzlich einzutreten. Soweit der Beschwerdeführer in der Umschreibung des Streitgegenstandes in Ziff. 2 der Beschwerde auch die Aufhebung der erstinstanzlichen Verfügung des Migrationsamts beantragt, ist darauf nicht einzutreten; diese bildet nicht Anfechtungsobjekt vor Bundesgericht (<ref-law>). Sie gilt jedoch aufgrund des Devolutiveffekts als inhaltlich mitangefochten (<ref-ruling> E. 2.5 S. 415; Urteil 2C_503/2016 vom 8. Dezember 2016 E. 1.1).
1.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Dabei gelten, wie bei den in <ref-law> genannten Rügen, strenge Anforderungen an die Begründung (<ref-ruling> E. 9.2.3.6 S. 96 mit Hinweis).
2.
2.1. Die Niederlassungsbewilligung einer Person ausländischer Staatsangehörigkeit, welche sich seit weniger als fünfzehn Jahren ununterbrochen und ordnungsgemäss in der Schweiz aufhält, kann widerrufen werden, wenn sie oder ihr Vertreter im Bewilligungsverfahren falsche Angaben gemacht oder wesentliche Tatsachen verschwiegen hat (Art. 63 Abs. 1 lit. a und Abs. 2 i.V.m. Art. 62 lit. a AuG [SR 142.20]). Die falsche Angabe oder das Verschweigen wesentlicher Tatsachen muss in der Absicht erfolgen, gestützt darauf den Aufenthalt oder die Niederlassung bewilligt zu erhalten (Urteile 2C_788/2016 vom 21. Dezember 2016 E. 3.1; 2C_113/2016 vom 29. Februar 2016 E. 2.1; 2C_736/2015 vom 22. Februar 2016 E. 3.1.1). Liegt ein Widerrufsgrund vor, so ist anschliessend zu prüfen, ob diese Massnahme verhältnismässig erscheint (Art. 96 AuG; <ref-ruling> E. 2.2 S. 147 f.).
2.2. Die ausländische Person ist verpflichtet, an der Feststellung des Sachverhalts mitzuwirken und insbesondere zutreffende und vollständige Angaben über die für die Regelung des Aufenthalts wesentlichen Tatsachen zu machen (Art. 90 lit. a AuG). Kraft des im Verwaltungsverfahren geltenden Untersuchungsgrundsatzes obliegt es primär den Behörden, entsprechende Fragen zu stellen. Eine Verletzung der Mitwirkungspflicht, die gemäss Art. 62 lit. a AuG zum Widerruf der Bewilligung führt, liegt erst dann vor, wenn die ausländische Person aufgrund von ihr zu vertretender Umstände bei den Behörden einen falschen Anschein über Tatsachen erweckt hat oder (etwa durch Verschweigen) aufrechterhält, von denen sie offensichtlich wissen muss, dass sie für den Bewilligungsentscheid bedeutsam sind. Dabei ist nicht erforderlich, dass die Bewilligung bei richtigen und vollständigen Angaben notwendigerweise zu verweigern gewesen wäre (<ref-ruling> E. 3.1 S. 265 f.; Urteil 2C_736/2015 vom 22. Februar 2016 E. 3.1.2; je mit Hinweisen).
Ohne ausdrückliche entsprechende Frage seitens der Behörden trifft die ausländische Person im Bewilligungsverfahren keine Pflicht, auf das Vorhandensein von vor- oder ausserehelichen Kindern im Ausland hinzuweisen; deren Existenz hat keinen wesentlichen Einfluss auf den Erhalt eines Aufenthaltsrechts in der Schweiz, da sie nicht mit erhöhter Wahrscheinlichkeit darauf schliessen lässt, eine Beziehung werde nur zum Schein geführt. Demgegenüber lässt die Verheimlichung einer Parallelbeziehung vermuten, dass die in der Schweiz geführte Beziehung lediglich dem Erhalt des Aufenthaltsrechts dienen soll (<ref-ruling> E. 3.2 S. 266 f.). Ausschlaggebend ist somit nicht das Verschweigen von vor- oder ausserehelichen Kindern, sondern der dadurch indizierte Verdacht, im Heimatland habe eine parallel gelebte Beziehung bestanden, die künftig unter Umgehung von Sinn und Zweck der ausländerrechtlichen Regeln zu einem Familiennachzug führen soll. Neben der Zeugung von gemeinsamen Kindern können zusätzlich weitere Hinweise für das Vorliegen einer Zweitbeziehung sprechen. Solche können beispielsweise darin liegen, dass sich die Partner regelmässig besuchen, dass besondere wirtschaftliche Leistungen erbracht werden oder dass in der Heimat eine faktische Ehe aufrechterhalten wird. Entscheidend ist die Qualität der Beziehung, die - parallel zur hiesigen Ehe - im Ausland gelebt wird und den späteren Familienzusammenschluss in der Schweiz bezweckt (Urteil 2C_1115/2015 vom 20. Juli 2016 E. 4.2.1 f.).
3.
3.1. Das Verwaltungsgericht erwog im angefochtenen Entscheid, der Beschwerdeführer habe sich ein Jahr nach Erhalt der Niederlassungsbewilligung von seiner Schweizer Ehefrau scheiden lassen. Knapp zwei Monate darauf habe er ein erstes Mal um Schengen-Visa für B.A._ und ihre gemeinsame Tochter C.A._ ersucht. Erst im Rahmen dieses Verfahrens hätten die Migrationsbehörden von der Existenz der Tochter erfahren; im Rahmen seiner Gesuche um Verlängerung der Aufenthaltsbewilligung und Erteilung der Niederlassungsbewilligung habe er seine Vaterschaft jeweils unerwähnt gelassen. Durch sein Verhalten habe er Abklärungen zum Bestehen einer Parallelbeziehung verunmöglicht. Die kurze Kennenlernphase, der beträchtliche Altersunterschied sowie der Umstand, dass seine Schweizer Ehefrau angesichts ihrer finanziellen Situation zur typischen Zielgruppe für eine Zweckehe gehört habe, würden den Verdacht nahelegen, sie hätten die Ehe nur zu migrationsrechtlichen Zwecken geschlossen. Er scheine mit seiner Schweizer Ehefrau eine rein freundschaftliche Beziehung unterhalten und in einer Art Wohngemeinschaft gelebt zu haben. Insofern erstaune nicht, dass sie die Geburt der ausserehelichen Tochter ohne Weiteres akzeptiert habe. Anhaltspunkte für eine wechselseitige emotionale, wirtschaftliche und sexuelle Schicksalsgemeinschaft seien jedenfalls nicht auszumachen. Demgegenüber habe er mit seiner heutigen Ehefrau eine Tochter gezeugt, sie seit deren Geburt finanziell unterstützt und regelmässig in der Heimat besucht, und kurz nach seiner Scheidung erstmals ein Visumsgesuch für die beiden gestellt. Es scheine daher unglaubhaft, dass er mit seiner heutigen Ehefrau erst nach dem Scheitern seiner vorherigen Ehe eine Beziehung eingegangen sei. Vor diesem Hintergrund sei davon auszugehen, dass die Existenz seiner Tochter für die Erteilung der Niederlassungsbewilligung von wesentlicher Bedeutung gewesen wäre, weshalb er mit seinem diesbezüglichen Schweigen einen Widerrufsgrund gemäss Art. 63 Abs. 1 lit. a i.V.m Art. 62 Abs. 1 lit. a AuG gesetzt habe. Es müsse zudem davon ausgegangen werden, dass er die Ehe mit einer Schweizer Bürgerin nur zum Schein eingegangen sei respektive die Ehegemeinschaft jedenfalls seit der Geburt seiner Tochter nur noch formell bestanden habe. Er habe den Behörden somit wissentlich wesentliche Tatsachen verschwiegen, was den Widerrufsgrund von Art. 63 Abs. 1 lit. a i.V.m Art. 62 Abs. 1 lit. a AuG ebenfalls erfülle.
3.2. Der Beschwerdeführer macht geltend, er habe die Geburt seiner Tochter nicht verheimlicht. Lediglich das Migrationsamt sei nicht informiert gewesen, da er gedacht habe, das sei für die Bewilligung nicht von Bedeutung. Er sei im Vorfeld der Erteilung der Niederlassungsbewilligung nicht nach der Existenz von ausserehelichen Kindern gefragt worden. Das Migrationsamt habe durch das Visumsgesuch vom September 2010 von der Tochter erfahren, aber erst fünf Jahre später ein Verfahren zum Widerruf der Niederlassungsbewilligung eröffnet. Daraus sei zu schliessen, dass es im Jahr 2010 nicht davon ausging, die Geburt seiner ausserehelichen Tochter hätte den Behörden mitgeteilt werden müssen. Dass das Migrationsamt erst im Jahr 2015 ein Verfahren eröffnet habe, sei willkürlich. Das Verwaltungsgericht verkenne, dass es in erster Linie den Behörden obliege, die wesentlichen Tatsachen zu erfragen, was vorliegend unterblieben sei. Er habe keine Parallelbeziehung geführt, sondern lediglich den Kontakt zu seiner Tochter gepflegt.
3.3. Der Beschwerdeführer war mangels entsprechender Frage nicht verpflichtet, die Migrationsbehörden über die Existenz seiner ausserehelichen Tochter zu informieren (vgl. E. 2.2 hiervor). Aufgrund der vorliegenden Umstände besteht jedoch der begründete Verdacht, er habe im Kosovo eine Parallelbeziehung geführt. Hierfür sprechen neben der Zeugung einer gemeinsamen Tochter und der späteren Eheschliessung mit der Kindsmutter auch die regelmässigen Besuche im Kosovo und die offenbar erbrachten wirtschaftlichen Leistungen an seine Tochter und die heutige Ehefrau. Hinzu kommen die von der Vorinstanz aufgezeigten Hinweise darauf, dass es sich bei seiner Ehe mit einer Schweizer Bürgerin um eine reine Zweckehe gehandelt habe. Die kurze Kennenlernphase, der erhebliche Altersunterschied von über 20 Jahren, die finanzielle Situation seiner Schweizer Ehefrau und die anscheinend fehlenden negativen Auswirkungen der Geburt eines ausserehelichen Kindes auf die Beziehung deuten entschieden auf eine Scheinehe hin. Diesbezüglich kann auf die vorinstanzlichen Erwägungen verwiesen werden (vgl. angefochtener Entscheid E. 3.1 f.). Der Beschwerdeführer hält diesen Erwägungen nichts Stichhaltiges entgegen, sondern beschränkt sich auf die Bemerkung, das Migrationsamt habe nach seiner Scheidung im Jahr 2010 niemals den Verdacht einer Scheinehe geäussert.
Die Vorinstanz ging aufgrund dieser zahlreichen Anhaltspunkte in rechtlich vertretbarer Weise davon aus, der Beschwerdeführer habe eine Parallelbeziehung verheimlicht. Während die Existenz eines ausserehelichen Kindes grundsätzlich keinen wesentlichen Einfluss auf den Erhalt des Aufenthaltsrechts in der Schweiz hat, musste der Beschwerdeführer offensichtlich wissen, dass eine fortgeführte Beziehung im Heimatland für den Bewilligungsentscheid bedeutsam gewesen wäre. Indem er die Migrationsbehörden weder über die Existenz seiner Tochter noch über den regelmässigen Kontakt zu deren Mutter und seiner heutigen Ehefrau in Kenntnis setzte, hat er spätestens im Verfahren zur Erteilung einer Niederlassungsbewilligung wesentliche Tatsachen verschwiegen respektive falsche Angaben zum Zustand seiner damaligen Ehe gemacht und damit einen Widerrufsgrund gemäss Art. 63 Abs. 1 lit. a i.V.m. Art. 62 Abs. 1 lit. a AuG gesetzt.
Dass das Migrationsamt nicht früher ein Verfahren zwecks Widerruf der Niederlassungsbewilligung einleitete, obwohl es bereits durch das Visumsgesuch im Jahr 2010 von der Existenz seiner Tochter erfahren hatte, kann entgegen der Auffassung des Beschwerdeführers nicht als willkürlich bezeichnet werden. Einerseits begründet die Existenz eines ausserehelichen Kindes für sich allein - wie der Beschwerdeführer selbst zutreffend ausführt - keinen Widerrufsgrund. Anderseits war aufgrund seines Verschweigens der tatsächlichen Situation in jenem Zeitpunkt für das Migrationsamt nicht erkennbar, in welcher Beziehung er zu seiner heutigen Ehefrau stand. Die Annahme des Beschwerdeführers, das Migrationsamt habe mit der Eröffnung des Widerrufsverfahrens ohne Grund fünf Jahre lang zugewartet, entbehrt somit einer Grundlage.
4.
Nach dem Gesagten liegt ein Widerrufsgrund vor. Im Folgenden ist zu prüfen, ob sich der Widerruf der Bewilligung resp. die Aufenthaltsbeendigung aufgrund der Umstände als verhältnismässig erweist (Art. 96 AuG; <ref-ruling> E. 2.2 S. 147 f.). Zu berücksichtigen sind dabei sowohl die Dauer der Anwesenheit als auch das bisherige Verhalten der betroffenen Person, die Natur ihrer Bindungen zur Heimat und zur Schweiz sowie der Grad ihrer Integration, der aber nicht überdurchschnittlich zu sein braucht (Urtei l 2C_706/2015 vom 24. Mai 2016 E. 5.3, nicht publ. in: <ref-ruling>).
4.1. Der Beschwerdeführer erachtet den Widerruf der Niederlassungsbewilligung als unverhältnismässig. Er bringt vor, seine geschiedene Ehefrau lebe immer noch in der Schweiz, macht aber nicht geltend, es bestehe eine enge Bindung zu ihr. Inwiefern dies im Rahmen der Verhältnismässigkeitsprüfung von Bedeutung sein könnte, ist daher nicht ersichtlich. Weiter bringt er vor, er habe in der Schweiz immer gearbeitet und keine Sozialhilfe bezogen. Er sei in seiner Wohngemeinde integriert, spreche Schweizerdeutsch und habe keine Vorstrafen. Ausserdem pflege er sehr engen Kontakt zu seinen zwei in der Schweiz lebenden erwachsenen Söhnen und ihren Familien.
Die vom Beschwerdeführer vorgebrachten Umstände sind im angefochtenen Entscheid nicht unbeachtet geblieben. Das Verwaltungsgericht ist in seinen Erwägungen jedoch zum Schluss gelangt, der Widerruf der Niederlassungsbewilligung erweise sich als verhältnismässig. Der Beschwerdeführer macht geltend, die Vorinstanz habe in willkürlicher und rechtsverletzender Weise seiner persönlichen Situation und dem Grad seiner Integration nicht Rechnung getragen und seine Vorbringen nicht berücksichtigt. Diese Rügen gehen angesichts der ausführlichen vorinstanzlichen Erwägungen zu seiner Integration in der Schweiz und zur Zumutbarkeit der Rückkehr in sein Heimatland (vgl. angefochtener Entscheid E. 4.2) ins Leere. Der Beschwerdeführer kam im Jahr 2004 in die Schweiz, als er bereits 48 Jahre alt war. Gemäss den Feststellungen der Vorinstanz hat er sich gut in die Gesellschaft integriert. Er hat praktisch immer gearbeitet, war nie von der Sozialhilfe abhängig und blieb strafrechtlich unauffällig. Eine über das Übliche hinausgehende Integration liege jedoch nicht vor. Der Beschwerdeführer legt nicht dar, inwiefern diese Sachverhaltsfeststellungen unrichtig oder unvollständig sein sollen. Das Bundesgericht stellt daher auf die vorinstanzlichen Feststellungen ab (vgl. E. 1.2 hiervor). In seinem Heimatland besitzt der Beschwerdeführer ein Haus, in welchem seine Ehefrau und seine Tochter sowie sein jüngster Sohn aus erster Ehe und dessen Familie wohnen. Eine Rückkehr in den Kosovo hat somit vorliegend die Zusammenführung des Beschwerdeführers mit seiner Kernfamilie in der gemeinsamen Heimat zur Folge. Er kann dort in sein eigenes Haus ziehen und zudem mit der Unterstützung seines Sohnes und seiner Schwiegerfamilie rechnen. Es dürfte ihm daher nicht schwerfallen, sich in der Heimat wieder zu integrieren. Der Widerruf der Niederlassungsbewilligung erweist sich somit als verhältnismässig.
5.
Daraus ergibt sich, dass die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen ist.
Das Gesuch um Erteilung der aufschiebenden Wirkung wird mit dem vorliegenden Entscheid in der Sache gegenstandslos.
Der Beschwerdeführer hat dem Ausgang des Verfahrens entsprechend dessen Kosten zu tragen (<ref-law>). Parteientschädigungen sind nicht geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf eingetreten wird.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 22. Mai 2017
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: Straub