Sachverhalt:
A. A._ (geboren am 1. Januar 1971) ist türkischer Staatsangehöriger. Am 3. Dezember 1998 heiratete er in der Türkei die aus Kenia stammende, 1962 geborene Schweizer Bürgerin B._, geborene Said, welche in der Schweiz wohnhaft war. A._ reiste am 19. August 2001 in die Schweiz ein, worauf er die Aufenthaltsbewilligung erhielt. Ende März 2006 hoben die Eheleute den gemeinsamen Haushalt auf. Am 1. Juni 2007 erhielt A._ die Niederlassungsbewilligung. Die kinderlos gebliebene Ehe wurde am 13. Juni 2008 geschieden.
Am 12. Januar 2010 heiratete A._ in der Türkei die Landsfrau C._, mit der er bereits vier Kinder hatte (geboren 1993, 1995, 2000 und 2001). Auf ein Familiennachzugsgesuch für seine Frau und die Kinder hin teilte ihm das Migrationsamt des Kantons Zürich am 5. Oktober 2010 mit, es beabsichtige seine Niederlassungsbewilligung zu widerrufen und das Familiennachzugsgesuch abzuweisen, weil er die Ehe mit B._ lediglich aus migrationsrechtlichen Gründen eingegangen sei. A._ nahm zu den Vorwürfen Stellung und zog das Gesuch um Familiennachzug zurück. Am 3. Dezember 2010 widerrief das Migrationsamt des Kantons Zürich die Niederlassungsbewilligung und wies das Familiennachzugsgesuch ab.
B. Den dagegen erhobenen Rekurs wies die Sicherheitsdirektion des Kantons Zürich am 25. April 2012 ab, soweit er nicht gegenstandslos geworden war. Das Verwaltungsgericht des Kantons Zürich bestätigte diesen Entscheid mit Urteil vom 28. August 2012.
C. A._ erhebt am 1. Oktober 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde beim Bundesgericht mit den Anträgen, das angefochtene Urteil sei aufzuheben und vom Widerruf der Niederlassungsbewilligung sei abzusehen. Eventualiter sei ihm die Aufenthaltsbewilligung zu verlängern und den Vorinstanzen zu untersagen, ihn aus der Schweiz wegzuweisen. Subeventualiter seien weitere Sachabklärungen vorzunehmen oder vornehmen zu lassen.
Mit Präsidialverfügung vom 9. Oktober 2012 ist der Beschwerde antragsgemäss aufschiebende Wirkung zuerkannt worden.
Erwägungen:
1. 1.1 Angefochten ist der letztinstanzliche, verfahrensabschliessende Entscheid eines kantonalen Gerichts auf dem Gebiet des öffentlichen Rechts, welcher grundsätzlich der Beschwerde in öffentlich-rechtlichen Angelegenheiten unterliegt (vgl. Art. 86 Abs. 1 lit. d BGG, Art. 90 BGG, Art. 82 lit. a BGG). Gegen Entscheide über den Widerruf einer Niederlassungsbewilligung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig, weil grundsätzlich ein Anspruch auf das Fortbestehen dieser Bewilligung gegeben ist (BGE 135 II 1 E. 1.2.1 S. 4). Ob der Anspruch im konkreten Fall zu bejahen ist, bildet Gegenstand der materiellen Beurteilung (BGE 137 I 284 E. 1.3 S. 287). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit zulässig, soweit damit der Widerruf der Niederlassungsbewilligung angefochten wird.
1.2 Der Beschwerdeführer hat am Verfahren vor der Vorinstanz teilgenommen. Er ist durch den angefochtenen Entscheid besonders berührt und hat ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung. Gemäss Art. 89 Abs. 1 BGG ist er zur Beschwerde legitimiert.
1.3 Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten betreffend den Widerruf der Niederlassungsbewilligung ist einzutreten.
2. Gegen den kantonalen Wegweisungsentscheid ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten ausgeschlossen (Art. 83 lit. c Ziff. 4 BGG) und die subsidiäre Verfassungsbeschwerde (Art. 113 BGG) steht nur offen, soweit sich die betroffene Person auf besondere verfassungsmässige Rechte berufen kann, die ihr unmittelbar ein rechtlich geschütztes Interesse im Sinn von Art. 115 lit. b BGG verschaffen (BGE 137 II 305 E. 3.3 S. 310). In Bezug auf die Anrufung von Grundrechten gestützt auf Art. 116 BGG besteht eine qualifizierte Rüge- und Substanziierungspflicht (Art. 117 BGG in Verbindung mit Art. 106 Abs. 2 BGG); auf rein appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (BGE 133 II 396 E. 3.1 S. 399). Der Beschwerdeführer legt in keiner Weise dar, inwiefern der angefochtene Wegweisungsentscheid eines der in BGE 137 II 305 E. 3.3 genannten besonderen verfassungsmässigen Rechte verletzen würde. Auf die subsidiäre Verfassungsbeschwerde ist daher nicht einzutreten.
3. 3.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (BGE 133 II 249 E. 1.4.1 S. 254). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (Art. 106 Abs. 2 BGG; BGE 136 II 304 E. 2.5 S. 314).
3.2 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Die Rüge, der Sachverhalt sei offensichtlich unrichtig festgestellt worden, ist gleichzusetzen mit der Willkürrüge (BGE 137 I 58 E. 4.1.2 S. 62; 133 II 249 E. 1.2.2 S. 252); diese ist rechtsgenüglich substanziiert vorzubringen (vgl. BGE 136 II 304 E. 2.5 S. 314).
4. Gemäss Art. 51 Abs. 1 lit. a AuG erlöschen die Ansprüche von Familienangehörigen von Schweizerinnen und Schweizern, wenn sie rechtsmissbräuchlich geltend gemacht werden, namentlich um Vorschriften dieses Gesetzes und seiner Ausführungsbestimmungen über die Zulassung und den Aufenthalt zu umgehen. Liegt im Zusammenhang mit dem Bewilligungsverfahren ein rechtsmissbräuchliches Verhalten vor, sind zugleich die Voraussetzungen für einen Widerruf der Bewilligung erfüllt (vgl. auch Urteil 2C_205/2010 vom 16. Juli 2010 E. 3.3); die Niederlassungsbewilligung kann diesfalls gestützt auf Art. 63 Abs. 1 lit. a AuG in Verbindung mit Art. 62 lit. a AuG widerrufen werden.
5. 5.1 Der Beschwerdeführer bringt im Wesentlichen vor, die Vorinstanz sei in willkürlicher Weise davon ausgegangen, er habe mit B._ eine Scheinehe geführt; hierfür gebe es aber keine ausreichenden Anhaltspunkte. Zwar habe er - wenigstens offiziell - mehrere Jahre mit C._ zusammengelebt und habe mit ihr vier gemeinsame Kinder, wovon zwei sogar nach der Heirat mit der Schweizerin B._ gezeugt worden seien. Jedoch habe er - der Beschwerdeführer - C._ lediglich als Geliebte und vor allem als Mutter seiner Kinder akzeptiert, nicht aber als Ehefrau. Tatsächlich habe er eigentlich stets von ihr getrennt gewohnt, in Antalya, wo er 1998 B._ kennengelernt habe. Es sei Liebe auf den ersten Blick gewesen und sie hätten bald beschlossen zu heiraten. 2001 sei er dann in die Schweiz gekommen, wo er jahrelang glücklich mit seiner Schweizer Frau zusammengelebt und auch für ihren Lebensunterhalt gesorgt habe. Schliesslich sei es zur Ehekrise und zur Scheidung gekommen. Erst danach habe er sich mehr für C._ zu interessieren begonnen, weil er erkannt habe, wie gut sie sich eigentlich um die gemeinsamen Kinder gekümmert habe. Deswegen habe er sie am 12. Januar 2010 geheiratet.
5.2 Die Vorbringen des Beschwerdeführers entbehren jeglicher Glaubwürdigkeit, weshalb die Beschwerde im Verfahren nach Art. 109 Abs. 2 lit. a BGG zu erledigen ist.
5.3 Zahlreiche Hinweise sprechen dafür, dass der Beschwerdeführer und B._ nie die Absicht hatten, eine echte Ehegemeinschaft einzugehen. So fällt auf, dass der Beschwerdeführer - trotz "Liebe auf den ersten Blick" - erst zwei Jahre und acht Monate nach der Eheschliessung, am 19. August 2001, in die Schweiz einreiste und tags darauf um Erteilung einer Aufenthaltsbewilligung ersuchte. Seine zwei jüngeren Kinder wurden in den Jahren 2000 und 2001 geboren, also nach der Heirat mit B._. Diese wiederum war im Zeitpunkt der Heirat von einem anderen Mann schwanger. Gegenüber der Einwohnerkontrolle gab sie am 29. Januar 1999 als Geburtsdatum des Beschwerdeführers den 28. September 1979 an. Weder Tag, Monat noch Jahr stimmten mit dem tatsächlichen Geburtsdatum überein; die Ehefrau schätzte ihren Ehemann achtdreiviertel Jahre jünger ein, als er wirklich war. Zu seinen Kindern in der Türkei pflegte der Beschwerdeführer regen Kontakt: Er besuchte sie in den Ferien, brachte ihnen Geschenke und unterstützte sie finanziell. Knapp fünf Jahre nach seiner Einreise in die Schweiz, Ende März 2006, verliess der Beschwerdeführer die eheliche Wohnung und liess sich am 13. Juni 2008, ein Jahr nach Erhalt der Niederlassungsbewilligung, von seiner Frau scheiden. Eineinhalb Jahre später heiratete er C._.
Die Vorinstanz hat aus diesem Ablauf zu Recht den Schluss gezogen, dass die Eheschliessung mit B._ ausschliesslich der Erlangung einer Aufenthaltsbewilligung diente und somit rechtsmissbräuchlich war. Entgegen dem Vorbringen des Beschwerdeführers ändert der Umstand, dass er während vier Jahren mit seiner Ehefrau "an der gleichen Adresse" zusammengewohnt habe, daran nichts: Schon seit 1992, sechs Jahre vor seiner Heirat mit B._, hatte der Beschwerdeführer mit C._ ein Konkubinat geführt und zwei Kinder gezeugt; während seines Aufenthalts in der Schweiz dauerte diese Beziehung parallel zur Ehe mit B._ fort, wobei der Verbindung zwei weitere Kinder entsprangen. Die Behauptung des Beschwerdeführers, er habe mit C._ bis zur Scheidung keine echte Beziehung geführt, erweist sich vor diesem Hintergrund als Schutzbehauptung. Die Vorinstanz hat in diesem Zusammenhang zu Recht darauf hingewiesen, dass nicht ersichtlich sei, weshalb C._ sich mit einer auf ihre biologische Mutterschaft reduzierten Rolle hätte abfinden sollen. Aufgrund der gesamten Umstände ist ohne Zweifel von einer Scheinehe auszugehen.
Der Beschwerdeführer hat zudem den Migrationsbehörden die Existenz seiner Kinder in der Türkei verschwiegen. Diese Tatsache ist rechtserheblich; die Voraussetzungen des Widerrufs gemäss Art. 63 Abs. 1 lit. a AuG in Verbindung mit Art. 62 lit. a AuG sind auch aus diesem Grund erfüllt, wie die Vorinstanz zutreffend festgehalten hat.
5.4 Die Vorinstanz hat sodann die Verhältnismässigkeit des Widerrufs zu Recht bejaht.
Im Gegensatz zu dem, was der Beschwerdeführer vorbringt, liegt im Widerruf einer Niederlassungsbewilligung, welche durch eine Scheinehe erlangt worden war, durchaus ein öffentliches Interesse. Denn der Staat kann nicht dulden, dass Ansprüche rechtsmissbräuchlich geltend gemacht werden; die Anordnung der entsprechenden Rechtsfolgen steht im Dienst des Schutzes der Rechtsordnung, was ein öffentliches Interesse darstellt.
Demgegenüber ist das private Interesse des Beschwerdeführers an einem Verbleib in der Schweiz gering: Zwar lebte er im Zeitpunkt des angefochtenen Urteils seit elf Jahren in der Schweiz, was eher zu seinen Gunsten spricht. Bei der Einreise war er aber bereits 30 Jahre alt und pflegte in den folgenden Jahren enge Beziehungen zur Türkei; somit ist er - entgegen seiner Behauptung - keinesfalls entwurzelt. Seine Integration in der Schweiz ist in beruflicher Hinsicht nicht sonderlich gut; nach den verbindlichen Feststellungen der Vorinstanz wies der Beschwerdeführer im Juli 2010 offene Verlustscheine im Betrag von ca. Fr. 34'277.-- aus. Die Vorinstanz vermutet aufgrund ihrer Sachverhaltsabklärung, dass der Beschwerdeführer nach der Gründung seiner Einzelfirma im Juni 2011 nicht allzu viele Aufträge zu akquirieren vermochte. Inwiefern diese Feststellung willkürlich sein soll, legt der Beschwerdeführer nicht dar; die blosse Behauptung, die vorinstanzliche Einschätzung sei aus der Luft gegriffen, genügt den Anforderungen an die qualifizierte Begründungspflicht (vgl. E. 3.2) nicht. Der Beschwerdeführer erklärt überdies nicht, inwiefern seine berufliche Tätigkeit ihn derart an die Schweiz binden würde, dass eine Rückkehr in die Türkei unzumutbar wäre. Nachdem seine Frau und seine Kinder dort leben, ist auch mit Blick auf seine persönliche Situation kein Interesse an einem Verbleib in der Schweiz ersichtlich. Der Widerruf der Niederlassungsbewilligung erweist sich somit als verhältnismässig.
5.5 Nachdem die Voraussetzungen für den Widerruf der Niederlassungsbewilligung erfüllt sind und der Rechtsmissbrauch bzw. das Verschweigen wesentlicher Tatsachen gemäss Art. 62 lit. a AuG gleichermassen zum Widerruf bzw. zur Nichtverlängerung einer Aufenthaltsbewilligung führen würde, ist der Eventualantrag auf Erteilung einer Aufenthaltsbewilligung abzuweisen (vgl. auch Urteile 2C_254/2010 vom 15. Juli 2010 E. 4.3; 2C_733/2012 vom 24. Januar 2013 E. 10).
5.6 Der Sachverhalt ist von der Vorinstanz vollständig und willkürfrei festgestellt worden. Für eine Rückweisung der Sache zur weiteren Abklärung besteht somit kein Anlass, so dass der entsprechende Subeventualantrag abzuweisen ist.
6. Nach dem Gesagten ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen und auf die subsidiäre Verfassungsbeschwerde nicht einzutreten. Der unterliegende Beschwerdeführer trägt die Kosten des Verfahrens (Art. 66 Abs. 1 BGG). Ausgangsgemäss ist keine Parteientschädigung zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
7. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
8. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
9. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
10. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 8. Mai 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner