Sachverhalt:
A. Der aus der Türkei stammende X._ (geb. 1966) lebt seit 2005 in der Schweiz, wo er sich bereits zuvor zwischen 1989 und 2002 aufgehalten hat. Vom 16. Februar 1999 bis zum 24. April 2002 war er mit der türkischen Staatsangehörigen Y._ verheiratet. Aus dieser Beziehung gingen drei Kinder hervor, darunter der am 11. September 1994 geborene Z._ sowie der am 17. Januar 1998 geborene W._.
Die beiden Söhne leben in der Türkei, wurden dort nach der Scheidung ihrer Eltern zunächst von der Mutter und zuletzt von den Grosseltern, d.h. den Eltern von X._, betreut. Mit Urteil vom 15. Januar 2010 hat das Bezirksgericht A._ (Türkei) die elterliche Sorge für die beiden Söhne von der Mutter Y._ auf den Vater X._ übertragen. Aufgrund gesundheitlicher Probleme können die Grosseltern ihren Betreuungsaufgaben nicht mehr nachkommen.
Am 14. Juni 2002 heiratete X._ die Schweizer Bürgerin V._ (geb. 1944). Nach der Rückkehr in die Schweiz im Jahr 2005 erhielt X._ zunächst eine Aufenthaltsbewilligung und anschliessend eine Niederlassungsbewilligung; am 31. Januar 2011 wurde er eingebürgert.
B. Mit Verfügung vom 14. Juli 2011 wies das Migrationsamt des Kantons Zürich das Nachzugsgesuch für Z._ und W._ ab. Die dagegen von X._ erhobenen kantonalen Rechtsmittel blieben erfolglos.
C. Vor Bundesgericht beantragt X._, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 9. Mai 2012 aufzuheben und das Gesuch um Einreise und Aufenthaltsbewilligung (Familiennachzug) für die Söhne Z._ und W._ gutzuheissen.
Das Verwaltungsgericht des Kantons Zürich verzichtete auf eine Vernehmlassung. Die Sicherheitsdirektion des Kantons Zürich und das Bundesamt für Migration beantragen die Abweisung der Beschwerde.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumen (<ref-law>). Für das Eintreten genügt allerdings, wenn der Betroffene in vertretbarer Weise dartut, dass potenziell ein Anspruch auf die Bewilligung besteht (<ref-ruling> E. 1.1 S. 179 f.); ob die jeweiligen Voraussetzungen tatsächlich gegeben sind, bildet Gegenstand der materiellen Beurteilung (<ref-ruling> E. 1.3 S. 287).
Als Schweizer Bürger kann der Beschwerdeführer nach Art. 42 AuG (SR 142.20) in vertretbarer Weise einen potenziellen Bewilligungsanspruch geltend machen. Dabei ist das Alter der Kinder im Zeitpunkt der Einreichung des Gesuchs um Bewilligung des Familiennachzugs massgebend für die Frage der Zulässigkeit der Beschwerde nach <ref-law> (<ref-ruling> E. 3.7 S. 504 f.; Urteil 2C_174/2012 vom 22. Oktober 2012 E. 1). Dass eines der Kinder inzwischen über 18 Jahre alt ist, ist folglich unerheblich, da es dieses Alter bei Einreichung des Nachzugsgesuchs noch nicht erreicht hatte. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit zulässig. Auf die Beschwerde ist grundsätzlich einzutreten.
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die vorinstanzliche Sachverhaltsfeststellung bloss berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Die betroffene Person muss rechtsgenügend dartun, dass und inwiefern der festgestellte Sachverhalt in diesem Sinne mangelhaft erscheint und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 i.V.m. Art. 42 Abs. 2 und <ref-law>; vgl. <ref-ruling> E. 1.4.3 S. 254 f.; <ref-ruling> E. 1.3 S. 351 f.). Rein appellatorische Kritik an der Sachverhaltsermittlung und an der Beweiswürdigung genügt den Begründungs- bzw. Rügeanforderungen nicht (<ref-ruling> E. 3 S. 104 f.).
1.3 Das Vorbringen von neuen Tatsachen oder Beweismitteln ist nur insofern möglich, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>; vgl. <ref-ruling> E. 1.4 S. 146). Tatsachen oder Beweismittel, die sich auf das vorinstanzliche Prozessthema beziehen, jedoch erst nach dem angefochtenen Entscheid eingetreten bzw. entstanden sind, können von vornherein nicht durch das angefochtene Urteil veranlasst worden sein (vgl. <ref-ruling> E. 5.2.4 S. 229; <ref-ruling> E. 2.1 S. 343 f.). Diese so genannten "echten Noven" sind im bundesgerichtlichen Verfahren unzulässig (BGE <ref-ruling> E. 2.1 S. 344).
1.4 Die Verletzung von Grundrechten, darin eingeschlossen solcher, die sich aus Völkerrecht ergeben, prüft das Bundesgericht nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.4.1 S. 254; Urteile 2C_923/2012 vom 26. Januar 2013 E. 5; 2C_244/2011 vom 3. Februar 2012 E. 2.2; 2C_221/2009 vom 21. Januar 2010 E. 1.3).
2. 2.1 Der Beschwerdeführer rügt, die Vorinstanz habe seinen Anspruch auf rechtliches Gehör (<ref-law>; Art. 6 Ziff. 1 EMRK) massiv verletzt, indem sie wesentlich auf die Betreuung seiner Söhne durch die in der Türkei lebende Mutter abgestellt habe, ohne dass sich der Beschwerdeführer hierzu habe äussern können.
2.2 Der Anspruch auf rechtliches Gehör besteht und ist zu gewähren, wenn eine Behörde ihren Entscheid mit einer Rechtsnorm oder einem Rechtsgrund zu begründen beabsichtigt, die im bisherigen Verfahren nicht herangezogen wurden, auf die sich die beteiligten Parteien nicht berufen haben und mit deren Erheblichkeit im konkreten Fall sie nicht rechnen konnten (<ref-law>; <ref-ruling> E. 4a S. 370; <ref-ruling> E. 3c S. 52; <ref-ruling> E. 2d S. 69; <ref-ruling> E. 4e S. 43; <ref-ruling> E. 2a S. 99; je mit Hinweisen). Die Parteien sind daher vor einer rechtlichen Würdigung anzuhören, die für sie völlig überraschend wäre (<ref-ruling> E. 2c/aa S. 22; Urteil 2C_540/2011 vom 19. Dezember 2011 E. 2.2).
2.3 Die Vorinstanz hat ihren Entscheid aufgrund eines aktuellen Arztberichts über den Gesundheitszustand der Grosseltern massgeblich darauf gestützt, dass auch die Mutter der Söhne in der Türkei lebt und verstärkt für deren Betreuung aufkommen kann. Darin liegt jedoch keine überraschende rechtliche Würdigung, mit welcher der Beschwerdeführer aus objektiver Sicht nicht rechnen konnte und zu der er daher vorgängig anzuhören gewesen wäre: Der Beschwerdeführer hat sich bereits vor der Vorinstanz zu den (angeblich) fehlenden alternativen Betreuungsmöglichkeiten in der Türkei, namentlich durch die Mutter seiner Söhne, geäussert. Dass sich die Vorinstanz damit näher auseinandersetzte, war gestützt auf die Rechtslage (dazu unten E. 4.2) nicht überraschend, nachdem der Beschwerdeführer die gesundheitlichen Probleme der Grosseltern mit einem aktuellen Arztbericht belegt hatte. Eine Verletzung des Anspruchs auf rechtliches Gehör liegt demnach nicht vor. Im Übrigen bilden aufenthaltsrechtliche Entscheide keine zivil- oder strafrechtlichen Streitigkeiten im Sinne von Art. 6 EMRK (<ref-ruling> E. 4.4.2 S. 133 f. mit Hinweis; Urteil 2C_476/2012 vom 30. Oktober 2012 E. 2.2).
2.4 Ebenfalls durfte die Vorinstanz aufgrund der Sach- und Rechtslage von einer Anhörung der Söhne absehen. Der Beschwerdeführer hat sich mehrfach zu den Betreuungsverhältnissen der Söhne in der Türkei geäussert; eine persönliche Anhörung dazu war deshalb - entgegen den Ausführungen des Beschwerdeführers - weder gestützt auf Art. 47 Abs. 4 AuG noch in Anwendung der UNO-Kinderrechtskonvention (Art. 12 Abs. 2; SR 0.107) erforderlich (vgl. <ref-ruling> E. 3c S. 368; Urteil 2C_506/2012 vom 12. Juni 2012 E. 2.2.2 mit Hinweisen).
3. Wie sich aus den nachfolgenden Erwägungen zum materiellen Recht ergibt (vgl. E. 4 und 5), sind die vom Beschwerdeführer erhobenen Sachverhaltsrügen nicht entscheidrelevant:
3.1 Offenbleiben kann, seit wann die Kinder durch die Grosseltern bzw. ihre Tante betreut werden: Ob es bereits - wie der Beschwerdeführer behauptet - seit dem Jahr 2004 oder erst später der Fall ist, spielt keine Rolle. Entscheidend ist, dass die Mutter nach der vorinstanzlichen Feststellung ihr Besuchsrecht wahrnimmt und eine Beziehung zu ihren Söhnen pflegt, wogegen der Beschwerdeführer keine zulässigen Rügen erhebt (vgl. <ref-law>).
3.2 Ebenso wenig ist für den Entscheid ausschlaggebend, ob eine Betreuung der beiden Jugendlichen in der Schweiz gesichert wäre. Im Übrigen wäre fraglich, ob eine allfällige Aktenwidrigkeit überhaupt der Vorinstanz angelastet werden könnte, war es doch der Beschwerdeführer selbst, der vor der ersten Instanz ausführte, dass seine jetzige Ehefrau "als Hausfrau weitgehend zu Hause" sei, und in offensichtlichem Widerspruch dazu vor Bundesgericht vorbringt, er arbeite seit 1994 in dem von der Ehefrau geleiteten Betrieb. Selbst wenn diese Vorbringen zutreffen und ungeachtet des Novenverbots (<ref-law>) berücksichtigt würden, könnte der Beschwerdeführer daraus nichts zu seinen Gunsten ableiten. Vielmehr sprächen seine falschen und irreführenden Angaben vor der ersten Instanz gegen die Gutheissung seiner Beschwerde (Art. 51 Abs. 1 lit. b i.V.m. Art. 63 Abs. 1 lit. a i.V.m. Art. 62 lit. a AuG; vgl. Urteil 2C_726/2011 vom 20. August 2012 E. 3.1 mit Hinweisen).
4. Der Beschwerdeführer rügt weiter, die Vorinstanz habe in Verletzung von Art. 47 Abs. 4 AuG, Art. 8 Ziff. 1 EMRK bzw. <ref-law> die wichtigen familiären Gründe für einen nachträglichen Familiennachzug gemäss Art. 47 Abs. 4 AuG verneint.
4.1 Gemäss Art. 42 AuG haben ausländische Ehegatten und ledige Kinder unter 18 Jahren von Schweizerinnen und Schweizern Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen (Abs. 1). Kinder unter zwölf Jahren haben Anspruch auf Erteilung der Niederlassungsbewilligung (Abs. 4). Nach Art. 47 Abs. 1 AuG muss der Anspruch auf Familiennachzug innerhalb von fünf Jahren geltend gemacht werden (Satz 1). Kinder über zwölf Jahre müssen innerhalb von zwölf Monaten nachgezogen werden (Satz 2). Die Fristen beginnen bei Familienangehörigen von Schweizerinnen und Schweizern mit deren Einreise oder der Entstehung des Familienverhältnisses (Art. 47 Abs. 3 lit. a AuG), frühestens jedoch mit dem Inkrafttreten des Ausländergesetzes am 1. Januar 2008 (Art. 126 Abs. 3 AuG). Dabei bleibt die Fünfjahresfrist nach Art. 47 Abs. 1 Satz 1 AuG bis zum zwölften Geburtstag des Kindes massgebend, unabhängig davon, ob die Frist nach Art. 47 Abs. 3 AuG oder nach Art. 126 Abs. 3 AuG zu laufen begonnen hat. Erst ab dem zwölften Geburtstag verkürzt sich die Nachzugsfrist gemäss Art. 47 Abs. 1 Satz 2 AuG auf - maximal noch - ein Jahr (vgl. Urteile 2C_981/2010 vom 26. Januar 2012 E. 3.2; 2C_205/2011 vom 3. Oktober 2011 E. 3.5).
4.2 Wurde der Nachzug innert der Fristen des Art. 47 Abs. 1 AuG beantragt, so ist er zu bewilligen, wenn gemäss Art. 51 Abs. 1 AuG kein Rechtsmissbrauch und keine Widerrufsgründe nach Art. 63 AuG gegeben sind, die nachziehenden Eltern das Sorgerecht haben und das Kindeswohl dem Nachzug nicht entgegensteht (vgl. <ref-ruling> E. 4.7 und 4.8 S. 85 ff.). Ein nachträglicher Familiennachzug wird dagegen nur bewilligt, wenn wichtige familiäre Gründe geltend gemacht werden (Art. 47 Abs. 4 Satz 1 AuG; <ref-ruling> E. 2.3.1 S. 291; <ref-ruling> E. 4.7 S. 86; Urteile 2C_555/2012 vom 19. November 2012 E. 2.3; 2C_174/2012 vom 22. Oktober 2012 E. 2; je mit Hinweisen). Solche liegen namentlich dann vor, wenn das Kindeswohl nur durch einen Nachzug in die Schweiz gewahrt werden kann (vgl. Art. 75 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit [VZAE; SR 142.201]; <ref-ruling> E. 2.3.1 S. 291). Zu prüfen ist stets, ob im Heimatland nicht alternative Betreuungsmöglichkeiten bestehen, die es dem Kind erlauben, dort zu bleiben, wo es aufgewachsen ist. Gerade Jugendliche, die bisher stets im Heimatland gelebt haben, sind nur mit Zurückhaltung aus ihrer bisherigen Umgebung und dem vertrauten Beziehungsnetz zu reissen (<ref-ruling> E. 2.2 S. 289; <ref-ruling> E. 3.1.2 S. 11 f.; Urteile 2C_555/2012 vom 19. November 2012 E. 2.3; 2C_1085/2012 vom 12. November 2012 E. 4.2; 2C_132/2012 vom 19. September 2012 E. 2.3.1).
4.3 Dabei dürfen auch die durch einen nachträglichen Familiennachzug drohenden Integrationsschwierigkeiten mit in die Interessenabwägung einfliessen. Ist es doch gerade Sinn und Zweck der Fristenregelung, die Kinder frühzeitig nachzuziehen, um ihnen eine möglichst umfassende Schulbildung in der Schweiz zu ermöglichen und so die Integration zu erleichtern. Zudem ist Nachzugsgesuchen entgegenzuwirken, die rechtsmissbräuchlich erst kurz vor Erreichen des erwerbstätigen Alters gestellt werden, wobei die erleichterte Zulassung zur Erwerbstätigkeit und nicht (mehr) die Bildung einer echten Familiengemeinschaft im Vordergrund steht (Botschaft vom 8. März 2002 zum Bundesgesetz über die Ausländerinnen und Ausländer, BBl 2002 3709, 3754 f. Ziff. 1.3.7.7). Nach der Rechtsprechung bedarf es einer Gesamtschau unter Berücksichtigung aller relevanten Elemente im Einzelfall. Die Bewilligung des Nachzugs nach Ablauf der Fristen hat nach dem Willen des Gesetzgebers die Ausnahme zu bleiben; dabei ist Art. 47 Abs. 4 Satz 1 AuG jeweils dennoch so zu handhaben, dass der Anspruch auf Schutz des Familienlebens nach Art. 8 EMRK bzw. <ref-law> nicht verletzt wird (Urteile 2C_174/2012 vom 22. Oktober 2012 E. 4.1; 2C_330/2012 vom 18. Oktober 2012 E. 4.1; 2C_780/2012 vom 3. September 2012 E. 2.2.2; je mit Hinweisen).
5. 5.1 Der Beschwerdeführer räumt ausdrücklich ein, dass das Gesuch um Familiennachzug verspätet gestellt worden ist, was mit Blick auf die erwähnte Rechtsprechung zu keinen weiteren Bemerkungen Anlass gibt (vgl. Urteil 2C_205/2011 vom 3. Oktober 2011 E. 3.5).
5.2 Im Zeitpunkt des vorinstanzlichen Urteils waren die Söhne des Beschwerdeführers rund 17 Jahre und 8 Monate bzw. 14 Jahre und 4 Monate alt. Die Kinder, die kein Deutsch sprechen, sind in der Türkei geboren, aufgewachsen und besuchen dort die Schulen. Im Heimatland wohnen die Mutter der Kinder, deren Grosseltern und weitere Verwandte. Der Beschwerdeführer ist seit dem Urteil vom 15. Januar 2010 Inhaber der elterlichen Sorge seiner beiden Söhne, weil diese von seiner Familie betreut werden. Wie die Vorinstanz festgestellt hat, nimmt die Mutter ihr Besuchsrecht wahr und pflegt eine Beziehung zu den Söhnen. Auch wenn es den Grosseltern aufgrund der gesundheitlichen Probleme nicht mehr möglich ist, die Enkelkinder zu betreuen, besteht aufgrund der Umstände kein Anlass, den nachträglichen Familiennachzug zu gewähren:
5.3 Zumindest der ältere der beiden Söhne stand im hier massgebenden Zeitpunkt des vorinstanzlichen Urteils kurz vor der Volljährigkeit und ist damit in einem Alter, das es ihm erlaubt, mit der finanziellen Hilfe des Vaters aus der Schweiz, unter punktueller Betreuung durch die genannten Familienangehörigen oder Dritte, selbständig zu leben (vgl. Urteil 2C_780/2012 vom 3. September 2012 E. 2.3.2). Weiter bestehen für den jüngeren, 14-jährigen Sohn alternative Betreuungsmöglichkeiten, die es ihm ermöglichen, in seinem Heimatland zu bleiben, was aufgrund des jugendlichen Alters von besonderer Bedeutung ist (Urteil 2C_555/2012 vom 19. November 2012 E. 3.3.). Daran ändert nichts, dass die Söhne des Beschwerdeführers zurzeit schulbedingt nicht in ihrem Geburtsort wohnen, wo die engere Verwandtschaft lebt. Sollte es ihnen nicht möglich oder zumutbar sein, die Schulen an ihrem Geburtsort zu besuchen, liesse sich eine hinreichende Betreuung am Schulort sicherstellen, sei es, dass der ältere Sohn den jüngeren betreut, sei es, dass Verwandte - wie bis anhin die Grossmutter - an den Schulort ziehen. Möglich und zumutbar wäre angesichts des Alters der beiden Söhne gegebenenfalls auch eine Betreuung durch Personen ausserhalb der Familie, die mit finanzieller Hilfe des Vaters beigezogen werden könnten (vgl. Urteile 2C_780/2012 vom 3. September 2012 E. 2.3.2; 2C_205/2011 vom 3. Oktober 2011 E. 4.7).
5.4 Um eine ausreichende Betreuung sicherzustellen, ist es nach dem Gesagten nicht erforderlich, dass der Beschwerdeführer selbst in die Türkei zieht, weshalb es sich erübrigt zu prüfen, ob ihm dies überhaupt zumutbar wäre. Zu berücksichtigen ist schliesslich, dass sich der Beschwerdeführer während mehrerer Jahre, als seine Söhne noch jünger waren, nicht um den Nachzug bemühte, obwohl er über einen entsprechenden Rechtsanspruch verfügte (vgl. Urteil 2C_174/2012 vom 22. Oktober 2012 E. 4.2).
6. Daraus folgt, dass die Beschwerde abzuweisen ist. Dem Verfahrensausgang entsprechend wird der unterliegende Beschwerdeführer kostenpflichtig (<ref-law>). Es sind keine Parteientschädigungen geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 22. Februar 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Egli