Sachverhalt: A. Der türkische Staatsangehörige X._ (geb. 10. Oktober 1976) hielt sich von 1995 bis 2001 in Deutschland als Asylbewerber auf. Am 10. Juli 2001 reiste er illegal in die Schweiz ein und heiratete am 10. August 2001 eine Schweizer Bürgerin (geb. 1965). Gestützt auf die Heirat wurde X._ eine Aufenthaltsbewilligung erteilt. Mit Strafbefehl der Bezirksanwaltschaft Hinwil vom 2. September 2001 wurde er wegen illegaler Einreise mit sieben Tagen Gefängnis bedingt (Probezeit 2 Jahre) bestraft und darauf fremdenpolizeilich verwarnt. Da sich der Verdacht, dass es sich um eine Scheinehe handle, (zunächst) nicht erhärten liess, wurde die Aufenthaltsbewilligung wiederholt verlängert (zuletzt bis zum 10. August 2006). B. Mit Verfügung vom 5. September 2006 lehnte die Sicherheitsdirektion des Kantons Zürich das Gesuch von X._ um Verlängerung der Aufenthaltsbewilligung wegen rechtsmissbräuchlicher Berufung auf die nur noch formell bestehende Ehe ab und wies den Betroffenen weg. X._ rekurrierte dagegen an den Regierungsrat des Kantons Zürich. Mit Urteil des Bezirksgerichts Bülach vom 31. August 2007 (in Rechtskraft erwachsen am 9. Oktober 2007) wurde die Ehe geschieden. Der Regierungsrat wies den Rekurs gegen die Verweigerung der Bewilligungsverlängerung mit Beschluss vom 27. August 2008 ab mit der Begründung es liege eine Scheinehe vor, aber der Tatbestand des Rechtsmissbrauchs sei ebenfalls erfüllt. Die dagegen von X._ beim Verwaltungsgericht des Kantons Zürich erhobene Beschwerde blieb ohne Erfolg. C. Mit Verwaltungsgerichtsbeschwerde (recte: Beschwerde in öffentlich-rechtlichen Angelegenheiten) vom 5. März 2009 beantragt X._, den Entscheid des Verwaltungsgerichts des Kantons Zürich vom 21. Januar 2009 aufzuheben und die Sache an die Vorinstanz zurückzuweisen, eventualiter dem Beschwerdeführer die Niederlassungsbewilligung zu erteilen, subeventualiter die Aufenthaltsbewilligung zu verlängern. Zudem stellt er das Begehren, der Beschwerde sei aufschiebende Wirkung zuzuerkennen. Das Verwaltungsgericht und die Staatskanzlei (im Auftrag des Regierungsrates) des Kantons Zürich sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. D. Mit Verfügung vom 10. März 2009 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde aufschiebende Wirkung zuerkannt.