Erwägungen:
1. 1.1 Der tunesische Staatsangehörige X._ (geb. ***1975) reiste am 16. November 2003 illegal in die Schweiz ein und heiratete am 17. November 2003 in Zürich die Schweizer Bürgerin Y._ (geb. 1985), worauf ihm die Aufenthaltsbewilligung zum Verbleib bei der Ehefrau erteilt wurde.
Mit Verfügung des Bezirksgerichts Zürich vom 14. April 2005 wurde den Eheleuten das Getrenntleben bewilligt. Die Ehegattin soll jedoch erst am 9. August 2006 aus der gemeinsamen Wohnung in Zürich ausgezogen und zu ihren Eltern in Wädenswil zurückgekehrt sein. Die Ehegatten machten geltend, die eheliche Gemeinschaft bestehe weiterhin, und begründeten das Getrenntleben mit der Ausbildung der Ehegattin. Das eheliche Zusammenleben wurde seither nicht wieder aufgenommen. Am 3. September 2009 wurde die Ehe rechtskräftig geschieden.
1.2 Mit Verfügung vom 17. März 2009 lehnte das Migrationsamt des Kantons Zürich die Verlängerung der Aufenthaltsbewilligung von X._ ab und setzte ihm eine Ausreisefrist.
Sowohl der Regierungsrat (3. November 2010) als auch das Verwaltungsgericht (23. März 2011) des Kantons Zürich wiesen eine gegen die Verfügung des Migrationsamts gerichtete Beschwerde ab.
1.3 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 27. April 2011 beantragt X._ sinngemäss die Aufhebung des Urteils des Verwaltungsgerichts vom 23. März 2011 und die Verlängerung der Aufenthaltsbewilligung. Das Verwaltungsgericht verzichtet auf Vernehmlassung, das Migrationsamt liess sich nicht vernehmen und das Bundesamt für Migration schliesst auf Abweisung der Beschwerde.
Mit Verfügung vom 3. Mai 2011 erkannte der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde hinsichtlich der Ausreiseverpflichtung aufschiebende Wirkung zu.
2. 2.1 Der Beschwerdeführer macht einen Anspruch nach Art. 50 AuG geltend. Insoweit ist seine Beschwerde in öffentlich-rechtlichen Angelegenheiten trotz der Ausschlussbestimmung des <ref-law> zulässig (Urteil 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: <ref-ruling> ff.).
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, wie ihn die Vorinstanz festgestellt hat (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (Art. 105 Abs. 2 bzw. <ref-law>). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>).
Das unaufgefordert nach Ablauf der Beschwerdefrist am 19. Dezember 2011 eingereichte Schreiben des Beschwerdeführers sowie der beigelegte Einsatzvertrag vom 14. Dezember 2011 können daher im vorliegenden Beschwerdeverfahren nicht berücksichtigt werden; sie vermöchten jedoch am Ausgang des Verfahrens ohnehin nichts zu ändern.
3. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich als offensichtlich unbegründet. Sie kann deshalb im vereinfachten Verfahren nach <ref-law> erledigt werden:
3.1 Ausländische Ehegatten von Schweizer Bürgern haben unter Vorbehalt von Art. 51 Abs. 1 AuG Anspruch auf Erteilung und Verlängerung ihrer Aufenthaltsbewilligung, wenn sie mit dem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Das Erfordernis des Zusammenwohnens besteht gemäss Art. 49 AuG nicht, wenn für getrennte Wohnorte wichtige Gründe geltend gemacht werden und die Familiengemeinschaft weiter besteht.
Gemäss Art. 50 AuG besteht nach Auflösung der Ehe oder der Familiengemeinschaft der Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG weiter, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration gegeben ist (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b).
3.2 Der Beschwerdeführer ist heute geschieden. Als die Ehegatten die Wohngemeinschaft im November 2006 aufhoben, begründeten sie dies damit, dass die Ehegattin Ruhe sowie die Unterstützung der Eltern für die begonnene Lehre brauche. Wie die Vorinstanz zutreffend festhält, sind damit keine wichtigen Gründe im Sinne von Art. 49 AuG für ein Getrenntleben dargetan. Auch ohne Aufgabe des ehelichen Zusammenlebens hätte die Ehegattin materielle Unterstützung ihrer in der Nähe von Zürich wohnhaften Eltern empfangen bzw. eine enge Beziehung zu diesen pflegen können. Kontakte der Ehegatten per SMS sowie Telefonanrufe und gelegentliche Treffen vermögen zudem auch nicht den Fortbestand der ehelichen Gemeinschaft zu belegen, weshalb eine Weitergeltung des Bewilligungsanspruchs schon wegen fehlender Ehegemeinschaft (bzw. nach dem damals geltenden ANAG wegen rechtsmissbräuchlicher Berufung auf eine nur formell bestehende Ehe) entfiel. Aus dem Umstand, dass dem Beschwerdeführer die Aufenthaltsbewilligung im Juli 2008 nochmals (bis zum 15. November 2008) verlängert wurde, kann sodann nicht gefolgert werden, für das Migrationsamt habe in jenem Zeitpunkt die Ehegemeinschaft immer noch bestanden. Die Verlängerung erfolgte ausdrücklich "ausnahmsweise und ohne Präjudiz". Hätte das Migrationsamt die Voraussetzungen nach Art. 49 AuG damals tatsächlich als erfüllt erachtet, hätte es im Gegenteil keinen Anlass gehabt, den Beschwerdeführer darauf aufmerksam zu machen, dass eine weitere Verlängerung nur in Betracht komme, wenn bis spätestens November 2008 die eheliche Wohngemeinschaft wieder aufgenommen worden sei. Konkrete Hinweise darauf, dass die eheliche Gemeinschaft zumindest bis im Frühjahr 2008 gedauert hätte, wie der Beschwerdeführer in seiner Eingabe an das Bundesgericht behauptet, sind keine erkennbar. Dass die Ehegattin vorher nicht von Scheidung sprach, vermag unter den vorliegenden Umständen keineswegs den Fortbestand der Ehegemeinschaft nachzuweisen. Nach den zutreffenden Feststellungen der Vorinstanz hat diese somit etwas weniger als 2 Jahre und neun Monate und folglich keine drei Jahre gedauert, weshalb sich der Beschwerdeführer nicht auf Art. 50 Abs. 1 lit. a AuG berufen kann. Ob der Beschwerdeführer erfolgreich integriert ist, spielt insoweit keine Rolle mehr (vgl. <ref-ruling> E. 3.4 S. 120).
3.3 Wichtige persönliche Gründe, die im Sinne von Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG einen weiteren Aufenthalt des Beschwerdeführers in der Schweiz erforderlich machen würden, sind nicht erkennbar. Ein persönlicher, nachehelicher Härtefall gemäss dieser Bestimmung setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben der ausländischen Person voraus, die mit ihrer Lebenssituation nach dem Dahinfallen der gestützt auf das gemeinsame Eheleben abgeleiteten Anwesenheitsberechtigung verbunden sind.
Vorliegend ist die Ehe kinderlos geblieben; der Schutz des Familienlebens (Art. 8 EMRK und <ref-law>) ist insofern durch die Nichtverlängerung der Aufenthaltsbewilligung nicht betroffen. Weder der Umstand, dass der Beschwerdeführer während seinem Aufenthalt in der Schweiz mehrheitlich einer Erwerbstätigkeit (vor allem temporäre Arbeitseinsätze) nachging und weiterhin in der Schweiz arbeiten möchte, noch die allgemeine aktuelle Lage in Tunesien, auf die er sich beruft, vermögen einen nachehelichen Härtefall zu begründen. Für den Beschwerdeführer mag das Leben in der Schweiz einfacher und eine Ausreise mit gewissen Schwierigkeiten verbunden sein. Eine starke Gefährdung seiner Wiedereingliederung im Herkunftsland ist damit nicht dargetan. Im Übrigen hat er den Kontakt zu seinem Heimatland nie abgebrochen und ist vielmehr wiederholt dorthin zurückgekehrt. Die Vorinstanz ist somit zu Recht davon ausgegangen, dass der Beschwerdeführer mit den heimatlichen Verhältnissen nach wie vor vertraut ist und es ihm möglich sein wird, in Tunesien, wo er aufgewachsen ist und seine Eltern, zwei Brüder sowie vermutlich noch weitere Verwandte leben, wieder Fuss zu fassen.
3.4 Zusammenfassend ergibt sich, dass der Beschwerdeführer weder nach Art. 50 Abs. 1 lit. a AuG noch gestützt auf Art. 50 Abs. 1 lit. b AuG einen Anspruch auf Aufenthaltsbewilligung hat.
4. Soweit der Beschwerdeführer sinngemäss die vorinstanzliche Beurteilung der ermessensweisen Bewilligungsverlängerung beanstandet, kann auf seine Eingabe nicht eingetreten werden. Dagegen steht die Beschwerde an das Bundesgericht nicht offen (Art. 83 lit. c Ziff. 2, Art. 115 lit. b BGG). Eine Verletzung von Parteirechten, deren Missachtung einer formellen Rechtsverweigerung gleichkäme, wird im Übrigen nicht gerügt (vgl. <ref-ruling> E. 6.2 S. 198 f. mit Hinweis).
5. Aufgrund des Gesagten ist die Beschwerde als offensichtlich unbegründet abzuweisen, soweit darauf eingetreten werden kann. Für alles Weitere kann auf die zutreffenden Ausführungen im Beschluss des Regierungsrates sowie im Urteil des Verwaltungsgerichts des Kantons Zürich verwiesen werden (<ref-law>).
Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kostenpflichtig (Art. 65 f. BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Sicherheitsdirektion des Kantons Zürich, dem Regierungsrat des Kantons Zürich, dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 12. Januar 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Dubs