Sachverhalt:
A. Der 1976 geborene X._, Staatsangehöriger von Bangladesch, reiste am 25. Januar 2003 mit einem Visum in die Schweiz ein, um eine Fachschule zu besuchen. Im Juli 2005 heiratete er in A._ die 1984 geborene Schweizerin Y._. Gestützt auf die Heirat wurde X._ eine Aufenthaltsbewilligung zum Verbleib bei der Ehefrau erteilt, die ihm letztmals bis zum 12. Juli 2009 verlängert worden ist.
Im März 2007 reiste die Ehefrau in das Land B._, wo sie eine Beziehung zu einem anderen Mann einging. Dieser Beziehung entstammt nach Angaben der Ehefrau der im Juni 2009 geborene Sohn Z._. Am 27. Januar 2009 teilte das Bevölkerungsamt der Stadt Zürich dem Migrationsamt mit, dass die Ehefrau X._ rückwirkend per Dezember 2007 abgemeldet habe.
B. Am 25. Februar 2010 lehnte das Migrationsamt des Kantons Zürich die Verlängerung der Aufenthaltsbewilligung von X._ ab und setzte ihm eine Ausreisefrist an. Sowohl der Regierungsrat (2. März 2011) als auch das Verwaltungsgericht (21. September 2011) wiesen eine gegen den Entscheid des Migrationsamts gerichtete Beschwerde ab.
C. Vor Bundesgericht beantragt X._, das Urteil des Verwaltungsgerichts aufzuheben und das Migrationsamt anzuweisen, ihm die Aufenthaltsbewilligung zu verlängern. Im Weiteren ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
Mit Verfügung vom 18. November 2011 erkannte der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu. Mit Verfügung vom 20. Dezember 2011 wurde das Gesuch um unentgeltliche Rechtspflege und Verbeiständung hingegen abgewiesen.

Erwägungen:
1. 1.1 Art. 83 lit. c Ziff. 2 BGG schliesst die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide über ausländerrechtliche Bewilligungen aus, auf deren Erteilung weder nach dem Bundesrecht noch dem Völkerrecht ein Rechtsanspruch besteht.
Der Beschwerdeführer macht geltend, nach dem Scheitern seiner Ehe bestünden Gründe im Sinne von Art. 50 AuG, welche den aus der Ehe mit seiner Schweizer Gattin abgeleiteten Bewilligungsanspruch fortbestehen liessen. Auf die fristgerecht eingereichte Beschwerde (Art. 100 Abs. 1 BGG), zu welcher der Beschwerdeführer legitimiert ist (Art. 89 Abs. 1 BGG), ist somit einzutreten. Ob die entsprechenden Voraussetzungen gegeben sind, bildet Gegenstand der materiellen Beurteilung der Eingabe (<ref-ruling> E. 2; Urteile 2C_460/2009 vom 4. November 2009 E. 2.1, nicht publ. in: <ref-ruling> ff. und 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: <ref-ruling>13 ff.).
1.2 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Offensichtlich unrichtig ist eine Sachverhaltsermittlung nicht schon dann, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 1.2.2 und E. 1.4.3 i.f. S. 252 bzw. 255; <ref-ruling> E. 3.1 i.f. S. 44). Für die Sachverhaltsrügen gelten strenge Anforderungen (<ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 1.4.3 S. 255): In Bezug auf Art. 97 Abs. 1 BGG ist in der Beschwerdeschrift darzulegen, inwiefern die Sachverhaltsfeststellung willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen ist. Andernfalls können Vorbringen mit Bezug auf einen Sachverhalt, der von den Feststellungen im angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 5.2.2 S. 322; <ref-ruling> E. 1.4.3 S. 255). Dem Sachgericht steht zudem im Bereich der Beweiswürdigung ein erheblicher Ermessensspielraum zu. Das Bundesgericht greift auf Beschwerde hin nur ein, wenn dieses sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (<ref-ruling> E. 2.1 S. 9).
2. 2.1 Nach Auflösung der Ehe oder der Familiengemeinschaft hat der ausländische Ehegatte gemäss Art. 50 Abs. 1 AuG weiterhin einen Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG, wenn (lit. a) die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration besteht oder (lit. b) wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen.
Eine relevante Ehegemeinschaft liegt vor, solange die eheliche Beziehung tatsächlich gelebt wird und ein gegenseitiger Ehewille besteht. Es ist jeweils aufgrund sämtlicher Umstände im Einzelfall zu bestimmen, ab welchem Zeitpunkt die eheliche Gemeinschaft als definitiv aufgelöst zu gelten hat. Dabei ist im Wesentlichen auf die Dauer der nach aussen wahrnehmbaren ehelichen Wohngemeinschaft abzustellen (Urteil 2C_544/2010 vom 23. Dezember 2010 E. 2.2).
Ein persönlicher, nachehelicher Härtefall setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben voraus, die mit der Lebenssituation nach dem Dahinfallen der gestützt auf Art. 42 Abs. 1 AuG abgeleiteten Anwesenheitsberechtigung verbunden sein muss (<ref-ruling> E. 3.2.3 S. 349 f.; <ref-ruling> E. 4 S. 7 ff.).
Ein persönlicher, nachehelicher Härtefall setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben voraus, die mit der Lebenssituation nach dem Dahinfallen der gestützt auf Art. 42 Abs. 1 AuG abgeleiteten Anwesenheitsberechtigung verbunden sein muss (<ref-ruling> E. 3.2.3 S. 349 f.; <ref-ruling> E. 4 S. 7 ff.).
2.2 2.2.1 Mit Bezug auf Art. 50 Abs. 1 lit. a AuG hat die Vorinstanz ihrem Entscheid in tatsächlicher Hinsicht zugrunde gelegt, dass die Ehegemeinschaft zwischen dem Beschwerdeführer und seiner Frau ab Dezember 2007 aufgelöst gewesen ist und somit weniger als drei Jahre bestanden hat.
Mit dem Migrationsamt und dem Regierungsrat ist das Verwaltungsgericht in der Tat davon ausgegangen, dass die Ehefrau im November 2007 entschieden habe, nicht mehr in die Schweiz zurückzukehren, um bei ihrem Partner im Land B._ zu verbleiben.
2.2.2 Der Beschwerdeführer wirft in diesem Zusammenhang dem Verwaltungsgericht eine offensichtlich unrichtige und damit willkürliche Feststellung des Sachverhalts bzw. eine willkürliche Würdigung der Akten vor. Er beschränkt sich indessen darauf, seine Sicht der Dinge zu schildern und sie derjenigen der letzten kantonalen Instanz gegenüberzustellen. Willkür liegt nicht schon dann vor, wenn der von der Vorinstanz als erstellt erachtete Sachverhalt nicht mit der Darstellung des Beschwerdeführers übereinstimmt oder eine andere Sachverhaltsdarstellung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre. Erforderlich ist vielmehr, dass die Feststellungen bzw. die Beweiswürdigung der Vorinstanz offensichtlich unhaltbar sind, zur tatsächlichen Situation in klarem Widerspruch stehen, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzen oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderlaufen (<ref-ruling> E. 2b S. 56; <ref-ruling> E. 2a S. 168; <ref-ruling> E. 4a S. 5). Dass und inwiefern dies hier der Fall wäre, legt der Beschwerdeführer nicht dar.
Im Übrigen - indem er behauptet, seine Sachverhaltsdarstellung sei nicht widerlegt worden - übersieht der Beschwerdeführer, dass ihn nach Art. 90 AuG eine Mitwirkungspflicht trifft; diese wird namentlich für die Angaben über die für die Regelung des Aufenthalts wesentlichen Tatsachen besonders hervorgehoben (lit. a). Die Last, bei der Feststellung des Sachverhalts die für den Beschwerdeführer relevanten Unterlagen beizubringen, traf deshalb vor allem ihn (Urteil 2C_531/2011 vom 19. Dezember 2011 E. 2.1.2).
2.2.3 Gemäss den für das Bundesgericht verbindlichen Feststellungen der Vorinstanz (Art. 105 Abs. 1 BGG; vgl. vorne E. 1.2), steht dem Beschwerdeführer somit gestützt auf Art. 50 Abs. 1 lit. a AuG kein Anspruch auf Verlängerung seiner Aufenthaltsbewilligung zu. Ob er in der Schweiz erfolgreich integriert ist, spielt insoweit keine Rolle mehr (Urteil 2C_635/2009 vom 26. März 2010 E. 5.2).
2.3 Entgegen seiner Kritik, sind gleichzeitig auch keine wichtigen persönlichen Gründe ersichtlich, die einen weiteren Aufenthalt des Beschwerdeführers in der Schweiz erforderlich machen (Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG).
2.3.1 Der Beschwerdeführer reiste erst mit 26 Jahren in die Schweiz ein, von seinem rund achtjährigen Aufenthalt in der Schweiz entfallen aber bloss etwa 28 Monate auf den Bestand der Ehegemeinschaft (vgl. vorne E. 2.2.1). Vor der Eheschliessung verfügte er nur über eine Aufenthaltsbewilligung zum Zwecke der Aus- und Weiterbildung, die für einen vorübergehenden Aufenthalt gedacht ist; seit der Ablehnung der Verlängerung seiner Aufenthaltsbewilligung, mit Verfügung vom 25. Februar 2010 des Migrationsamts des Kantons Zürich, ist sein Aufenthalt lediglich toleriert (<ref-ruling>0 E. 4.4. S. 13). Vor seiner Einreise lebte er in Bangladesch, wo nach den verbindlichen Feststellungen der Vorinstanzen (Art. 105 Abs. 1 und 2 BGG) ein Teil seiner Verwandten immer noch wohnt. Die Ehe mit Y._ ist kinderlos geblieben, und er macht nicht geltend, Verwandte in der Schweiz zu haben.
2.3.2 Es kann auch nicht gesagt werden, dass seine Lebensbedingungen bei einer Rückkehr nach Bangladesch gemessen am durchschnittlichen Schicksal ausländischer Staatsangehöriger in gesteigertem Masse infrage gestellt wären. Der Beschwerdeführer beruft sich zwar auf sozial unsichere Verhältnisse im Heimatland, belegt eine konkrete Gefährdung bei einer Rückkehr aber nicht (Urteil 2C_896/2010 vom 9. August 2011 E. 3.2).
2.4 Zusammenfassend ergibt sich, dass der Beschwerdeführer weder nach Art. 50 Abs. 1 lit. a noch gestützt auf Art. 50 Abs. 1 lit. b AuG einen Anspruch auf eine Aufenthaltsbewilligung hat.
3. 3.1 Soweit darauf eingetreten werden kann, ist die Beschwerde deshalb abzuweisen. Für alles Weitere kann auf die zutreffenden Ausführungen in den Entscheiden des Regierungsrats bzw. des Verwaltungsgerichts des Kantons Zürich verwiesen werden (Art. 109 Abs. 3 BGG).
3.2 Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, dem Regierungsrat sowie dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 23. Februar 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Savoldelli