Erwägungen:
1. 1.1 X._ (geb. 1971) stammt aus Nigeria. Ende Juni 2002 reiste er illegal in die Schweiz ein und ersuchte erfolglos um Asyl. Am 24. Juni 2003 heiratete X._ die Schweizer Bürgerin A._, worauf ihm die Aufenthaltsbewilligung zum Verbleib bei dieser erteilt wurde. Am 29. November 2004 kam der gemeinsame Sohn B._ zur Welt.
Die eheliche Gemeinschaft wurde am 27. September 2005 aufgegeben und seither nicht wieder aufgenommen. Am 18. August 2008 erfolgte die Scheidung und der Sohn B._, der bereits unter der Obhut der Mutter stand, wurde unter ihre elterliche Sorge gestellt. Dem Vater wurde lediglich ein beschränktes und (zumindest vorübergehend) begleitetes Besuchsrecht eingeräumt; er wurde zur Leistung von Kinderunterhaltsbeiträgen von Fr. 200.-- pro Monat verpflichtet.
1.2 Mit Verfügung vom 23. September 2010 lehnte das Migrationsamt des Kantons Zürich die Verlängerung der Aufenthaltsbewilligung von X._ ab und setzte ihm eine Ausreisefrist an. Sowohl die Rekursabteilung der Sicherheitsdirektion (23. Februar 2011) als auch das Verwaltungsgericht (7. Juni 2011) wiesen eine gegen den Entscheid des Migrationsamts gerichtete Beschwerde ab.
1.3 Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 10. Juni 2011 beantragt X._, den Entscheid des Verwaltungsgerichts aufzuheben und ihm die Aufenthaltsbewilligung, allenfalls auch nur für zwei Jahre, zu erteilen bzw. zu verlängern. Im Weiteren ersucht er um unentgeltliche Rechtspflege. Mit Verfügung vom 13. Juli 2011 erkannte der Präsident der II. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
2. Der Beschwerdeführer macht einen Anspruch nach Art. 50 AuG und Art. 8 EMRK (bzw. Art. 13 BV) geltend. Insoweit ist seine Beschwerde in öffentlich-rechtlichen Angelegenheiten trotz der Ausschlussbestimmung des Art. 83 lit. c Ziff. 2 BGG zulässig (Urteil 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: BGE 136 II 113 ff.). Auf die von ihm ebenfalls erhobene subsidiäre Verfassungsbeschwerde ist daher nicht einzutreten (Art. 113 BGG).
3. Soweit sie überhaupt den gesetzlichen Begründungsanforderungen genügt (Art. 42 i.V.m. Art. 106 Abs. 2 BGG) und sie sich nicht auf unzulässige Noven beruft (Art. 99 BGG), erweist sich die Beschwerde in öffentlich-rechtlichen Angelegenheiten als offensichtlich unbegründet. Sie kann deshalb ohne Weiterungen im vereinfachten Verfahren nach Art. 109 BGG erledigt werden:
3.1 Ausländische Ehegatten von Schweizer Bürgern haben unter Vorbehalt von Art. 51 Abs. 1 AuG Anspruch auf Erteilung und Verlängerung ihrer Aufenthaltsbewilligung, wenn sie mit dem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Nach einem ordnungsgemässen und ununterbrochenen Aufenthalt von fünf Jahren haben die Ehegatten Anspruch auf Erteilung der Niederlassungsbewilligung (Art. 42 Abs. 3 AuG). Gemäss Art. 50 AuG besteht nach Auflösung der Ehe oder der Familiengemeinschaft der Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG weiter, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration gegeben ist (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b).
3.2 Der Beschwerdeführer ist heute geschieden. Die Ehegemeinschaft in der Schweiz hat keine drei Jahre gedauert, weshalb er sich nicht auf Art. 50 Abs. 1 lit. a AuG berufen kann (BGE 136 II 113 E. 3.3 S. 117 ff.). Abgesehen davon, dass die Erteilung einer Niederlassungsbewilligung den Streitgegenstand über das Anfechtungsobjekt (Verfügung über Verlängerung der Aufenthaltsbewilligung) in unzulässiger Weise ausdehnen würde, hat der Beschwerdeführer auch keinen Anspruch gestützt auf Art. 42 Abs. 3 AuG. Diese Norm setzt nämlich das Bestehen des ehelichen Zusammenlebens bzw. der Haushaltsgemeinschaft während fünf Jahren voraus (Urteile 2C_284/2011 vom 21. September 2011 E. 2.2 und 2C_220/2011 vom 1. Juni 2011 E. 2.3).
3.3 Ein Anspruch aus Bewilligungsverlängerung ergibt sich sodann weder gestützt auf Art. 50 Abs. 1 lit. b AuG noch auf Art. 8 EMRK (bzw. Art. 13 BV).
3.3.1 Ein persönlicher, nachehelicher Härtefall gemäss Art. 50 Abs. 1 lit. b AuG setzt aufgrund der gesamten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben voraus. Dem Schutz des Familienlebens nach Art. 8 EMRK und Art. 13 BV ist im Rahmen von Art. 50 AuG Rechnung zu tragen. Insoweit ist namentlich zu berücksichtigen, ob der Ausländer Kinder in der Schweiz hat (vgl. Botschaft zum AuG, BBl 2002, 3739 und 3754 Ziff. 1.3.4.1.1 und 1.3.7.6; Urteile 2C_830/2010 vom 10. Juni 2011 E. 3; 2C_787/2010 vom 16. Juni 2011 E. 3.2; 2C_195/2010 vom 23. Juni 2010 E. 6 und 2C_284/2011 vom 21. September 2011 E. 2.3). Nach der ständigen Praxis zu den erwähnten Verfassungs- und Konventionsbestimmungen ist dem ausländischen Elternteil, der nicht mit seinem Schweizer Kind zusammenlebt, der Aufenthalt dann zu gewähren, wenn zwischen ihm und dem Kind in wirtschaftlicher und affektiver Hinsicht eine besonders enge Beziehung besteht, die wegen der Distanz zu seinem Herkunftsland praktisch nicht aufrechterhalten werden könnte, und wenn zusätzlich das bisherige Verhalten des Ausländers zu keinerlei Klagen Anlass gegeben hat (zu Art. 8 EMRK: BGE 120 Ib 1 E. 3c S. 5, 22 E. 4a und b S. 25 f.; zu Art. 50 AuG: Urteile 2C_787/2010 E. 3.2 und 2C_195/2010 E. 6.6).
3.3.2 Das Verwaltungsgericht hat das Bestehen einer solchen qualifizierten Beziehung zwischen dem Beschwerdeführer und seinem - zum Zeitpunkt des vorinstanzlichen Entscheids - sechsjährigen Sohn zu Recht verneint:
Gemäss den für das Bundesgericht verbindlichen Feststellungen der Vorinstanz (Art. 105 Abs. 1 BGG), die der Beschwerdeführer auch nicht bestreitet, hat es nach der Trennung bzw. nach der Scheidung in Zusammenhang mit dem ihm nicht grosszügig ausgestaltete Besuchsrecht (bis Ende Dezember 2008: ein begleitetes Besuchsrecht einmal pro Monat; ab den 1. Januar 2009 bis zum Eintritt in die Schulpflicht: ein unbegleitetes jeweils am ersten und dritten Samstag eines jeden Monats; für die Zeit nach Eintritt in die Schulpflicht: ebenfalls ein unbegleitetes am ersten und dritten Wochenende eines jeden Monats; vgl. angefochtenes Urteil E. C) zahlreiche Probleme gegeben, so dass dieses für eine gewisse Zeit nicht regelmässig oder gar nicht ausgeübt wurde. Den Akten ist zwar zu entnehmen, dass die Kontakte mit seinem Kind inzwischen (November 2010) wieder aufgenommen worden sind, Änderungen bezüglich Art und Häufigkeit des Besuchsrechts werden aber weder behauptet noch belegt. Zudem ist der Beschwerdeführer unbestrittenermassen auch nicht kontinuierlich seinen finanziellen Unterhaltsverpflichtungen nachgekommen. Die Alimentenzahlungen wurden zum Teil eingestellt und mussten deshalb durch die Gemeindebehörden bevorschusst werden.
3.3.3 Nach dem Dargelegten ist der Schluss der Vorinstanz, die gegen den Entscheid des Migrationsamts gerichtete Beschwerde abzuweisen, nicht zu beanstanden. Gerade wenn keine anderen wesentlichen Umstände zugunsten des Verbleibs des Ausländers sprechen, ist zumindest zu verlangen, dass die Beziehung zum anwesenheitsberechtigten Kind über das übliche Besuchsrecht hinaus intensiv und damit vor allem kontinuierlich, spontan und reibungslos gepflegt wird, was hier - sowohl in affektiver als auch in wirtschaftlicher Hinsicht - gerade nicht der Fall ist (Urteile 2C_398/2011 vom 25. Oktober 2011 E. 3.4; 2C_692/2011 vom 22. September 2011 E. 2.2.2; 2C_787/2010 vom 16. Juni 2011 E. 3.2 und 2C_195/2010 vom 23. Juni 2010 E. 6.4-6.6).
4. 4.1 Soweit darauf eingetreten werden kann, ist die Beschwerde deshalb abzuweisen. Für alles Weitere kann auf die zutreffenden Ausführungen in den Entscheiden der Rekursabteilung der Sicherheitsdirektion bzw. des Verwaltungsgerichts des Kantons Zürich verwiesen werden (Art. 109 Abs. 3 BGG).
4.2 Da die vorliegende Eingabe von vornherein aussichtslos war, wird der unterliegende Beschwerdeführer - trotz Gesuchs um unentgeltliche Rechtspflege - kostenpflichtig (Art. 64 BGG). Bei der Festsetzung der Gerichtskosten kann seiner finanziellen Situation Rechnung getragen werden (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen geschuldet (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
4. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, der Sicherheitsdirektion sowie dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 16. November 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Savoldelli