Erwägungen:
1. 1.1 Der aus Gambia stammende X._ (geb. 1966) reiste im Mai 2003 in die Schweiz ein und ersuchte unter falschen Personalien erfolglos um Asyl. Der Vollzug der Wegweisung scheiterte, weil X._ über keine Reisepapiere verfügte. Zwischen Juli 2003 und Mai 2006 ergingen gegen ihn vier Straferkenntnisse wegen Vergehen gegen das Betäubungsmittelgesetz (BetmG) und gegen die ausländerrechtliche Gesetzgebung (Bestrafung am 23. Juli 2003 zu 20 Tagen Gefängnis, am 18. Februar 2004 zu drei Monaten Gefängnis, am 21. Januar 2005 zu 21 Monaten Gefängnis und am 22. Mai 2006 zu drei Monaten Gefängnis). Im Mai 2006 heiratete X._ die Schweizer Bürgerin Y._ (geb. 1957), wobei er erstmals seine richtige Identität bekannt gab. In der Folge erteilte ihm das Migrationsamt des Kantons Zürich eine Aufenthaltsbewilligung, welche es letztmals bis zum 8. Mai 2008 verlängerte. Am 10. November 2008 verweigerte es die Verlängerung der Bewilligung namentlich mit der Begründung, seine Ehefrau habe ihren Wohnsitz in die USA verlegt. Trotz ihrer Rückkehr in die Schweiz wiesen der Regierungsrat und das Verwaltungsgericht die Rechtsmittel von X._ ab, weil dieser am 16. September 2009 - durch das Obergericht des Kantons Zürich am 22. März 2010 und schliesslich durch das Bundesgericht (6B_463/ 2010) am 29. Juli 2010 bestätigt - wegen mehrfacher Widerhandlung gegen Art. 19 Ziff. 1 Abs. 4 und 5 BetmG zu einer unbedingten Freiheitsstrafe von sieben Monaten verurteilt worden war.
1.2 Mit als "öffentlichrechtlicher Beschwerde" bezeichneter Eingabe vom 30. September 2011 beantragt X._ dem Bundesgericht, das im Kanton zuletzt ergangene Urteil des Verwaltungsgerichts vom 27. August 2011 aufzuheben und ihm die Sache zur Neubeurteilung zurückzuweisen. Ausserdem ersucht er um Sistierung des Verfahrens.
1.3 Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 5. Oktober 2011 hinsichtlich der Ausreiseverpflichtung antragsgemäss die aufschiebende Wirkung zuerkannt.
1.4 Der Beschwerdeführer hat seinen bereits mit Beschwerdeerhebung eingereichten Antrag auf unentgeltliche Rechtspflege am 11. November 2011 durch Unterlagen zu seiner Bedürftigkeit ergänzt. Darauf hat das Bundesgericht am 15. November 2011 auf die weitere Einforderung eines Kostenvorschusses verzichtet.
1.5 Das Bundesgericht hat die Akten des kantonalen Verfahrens beigezogen, jedoch von der Einholung von Vernehmlassungen abgesehen.
2. 2.1 Das Verwaltungsgericht stützt seinen Entscheid, die Bewilligung nicht zu verlängern, auf Art. 51 Abs. 1 lit. b AuG (SR 142.20) in Verbindung einerseits mit Art. 63 Abs. 1 lit. a und Art. 62 lit. b AuG (Verurteilung zu einer längerfristigen Freiheitsstrafe) und anderseits mit Art. 63 Abs. 1 lit. b AuG (schwerwiegender Verstoss gegen die öffentliche Sicherheit und Ordnung). Wie auch der Regierungsrat geht es davon aus, dass der Beschwerdeführer zu einer längerfristigen Freiheitsstrafe im Sinne von Art. 62 lit. b AuG verurteilt worden sei. Eine solche liegt vor, wenn gegen den Ausländer eine Freiheitsstrafe von mehr als einem Jahr verhängt wurde. Diese Mindestdauer muss sich aus einem einzigen Strafurteil ergeben; eine Zusammenzählung mehrerer kürzerer Urteile ist nicht zulässig (<ref-ruling> E. 2 S. 299 ff.). Die Vorinstanzen stützen sich denn auch auf das Strafurteil vom 21. Januar 2005, durch das der Beschwerdeführer zu einer unbedingten Freiheitsstrafe von 21 Monaten verurteilt worden war. Allerdings erteilten die Behörden dem Beschwerdeführer in Kenntnis dieses Strafurteils zunächst noch im Juni 2006 eine Aufenthaltsbewilligung, die sie zudem ein Jahr später verlängerten. Zwar verwarnten sie den Beschwerdeführer wegen der bis dahin ergangenen Verurteilungen am 15. Juni 2006 fremdenpolizeilich, sahen damals aber von schärferen Massnahmen ab. Daher ist fraglich, ob sie später den Widerrufsgrund des Art. 62 lit. b AuG noch unter Berufung auf das Strafurteil aus dem Jahr 2005 begründen können (vgl. Urteil des Bundesgerichts 2A.737/2004 vom 30. März 2005 E. 3, insb. E. 3.3, in: Pra 2006 Nr. 26 S. 184).
Das kann indes offen gelassen werden, da mindestens der Widerrufsgrund des Art. 63 Abs. 1 lit. b AuG gegeben ist (dazu allg. <ref-ruling> E. 3 S. 302 ff.). Wie sich aus der erneuten Verurteilung vom 16. September 2009 ohne Weiteres ergibt, hat sich der Beschwerdeführer von strafrechtlichen Massnahmen - vier Verurteilungen zwischen 2003 und 2006 mit anschliessenden mehrmonatigen Gefängnisaufenthalten - nicht beeindrucken lassen und damit gezeigt, dass er weder gewillt noch fähig ist, sich an die Rechtsordnung zu halten. Dementsprechend haben auch sämtliche Strafrechtsinstanzen dem Beschwerdeführer im Zusammenhang mit der letzten Verurteilung eine schlechte Legalprognose gestellt. Durch den Handel mit Betäubungsmitteln, welcher dem letzten Strafurteil zugrundelag, werden zudem hochwertige Rechtsgüter gefährdet. Angesichts der vom Bundesgericht bestätigten Verurteilung zu immerhin sieben Monaten Gefängnis ohne Bewährung geht der Versuch des Beschwerdeführers fehl, sein deliktisches Verhalten zu verharmlosen.
2.2 Der Beschwerdeführer bestreitet, dass die Nichterneuerung seiner Bewilligung verhältnismässig sei. Dabei kritisiert er, dass auch auf die Strafurteile abgestellt wurde, welche vor der erstmaligen Erteilung der Aufenthaltsbewilligung im Juni 2006 ergangen waren. Er übersieht indes, dass im Rahmen der ausländerrechtlich vorzunehmenden Interessenabwägung zu berücksichtigen ist, wie sich der betroffene Ausländer während seiner gesamten Anwesenheit in der Schweiz verhalten hat (vgl. Urteil des Bundesgerichts 2C_477/2008 vom 24. Februar 2009 E. 3.2). Deshalb ist es richtig, dass die Vorinstanzen festhalten, der Beschwerdeführer sei vor der Verurteilung zu sieben Monaten Gefängnis bereits viermal strafrechtlich belangt worden. Darüber hinaus hatte das kantonale Migrationsamt den Beschwerdeführer mit Blick hierauf am 15. Juni 2006 verwarnt und ihm schwer wiegende fremdenpolizeiliche Massnahmen für den Fall einer erneuten gerichtlichen Bestrafung in Aussicht gestellt.
Die Vorinstanzen haben sämtliche Interessen - auch die des Beschwerdeführers und seiner Ehefrau - sorgfältig und zutreffend gegeneinander abgewogen und sich dabei mit den vom Beschwerdeführer geltend gemachten Einwänden befasst, welche dieser vor Bundesgericht teilweise erneut vorbringt. Daher kann auf ihre Ausführungen verwiesen werden. Nicht zu beanstanden ist ihr Schluss, es bestehe beim Beschwerdeführer eine Rückfallgefahr und seine Aufenthaltsbewilligung sei nicht zu verlängern. Entgegen der Auffassung des Beschwerdeführers ist dabei nicht abzuwarten, bis er aus dem Strafvollzug, den er am 21. November 2011 angetreten hat, entlassen worden ist. Dem Verhalten im Strafvollzug kommt nur geringe Bedeutung zu (vgl. <ref-ruling> E. 4a/bb S. 528; <ref-ruling> E. 5.2.2 S. 237 mit Hinweisen). Im Übrigen führten schon frühere Gefängnisaufenthalte nicht dazu, dass der Beschwerdeführer von weiteren Delikten absah. Daher ist auch sein entsprechend begründeter Antrag, das bundesgerichtliche Verfahren während des Strafvollzugs auszusetzen, abzuweisen. Dem Dargelegten zufolge wird dadurch - entgegen der Behauptung des Beschwerdeführers - nicht gegen den Grundsatz des fairen Verfahrens verstossen.
2.3 Der Beschwerdeführer rügt schliesslich, ihm sei "keinerlei persönliches Anhörungsrecht" zu seinem Standpunkt zugestanden worden und die Interessenabwägung erfolge bloss gestützt auf einen "Aktenprozess". Der Beschwerdeführer führt jedoch keine Vorschrift im Sinne von <ref-law> an, aus der sich ein Anspruch auf mündliche Anhörung ergeben soll. Ausserdem hatte er ausreichend Gelegenheit zur schriftlichen Stellungnahme. Das genügt im vorliegenden Verfahren (vgl. Urteile des Bundesgerichts 2A.561/2001 vom 21. Dezember 2001 E. 2; 2C_690/2010 vom 25. Januar 2011 E. 2.3 und 2C_382/2011 vom 16. November 2011 E. 3 mit Hinweis auf <ref-ruling> E. 5.3 S. 148; <ref-ruling> E. 4c S. 469). Soweit der Beschwerdeführer in diesem Zusammenhang eine Verletzung von §§ 51 und 59 des Verwaltungsrechtspflegegesetzes des Kantons Zürich vom 24. Mai 1959 rügt, zeigt er nicht auf, inwiefern diese kantonalen Bestimmungen willkürlich angewendet worden sein sollen (zur Rüge- und Begründungsobliegenheit <ref-law> und <ref-ruling> E. 2.1-2.3 S. 245 ff., 349 E. 3 S. 351 f.).
3. Demzufolge erweist sich die als Beschwerde in öffentlich-rechtlichen Angelegenheit zu behandelnde Eingabe (vgl. Art. 82 und Art. 83 lit. c Ziff. 2 BGG) als offensichtlich unbegründet. Daher ist sie im vereinfachten Verfahren nach <ref-law> mit summarischer Begründung abzuweisen.
Diesem Ausgang entsprechend hat der Beschwerdeführer die - wegen seiner finanziellen Verhältnisse reduzierten - Kosten des bundesgerichtlichen Verfahrens zu tragen (Art. 65 f. BGG). Zwar hat er um unentgeltliche Rechtspflege ersucht. Sein Rechtsbegehren erschien jedoch nach dem Dargelegten als aussichtslos (vgl. <ref-law>; <ref-ruling> E. 4b S. 275). Parteientschädigungen sind nicht zuzusprechen (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Das Gesuch um Sistierung des bundesgerichtlichen Verfahrens wird abgelehnt.
2. Die Beschwerde wird abgewiesen.
3. Das Gesuch um unentgeltliche Prozessführung und Verbeiständung wird abgewiesen.
4. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 26. Januar 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Merz