Erwägungen:
1. X._, 1978 geborener Staatsangehöriger von Bangladesch, reiste im Juli 2001 in die Schweiz ein und ersuchte erfolglos um Asyl. In der Folge heiratete er eine Schweizer Bürgerin und erhielt eine Aufenthaltsbewilligung. Die Ehe wurde am 13. April 2005 gerichtlich getrennt. Da es zudem am 23. November 2007 zu einer Verurteilung wegen einfacher Körperverletzung und versuchter Nötigung gekommen war und X._ auch Fürsorgegelder bezogen hatte, wurde ein Gesuch um weitere Bewilligungsverlängerung am 4. Februar 2008 abgelehnt. Die dagegen erhobenen Rechtsmittel blieben erfolglos (zuletzt in Rechtskraft erwachsenes Urteil des Verwaltungsgerichts des Kantons Zürich vom 23. September 2009).
Am 14. Dezember 2009 gewährte das Migrationsamt des Kantons Zürich X._ das rechtliche Gehör betreffend seine Wegweisung aus der Schweiz. Dieser ersuchte daraufhin um Erteilung einer Härtefallbewilligung bzw. um vorläufige Aufnahme. Die Sicherheitsdirektion des Kantons Zürich verfügte am 21. Januar 2010 die Wegweisung aus der Schweiz; auf das Gesuch um Härtefallbewilligung trat sie nicht ein. Den gegen diese Verfügung erhobenen Rekurs wies der Regierungsrat des Kantons Zürich am 16. März 2011 ab. Mit Urteil vom 24. August 2011 sodann wies das Verwaltungsgericht des Kantons Zürich die gegen den Rekursentscheid des Regierungsrats erhobene Beschwerde ab.
Mit subsidiärer Verfassungsbeschwerde vom 14. Oktober 2011 beantragt X._ dem Bundesgericht, das Urteil des Verwaltungsgerichts sei aufzuheben und es sei der Kanton Zürich anzuweisen, ihm eine Aufenthaltsbewilligung für den Kanton Zürich zu erteilen; eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen; subeventuell sei der Kanton Zürich anzuweisen, beim Bundesamt für Migration die vorläufige Aufnahme zu beantragen.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
2. 2.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss Art. 83 lit. c BGG unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt (Ziff. 2), die vorläufige Aufnahme (Ziff. 3) und die Wegweisung (Ziff. 4). Der Beschwerdeführer behauptet nicht, dass er einen bundes- oder völkerrechtlichen Anspruch auf die Aufenthaltsbewilligung hat, deren Erteilung durch den Kanton Zürich er beantragt. Damit ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten in Bezug auf sämtliche Streitpunkte ausgeschlossen. Das Urteil des Verwaltungsgerichts wird insofern zu Recht mit dem ausserordentlichen Rechtsmittel der subsidiären Verfassungsbeschwerde gemäss Art. 113 ff. BGG angefochten.
2.2 Das Verwaltungsgericht hat für rechtmässig befunden, dass die Ausländerbehörde auf das Gesuch um Härtefallbewilligung nicht eingetreten ist. Es hat festgestellt, dass das Bewilligungsgesuch unter dem Gesichtswinkel der Wiedererwägung zu behandeln war, wobei die entsprechenden Voraussetzungen für ein Eintreten (namentlich eine Veränderung der tatsächlichen Verhältnisse im Vergleich zum ursprünglichen in Rechtskraft erwachsenen Entscheid) nicht erfüllt seien (E. 1.1 bis 1.3). Zusätzlich hat es für den Fall, dass von einem neuen Gesuch auszugehen wäre, auf Art. 17 (Abs. 2) AuG verwiesen; danach hat der Ausländer den Entscheid über die Bewilligungserteilung im Ausland abzuwarten, es sei denn, die Zulassungsvoraussetzungen seien offensichtlich erfüllt; dass dem so sei, verneinte das Verwaltungsgericht angesichts des rechtskräftigen negativen Bewilligungsentscheids vom 23. September 2009; die Ausländerbehörde habe damit vor der Ausreise des Beschwerdeführers nicht über das Gesuch entscheiden müssen (E. 1.4).
Was den letztgenannten Aspekt betrifft, macht der Beschwerdeführer geltend, es sei unhaltbar, die Zulassungsvoraussetzungen nicht als offensichtlich erfüllt zu sehen. Zur Begründung legt er im Einzelnen dar, warum bei ihm ein Härtefall vorliege. Er verkennt, dass er damit in unzulässiger Weise die materielle Bewilligungsfrage zum Gegenstand seiner Rügen macht: Fehlt es, wie vorliegend, an einem Rechtsanspruch auf Bewilligung, ist der Ausländer hinsichtlich der Bewilligungsfrage selber nicht zur Willkürrüge legitimiert (Art. 115 lit. b BGG; dazu BGE 133 I 185). Dass vorliegend streitig ist, ob die kantonale Behörde auf das Bewilligungsgesuch hätte eintreten müssen, mithin die verfahrensrechtliche Stellung des Beschwerdeführers im Spiel ist, ändert an der Unzulässigkeit der Willkürrüge nichts: Wohl kann mit der Verfassungsbeschwerde, ungeachtet der Legitimation in der Sache selber, gegebenenfalls die auf eine formelle Rechtsverweigerung hinauslaufende Verletzung von Verfahrensrechten gerügt werden (vgl. BGE 133 I 185 E. 6.2 S. 198 f.). Nicht zu hören sind dabei aber Rügen, die, wie hier, im Ergebnis auf eine Überprüfung der materiellen Bewilligungsfrage abzielen (vgl. BGE 114 Ia 307 E. 3c S. 313; 135 II 430 E. 3.2 S. 436 f. mit Hinweisen).
Ist aber die für sich allein den Nichteintretensentscheid der Ausländerbehörde rechtfertigende E. 1.4 des verwaltungsgerichtlichen Urteils nicht wirksam angefochten worden, ist auf die Beschwerde in Bezug auf die Frage der Härtefallbewilligung nicht einzutreten, ohne dass die zu E. 1.1 bis 1.3 erhobenen Rügen geprüft werden müssen (vgl. BGE 136 III 534 E. 2 S. 535; 133 IV 119 E. 6.3 S. 120 f. bezüglich der Notwendigkeit, jede selbstständige Entscheidbegründung wirksam anzufechten).
2.3 Hinsichtlich der Wegweisung macht der Beschwerdeführer geltend, angesichts der von ihm dargelegten Härtefallsituation seien die Voraussetzungen einer vorläufigen Aufnahme namentlich wegen der ihm im Heimatland drohenden Gefährdung erfüllt; diese Gefährdung zu verneinen sei willkürlich.
Der weggewiesene Ausländer selber kann die vorläufige Aufnahme nicht beantragen; allein die kantonale Behörde kann beim Bundesamt für Migration einen entsprechenden Antrag stellen (Art. 83 Abs. 1 - 4 und Abs. 6 AuG). Auf einen im Rahmen der Verfassungsbeschwerde gestellten Antrag betreffend die vorläufige Aufnahme und die entsprechenden Rügen ist an sich nicht einzutreten (BGE 137 II 305 E. 3.1 und 3.2 S. 308 ff.). Gegen den kantonalen Wegweisungsentscheid als solchen bzw. das Verneinen von Vollzugshindernissen durch die kantonale Behörde kann sich der Ausländer indessen vor Bundesgericht mit subsidiärer Verfassungsbeschwerde auf besondere verfassungsmässige Rechte berufen, die unter bestimmten Voraussetzungen dem Vollzug einer Wegweisung als an sich zwingende Folge des bewilligungslosen Zustandes entgegenstehen können; dies setzt jedoch voraus, dass solche spezielle Grundrechtsverletzungen in einer den strengen Anforderungen von Art. 106 Abs. 2 BGG genügenden Weise vorgetragen werden (BGE 137 II 305 E. 3.3 S. 310 f.). Solche spezifische Rügen erhebt und begründet der Beschwerdeführer nicht.
2.4 Die Beschwerde enthält in keinerlei Hinsicht zulässige bzw. hinreichende Rügen; es ist darauf mit Entscheid des Einzelrichters im vereinfachten Verfahren nach Art. 108 BGG nicht einzutreten.
2.5 Die Gerichtskosten (Art. 65 BGG) sind entsprechend dem Verfahrensausgang dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Zürich, 2. Kammer, schriftlich mitgeteilt.
Lausanne, 22. Oktober 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller