Erwägungen:
1. X._, 1974 geborener Kosovare, weilte von Sommer 1995 bis Sommer 2000 in der Schweiz. Im April 2003 reiste er erneut ein und stellte ein Asylgesuch, auf welches umgehend nicht eingetreten wurde; es wurde gegen ihn eine Einreisesperre verhängt, und am 13. Juli 2003 erfolgte seine Ausschaffung. Die Einreisesperre wurde 2004 aufgehoben, nachdem X._ am 20. Januar 2004 eine Schweizer Bürgerin geheiratet hatte. Am 6. Mai 2004 reiste er zu seiner Frau ins Land ein und erhielt eine Aufenthaltsbewilligung für den Kanton Zürich, zuletzt verlängert bis zum 5. Mai 2007. Die eheliche Wohngemeinschaft wurde im August 2004 aufgegeben, die Ehe am 7. Oktober 2008 geschieden.
Mit Verfügung vom 18. Januar 2011 wies das Migrationsamt des Kantons Zürich das vom 28. März 2007 datierte Gesuch um Verlängerung der Aufenthaltsbewilligung von X._ ab, verbunden mit der Wegweisung. Der gegen diese Verfügung erhobene Rekurs an die Sicherheitsdirektion des Kantons Zürich blieb erfolglos, und mit Urteil vom 24. Januar 2012 wies das Verwaltungsgericht des Kantons Zürich die gegen den Rekursentscheid vom 15. November 2011 erhobene Beschwerde ab, unter Ansetzung einer neuen Ausreisefrist auf den 30. April 2012.
Mit als Einheitsbeschwerde gemäss Art. 119 Abs. 1 BGG bezeichneter Rechtsschrift vom 29. Februar 2012 erhebt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde. Er beantragt dem Bundesgericht, das Urteil des Verwaltungsgerichts sei aufzuheben, es sei ihm die Aufenthaltsbewilligung zu verlängern und es sei den Vorinstanzen zu verbieten, ihn aus der Schweiz wegzuweisen; eventualiter seien weitere Sachabklärungen vorzunehmen oder vornehmen zu lassen.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden. Das Gesuch um aufschiebende Wirkung wird mit dem vorliegenden Instanz abschliessenden Urteil gegenstandslos.
2. 2.1 Der Beschwerdeführer erhebt Beschwerde in öffentlich-rechtlichen Angelegenheiten und zugleich für den Fall, dass diese nicht zulässig sein sollte, subsidiäre Verfassungsbeschwerde.
Das Bundesgericht prüft seine Zuständigkeit bzw. die Zulässigkeit eines Rechtsmittels zwar vom Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 136 II 497 E. 3 S. 499 mit Hinweisen). Ist jedoch die Zulässigkeit eines Rechtsmittels zweifelhaft, beschlägt die dem Beschwerdeführer obliegende Begründungspflicht gemäss Art. 42 Abs. 2 BGG grundsätzlich auch die Eintretensvoraussetzungen (vgl. BGE 134 II 45 E. 2.2.3 S. 48; 133 II 249 E. 1.1 S. 251, 353 E. 1 S. 356, 400 E. 2 S. 404). Die für deren Vorliegen massgeblichen Aspekte müssen diesfalls aufgezeigt und das Bestehen eines Anspruchs muss in vertretbarer Weise geltend gemacht werden.
2.2 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss Art. 83 lit. c BGG unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt (Ziff. 2), sowie gegen die Wegweisung (Ziff. 4).
2.2.1 Einen gesetzlichen Anspruch auf Verlängerung der Aufenthaltsbewilligung hat der Beschwerdeführer nicht:
Seine Bewilligung war zuletzt bis am 5. Mai 2007 gültig, weshalb er sein Gesuch um Bewilligungserneuerung noch vor dem Inkrafttreten des Bundesgesetzes vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) am 1. Januar 2008 stellte (bzw. stellen musste). Damit aber bleibt gemäss Art. 126 Abs. 1 AuG das bisherige Recht, das Bundesgesetz vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG), anwendbar. Gemäss Art. 7 ANAG hat der ausländische Ehegatte eines Schweizer Bürgers Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung; nach einem ordnungsgemässen und ununterbrochenen Aufenthalt von fünf Jahren hat er Anspruch auf die Niederlassungsbewilligung. Der Beschwerdeführer ist heute nicht mehr mit einer Schweizer Bürgerin verheiratet; die Ehe wurde vor Ablauf von fünf Jahren geschieden. Die vom Beschwerdeführer erwähnte Zürcher Praxis, die so genannte Dreijahresregel, verschafft keinen Anspruch, den das Gesetz selber nicht einräumt. Im Zusammenhang mit der Behauptung, es sei eine eheliche Gemeinschaft von dreieinhalb Jahren gelebt worden, erwähnt der Beschwerdeführer auch Art. 50 Abs. 1 lit. a AuG; abgesehen davon, dass dieser vorliegend nicht zur Anwendung kommt, fehlte es an einer mindestens dreijährigen Wohngemeinschaft bzw. würden keine wichtigen Gründe im Sinne von Art. 49 AuG für getrennte Wohnorte konkret geltend gemacht.
2.2.2 Der Beschwerdeführer glaubt sodann, einen Bewilligungsanspruch aus dem durch Art. 13 BV und Art. 8 EMRK garantierten Recht auf Achtung des Privatlebens ableiten zu können. Er lebte erstmals von 1995 bis 2000, im Alter von 21 bis 26 Jahren, in der Schweiz, bevor er in seine Heimat zurückkehrte und sich dort knapp drei Jahre aufhielt. Im Frühjahr 2003 weilte er sodann während drei Monaten, allein gestützt auf ein untaugliches Asylgesuch, bis zu seiner Ausschaffung hierzulande. Er heiratete danach, in seinem Heimatland, eine Schweizerin und zog im Mai 2004 gestützt auf diese Ehe wiederum hierher, wo er sich seither ohne Unterbruch befindet. Nach der bundesgerichtlichen Rechtsprechung (namentlich BGE 130 II 281 E. 3.2.1 S. 286 f.) reichen solche Verhältnisse selbst bei guter Integration nicht aus, um einem Ausländer gestützt auf das Recht auf Privatleben einen Anspruch auf Verlängerung der Aufenthaltsbewilligung zu verschaffen. Mit seinen Darlegungen über seine persönlichen Verhältnisse macht der Beschwerdeführer nicht in vertretbarer Weise einen Anspruch aus Art. 8 EMRK bzw. Art. 13 BV geltend.
2.2.3 Der Beschwerdeführer beruft sich weiter auf Treu und Glauben gemäss Art. 9 BV. Im ausländerrechtlichen Bewilligungsverfahren kann vor Bundesgericht eine solche Rüge gegebenenfalls auch bei Fehlen eines auf Gesetz oder Staatsvertrag gestützten Anspruchs erhoben werden, da sich aus dem Vertrauensgrundsatz unter gewissen Voraussetzungen ein den Weg zur Beschwerde in öffentlich-rechtlichen Angelegenheiten öffnender Bewilligungsanspruch ergeben kann (vgl. BGE 126 II 377 E. 3 S. 387 f.; Urteile 2D_72/2011 vom 2. März 2012 E. 2.2 und 2D_43/2011 vom 29. August 2011 E. 2.3.1). Die Anforderungen an die Geltendmachung eines derartigen Anspruchs sind in materiell- wie verfahrensrechtlicher Hinsicht indessen hoch (s. dazu Urteil 2P.245/2006 vom 6. November 2006 E. 2.2. und 2.3). Die Vorbringen des Beschwerdeführers (Ziff. 2.3.2 Beschwerdeschrift) genügen ihnen nicht; es ist weder erkennbar, inwiefern eine lange Verfahrensdauer für sich vertrauensbegründend wäre, noch welche weitreichenden Dispositionen der Beschwerdeführer während der verfahrensbedingt verlängerten Landesanwesenheit allein wegen der Erwartung einer Bewilligungsverlängerung konkret getroffen hätte.
2.2.4 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist offensichtlich unzulässig (Art. 108 Abs. 1 lit. a BGG).
2.3 Es ist noch zu prüfen, ob das Rechtsmittel als subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG) entgegengenommen werden kann.
2.3.1 Da der Beschwerdeführer keinen Rechtsanspruch auf Bewilligungsverlängerung hat, fehlt ihm das nach Art. 115 lit. b BGG erforderliche rechtlich geschützte Interesse an der Aufhebung oder Änderung des verwaltungsgerichtlichen Urteils, soweit er Rügen in der Sache selbst (materielle Bewilligungsfrage) erhebt. Er ist insofern zur subsidiären Verfassungsbeschwerde nicht legitimiert, was namentlich in Bezug auf die Willkürrüge betreffend die Sachverhaltsermittlung gilt (vgl. BGE 133 I 185). Was sodann Art. 8 EMRK bzw. Art. 13 BV und den Grundsatz von Treu und Glauben betrifft, hat sich bereits bei der Beurteilung der Eintretensfrage zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ergeben, dass diese verfassungsmässigen Rechte vorliegend im Zusammenhang mit der Bewilligungserneuerung nicht angerufen werden können.
2.3.2 Trotz fehlender Legitimation in der Sache selbst kann die Verletzung von Parteirechten wie namentlich des Anspruchs auf rechtliches Gehör gerügt werden (vgl. BGE 133 I 185 E. 6.2 S. 198 f.). Nicht zu hören sind dabei aber Vorbringen, die im Ergebnis auf eine Überprüfung des Bewilligungsentscheids abzielen, wie die Behauptung, dass die Begründung des angefochtenen Entscheids unvollständig oder zu wenig differenziert ausgefallen sei oder sich nicht mit sämtlichen Argumenten der Partei auseinandersetze oder dass die Parteivorbringen willkürlich gewürdigt worden seien; ebenso wenig ist der Vorwurf zu hören, der Sachverhalt sei unvollständig oder sonst wie willkürlich festgestellt worden; unzulässig ist namentlich die Rüge, Beweisanträge seien wegen willkürlicher antizipierter Beweiswürdigung abgelehnt worden (vgl. BGE 114 Ia 307 E. 3c S. 313; 129 I 217 E. 1.4 S. 222; 126 I 81 E. 7b S. 94; 118 Ia 232 E. 1c S. 236; 117 Ia 90 E. 4a S. 95). Die unter dem Titel rechtliches Gehör gemachten Ausführungen des Beschwerdeführers erweisen sich als im vorstehend beschriebenen Sinn unzulässige Vorbringen.
2.3.3 Auch die Verfassungsbeschwerde erweist sich somit als offensichtlich unzulässig
2.4 Auf die Beschwerden ist mit Entscheid des Einzelrichters im vereinfachten Verfahren nach Art. 108 BGG nicht einzutreten.
2.5 Die Gerichtskosten (Art. 65 BGG) sind entsprechend dem Verfahrensausgang dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 5. März 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller