Erwägungen:
1. X._, 1951 geborener Staatsangehöriger von Bosnien und Herzegowina, arbeitete ab März 1989 als Saisonnier in der Schweiz. 1992 erhielt er eine Aufenthaltsbewilligung. Es ergingen gegen ihn zahlreiche kleinere Verurteilungen; sodann kam er seinen Zahlungsverpflichtungen in erheblichem Masse nicht nach. Nachdem er zuvor zweimal verwarnt worden war (zuletzt 2005), wurde ihm die Aufenthaltsbewilligung ab 2008 zweimal nur noch provisorisch verlängert, zuletzt bis zum 30. Mai 2009. Eine weitere Verlängerung lehnte das Migrationsamt des Kantons Thurgau am 4. Oktober 2010 ab; diese Verfügung wurde erfolglos beim Departement für Justiz und Sicherheit des Kantons Thurgau angefochten. Mit Entscheid vom 22. Juni 2011 wies das Verwaltungsgericht des Kantons Thurgau die gegen den Rekursentscheid des Departements erhobene Beschwerde ab.
Mit subsidiärer Verfassungsbeschwerde vom 7. September 2011 beantragt X._ dem Bundesgericht, den Entscheid des Verwaltungsgerichts aufzuheben.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
Mit dem vorliegenden instanzabschliessenden Urteil wird das Gesuch um aufschiebende Wirkung gegenstandslos.
2. Der Beschwerdeführer hat unter keinem Titel einen Rechtsanspruch auf Verlängerung der Aufenthaltsbewilligung, weshalb die Beschwerde in öffentlich-rechtlichen Angelegenheiten unzulässig ist (<ref-law>) und mithin in der Tat höchstens die subsidiäre Verfassungsbeschwerde gemäss <ref-law> zur Anfechtung des verwaltungsgerichtlichen Entscheids zur Verfügung steht. Zu diesem Rechtsmittel ist gemäss <ref-law> bloss berechtigt, wer ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids hat. Wer, wie der Beschwerdeführer, keinen Anspruch auf Erteilung oder Verlängerung einer ausländerrechtlichen Bewilligung hat, ist zur Verfassungsbeschwerde in der Sache selbst, das heisst die materielle Bewilligungsfrage betreffend, regelmässig nicht legitimiert; namentlich verschafft ihm das Willkürverbot kein rechtlich geschütztes Interesse an der Beschwerdeführung (grundlegend <ref-ruling>). Dies weiss und anerkennt der Beschwerdeführer; er meint hingegen, Art. 1 Abs. 1 des Niederlassungs- und Konsularvertrags zwischen der Schweiz und Serbien vom 16. Februar 1888 (SR 0.142.118.181) verschaffe ihm einen Anspruch auf rechtsgleiche und unwillkürliche Behandlung, was ihn zur Willkürrüge berechtige. Wie er selber festhält, räumt der erwähnte Staatsvertrag dem nicht niedergelassenen Staatsangehörigen Serbiens keine Rechte im Bewilligungsverfahren ein (<ref-ruling> E. 1 und 2 S. 67 ff.; dazu 2P.25/1996 vom 24. Januar 1996 E. 1c [kein Anspruch auf Aufenthaltsbewilligung] bzw. 2A.278/1999 vom 1. Oktober 1999 E. 1 [im Grundsatz Anspruch auf Kantonswechsel eines Niedergelassenen]). Inwiefern der Beschwerdeführer als blosser Aufenthalter aus der von ihm zitierten Abkommensbestimmung eine rechtlich geschützte Position ableiten könnte, die ihm die Legitimation zur Willkürrüge verschaffte, bleibt unerfindlich. Es mag denn auch dahingestellt bleiben, ob die Berufung eines Staatsangehörigen von Bosnien und Herzegowina auf diesen Staatsvertrag überhaupt in Betracht fiele.
Mangels fehlender Legitimation im Sinne von <ref-law> zu den erhobenen Willkürrügen erweist sich die Verfassungsbeschwerde als offensichtlich unzulässig (<ref-law>), und es ist darauf mit Entscheid des Einzelrichters im vereinfachten Verfahren nach <ref-law> nicht einzutreten.
Dem Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist schon darum nicht zu entsprechen, weil die Beschwerde von vornherein erfolglos erschien (vgl. <ref-law>). Damit sind die Gerichtskosten (<ref-law>) dem Verfahrensausgang entsprechend dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 9. September 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller