Erwägungen:
1. A._, 1978 geborener serbischer Staatsangehöriger, reiste 1994 im Alter von 16 Jahren mit seiner Mutter im Familiennachzug zum Vater in die Schweiz, wo er seither mit einer Aufenthaltsbewilligung lebt. Am 29. Februar 2000 heiratete er in Serbien eine 1974 geborene Landsfrau; diese zog im Juni 2001 im Alter von gut 26 Jahren zu ihm und erhielt eine Aufenthaltsbewilligung. Das Ehepaar hat vier Kinder, die 2002, 2003, 2004 bzw. 2009 in der Schweiz geboren wurden. Auch sie haben, zwecks Zusammenlebens mit den Eltern, eine Aufenthaltsbewilligung.
A._ erwirkte zwischen 1998 und 2009 mehr als zehn Verurteilungen, woraus ein Total an Freiheitsstrafen von über 22 Monaten resultierte. Zudem wurde er am 10. Februar 2011 wegen Missbrauchs einer Fernmeldeanlage und Drohung zu einer Geldstrafe von 40 Tagessätzen verurteilt. Zweimal (2000 und 2003) wurden gegen ihn Landesverweisungen ausgesprochen, der Vollzug aber einmal nachträglich, einmal im Strafurteil selber bedingt aufgeschoben. Gegen die Ehefrau B._ ergingen allein im Jahr 2008 sechs Strafverfügungen wegen Widerhandlungen gegen das Strassenverkehrsgesetz. Gegen das Ehepaar lagen im März 2011 über hundertfünfzig Verlustscheine im Gesamtbetrag von Fr. 230'273.90 vor. Bis zu jenem Zeitpunkt hatte die Familie sodann Sozialhilfe im Gesamtbetrag von Fr. 238'111.10 bezogen.
Mit Verfügung vom 16. Februar 2011 lehnte das Departement des Innern des Kantons Solothurn das Gesuch um Verlängerung der Aufenthaltsbewilligungen von A._ und B._ und ihrer vier Kinder ab; gleichzeitig wurde die Wegweisung der Familie aus der Schweiz verfügt. Die gegen diese Verfügung erhobene Beschwerde wies das Verwaltungsgericht des Kantons Solothurn mit Urteil vom 23. August 2011 ab.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 28. September 2011 beantragen A._ und B._ für sich und ihre Kinder, das Urteil des Verwaltungsgerichts sei aufzuheben und es sei ihnen die Aufenthaltsbewilligung zu verlängern; eventualiter sie die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen; subeventualiter sei festzustellen, dass die Wegweisung nach Serbien unzumutbar sei, subsubeventualiter sei die Ausreisefrist auf Ende August 2012 anzusetzen.
Am 5. Oktober 2011 haben die Beschwerdeführer ein vollständiges Exemplar des angefochtenen Urteils nachgereicht. Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
Mit dem vorliegenden instanzabschliessenden Urteil wird das Gesuch um aufschiebende Wirkung gegenstandslos.
2. 2.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist gemäss <ref-law> unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt Ziff. 2), sowie betreffend die Wegweisung (Ziff. 4).
2.2 Die Beschwerdeführer können keine Norm des Landesrechts anrufen, die ihnen einen Anspruch auf Bewilligungsverlängerung einräumen würde. Es ist sodann prima vista auch keine völkerrechtliche Norm ersichtlich, aus welcher sich ein solcher Anspruch ableiten liesse. Angesichts der ihnen auch hinsichtlich nicht evidenter Eintretensvoraussetzungen obliegenden Begründungspflicht gemäss <ref-law> (<ref-ruling> E. 2.2.3; <ref-ruling> E. 1.1 S. 251, 353 E. 1 S. 356, 400 E 2 S. 404) müssten die Beschwerdeführer einen solchen Anspruch in vertretbarer Weise geltend machen. (Allein) im Rahmen der materiellen Beschwerdebegründung rügen sie die Verletzung von <ref-law> sowie Art. 3 des Übereinkommens vom 20. November 1989 über die Rechte des Kindes (UNO-Kinderrechtekonvention, KRK; SR 0.107). Nach der Rechtsprechung, wozu sich die Beschwerdeführer nicht äussern, lassen sich aus diesen Normen keine Ansprüche auf eine ausländerrechtliche Bewilligung ableiten (<ref-ruling> E. 5 S. 388 ff.; Urteil 2C_135/2007 vom 26. Juni 2007 E. 4.2). In Bezug auf die Frage der Bewilligungsverlängerung ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten in Anwendung von <ref-law> unzulässig; hinsichtlich der Wegweisung - diesbezüglich wird die Verletzung von <ref-law> (Schutz vor Ausweisung) und Art. 3 EMRK gerügt - ergibt sich die offensichtliche Unzulässigkeit des ordentlichen Rechtsmittels aus <ref-law>.
2.3 Die Beschwerdeführer meinen, ihre Vorbringen wären auch im Sinne von Art. 113, 119 BGG im Rahmen einer subsidiären Verfassungsbeschwerde beachtlich. Ihre Rügen erheben sie "rein vorsorglich auch unter diesem Aspekt".
2.3.1 Da sich namentlich aus den von ihnen angerufenen verfassungsmässigen Rechten kein Bewilligungsanspruch ableiten lässt, sind die Beschwerdeführer indessen hinsichtlich der Bewilligungsverweigerung zur subsidiären Verfassungsbeschwerde nicht legitimiert (Fehlen eines rechtlich geschützten Interesses im Sinne von <ref-law>; vgl. <ref-ruling>).
2.3.2 Zur Verfassungsbeschwerde legitimiert wären sie hingegen an sich hinsichtlich der Wegweisung, soweit sie sich auf besondere verfassungsmässige Rechte berufen, die ihnen, losgelöst von der Frage des Bewilligungsanspruchs, unmittelbar ein rechtlich geschütztes Interesse verschaffen. Zu denken ist an den Schutz des Lebens (<ref-law>/Art. 2 EMRK), an das Verbot jeder Art grausamer, unmenschlicher oder erniedrigender Behandlung oder Bestrafung (<ref-law>/Art. 3 EMRK) oder an das von <ref-law> statuierte Verbot einer Ausschaffung in einen Staat, in welchem dem Betroffenen Folter oder ein andere Art grausamer und unmenschlicher Behandlung oder Bestrafung droht (s. dazu <ref-ruling> E. 3.3 S. 310 f.). Voraussetzung ist dabei, dass solche Rügen jeweils rechtsgenügend begründet werden (Art. 116 i.V. mit <ref-law>); das Bundesgericht prüft die Verletzung von Grundrechten nicht von Amtes wegen, sondern nur soweit diese klar, sachbezogen und falls möglich belegt dargetan werden ("qualifizierte Rügepflicht"; vgl. vorgenannten <ref-ruling> E. 3.3 S. 310 mit Hinweisen).
Zu <ref-law> und Art. 3 EMRK wird geltend gemacht, dass der Beschwerdeführer 1 homosexuell sei und seine Sexualität nur in der Schweiz ausleben könne; in Serbien würde er dabei diskriminiert, er und seine Familie würden dabei in Gefahr geraten. Zu diesem Aspekt lässt sich dem angefochtenen Urteil nichts entnehmen. Da nicht gerügt wird, das Verwaltungsgericht sei in dieser Hinsicht seiner Begründungspflicht nicht nachgekommen, beruht die Rüge auf einer neuen Tatsache, die nicht berücksichtigt werden kann (Art. 105 bzw. <ref-law>; <ref-law>). Ohnehin genügten die allgemeinen Hinweise über die Stellung von Homosexuellen in Serbien nicht, um die behauptete (drohende) individuelle schwere Grundrechtsverletzung darzutun.
2.4 Soweit sich die Beschwerde nicht als offensichtlich unzulässig erweist, lässt sie eine hinreichende Begründung vermissen (Art. 108 Abs. 1 lit. a und b BGG). Es ist darauf mit Entscheid des Einzelrichters im vereinfachten Verfahren nach <ref-law> nicht einzutreten.
2.5 Die Gerichtskosten (<ref-law>) sind entsprechend dem Verfahrensausgang den Beschwerdeführern 1 und 2 (Eltern der minderjährigen Beschwerdeführer 3 - 6) zu gleichen Teilen unter solidarischer Haftung aufzuerlegen (Art. 66 Abs. 1 erster Satz und Abs. 5 BGG).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden den Beschwerdeführern auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Solothurn und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 10. Oktober 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Feller