Sachverhalt:
A. Der aus Bosnien-Herzegowina stammende A._ (geb. 1971) verfügte seit dem 23. Juli 1993 über eine Aufenthaltsbewilligung für den Kanton Luzern, die zuletzt bis zum 8. August 2007 verlängert wurde. Am 31. Oktober 2007 lehnte das Amt für Migration des Kantons Luzern es unter Hinweis auf strafrechtliche Verurteilungen ab, ihm eine Niederlassungsbewilligung zu erteilen und seine Aufenthaltsbewilligung zu erneuern. Gleichzeitig wies sie ihn unter Ansetzung einer Ausreisefrist weg. Gegen die Verweigerung der Erneuerung der Aufenthaltsbewilligung erhob A._ am 22. November 2007 im Kanton Verwaltungsbeschwerde. Das Verwaltungsgericht des Kantons Luzern, an welches das kantonale Justiz- und Sicherheitsdepartement die Sache überwiesen hatte, trat mit Urteil vom 29. Januar 2009 auf die Beschwerde nicht ein und leitete die Sache an das erwähnte Departement zur Behandlung zurück.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 7. März 2009 beantragen A._, dessen Ehefrau B._ und ihre Kinder C._, D._ und E._ dem Bundesgericht, das Urteil des Verwaltungsgerichts vom 29. Januar 2009 aufzuheben und dem Familienvater die Aufenthaltsbewilligung zu verlängern. Eventualiter sei festzustellen, dass "der Beschwerdeführer über ein gefestigtes Anwesenheitsverhältnis verfügt", und die Sache zur materiellen Beurteilung an das Verwaltungsgericht zurückzuweisen. Subeventualiter sei die Sache zu weiteren Beweisabklärungen an dieses Gericht zurückzuweisen.
C. Das Amt für Migration des Kantons Luzern sowie das Bundesamt für Migration beantragen, die Beschwerde abzuweisen. Das Verwaltungsgericht stellt den Antrag, die Beschwerde abzuweisen, soweit darauf überhaupt eingetreten werden könne. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 3. April 2009 antragsgemäss die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. Das Bundesgericht prüft seine Zuständigkeit und die Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 135 II 94 E. 1 S. 96 mit Hinweis).
2. Auf die Beschwerde ist nicht einzutreten, soweit diese erstmals vor Bundesgericht (auch) im Namen der Ehefrau und der Kinder als Beschwerdeführer 2 bis 5 erhoben wird. Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ist nur befugt, wer bereits bei der Vorinstanz am Verfahren beteiligt war oder dort unverschuldet nicht teilnehmen konnte (Art. 89 Abs. 1 lit. a BGG [formelle Beschwer]; BGE 133 II 181 E. 3.2 S. 187 mit Hinweisen). Das ist bei den genannten Personen nicht der Fall.
3. 3.1 Zu prüfen ist des Weiteren die Zulässigkeit der Beschwerde nach Art. 90 - 93 BGG. Die Beschwerde an das Bundesgericht ist möglich gegen Endentscheide, d.h. gegen Entscheide, die das Verfahren abschliessen (Art. 90 BGG), und gegen Teilentscheide, die nur einen Teil der gestellten Begehren behandeln, wenn diese unabhängig von den anderen beurteilt werden können, oder die das Verfahren nur für einen Teil der Streitgenossen und Streitgenossinnen abschliessen (Art. 91 BGG). Gegen selbstständig eröffnete Vor- und Zwischenentscheide ist die Beschwerde hingegen nur zulässig, wenn sie die Zuständigkeit oder den Ausstand betreffen (Art. 92 BGG), einen nicht wieder gutzumachenden Nachteil bewirken können (Art. 93 Abs. 1 lit. a BGG) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 lit. b BGG).
3.2 Diese Regelung bezweckt, dass sich das Bundesgericht möglichst nur einmal mit der gleichen Sache soll befassen müssen (vgl. BGE 133 V 645 E. 2.1 S. 647; BGE 4A_542/2008 vom 3. März 2009 E. 1.2.2; Urteil 2C_759/2008 vom 6. März 2009 E. 2.6 mit Hinweisen). Demnach ist bei der Auslegung der erwähnten Bestimmungen auch der Grundsatz der Prozessökonomie zugrunde zu legen (vgl. Felix Uhlmann, in: Basler Kommentar zum Bundesgerichtsgesetz, 2008, N. 2, 5 und 6 zu Art. 91 BGG; Bernard Corboz, in: Commentaire de la LTF, 2009, N. 4 zu Art. 92 BGG).
3.3 Das Verwaltungsgericht hat entschieden, dass der Beschwerdeführer unter keinem Titel einen Rechtsanspruch auf Verlängerung der Aufenthaltsbewilligung geltend machen kann. Deshalb sei es nach der bis zum 31. Dezember 2008 gültigen Luzerner Verfahrensordnung nicht zuständig, um auf die Beschwerde einzutreten; es leitete diese daher entsprechend der erwähnten Verfahrensordnung dem kantonalen Justiz- und Sicherheitsdepartement zur Behandlung zurück.
Das Verfahren über die Verlängerung der Aufenthaltsbewilligung kommt damit noch nicht zum Abschluss. Zunächst wird das kantonale Departement darüber befinden müssen, ob dem Beschwerdeführer die Bewilligung zumindest ermessensweise erneuert wird. Falls der Entscheid des Departements für den Beschwerdeführer negativ ausfällt, wird dieser ihn aufgrund der seit dem 1. Januar 2009 geltenden Verfahrensordnung, welche die Rechtsweggarantie nach Art. 29a BV gewährleisten soll, an das Verwaltungsgericht weiterziehen können (§ 19 des Luzerner Gesetzes vom 1. Dezember 1948 über die Niederlassung und den Aufenthalt sowie über die Zwangsmassnahmen im Ausländerrecht in der ab 1. Januar 2009 geltenden Fassung sowie Abschnitt XXII Abs. 2 der Änderung vom 16. Juni 2008 des Luzerner Gesetzes über die Verwaltungsrechtspflege, wonach sich der Weiterzug von Entscheiden, die ab dem 1. Januar 2009 ergehen, nach der neuen Rechtsmittelordnung richtet; vgl. auch Art. 86 Abs. 2, 110 - 112, 114, 117 und 130 Abs. 3 BGG; Ruth Herzog/Michel Daum, Die Umsetzung der Rechtsweggarantie im bernischen Gesetz über die Verwaltungsrechtspflege, BVR 2009 S. 28 f.).
3.4 Mithin ist der vorliegende Entscheid des Verwaltungsgerichts vom 29. Januar 2009 nicht als Endentscheid zu qualifizieren (vgl. Urteil 8C_121/2009 vom 26. Juni 2009 E. 1.3). Es handelt sich auch nicht um einen - der materiellen Rechtskraft zugänglichen - Teilentscheid im Sinne von Art. 91 BGG. Zwar hat das Verwaltungsgericht entschieden, dass der Beschwerdeführer - jedenfalls derzeit - über keinen Rechtsanspruch auf Verlängerung seiner Aufenthaltsbewilligung verfügt. Damit hat es aber nur einen Teilaspekt der Streitsache beurteilt (vgl. auch BGE 134 II 137 E. 1.3.2 S. 140; 135 II 30 E. 1.3.1 S. 33 f.; Urteil 1C_407/2008 vom 25. Mai 2009 E. 1.2). Es hat noch nicht über das Begehren des Beschwerdeführers befunden, ob dessen Aufenthaltsbewilligung erneuert wird. Mit Blick darauf, dass das Verwaltungsgericht vor einer etwaigen Beschwerde an das Bundesgericht das Begehren wird prüfen müssen (vgl. Art. 110 BGG), macht es aus den erwähnten prozessökonomischen Gründen (E. 3.2 hievor) keinen Sinn, dass sich das Bundesgericht bereits heute mit dem ersten Entscheid des Verwaltungsgerichts befasst. Diesen wird der Beschwerdeführer - falls nötig - noch zusammen mit dem allenfalls später ergehenden Endentscheid des Verwaltungsgerichts anfechten können.
Ein Vor- oder Zwischenentscheid über die Zuständigkeit im Sinne von Art. 92 BGG ist aus denselben Erwägungen ebenso wenig gegeben. Der Beschwerdeführer beanstandet im Übrigen auch nicht die Zuständigkeit als solche bzw. die Zwischenschaltung des kantonalen Departements, sondern nur den Umstand, dass das Verwaltungsgericht ihm einen Rechtsanspruch auf eine Bewilligung abspricht.
3.5 Der angefochtene Entscheid vom 29. Januar 2009 ist somit als Vor- bzw. Zwischenentscheid im Sinne von Art. 93 BGG zu qualifizieren. Das Vorliegen der Voraussetzungen der lit. a oder b des Art. 93 Abs. 1 BGG ist weder geltend gemacht worden noch ersichtlich. Demzufolge ist auf die vorliegende Beschwerde nicht einzutreten.
4. Diesem Ausgang entsprechend haben die Beschwerdeführer die Gerichtskosten zu gleichen Teilen und unter solidarischer Haftung zu tragen. Aufgrund der besonderen Ausgangslage, die das Bundesgericht bisher noch nicht zu beurteilen hatte, wird eine ermässigte Gebühr festgesetzt (Art. 65 f. BGG). Parteientschädigungen werden nicht geschuldet (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.-- werden den Beschwerdeführern zu gleichen Teilen und unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, dem Amt für Migration und dem Verwaltungsgericht des Kantons Luzern sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 14. Juli 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Merz