Erwägungen:
1. Das Finanzdepartement des Kantons Solothurn lehnte mit Verfügung vom 29. Juli 2008 ein Gesuch von X._ ab, ihm Gebühren und Auslagen im Gesamtbetrag von Fr. _ aus einem Verfahren bei der Staatsanwaltschaft zu erlassen. Das Verwaltungsgericht des Kantons Solothurn wies die gegen diese Verfügung erhobene Beschwerde mit Urteil vom 21. August 2008 ab.
Am 17. September 2008 hat X._ beim Bundesgericht eine vom 16. September 2008 datierte Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen das verwaltungsgerichtliche Urteil eingereicht; er bittet um Erlass der Gebühren und Auslagen von Fr. _.
Es ist weder ein Schriftenwechsel noch sind andere Instruktionsmassnahmen angeordnet worden.
2. 2.1 Vorliegend ist streitig der Erlass von Verfahrensgebühren und -kosten, mithin der Erlass von Abgaben. Gemäss Art. 83 lit. m BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen "Entscheide über die Stundung oder den Erlass von Abgaben" unzulässig. Das Urteil des Verwaltungsgerichts vom 21. August 2008 unterliegt mithin, entgegen der darin enthaltenen Rechtsmittelbelehrung, nicht der Beschwerde in öffentlich-rechtlichen Angelegenheiten.
2.2 Zu prüfen ist noch, ob die Eingabe des Beschwerdeführers als subsidiäre Verfassungsbeschwerde (Art. 113 ff. BGG) entgegen genommen werden könnte, womit allein die Verletzung verfassungsmässiger Rechte gerügt werden könnte (Art. 116 BGG), was der Beschwerdeführer nicht tut. Die Legitimation zu diesem ausserordentlichen Rechtsmittel setzte aber ohnehin voraus, dass der Beschwerdeführer ein rechtlich geschütztes Interesse an der Aufhebung oder Änderung des angefochtenen Entscheids hat (Art. 115 lit. b BGG): Die um Erlass einer Abgabe ersuchende Partei kann den negativen Erlassentscheid in der Sache selbst nur dann mit subsidiärer Verfassungsbeschwerde anfechten, wenn ihr ein Rechtsanspruch auf Erlass zusteht. Ein Rechtsanspruch auf Abgabenerlass muss sich dabei grundsätzlich aus einer gesetzlichen Norm ergeben; insbesondere verschafft das Willkürverbot von Art. 9 BV, dessen Anrufung im Zusammenhang mit Erlassentscheiden am Ehesten in Betracht fällt, für sich allein kein rechtlich geschütztes Interesse im Sinne von Art. 115 lit. b BGG (BGE 133 I 185).
Einen Rechtsanspruch auf Erlass von Verfahrensgebühren sieht das Solothurner Recht nicht vor: Gemäss § 14 Abs. 1 des kantonalen Gebührentarifs vom 24. Oktober 1979 (GebT) "kann die Behörde" (vorliegend das Finanzdepartement, s. § 14 Abs. 3 GebT) "die geschuldeten Beträge ganz oder teilweise erlassen", wenn "der Gebührenpflichtige durch besondere Verhältnisse wie Naturereignisse, Todesfall, Unglück, Krankheit, Arbeitslosigkeit, geschäftliche Rückschläge und dergleichen in seiner Zahlungsunfähigkeit stark beeinträchtigt" ist oder sich sonst in einer Lage befindet, "in der die Bezahlung einer Gebühr, eines Zinses oder des Auslagenersatzes zur grossen Härte würde". Wie das Bundesgericht entschieden hat, ergibt sich aus § 14 GebT ebenso wenig wie aus der Solothurner Gesetzesnorm über den Steuererlass (§ 182 Abs. 1 StG), welcher die vorliegende Bestimmung wörtlich nachgebildet ist, mit genügender Bestimmtheit, unter welchen Voraussetzungen Erlass zu gewähren ist; vielmehr hat die Behörde eine Interessenabwägung vorzunehmen, welche angesichts des grossen ihr eingeräumten Spielraums im Rahmen der geschilderten gesetzlichen Erlassgründe so oder anders ausfallen kann; ein justiziabler Anspruch auf Gebührenerlass besteht nicht (Urteile 2D_78/2008 vom 25. Juli 2008 betreffend § 14 GebT sowie 2D_133/2007 vom 26. Februar 2008 und 2D_83/2008 vom 8. August 2008 betreffend § 182 Abs. 1 StG).
Die Beschwerde kann mithin auch nicht als subsidiäre Verfassungsbeschwerde behandelt werden.
2.3 Die Beschwerde erweist sich in jeder Hinsicht als offensichtlich unzulässig (Art. 108 Abs. 1 lit. a BGG), weshalb darauf im vereinfachten Verfahren gemäss Art. 108 BGG nicht einzutreten ist.
2.4 Dem Verfahrensausgang entsprechend wären die Gerichtskosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG). Indessen ist zu berücksichtigen, dass das Urteil des Verwaltungsgerichts eine unzutreffende Rechtsmittelbelehrung enthielt und der Beschwerdeführer wohl dadurch zur Einreichung des unzulässigen Rechtsmittels veranlasst wurde; es rechtfertigt sich daher, von der Erhebung von Gerichtskosten abzusehen (Art. 66 Abs. 1 Satz 2 BGG).
Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer sowie dem Finanzdepartement und dem Verwaltungsgericht des Kantons Solothurn schriftlich mitgeteilt.
Lausanne, 23. September 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Feller