Erwägungen:
1. Die Beschwerde von X._ (Beschwerdeführer) richtet sich gegen das Urteil des Obergerichts des Kantons Solothurn vom 6. März 2009, mit welchem dieses dessen Rekurs abwies und den Entscheid der Gerichtspräsidentin von Olten-Gösgen betreffend Erlass von Gerichtskosten vom 7. Januar 2009 bestätigte. In der Sache geht es um das Gesuch von X._, mit welchem er um Erlass der ihm mit Entscheid des Richteramtes Olten-Gösgen vom 4. September 2008 im Scheidungsverfahren auferlegten Gerichtskosten in der Höhe von Fr. 400.-- ersuchte und dem die Gerichtspräsidentin nicht entsprach. Der Beschwerdeführer stellt folgende Anträge:
"1. Sämtliche Akten inkl. angef. Entscheid vom 6.3.09, eingeg. 17.3.2009 ZKREK.2009.40 in Solothurn zu edieren.
2. Ich lehne die Bundesrichter Hohl Fabian, Schneider Max Roland und Féraud Michel wegen Befangenheit ab, sowie Aemisegger, Reeb, Fonjallaz, Eusebio, Raselli, GS Füllemann und Pfäffli.
3. P3 des Dispositivs (des) angefochtenen Entscheides sei aufzuheben, P1 und 2 hat sich erledigt.
4. Es sei mir eine Parteientschädigung zuzusprechen und Genugtuung in noch zu bestimmender Höhe zuzusprechen.
5. Wegen Arbeitslosigkeit und Sozialhilfeabhängigkeit sei ich von sämtlichen Kosten zu befreien (...)
6. Der Beschwerde sei die aufschiebende Wirkung zuzuordnen, ansonsten sie keinen Sinn hat."
Vernehmlassungen zur Beschwerde wurden nicht eingeholt.
2. Zu befinden ist vorab über das Ausstandsgesuch. Dieses ist gegenstandslos, nachdem am vorliegenden Entscheid keine der abgelehnten Personen mitgewirkt hat.
Zu prüfen bleibt, inwiefern die (als Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde bezeichnete) Beschwerdeeingabe zulässig ist.
3. 3.1 Das Bundesgericht beurteilt u.a. Beschwerden gegen Entscheide in Angelegenheiten des öffentlichen Rechts (Art. 82 lit. a BGG). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist allerdings unzulässig gegen "Entscheide über die Stundung und den Erlass von Abgaben" (Art. 83 lit. m BGG). Der angefochtene Entscheid betrifft eine Verfügung über den Erlass von Gerichtskosten. Der Begriff der Abgabe in Art. 83 lit. m BGG ist umfassend zu verstehen. Darunter fallen alle Arten von Steuern, Abgaben und Gebühren (vgl. Hansjörg Seiler, in: Bundesgerichtsgesetz [BGG], 2007, N. 84 zu Art. 83 BGG; Thomas Häberli, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 216 zu Art. 83 BGG). Auch Entscheide über den Erlass von Gerichtskosten fallen unter den Ausschlussgrund (nicht publ. Urteil 2D_78/2008 vom 25. Juli 2008 E. 2.1). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist hier somit nicht zulässig.
3.2 Zu prüfen ist, ob die subsidiäre Verfassungsbeschwerde offen steht. Diese setzt voraus, dass der Beschwerdeführer durch den angefochtenen Entscheid in rechtlich geschützten Interessen betroffen ist (Art. 115 lit. b BGG). Da mit dieser Beschwerde nur die Verletzung verfassungsmässiger Rechte gerügt werden kann (vgl. Art. 116 BGG), ist ein Entscheid, mit dem ein Erlass von Abgaben verweigert worden ist, praktisch nur wegen Verletzung des verfassungsmässigen Verbots von Willkür (Art. 9 BV) anfechtbar. Das Willkürverbot verschafft indessen für sich allein kein rechtlich geschütztes Interesse im Sinne von Art. 115 lit. b BGG (BGE 133 I 185 E. 6 S. 197). Zur Willkürrüge ist deshalb nur legitimiert, wer sich auf eine gesetzliche Norm berufen kann, die ihm im Bereich seiner betroffenen und angeblich verletzten Interessen einen Rechtsanspruch einräumt.
Ein solcher Rechtsanspruch auf Erlass von Gerichtsgebühren besteht im Kanton Solothurn nicht. Gemäss § 14 Abs. 1 des Solothurner Gebührentarifs (GebT; BGS 615.11) "können die geschuldeten Beträge ganz oder teilweise erlassen werden", wenn "der Steuerpflichtige durch besondere Verhältnisse wie Naturereignisse, Todesfall, Unglück, Krankheit, Arbeitslosigkeit, geschäftliche Rückschläge [...] in seiner Zahlungsfähigkeit stark beeinträchtigt" ist oder die "Bezahlung einer Gebühr, eines Zinses oder des Auslagenersatzes zur grossen Härte würde". Das sind nur allgemeine Umschreibungen, wann Gerichtskosten erlassen werden können, die aber keinen justiziablen Rechtsanspruch einräumen. Die Behörde, welche über das Erlassgesuch entscheidet, hat eine Interessenabwägung vorzunehmen, welche im Rahmen der geschilderten Erlassgründe so oder anders ausfallen kann. Mit der gewählten "Kann"-Formulierung gewährt das anwendbare kantonale Recht den zuständigen Behörden bewusst einen weiten Spielraum des Ermessens. Ein rechtlich geschütztes Interesse zur Geltendmachung des Willkürverbots im Rahmen der subsidiären Verfassungsbeschwerde besteht damit nicht. So entschieden hat das Bundesgericht in Bezug auf den Erlass von Gerichtskosten im Kanton Solothurn bereits mit Urteil 2D_78/2008 vom 25. Juli 2008 (E. 2.2). Es kann auch auf die Regelung des Steuererlasses im Kanton Solothurn verwiesen werden, welcher die vorliegend anwendbare Bestimmung wörtlich nachgebildet ist, und die nach konstanter Rechtsprechung (Urteile 2D_1/2009 vom 8. Januar 2009; 2D_106/2008 vom 13. Oktober 2008; 2D_83/2008 vom 8. August 2008; 2D_135/2008 vom 26. Februar 2008) ebenfalls keinen Rechtsanspruch einräumt. Die subsidiäre Verfassungsbeschwerde steht zur Geltendmachung einer materiellen Rechtsverweigerung somit nicht offen.
3.3 Trotz fehlender Legitimation zur Geltendmachung der Verletzung des Willkürverbots ist es zulässig, mit subsidiärer Verfassungsbeschwerde die Verletzung von Parteirechten zu rügen, deren Missachtung auf eine formelle Rechtsverweigerung hinausläuft. Das rechtlich geschützte Interesse ergibt sich diesfalls aus der Berechtigung der Partei, am Verfahren teilzunehmen und ihre Parteirechte auszuüben (sog. Star-Praxis, vgl. BGE 133 I 185 E. 6.2 S. 198; 114 Ia 307 E. 3c S. 312 f.). Allerdings setzen entsprechende Verfassungsrügen im Rahmen der Beschwerdebegründung eine genügende Substantiierung im Sinne von Art. 106 Abs. 2 in Verbindung mit Art. 117 BGG voraus.
Daran fehlt es hier. Der Beschwerdeführer legt nicht dar, weshalb im Verfahren über ein Gesuch um den Erlass von Gerichtskosten angeblich keine Verfahrenskosten gesprochen werden dürften. Die Praxis des Verwaltungsgerichts, auf die sich der Beschwerdeführer beruft, wird nicht belegt. Inwiefern in der Auferlegung von Gerichtskosten in der Höhe von Fr. 300.-- durch die Vorinstanz eine Gebührenüberforderung gegeben sein soll, ist nicht ersichtlich. Es wird auch nicht ausgeführt, weshalb das Verwaltungsgericht (und nicht das Obergericht) hier als Vorinstanz zuständig gewesen sein soll. Was den Vorwurf der Befangenheit betrifft, so lässt allein die Tatsache, dass die Zivilkammer ein- oder mehrmals gegen den Beschwerdeführer entschieden haben soll, diese nicht als befangen erscheinen. Schliesslich erwuchs dem Beschwerdeführer auch aus der Rechtsmittelbelehrung im angefochtenen Entscheid kein Nachteil, hat er doch alle in Frage kommenden Rechtsmittel ergriffen.
4. Nicht Gegenstand des vorliegenden Verfahrens ist die Kostenabrechnung mit Verrechnung durch die Zentrale Gerichtskasse Solothurn (Beschwerdebeilage 3) oder der Genugtuungsanspruch von "mindestens CHF 990.--". Das Bundesgericht ist auch nicht zuständig, "Strafanzeigen" entgegenzunehmen oder weiterzuleiten. Auf die entsprechenden Rechtsbegehren ist nicht einzutreten.
5. Die Beschwerde ist offensichtlich unzulässig und im vereinfachten Verfahren nach Art. 108 BGG zu erledigen. Der Beizug weiterer Akten erübrigt sich damit. Die Einholung der Vernehmlassungen der beteiligten Behörden erweist sich nicht als notwendig. Mit dem Entscheid über die Beschwerde wird auch das Gesuch um Wiederherstellung der aufschiebenden Wirkung der Beschwerde gegenstandslos.
Die Gerichtskosten (Art. 65 BGG) sind dem Beschwerdeführer aufzuerlegen, da er unterliegt (Art. 66 Abs. 1 BGG). Die unentgeltliche Rechtspflege setzt voraus, dass das Rechtsbegehren nicht aussichtslos erscheint (Art. 64 Abs. 1 BGG). Eine überhaupt nicht oder ungenügend substantiierte Beschwerde erscheint von vornherein als aussichtslos, weshalb für das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege nicht gewährt werden kann.
Demnach erkennt das Bundesgericht:
1. Das Ausstandsgesuch wird infolge Gegenstandslosigkeit abgeschrieben.
2. Auf die Beschwerden wird nicht eingetreten.
3. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
4. Die Gerichtskosten von Fr. 300.-- werden dem Beschwerdeführer auferlegt.
5. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Solothurn, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 14. Mai 2009
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Müller Wyssmann