Erwägungen:
1. Mit Urteil vom 2. Juni 2003 wies das Steuergericht des Kantons Solothurn eine Beschwerde von X._ gegen den Einspracheentscheid der Kantonalen Wehrpflichtersatz-Verwaltung Solothurn vom 22. August 2002 betreffend Wehrpflichtersatz 1995-1998 ab.
Mit als Nichtigkeitsklage bezeichneter Eingabe vom 4. April 2008 stellt X._ dem Bundesgericht die Anträge, das Urteil des Steuergerichts vom 2. Juni 2003 nichtig zu erklären, für alle auf dieses Urteil gestützten Rechtsöffnungsgesuche ebenfalls die Nichtigkeit festzustellen und ihm eine angemessene Entschädigung für erlittenen Psychoterror und seelischen Schaden zuzuerkennen.
2. 2.1 Am 1. Januar 2007 ist das Bundesgesetz vom 17. Juni 2005 über das Bundesgericht (Bundesgerichtsgesetz [BGG]) in Kraft getreten. Das angefochtene Urteil datiert vom 2. Juni 2003, sodass auf das vorliegende Verfahren noch die Bestimmungen des Bundesgesetzes vom 16. Dezember 1943 über die Organisation der Bundesrechtspflege (Bundesrechtspflegegesetz [OG; BS 3 531]) anwendbar sind (vgl. <ref-law>).
2.2 Die Eingabe des Beschwerdeführers kann einzig als Verwaltungsgerichtsbeschwerde betrachtet werden. Gemäss Art. 106 Abs. 1 OG ist dieses Rechtsmittel dem Bundesgericht innert 30 Tagen seit Eröffnung der anzufechtenden Verfügung einzureichen.
2.2.1 Die am 4. April 2008 zur Post gegebene Verwaltungsgerichtsbeschwerde zur Anfechtung des am 18. Juni 2003 zur Post gegebenen Urteils des Steuergerichts ist offensichtlich verspätet.
Der Beschwerdeführer macht nun aber geltend, er habe gegen dieses Urteil bereits am 17. Juli 2003 Beschwerde ans Bundesgericht erhoben, diese aber fälschlicherweise an das Oberamt Solothurn geschickt. Träfe dies zu, wäre die Beschwerdefrist gewahrt (Art. 107 Abs. 1 OG für die Verwaltungsgerichtsbeschwerde, vgl. <ref-ruling>; im Unterschied dazu Art. 32 Abs. 4 lit. a OG für die staatsrechtliche Beschwerde, vgl. <ref-ruling> E. 3). Es ist daher zu prüfen, wie es sich mit der behaupteten Beschwerdeerhebung im Jahr 2003 verhält.
2.2.2 Der allgemeine Grundsatz von <ref-law>, wonach derjenige das Vorhandensein einer behaupteten Tatsache beweisen muss, der aus ihr Rechte ableitet, ist auch im Prozessrecht massgeblich. So trifft die Beweislast für die Rechtzeitigkeit einer Parteihandlung im Verfahren grundsätzlich jene Partei, welche diese Handlung vorzunehmen hat (<ref-ruling> E. 3 S. 257); dies gilt insbesondere für die Frage, ob eine Eingabe noch innert Frist bei der Post aufgegeben worden ist (vgl. <ref-ruling> E. 3b S. 184 f.; Urteil 2A.500/2001 vom 30. Januar 2002 E. 2b, zusammengefasst in StR 57/2002 668).
Zum Beweis legt der Beschwerdeführer die Kopie einer mit "Beschwerde gegen das Obergerichtsurteil vom 18.6.2003" betitelten und mit der Adresse des Bundesgerichts versehenen Rechtsschrift sowie die Kopie einer Postquittung vom 17. Juli 2003 über eine an das Oberamt Solothurn-Lebern gerichtete Postsendung vor. Dass die Postquittung tatsächlich eine für das Bundesgericht bestimmte Rechtsschrift betraf, ist nicht erstellt. Die Adressierung an das Oberamt in einer solchen Angelegenheit erscheint wenig plausibel und lässt sich am ehesten damit erklären, dass der Beschwerdeführer zum fraglichen Zeitpunkt in einer anderen Angelegenheit an jene Amtsstelle zu gelangen hatte und die Quittung die entsprechende Eingabe betrifft. Die behauptete Beschwerdeerhebung ist sodann auch darum äusserst unwahrscheinlich, weil nicht anzunehmen ist, dass der Beschwerdeführer, wäre er wirklich davon ausgegangen, beim Bundesgericht sei ein Verfahren anhängig, sich im Verlauf der bald fünf Jahre seit der behaupteten Beschwerdeerhebung zumindest einmal wegen des Ausbleibens jeglicher prozessualen Anordnung bei diesem erkundigt hätte.
Der Beweis der Rechtzeitigkeit der Beschwerdeerhebung ist mit den vom Beschwerdeführer eingereichten Unterlagen nicht erbracht. Unter den gegebenen Umständen sieht das Bundesgericht auch keinen Anlass, von Amtes wegen weitere Beweismassnahmen anzuordnen; es ist nicht ersichtlich, wie zum heutigen Zeitpunkt sachdienliche Beweismittel über die vom Beschwerdeführer behauptete Tatsache beschafft werden könnten.
2.3 Mangels Nachweises der rechtzeitigen Beschwerdeerhebung ist gestützt auf Art. 107 Abs. 1 OG im vereinfachten Verfahren nach Art. 36a OG auf die Verwaltungsgerichtsbeschwerde nicht einzutreten.
2.4 Dem Gesuch um unentgeltliche Rechtspflege und Verbeiständung "für ein allfälliges Verfahren" ist nicht zu entsprechen, da die Beschwerde von vornherein als offensichtlich aussichtslos erschien (Art. 152 Abs. 1 OG).
Damit sind die Gerichtskosten (Art. 153 und 153a OG) dem Verfahrensausgang entsprechend dem Beschwerdeführer aufzuerlegen (Art. 156 Abs. 1 und 6 OG).

Demnach erkennt das Bundesgericht
im Verfahren nach Art. 36a OG:
1. Auf die Verwaltungsgerichtsbeschwerde wird nicht eingetreten.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 600.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, der Kantonalen Wehrpflichtersatz-Verwaltung Solothurn, dem Kantonalen Steuergericht Solothurn und der Eidgenössischen Steuerverwaltung schriftlich mitgeteilt.
Lausanne, 9. April 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Feller