Sachverhalt:
A. A.a Am 10. April 2008 verlangte der Kanton Solothurn in der Betreibung Nr. 1 des Betreibungsamtes A._ beim Richteramt A._ für die Steuerforderung von Fr. 3'649.50 (inklusive Mahngebühr von Fr. 50.--), den Verzugszins von Fr. 808.65 bis 18. Oktober 2007 und den Zins zu 3.5% auf Fr. 3'599.50 und auf der Mahngebühr seit 19. Oktober 2007 sowie die Kosten des Zahlungsbefehls von Fr. 70.-- definitive Rechtsöffnung. Der Schuldner X._ beantragte die Gesuchsabweisung, indem er sich auf die Tilgung der Forderung zufolge Verrechnung durch den Kanton Solothurn berief.
Die Gerichtspräsidentin erteilte am 18. Juni 2008 im beantragten Umfang definitive Rechtsöffnung.
A.b Gegen diesen Entscheid reichte X._ am 27. Juni 2008 Rekurs beim Obergericht ein und verlangte unter Aufhebung des angefochtenen Urteils die Abweisung des Rechtsöffnungsgesuchs.
Mit Urteil vom 10. Dezember 2008 wies das Obergericht den Rekurs ab.
B. Mit Eingabe vom 2. Februar 2009 (Postaufgabe) ist X._ (fortan: Beschwerdeführer) mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde an das Bundesgericht gelangt. Er verlangt sinngemäss die Aufhebung des obergerichtlichen Urteils und Rückweisung der Sache zur neuen Sachverhaltsfeststellung und Entscheidung an die Vorinstanz.
Es sind keine Vernehmlassungen eingeholt worden.

Erwägungen:
1. Der Beschwerdeführer erhebt gleichzeitig Beschwerde in Zivilsachen und subsidiäre Verfassungsbeschwerde.
1.1 Angefochten ist ein letztinstanzlicher Entscheid im Sinn von <ref-law> betreffend definitive Rechtsöffnung. Dabei handelt es sich um einen Entscheid in Schuldbetreibungs- und Konkurssachen, der gemäss <ref-law> grundsätzlich der Beschwerde in Zivilsachen unterliegt (<ref-ruling> E. 1.4 S. 400; <ref-ruling> E. 2 S. 143).
In vermögensrechtlichen Angelegenheiten ist die Beschwerde in Zivilsachen gegeben, wenn der Streitwert mindestens Fr. 30'000.-- beträgt (<ref-law>). Wird diese Streitwertgrenze nicht erreicht, ist die Beschwerde nur zulässig, wenn sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt (<ref-law>). Der Begriff der Rechtsfrage von grundsätzlicher Bedeutung ist sehr restriktiv auszulegen (vgl. <ref-ruling> E. 1.2 S. 117; <ref-ruling> E. 1.1 und 1.2 S. 495 f.) In der Beschwerdeschrift ist gemäss <ref-law> darzulegen, inwiefern eine solche Frage vorliegt. Es kann nicht Aufgabe des Bundesgerichts sein, selber nach den Gründen zu suchen (Urteil 4A_64/2008 vom 27. Mai 2008 E. 1.1).
Da vorliegend die Streitwertgrenze nicht erreicht wird, ist die Beschwerde in Zivilsachen nur zulässig, wenn sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt. Der Beschwerdeführer begnügt sich jedoch damit zu behaupten, es liege eine Frage von grundsätzlicher Bedeutung vor, ohne diese Behauptung auch nur ansatzweise zu begründen. Damit genügt er den Begründungsanforderungen vor Bundesgericht nicht, weshalb auf seine Beschwerde in Zivilsachen nicht eingetreten werden kann.
Da vorliegend die Streitwertgrenze nicht erreicht wird, ist die Beschwerde in Zivilsachen nur zulässig, wenn sich eine Rechtsfrage von grundsätzlicher Bedeutung stellt. Der Beschwerdeführer begnügt sich jedoch damit zu behaupten, es liege eine Frage von grundsätzlicher Bedeutung vor, ohne diese Behauptung auch nur ansatzweise zu begründen. Damit genügt er den Begründungsanforderungen vor Bundesgericht nicht, weshalb auf seine Beschwerde in Zivilsachen nicht eingetreten werden kann.
1.2 Gestützt auf <ref-law> ist damit die gleichzeitig erhobene subsidiäre Verfassungsbeschwerde gegeben.
Mit der Verfassungsbeschwerde kann nur die Verletzung von verfassungsmässigen Rechten gerügt werden (<ref-law>). Der Beschwerdeführer muss angeben, welches verfassungsmässige Recht verletzt wurde und substantiiert darlegen, worin die Verletzung besteht. Das Bundesgericht kann die Verletzung eines Grundrechtes nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 117 i.V.m. <ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann davon nur abweichen, wenn die Sachverhaltsfeststellung unter Verletzung eines verfassungsmässigen Rechts zustande kam (Art. 118 Abs. 2 und <ref-law>), was der Beschwerdeführer präzise geltend zu machen hat (Art. 117 i.V.m. <ref-law>; vgl. zum Ganzen <ref-ruling> E. 3.2 S. 444 f.).
2. Der Beschwerdeführer rügt zunächst sinngemäss eine willkürliche Feststellung des Sachverhalts.
2.1 Soweit Willkür in der Ermittlung des Sachverhalts geltend gemacht wird, ist zu beachten, dass dem Sachrichter in der Beweiswürdigung ein breiter Ermessensspielraum zusteht; der Beschwerdeführer hat deshalb darzulegen, inwiefern das kantonale Gericht sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse gezogen (<ref-ruling> E. 2.1 S. 9; <ref-ruling> E. 1d S. 201), erhebliche Beweise übersehen oder willkürlich ausser Acht gelassen habe (<ref-ruling> E. 2.1 S. 9; <ref-ruling> E. 3 S. 371).
2.2 Das Obergericht stellt den seinem Urteil zugrundeliegenden Sachverhalt wie folgt dar:
Vor der Einleitung des vorliegenden Betreibungsverfahrens sei dem Beschwerdeführer einerseits eine Schadenersatzforderung gegen den Kanton Solothurn von Fr. 203'674.60, andererseits dem Kanton Solothurn eine Steuerforderung gegen den Beschwerdeführer von Fr. 5'307.90 zugestanden. Vor diesem Hintergrund habe der Kanton Solothurn am 9. Dezember 2005 eine Verrechnungsverfügung erlassen. Jedoch sei mit Obergerichtsurteil vom 21. August 2006 - im Rahmen eines Rechtsöffnungsverfahrens betreffend die Schadenersatzforderung des Beschwerdeführers - entschieden worden, dass diese Verrechnungsverfügung unzulässig gewesen sei. Da der Kanton Solothurn mit seiner Verrechnungserklärung nicht habe durchdringen können, habe er dem damaligen Rechtsvertreter des Beschwerdeführers am 14. September 2006 - ohne eine Verrechnung vorzunehmen - den gesamten geschuldeten Schadenersatzbetrag überwiesen.
Gegen diese Verrechnungsverfügung habe der Beschwerdeführer bereits am 6. Januar 2006 eine Einsprache erhoben. Er habe sie jedoch am 23. Oktober 2006 - nach der erfolgten Überweisung des Kantons Solothurn vom 14. September 2006 - wieder zurückgezogen.
Gegen diese Verrechnungsverfügung habe der Beschwerdeführer bereits am 6. Januar 2006 eine Einsprache erhoben. Er habe sie jedoch am 23. Oktober 2006 - nach der erfolgten Überweisung des Kantons Solothurn vom 14. September 2006 - wieder zurückgezogen.
2.3 2.3.1 Der Beschwerdeführer führt zu seiner Sachverhaltsrüge vorab aus, die Verrechnungsverfügung des Beschwerdegegners vom 9. Dezember 2005 habe einen eigenen Rechtsgrund. Es gehe nicht an, dass aus einem anderen Verfahren gegen einen anderen Gegner Beweise abgeleitet werden. Der Sachverhalt sei daher richtig zu stellen.
Was der Beschwerdeführer mit dieser Ausführung geltend machen möchte, ist nicht verständlich. Eine nachvollziehbare Begründung fehlt.
2.3.2 Daraufhin folgt die widersprüchliche Feststellung des Beschwerdeführers, "der Sachverhalt sei unbestritten". Dennoch folgen seitenlange Schilderungen der Vorgeschichte, Geschehnisse und Prozessabläufe aus seiner Sicht.
Dabei unterlässt es der Beschwerdeführer jedoch, sich mit den Erwägungen des Obergerichts auch nur ansatzweise auseinanderzusetzen bzw. auf das angefochtene Urteil Bezug zu nehmen und darauf einzugehen. Vielmehr sind seine grösstenteils unverständlichen, wirren Ausführungen als pauschale Kritik am vorinstanzlichen Verfahren zu verstehen. Mit diesen appellatorischen Vorbringen gelingt es ihm jedoch in keiner Weise aufzuzeigen, inwiefern die Vorinstanz eine willkürliche Sachverhaltsfeststellung vorgenommen haben sollte.
2.4 Vor diesem Hintergrund ist auf die Rüge der willkürlichen Sachverhaltsfeststellung nicht einzutreten, und das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>; vgl. E. 2.2).
3. Weiter rügt der Beschwerdeführer sinngemäss eine Verletzung des Willkürverbots (<ref-law>) und der Verfahrensgarantien (<ref-law>).
3.1 Dazu führt er insbesondere aus, das Obergericht habe in willkürlicher Weise nicht erkannt, dass die Verrechnungsverfügung des Kantons Solothurn vom 9. Dezember 2005 in formelle und materielle Rechtskraft erwachsen sei. Das Obergericht konstruiere willkürlich, dass mit der Überweisung des Betrages von Fr. 203'674.60 an den damaligen Rechtsvertreter des Beschwerdeführers ein Widerruf dieser Verrechnungsverfügung stattgefunden habe. Für diesen behaupteten Widerruf liege kein Beweis vor. Bei dieser Schadenersatzforderung handle es sich zudem um eine Forderung aus einem anderen Rechtsgrund, und es sei festzuhalten, dass das Obergericht dabei zwei völlig unterschiedliche Verfahren miteinander vermischt habe, um dadurch einen Widerruf der Verfügung konstruieren zu können. Weiter macht er geltend, ihm hätte der Widerruf der Verrechnungsverfügung mit einem Schreiben mitgeteilt werden müssen. Fest stehe, dass der Kanton Solothurn seine Verrechnungsverfügung durch diese Zahlung nicht widerrufen habe. Diese sei vielmehr, nachdem er am 23. Oktober 2006 seine dagegen gerichtete Einsprache zurückgezogen habe, in Rechtskraft erwachsen. Die Konstruktion eines derartigen Widerrufs sei mit der Rechtssicherheit und der Rechtsgleichheit nicht zu vereinbaren. Vor diesem Hintergrund müsse seine Einrede der Tilgung durch Verrechnung die Erteilung der definitiven Rechtsöffnung im vorliegenden Betreibungsverfahren hindern.
3.2 Was der Beschwerdeführer mit seinem Vorbringen, die Schadenersatzforderung habe einen eigenen Rechtsgrund gehabt bzw. das Obergericht habe zwei unterschiedliche Verfahren miteinander vermischt, geltend machen möchte, bleibt auch bei diesen Ausführungen unklar und unverständlich.
Das Obergericht führt in seinem Urteil hauptsächlich aus, der Kanton Solothurn habe am 14. September 2006 mit dem Ausbezahlen des ganzen Betrags von Fr. 203'674.60 ohne Vornahme einer Verrechnung zumindest sinngemäss die noch nicht in formelle Rechtskraft erwachsene Verfügung vom 9. Dezember 2005 zurückgenommen. Diese Überweisung sei durch den Kontoauszug des Kantons Solothurn belegt. Die Rücknahme der Verrechnungsverfügung habe dem Willen des Beschwerdeführers entsprochen, denn dieser habe sich mit Einsprache vom 6. Januar 2006 gegen diese Verfügung gewehrt. Eine Verrechnung sei nie erfolgt und der Beschwerdegegner verhalte sich widersprüchlich, wenn er sich zuerst erfolgreich gegen die Verrechnung wehre, später aber behauptet, die Verrechnungsverfügung sei rechtskräftig verfügt bzw. die in Betreibung gesetzte Forderung sei durch Tilgung infolge Verrechnung seitens des Kantons Solothurn untergegangen. Ein solches Verhalten sei nicht zu schützen. Mit diesen entscheidenden Erwägungen setzt sich der Beschwerdeführer nicht auseinander. Indem er lediglich in allgemeiner Weise behauptet, die Verfügung sei nie widerrufen worden und den Gesetzeswortlaut einiger Artikel des Verwaltungsrechtspflegegesetzes des Kantons Solothurn (VRG SO) betreffend Widerruf und Abänderung einer Verfügung und des Gesetzes über die Staats- und Gemeindesteuern des Kantons Solothurn (StG SO) betreffend Revision zitiert, vermag er nicht aufzuzeigen, weshalb die gegenteilige Auffassung des Obergerichts offensichtlich falsch und damit willkürlich sein oder inwiefern die Vorinstanz Verfahrensgarantien verletzt haben sollte. Auch auf diese unsubstantiierten Rügen kann somit nicht eingetreten werden.
4. Nach dem Gesagten kann auf die Beschwerde nicht eingetreten werden. Ausgangsgemäss trägt der Beschwerdeführer die Kosten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in Zivilsachen und auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 800.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Solothurn, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 3. April 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Die Gerichtsschreiberin:
Hohl Gut