Erwägungen:
1. Die Gerichtspräsidentin 3 des Gesichtskreises X Bern Thun wies mit Entscheid vom 3. April 2008 das Gesuch des Beschwerdeführers um Wiederherstellung der Frist ab und erteilte der Beschwerdegegnerin in der Betreibung Nr. 1 des Betreibungsamtes B._ definitive Rechtsöffnung für den Betrag von Fr. 20'017.05 nebst Zins zu 5% seit dem 8. Dezember 2007 auf Fr. 16'267.80 (Beiträge 2001 und 2002 gemäss rechtskräftiger Verfügung vom 4. Mai 2005 in der Höhe von Fr. 16'267.80 nebst Verzugszins auf diesem Betrag bis zum 7. Dezember 2007 im Betrag von Fr. 3'579.25 und die Mahngebühr von Fr. 170.--). Das Obergericht des Kantons Bern stellte mit Entscheid vom 28. Mai 2008 fest, dass das Gesuch um Wiederherstellung der Frist zu Recht abgewiesen worden sei, und bestätigte im Übrigen den Rechtsöffnungsentscheid der ersten Instanz. Dagegen gelangt der Beschwerdeführer mit Verfassungsbeschwerde an das Bundesgericht, mit welcher er im Wesentlichen um Abweisung des Rechtsöffnungsbegehrens ersucht. Des weiteren stellt er ein Gesuch um aufschiebende Wirkung.
2. 2.1 Das Obergericht hat erwogen, die vor Obergericht ins Recht gelegten Beweismittel hätten erstinstanzlich vorgebracht werden können. Der Beschwerdeführer nenne weder Entschuldigungsgründe für die verspätete Einreichung noch sei den neuen Beweismitteln zweifelsfrei die Unrichtigkeit der vorinstanzlichen Entscheidung zu entnehmen, weshalb diese Beweismittel aus den Akten zu weisen seien. Der Beschwerdeführer habe überdies seine Einwendungen schriftlich vortragen können, so dass der ersten Instanz keine Verletzung des rechtlichen Gehörs vorzuwerfen sei, weil sie keine mündliche Verhandlung durchgeführt habe. Der Beschwerdeführer habe die Vernehmlassungsfrist verpasst und Wiederherstellungsgründe lägen nicht vor. Die Beschwerdegegnerin habe als Rechtsöffnungstitel eine mit einer Rechtskraftbescheinigung versehene Beitragsverfügung ins Recht gelegt. Die behaupteten inhaltlichen Mängel der Verfügung könne der Beschwerdeführer im summarischen Rechtsöffnungsverfahren nicht mehr geltend machen. Der Rechtsöffnungsrichter sei an die Rechtskraftbescheinigung gebunden, sofern sich deren Unrichtigkeit nicht aus den Akten ergebe. Sie datiere vom 22. Januar 2008. Der Beschwerdeführer belege zwar dass er gegen diese Verfügungen in früheren Jahren (2004 und 2005) Einsprache bzw. Beschwerde erhoben habe, belege aber nicht, dass diese Verfahren heute noch hängig resp. zu seinen Gunsten ausgegangen seien. Allein die Tatsache, dass vor Jahren ein Rechtsmittel ergriffen worden sei, vermöge die Unrichtigkeit der Rechtskraftbescheinigung nicht darzutun, weshalb kein Anlass bestehe, an der Richtigkeit der Rechtskraftbescheinigung zu zweifeln.
2.2 Mit der Verfassungsbeschwerde kann einzig eine Verletzung verfassungsmässiger Rechte gerügt werden (Art. 113 i.V.m. <ref-law>). Es gilt das sogenannte Rügeprinzip (<ref-law>). Der Beschwerdeführer hat in der Beschwerdeschrift darzulegen, welche verfassungsmässigen Rechte und inwiefern sie durch den angefochtenen Entscheid verletzt worden sind. Das Bundesgericht prüft nur rechtsgenügend vorgebrachte, klar erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein (vgl. die Rechtsprechung zur staatsrechtlichen Beschwerde, statt vieler <ref-ruling> E. 2 S. 3 f.; <ref-ruling> E. 1d S. 201). Wie unter der Herrschaft des Bundesgesetzes vom 16. Dezember 1943 über die Organisation der Bundesrechtspflege (OG) müssen die erhobenen Rügen zudem in der Beschwerdeschrift selber enthalten sein; der blosse Verweis auf Ausführungen in anderen Rechtsschriften oder auf die Akten reicht nicht aus (<ref-ruling> E. 3.1). Besteht der Entscheid aus mehreren selbständigen Begründungen, sind alle anzufechten, ansonsten auf die Beschwerde nicht eingetreten wird (<ref-ruling> E. 6).
2.3 Der Beschwerdeführer nimmt in seiner Eingabe über weite Strecken keinen erkennbaren Bezug zu den Erwägungen des angefochtenen Urteils und zeigt nicht auf, inwiefern dieses ein verfassungsmässiges Recht verletzt. Soweit er auf vor den kantonalen Instanzen glaubhaft gemachte Einsprachen gegen die Verfügung hinweist, erschöpfen sich seine Ausführungen im Wesentlichen in Behauptungen des Gegenteils dessen, was das Obergericht erkannt hat. Der Beschwerdeführer versucht denn auch im Wesentlichen erneut, die seine Beiträge festsetzende Verfügung in Frage zu stellen, wozu weder das Rechtsöffnungsverfahren noch das vorliegende Beschwerdeverfahren vorgesehen sind. Gegenstand der vorliegenden Beschwerde ist vielmehr ausschliesslich der Entscheid des Appellationshofs vom 28. Mai 2008, welcher zur Hauptsache den Rechtsöffnungsentscheid der ersten Instanz bestätigt hat (<ref-law>).
2.4 Auf die offensichtlich unzulässige Verfassungsbeschwerde ist daher in Anwendung von <ref-law> i.V.m. Art. 108 Abs. 1 lit a und b BGG durch den Präsidenten der Abteilung unter Kostenfolge für den Beschwerdeführer (<ref-law>) nicht einzutreten. Mit dem Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung gegenstandslos.

Demnach erkennt das präsidierende Mitglied:
1. Auf die Verfassungsbeschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Appellationshof, 2. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 29. Juli 2008
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Der Gerichtsschreiber:
Escher Zbinden