Sachverhalt:
A. Der 1953 geborene H._ war vom 1. August 1992 bis zum 30. November 1998 in der Firma S._ AG angestellt. Am 26./27. November 1998 meldete er sich zum Bezug von Leistungen bei der Invalidenversicherung an. Die IV-Stelle Schwyz verneinte mit Verfügung vom 6. Oktober 2000 einen Anspruch auf eine Invalidenrente. Auf erneute Anmeldung hin sprach sie H._ am 13. August 2003 verfügungsweise ab dem 1. August 2002 eine halbe Invalidenrente und eine Zusatzrente für die Ehefrau sowie eine Kinderrente zu.
Das Gesuch vom 25. Januar 2005 um Gewährung einer Invalidenrente aus beruflicher Vorsorge beschied die für die Firma zuständige Helvetia Sammelstiftung für Personalvorsorge (damals: Patria-Stiftung zur Förderung der Personalversicherung) mit Schreiben vom 4. März 2005 und 10. April 2007 abschlägig; sie verneinte die zeitliche Konnexität.
B. Am 24. Juli 2007 liess H._ gegen die Helvetia Sammelstiftung Klage einreichen und beantragen, es sei rückwirkend ab dem 1. August 2002 eine Invalidenrente basierend auf einem Invaliditätsgrad von 63 % zuzüglich Verzugszinsen ab Klageeinreichung zuzusprechen. Das Verwaltungsgericht des Kantons Schwyz wies die Klage mit Entscheid vom 18. Dezember 2007 ab.
C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und die vorinstanzlich gestellten Rechtsbegehren erneuern, dabei allerdings bloss mehr die Zusprechung einer Rente bei einem Invaliditätsgrad von 33 % beantragen.
Die Sammelstiftung schliesst auf Abweisung der Beschwerde; eventualiter sei die Invalidenrente auf die gesetzlichen Leistungen nach BVG zu beschränken. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 1 und 2 BGG).
2. 2.1 Nach Art. 23 BVG, in der Fassung bis 31. Dezember 2004, haben Anspruch auf Invalidenleistungen Personen, die im Sinne der IV zu mindestens 50 Prozent invalid sind und bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, versichert waren. Laut dem am 1. Januar 2005 in Kraft getretenen Art. 23 lit. a BVG besteht bereits bei einer Invalidität von mindestens 40 Prozent Anspruch auf Invalidenleistungen. Gemäss Art. 26 Abs. 1 BVG gelten für den Beginn des Anspruchs auf Invalidenleistungen sinngemäss die entsprechenden Bestimmungen des Bundesgesetzes vom 19. Juli 1959 über die Invalidenversicherung (<ref-law>).
2.2 Der Anspruch auf Invalidenleistungen der (obligatorischen) beruflichen Vorsorge setzt weiter einen engen sachlichen und zeitlichen Zusammenhang zwischen der während der Dauer des Vorsorgeverhältnisses (einschliesslich der Nachdeckungsfrist nach Art. 10 Abs. 3 BVG) bestandenen Arbeitsunfähigkeit und der später eingetretenen Invalidität voraus (<ref-ruling> E. 4.1 in fine S. 275). Der Gesundheitsschaden, der zur Arbeitsunfähigkeit geführt hat, muss von der Art her im Wesentlichen derselbe sein, der der Erwerbsunfähigkeit zu Grunde liegt.
2.2.1 Die Annahme eines engen zeitlichen Zusammenhangs setzt voraus, dass die versicherte Person nach Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, nicht während längerer Zeit wieder arbeitsfähig war. Bei der Prüfung dieser Frage sind die gesamten Umstände des konkreten Einzelfalles zu berücksichtigen, namentlich die Art des Gesundheitsschadens, dessen prognostische Beurteilung durch den Arzt sowie die Beweggründe, welche die versicherte Person zur Wiederaufnahme oder Nichtwiederaufnahme der Arbeit veranlasst haben. Zu den für die Beurteilung des zeitlichen Konnexes relevanten Umständen zählen auch die in der Arbeitswelt nach aussen in Erscheinung tretenden Verhältnisse, wie etwa die Tatsache, dass ein Versicherter über längere Zeit hinweg als voll vermittlungsfähiger Stellensuchender Taggelder der Arbeitslosenversicherung bezieht (Urteile B 100/02 vom 26. Mai 2003, E. 4.1, und B 18/06 vom 18. Oktober 2006, E. 4.2.1 in fine mit Hinweisen).
2.2.2 Das Bundesgericht hat mit <ref-ruling> in Präzisierung der Rechtsprechung entschieden, dass für den Eintritt der Arbeitsunfähigkeit im Sinne von Art. 23 lit. a BVG die Einbusse an funktionellem Leistungsvermögen im bisherigen Beruf massgeblich ist. Der zeitliche Zusammenhang zur später eingetretenen Invalidität als weitere Voraussetzung für den Anspruch auf Invalidenleistungen der damaligen Vorsorgeeinrichtung beurteilt sich hingegen nach der Arbeitsunfähigkeit respektive Arbeitsfähigkeit in einer der gesundheitlichen Beeinträchtigung angepassten zumutbaren Tätigkeit. Diese Beschäftigungen müssen jedoch bezogen auf die angestammte Arbeit die Erzielung eines rentenausschliessenden Einkommens erlauben (<ref-ruling> E. 5.3 S. 27).
3. Die IV-Stelle eröffnete der Sammelstiftung weder die Verfügung vom 12. September 2000 noch jene vom 13. August 2003. Unter diesen Umständen hatte die Vorinstanz frei und ohne Bindung an die Feststellungen der Invalidenversicherung zu prüfen, ob die Invalidität, welche zur Zusprechung einer halben Invalidenrente ab 1. August 2002 führte, in einem engen sachlichen und zeitlichen Zusammenhang mit einer während der Dauer der Versicherung bei der Sammelstiftung eingetretenen Arbeitsunfähigkeit steht (<ref-ruling> E. 3.3.2 S. 5). Daran ändert nichts, dass die IV-Stelle die am 6. Mai 2005 ergangene Verfügung und zuvor ihren Beschluss der Sammelstiftung eröffnet hat; denn hiebei ist im Nachgang zur 4. IVG-Revision bloss die bisherige, auf einem Invaliditätsgrad von 63 % fussende halbe Invalidenrente in eine Dreiviertelsrente umgewandelt worden (<ref-law>).
3.1 Gemäss den vorinstanzlichen Feststellungen arbeitete der Beschwerdeführer vom 1. August 1992 bis zum 30. November 1998 als Hilfsarbeiter auf dem Bau und er war in dieser Eigenschaft bei der Sammelstiftung berufsvorsorgerechtlich u.a. für das Risiko der Invalidität versichert. Die Versicherungsdeckung endete nach Ablauf der Nachdeckungsfrist am 31. Dezember 1998 (Art. 10 Abs. 3 BVG). Weiter stellte das kantonale Gericht fest, der Beschwerdeführer sei vom Januar 1999 bis zum 31. Oktober 2001 in einer leichten Verweistätigkeit voll arbeitsfähig gewesen, und er habe als Kebab-Verkäufer sowie Küchengehilfe ein teilweise höheres, teilweise annähernd gleich hohes Einkommen erzielt wie in der vorherigen Beschäftigung als Hilfsarbeiter. Diese Feststellungen sind nicht bestritten und für das Bundesgericht verbindlich (<ref-law>). Indes weist der Beschwerdeführer darauf hin, er sei gestützt auf das Gutachten der Medizinischen Abklärungsstelle Zentralschweiz vom 11. Juli 2000 im angestammten körperlich anstrengenden Beruf dauerhaft zu 50 % arbeitsunfähig und es sei eine Erwerbsunfähigkeit von 20 % eingetreten. Demzufolge müsse die zeitliche Konnexität bejaht werden.
3.2 Rechtsprechungsgemäss wird der zeitliche Zusammenhang durch die Arbeitsfähigkeit in einer Verweistätigkeit unterbrochen, sofern dabei bezogen auf die angestammte Tätigkeit ein den Rentenanspruch ausschliessendes Erwerbseinkommen erzielt werden kann (vgl. E. 2.2.2 hievor). Demzufolge war der von der IV-Stelle ermittelte Erwerbsunfähigkeitsgrad von 20 % nicht geeignet, den zeitlichen Konnex bestehen zu lassen. Der Beschwerdeführer galt ab Januar 1999 bis zum 31. Oktober 2001 in einer leidensangepassten Beschäftigung als voll leistungsfähig und er hat gemäss den vorinstanzlichen Feststellungen denn auch tatsächlich während mehr als 17 Monaten zu einem zeitweise höheren Lohn gearbeitet als zuvor in der Tätigkeit des Hilfsarbeiters/Heizungsmonteurs. Insgesamt konnte er mit Blick auf die gesundheitlichen Verhältnisse während nahezu drei Jahren zumutbarerweise ein rentenausschliessendes Einkommen erreichen. Bei dieser Sachlage hat das kantonale Gericht zu Recht den zeitlichen Zusammenhang zwischen der ab 1998 ausgewiesenen Arbeitsunfähigkeit und der erst Jahre später eingetretenen Invalidität verneint. Ein berufsvorsorgerechtlicher Anspruch auf eine Invalidenrente gegenüber der Beschwerdegegnerin besteht nicht, ohne dass von der Vorinstanz geprüft werden musste, ob der sachliche Zusammenhang zwischen dem der Invalidität zugrunde liegenden Gesundheitsschaden und jenem, welcher zur Arbeitsunfähigkeit geführt hat, zu bejahen wäre.
4. Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 65 Abs. 4 lit. a, Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Schwyz und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 13. Juni 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Ettlin