Sachverhalt: A. Der 1955 geborene S._ war ab 29. Juni 1999 vorerst temporär und ab 1. September 1999 in fester Anstellung als Hauswart bei der A._ AG tätig und gestützt auf dieses Arbeitsverhältnis ab 1. September 1999 bei der Sammelstiftung ELVIA Leben Schweizerische Lebensversicherungs-Gesellschaft (Rechtsvorgängerin der Sammelstiftung BVG der Allianz Suisse Lebensversicherungs-Gesellschaft) berufsvorsorgeversichert. Die A._ AG kündigte das Arbeitsverhältnis am 29. Juni 2000 auf 30. September 2000. Am 22. Dezember 2000 meldete sich S._ bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 17. Januar 2003 sprach ihm die IV-Stelle des Kantons Zürich mit Wirkung ab 1. Oktober 2001 eine halbe Invalidenrente bei einem Invaliditätsgrad von 60 % zu und mit Revisionsverfügung vom 3. November 2004 ab 1. Januar 2004 eine Dreiviertelrente nebst Zusatzrente für die Ehefrau bei einem Invaliditätsgrad von 63 %. Am 7. Februar 2003 ersuchte S._ die Sammelstiftung BVG der Allianz Suisse Lebensversicherungs-Gesellschaft (im Folgenden: Sammelstiftung) um Ausrichtung einer Invalidenrente aus der Berufsvorsorgeversicherung, was diese ablehnte. B. Am 28. Dezember 2006 liess S._ Klage erheben mit dem Rechtsbegehren, die Sammelstiftung sei zu verpflichten, ihm mit Wirkung ab 1. Oktober 2001 gestützt auf einen Invaliditätsgrad von 63 % eine Invalidenrente aus obligatorischer beruflicher Vorsorge nebst Zins von 5 % auf den "auflaufenden" Rentenbetreffnissen seit Klageeinleitung auszurichten. Das Verwaltungsgericht des Kantons Glarus führte einen doppelten Schriftenwechsel durch und verpflichtete die Sammelstiftung in Gutheissung der Klage mit Entscheid vom 19. Dezember 2007, die gesetzlichen Leistungen im Sinne der Erwägungen zu berechnen sowie S._ diese zusammen mit 5 % Zins ab 29. Dezember 2006 auszurichten. C. Die Sammelstiftung führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit den Rechtsbegehren, der angefochtene Entscheid sei aufzuheben und die Klage abzuweisen. Eventuell sei die Sache zur "Ergänzung des rechtserheblichen Sachverhaltes über den Eintritt der massgebenden Arbeitsunfähigkeit an die Vorinstanz zurückzuweisen". S._ lässt in seiner Vernehmlassung Abweisung der Beschwerde beantragen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.