Sachverhalt: A. A.a Der 1966 geborene E._, gelernter Maurer (Lehrabschluss 1986), erlitt in den Jahren 1984 und 1987 zwei Unfälle mit Knieverletzungen. Nachdem ein im August 1987 gestelltes Umschulungsgesuch mit Verfügung der IV-Kommission des Kantons Wallis vom 9. November 1987 abgewiesen worden war, arbeitete der Versicherte von Januar bis Dezember 1988 als Monteur im Bereich Bauabdichtungen/ Isolationen und ab Januar 1989 als EDV-Operateur in einer Bank mit interner Ausbildung zum System Controller. Im August 1992 meldete sich E._ aufgrund persistierender Kniebeschwerden und neu Rückenbeschwerden abermals bei der Invalidenversicherung für eine Umschulung an. Mit Verfügung vom 29. April 1994 erteilte die nunmehr zuständige IV-Kommission des Kantons Aargau Kostengutsprache für eine Umschulung zum Technischen Kaufmann (zweijährige Handelsdiplomschule, anschliessend halbjährige Vorbereitung auf die eidg. Berufsprüfung "Technischer Kaufmann"). Der Versicherte erwarb in der Folge das Bürofachdiplom und Handelsdiplom VSH und bestand im Jahre 1997 erfolgreich die schulinterne Technikerprüfung, nicht hingegen die eidg. Berufsprüfung "Technischer Kaufmann"; das von der im fraglichen Zeitpunkt erneut zuständigen IV-Stelle des Kantons Wallis gewährte Repetitionsjahr musste er wegen Rückenbeschwerden abbrechen, und ein nach einem Wohnortswechel bei der IV-Stelle des Kantons Zürich gestelltes Gesuch um nochmalige Repetition des letzten Ausbildungsjahres an der Tageshandelsschule wurde mit Verfügung vom 12. August 1998 und bestätigendem Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 23. September 1999 abgewiesen. Ab 14. April 1998 bezog E._ auf der Grundlage 100%iger Vermittlungsfähigkeit Taggelder der Arbeitslosenversicherung, und ab 10. Dezember 1998 war er im Rahmen eines Einsatzprogramms "vorübergehende Beschäftigung" zunächst vollzeitlich, ab 1. März bis 16. April 1999 im 70%-Pensum in der Steuerabteilung der Gemeindeverwaltung X._ angestellt und über dieses Arbeitsverhältnis bei der Beamtenversicherungskasse des Kantons Zürich (nachfolgend BVK) berufsvorsorgeversichert. Ab 1. Mai 1999 arbeitete er teilzeitlich als Informatik-Sachbearbeiter in einem Spital (Pensum zunächst 70 %, ab 1. April 2000 50%, ab 1. Juli 2001 60%), wobei er der BVK angeschlossen blieb. Am 15. Oktober 2001 nahm er eine 60%-Tätigkeit als Sachbearbeiter in einem Logistikunternehmen auf, doch wurde ihm ab 6. Mai 2002 (wie vorübergehend bereits vom 26. Januar bis 10. Februar 2002) eine 100%ige Arbeitsunfähigkeit auf unbestimmte Zeit attestiert. Auf Gesuch vom 15. Juli 2002 und - nach negativer Verfügung vom 23. Januar 2003 - erneut vom 2. Mai 2003 hin sprach die IV-Stelle des Kantons Zürich E._ mit Verfügungen vom 11. November 2003 (wiedererwägungsweise) rückwirkend ab 1. Juli bis 30. September 2001 eine halbe Invalidenrente (Invaliditätsgrad: 50%), ab 1. Oktober 2001 bis 31. Juli 2002 eine Viertelsrente (Invaliditätsgrad: 40%) und ab 1. August 2002 eine ganze Invalidenrente (Invaliditätsgrad: 100%) zu. A.b Die BVK, welcher E._ von Dezember 1998 bis Oktober 2001 angeschlossen war (vorne A.a), verneinte mit Schreiben vom 15. Februar 2006 eine ihrerseits bestehende Pflicht zur Ausrichtung von Invalidenleistungen. B. Am 13. Juli 2006 liess E._ Klage erheben und beantragen, die BVK, Finanzdirektion des Kantons Zürich, sei zu verpflichten, ihm ab 21. September 2000 eine Invalidenrente auszurichten, und zwar bis 30. November 2000 aufgrund einer 40%igen, ab 1. Dezember 2000 bis 30. September 2001 aufgrund einer 50%igen, ab 1. Oktober 2001 bis 31. Juli 2002 erneut aufgrund einer 40%igen und ab 1. August 2002 aufgrund 100%iger Invalidität, zuzüglich 5% Zins ab Klageanhebung. Das Sozialversicherungsgericht des Kantons Zürich wies die Klage mit Entscheid vom 27. Oktober 2008 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt E._ seien vorinstanzlich gestelltes Rechtsbegehren erneuern. Die BVK schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen hat auf eine Vernehmlassung verzichtet.