Sachverhalt:
A. Der am 14. Juni 1944 geborene W._ wurde von der Schule X._ auf den 1. März 2003 als Leiter des Departementes Informatik angestellt und war ab diesem Zeitpunkt bei der Beamtenversicherungskasse des Kantons Zürich (im Folgenden: BVK) im Rahmen eines Versicherungsvertrages (im Folgenden: VV) berufsvorsorgeversichert. Am 13. Mai 2004 kündigte die Schule X._ das Arbeitsverhältnis auf 30. November 2004. Wegen Krankheit verlängerte sich die Kündigungsfrist bis 31. Dezember 2004.
Mit Schreiben vom 15. Mai 2004 hatte W._ die Schule X._ ersucht, die Kündigung in eine Entlassung altershalber "umzuwandeln", was diese ablehnte. Am 16. Dezember 2004 meldete die Schule der BVK den Altersrücktritt des Versicherten und hielt ausdrücklich fest, es handle sich um eine verschuldete Auflösung des Arbeitsverhältnisses, nicht um eine Entlassung altershalber. Nach Einholung von Stellungnahmen beider Parteien stellte die BVK mit Schreiben vom 27. Mai 2005 fest, dass W._ keine Sonderleistungen gemäss § 68 VV (Ergänzungsgutschriften) und kein Überbrückungszuschuss zustehe.
B. Am 21. April 2006 liess W._ Klage erheben mit dem Rechtsbegehren, die BVK sei zu verpflichten, ihm eine Altersrente im Sinne von § 11 in Verbindung mit § 17 VV auszurichten. Das Sozialversicherungsgericht des Kantons Zürich lud die Schule X._ zum Verfahren bei, führte einen doppelten Schriftenwechsel durch und gab dem Kläger Gelegenheit, zu den Neuerungen der Duplik der Schule X._ Stellung zu nehmen. Mit Entscheid vom 31. März 2008 verpflichtete es die BVK, dem Kläger in Gutheissung der Klage eine Altersrente im Sinne von § 11 VV auszurichten.
C. Die BVK lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, das angefochtene Urteil sei aufzuheben und es sei festzustellen, dass sie nicht zur Leistung einer Altersrente wegen einer Entlassung altershalber gemäss § 11 VV verpflichtet sei; eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Während W._ die Bestätigung des angefochtenen Entscheides und eventuell die Durchführung eines zweiten Schriftenwechsels zur Frage, ob er die Kündigung selber verschuldet habe, beantragen lässt, schliesst die Schule X._ auf Aufhebung des angefochtenen Entscheides und Abweisung des Anspruches auf eine Altersrente im Sinne von § 11 in Verbindung mit § 17 VV.
Das Bundesamt für Sozialversicherungen (BSV) verzichtet auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. wegen Verletzung von Bundesrecht erhoben werden (<ref-law>). Kantonales Recht kann vom Bundesgericht unter Vorbehalt der kantonalen verfassungsmässigen Rechte (<ref-law>) sowie der kantonalen Bestimmungen über die politische Stimmberechtigung und über Volkswahlen und -abstimmungen (<ref-law>) nicht frei, sondern nur auf die Verletzung von Bundesrecht oder kantonalen verfassungsmässigen Rechten hin überprüft werden. Im Bereich der Berufsvorsorge macht das Bundesgericht im Interesse der Gleichbehandlung von öffentlich- und privatrechtlich Versicherten jedoch eine Ausnahme und überprüft das kantonale sowie kommunale Berufsvorsorgerecht frei, soweit es um die Bewilligung oder Verweigerung von Versicherungsleistungen geht (<ref-ruling> E. 1.2 S. 200).
1.2 Die vorliegende Streitsache betrifft die Frage, ob dem Beschwerdegegner Altersleistungen gemäss den Bestimmungen von § 11 in Verbindung mit § 17 VV zustehen oder nicht. Dabei handelt es sich um Versicherungsleistungen. Das Bundesgericht prüft daher frei, ob die Vorinstanz dem Beschwerdegegner in zutreffender Auslegung der erwähnten Bestimmungen Altersleistungen zugesprochen hat oder nicht.
2. 2.1 Im Bereich der überobligatorischen Berufsvorsorge sind die Vorsorgeeinrichtungen im Rahmen des Gesetzes in der Gestaltung ihrer Leistungen, in deren Finanzierung und in ihrer Organisation frei (Art. 49 BVG in der bis Ende Dezember 2004 gültigen und hier anwendbaren Fassung). Massgebend ist insoweit - innerhalb der durch Gesetz und verfassungsmässige Grundsätze bestimmten Grenzen - insbesondere die autonome Regelung der Vorsorgeeinrichtung, wie sie in deren Statuten oder Reglementen festgehalten ist. Die Auslegung dieser Rechtsgrundlagen erfolgt bei Vorsorgeeinrichtungen des öffentlichen Rechts nach den für die Gesetzesauslegung geltenden Regeln (<ref-ruling> E. 2.2 S. 211; Urteil B 39/93 vom 23. Juni 1995 E. 3b in: SZS 1997 S. 563). Daran ändert auch der Umstand nichts, dass die vorliegend massgebenden Statuten der Versicherungskasse für das Staatspersonal (im Folgenden: Statuten) gestützt auf § 1 Abs. 2 des Gesetzes über die Versicherungskasse für das Staatspersonal vom 6. Juni 1993 (LS 177.201) zum Inhalt des zwischen der Schule X._ und der Finanzdirektion des Kantons Zürich abgeschlossenen Versicherungsvertrages erhoben worden sind (Urteil B 33/04 vom 18. Mai 2005 E. 5.2).
2.2 Ausgangspunkt jeder Auslegung bildet der Wortlaut der Bestimmung. Ist der Text nicht ganz klar und sind verschiedene Interpretationen möglich, so muss nach seiner wahren Tragweite gesucht werden unter Berücksichtigung aller Auslegungselemente. Abzustellen ist dabei namentlich auf die Entstehungsgeschichte der Norm und ihren Zweck, auf die dem Text zu Grunde liegenden Wertungen sowie auf die Bedeutung, die der Norm im Kontext mit anderen Bestimmungen zukommt. Die Gesetzesmaterialien sind zwar nicht unmittelbar entscheidend, dienen aber als Hilfsmittel, um den Sinn der Norm zu erkennen. Namentlich bei neueren Texten kommt den Materialien eine besondere Stellung zu, weil veränderte Umstände oder ein gewandeltes Rechtsverständnis eine andere Lösung weniger nahelegen. Das Bundesgericht hat sich bei der Auslegung von Erlassen stets von einem Methodenpluralismus leiten lassen und nur dann allein auf das grammatische Element abgestellt, wenn sich daraus zweifelsfrei die sachlich richtige Lösung ergab (<ref-ruling> E. 5.1 S. 193; <ref-ruling> E. 7.2 S. 5; <ref-ruling> E. 4.1 S. 499).
3. 3.1 Gemäss § 10 Abs. 1 VV ist jede versicherte Person nach dem vollendeten 60. Altersjahr berechtigt, den Altersrücktritt zu erklären und eine Altersrente zu beziehen. Die Höhe der jährlichen Altersrente ergibt sich aus dem im Zeitpunkt des Altersrücktritts vorhandenen Sparguthaben multipliziert mit dem Umwandlungssatz, welcher je nach dem in diesem Zeitpunkt vollendeten Altersjahr abgestuft ist (§ 16 Abs. 1 und 2 VV).
Nach § 11 Abs. 1 VV ist der Arbeitgeber berechtigt, versicherte Personen nach dem vollendeten 60. Altersjahr altershalber zu entlassen, falls sachlich ausreichende Gründe dies rechtfertigen. Der Entlassung altershalber ist die Auflösung des Arbeitsverhältnisses im gegenseitigen Einvernehmen gleichgestellt (§ 11 Abs. 1 Satz 2 VV).
Bei Entlassung einer versicherten Person durch den Arbeitgeber im Sinne von § 11 VV wird die Altersrente mit dem Umwandlungssatz im Alter 63 berechnet (§ 17 Abs. 1 Satz 1 VV). Das massgebliche Sparguthaben besteht aus dem Sparguthaben im Entlassungszeitpunkt (§ 17 Abs. 1 Satz 2 VV). Hinzu kommen Spargutschriften ohne Zins bis zum Alter 63, die aufgrund des versicherten Lohnes im Entlassungszeitpunkt berechnet werden (§ 17 Abs. 1 Satz 3 VV). Diese Rente wird für jeden Monat vor dem 63. Altersjahr um 1/6 % gekürzt (§ 17 Abs. 1 Satz 4 VV). Der Arbeitgeber finanziert der Versicherungskasse die Ergänzung der Sparguthaben gemäss § 17 (§ 68 Abs. 2 VV).
3.2 Das kantonale Gericht ist bei der Auslegung der erwähnten Vertrags- und der ihnen entsprechenden Statutenbestimmungen (§ 9 Abs. 1, § 10 Abs. 1, § 16 Abs. 1 und 2, § 17 Abs. 1 sowie § 67 Abs. 1 der Statuten in der hier massgebenden, bis 31. Dezember 2004 gültig gewesenen Fassung) davon ausgegangen, dass der Anspruch auf eine Altersrente gemäss § 11 VV nicht davon abhänge, ob der Arbeitgeber die Kündigung des Arbeitsverhältnisses als Entlassung altershalber verstanden habe oder nicht und ob er sich bereit erklärt habe, zusätzliche Altersleistungen zu finanzieren. § 11 Abs. 1 VV knüpfe an die vom Arbeitgeber ausgehende Beendigung des Arbeitsverhältnisses an und beinhalte eine gewisse soziale Absicherung von Versicherten im fortgeschrittenen Alter, indem eine Entlassung nach dem 60. Altersjahr zu einer unbefristeten Altersleistung auf der Basis des im Alter 63 erworbenen Sparguthabens und des für dieses Alter massgebenden Umwandlungssatzes führe. Damit sei eine Besserstellung der entlassenen Person im Vergleich zu derjenigen beabsichtigt, die aus eigenem Antrieb vorzeitig aus dem Dienst ausscheidet. Weder § 10 noch § 11 VV mache die Leistungen vom fehlenden Verschulden abhängig. Weil eine Entlassung altershalber nur erfolgen könne, wenn sachliche Gründe dies rechtfertigen, sei vielmehr anzunehmen, dass selbst bei einer vom Versicherten eindeutig verschuldeten Kündigung nach vollendetem 60. Altersjahr Anspruch auf Leistungen gemäss § 11 in Verbindung mit § 17 VV bestehe. Das ergebe sich auch aus der Weisung des Regierungsrates vom 22. Mai 1996, wo festgehalten worden sei, dass Entlassungen nach dem 60. Altersjahr als Entlassungen altershalber gelten. Die Bestimmung von § 11 VV (§ 10 der Statuten) sei daher unter grammatikalischen, systematischen und historischen Gesichtspunkten dahin zu verstehen, dass jede vom Arbeitgeber ausgehende Auflösung des Arbeitsverhältnisses nach vollendetem 60. Altersjahr unabhängig vom Verschulden des Entlassenen als Entlassung altershalber zu qualifizieren sei.
3.3 Der Beschwerdeführer macht geltend, mit dem Erfordernis von sachlich ausreichenden Gründen werde in § 11 VV auch festgelegt, dass der Arbeitgeber und nicht die Vorsorgeeinrichtung bestimme, ob eine versicherte Person altershalber entlassen werde oder nicht. Die im angefochtenen Entscheid vorgetragene Argumentation stehe in diametralem Gegensatz zur Auslegung von § 10 Abs. 1 der Statuten (in der seit 1. Januar 2005 gültigen Fassung) im Urteil der Vorinstanz vom 10. März 2008. Es sei nicht haltbar, daraus, dass in § 11 VV das fehlende Verschulden nicht ausdrücklich erwähnt sei, abzuleiten, sogar eine vom Versicherten eindeutig verschuldete Kündigung nach vollendetem 60. Altersjahr führe zu höheren, vom Arbeitgeber zu finanzierenden Ansprüchen. Das lasse sich auch der Weisung des Regierungsrates vom 22. Mai 1996 nicht entnehmen. Aus den Materialien gehe vielmehr hervor, dass eine Entlassung nach dem 60. Altersjahr nur dann eine Entlassung altershalber darstelle, wenn sie unverschuldet erfolge. Zweck der Entlassung altershalber sei es, besonders verdiente Mitarbeiter, denen keine Weiterbeschäftigung mehr angeboten werden könne, nicht schlechter zu stellen als ordentlich Pensionierte. Es widerspreche dem Sinn und Zweck von § 11 VV, wenn ein Versicherter, dem wegen mangelhaftem oder unbefriedigendem Verhalten gekündigt wurde, höhere Renten erhalte als ein Versicherter, der selber gekündigt habe oder dem aus wirtschaftlichen oder organisatorischen Gründen gekündigt worden sei.
3.4 Der Auslegung von § 11 VV, wie sie das kantonale Gericht vorgenommen hat, ist aus folgenden Gründen beizupflichten.
3.4.1 Nach dem Wortlaut von § 11 Abs. 1 VV ist der Tatbestand der Entlassung altershalber erfüllt, wenn die drei folgenden objektiven Tatbestandselemente gegeben sind: (1.) Auflösung des Arbeitsverhältnisses durch den Arbeitgeber, (2.) Rechtfertigung der Entlassung durch sachlich ausreichende Gründe und (3.) Vollendung des 60. Altersjahres auf Seiten der versicherten Person. Dieser Wortlaut enthält keinerlei Stütze dafür, dass dem Entlassenen - positiv oder negativ - zurechenbare Entlassungsgründe zusätzliche Tatbestandsmerkmale bilden würden, wie dies der Beschwerdeführer geltend macht.
Es trifft zwar zu, dass der Regierungsrat in seiner Weisung vom 22. Mai 1996 zu den am 1. Januar 2000 in Kraft getretenen Änderungen der Statuten der Versicherungskasse für das Staatspersonal die Entlassung nach dem Alter 60 systematisch als einen der drei Fälle von "unverschuldeter Entlassung oder Nichtwiederwahl" aufgeführt hat (S. 42 der Weisung). In den Erläuterungen zur Statutenbestimmung von § 10 hielt der Regierungsrat aber fest: "Entlassungen nach dem 60. Altersjahr gelten als Entlassungen altershalber" (Weisung S. 44). Damit wurde klargestellt, dass es nach dem Willen des Statutengebers nach dem 60. Altersjahr weder eine unverschuldete Entlassung oder Nichtwiederwahl noch überhaupt eine Berücksichtigung subjektiver (Verschuldens-)Gesichtspunkte für die Belange der Vorsorgeleistungen geben sollte.
3.4.2 Die Entlassung altershalber gemäss § 11 VV ist ein ausschliesslich vorsorgerechtlich geregeltes Rechtsinstitut und von der arbeitsvertraglichen oder personalrechtlichen Beendigung des Arbeits- oder Dienstverhältnisses zu unterscheiden. Die gegen den Willen des Arbeitnehmers vom Arbeitgeber erklärte (oder im gegenseitigen Einvernehmen erfolgte) Auflösung des Arbeitsverhältnisses bildet lediglich ein Tatbestandselement der Entlassung altershalber, nicht aber den Rechtsgrund. Demgemäss kann nicht von rechtserheblicher Bedeutung sein, ob der Arbeitgeber eine Entlassung altershalber aussprechen wollte und ob der Arbeitnehmer die Beendigung des Arbeitsverhältnisses als solche verstehen musste oder nicht.
3.4.3 In teleologischer Hinsicht ist das kantonale Gericht zum Schluss gelangt, mit den Bemessungsregeln von § 17 VV werde eine Besserstellung der unfreiwillig nach dem 60. Altersjahr Entlassenen gegenüber denjenigen angestrebt, die aus eigenem Antrieb vorzeitig den Altersrücktritt (gemäss § 10 VV) erklären. Die Vorinstanz hat sich dabei auf die Ausführungen des Regierungsrates zu § 10 der Statuten in der Weisung vom 22. Mai 1996 gestützt (Weisung S. 44). Ebenso unmissverständlich hat sich der Regierungsrat zum Zweck der Altersrentenbemessung bei einer Entlassung altershalber in seinen Erläuterungen zu der dem § 17 VV entsprechenden Bestimmung von § 16 der Statuten (in der bis 31. Dezember 2004 gültigen Fassung) wie folgt geäussert (Weisung S. 57):
"Bei der Entlassung einer versicherten Person altershalber vor dem 63. Altersjahr soll die Altersrente etwas höher sein, als wenn der Rücktritt auf denselben Zeitpunkt selbst gewählt worden wäre, aber nicht gleich hoch, wie wenn die versicherte Person bis zum 63. Altersjahr gearbeitet hätte."
Die vom Statutengeber beabsichtigte Besserstellung der unfreiwillig zwischen dem vollendeten 60. und dem 63. Altersjahr Entlassenen gegenüber den in derselben Altersperiode freiwillig ausscheidenden Personen ist auch damit in den Materialien klar dokumentiert worden.
3.4.4 Zu keinem andern Resultat führt die systematische Auslegung des Versicherungsvertrages. Die berufsvorsorgerechtlichen Folgen der Auflösung des Arbeitsverhältnisses nach vollendetem 60. Altersjahr sind in § 10 und § 11 VV geregelt. Zudem sieht § 42 Abs. 1 VV vor, dass Angestellte, die vor dem 60. Altersjahr aus dem Dienst des Arbeitgebers austreten und ohne Versicherungsfall aus der Versicherungskasse ausscheiden, Anspruch auf eine Freizügigkeitsleistung haben. Der Versicherungsvertrag kennt hingegen keine Regelung über eine Auszahlung von Freizügigkeitsleistungen nach Erreichen des 60. Altersjahres. Daraus ist zu schliessen, dass § 10 VV und § 11 VV die vorsorgerechtlichen Folgen der ordentlichen Beendigung des Arbeitsvertrages nach dem 60. Altersjahr abschliessend bestimmen. Sodann sieht der Versicherungsvertrag als Beendigungstatbestände bloss die Erklärung des Altersrücktritts seitens der versicherten Person (§ 10 VV) sowie die Entlassung altershalber durch den Arbeitgeber (§ 11 VV) vor. Falls unter § 11 VV allein die vom Arbeitnehmer nicht verschuldete Kündigung durch den Arbeitgeber subsumiert würde, liesse sich bei verschuldeter Kündigung ein Rechtsanspruch auf eine Altersrente nicht begründen; sowohl § 10 VV als auch § 11 VV kämen nicht zur Anwendung. Diese Rechtsfolge wiederum ist mit dem Umstand nicht zu vereinbaren, dass der Versicherungsvertrag keine Ausnahmebestimmung enthält, die eine Altersrente bei einer ordentlichen Kündigung nach Vollendung des 60. Altersjahres ausschliesst. Zudem ist die Auszahlung einer Freizügigkeitsleistung nach Überschreiten dieser Altersgrenze in § 42 Abs. 1 VV nicht vorgesehen. Ein Anspruch auf eine Altersrente muss mithin auch dann bestehen, wenn der Arbeitnehmer selbst den Grund für die Kündigung gesetzt hat. Diese Auslegung wird durch den Umstand bestätigt, dass der Beschwerdeführer dem Beschwerdegegner ab Beendigung des Arbeitsvertrages eine Altersrente ausrichtet, obwohl seiner Ansicht nach die Kündigung von diesem verschuldet sei. Im Lichte des Dargelegten findet § 11 VV auch auf den Tatbestand der vom Angestellten verschuldeten ordentlichen Kündigung nach vollendetem 60. Altersjahr Anwendung. Das kantonale Gericht konnte folglich, ohne Bundesrecht zu verletzen, offen lassen, ob ein Fehlverhalten des Versicherten ursächlich für die Kündigung war.
3.5 Nicht zu beurteilen ist, wie es sich im Falle der fristlosen Auflösung durch den Arbeitgeber verhält. Immerhin scheint § 11 VV nicht auf diesen Sachverhalt zugeschnitten zu sein, ist doch gemäss § 12 VV die Entlassung altershalber der versicherten Person mindestens sechs Monate im Voraus zu eröffnen.
4. Der unterliegende Beschwerdeführer trägt die Kosten des Verfahrens (Art. 65 Abs. 4 lit. a und Art. 66 Abs. 1 BGG) und hat dem Beschwerdegegner eine Parteientschädigung zu bezahlen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat den Beschwerdegegnern für das bundesgerichtliche Verfahren mit Fr. 2'500.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. Dezember 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Ettlin