Faits:
A. A la suite de la fin des rapports de travail qui liaient P._ à la Société Y._, la Caisse de pensions complémentaire X._ (ci-après: la caisse) a versé à la nouvelle institution de prévoyance du prénommé la somme de 1'241'223 fr. au titre de prestation de sortie de la prévoyance professionnelle. Par mémoire du 9 février 2006, P._ a ouvert action contre la caisse auprès du Tribunal des assurances du canton de Vaud. En substance, il a conclu à ce qu'elle soit condamnée à verser à sa nouvelle institution de prévoyance le montant de 735'210 fr. (éventuellement augmenté) avec intérêts à 41/4 l'an à compter du 1er décembre 2004.
Lors d'une audience d'instruction tenue le 20 novembre 2006, les parties ont accepté la proposition du Tribunal vaudois des assurances de trancher des questions particulières à titre préjudiciel, avant qu'une expertise soit ordonnée. Après que les parties se sont déterminées sur ces questions, le Tribunal des assurances a, le 12 juin 2007, rendu un jugement préjudiciel dont le dispositif est le suivant:
"I. La collocation du demandeur en classe d'assurance complémentaire 5 est intervenue avec effet au 1er janvier 2000.
II. La date du moment déterminant pour le calcul de la prestation de sortie est le 30 novembre 2004.
III. La prime unique de l'employeur invoquée par le demandeur ne doit pas être prise en compte dans le calcul de la prestation de sortie.
IV. La date d'entrée en vigueur d'une classe d'assurance complémentaire destinée à la collocation des directeurs adjoints, ensuite de la réintroduction de ce titre, est le 1er janvier 1995; le salaire assuré pour la classe d'assurance complémentaire 1 a été nul du 1er janvier au 30 avril 1995 et le salaire assuré pour les classes d'assurance complémentaire 2 à 6 a été augmenté avec effet au 1er mai 1995.
V. - Le règlement de 2001 est seul applicable pour le calcul de la prestation de sortie.
- Est déterminant pour le calcul de la prestation de sortie du demandeur le tableau de facteur de valeur actuelle du règlement en vigueur au moment de chacun des paiements des finances d'entrée effectués.
- Est déterminant pour le calcul de la prestation de libre passage le tableau des facteurs de valeur actuelle prévue dans le règlement de 2001.
VI. Les modifications des dispositions réglementaires de la caisse de prévoyance Z._ et de la défenderesse ne peuvent porter atteinte à l'avoir de vieillesse acquis à la date des modifications.
VII. L'article 8 alinéa 3 du règlement de 2001 est applicable pour le calcul de la prestation de sortie du demandeur.
VIII. L'article 22 alinéas 3 et 4 du règlement de 2001 ne doi[t] pas être appliqué pour le calcul de la prestation de sortie du demandeur.
IV. La défenderesse a tenu compte, dans le décompte de sortie, de la promotion du demandeur au 1er janvier 2000 et ce dernier a été colloqué dans la classe d'assurance complémentaire 5 avec effet au 1er janvier 2000.
X. Le calcul de la prestation de sortie se fonde sur les finances d'entrée effectivement versées.
XI. Les frais suivent le sort de la cause au fond."
B. P._ interjette un recours en matière de droit public contre le jugement cantonal (dont la rédaction a été approuvée le 30 janvier 2008). Sous suite de frais et dépens, il en demande la réforme en concluant principalement à la modification des chiffres I à V, VIII et IX du dispositif dans le sens qu'il indique; à titre subsidiaire, il requiert l'annulation du jugement cantonal et le renvoi de la cause au Tribunal des assurances pour nouvel examen et nouvelle décision dans le sens des considérants.
La caisse conclut au rejet du recours, si tant est qu'il soit recevable, alors que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (art. 29 al. 1 LTF; ATF 134 V 138 consid. 1 p. 140).
2. 2.1 Le jugement entrepris n'est pas une décision finale, puisqu'il ne met pas fin à la procédure opposant le recourant à la caisse au sujet de l'étendue de la prestation de libre-passage qui lui est due (art. 90 LTF). Il ne constitue pas non plus une décision partielle au sens de l'art. 91 let. a LTF, selon lequel le recours est recevable contre toute décision qui statue sur un objet dont le sort est indépendant de celui qui reste en cause. En rendant le dispositif de nature purement constatatoire du 12 juin 2007, les premiers juges ne se sont pas prononcés de manière définitive sur un chef de conclusion ou sur une partie de l'objet du litige (cf. ATF 133 V 477 consid. 4.1.2 p. 480). Ils ont fourni des réponses à des questions préalables sur certains aspects du litige, mais qui sont indissociables du point de savoir quelle est l'étendue de la prestation de sortie due par l'intimée au recourant. L'arrêt en constatation cantonal - dont on a peine à voir à quel intérêt digne de protection exigé en la matière il répond (ATF 129 V 289 consid. 2.1 p. 290) - doit par conséquent être qualifié de décision préjudicielle ou incidente au sens de l'art. 93 LTF (ATF 133 V 477 consid. 4.1.3 p. 481 et les références).
2.2 Dès lors que la décision entreprise ne concerne ni la compétence, ni la récusation (cf. art. 92 LTF), elle ne peut faire l'objet d'un recours immédiat au Tribunal fédéral que si elle peut causer un préjudice irréparable (art. 93 al. 1 let. a LTF) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (art. 93 al. 1 let. b LTF). Si le recours n'est pas recevable au regard de ces conditions ou s'il n'a pas été utilisé, la décision incidente peut être attaquée par un recours contre la décision finale dans la mesure où elle influe sur le contenu de celle-ci (art. 93 al. 3 LTF).
2.2.1 Un préjudice irréparable au sens de l'art. 93 al. 1 let. a LTF est un dommage de nature juridique qui ne peut pas être réparé ultérieurement par un jugement final ou une autre décision favorable au recourant (ATF 133 IV 139 consid. 4 p. 141, 288 consid. 3.1 p. 291). En revanche, un dommage de pur fait, comme la prolongation de la procédure ou un accroissement des frais de celle-ci, n'est pas considéré comme irréparable (ATF 131 I 57 consid. 1 p. 59 et les arrêts cités p. 59).
2.2.2 L'ouverture du recours, prévue pour des motifs d'économie de procédure (art. 93 al. 1 let. b LTF), contre une décision incidente constitue une exception et doit être interprétée de manière restrictive, d'autant plus que les parties ne subissent aucun préjudice lorsqu'elles n'attaquent pas immédiatement de telles décisions, qu'elles peuvent contester en même temps que la décision finale (art. 93 al. 3 LTF). L'art. 93 al. 1 let. b LTF suppose d'abord que le Tribunal fédéral soit en mesure de rendre lui-même un jugement final en réformant la décision préjudicielle ou incidente attaquée, ce qui n'est pas le cas s'il apparaît que, en cas d'admission du recours, il devra de toute manière annuler la décision attaquée et renvoyer la cause à la juridiction cantonale pour complément d'instruction et nouvelle décision. Ensuite, l'admission du recours doit permettre d'éviter une procédure d'administration des preuves longue et coûteuse (ATF 134 III 426 consid. 1.3.2 p. 430 et les arrêts cités).
2.3 Le recourant prétend que la décision préjudicielle entreprise cause un dommage irréparable, mais ne motive pas davantage son allégation. Aussi, n'établit-il pas en quoi l'arrêt entrepris entraînerait un dommage irréparable ou qu'une décision finale immédiate permettrait d'éviter une procédure probatoire longue et coûteuse.
Ces conditions ne sont, en tout état de cause, pas réalisées. En particulier, en faisant valoir notamment que la date du moment déterminant pour le calcul de la prestation de sortie est le 31 décembre 2004 ou que l'art. 22 al. 3 et 4 du règlement de prévoyance, version 2001, lui est applicable, le recourant s'en prend à la constatation des faits des premiers juges et à l'application qu'ils ont faite du droit. Les griefs qu'il fait valoir pourraient être soulevés à l'encontre du jugement cantonal sur le fond, de sorte qu'ils ne mettent pas en évidence un dommage qu'une décision finale, même favorable au recourant, ne ferait pas disparaître complètement. Par ailleurs, l'admission du recours ne peut pas, en l'état de la procédure, conduire à une décision finale. En effet, même si le Tribunal fédéral parvenait à des solutions inverses à celles retenues par la juridiction cantonale dans le sens voulu par le recourant, le litige sur le fond ne serait pas tranché et le Tribunal fédéral ne pourrait pas mettre un terme définitif à la procédure.
2.4 Dès lors qu'aucune des deux éventualités prévues à l'art. 93 al. 1 LTF n'est réalisée, le recours doit être déclaré irrecevable.
3. Vu l'issue du litige, le recourant supportera les frais judiciaires (art. 66 al. 1 LTF). Même si elle obtient gain de cause, l'intimée n'a pas droit à une indemnité de dépens (art. 68 al. 3 LTF; cf. ATF 126 V 143 consid. 4a p. 150 et les références).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est irrecevable.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 21 janvier 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless