Faits:
A. Un litige porté à deux reprises devant le Tribunal des assurances du canton de Vaud (aujourd'hui, Tribunal cantonal du canton de Vaud, Cour des assurances sociales), puis le Tribunal fédéral (arrêts B 27/05 du 26 juillet 2006 et 9C_347/2008 du 21 octobre 2008) oppose Z._ à la Fondation de prévoyance en faveur du personnel de X._ SA (ci-après: la fondation), à laquelle elle a été affiliée par son ancien employeur pour la prévoyance professionnelle. En dernier lieu, à la suite du second arrêt du Tribunal fédéral, la Cour des assurances sociales du Tribunal cantonal vaudois a fixé à 117'205 fr. le montant total des rentes d'invalidité dues par la fondation à Z._ pour les années 1997 à 2004, par jugement du 3 novembre 2009, entré en force.
Le 18 décembre 2009, Z._ a mis la fondation en demeure de lui payer la somme de 117'205 fr. avec intérêts à 5 % l'an dès le 13 avril 2004. Le capital réclamé a été versé le 8 janvier 2010, tandis que la fondation a refusé d'allouer les intérêts moratoires à l'intéressée (courrier du 6 janvier 2010).
B. Par demande du 25 mai 2010, Z._ a requis de la Cour des assurances sociales du Tribunal cantonal vaudois que la fondation soit reconnue lui devoir "le paiement de 25'311 fr. 72", correspondant à des intérêts moratoires. Statuant le 12 avril 2012, la juridiction cantonale a partiellement admis la demande et condamné la fondation à payer à l'intéressée la somme de 22'826 fr. 75.
C. Agissant par la voie du recours en matière de droit public, la fondation demande au Tribunal fédéral, principalement, de réformer le jugement cantonal en ce sens qu'elle "n'est pas la débitrice de Z._ de la somme de CHF 22'826 fr. 75" et de n'allouer aucun dépens à la prénommée. A titre subsidiaire, elle conclut à l'annulation du jugement entrepris et au renvoi de la cause à l'autorité judiciaire cantonale pour nouvelle décision dans le sens des considérants.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit au sens des art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), n'examine en principe que les griefs invoqués (art. 42 al. 2 LTF) et fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF, auquel cas il peut les rectifier ou les compléter d'office (art. 105 al. 2 LTF).
2. Est seul litigieux en l'espèce le point de savoir si la recourante est tenue de verser à l'intimée des intérêts moratoires - fixés à 22'826 fr. 75 par la juridiction cantonale - sur le montant des rentes d'invalidité de la prévoyance professionnelle qu'elle lui a allouées à la suite du jugement cantonal du 3 novembre 2009.
3. A juste titre, la recourante ne nie pas qu'un intérêt moratoire est en principe dû sur des prestations d'invalidité de la prévoyance professionnelle (en vertu du règlement de l'institution de prévoyance ou, à défaut, de l'art. 104 al. 1 CO [ATF 119 V 131] et non pas, comme elle l'affirme, de l'art. 26 LPGA, cette disposition n'étant pas applicable à la prévoyance professionnelle [cf. art. 2 LPGA]).
En revanche, invoquant une violation des art. 114 (sur l'extinction des accessoires d'une obligation) et 115 CO (sur la remise conventionnelle d'une dette d'intérêts), la recourante prétend qu'elle ne peut être tenue en l'espèce à verser des intérêts moratoires, dont elle ne conteste au demeurant pas le montant déterminé par la juridiction cantonale. Le point de savoir si ces dispositions relatives à l'extinction des obligations sont applicables (directement ou par analogie) dans le domaine de la prévoyance professionnelle et donc, en grande partie, du droit public fédéral, ainsi que le sont, par exemple, l'art. 104 CO déjà mentionné ou l'art. 120 CO (cf. ATF 128 V 224 consid. 3b p. 228) n'a pas à être tranché. Il résulte en effet de ce qui suit que les griefs de la recourante doivent en tout état de cause être rejetés.
4. 4.1 Se plaignant, dans un premier grief, de la violation de l'art. 114 CO, la recourante soutient que le paiement du montant dû à titre de prestations de la prévoyance professionnelle à l'intimée en date du 8 janvier 2010 a éteint tant la créance principale que les accessoires, soit les intérêts. Aussi, quand l'intimée a déposé sa demande en paiement par requête du 25 mai 2010, sa créance accessoire était-elle éteinte.
4.2 Aux termes de l'art. 114 CO, lorsque l'obligation principale s'éteint par le paiement ou d'une autre manière, les cautionnements, gages et autres droits accessoires s'éteignent également (al. 1). Les intérêts courus antérieurement ne peuvent plus être réclamés que si ce droit a été stipulé ou résulte des circonstances (al. 2).
4.3 Selon les constatations de la juridiction cantonale, que la recourante ne conteste pas et qui lient le Tribunal fédéral (supra consid. 1), l'intimée a réclamé le paiement d'intérêts moratoires à la recourante en date du 18 décembre 2009, en requérant le versement de la créance principale assortie d'intérêts. Le paiement du capital (correspondant aux arriérés de rentes fixés par le jugement cantonal du 3 novembre 2009) est intervenu le 8 janvier 2010, sans que l'intimée n'ait déclaré accepter sans réserve le capital.
Comme l'a retenu à juste titre la juridiction cantonale, ces circonstances suffisent pour admettre que la créance relative aux intérêts moratoires ne s'est pas éteinte avec l'obligation principale, en dérogation à l'art. 114 al. 2 CO, l'examen de cette dérogation ne devant pas être soumis à des conditions trop strictes (VIKTOR AEPLI, Commentaire zurichois, Das Erlöschen der Obligationen, vol. V/1h, 3ème éd. 1991, n°s 42 et 51 ad art. 114 CO; RAINER GONZENBACH/DEBORA GABRIEL-TANNER, Commentaire bâlois, Obligationenrecht I, 5ème éd. 2011, n° 8 ad art. 114 CO). En sa qualité de créancière, l'intimée a en effet indiqué qu'elle entendait obtenir les intérêts moratoires en sus du capital en cause et donc émis une réserve à cet égard (cf. VIKTOR AEPLI, op. cit., n° 56 ad art. 114 CO). Les intérêts moratoires n'ayant par conséquent pas suivi le sort de la créance principale, l'intimée pouvait valablement en réclamer le paiement par la voie judiciaire, en introduisant une demande en justice postérieurement au paiement du 8 janvier 2010. Le grief tiré de la violation de l'art. 114 CO est, partant, mal fondé.
5. 5.1 La recourante affirme ensuite que l'intimée a sciemment renoncé au versement d'intérêts moratoires, de sorte que les règles de la bonne foi s'opposent en l'occurrence au paiement de ceux-ci. Selon elle, c'est de manière à la fois arbitraire et en violation de l'art. 115 CO que la juridiction cantonale a constaté que l'intimée n'avait pas expressément renoncé au versement d'intérêts moratoires et fait droit aux prétentions de celle-ci.
5.2 Selon l'art. 115 CO, il n'est besoin d'aucune forme spéciale pour annuler ou réduire conventionnellement une créance, lors même que, d'après la loi ou la volonté des parties, l'obligation n'a pu prendre naissance que sous certaines conditions de forme.
La remise de dette (art. 115 CO) constitue un contrat bilatéral non formel, par lequel le créancier et le débiteur conviennent d'éteindre une créance ou un rapport juridique (ATF 132 III 586 consid. 4.2.3.4 p. 593; ENGEL, Traité des obligations en droit suisse, 2e éd. 1997, p. 761; GONZENBACH/GABRIEL-TANNER, op. cit., n°s 1 et 4 ad art. 115 CO). Elle peut donc résulter de l'offre et de l'acceptation par actes concluants ou le silence (art. 1 al. 2 et art. 6 CO), considérés selon le principe de la confiance (ATF 110 II 344 consid. 2b p. 345; 52 II 215 consid. 5 p. 220; ENGEL, op. cit., p. 761/762; DENIS PIOTET, Commentaire romand, Code des obligations I, 2003, n° 22 ad art. 115 CO; GONZENBACH/GABRIEL-TANNER, op. cit., n° 6 ad art. 115 CO; VON TUHR/ESCHER, Allgemeiner Teil des Schweizerischen Obligationen-rechts, vol. II, 3e éd. 1974, p. 175).
C'est toutefois avec la plus grande circonspection que le juge admettra l'existence d'une offre de remise de dette par actes concluants de la part du créancier (ATF 109 II 327 consid. 2b p. 329; 52 II 215 consid. 5 in fine p. 222; ENGEL, op. cit., p. 762; GAUCH/SCHLUEP/SCHMID/REY/EMMENEGGER, Schweizerisches Obligationen-recht, Allgemeiner Teil, vol. II, 9e éd. 2008, n° 3128 et note de bas de page 6; GONZENBACH/GABRIEL-TANNER, op. cit., n° 6 ad art. 115 CO; PIOTET, op. cit., n° 22 ad art. 115 CO; VON TUHR/ESCHER, op. cit., p. 175 note 16), car, en règle générale et sauf circonstances particulières, nul ne renonce sans contre-prestation à une prétention (AEPLI, op. cit., n° 30 ad art 115 CO). La renonciation du créancier à sa créance ne peut être ainsi admise que si son attitude, interprétée selon le principe de la confiance, peut être comprise dans le cas particulier comme manifestant clairement sa volonté de renoncer définitivement à tout ou partie de sa créance (ATF 110 II 344 consid. 2b p. 345; 109 II 327 consid. 2b p. 329; AEPLI, op. cit., n° 30 ad art 115 CO; GONZENBACH/GABRIEL-TANNER, op. cit., n° 6 ad art. 115 CO). Le temps plus ou moins long que le créancier laisse s'écouler avant de procéder au recouvrement de sa créance n'établit pas à lui seul la remise de dette, mais constitue tout au plus un indice (ATF 54 II 197 consid. 3 p. 202; arrêt 4A_325/2007 du 15 novembre 2007 consid. 6.2; ENGEL, op. cit., p. 762; AEPLI, op. cit., n° 37 ad art 115 CO; GONZENBACH/GABRIEL-TANNER, op. cit., n° 6 ad art. 115 CO). Quant au désistement d'instance, soit le retrait de sa demande en justice par le créancier, il constitue un acte unilatéral du droit de procédure et ne permet pas de présumer qu'il emporte abandon du droit matériel qui a pu être exercé en justice, même lorsque, selon le droit de procédure applicable, il entraîne l'autorité matérielle de la chose jugée et empêche ainsi un nouvel exercice de la même prétention en justice (arrêt 4C.55/2007 du 26 avril 2007 consid. 4.2; PIOTET, op. cit., n° 8 ad art. 115 CO; VON TUHR/ESCHER, op. cit., p. 176; GAUCH/SCHLUEP/SCHMID/REY/EMMENEGGER, op. cit., n° 3139; AEPLI, op. cit., n° 25 ad art 115 CO).
5.3 Constatant tout d'abord que l'intimée n'avait pas renoncé de manière expresse au versement des intérêts moratoires en cause, la juridiction cantonale a retenu ensuite qu'une renonciation à la créance d'intérêts ne résultait pas non plus d'actes concluants de l'intéressée. Celle-ci avait en effet présenté une prétention en versement des intérêts devant le Tribunal fédéral, après le second jugement cantonal. A la suite du renvoi de la cause par la juridiction fédérale, l'autorité judiciaire de première instance n'était pas entrée en matière sur la question litigieuse pour des motifs d'ordre formel, ce qui n'empêchait toutefois pas l'intimée de mener une procédure distincte successive pour réclamer les intérêts moratoires. Il n'existait par ailleurs aucun élément permettant de déduire de l'attitude de l'intéressée ou de ses actes qu'elle aurait renoncé à l'intérêt moratoire.
5.4 La recourante ne parvient pas à démontrer le caractère arbitraire de l'appréciation ainsi opérée par la juridiction cantonale. Les éléments qu'elle invoque ne peuvent en effet pas être compris de bonne foi, en fonction de l'ensemble des circonstances, comme une manifestation claire de la volonté de l'intimée de renoncer définitivement à la créance litigieuse. Ainsi, le fait que l'intimée n'a pas modifié ses conclusions en demandant l'octroi d'intérêts moratoires en procédure cantonale, à la suite de l'arrêt du Tribunal fédéral du 21 octobre 2008 - à supposer qu'elle ait été en droit de le faire -, et attendu jusqu'au 18 décembre 2009 pour faire valoir la prétention litigieuse, ne peut pas être interprété comme une renonciation tacite à celle-ci. La remise de dette conventionelle ne saurait en effet résulter du temps plus ou moins long que la créancière a laissé s'écouler en l'occurrence avant de procéder au recouvrement de sa créance. Son absence de réaction ensuite du prononcé de l'arrêt du Tribunal fédéral du 21 octobre 2008 ne permettait pas de présumer qu'elle entendait abandonner sa créance, puisqu'on ne saurait pas non plus donner une telle signification au retrait d'une demande en justice (consid. 5.2 supra).
C'est en vain, par ailleurs, que la recourante se réfère à un jugement rendu par le Tribunal administratif du canton de Neuchâtel le 9 novembre 2006, publié dans la RJN 2006 p. 84, puisque les considérations de la juridiction neuchâteloise ne tiennent pas compte de la jurisprudence exposée ci-avant (consid. 5.2 supra). La situation de l'intimée diffère en outre de celle jugée dans l'ATF 52 II 215, également citée par la recourante, où la créancière avait omis dans un chef de conclusions, à la différence d'autres conclusions prises en même temps, les intérêts moratoires. Comme l'a retenu le Tribunal fédéral dans cet arrêt du 26 avril 1926, le rapport entre la créance principale et les intérêts n'est pas absolu au point d'exclure un procès séparé sur ces derniers, de sorte que la recourante ne peut rien tirer en l'occurrence de la demande en justice introduite séparément par l'intimée (voir aussi AEPLI, op. cit., n° 39 ad art 115 CO), une fois fixée la créance principale relative aux rentes d'invalidité de la prévoyance professionnelle.
6. En conclusion de ce qui précède, le recours est mal fondé, ce qui conduit à son rejet.
7. Vu l'issue de la procédure, la recourante supportera les frais de justice y afférents (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 31 octobre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Moser-Szeless