Faits:
A. G._, mère de trois enfants, a travaillé comme ouvrière au service de la société X._ SA, dont les employés étaient affiliés au titre de la prévoyance professionnelle auprès de la Caisse de retraite et fonds de prévoyance en faveur du personnel de X._ SA, devenue par la suite la Fondation de prévoyance en faveur du personnel de X._ SA (ci-après: la fondation). Subissant plusieurs périodes d'incapacité de travail à partir du mois de juillet 1994 en raison de problèmes de santé, l'intéressée a cessé de travailler le 31 octobre 1996. Elle a été mise au bénéfice d'une demi-rente de l'assurance-invalidité à partir du 1er juillet 1995, assortie de demi-rentes pour enfant (décisions des 22 octobre et 17 novembre 1999). A l'issue d'une procédure de révision, l'Office de l'assurance-invalidité pour le canton de Vaud a confirmé le droit à une demi-rente (décisions sur opposition du 22 novembre 2004).
De son côté, la fondation a informé l'assurée qu'elle avait établi un calcul de surassurance pour les années 1995 à 2000, en tenant compte des prestations allouées par l'assurance-invalidité et l'assurance perte de gain. Il en ressortait qu'elle n'avait droit à aucune prestation durant ces années en raison d'une surassurance, à l'exception de l'année 1998, pour laquelle un montant de 913 fr. 50 lui serait versé (lettre du 8 novembre 1999). Il en allait de même, selon des courriers ultérieurs (des 1er novembre 2002 et 3 février 2003), pour les années 2002 et 2003, les rentes octroyées par l'assurance-invalidité dépassant la limite de surindemnisation. Dans l'échange de correspondances qui a suivi, la fondation a confirmé ne pas être tenue de verser de prestations pour cause de surindemnisation.
B. B.a Par mémoire déposé le 13 avril 2004, G._ a saisi le Tribunal des assurances du canton de Vaud, en concluant à l'octroi d'une rente d'invalidité de la part de la fondation de 9'587 fr. 50 à partir du 20 juillet 1996, assortie de rentes pour enfant de 1'917 fr. 50 dès le 1er juillet 1995 pour l'enfant A._, le 1er avril 1996 pour l'enfant B._ et le 1er janvier 1999 pour l'enfant C._. Elle demandait également que soit reconnu le droit à une rente d'invalidité «au taux qui sera reconnu à l'issue de la procédure d'opposition à instruire dans le cadre de la révision en cours, soit dès et à partir du 11 juillet 2002».
Par jugement du 20 décembre 2004, le Tribunal des assurances du canton de Vaud a débouté l'assurée. Celle-ci a déféré le jugement cantonal au Tribunal fédéral des assurances qui, par arrêt du 26 juillet 2006 (B 27/05), a admis le recours, annulé le prononcé cantonal et renvoyé la cause à l'autorité judiciaire de première instance pour nouveau jugement au sens des motifs. Selon ceux-ci, le Tribunal vaudois des assurances était invité à fixer le montant du droit à la rente d'invalidité de l'assurée en fonction d'un taux d'incapacité de gain de 50 %, conformément aux statuts de la fondation et aux dispositions légales applicables.
B.b Reprenant l'instruction de la cause, le Tribunal vaudois des assurances a recueilli divers renseignements sur la situation économique de l'assurée et interpellé les parties. Statuant le 13 février 2008, il a derechef rejeté la demande de l'assurée.
C. G._ interjette un recours en matière de droit public contre ce jugement, dont elle demande principalement la réformation en reprenant à titre principal ses conclusions chiffrées de première instance. Subsidiairement, elle conclut au renvoi de la cause au Tribunal des assurances du canton de Vaud pour nouvelle instruction et nouveau jugement.
La fondation conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales (OFAS) en propose l'admission.
Considérant en droit:
1. Par arrêt B 27/05 du 26 juillet 2006, le Tribunal fédéral des assurances a jugé que la recourante avait droit à une rente d'invalidité de la prévoyance professionnelle de la part de l'intimée fondée sur un degré d'invalidité 50 %. Le présent litige porte sur le montant de cette rente (et des rentes pour enfant qui l'assortissent), singulièrement sur le point de savoir si la juridiction cantonale était en droit de nier toute prétention de la recourante envers l'intimée pour cause de surindemnisation.
2. 2.1 Selon l'art. 24 OPP 2 (dans sa version en vigueur jusqu'au 31 décembre 2004), l'institution de prévoyance peut réduire les prestations d'invalidité et de survivants, dans la mesure où, ajoutées à d'autres revenus à prendre en compte, elles dépassent 90 pour cent du gain annuel dont on peut présumer que l'intéressé est privé (al. 1). Sont considérées comme des revenus à prendre en compte les prestations d'un type et d'un but analogues qui sont accordées à l'ayant droit en raison de l'événement dommageable, telles que les rentes ou les prestations en capital prises à leur valeur de rentes provenant d'assurances sociales ou d'institutions de prévoyance suisses et étrangères, à l'exception des allocations pour impotents, des indemnités pour atteinte à l'intégrité et de toutes autres prestations semblables. Le revenu provenant d'une activité exercée par un assuré invalide est aussi pris en compte (al. 2).
La seconde phrase de l'art. 24 al. 2 OPP 2 été modifiée au 1er janvier 2005 avec l'entrée en vigueur de la 1ère révision de la LPP et a désormais la teneur suivante: «Est aussi pris en compte le revenu provenant d'une activité lucrative exercée par un assuré invalide ou le revenu de remplacement ainsi que le revenu ou le revenu de remplacement que celui-ci pourrait encore raisonnablement réaliser».
2.2 Selon l'art. 23 al. 2 du Règlement de la fondation (en vigueur depuis septembre 1989), lorsque les prestations d'assurance, conjointement à des revenus provenant d'assurances sociales et d'institutions de prévoyance suisses et étrangères, procurent à l'assuré une rente excédant 90 % de son salaire annuel présumé (tout compris), la fondation peut réduire les rentes jusqu'à la limite mentionnée ci-dessus.
3. La juridiction cantonale a effectué des calculs annuels de surindemnisation pour la période allant du 1er juillet 1995 à l'année 2008. Il en ressortait qu'en raison des rentes de l'assurance-invalidité (qui concouraient pour les années 1995 et 1996 avec les indemnités de perte de gain et le salaire versé par l'ex-employeur), la recourante était d'ores et déjà indemnisée à hauteur du gain annuel dont on pouvait présumer qu'elle se trouvait privée. Le versement d'une rente de la prévoyance professionnelle aurait donc conduit à une surindemnisation.
Pour fixer la limite de surindemnisation, les premiers juges ont d'abord déterminé le gain annuel présumé perdu (à 38'350 fr. de juillet 1995 à 2000, à 39'312 fr. pour 2001 et 2002, à 39'897 fr. pour 2003 et 2004, à 40'898 fr. pour 2005 et 2006; à 41'470 fr. pour 2007 et à 42'051 fr. pour 2008), qu'ils ont ensuite divisé par deux. De leur avis, une telle réduction de moitié du gain hypothétique s'imposait, d'une part, pour tenir compte du taux d'invalidité de 50 % présenté par la recourante et, d'autre part, parce qu'il convenait de «prendre en compte non seulement les gains issus de la capacité résiduelle de travail, mais aussi les revenus que l'on pourrait raisonnablement attendre que l'assurée en retire (arrêt du 30 juin 1997, ATF 123 V 88, spéc. consid. 4».
4. 4.1 Par «gain annuel dont on peut présumer que l'intéressé est privé» au sens de l'art. 24 al. 1 OPP 2, il faut entendre le salaire hypothétique que l'assuré réaliserait sans invalidité (ATF 125 V 163 consid. 3b p. 164). La jurisprudence a souligné à cet égard qu'il existait une étroite relation entre le gain annuel dont on peut présumer que l'intéressé est privé et le revenu sans invalidité déterminant pour l'évaluation de l'invalidité (arrêt B 80/01 du 17 octobre 2003, résumé dans REAS 2004 p. 239).
Comme le relève l'OFAS, les organes de l'assurance-invalidité ont considéré que la recourante, si elle n'avait pas été atteinte dans sa santé, aurait exercé une activité lucrative à plein temps (cf. décisions des 22 octobre et 17 novembre 1999 et décision sur opposition du 22 novembre 2004), de sorte que le gain annuel dont on peut présumer qu'elle est privée correspond au revenu d'une activité à plein temps. L'estimation du statut de la recourante (personne réputée active à plein temps) de l'Office de l'assurance-invalidité pour le canton de Vaud, qui n'apparaît pas d'emblée insoutenable, aucune des parties ne le prétendant au demeurant, vaut donc aussi pour la prévoyance professionnelle obligatoire et plus étendue; dès lors que l'intimée s'est vue notifier la décision sur opposition de l'assurance-invalidité (cf. ATF 129 V 150 consid. 2.5 p. 156), elle est liée par les décisions initiales de l'assurance-invalidité (arrêt B 27/05 du 26 juillet 2006). C'est ce qu'avait du reste retenu la juridiction cantonale dans un premier temps, en considérant que le calcul de surindemnisation devait être effectué en fonction de l'évolution hypothétique du salaire de la recourante «si elle était restée employée au service de X._ SA au taux qu'elle occupait, à savoir 100 pour-cent».
En réduisant dans un deuxième temps le revenu annuel présumé perdu de moitié afin de tenir compte, selon ses dires, du taux d'invalidité de 50 % présenté par la recourante, l'autorité judiciaire cantonale s'est écartée de la notion du gain annuel au sens de l'art. 24 al. 1 OPP 2, qui sert de point de départ pour fixer la limite de surindemnisation. Cette notion implique de tenir compte non pas du taux d'invalidité (partiel) de G._, mais de la situation qui serait la sienne sans la survenance de l'invalidité, soit de déterminer le gain annuel présumé perdu tiré d'une activité exercée à plein temps. La réglementation légale fait une différence entre la détermination du droit à la prestation d'invalidité en tant que tel, en fonction du taux d'invalidité de l'intéressé (art. 24 LPP), et la question de la surindemnisation sur laquelle le statut de l'assuré a une incidence.
4.2 La réduction de moitié du gain annuel présumé perdu ne peut pas non plus être déduite de la jurisprudence du Tribunal fédéral des assurances relative à la nature des revenus à prendre en compte au sens de l'art. 24 al. 2 OPP 2, citée par la juridiction cantonale. Il résulte au contraire de cette jurisprudence que sous l'empire de l'art. 24 al. 2 OPP 2 dans sa version en vigueur jusqu'au 31 décembre 2004, seuls les revenus effectifs, à l'exclusion des revenus qu'un assuré partiellement invalide pourrait raisonnablement obtenir en mettant en valeur sa capacité résiduelle de gain, sont pris en considération pour déterminer s'il y a surindemnisation chez un bénéficiaire de prestations d'invalidité (ATF 123 V 88 consid. 4 p. 94 ss, spécialement in fine, et regeste publié). Ce n'est qu'avec la modification de l'art. 24 al. 2 deuxième phrase OPP 2 au 1er janvier 2005 que «le revenu ou le revenu de remplacement que [l'assuré invalide] pourrait encore raisonnablement réaliser» est aussi considéré comme un revenu à prendre en compte dans le calcul de surindemnisation. Les nouvelles dispositions légales (et par analogie aussi réglementaires) sur la surindemnisation s'appliquent à partir de leur entrée en vigueur aux prestations en cours (ATF 134 V 64 consid. 2.3.1 p. 67, 122 V 316 consid. 3c p. 319), mais non pas de manière rétroactive à un calcul de surindemnisation portant sur une période antérieure à cette date.
L'autorité judiciaire de première instance n'avait dès lors pas à prendre en compte - selon ses considérations par une réduction de moitié du gain présumé perdu - un revenu que la recourante pouvait raisonnablement réaliser pour la période courant du 1er juillet 1995 au 31 décembre 2004 (pour la période subséquente, voir consid. 6.2 infra).
4.3 Il apparaît, en conséquence de ce qui précède, que la juridiction cantonale a méconnu la notion de gain annuel présumé perdu au sens de l'art. 24 al. 1 OPP 2 et qu'elle a partant fixé la limite de surindemnisation de manière contraire au droit.
5. 5.1 En ce qui concerne le montant du gain annuel présumé perdu en tant que tel, la juridiction cantonale l'a fixé à 38'350 fr. pour les années 1996 à 2000, chiffre qui correspond au dernier salaire annuel réalisé par la recourante en 1995. Pour la période courant à partir de 2001, elle a déterminé des montants plus élevés (39'312 fr. pour 2001 et 2002, 39'897 fr. pour 2003 et 2004, 40'898 fr. pour 2005 et 2006; 41'470 fr. pour 2007 et 42'051 fr. pour 2008), en fonction de la variation présumable du gain «telle qu'évaluée par [l'intimée] dans ses calculs annuels de surindemnisation» en considérant qu'elle n'était infirmée par aucune pièce au dossier.
5.2 Comme le fait valoir à juste titre la recourante, à l'instar de l'OFAS, une telle appréciation, et les constatations de fait qui en découlent quant au gain présumé perdu, apparaissant contraires aux éléments de preuve recueillis en procédure cantonale. Il ressort en effet d'une estimation de l'intimée datée du 1er novembre 2002, établie en fonction des variations statistiques nominales des salaires pour la main d'oeuvre féminine occupée dans l'industrie manufacturière, que l'évolution hypothétique du revenu en cause est nettement plus importante que celle qu'elle a retenue dans ses calculs de surindemnisation et qui a été reprise par l'instance cantonale. Ainsi, selon ce document, la recourante aurait pu obtenir les salaires suivants: 38'430 fr. en 1996, 39'340 fr. en 1997, 39'680 fr. en 1998, 40'000 fr. en 1999, 40'460 fr. en 2000, 41'450 fr. en 2001 et 42'290 fr. en 2002. Contrairement aux considérations de la juridiction cantonale, il ne s'agit pas là de «menues variations du gain annuel présumé perdu entre l'une et l'autre évaluation» qui ne modifieraient pas l'issue du litige, si bien qu'elle ne pouvait sans autre explication faire abstraction des montants établis par l'intimée le 1er novembre 2002.
De plus, si les premiers juges ont adapté le gain annuel 2007 et 2008 à la hausse nominale moyenne des revenus (+ 1,4 %), ils n'expliquent pas pourquoi ils n'ont pas fait de même pour les années 1996 à 2000, pour lesquelles ils ont retenu un montant fixe de 38'350 fr. en ignorant tout changement durant cinq ans. Ce faisant, ils se sont écartés de la notion de gain annuel présumé perdu qui suppose en principe de se fonder sur le salaire réalisé en dernier lieu par la recourante, en tenant compte de l'évolution des salaires.
6. 6.1 Il découle de ce qui précède que la juridiction cantonale aurait dû fixer la limite de surindemnisation en prenant en compte le gain annuel présumé perdu correspondant à une activité exercée à plein temps - c'est-à-dire sans la réduction de moitié opérée à tort (consid. 4 supra) -, et adapté, année après année, à l'évolution des salaires, par exemple dans l'entreprise pour la même catégorie de salariés ou dans la branche concernée, telle qu'elle ressort en particulier de l'estimation de l'intimée du 1er novembre 2002. A titre indicatif, le calcul de surindemnisation effectué sur cette base, en prenant en considération les prestations de l'assurance-invalidité (et de l'assurance perte de gain, ainsi que du salaire pour les années 1995 et 1996) - montants non contestés par les parties - montre qu'à l'exception de l'année 1996, la limite de surindemnisation n'est pas dépassée, du moins jusqu'en 2004. Par exemple pour l'année 1998, la différence entre la limite de surindemnisation (90 % de 39'680 fr. = 35'712 fr.) et les revenus à prendre en compte au sens de l'art. 24 OPP 2 (rentes AI pour 16'344 fr. [consid. 4 p. 12 du jugement cantonal]) est de 19'368 fr. C'est donc à tort que le versement des prestations d'invalidité de la prévoyance professionnelle à la recourante a été nié pour cause de surindemnisation.
Il convient par conséquent d'annuler le jugement entrepris et de renvoyer la cause à la juridiction cantonale pour que, conformément aux instructions ordonnées une première fois déjà par arrêt du 26 juillet 2006, elle fixe enfin le montant du droit à la rente d'invalidité de la recourante en fonction d'un taux d'invalidité de 50 %, selon les statuts de la fondation et les dispositions légales applicables. Une fois établie la quotité des prestations d'invalidité dues, il y aura lieu d'examiner, dans un premier temps, si une réduction est justifiée pour cause de surindemnisation au regard des dispositions réglementaires de l'institution de prévoyance. En cas de réponse affirmative, il conviendra d'examiner alors si la réduction opérée en vertu du règlement est justifiée à la lumière des exigences minimales de la LPP.
6.2 Eu égard à une éventuelle réduction pour cause de surindemnisation relative à la période courant à partir du 1er janvier 2005, on précisera encore que le revenu hypothétique au sens de l'art. 24 al. 2 deuxième phrase OPP 2 dans sa teneur en vigueur depuis cette date (consid. 4.2 supra) est présumé correspondre au revenu que l'assuré invalide pourrait encore raisonnablement réaliser, tel que déterminé par l'assurance-invalidité (ATF 134 V 64 consid. 4.1.2 et 4.1.3 p. 70); l'intéressé a cependant le droit d'être entendu et de se déterminer sur des circonstances qui commanderaient, le cas échéant, de s'écarter de la présomption (voir ATF 134 V 64 consid. 4.2.1 p. 71).
7. Vu ce qui précède, la conclusion subsidiaire de la recourante doit être admise. En revanche, dans la mesure où il y aurait lieu d'admettre qu'elle conclut au versement d'intérêts moratoires depuis 1996, il s'agit d'une conclusion qui n'a pas été formulée en première instance; nouvelle au sens de l'art. 99 al. 2 LTF, elle est irrecevable. Il en va de même du grief relatif à la prise en compte de la moitié de l'avoir de prévoyance professionnelle versée sur un compte de libre passage par l'intimée. Ce moyen a trait à l'établissement des faits de la juridiction cantonale, sans que la recourante expose en quoi les circonstances qu'elle invoque seraient susceptibles d'influer sur le sort de la cause (art. 97 al. 1 LTF), de sorte qu'il n'est pas admissible.
8. Compte tenu de l'issue de la procédure, les frais de justice seront mis à la charge de l'intimée (art. 66 al. 1 et 3 LTF). Celle-ci versera également à la recourante, qui obtient gain de cause, une indemnité à titre de dépens (art. 68 al. 1 et 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis dans la mesure où il est recevable. Le jugement du Tribunal des assurances du canton de Vaud du 13 février 2008 est annulé, la cause étant renvoyée à cette autorité pour nouveau jugement au sens des motifs.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimée.
3. L'intimée versera à la recourante la somme de 2'500 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 21 octobre 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless