A.- Victime d'un accident de la circulation en 1978, M._ a été mis au bénéfice d'une rente d'invalidité, fondée sur un taux d'incapacité de gain de 40 %, de la Caisse nationale suisse ainsi que d'une demi-rente d'invalidité de l'AI. Malgré la diminution de sa capacité de travail, il a pu être reclassé. Du 1er novembre 1984 au 31 décembre 1993, il a ainsi travaillé à mi-temps au service de l'entreprise X._. Pendant la durée de cette activité, il était affilié en prévoyance professionnelle auprès de la Fondation collective de la Bâloise (ci-après : la Bâloise). A la suite de la dissolution de ses rapports de travail, sa prestation de sortie, d'un montant respectivement de 122 739 fr. et 37 814 fr., a été transférée, à sa demande, sur une police de libre passage de la Bâloise.
Après avoir subi une période de chômage durant plusieurs mois, M._ a retrouvé une activité à temps partiel pour le compte de Y._ à partir du 1er septembre 1994. Cet employeur l'a annoncé le 1er avril 1995 aux Retraites Populaires qui ont fait remonter son affiliation au 1er janvier 1995. Le 27 juin 1995, l'assuré a été victime d'un second accident de la circulation ce qui lui a valu l'octroi, par l'Office AI pour le canton de Vaud, d'une rente d'invalidité entière, fondée sur un degré d'invalidité de 74 %, dès le 1er octobre 1995 (décision du 20 août 1996).
M._ a alors saisi les Retraites Populaires d'une demande de prestations. Dans un premier temps, celles-ci ont considéré que l'origine de l'aggravation de son incapacité de travail était la même que celle ayant donné lieu à l'invalidité initiale, si bien que leur responsabilité n'était pas engagée (lettre du 17 janvier 1997). Ultérieurement, revoyant leur position, les Retraites Populaires ont reconnu à M._ un "droit théorique" à une demi-rente d'invalidité de 1946 fr. 40 par an dès le 1er octobre 1995, sous réserve d'une éventuelle surindemnisation; elles l'ont également informé qu'elles reportaient le début de son affiliation au 1er septembre 1994, mais refusaient de créditer en leurs livres le montant de son avoir de libre passage auprès de la Bâloise comme il l'avait pourtant demandé dans une correspondance du 26 juin 1997 (lettre du 8 juillet 1997).
B.- Par mémoire du 22 juin 1998, M._ a ouvert action contre les Retraites Populaires devant le Tribunal des assurances du canton de Vaud, en concluant, sous suite de frais et dépens, au versement par cette institution, dès le 1er octobre 1995, "d'une rente d'invalidité entière calculée sur la base d'un avoir de vieillesse comprenant les prestations de libre passage acquises auprès de la Fondation collective LPP Bâloise Vie, avec intérêts à 5 % l'an sur les prestations arriérées au moment du jugement qui sera rendu". Il faisait valoir que les Retraites Populaires lui avaient signifié, en 1995, un premier refus de transférer ses avoirs, au motif que le nouveau droit, entré en vigueur le 1er janvier 1995, ne les obligeait pas à accepter un tel transfert si l'entrée dans la nouvelle institution avait eu lieu plus d'une année après la sortie de l'ancienne; or, le report de son affiliation au 1er septembre 1994 entraînait l'application de l'ancien droit qui, en revanche, lui conférait le droit de demander en tout temps le transfert de son capital de prévoyance.
Les Retraites Populaires ont, quant à elles, conclu au rejet de la demande, en soulignant que c'était l'assuré lui-même qui, à la suite d'un entretien avec l'une de leurs collaboratrices, avait renoncé à requérir le transfert de ses fonds de prévoyance et décidé de plein gré de maintenir sa police de libre passage auprès de la Bâloise.
Après avoir requis, dans le cadre de l'instruction de la cause, l'audition de plusieurs témoins, dont une ancienne collaboratrice des Retraites Populaires, le tribunal a rejeté l'action, par jugement du 14 août 2000.
C.- M._ interjette recours de droit administratif contre ce jugement, dont il requiert l'annulation, en reprenant ses conclusions formulées devant la juridiction cantonale.
Les Retraites Populaires concluent au rejet du recours, ce que l'Office fédéral des assurances sociales propose également.

Considérant en droit :
1.- Le litige porte en premier lieu sur le point de savoir si les Retraites Populaires sont tenues de porter au crédit du recourant son avoir de libre passage précédemment acquis auprès de la Bâloise et partant, de lui verser une rente d'invalidité plus élevée.
2.- a) Pour trancher cette question, les premiers juges ont fait application des dispositions légales et réglementaires régissant la prestation de libre passage avant l'entrée en vigueur, le 1er janvier 1995, de la Loi fédérale sur le libre passage dans la prévoyance professionnelle vieillesse, survivants et invalidité du 17 décembre 1993 (LFLP). Ils ont considéré, à la lumière de l'arrêt A. du 7 janvier 1999 (B 30/97), que le droit du demandeur de faire transférer son capital de prévoyance dans une nouvelle institution de prévoyance - consacré par l'art. 4 de l'Ordonnance sur le maintien de la prévoyance et le libre passage du 12 novembre 1986 dans sa teneur en vigueur jusqu'au 31 décembre 1994 - n'était, en l'occurrence, plus opposable aux Retraites Populaires dès lors que le risque assuré (dans le cas présent l'invalidité) s'était déjà réalisé au moment de la demande de transfert le 26 juin 1997. Par ailleurs, les juges cantonaux n'ont pas retenu la thèse du recourant, selon laquelle il aurait, au mois de septembre 1995, sollicité le transfert de ses avoirs et se serait vu donner (à tort) une fin de non recevoir par les Retraites Populaires. Par surabondance, ils ont encore examiné la cause sous l'angle du nouveau droit et sont arrivés à la même conclusion.
b) M._ conteste ce point de vue, arguant que ni la loi, ni l'ordonnance, sous l'empire de l'ancien droit comme du nouveau, n'exigent qu'un assuré demande formellement le transfert de la prestation de libre passage de l'ancienne à la nouvelle institution de prévoyance. Pour lui, ce transfert doit intervenir automatiquement et sans formalité du moment que les conditions d'affiliation à la nouvelle institution sont réunies. Il estime que la seule exception que la loi fait à ce principe concerne l'hypothèse où un assuré demeure affilié comme assuré externe à l'institution de prévoyance à laquelle il appartenait antérieurement (cf. <ref-law>, dans sa teneur en vigueur jusqu'au 31 décembre 1994), ce qui n'a pas été son cas.
3.- La prétention du recourant doit être examinée en application de l'ancien droit (en vigueur jusqu'au 31 décembre 1994) dès lors qu'elle porte sur des prestations d'entrée dans une institution de prévoyance et que son affiliation auprès des Retraites Populaires remonte au 1er septembre 1994 (cf. <ref-law>).
Le recourant méconnaît manifestement le système de maintien de la prévoyance institué par la LPP et son ordonnance d'exécution dont les dispositions topiques ont été, au demeurant, correctement citées par le jugement entrepris auquel on peut renvoyer (consid. 3). Il ressort pourtant clairement de la systématique et du texte de la loi - en particulier des art. 10 et 29 LPP - que le transfert obligatoire de la prestation de libre passage d'une ancienne à une nouvelle institution de prévoyance ne concerne que les cas-types où l'assuré, à la suite de la dissolution de ses rapports de travail, entre immédiatement au service d'un nouvel employeur et doit par conséquent également changer d'institution de prévoyance (cf. aussi le Message du Conseil fédéral à l'appui d'un projet de loi sur la prévoyance professionnelle vieillesse, survivants et invalidité, FF 1976 I p. 165 et 205). Si, pour divers motifs (par exemple cessation d'activité lucrative ou prise d'activité indépendante), l'avoir de libre passage ne peut être transféré à une nouvelle institution, ni laissé auprès de l'ancienne - ce qui, en l'occurrence, s'est produit pour le recourant dès lors que celui-ci est tombé au chômage après avoir été licencié par son employeur -, le maintien de la prévoyance doit être garanti au moyen d'une police de libre passage ou par une forme équivalente (cf. <ref-law>; art. 2 al. 1 de l'Ordonnance sur le maintien de la prévoyance et le libre passage du 12 novembre 1986).
Ainsi, en dehors du cas de figure où un assuré passe directement d'un employeur à un autre, il n'y a pas d'obligation de transférer le capital de prévoyance précédemment acquis dans une nouvelle institution de prévoyance. Si un assuré reprend une activité lucrative plus tard et qu'il souhaite que ses avoirs soient intégrés dans la nouvelle institution de prévoyance à laquelle il s'affilie, il peut et doit présenter une demande dans ce sens (art. 4 de l'ordonnance précitée). La nouvelle institution est alors tenue d'accepter ce transfert à condition toutefois - comme l'ont justement rappelé les premiers juges - que l'assuré exerce ce droit avant la survenance d'un cas d'assurance (cf.
arrêt A. du 7 janvier 1999, B 30/97). On notera que celui-ci peut aussi bien renoncer à transférer ses avoirs et garder son capital de prévoyance sous la forme choisie lors sa sortie de l'assurance obligatoire. Au regard de la loi et son ordonnance, l'argumentation du recourant tombe donc à faux.
Cela étant, le dossier ne contient nulle trace d'une requête de l'assuré tendant au transfert de son avoir de libre passage antérieure à celle qu'il a adressée aux Retraites Populaires par lettre du 26 juin 1997. Singulièrement, ses allégations selon lesquelles ces dernières auraient, lors d'un entretien en septembre 1995, rejeté sa demande de transfert sous prétexte qu'il s'était écoulé plus de 12 mois entre la sortie de l'ancienne institution et l'entrée dans la nouvelle, ne trouvent appui dans aucun des témoignages recueillis en procédure cantonale (cf. le procès-verbal de l'audience d'audition de témoins du 19 octobre 1999). A cet égard, on précisera toutefois que ni la LFLP, ni son ordonnance d'exécution du 3 octobre 1994 (OLP) ne renferment de norme instituant un délai d'une année entre le passage d'une institution à une autre au-delà duquel la nouvelle institution serait fondée à refuser la transmission du capital de prévoyance précédemment acquis (voir également le Message du Conseil fédéral concernant le projet de loi fédérale sur le libre passage dans la prévoyance professionnelle vieillesse, survivants et invalidité, FF 1992 III p. 577). Pour en revenir au cas d'espèce, il s'ensuit que les Retraites Populaires étaient en droit de refuser de créditer en leurs livres le montant de l'avoir de libre passage déposé auprès de la Bâloise, la demande de transfert du recourant étant intervenue après la survenance du cas d'assurance.
4.- Il reste à examiner à quelle rente ce dernier peut prétendre.
Partiellement invalide (50 %) au moment de son affiliation auprès des Retraites Populaires, M._ était assuré pour un salaire correspondant à sa capacité de travail résiduelle. Il n'est pas contesté que l'accident survenu au mois juin 1995 l'empêche désormais de reprendre une activité lucrative, si bien que par rapport à son salaire assuré et abstraction faite de la légère capacité de gain de 26 % que l'AI lui reconnaît encore (cf. décision du 20 août 1996), le recourant est en effet devenu totalement invalide.
Les prestations d'invalidité sont calculées en fonction de l'avoir de vieillesse acquis par l'assuré ainsi que de la somme des bonifications de vieillesse afférentes aux années futures; les bonifications de vieillesse sont calculées sur la base du salaire coordonné de l'assuré durant la dernière année d'assurance auprès de l'institution de prévoyance (<ref-law>). Pour les personnes à demi-invalides au sens de l'AI, les montants limites du salaire coordonné sont réduits de moitié (art. 4 OPP 2). Or, en application de ces règles, le montant que les Retraites Populaires se proposent d'allouer correspond au maximum des prestations d'invalidité que le recourant a assurées auprès d'elles. En réalité, celui-ci se méprend sur les termes utilisés par les intimées; sa rente d'invalidité n'est pas réduite de moitié, mais elle est évidemment calculée en fonction d'un avoir et de bonifications de vieillesse basés sur un salaire partiel. Compte tenu de son salaire assuré (23 280 fr.), le montant de la rente auquel sont parvenus les intimées n'apparaît au surplus pas critiquable.
Le recours se révèle donc en tous points infondé.

Par ces motifs, le Tribunal fédéral des assurances
prononce :
I. Le recours est rejeté.
II. Il n'est pas perçu de frais de justice.
III. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 19 octobre 2001
Au nom du
Tribunal fédéral des assurances
Le Président de la IIe Chambre :
La Greffière :