Faits :
A.
A._, père de cinq enfants, a travaillé à partir du 1 er janvier 2004, tout d'abord à plein temps puis à temps partiel, en qualité de cadre auprès du service du département assurances de C._ et dès le 1 er janvier 2005 comme directeur de la Fondation B._. A ce titre, il était affilié pour la prévoyance professionnelle auprès de la Fondation B._. Il a également travaillé à temps partiel pour le compte de la société D._ SA du 1 er juillet 2007 au 31 janvier 2016. Pour cette activité, il était affilié par le biais de son employeur à la Caisse Inter-Entreprises de prévoyance professionnelle (ci-après: la CIEPP).
Le 26 mai 2015, A._ a procédé à un versement de 43'420 fr. 30 auprès de la Fondation B._, correspondant à la somme de rachat de cotisations du deuxième pilier maximale autorisée (certificats de prévoyance du 31 décembre 2015). Puis, le 10 novembre 2015, il a informé la direction de C._ qu'il désirait faire valoir ses droits à la retraite anticipée et cesser ses activités auprès de la Fondation B._ avec effet au 30 juin 2016.
Le 25 juillet 2016, la Fondation B._ a informé l'assuré qu'il disposait d'une prestation de libre passage à convertir en rente de 1'248'086 fr. 39 (avec effet au 30 juin 2016), soit une rente mensuelle de 5870 fr. 60 et une rente mensuelle par enfant de 1174 fr. 10 dès le 1 er juillet 2016. Ces montants avaient été calculés en tenant compte des sommes de 482'280 fr. 20, 37'242 fr. 67 et 21'609 fr. 80 inscrits par la Fondation B._ sur le compte individuel de prévoyance de A._ les 6 avril 2016 et 30 juin 2016 et provenant respectivement du transfert d'une prestation de sortie de la CIEPP du 15 mars 2016 et de prestations de libre passage de la Fondation de prévoyance 3ème pilier de la Banque Coop (actuellement la Fondation de prévoyance 3 ème pilier de la Banque Cler SA) du 19 avril 2016 et de la Fondation de prévoyance 3a de PostFinance du 2 juin 2016.
Le 3 janvier 2017, la Fondation B._ a annoncé à A._ qu'un contrôle de son compte individuel de prévoyance avait mis en évidence que les versements des 15 mars 2016, 19 avril 2016 et 2 juin 2016 n'étaient pas admissibles. Après que l'assuré a pris position le 30 janvier 2017, la Fondation B._ lui a remis un décompte rectificatif le 26 avril 2017, selon lequel la prestation de libre passage à convertir en rente s'élevait à 705'073 fr. 91 au 30 juin 2016, correspondant à une rente mensuelle de 3316 fr. 45 et à une rente mensuelle par enfant de 663 fr. 30 dès le 1 er juillet 2016. Elle a également demandé à l'assuré le remboursement de la somme de 51'081 fr. 50, correspondant à la différence entre les rentes versées et celles dues de juillet 2016 à avril 2017. Après un échange de correspondances, la Fondation B._ a maintenu sa position.
Au cours du printemps 2017, la Fondation B._ a versé les montants respectivement de 437'589 fr. 80 (482'280 fr. 20 plus intérêts, puis déduction de 51'081 fr. 50) à la CIEPP, de 37'691 fr. 42 (37'242 fr. 67 plus intérêts) à la Fondation de prévoyance 3ème pilier de la Banque Cler et de 21'837 fr. 51 (21'609 fr. 80 plus intérêts) à la Fondation de prévoyance 3a de PostFinance. Le 18 juillet 2017, elle a informé A._ que la Fondation de prévoyance 3 ème pilier de la Banque Cler SA lui avait retourné le montant de 37'691 fr. 42 car celle-ci ne disposait pas des instructions nécessaires afin d'ouvrir un nouveau compte de prévoyance à son nom.
B.
Par demande datée du 20 décembre 2017, modifiée par réplique du 30 novembre 2018, A._ a ouvert action contre la Fondation B._ devant le Tribunal cantonal du canton de Vaud, Cour des assurances sociales, demandant à ce que l'institution de prévoyance soit condamnée à lui verser les prestations légales et réglementaires auxquelles il a droit calculées par un expert sur la base de l'avoir de vieillesse accumulé au 30 juin 2016, plus intérêts moratoires de 5 % l'an dès le 1er mai 2017, sous déduction du montant de 437'589 fr. 80 (déjà versé par la Fondation B._ à la CIEPP), et à ce qu'il ne doive pas rembourser à la Fondation B._ la somme de "51'080 fr. 50". Subsidiairement, il demande à ce qu'il soit constaté qu'il doit rembourser à la Fondation B._ un montant à fixer à dire d'expert, en tenant compte des rachats en vue de la retraite anticipée pour un montant de 58'852 fr. 47 plus intérêts à créditer sur le compte individuel à compter du 1er juillet 2016.
Dans sa réponse du 8 mars 2018 et sa duplique du 18 janvier 2019, la Fondation B._ a conclu sous suite de frais et dépens au rejet de l'action et à ce qu'elle soit autorisée en substance à verser en espèces à A._ la somme de 37'691 fr. 42, sans intérêts. A titre reconventionnel, elle a demandé qu'il lui soit donné acte qu'elle est tenue de verser à A._, dès le 1er juillet 2016, une rente de retraite d'un montant mensuel de 3316 fr. 45 et cinq rentes d'enfant de retraité d'un montant de 663 fr. 30 chacune. Elle a également demandé à ce que A._ soit condamné à lui verser la somme de 51'081 fr. 50 et à ce qu'il soit constaté qu'elle lui a déjà remboursé un montant total de 459'427 fr. 31, après imputation par compensation du montant de 51'081 fr. 50. A._ a conclu au rejet de la demande reconventionnelle.
A l'appui de ses conclusions, la Fondation B._ a déposé notamment un avis du 23 janvier 2018 de son expert en prévoyance professionnelle. Le 13 mars 2019, la Cour cantonale a tenu une audience d'instruction au cours de laquelle les parties ainsi que deux gestionnaires de la Fondation B._ ont été entendus.
Par jugement du 18 octobre 2019, le Tribunal cantonal a prononcé:
I. La demande formée par A._ contre la Fondation B._ est rejetée.
II. Ordre est donné à la Fondation B._ de transférer la somme de 37'242 fr. 67 (trente-sept mille deux cent quarante-deux francs et soixante-sept centimes), plus intérêt à 1,25 % à partir du 19 avril 2016 et 1 % à partir du 1 er janvier 2017 à la Fondation de prévoyance 3 ème pilier Banque Cler SA.
III. La demande reconventionnelle formée par la Fondation B._ contre A._ est partiellement admise.
IV. A._ doit restitution à la Fondation B._ de la somme de 51'081 fr. 50 (cinquante-et-un mille huitante-et-un francs et cinquante centimes).
V. Ordre est donné à la Fondation B._ de transférer la somme de 51'081 fr. 50 (cinquante-et-un mille huitante-et-un francs et cinquante centimes), plus intérêt à 1 % à partir du 1 er mai 2017, à la CIEPP - Caisse Inter-Entreprises de prévoyance professionnelle.
VI. Toutes autres ou plus amples conclusions sont rejetées.
(...)
C.
A._ forme un recours en matière de droit public contre cet arrêt. Il prend les conclusions suivantes:
Au fond
4. Annuler l'arrêt de la Cour des assurances sociales du Tribunal cantonal du Canton de Vaud du 18 octobre 2019 dans la cause PP 29/17 - 33/2019;
5. Constater que le versement du 19 avril 2016 par la Fondation de prévoyance 3ème pilier Banque Coop SA de 37'242 fr. 67, ainsi que le versement du 2 juin 2016 par la Fondation de prévoyance 3a Postfinance de 21'609 fr. 80 à titre de rachat pour retraite anticipée sont valables et doivent être admis dans le calcul de la rente de M. A._;
Subsidiairement, renvoyer la cause à la Cour des assurances sociales du Tribunal cantonal du Canton de Vaud suite à la violation de l'<ref-law> aux fins de compléter son instruction et déterminer la conséquence de l'inobservation de la prescription d'annonce par écrit des rachats;
6. Condamner la Fondation B._ à payer en mains de M. A._ les prestations légales et réglementaires auxquelles il a droit calculées sur la base de l'avoir de vieillesse accumulé au 30 juin 2016, plus intérêts moratoires à 5 % dès le 1er mai 2017, sous déduction du montant de 437'589 fr. 80;
7. Renvoyer la cause à la Cour des assurances sociales du Tribunal cantonal du Canton de Vaud aux fins de:
a. calculer la rente de M. A._ en fonction des avoirs vieillesse accumulés au 30 juin 2016;
b. déterminer le montant de la rente de M. A._;
c. constater à dire d'expert que le montant que A._ doit rembourser à la Fondation B._ correspond à la différence entre les rentes perçues jusqu'au 30 avril 2017 sur la base du décompte du 25 juillet 2016 et le nouveau décompte des rentes de M. A._ au 1er juillet 2016 à déterminer selon la conclusion 7a ci-dessus;
(...)
La Fondation B._ conclut au rejet du recours, ainsi qu'à la confirmation de l'arrêt du 18 octobre 2019. L'Office fédéral des assurances sociales renonce à se déterminer.
Les parties ont répliqué et dupliqué. A._ a encore déposé une écriture complémentaire.

Considérant en droit :
1.
1.1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments de la partie recourante ou par la motivation de l'autorité précédente (cf. <ref-ruling> consid. 2.3 p. 23 et les références). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur la base des faits établis par l'autorité précédente (<ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 1 p. 328 et la référence) - ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le Tribunal fédéral n'entre pas en matière sur des critiques appellatoires portant sur l'appréciation des preuves ou l'établissement des faits par l'autorité précédente (<ref-ruling> consid. 4.4 p 355; <ref-ruling> consid. 2.3 p. 266).
1.2. Le recourant débute son mémoire par un résumé des "faits pertinents", qui diverge sur certains points des constatations cantonales. Il ne cherche toutefois pas à démontrer, dans cette première partie, que les faits le concernant auraient été établis de manière arbitraire (<ref-law>; <ref-ruling> consid. 1.1 p. 503). On n'examinera ces développements que dans la mesure où, dans la suite de son mémoire, le recourant présente sur les mêmes points, une argumentation répondant aux exigences légales.
1.3. Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Il ne sera en l'espèce pas tenu compte des correspondances échangées entre le recourant et la Fondation B._ les 30 octobre, 5 novembre, 22 novembre et 23 novembre 2019, ainsi que des courriels des 19 et 20 novembre 2019 produits par l'intimée, qui sont postérieurs à l'arrêt attaqué du 18 octobre 2019 (<ref-law>).
2.
2.1. Le litige porte en instance fédérale sur le montant des prestations de vieillesse en cas de retraite anticipée dues par la Fondation B._ au recourant. Compte tenu des conclusions et motifs du recours, il s'agit singulièrement d'examiner si la juridiction cantonale a constaté à juste titre que les deux versements de 37'242 fr. 67 et de 21'609 fr. 80 effectués par le recourant sur son compte de prévoyance les 19 avril et 2 juin 2016 ne devaient pas être pris en considération pour le calcul du montant des rentes de vieillesse.
2.2. Le Tribunal fédéral examine en principe librement, en tant que question de droit, l'interprétation des statuts et règlements d'institutions de prévoyance ou de fondations de libre passage de droit privé selon le principe de la confiance et en application de la règle de la clause ambiguë (<ref-ruling> consid. 6.2 p. 475; <ref-ruling> consid. 2.3 p. 52 et les arrêts cités).
L'interprétation du règlement d'une institution de prévoyance de droit privé, en tant que contenu préformé du contrat de prévoyance doit être effectuée selon les règles générales sur l'interprétation des contrats. Il y a lieu de rechercher, tout d'abord, la réelle et commune intention des parties (<ref-law>), ce qui en matière de prévoyance professionnelle vaut avant tout pour les conventions contractuelles particulières. Lorsque cette intention ne peut être établie, il faut tenter de découvrir la volonté présumée des parties en interprétant leurs déclarations selon le sens que le destinataire de celles-ci pouvait et devait raisonnablement leur donner selon les règles de la bonne foi (principe de la confiance). L'interprétation en application de ce principe, dite objective ou normative, consiste à établir le sens que chacune des parties pouvait et devait raisonnablement prêter aux déclarations de volonté de l'autre. Pour ce faire, il convient de partir du texte du contrat (ou du règlement) avant de l'examiner dans son contexte; dans ce dernier cas, toutes les circonstances ayant précédé ou accompagné sa conclusion doivent être prises en considération. A titre subsidiaire, il peut également être tenu compte du mode d'interprétation spécifique aux conditions générales, notamment la règle de la clause ambiguë (<ref-ruling> consid. 2.2 p. 378; <ref-ruling> consid. 3.3 p. 149 et les références).
3.
3.1. D'après l'<ref-law>, les hommes ont droit à des prestations de vieillesse dès qu'ils ont atteint l'âge de 65 ans. En dérogation à ce principe, les dispositions réglementaires de l'institution de prévoyance peuvent prévoir que le droit aux prestations de vieillesse prend naissance dès le jour où l'activité lucrative prend fin (art. 13 al. 2 1ère phrase LPP). Dans cette hypothèse, seule est visée l'activité lucrative sur laquelle repose le rapport d'assurance avec l'institution de prévoyance, l'assuré n'ayant pas à renoncer à toute autre activité lucrative. L'<ref-law> permet donc à l'institution de prévoyance d'envisager un cas de prévoyance à partir d'un âge inférieur - dont la limite est fixée, depuis le 1er janvier 2006, à 58 ans, sous réserve d'exceptions (art. 1 al. 3 2ème phrase LPP et art. 1i OPP 2 [RS 831.441.1]) -, à condition que l'assuré ait cessé son activité lucrative. En conséquence, lorsque les institutions de prévoyance accordent la possibilité d'une retraite anticipée, la survenance du cas de prévoyance "vieillesse" a lieu non seulement lorsque l'assuré atteint l'âge légal de la retraite selon l'<ref-law>, mais aussi lorsqu'il atteint l'âge auquel le règlement lui donne droit à une retraite anticipée. Lorsque le règlement subordonne l'octroi de prestations à titre de retraite anticipée à une déclaration de volonté de l'assuré, l'événement vieillesse excluant le droit à une prestation de sortie n'intervient que si l'assuré a fait valoir ses prétentions (<ref-ruling> consid. 5.2.1 p. 233 et les références).
3.2. Selon l'art. 1b OPP 2, l'institution de prévoyance peut prévoir dans son règlement la possibilité pour les assurés d'effectuer des rachats supplémentaires, en sus du rachat de la totalité des prestations réglementaires au sens de l'<ref-law>, dans le but de compenser totalement ou partiellement la réduction des prestations de vieillesse en cas de versement anticipé (al. 1); les institutions de prévoyance qui autorisent les rachats en prévision d'une retraite anticipée selon l'al. 1 doivent concevoir leur plan de prévoyance de telle façon que, si l'assuré renonce à une retraite anticipée, les prestations versées ne dépassent pas de plus de 5 % l'objectif réglementaire des prestations (al. 2).
3.3. La Fondation B._ est une institution de prévoyance de droit privé dite enveloppante, en ce sens qu'elle alloue à ses affiliés des prestations obligatoires et plus étendues. A ce titre, elle a fait usage de la faculté aménagée aux 13 al. 2 LPP et 1b OPP 2 et prévu dans son règlement "plans enveloppants", dans sa teneur en vigueur dès le 1er juillet 2014, la possibilité de prendre une retraite anticipée aux conditions suivantes:
"Article 5: risques assurés
Le but de la prévoyance professionnelle est d'assurer un capital ou une rente aux assurés ou aux membres de leur famille, en plus des prestations de l'assurance vieillesse et survivants (AVS), de l'assurance invalidité (AI), de l'assurance accident obligatoire (LAA) et de l'assurance militaire (AMF) dans les cas suivants:
1. en cas de vieillesse. L'âge de la retraite est atteint le premier jour du mois qui suit l'accomplissement de l'âge ordinaire de la retraite au sens de l'AVS.
L'assuré a la possibilité de prendre sa retraite dès l'âge de 58 ans révolus ou de différer celle-ci de 5 ans, pour autant qu'il poursuive son activité lucrative. Dans ce cas, le taux de conversion est adapté selon les bases actuarielles en vigueur au moment du début de la rente. Le cas échéant, l'assuré doit faire sa demande de retraite anticipée par écrit auprès de la Fondation B._."
(...)
"Article 16: rachat - retraite anticipée
En vue d'améliorer ses prestations, l'assuré peut procéder au rachat d'années de cotisations. Le rachat n'est permis que jusqu'à la hauteur des prestations réglementaires sur la base des bonifications sans intérêt (le calcul prendra en compte les éventuels comptes ou polices de libre passage existants, ainsi que les avoirs du troisième pilier excédant le montant maximum pour les salariés).
Les prestations résultant d'un rachat ne peuvent être payées sous forme de capital avant l'échéance d'un délai de 3 ans.
Les rachats effectués en cas de divorce ne sont pas soumis à limitation.
Lorsque des versements anticipés pour l'acquisition du propre logement ont été accordés, des rachats facultatifs ne seront autorisés que lorsque les dits versements auront été remboursés.
La somme de rachat annuelle versée par les personnes vivant à l'étranger qui n'ont jamais été affiliées à une institution de prévoyance en Suisse ne doit pas dépasser, pendant les cinq années qui suivent leur arrivée en Suisse, 20 % du salaire assuré.
La Fondation B._ pourra autoriser des versements supplémentaires en sus du rachat réglementaire tel que décrit ci-dessus dans le but de permettre une prise de retraite anticipée, selon les prescriptions de l'article 4 (recte: de l'article 5).
Si l'assuré renonce à sa demande anticipée, le financement de l'avoir de vieillesse est interrompu le premier jour de l'ajournement de la retraite anticipée. En aucun cas, les prestations de vieillesse ne dépasseront de plus de 5 % l'objectif réglementaire des prestations."
4.
4.1. La juridiction cantonale a constaté tout d'abord que le règlement de prévoyance prévoyait la possibilité de procéder à un rachat supplémentaire en vue de compenser la réduction des prestations de vieillesse en cas de retraite anticipée dès l'âge de 58 ans révolus. La Fondation B._ n'avait en revanche introduit dans son règlement aucune liste de critères relatifs aux rachats au titre de la retraite anticipée. Elle n'avait pas non plus établi de directives internes en matière de rachat, singulièrement en matière de rachat en cas de retraite anticipée. Par conséquent, la seule limite existant était celle qui résultait des art. 1b al. 2 OPP 2 et 16 par. 7 du règlement de prévoyance, soit que l'objectif réglementaire des prestations ne pouvait pas être dépassé de plus de 5 %. En décidant d'intégrer dans son règlement la possibilité de procéder à des rachats en cas de retraite anticipée, le Conseil de fondation de la Fondation B._ avait expressément accepté de couvrir toutes les éventualités qui pouvaient se présenter, aussi peu probables qu'elles fussent.
4.2. La juridiction cantonale a ensuite examiné si l'assuré avait respecté les incombances formelles prévues par le règlement de prévoyance. En premier lieu, elle a constaté que la Fondation B._ n'avait à aucun moment remis en cause le droit de l'assuré à pouvoir bénéficier d'une retraite anticipée dès le 1er juillet 2016, à condition que les prestations fussent calculées sans prise en compte des rachats supplémentaires. La juridiction cantonale a constaté en deuxième lieu que l'assuré n'avait pas adressé une demande écrite en vue d'un rachat au titre de sa retraite anticipée (conformément à l'art. 16 par. 6 du règlement, en corrélation avec son art. 5 al. 1 2ème phrase). Elle a retenu que l'assuré semblait n'avoir de plus pas cherché à communiquer la véritable destination des versements effectués afin d'éviter tout contrôle et tout questionnement. Quoi qu'il en soit, elle a jugé que l'omission d'une annonce écrite constituait une violation du règlement de prévoyance entraînant la nullité des rachats effectués. Elle a dès lors ordonné à la Fondation B._ de retourner le montant de 37'242 fr. 67 à la Fondation prévoyance 3ème pilier Banque Cler SA, majoré d'un intérêt fixé selon le taux minimal prévu à l'art. 12 OPP 2 depuis le 19 avril 2016.
4.3. En ce qui concerne la demande reconventionnelle déposée par la Fondation B._, la juridiction cantonale a retenu que A._ avait perçu indûment un montant de 51'081 fr. 50, dès lors qu'il n'avait pas été habilité à procéder à des rachats au titre de la retraite anticipée. En sa qualité de directeur de la Fondation B._, l'assuré ne pouvait pas opposer sa bonne foi. Il ne pouvait en effet ignorer les exigences formelles auxquelles étaient tenus de se soumettre les assurés qui entendaient procéder à des rachats au titre de la retraite anticipée. Compte tenu de sa position, afin d'éviter toute équivoque, il aurait dû exposer de manière transparente son souhait de procéder à des rachats. Or l'absence d'informations claires données à ses collaborateurs démontrait selon les premiers juges qu'il n'avait eu nulle envie que les conditions du rachat fussent examinées dans le détail. Compte tenu des objectifs de maintien de la couverture de prévoyance et de la jurisprudence (cf. <ref-ruling> consid. 7.5 p. 247), la juridiction cantonale a retenu que la compensation de la créance en restitution ne pouvait en revanche s'opérer qu'au fur et à mesure de l'exigibilité des prestations mensuelles. Elle a dès lors ordonné à la Fondation B._ de transférer la somme de 51'081 fr. 50 à la CIEPP, plus intérêts.
5.
5.1. Dans un grief qu'il convient d'examiner en premier, le recourant se plaint d'une violation de son droit d'être entendu (art. 29 al. 2 Cst.). Il soutient que si la juridiction cantonale envisageait de se prévaloir de la théorie de la nullité, elle devait préalablement interpeller les parties. Il fait valoir qu'il n'avait aucune raison, même avec toute la diligence requise, de se déterminer et de produire des pièces à ce sujet.
5.2. Le droit d'être entendu garanti par l'art. 29 al. 2 Cst. se rapporte en principe à la constatation des faits. De manière générale, en vertu de la règle "jura novit curia", le juge n'a pas à soumettre à la discussion des parties les principes juridiques sur lesquels il va fonder son jugement. Il peut appliquer d'office une disposition de droit matériel, sans avoir à attirer préalablement l'attention des parties sur l'existence de tel ou tel problème juridique. A titre exceptionnel, il convient d'interpeller les parties lorsque le juge s'apprête à fonder sa décision sur une norme ou un principe juridique non évoqué au cours de la procédure et dont aucune des parties en présence ne s'est prévalue et ne pouvait supputer la pertinence (<ref-ruling> consid. 4.1 p. 170 et les références; voir ég. <ref-ruling> consid. 3.1 p. 108).
5.3. En l'espèce, le recourant plaide en vain que l'autorité précédente aurait dû lui soumettre par avance, pour prise de position, le raisonnement juridique qu'elle entendait tenir. Dans ses différentes écritures déposées en instance cantonale, la Fondation B._ a soutenu qu'il ne lui était pas possible d'autoriser les versements des 19 avril et 2 juin 2016 avec effet rétroactif car ceux-ci violaient la loi et son règlement de prévoyance. Il était donc évident que l'autorité précédente examinerait les conditions auxquelles un versement anticipé pouvait être effectué et les conséquences de l'éventuel non-respect de celles-ci, dont l'absence d'"autorisation" par la Fondation B._ ou le défaut de déclaration de la part de l'assuré. La nullité, en tant qu'un des effets envisageables de l'absence de certaines exigences, entrait également en considération. Le recourant pouvait et devait donc s'attendre à ce que la juridiction cantonale examinât également la nullité des versements en cause. Par conséquent, même si elle ne l'a pas spécifiquement interpellé à ce sujet, la juridiction cantonale n'a pas violé le droit d'être entendu du recourant.
L'autorité précédente s'est de plus fondée sur des faits établis par des moyens de preuve sur lesquels les parties ont largement pu s'exprimer au cours de la procédure cantonale. Le recourant avait donc tout loisir de produire les pièces qu'il estimait utiles à la défense de ses intérêts. Les pièces nouvelles, produites pour la première fois devant le Tribunal fédéral en lien avec la violation alléguée de son droit d'être entendu, ne peuvent par conséquent pas être prises en considération (<ref-law>; <ref-ruling> consid. 1.2 p. 22; <ref-ruling> consid. 4.4.3 p. 128).
6.
6.1. Invoquant une violation de la maxime inquisitoire (<ref-law>) et des art. 18 et 20 CO, ainsi que de la protection de la bonne foi (art. 9 Cst.), le recourant reproche à la juridiction cantonale d'avoir confirmé de manière arbitraire que la Fondation B._ était en droit de lui "retourner" les montants de 37'242 fr. 67 et de 21'609 fr. 80. Il soutient qu'une interprétation objective du règlement de prévoyance selon le principe de la confiance devait conduire la juridiction cantonale à retenir que l'exigence de la forme écrite était une simple prescription d'ordre, dont l'inobservation ne pouvait nullement entrainer la nullité des rachats. A tout le moins, il fait valoir que la cause devrait être renvoyée à l'autorité précédente pour qu'elle recherche le véritable sens des prescriptions de l'art. 5 du règlement et procède à l'audition de l'expert en matière de prévoyance professionnelle qui a rédigé les modifications de cette disposition ainsi que les personnes chargées de l'appliquer. Par surabondance, si la prescription d'une demande écrite préalable aux rachats devait consister en une véritable incombance formelle dont l'inobservation entraînerait la nullité absolue des rachats, il demande à ce que cette clause soit qualifiée d'ambiguë et d'insolite.
6.2. Dans sa réponse, l'intimée soutient que son règlement de prévoyance prévoit très clairement que l'assuré qui souhaite procéder à des rachats supplémentaires en vue d'une retraite anticipée doit adresser une demande écrite. Le fait que l'absence de demande écrite pour des rachats en cours de retraite anticipée a pour conséquence juridique leur nullité ne prêterait pas à discussion. En effet, une telle conséquence découlerait tant du principe de la confiance que du contexte dans lequel les dispositions réglementaires concernées ont été adoptées.
7.
Il n'est pas contesté entre les parties que l'art. 16 par. 6, en lien avec l'art. 5 ch. 1 du règlement de prévoyance, prévoit que l'assuré doit faire par écrit une demande de rachats supplémentaires dans le but de compenser totalement ou partiellement la réduction des prestations de vieillesse en cas de retraite anticipée. Elles ne s'accordent en revanche pas sur les effets du défaut d'une telle déclaration. Or, contrairement à ce que prétend le recourant, cette exigence n'est pas une simple prescription d'ordre, dont l'inobservation n'entraînerait aucune conséquence juridique.
7.1. Le calcul du rachat - rachat de la totalité des prestations réglementaires au sens de l'<ref-law> ou rachat au sens de l'art. 1b OPP 2 - doit se fonder sur les mêmes principes professionnellement reconnus que la détermination du plan de prévoyance (art. 60a al. 1 OPP 2, en lien avec les art. 1 al. 3 et 79b al. 1 LPP). Tant le financement que la mise en oeuvre des possibilités de rachat doivent par conséquent être fixés à l'avance dans les statuts ou le règlement (arrêt 2A.45/2003 du 29 juillet 2004 consid. 4.3, StR 60/2005 p. 32) selon des critères schématiques et objectifs et respecter les principes d'adéquation, de collectivité (solidarité), d'égalité de traitement, de planification ainsi que d'assurance (art. 1 al. 3 et 49 al. 2 ch. 1 LPP et art. 1 à 1h OPP 2; arrêt 2C_745/2016 du 6 février 2017 consid. 5.2).
Conformément à l'art. 1b al. 2 OPP 2, les institutions de prévoyance qui autorisent les rachats en prévision d'une retraite anticipée selon l'al. 1 doivent en particulier concevoir leur plan de prévoyance de telle façon que, si l'assuré renonce à une retraite anticipée, les prestations versées ne dépassent pas de plus de 5 % l'objectif réglementaire des prestations. Le concept d'objectif réglementaire doit être interprété au sens de l'art. 1b al. 2 OPP 2 en lien avec le concept de prestations réglementaires au sens de l'art. 1 al. 2 OPP 2. Le principe du modèle de calcul (cf. art. 1 al. 2 OPP 2) est valable également pour le calcul de l'objectif réglementaire des prestations. Cela signifie que le plan de prévoyance (en tant que modélisation a priori) est à concevoir de façon que la limite de 5 % ne soit pas dépassée en cas de renoncement à la retraite anticipée. A posteriori, il peut y avoir dans des cas particuliers un écart par rapport à la modélisation (à ce sujet, voir OFAS, ch. 501 du bulletin n° 86 de la prévoyance professionnelle du 31 octobre 2005, réponses n° 10; cf. aussi JACQUES-ANDRÉ SCHNEIDER, in Schneider/Geiser/Gächter, LPP et LFLP, 2ème éd. 2020, p. 17 n° 61 ad <ref-law>). Il s'agit d'éviter la surassurance et le dépassement des limites fixées par le principe d'adéquation (OFAS, bulletin n° 83 de la prévoyance professionnelle du 16 juin 2005, commentaire ad modifications de l'OPP 2, p. 13).
7.2. Dans la mesure où les possibilités de rachat en prévision d'une retraite anticipée ne résultent pas de la LPP, mais du règlement de prévoyance, la façon dont les institutions de prévoyance envisagent de respecter l'objectif réglementaire des prestations, et donc la limite de 5 % (au sens de l'art. 1b al. 2 OPP 2), relève de leur autonomie. Les institutions de prévoyance sont donc relativement libres dans le choix des mesures qu'elles sont tenues de prendre et bénéficient d'une large marge d'appréciation. Cela ne signifie toutefois pas qu'elles pourraient se borner à rappeler la limite de 5 % dans leur règlement, puis de renvoyer, comme semble le croire le recourant, à un examen a posteriorien cas de renoncement à la retraite anticipée. Lorsque des dispositions prescrivent que les prestations doivent, selon le modèle de calcul, remplir certaines conditions, l'institution de prévoyance est responsable d'élaborer a priori un plan de prévoyance tel que les prestations projetées qui en découlent concrètement pour un assuré, calculées théoriquement sur la base de cas d'assurance modélisés, remplissent lesdites conditions (OFAS, ch. 501 du bulletin n° 86 précité, réponse n° 5).
7.3. En l'espèce, l'institution de prévoyance intimée a précisé dans son règlement que l'assuré doit faire une demande écrite en vue de procéder à des versements supplémentaires dans le but de permettre une prise de retraite anticipée. Elle a par ailleurs subordonné ces versements à une "autorisation" de sa part (art. 16 par. 6, en lien avec l'art. 5 ch. 1 du règlement). Interrogés lors de l'audience d'instruction du 13 mars 2019, les deux gestionnaires de la Fondation B._, E._ et F._, ont indiqué qu'ils ne disposaient pas de directive interne sur la manière de mettre en oeuvre la possibilité de rachat en cas de retraite anticipée. En relation avec les rachats de prestations réglementaires (au sens de l'<ref-law>), les gestionnaires de la Fondation B._ ont relevé qu'il leur appartenait en cas de demande de remettre un questionnaire à la personne concernée afin qu'ils soient en mesure de procéder à l'examen du potentiel de rachat puis de lui confirmer le montant du rachat possible. La condition d'une demande écrite permet donc à la Fondation B._ de s'assurer effectivement que les prestations projetées en cas de retraite anticipée, calculées théoriquement sur la base de principes professionnellement reconnus, ne dépassent pas la limite de l'objectif réglementaire de plus de 5 % (au sens de l'art. 1b al. 2 OPP 2). Cette exigence n'est donc pas une simple prescription de forme, et encore moins une clause ambiguë ou insolite (consid. 2.2 supra), mais un élément essentiel au respect des prescriptions légales et réglementaires impératives. L'argumentation contraire du recourant doit ainsi être rejetée.
8.
Il reste à examiner les conséquences du non-respect par le recourant de l'exigence d'une demande écrite préalable.
8.1. Comme le rappelle le recourant, le règlement ne prévoit pas les effets du non-respect des prescriptions de son art. 5 ch. 1. Il subordonne néanmoins à l'exigence d'une demande écrite les possibilités de versements supplémentaires dans le but de permettre une prise de retraite anticipée. Pour faire usage de la faculté conférée par l'art. 16 par. 6 du règlement de prévoyance, la personne concernée doit donc procéder à une déclaration de volonté sujette à réception. Cette demande doit être interprétée en conformité avec les règles déduites de l'<ref-law> (consid. 2.2), qui valent aussi pour l'interprétation des actes unilatéraux (arrêt 4C.383/2006 du 27 février 2007 consid. 3.2). L'acceptation de la déclaration par l'institution de prévoyance concernant les rachats résulte des termes de la disposition réglementaire en cause selon lesquels la "Fondation B._ pourra autoriser des versements supplémentaires". Même si, comme l'a retenu la juridiction cantonale, l'intimée n'a pas un pouvoir d'appréciation pour décider selon son libre arbitre de permettre ou non les rachats, elle doit cependant être avertie à l'avance par l'affilié de sa volonté d'effectuer des versements, afin d'en vérifier la conformité aux dispositions légales et réglementaires.
8.2. En affirmant qu'il était "incontesté" que la Fondation B._ savait que les rachats avaient eu lieu au titre de sa retraite anticipée et que la nature des versements était "claire pour tout le monde", le recourant se limite en l'espèce à substituer son appréciation de la situation à celle des premiers juges, sans discuter les différents éléments qui ont fondé leur appréciation des premiers juges. Cette manière de procéder relève d'une argumentation purement appellatoire (art. 42 al. 1 et 2 et 106 al. 2 LTF). Elle ne permet en particulier nullement de déceler, même succinctement, en quoi les premiers juges auraient retenu de manière arbitraire que le recourant n'avait pas donné d'informations claires à la Fondation B._ sur les motifs des versements car il était parfaitement conscient que l'importance des rachats opérés lui permettrait d'obtenir une amélioration substantielle de ses prestations de vieillesse (rente de 70'447 fr. 20 par année) par rapport à celles auxquelles il aurait pu prétendre s'il s'en était tenu aux dispositions légales et réglementaires (rente de 61'478 fr. 60 par année; cf. certificat de prévoyance du 31 décembre 2015). En l'absence d'une critique suffisamment motivée du jugement attaqué, il n'y a pas lieu de s'écarter de ces constatations.
Au demeurant, l'appréciation des premiers juges ne relève pas de l'arbitraire. Il ressort des différents témoignages des gestionnaires de la Fondation B._ que le recourant n'avait pas donné d'informations claires sur les motifs des versements. Il n'a pas non plus averti l'intimée de sa volonté d'effectuer des rachats en lien avec la retraite anticipée, qu'il avait annoncée à la direction de C._. Lors de l'audience d'instruction du 13 mars 2019, F._ a en effet indiqué qu'il ne se rappelait pas que le recourant l'avait informé de son souhait de procéder à des rachats pour retraite anticipée, tandis que E._ a relevé qu'il ne leur avait pas expliqué à quoi étaient destinés ces montants. Après avoir reçu le courrier de la Fondation B._ du 3 janvier 2017, qui constatait que le droit à des rachats ordinaires était épuisé depuis 2015, le recourant a par ailleurs mentionné expressément "qu'il y a certains éléments de ce dossier qui vous manquent", puis précisé pour la première fois par écrit qu'il avait effectué des rachats supplémentaires dans le but de compenser totalement ou partiellement la réduction des prestations de vieillesse en cas de versement anticipé (correspondance du 30 janvier 2017). Le recourant était donc conscient que la Fondation B._ ignorait sa volonté interne et, donc, le motif de ses versements des 15 mars 2016, 19 avril 2016 et 2 juin 2016.
8.3. Il n'y a enfin pas lieu de suivre l'argumentation du recourant selon laquelle l'inscription par la Fondation B._ des montants de 37'242 fr. 67 et de 21'609 fr. 80 sur son compte individuel de prévoyance suffisait à démontrer selon le principe de la confiance que l'intimée les avait compris et acceptés. Lors de son audition, E._, qui a procédé à l'inscription de ces montants, a déclaré que c'était le recourant qui lui avait indiqué de les comptabiliser et que "nous étions partis du principe que c'était en ordre". Or, de par sa fonction de directeur de la Fondation B._, le recourant devait s'abstenir de participer aux préparatifs des décisions le concernant en tant que futur retraité, afin d'éviter un conflit d'intérêts (cf. <ref-law>). A cet égard, les premiers juges ont constaté en fait, de manière à lier le Tribunal fédéral, que le recourant était parfaitement conscient que les montants du rachat lui permettraient d'obtenir une amélioration substantielle de ses prestations par rapport à celles auxquelles il aurait pu prétendre s'il s'en était tenu aux dispositions de la loi et du règlement de prévoyance et qu'il est néanmoins intervenu directement pour obtenir leur comptabilisation sur son compte individuel de prévoyance. Par conséquent, il ne saurait invoquer la situation de fait qu'il a lui-même créée.
On ajoutera encore que le décompte du 25 juillet 2016, signé par le directeur de la Fondation B._ qui est entré en fonction le 1er juillet 2016, ne fait nullement mention des rachats. Lors de son audition, E._ a de plus indiqué qu'il n'avait pas informé le nouveau directeur de l'existence de ces rachats. On ne saurait dès lors déduire de ce document - ni du versement des rentes en découlant - une acceptation tacite, de la part l'intimée, d'une déclaration par acte concluant des rachats effectués.
8.4. Ensuite des éléments qui précèdent, il apparaît que le recourant n'a pas procédé à la déclaration de volonté exigée par le règlement de prévoyance selon laquelle il entendait procéder à des rachats supplémentaires dans le but de compenser totalement ou partiellement la réduction des prestations de vieillesse en cas de versement anticipé. Ce défaut ne peut pas être réparé par le juge après la survenance du cas de prévoyance vieillesse. Dès lors que les rachats en cause avaient pour but d'améliorer les prestations de vieillesse en cas de retraite anticipée, la déclaration y relative devait parvenir valablement à l'institution de prévoyance avant la survenance du risque vieillesse. La couverture d'assurance ne peut pas être améliorée après que le risque est déjà réalisé au regard du principe fondamental en matière d'assurances selon lequel un risque déjà survenu n'a pas à être couvert par une assurance (<ref-ruling> consid. 2b p. 266). Les contributions versées par le recourant de sa propre initiative à l'intimée et qui ne satisfont pas aux exigences réglementaires auxquelles était subordonné leur exercice conformément aux principes de la prévoyance professionnelle sont par conséquent inefficaces et dénuées d'effet. Aussi, la juridiction cantonale a constaté à juste titre que les montants de 37'242 fr. 67 et de 21'609 fr. 80 devaient être restitués aux fondations bancaires 3a concernées.
9.
En l'absence de griefs relatifs au montant concret des rentes auxquelles le recourant peut prétendre et aux autres points sur lesquels la juridiction cantonale devait statuer, il n'appartient pas au Tribunal fédéral de se prononcer d'office à ce sujet. En particulier, le recourant ne prétend pas que le montant des prestations de vieillesse reconnues et versées (cf. décompte rectificatif du 26 avril 2017) par l'intimée ne correspondrait pas à celui des rentes réglementaires (sans tenir compte des versements anticipés jusqu'alors litigieux).
Mal fondé, le recours doit être rejeté.
10.
Le recourant supportera les frais de procédure (<ref-law>). L'intimée, en sa qualité d'institution de prévoyance, n'a pas droit à des dépens (<ref-law>; arrêt 9C_2/2012 du 30 août 2012 consid. 7, non publié aux <ref-ruling>). Elle n'établit en effet pas que le recourant aurait procédé devant le Tribunal fédéral de manière téméraire, abusive ou quérulente (au sens de l'<ref-law>; CORBOZ, Commentaire de la LTF, 2ème éd. 2014, n° 30 ad <ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 27 novembre 2020
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président : Parrino
Le Greffier : Bleicker