Faits:
A. S._, né en 1960, célibataire, travaillait depuis 1990 comme employé d'exploitation au service des Chemins de fer fédéraux suisses (CFF). Il a été admis avec effet au 1er février 1990 à la Caisse de pensions et de secours des Chemins de fer fédéraux suisses devenue, à partir du 1er janvier 1999, la Caisse de pensions des CFF (ci-après: la caisse de pensions).
En 1997, son médecin traitant l'a adressé au Centre hospitalier Z._ en raison de l'apparition d'un oedème du mollet droit lié à des symptômes tels que sentiments de tension et douleurs à la mobilisation. Lors des investigations, un anévrisme artériel poplité droit a été découvert et exclu chirurgicalement par la confection d'un pontage, afin d'éliminer les risques de rupture spontanée et d'embolisation artério-artérielle. Une année plus tard, le premier pontage s'étant fermé, un deuxième pontage, synthétique cette fois, a dû être confectionné. En 1999, ce dernier pontage a dû être prolongé, en raison de l'apparition d'une dilatation anévrismale de son anastomose distale. On a craint l'éventualité d'une amputation si les complications se multipliaient, mais la situation s'est stabilisée par la suite. Les diverses récidives ont été attribuées à des activités professionnelles inadaptées.
S._ a été totalement incapable de travailler à partir du 5 mai 1998. Avec l'autorisation de son médecin traitant, le docteur J._, il a repris le travail le 18 novembre 1998 à 50 pour cent. Son employeur lui a attribué un travail léger de comptage. Très vite, l'intéressé a ressenti de violentes douleurs et sa jambe droite a présenté une enflure conséquente. Les 19, 20 et 23 novembre 1998, des travaux très légers lui ont été confiés, tels que le timbrage de catalogues et la mise en place de prospectus. Les douleurs n'ont pas diminué et le docteur J._ a prescrit un nouvel arrêt de travail à partir du 24 novembre 1998. Tant le médecin traitant que le service médical des CFF ont émis un pronostic pessimiste quant à l'évolution du cas et ils ont exprimé l'avis qu'il n'existait plus de possibilité de réadaptation de l'intéressé au sein de l'entreprise des CFF.
Le 12 avril 2000, les CFF ont informé l'employé qu'il serait mis au bénéfice d'une pension d'invalidité complète à partir du 31 mai 2000. Les rapports de travail ont été résiliés à la même date.
En plus d'une pension d'invalidité, la caisse de pensions a versé à son affilié un supplément fixe correspondant à 75 pour cent de la rente AVS simple maximale.
B. Auparavant, le 11 septembre 1998, S._ avait présenté une demande de prestations de l'assurance-invalidité sous la forme d'un reclassement dans une nouvelle profession et d'une rente. Par décision du 27 mars 2002, l'Office de l'assurance-invalidité pour le canton de Vaud a refusé de lui accorder une rente. L'office a considéré que dans des activités adaptées (activités relativement statiques), en position assise ou debout, le requérant serait en mesure d'exercer, moyennant une période de formation, des activités d'opérateur sur machines-outils, de montage et de contrôle en milieu industriel ou de tri du courrier à la poste. Dans de telles activités, il serait à même de réaliser un revenu annuel de 58'768 fr. Comparé à un revenu sans invalidité de 66'926 fr. par an, il en résultait un degré d'invalidité de 12,18 pour cent, insuffisant pour ouvrir droit à une rente. S._ a communiqué une copie de cette décision à la caisse de pensions, laquelle s'est procuré le dossier de l'assurance-invalidité le concernant.
C. Le 29 juillet 2002, la caisse de pensions a informé S._ qu'elle supprimait avec effet au 1er août 2002 le supplément fixe qu'il percevait jusqu'alors. Elle lui a réclamé, en outre, la restitution du supplément, perçu selon elle indûment, pour la période du 1er juin 2000 au 31 juillet 2002, par 45'857 fr. 50 (26 x 1'763 fr. 75). L'affilié était en outre redevable d'un intérêt de 4,25 pour cent pour la même période, soit 2'429 fr. 10. Au total, le montant à restituer s'élevait à 48'286 fr. 60 (45'857 fr. 50 + 2'429 fr. 10). La caisse de pensions motivait cette mesure par le fait que l'assuré avait déclaré, lors d'un entretien avec un responsable de la division de réadaptation de l'office AI, ne plus pouvoir reprendre d'activité professionnelle, même adaptée. Elle invoquait l'art. 40 de son règlement, selon lequel elle était en droit de réduire ou de refuser le paiement du supplément fixe si le bénéficiaire d'une pension d'invalidité s'opposait aux mesures de réadaptation de l'AI.
D. Le 10 février 2003, S._ a ouvert action en concluant au paiement par la caisse de pensions du supplément fixe dès et y compris le 1er août 2002, avec intérêts à 5 pour cent l'an pour chacune des échéances, à hauteur de 1'763 fr. 75 par mois. Il demandait en outre au tribunal de dire qu'il ne devait pas restituer le montant de 48'286 fr. 60.
La caisse de pensions a conclu au rejet de la demande et, reconventionnellement, au paiement des suppléments fixes perçus du 1er juin 2000 au 31 juillet 2002, par 45'857 fr. 50.
Statuant le 29 juin 2005, le Tribunal des assurances du canton de Vaud a rejeté la demande de S._ et il a condamné celui-ci à restituer à la caisse de pensions la somme de 45'857 fr. 50. Il a donné acte au demandeur de la renonciation de la défenderesse à la perception d'intérêts moratoires.
E. S._ interjette un recours de droit administratif en concluant à la réforme du jugement cantonal en ce sens qu'il a droit au maintien du paiement du supplément fixe (ou rente complémentaire d'invalidité) et qu'il ne doit pas le montant de 45'857 fr. 50. Subsidiairement, il demande au tribunal de dire qu'il n'est pas tenu de rembourser ce montant. Subsidiairement encore, il conclut à l'annulation du jugement attaqué.
La caisse de pensions conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il renonce à se déterminer.
Considérant en droit:
1. Dans le passé, la prévoyance du personnel des CFF était réglée par des statuts adoptés par le Conseil d'administration des CFF et approuvés par l'Assemblée fédérale. La dernière version des statuts mise en vigueur selon cette procédure a été adoptée par le Conseil d'administration des CFF le 18 août 1994 et approuvée par l'Assemblée fédérale le 15 décembre 1994 (RO 1995 561). Ces statuts faisaient partie du droit public de la Confédération, au même titre que les statuts de la Caisse fédérale de pensions (ATF 109 Ib 85 consid. 3).
Par la suite, la caisse de pensions a été transformée en une fondation de droit privé. Les statuts ont été remplacés par le règlement de la Caisse de pensions des CFF (CP CFF), adopté par le Conseil de fondation et entré en vigueur le 1er janvier 1999 (ci-après: règlement 1999). Un nouveau règlement, abrogeant le précédent, a été adopté par le Conseil de fondation le 29 juin 2000; il est entré en vigueur le 1er janvier 2001 (ci-après: règlement 2001).
2. 2.1 Selon l'art. 38 al. 1 du règlement 1999 - applicable au moment où le recourant a été mis au bénéfice d'une pension d'invalidité - l'affilié qui, de l'avis du service médical, est devenu incapable d'exercer ses fonctions ou d'autres fonctions pouvant raisonnablement être exigées de lui (invalidité) a droit à une pension d'invalidité si ses rapports de service ou de travail sont résiliés de ce chef par l'employeur. La pension d'invalidité s'élève à 60 pour cent du gain assuré au moment où les rapports de service ou de travail ont été résiliés ou modifiés pour cause d'invalidité; lorsque l'assuré n'aurait pas eu 40 ans d'assurance à 65 ans révolus, la pension d'invalidité est réduite selon des taux actuariels publiés par la caisse de pensions (art. 39 du règlement 1999).
Sous le titre «Supplément fixe », l'art. 40 du règlement 1999 a la teneur suivante:
1 A droit au supplément fixe le bénéficiaire d'une pension d'invalidité au sens du présent règlement, qui n'a pas droit à une rente complète d'invalidité ni à une indemnité journalière selon la LAI. Le supplément fixe s'élève:
a. pour l'assuré non marié, à 75 pour cent de la rente AVS simple maximale, lorsqu'il n'a pas droit à une rente AVS ou à une rente AI entière;
b. pour l'assuré marié:
1. à 97,5 pour cent de la rente AVS simple maximale, lorsque ni l'assuré ni son conjoint n'ont droit à une rente AVS ou AI;
2. à 37,5 pour cent de la rente AVS simple maximale, lorsque le conjoint a droit à une rente AVS ou à une rente AI entière; lorsque la rente AVS et AI du conjoint est inférieure à 75 pour cent de la rente AVS simple maximale de vieillesse, le supplément fixe peut être relevé jusqu'à ce que les deux prestations fassent ensemble 112,5 pour cent de la rente AVS simple maximale;
3. à 22,5 pour cent de la rente AVS simple maximale lorsque l'assuré a droit à une rente AVS ou à une rente AI entière, sans supplément pour le conjoint;
4. à 15,0 pour cent lorsque l'assuré a droit à une rente AVS avec supplément pour le conjoint.
2 Si l'assuré ou son conjoint touche une demi-rente ou un quart de rente AI, le droit au supplément fixe est réduit en proportion.
3 Le supplément fixe est réduit lorsque l'affilié:
a. n'aurait pas atteint 40 années d'assurance à 65 ans révolus; la réduction s'élève à un quarantième pour chaque année d'assurance qui fait défaut;
b. est occupé à temps partiel.
4 Le supplément fixe peut être réduit ou refusé si le bénéficiaire d'une pension d'invalidité s'oppose aux mesures de réadaptation prévues à l'article 31 de la LAI, si lui-même ne fait pas valoir ses droits aux prestations prévues par la LAI, ou si son conjoint n'invoque pas ses droits aux rentes AI ou AVS.
2.2 Le règlement 2001 ne prévoit plus de supplément fixe, mais une pension complémentaire d'invalidité dont les conditions d'obtention et les modalités de calcul sont fixées à l'art. 23. Cette disposition a la teneur suivante:
1 Les affiliés invalides ont droit à une pension complémentaire d'invalidité dans la mesure où ils ne sont pas au bénéfice d'une rente complète de l'AI. Le début du droit dépend de la pension d'invalidité de la Caisse de pensions. Le droit à la pension cesse avec le décès de l'assuré ou lorsqu'il atteint l'âge ordinaire de l'AVS.
2 Le montant de la pension complémentaire d'invalidité correspond par année d'assurance imputable et future à 2 1/4 % de la rente de vieillesse complète maximale de l'AVS, au maximum toutefois à 90 % de la rente de vieillesse maximale complète de l'AVS. Pour les bénéficiaires d'une rente partielle de l'AI, la pension complémentaire d'invalidité est réduite par le pourcentage de la rente partielle de l'AI. Pour les collaborateurs à temps partiel la pension complémentaire d'invalidité est pondérée avec le degré d'occupation.
3 En cas d'invalidité partielle, le montant calculé en application de l'alinéa 2 est pondéré avec le degré d'invalidité.
2.3 L'art. 50 du règlement 2001 contient une réglementation transitoire selon laquelle l'entrée en vigueur de ce règlement n'a aucune incidence sur les pensions en cours (al. 1). Cependant, en dérogation à cette règle, le règlement 2001 est applicable aux pensions transitoires (art. 16) et aux pensions complémentaires d'invalidité (art. 23). Toutefois, le montant en francs de la pension servie au 31 décembre 2000 est garanti dans tous les cas, des déductions à la suite d'une surindemnisation restent réservées (al. 2).
Il résulte de cette réglementation transitoire que les anciens suppléments fixes sont transformés en pensions complémentaires et qu'ils sont calculés selon le nouveau règlement.
Il y a lieu d'examiner la question du règlement applicable ratione temporis. Le texte de l'art. 50 al. 2 deuxième phrase du règlement 2001 parle de « pension » et non de supplément. Mais il prévoit que le montant en francs servi jusqu'au 31 décembre 2000 est garanti dans tous les cas. Dès lors, on peut penser qu'il s'agit aussi du supplément fixe, qui est mentionné dans la première phrase, au même alinéa, et que l'assuré continue à bénéficier du montant exprimé en francs du supplément, si celui-ci est supérieur à la pension complémentaire d'invalidité, ce qui est le cas en l'espèce. C'est du reste ainsi que la caisse intimée interprète la disposition transitoire en cause, puisqu'elle a continué à verser au recourant sans changement le supplément fixe de 1'763 fr. 75 après le 1er janvier 2001.
La question est donc de savoir si l'assuré avait droit à un supplément fixe au regard du règlement de 1999. Dans l'affirmative, il continue à avoir droit sans changement au montant correspondant au supplément fixe, après l'entrée en vigueur du règlement 2001.
3. 3.1 Les premiers juges et l'intimée interprètent l'art. 40 du règlement 1999 en ce sens que le supplément fixe est nécessairement lié au versement d'une rente de l'assurance-invalidité (un quart de rente au moins). Si l'affilié ne touche pas de rente de l'assurance-invalidité, il n'a pas droit au supplément fixe, car il est censé disposer d'une capacité résiduelle de gain suffisante pour exclure le versement d'un supplément. Dans le cas particulier, l'assuré s'est vu refuser le droit à une rente de l'assurance-invalidité, décision contre laquelle il n'a pas recouru. Dès lors, toujours selon la juridiction cantonale et l'intimée, le supplément fixe a été versé à tort. La défenderesse était en droit non seulement de le supprimer, mais également de réclamer la restitution des montants déjà versés à ce titre.
3.2 Cette interprétation ne résiste pas à l'examen.
3.2.1 S'agissant, comme en l'espèce, d'une contestation qui relève de la prévoyance professionnelle plus étendue et qui oppose un affilié à une institution de prévoyance de droit privé, les employés assurés sont liés à l'institution par un contrat innommé (sui generis) dit de prévoyance. Le règlement de prévoyance est le contenu préformé de ce contrat, savoir ses conditions générales, auxquelles l'assuré se soumet expressément ou par actes concluants. Il doit ainsi être interprété selon les règles générales sur l'interprétation des contrats. Il y a lieu de rechercher, tout d'abord, la réelle et commune intention des parties (art. 18 al. 1 CO), ce qui, en matière de prévoyance professionnelle, vaut surtout pour les conventions contractuelles particulières (ATF 129 V 147 consid. 3.1). Lorsque cette intention ne peut être établie, il faut tenter de découvrir la volonté présumée des parties en interprétant leurs déclarations selon le sens que le destinataire de celles-ci pouvait et devait raisonnablement leur donner selon les règles de la bonne foi (principe de la confiance). L'interprétation en application de ce principe, dite objective ou normative, consiste à établir le sens que, d'après les règles de la bonne foi, chacune des parties pouvait et devait raisonnablement prêter aux déclarations de volonté de l'autre. Pour ce faire, il convient de partir du texte du contrat (ou du règlement) avant de l'examiner dans son contexte; dans ce dernier cas, toutes les circonstances ayant précédé ou accompagné sa conclusion doivent être prises en considération (ATF 122 III 108 consid. 5a, 424 consid. 3a, 121 III 123 consid. 4b/aa, 119 II 451 consid. 3a).
3.2.2 En l'espèce, il convient de constater, tout d'abord, que le texte de l'art. 40 du règlement 1999 envisage explicitement l'éventualité où l'assuré a droit à un supplément fixe, nonobstant le fait qu'il ne bénéficie pas d'une rente de l'assurance-invalidité (al. 1 let. b ch. 1). L'analyse purement textuelle ne va donc pas dans le sens de l'interprétation retenue par les premiers juges. En outre, l'alinéa 4 de la même disposition prévoit la possibilité d'une réduction ou d'une suppression du supplément fixe si le bénéficiaire d'une pension d'invalidité ne fait pas valoir un droit à une rente de l'assurance-invalidité. Cette disposition n'aurait pas de raison d'être si l'on suivait l'opinion des premiers juges: par principe, l'assuré qui ne s'annonce pas à l'assurance-invalidité n'a pas droit à une rente (voir l'ancien art. 46 LAI et l'art. 29 al. 1 LPGA).
3.2.3 Dans un contexte plus général, l'art. 40 du règlement doit être mis en relation avec l'art. 38, qui reconnaît le droit à une pension d'invalidité à l'affilié qui n'est plus capable d'exercer ses fonctions ou d'autres fonctions raisonnablement exigibles et dont les rapports de service sont résiliés pour cette raison. La notion d'invalidité est ici sensiblement plus large que la notion d'invalidité selon la LAI. Il s'agit de l'incapacité d'exercer son activité habituelle (invalidité dite « professionnelle ») ou de l'incapacité d'exercer une fonction au sein de l'entreprise. A la différence de l'assurance-invalidité, on ne prend pas en compte l'activité raisonnablement exigible de l'assuré en se référant à l'ensemble du marché du travail entrant en ligne de compte pour l'intéressé. Dans des situations de ce genre, il peut donc arriver que l'affilié soit mis au bénéfice d'une pension d'invalidité selon le règlement de la caisse de pensions, mais non d'une rente de l'assurance-invalidité (ATF 115 V 218 s. consid. 4b). Or, visiblement, l'art. 40 du règlement trouve sa justification dans ces différences de notions en visant à compenser la perte que pourrait subir l'affilié du fait qu'il ne bénéficie pas d'une rente de l'assurance-invalidité ou qui ne reçoit de cette assurance qu'une demi-rente ou un quart de rente (selon le système d'échelonnement des rentes qui prévalait avant l'entrée en vigueur de la 4ème révision de l'AI).
3.2.4 On est conforté dans cette interprétation si l'on se réfère aux travaux préparatoires des anciens statuts de la Caisse de pensions et de secours des CFF (supra consid. 1). Le statut de 1987 (art. 29; RO 1987 II 1266), puis celui de 1994 (art. 40; RO 1995 I 576) contenaient sur le point ici en discussion une réglementation identique à celle de l'art. 40 du règlement 1999. A ce propos, le Conseil fédéral notait, dans son message du 2 mars 1987 à l'appui de l'ordonnance concernant la Caisse fédérale d'assurance et des statuts de la Caisse de pensions et de secours des CFF, qu'à l'instar du régime actuel, l'assuré a droit au supplément fixe s'il ne touche pas de rente ou d'indemnités journalières en vertu de la LAI. En vue d'assurer une meilleure transparence, les suppléments fixes étaient désormais exprimés en pour cent de la rente AVS de vieillesse simple maximale. Toujours selon le Conseil fédéral, si l'assuré ou son conjoint a droit à une demi-rente ou à un quart de rente AI, le supplément fixe est réduit en proportion (FF 1987 II 537). Le versement d'une rente de l'assurance-invalidité n'était donc pas une condition d'obtention du supplément fixe, bien que le Conseil fédéral eût constaté à cette même occasion que la plupart des affiliés invalides étaient également réputés invalides selon la LAI (ibidem).
Sans doute les principes d'interprétation du règlement de 1999 (de droit privé) diffèrent-ils de ceux qui étaient applicables sous le régime des statuts: ceux-ci devaient s'interpréter selon les règles valables pour les dispositions des institutions de prévoyance de droit public et qui sont les mêmes que celles habituellement applicables à l'interprétation de la loi (cf. RSAS 1998 p. 464 consid. 3b). Le préambule du règlement 1999 mentionne toutefois que, d'un point de vue matériel, ce règlement n'apporte pas de modifications par rapport au précédent statut : les modifications, par rapport à la situation antérieure, concernent principalement les nouvelles compétences consécutives à la transformation de la caisse de pensions en une fondation de droit privé. Rien n'empêche donc de se référer, pour l'interprétation du règlement de 1999, à l'intention des auteurs du statut de 1987.
3.2.5 En conclusion, le refus de l'assurance-invalidité d'accorder une rente au recourant ne suffit pas, à lui seul, à justifier la suppression (assortie d'une demande de restitution) du supplément fixe dont il bénéficiait.
4. 4.1 L'intimée reproche également au recourant une violation de son obligation de diminuer le dommage. Elle fait valoir que l'assuré a déclaré, le 23 août 2000, dans la procédure ouverte par l'assurance-invalidité, qu'il était dans l'impossibilité totale de reprendre une activité professionnelle ou même occupationnelle. Elle invoque les art. 40 al. 4 du règlement 1999 et 12 du règlement 2001.
4.2 Ainsi qu'on l'a vu, l'art. 40 al. 4 du règlement 1999 prévoit que le supplément fixe peut être réduit ou refusé si le bénéficiaire d'une pension d'invalidité s'oppose aux mesures de réadaptation « prévues à l'art. 31 de la LAI » ou si lui-même ne fait pas valoir ses droits aux prestations prévues par la LAI.
Quant à l'art. 12 du règlement 2001, il prévoit, sous le titre «Faute de l'ayant droit», ce qui suit:
1. Si l'AVS/AI réduit, retire ou refuse les prestations parce que le décès ou l'invalidité a été provoqué(e) par une faute grave de l'ayant droit ou si l'affilié s'oppose à une mesure de réadaptation de l'AI, la caisse de pensions peut réduire ses prestations dans une mesure appropriée, au maximum toutefois dans la mesure décidée par l'AVS/AI.
2. La Caisse de pensions peut également réduire ses prestations si les ayants droit ne font pas valoir leur droit à des prestations de l'AI ou de l'AVS.
En relation avec l'assurance-invalidité, ces dispositions visent en fait deux éventualités bien distinctes :
a) Ou bien l'assurance-invalidité refuse ou réduit une rente parce que l'assuré s'est opposé à une mesure de réadaptation. Cela ressort de l'art. 40 al. 4 du règlement 1999, qui fait référence à l'ancien art. 31 LAI (refus ou retrait de la rente si l'assuré se soustrait à une mesure de réadaptation) et de l'art. 12 al. 1 in fine du règlement 2001, qui autorise une réduction dans une mesure appropriée, au maximum dans la mesure décidée par l'AI.
En l'espèce, cette première éventualité n'entre pas en considération, car l'assurance-invalidité n'a pas refusé ou réduit ses prestations en raison de l'opposition à une mesure de réadaptation.
b) Ou bien l'assuré n'a pas fait valoir ses droits à l'égard de l'AI. Il en résulte soit une suppression du supplément fixe (art. 40 al. 4) soit une réduction des prestations en général (art. 12 al. 2).
4.3 Cette seconde éventualité (let. b) peut donc seule entrer en ligne de compte en l'espèce. La question est donc de savoir si l'assuré a renoncé à faire valoir un droit à une mesure de réadaptation.
En s'annonçant à l'assurance-invalidité, un assuré sauvegarde tous ses droits à des prestations d'assurance, même s'il n'en précise pas la nature exacte (cf. ATF 111 V 264 consid. 3b, 103 V 70, 101 V 112, 100 V 117 consid.1b). Une renonciation à faire valoir un droit à des mesures de réadaptation implique donc que l'intéressé se soit opposé sans raison valable à telle mesure ou du moins que son attitude négative en rendait d'emblée illusoire l'organisation. Cela suppose aussi que les possibilités objectives de réadaptation aient été examinées et envisagées concrètement par l'office de l'assurance-invalidité. On ne saurait guère reprocher à un assuré de s'être abstenu de faire valoir un droit purement hypothétique ou virtuel à la réadaptation.
4.3.1 Le dossier de l'assurance-invalidité révèle que le recourant a présenté une demande de prestations sous la forme d'un reclassement et d'une rente. Dans un rapport intermédiaire du 21 septembre 2000, N._, chargé de la réadaptation auprès l'office de l'assurance-invalidité, relate avoir reçu l'assuré le 23 août 2000; à cette occasion, celui-ci aurait déclaré être dans l'impossibilité totale de reprendre une activité professionnelle ou même occupationnelle. Par la suite, l'office de l'assurance-invalidité a pris connaissance d'un rapport du 15 mars 2001 établi par le docteur H._ de la Division d'hypertension et de médecine vasculaire du Centre hospitalier Z._. Selon ce médecin, l'origine des symptômes n'est pas claire. Il peut s'agir d'un syndrome de loge, avec hypertension dans les loges musculaires à la marche, ou d'une claudication veineuse. Le médecin propose des mesures de pressions dans les loges musculaires. Afin de prévenir l'apparition de complications de l'insuffisance veineuse tels que des ulcères, il préconise le port d'une contention élastique, quotidiennement et probablement à vie. L'anti-coagulation doit être maintenue, tant qu'il n'y a pas de contre-indication majeure. S'agissant de la capacité de travail du patient, le médecin note que celui-ci ne devrait aucunement être gêné par des symptômes dans toute activité professionnelle n'impliquant pas de déplacement à pied ni de montée d'escaliers ou d'échelle importants et répétés. Toute activité relativement statique, en position assise ou debout, devrait donc convenir.
L'office de l'assurance-invalidité a alors décidé de soumettre le dossier à son service médical, attendu que le médecin traitant de l'intéressé concluait, pour sa part, à une incapacité de travail complète dans toute activité pour des raisons principalement organiques. Aussi bien le cas a-t-il été soumis au docteur M._, médecin du SMR. Dans un rapport du 17 juillet 2001, celui-ci a posé le diagnostic de status après interventions multiples pour anévrismes artériels récidivants du membre inférieur droit. Au titre de « diagnostic associé non du ressort de l'AI », mais susceptible d'influer sur la capacité de travail ou la réadaptation, il a signalé un état d'anxiété avec évolution vers des troubles somatoformes. Il a conclu que l'assuré devait avoir une pleine capacité de travail dans une activité telle que décrite par le docteur H._. Selon lui, il était inutile de convoquer à nouveau l'intéressé pour une tentative de reclassement, compte tenu de l'attitude de celui-ci relatée dans le rapport du 21 septembre 2000. Le 23 juillet 2001, faisant référence à une note interne d'un employé de l'office, le docteur M._ a précisé qu'une expertise psychiatrique n'était pas nécessaire, car le dossier ne contenait pas d'indices d'une pathologie psychiatrique autre qu'un état dépressif réactionnel, compréhensible chez une personne dont la vie a été momentanément bouleversée par des problèmes de santé graves et potentiellement menaçants.
Dans un nouveau rapport, du 21 septembre 2001, N._ a considéré que des mesures de réadaptation professionnelle n'étaient pas indiquées, compte tenu de la position clairement exprimée par l'assuré lors de l'entretien du 23 août 2000. L'intervention du service de réadaptation ne se justifiait plus et il convenait de procéder à l'évaluation du préjudice économique. Aussi bien l'office AI a-t-il communiqué à l'assuré un projet de décision, daté du 30 janvier 2002, par lequel il l'informait de son intention de refuser de lui accorder une rente. L'assuré a répondu, le 6 février 2002, en invoquant une aggravation de son état de santé et en indiquant qu'il n'était pas en mesure d'exercer une quelconque activité, même légère. Il concluait à un réexamen de sa situation. Le 21 février 2002, l'office de l'assurance-invalidité lui a signifié que son courrier n'apportait aucun élément probant susceptible de modifier le projet de décision du 30 janvier 2002. Aussi bien l'office de l'assurance-invalidité a-t-il notifié à l'assuré sa décision de refus du 27 mars 2002.
4.3.2 Il ressort de ces éléments que les possibilités de réadaptation du recourant n'ont pas été vraiment élucidées par l'office de l'assurance-invalidité. Celui-ci s'est retranché derrière une déclaration prêtée à l'assuré en août 2000 pour renoncer à toute mesure d'instruction à ce sujet. Ainsi, un stage d'évaluation dans un COPAI n'a pas été envisagé. L'office n'a pas non plus jugé utile d'organiser un séjour dans un COMAI, pourtant suggéré par le service médical des CFF afin de déterminer une éventuelle capacité de gain de l'assuré. L'aspect psychique du cas - qui, au dire du médecin du SMR était susceptible de faire obstacle à une mesure de réadaptation - n'a pas davantage été éclairci.
4.3.3 A cela s'ajoute que les déclarations de l'assuré au sujet de son impossibilité de reprendre une activité professionnelle remontent à une époque où il venait d'être mis au bénéfice d'une pension d'invalidité. A ce moment, les médecins se montraient fort pessimistes quant à l'évolution future du cas sous l'angle professionnel. C'est ainsi que sur le vu des échecs de toute tentative de réadaptation au sein des CFF, le service médical de l'entreprise a demandé à son «médecin attitré », le docteur B._, d'examiner une nouvelle fois le recourant (ce médecin avait déjà examiné l'affilié en 1998). Dans un rapport détaillé du 9 mars 2000, le docteur B._ a conclu en ces termes:
« En juillet 1998, j'avais déjà de la peine à imaginer un poste de travail correspondant aux limitations de S._. Depuis, la situation est loin de s'être améliorée et, comme le docteur J._, je ne vois pas d'autre solution que la mise à la retraite anticipée pour raisons médicales. Relevons aussi qu'en mai 1999, l'employeur ne voyait pas non plus de possibilité d'occupation dans le cadre des CFF. Les possibilités d'un recyclage dans le cadre de l'AI me paraissent également des plus hypothétiques ».
Dans une note du 10 avril 2000, le médecin-chef du service médical des CFF a estimé, à l'instar du docteur B._, qu'il n'y avait plus de capacité de travail restante à attendre de l'intéressé, de sorte qu'il a proposé une mise à la retraite anticipée totale de celui-ci.
On est donc fondé à considérer qu'à cette époque l'organisation d'un reclassement n'était objectivement guère envisageable ou tout au moins prématuré. Dans un tel contexte, les déclarations de l'assuré (en août 2000) ne sauraient s'interpréter comme une opposition à des mesures de réadaptation; elles reflétaient certainement la réalité de la situation médicale d'alors. Il est possible que l'état de santé du recourant se soit stabilisé par la suite. L'office AI n'a toutefois pas jugé nécessaire de faire à nouveau le point de la situation avec l'assuré, au regard notamment du rapport du docteur H._. Finalement, l'office n'a proposé aucune mesure de réadaptation à l'assuré.
4.4 Dans ces conditions, les dispositions réglementaires invoquées par l'intimée ne trouvent pas application. Les possibilités concrètes de réadaptation n'ont pas été élucidées. Médicalement, des mesures de réadaptation n'étaient certainement pas indiquées en août 2000. On ne saurait dès lors retenir que l'assuré a refusé de se soumettre à des mesures de réadaptation raisonnablement exigibles ou qu'il a renoncé à faire valoir un droit à de telles mesures.
5. De ce qui précède, il résulte que le recours est bien fondé.
6. Vu la nature du litige, la procédure est gratuite (art. 134 OJ). Représenté par un avocat, le recourant, qui obtient gain de cause, a droit à une indemnité de dépens pour l'instance fédérale (art. 159 al. 1 en corrélation avec l'art. 135 OJ).
Les premiers juges ont rejeté les conclusions du recourant tendant à l'allocation d'une indemnité de dépens compte tenu de la solution à laquelle ils sont parvenus. Il n'y a pas lieu d'inviter l'autorité cantonale à statuer à nouveau sur cette question, attendu qu'en matière de prévoyance professionnelle, il n'existe pas de droit aux dépens découlant de la législation fédérale pour la procédure de première instance (art. 73 LPP; ATF 126 V 145 consid. 1b). Mais le recourant, qui obtient gain de cause devant le Tribunal fédéral des assurances, alors qu'il a succombé en procédure cantonale, a la faculté de demander aux premiers juges de se prononcer sur l'allocation d'une indemnité de dépens, au regard de l'issue définitive du litige.
Par ces motifs, le Tribunal fédéral des assurances prononce:
1. Le recours est admis et le jugement du Tribunal des assurances du canton de Vaud du 29 juin 2005 est annulé.
2. La demande est admise en ce sens que la Caisse de pensions de X._ est tenue de verser au recourant au titre de supplément fixe (ou rente complémentaire d'invalidité) un montant mensuel de 1'763 fr. 75 à partir du 1er août 2002, avec intérêts à 5 pour cent l'an à partir du 10 février 2003.
3. La demande reconventionnelle tendant au remboursement du montant de 45'857 fr. 50 est rejetée.
4. Il n'est pas perçu de frais de justice.
5. L'intimée versera au recourant un montant de 2'500 fr. (y compris la taxe sur la valeur ajoutée) à titre de dépens pour la procédure fédérale.
6. Le présent arrêt sera communiqué aux parties, au Tribunal des assurances du canton de Vaud, à l'Office de l'assurance-invalidité pour le canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 2 mai 2006
Au nom du Tribunal fédéral des assurances
La Présidente de la Ire Chambre: Le Greffier: