Faits:
A. N._, né en 1941, a travaillé au service de la Société de Banque Suisse (SBS) comme responsable de la succursale X._ du 1er janvier 1990 au 30 juin 1996 puis, depuis lors, comme conseiller à la clientèle avec une activité réduite à 50 pour cent.
A la suite de la fusion de l'Union de Banque Suisse (UBS) et de la SBS, qui est devenue effective en juin 1998 et qui a donné naissance à la Société UBS SA, N._ a fait partie du personnel de la société nouvellement fusionnée.
Le 8 juillet 1998, son employeur l'a licencié pour le 31 octobre suivant. La date du licenciement a été reportée au 31 juillet 1999, en raison d'arrêts de travail pour cause d'accident et de maladie.
Entre-temps, par demande du 11 mars 1999, N._ a assigné la Société UBS SA en paiement de divers montants, dont 491'130 fr., avec intérêts, au titre de dommages-intérêts. Cette prétention, déterminée sur la base d'une expertise judiciaire requise par le demandeur (expertise de la société Q._ SA du 19 octobre 2000) correspondait à des prestations prévues dans un plan social dont l'intéressé estimait avoir été indûment frustré en raison du caractère abusif de son licenciement.
Par arrêt du 29 novembre 2002, la deuxième Cour civile du Tribunal cantonal valaisan a débouté N._ de toutes ses conclusions.
B. Sur le plan de la prévoyance professionnelle, N._ a été affilié, en dernier lieu, à la Caisse de pension de l'UBS SA (ci-après : la Caisse de pension), issue de la fusion, avec effet au 1er juillet 1999, des institutions de prévoyance respectives de l'UBS et de la SBS. Le 15 septembre 1999, la Caisse de pension a transféré en faveur de N._ un montant de 903'998 fr. 20 sur un compte de libre passage ouvert auprès de la Fondation de libre passage de l'UBS SA. La Fondation de libre passage a ensuite versé à l'affilié, d'abord un montant de 500'000 fr., valeur au 10 janvier 2001, à titre de versement anticipé pour l'acquisition d'un logement, puis un montant de 412'760 fr. 75, valeur au 21 octobre 2002, à titre de prestations de vieillesse en capital. Le compte de libre passage a été clôturé à cette dernière date.
C. Entre ces deux versements, la Caisse de pension a écrit à N._, le 1er mars 2001, qu'elle avait remarqué que le montant qui avait été transféré en sa faveur à la Fondation de libre passage de l'UBS SA était en réalité trop élevé; selon un décompte annexé, le solde en faveur de la caisse s'élevait à 50'000 fr. environ. Le 13 juin 2001, la Caisse de pension a précisé à son ex-affilié qu'une somme de 54'096 fr. 25 avait été versée en trop, selon ce qui ressortait d'un complément d'expertise de la société Q._ SA du 11 avril 2001 requis dans le procès civil opposant la Société UBS SA à son ancien salarié. Selon la Caisse de pension, l'erreur provenait du fait que les salaires déterminants qui lui avaient été communiqués par l'employeur pour calculer la prestation de libre passage étaient inexacts. N._ a refusé de restituer la somme précitée de 54'096 fr. 25.
Le 17 août 2001, la Caisse de pension a cité N._ en conciliation devant le juge de la commune Y._ pour une séance fixée au 12 septembre 2001. Par lettre du 21 août 2001, à réception de la citation en conciliation, le mandataire de l'affilié a délivré à la Caisse de pension un acte de non-conciliation conventionnel, de sorte que les parties n'ont pas comparu devant le juge conciliateur.
Le 10 juillet 2002, la Caisse de pension a de nouveau cité N._ à comparaître en conciliation devant le même juge, le 5 septembre 2002. Le 26 août 2002, N._ a derechef délivré à la requérante un acte de non-conciliation conventionnel.
D. Par écriture du 2 juillet 2003, la Caisse de pension a ouvert une action contre N._, tendant au paiement de 54'096 fr. 25 avec intérêts à 5 pour cent l'an dès le 2 mars 2001.
N._ a conclu au rejet de la demande en soulevant, entre autres moyens, l'exception de prescription.
Statuant le 8 mars 2006, le Tribunal des assurances du canton du Valais a admis l'action et a condamné N._ à payer à la Caisse de pension un montant de 54'096 fr. 25 au titre de restitution d'une partie de la prestation de libre passage perçue par ce dernier.
E. N._ interjette un recours de droit administratif dans lequel il conclut à l'annulation de ce jugement et au rejet de la demande.
La Caisse de pension conclut au rejet du recours. Quant à l'Office fédéral des assurances sociales, il propose de l'admettre.

Considérant en droit:
1. Comme en première instance, le recourant soulève l'exception de prescription. Il fait valoir que la prescription d'une année en matière d'enrichissement illégitime n'a pas été interrompue par les citations en conciliation devant le juge de commune. Ces citations ne constituent pas des actes interruptifs de prescription au sens de l'<ref-law>, car le juge de commune n'était pas compétent à raison de la matière pour tenter la conciliation.
Les premiers juges ont rejeté cette exception. Tout en admettant que le juge conciliateur n'était pas compétent en l'espèce, ils considèrent cependant que le défendeur a délivré des actes de non-conciliation conventionnels à la Caisse de pension. Ce faisant, il a tacitement admis la compétence du juge de commune saisi et doit, dès lors, se laisser opposer l'<ref-law>. Selon les premiers juges toujours, cette solution se justifie d'autant plus que la délimitation des actes interruptifs de prescription est plus large en droit public qu'en droit privé. En l'espèce, la demanderesse a eu connaissance de son erreur en mars 2001 au plus tard. Deux tentatives successives de conciliation, en 2001 et en 2002, ont valablement interrompu la prescription. La demande du 2 juillet 2003 a donc été déposée en temps utile.
2. L'<ref-law>, relatif à la restitution des prestations, en corrélation avec l'<ref-law> (pour la prévoyance plus étendue) et entré en vigueur le 1er janvier 2005, n'est pas applicable en l'espèce (cf. <ref-ruling> consid. 1, 127 V 467 consid. 1 et la jurisprudence citée). D'après la jurisprudence antérieure, à laquelle il convient de se référer ici, l'obligation de restituer des prestations de la prévoyance professionnelle versées à tort est régie par les <ref-law>, en matière de prévoyance obligatoire comme dans le domaine de la prévoyance plus étendue, à défaut de normes statutaires ou réglementaires (<ref-ruling> consid. 2, 128 V 50, 128 V 236).
3. En vertu de l'<ref-law>, l'action pour cause d'enrichissement illégitime se prescrit par un an du jour où la partie lésée a eu connaissance de son droit de répétition, et, dans tous les cas, par dix ans dès la naissance de ce droit. Ce délai court du jour où l'appauvri a connu à la fois la perte subie et l'enrichi, autant qu'il connaît l'existence, la nature et les éléments du dommage propres à fonder et à motiver une demande en justice (<ref-ruling> consid. 4b, 109 II 435 consid. 2).
Selon les premiers juges, la Caisse de pension a eu connaissance de son erreur en mars 2001, lorsqu'elle a pour la première fois interpellé le recourant sur cette question. Ce point n'est pas litigieux. La question est de savoir si la prescription a été valablement interrompue entre cette date et celle de l'ouverture de l'action.
4. 4.1 Selon l'<ref-law>, la prescription est interrompue lorsque le créancier fait valoir ses droits par des poursuites, par une action ou une exception devant un tribunal ou des arbitres, par une intervention dans une faillite ou par une citation en conciliation. Cette liste des actes interruptifs du créancier est exhaustive (Pascal Pichonnaz, Commentaire romand, note 25 ad <ref-law>; Stephen V. Berti, Commentaire zurichois, note 180 ad <ref-law>). L'ouverture d'action au sens de l'<ref-law> est une notion de droit fédéral; elle se définit comme tout acte introductif ou préparatoire par lequel le créancier s'adresse pour la première fois au juge, dans les formes requises, afin d'obtenir la reconnaissance du droit qu'il invoque (<ref-ruling> consid. 3, 114 II 336 consid. 3a, 110 II 389 consid. 2a). La forme à respecter relève du droit cantonal de procédure (<ref-ruling> consid. 3a). La requête en conciliation interrompt le délai de prescription; peu importe que la partie renonce finalement à la séance de conciliation (<ref-ruling> consid. b) ou que la cause soit ensuite portée ou non devant le juge durant le délai de validité de l'acte de conciliation (<ref-ruling> consid. 3). La requête en conciliation interrompt la prescription dès la remise de la requête à l'office de la poste (<ref-ruling>, 65 II 166). La requête doit toutefois être adressée devant le juge conciliateur compétent ratione loci et materiae (Pichonnaz, op. cit., note 23 ad <ref-law>; Berti, note 56 ad <ref-law>; cf. aussi <ref-ruling> consid. 3). Si le juge conciliateur n'est pas compétent, le demandeur n'est pas mis au bénéfice d'un nouveau délai de prescription conformément à l'<ref-law>, mais seulement du délai supplémentaire de 60 jours prévu par l'<ref-law> (<ref-ruling> consid. 3b; Berti, op. cit., note 56 ad <ref-law>).
4.2 Selon l'<ref-law>, chaque canton désigne un tribunal qui connaît, en dernière instance cantonale, des contestations opposant institutions de prévoyance, employeurs et ayants droit (première phrase). La voie à suivre est celle de l'action (<ref-ruling> consid. 2). Selon l'art. 6 de la loi cantonale valaisanne d'application de la loi fédérale sur la prévoyance professionnelle, vieillesse, survivants et invalidité, du 14 novembre 1988 (RSV 831.4), le Tribunal cantonal des assurances est l'unique autorité cantonale compétente pour connaître des contestations opposant fondations ou institutions de prévoyance, employeurs et ayants droit (al. 1). La procédure devant le Tribunal cantonal des assurances est établie par ce tribunal dans une ordonnance, compte tenu des exigences prescrites à l'<ref-law> (al. 2). Selon l'art. 3 al. 2 du règlement auquel il est fait renvoi, du 2 octobre 2001, régissant la procédure devant le Tribunal cantonal des assurances (RSV 173.400), les dispositions de la loi sur la procédure et la juridiction administratives du 6 octobre 1976 (LPJA; RSV 172.6) valables pour la procédure devant le Tribunal cantonal sont applicables par analogie aux actions introduites devant la Cour des assurances. Il s'agit des dispositions relatives à la procédure d'action devant le Tribunal administratif comme juridiction unique (art. 82 ss LPJA). La LPJA ne prévoit pas de procédure de conciliation devant le juge de commune, qui est réservée aux contestations de droit civil (art. 1 et 21 du Code de procédure civile valaisan du 24 mars 1998 [CPC VS]; RSV 270.1). L'art. 86 LPJA prévoit certes la possibilité d'une tentative de conciliation, mais seulement par le magistrat chargé d'instruire la cause.
Il ressort de cette réglementation que le juge de la commune Y._ n'était à l'évidence pas compétent à raison de la matière pour connaître des requêtes en conciliation notifiées par la Caisse de pension. Cela n'est du reste pas contesté par les parties.
4.3 La juridiction cantonale invoque l'arrêt ATF 52 II 208. Selon cet arrêt, si le défendeur se prête tacitement à la conciliation devant un juge qui n'est pas compétent à raison du lieu, la requête en conciliation interrompt la prescription si l'on peut admettre, au regard du droit de procédure cantonale, que la tentative de conciliation comme telle a été malgré cela valablement conduite. Dans cette affaire, les parties avaient comparu à la séance de conciliation devant un juge localement incompétent. Le défendeur n'avait soulevé aucune objection quant à la compétence du juge conciliateur. Par sa comparution et ses écritures ultérieures, il avait au contraire admis que cette tentative de conciliation valait autorisation d'introduire action conformément au code de procédure bernois de l'époque.
En l'espèce, la situation est différente. La doctrine souligne, à juste titre, que cette jurisprudence vise les cas de compétence ratione loci (Pichonnaz, op. cit., note 23 ad <ref-law> et note de bas de page no 75; Robert K. Däppen, Commentaire bâlois, 3ème éd., note 18 ad <ref-law>). Il ne peut y avoir d'acceptation tacite (Einlassung) qu'en matière de compétence locale et pour autant que la loi ne prescrive pas un for impératif ou partiellement impératif (cf. Fabienne Hohl, Procédure civile, tome II, Berne 2002, no 1608 ss). En matière de compétence ratione materiae, il ne saurait y avoir d'acceptation tacite. Les règles de compétence à ce sujet sont d'ordre public et les parties ne peuvent pas y déroger (Hohl, op. cit., no 1840 ss). Dans un tel cas, l'acceptation tacite du défendeur est donc inopérante.
4.4 Les conséquences sont d'ailleurs identiques en procédure civile valaisanne. Selon l'<ref-law> VS, la procédure ordinaire et la procédure accélérée sont, sauf disposition contraire, précédées de la procédure de conciliation devant le juge de commune. L'<ref-law> VS prévoit certaines exceptions aux préliminaires de la conciliation, notamment les demandes reconventionnelles et les litiges portant sur l'intervention principale, la dénonciation d'instance et l'appel en cause (let. b) ou encore certaines causes découlant de la LP (let. d). Dans ces cas, les demandes en conciliation sont nulles et ne déploient aucun effet sur le respect du délai (<ref-law> VS). Selon les règles de procédure cantonale, il ne peut donc pas non plus y avoir d'acceptation tacite dans des situations où le juge conciliateur n'est pas compétent à raison de la matière.
4.5 Déposées devant un juge incompétent ratione materiae, les requêtes en conciliation de la Caisse de pension ne peuvent donc pas être considérées comme des actes ayant valablement interrompu la prescription au sens de l'<ref-law>.
5. 5.1 L'argumentation des premiers juges tirée d'une notion plus large des actes interruptifs de prescription en droit public qu'en droit privé ne peut être suivie en l'espèce. Il est vrai que les causes d'interruption de la prescription, qui sont le fait du créancier, sont admises plus largement en droit administratif qu'en droit civil (voir à ce sujet Attilio R. Gadola, Verjährung und Verwirkung im öffentlichen Recht, PJA 1/ 1995 p. 47 ss; Andrea Braconi, Prescription et péremption dans l'assurance sociale in: Droit privé et Assurances sociales, Fribourg 1990, p. 232). Il en va ainsi en droit fiscal où les notions d'action et d'exception prévues par l'<ref-law> sont difficilement transposables et où la prescription est réglée par le droit public, qui admet qu'un certain nombre d'actes, analogues à ceux du droit privé, peuvent interrompre la prescription (voir par exemple RDAF 2005 II p. 477 consid. 5.3). Le droit des assurances sociales connaît également certains de ces actes analogues. Par exemple, la prescription des amendes est interrompue par tout acte tendant à leur recouvrement (<ref-law>).
5.2 Cependant, en matière de prévoyance professionnelle, le créancier, comme on l'a vu, doit faire valoir ses droits par voie d'action pour les litiges visés par l'<ref-law>. En outre, du moment que l'on soumet l'obligation de restituer aux règles du droit civil (<ref-law>), il convient d'appliquer ces dispositions dans leur contexte juridique, avec leurs avantages et inconvénients respectifs, pour l'enrichi et le lésé, sans en dénaturer le sens et la portée, quand bien même elles s'incorporent dans un système régi en partie par le droit public (<ref-ruling> consid. 3.2). Enfin, il convient de relever qu'en matière de prévoyance professionnelle, l'<ref-law>, relatif à la prescription des actions en recouvrement de créances de cotisations ou de prestations périodiques, renvoie explicitement aux art. 129 à 142 du Code des obligations. Cette réglementation est impérative et s'applique à toutes les créances fondées sur la LPP, notamment aussi aux rapports juridiques avec des institutions de droit public (message du Conseil fédéral à l'appui d'un projet de loi sur la prévoyance professionnelle, vieillesse, survivants et invalidité du 19 décembre 1975, FF 1976 I 251; voir aussi <ref-ruling> consid. 4.4.3 et <ref-ruling> consid. 3b où le Tribunal fédéral des assurances se réfère explicitement aux actes interruptifs de prescription au sens de l'<ref-law>; cf. également arrêt A. du 10 février 2004, [B 87/00]). En raison de ce renvoi pur et simple aux dispositions du code des obligations et dès lors que l'énumération contenue à l'<ref-law> est exhaustive, il n'y a pas de place en l'espèce pour une réglementation plus large en matière d'interruption de la prescription du fait du créancier (cf. également Braconi, op. cit., p. 232).
5.3 En conséquence, la prétention de la Caisse de pension en remboursement d'une partie de la prestation de sortie versée au recourant est prescrite. Le recours de droit administratif est ainsi bien fondé.
6. Vu la nature du litige, la procédure est gratuite (art. 134 OJ). Le recourant, qui obtient gain de cause, a droit à une indemnité de dépens (art. 159 al. 1 OJ).
Par ailleurs, les premiers juges ont rejeté les conclusions du recourant tendant à l'allocation d'une indemnité de dépens compte tenu de la solution à laquelle ils sont parvenus. Il n'y a pas lieu d'inviter l'autorité cantonale à statuer à nouveau sur cette question, attendu qu'en matière de prévoyance professionnelle, il n'existe pas de droit aux dépens découlant de la législation fédérale pour la procédure de première instance (<ref-law>; <ref-ruling> consid. 1b). Mais le recourant, qui obtient gain de cause devant le Tribunal fédéral des assurances, alors qu'il a succombé en procédure cantonale, a la faculté de demander aux premiers juges de se prononcer sur l'allocation d'une indemnité de dépens, au regard de l'issue définitive du litige.

Par ces motifs, le Tribunal fédéral des assurances prononce:
1. Le recours est admis et le jugement du Tribunal des assurances du canton du Valais du 8 mars 2006 est annulé.
2. La demande de la Caisse de pension de l'UBS SA est rejetée.
3. Il n'est pas perçu de frais de justice.
4. L'intimée versera au recourant un montant de 2'500 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour la procédure fédérale.
5. Le présent arrêt sera communiqué aux parties, au Tribunal cantonal des assurances et à l'Office fédéral des assurances sociales.
Lucerne, le 18 août 2006
Au nom du Tribunal fédéral des assurances
La Présidente de la Ire Chambre: La Greffière: