Faits : A. A._, né le 21 septembre 1948, a travaillé en tant qu'employé de magasin auprès de B._ à V._. A ce titre, il a été admis à la Caisse fédérale d'assurance (CFA), puis affilié pour la prévoyance professionnelle obligatoire auprès de la Caisse fédérale de pensions (CFP). Le 5 février 2001, A._ a conclu avec la Confédération suisse, représentée par la CFA, un contrat de versement anticipé pour l'encouragement à la propriété du logement au moyen de la prévoyance professionnelle, portant sur un montant de 100'000 fr.; le versement est intervenu le 24 février 2001. La réduction des prestations de prévoyance résultant de ce versement figurait dans le contrat. Conformément à une convention du 19 mai 2010 relative à la retraite anticipée selon le plan social de la Confédération, approuvée le 7 juin 2010, A._ a été mis au bénéfice d'une retraite anticipée au 31 décembre 2010. La Caisse fédérale de pensions Publica (ci-après: Publica), qui avait entre-temps succédé à la CFP, lui a alloué mensuellement une rente de vieillesse selon le plan social de 2'795 fr. 60 dès le 1 er janvier 2011, ainsi que deux rentes pour enfant de 465 fr. 95 chacune et une rente transitoire de 2'320 fr., soit 6'047 fr. 50. En raison de la suppression de la rente transitoire, les prestations se montaient à 3'727 fr. 50 depuis le 1 er octobre 2013. Le 28 janvier 2015, en raison de son divorce, A._ a demandé à Publica de lui indiquer le montant de la prestation acquise avant son mariage célébré le 20 décembre 2001. Dans ce cadre, Publica lui a fait savoir, le 26 mai 2015, qu'elle avait constaté une erreur dans la prestation de sortie comptabilisée au moment du départ à la retraite, laquelle était de 300'607 fr. 40 au lieu de 443'978 fr. 60, découlant du fait que le versement anticipé de 100'000 fr. n'avait pas été porté correctement au débit du compte de prévoyance. Cette erreur s'était répercutée sur les prestations de vieillesse qui, adaptées dès le 1 er juillet 2015, se montaient à 2'626 fr. 70 par mois, soit une rente de vieillesse de 1'970 fr. et deux rentes pour enfant de 328 fr. 35 chacune. Le trop-perçu entre le 1 er janvier 2011 et le 30 juin 2015, au total 59'443 fr. 20, devait lui être remboursé. L'assuré a invoqué sa bonne foi et contesté son obligation de rembourser. B. Le 17 décembre 2015, Publica a saisi le Tribunal cantonal des assurances du canton du Valais d'une demande de remboursement des prestations de vieillesse indûment perçues dirigée contre A._, en concluant à ce que le défendeur fût condamné à lui payer la somme de 59'443 fr. 20 avec intérêts à 2,75 % dès le 17 décembre 2015. A._ a conclu à l'irrecevabilité de la demande, subsidiairement à son rejet. Par jugement du 18 juillet 2017, la juridiction cantonale a admis la demande et reconnu A._ débiteur de Publica de la somme de 59'443 fr. 20, avec intérêts moratoires au taux de 2,75 % du 17 au 31 décembre 2015, 2,25 % du 1 er janvier au 31 décembre 2016, et 2 % au minimum dès le 1 er janvier 2017. C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant au rejet de la demande de Publica du 17 décembre 2015.