Faits: Faits: A. H._, né en 1937, a travaillé au service de la Société D._ SA à partir du 1er novembre 1987. A ce titre, il était affilié au Fonds de prévoyance en faveur du personnel de D._ SA (ci-après: le Fonds de prévoyance). A la suite d'une incapacité totale de travail survenue au cours du mois de septembre 1994, H._ a été mis au bénéfice de prestations pour perte de gain maladie versées jusqu'au 31 août 1996 par la Winterthur-Assurances et, à partir du 1er mars 1996, d'une rente entière de l'assurance-invalidité (décision du 21 août 1996 de l'Office de l'assurance-invalidité du canton de Fribourg). De son côté, le Fonds de prévoyance a exonéré l'assuré du paiement des primes dès le 1er décembre 1994. En outre, il lui a alloué une rente d'invalidité d'un montant annuel de 14'669 fr. à compter du 1er janvier 1997. Adapté à l'évolution des prix, le montant de cette prestation s'est élevé à 14'754 fr. dès le 1er janvier 1999, puis à 15'052 fr. à partir du 1er janvier 2001. H._ ayant atteint l'âge de la retraite, le Fonds de prévoyance a remplacé à partir du 1er septembre 2002, la rente d'invalidité par une rente de vieillesse d'un montant annuel de 10'412 fr., soit de 4'257 fr. inférieur à celle-là. H._ ayant atteint l'âge de la retraite, le Fonds de prévoyance a remplacé à partir du 1er septembre 2002, la rente d'invalidité par une rente de vieillesse d'un montant annuel de 10'412 fr., soit de 4'257 fr. inférieur à celle-là. B. Le 14 novembre 2002, H._ a saisi le Tribunal administratif du canton de Fribourg, en concluant au maintien de son droit, après le 1er septembre 2002, à une rente de vieillesse d'un montant équivalant à celui de la rente d'invalidité servie jusqu'alors. A l'appui de ses conclusions, il s'est fondé sur un arrêt du Tribunal fédéral des assurances du 24 juillet 2001 (ATF 127 V 259), selon lequel, dans le domaine de la prévoyance plus étendue, comme en matière de prévoyance obligatoire, la rente d'invalidité a un caractère viager, ce qui implique que le montant de la rente de vieillesse doit être au moins équivalent à celui de la rente d'invalidité servie jusqu'à l'âge donnant droit à la rente de vieillesse. Par jugement du 5 juin 2003, la juridiction cantonale a rejeté la demande, motif pris que le montant de la rente de vieillesse proposé au demandeur atteignait celui de la rente auquel il aurait également pu prétendre sans la survenance de son invalidité et que l'allocation d'une rente annuelle de 15'052 fr. en lieu et place de 10'412 fr. consacrerait une inégalité de traitement entre rentiers valide et invalide. Elle a précisé que ledit montant de la rente de vieillesse était conforme à la jurisprudence du Tribunal fédéral des assurances (arrêt B. du 23 mars 2001, B 2/00), en tant qu'il excédait celui de la rente minimale d'invalidité protégée par la LPP. Par jugement du 5 juin 2003, la juridiction cantonale a rejeté la demande, motif pris que le montant de la rente de vieillesse proposé au demandeur atteignait celui de la rente auquel il aurait également pu prétendre sans la survenance de son invalidité et que l'allocation d'une rente annuelle de 15'052 fr. en lieu et place de 10'412 fr. consacrerait une inégalité de traitement entre rentiers valide et invalide. Elle a précisé que ledit montant de la rente de vieillesse était conforme à la jurisprudence du Tribunal fédéral des assurances (arrêt B. du 23 mars 2001, B 2/00), en tant qu'il excédait celui de la rente minimale d'invalidité protégée par la LPP. C. H._ interjette recours de droit administratif contre ce jugement, dont il demande l'annulation, sous suite de dépens, en réitérant les motifs et les conclusions formulés en instance cantonale. Le Fonds de prévoyance conclut au rejet du recours. De son côté, l'Office fédéral des assurances sociales s'est limité à constater sans la commenter, l'inapplication par la juridiction cantonale de la jurisprudence invoquée par l'assuré.