Faits: A. A.a. A._, né en 1955, a travaillé en qualité de maçon et de manoeuvre au service de l'entreprise de bâtiments & génie civil M._ SA. A ce titre, il était assuré contre le risque d'accident auprès de la Caisse nationale suisse d'assurance en cas d'accidents (CNA). Le 16 mars 1995, le prénommé crépissait un mur, lorsqu'il fit une chute d'une hauteur d'environ six mètres d'un échafaudage. Il s'est réceptionné sur la jambe droite et a ressenti une importante douleur au genou qui avait subi une torsion. Il a néanmoins poursuivi son travail et n'a consulté le service des urgences de l'hôpital B._ que le lendemain. Les examens radiologiques auxquels il a alors été procédé n'ont pas révélé de fracture. En raison de douleurs persistantes, l'intéressé a dû cesser complètement de travailler et ce n'est que le 8 juin 1995 qu'une arthroscopie diagnostique a permis de mettre en évidence une rupture du ligament croisé antérieur qui a finalement justifié une intervention reconstructive le 5 septembre 1997. Par décision du 15 mai 1998, la CNA a alloué à A._ une rente d'invalidité dès le 1er juin 1998 pour une incapacité de gain de 20 % et une indemnité pour atteinte à l'intégrité d'un taux de 10 %. Suite à l'opposition formée par l'intéressé et à la nécessité d'une nouvelle intervention chirurgicale, l'assureur-accidents a considéré qu'il y avait rechute et a annulé ce prononcé le 18 juin 1999. Il a poursuivi l'instruction du cas. Le docteur C._, médecin d'arrondissement de la CNA, qui a examiné l'assuré le 19 janvier 1999, a estimé que l'activité de maçon n'était plus exigible de celui-ci, mais qu'en revanche, pour les seules séquelles de l'accident, dans une activité adaptée, de type industriel, sur sol plat, sans port de charges lourdes, il pouvait accomplir un horaire normal avec un rendement de 100 %. Le dossier a également été complété par le rapport de l'expertise réalisée le 28 juin 1999 par le service d'orthopédie et de traumatologie de l'appareil moteur de l'Hôpital D._ (Prof. L._, docteurs F._ et G._) sur mandat de l'Office AI du canton de Fribourg. Ces experts ont partagé l'avis du docteur C._ selon lequel l'assuré n'était pas apte à reprendre, même partiellement, son travail de maçon. Ils ont considéré comme exigible une activité professionnelle sans port de charge, sans déplacement majeur, sans risque d'entorse du genou et comportant des temps en position assise, alternée avec des temps en position debout. Dans une telle activité adaptée, les médecins prénommés ont évalué la capacité de travail de A._ à 100 %. Les experts ont néanmoins indiqué que les capacités de travail de ce dernier pourraient être améliorées par une physiothérapie intensive ou, en cas d'échec de ce traitement, par une nouvelle arthroscopie. Ils ont toutefois relevé que toutes les plaintes subjectives du patient ne pouvaient être expliquées uniquement par son problème de genou et qu'une évaluation soigneuse de son état psychique devrait être effectuée avant toute nouvelle intervention chirurgicale. Sur la base de plusieurs descriptions de postes de travail (DPT), la CNA a estimé, en considérant les seules séquelles de l'accident, que l'assuré pourrait réaliser un salaire correspondant aux 80 % du gain qu'il aurait obtenu sans la survenance de l'événement accidentel. Par décision du 28 septembre 1999, elle lui a alloué une rente d'invalidité de 20 % dès le 1er mai 1999 et une indemnité pour atteinte à l'intégrité calculée au taux de 10 %. A._ a formé opposition contre ce prononcé, contestant en particulier le fait que la composante psychique des troubles qui l'affectent n'ait pas été prise en compte pour déterminer son droit à la rente. Par décision du 23 février 2000, la CNA a rejeté cette opposition. Elle a retenu notamment que l'accident assuré n'a pas eu d'influence déterminante dans l'émergence de l'état dépressif du prénommé. A.b. Le 19 juin 1997, A._ avait présenté une demande de prestations de l'assurance-invalidité laquelle a été rejetée le 22 juillet 1998 par l'office AI du canton de Fribourg au motif que l'invalidité de l'assuré était de 20 % environ. Le pourvoi déposé par l'intéressé contre ce refus de prestations devant la Cour des assurances sociales du Tribunal administratif du canton de Fribourg a été rejeté le 23 février 2000. Saisi d'un recours de droit administratif formé par A._, le Tribunal fédéral des assurances a retenu que le prénommé présentait, selon divers rapports médicaux, un état dépressif flagrant. Par arrêt du 10 novembre 2000 (I 225/00), il a annulé le jugement entrepris et renvoyé la cause à la juridiction cantonale pour complément d'instruction sur le point de savoir si l'intéressé présentait un état psychiatrique maladif diminuant sa capacité de travail et de gain. L'intéressé a été mis au bénéfice d'une rente entière de l'assurance-invalidité dès le 1er novembre 2000, en raison d'une atteinte à sa santé psychique entraînant une incapacité totale de travail. B. A._ a formé recours devant la Cour des assurances sociales du Tribunal administratif du canton de Fribourg contre la décision de la CNA du 23 février 2000 rejetant son opposition. Il a produit deux rapports d'expertise privée du docteur H._, médecin-chef à la clinique de chirurgie orthopédique et de traumatologie de l'appareil moteur de l'hôpital I._, et de ses adjoints. Dans le premier de ces rapports, du 15 janvier 2001, les médecins prénommés ont estimé que l'activité de maçon n'était plus du tout exigible de l'assuré, de même que toute activité exigeant le port de charges, un effort physique lourd ou moyennement lourd, des déplacement fréquents ou longs, avec ou sans charge, au plat comme dans des escaliers ou dans des pentes moyennes à importantes. Une activité légère avec alternance permanente des positions assise, debout ou de marche a été considérée comme admissible, mais pas un travail à la chaîne, ni les tâches exigeant le maintien de la même position. Les experts ont estimé envisageable une activité à l'intérieur, demandant le port de charges n'excédant pas 5 à 10 kg au maximum, avec changement de positions, la part de la station debout et de la marche ne devant pas dépasser 20 %, tout travail sur les échafaudages, échelles et terrain inégal étant proscrit. Dans leur second rapport, du 9 juillet 2002, le docteur H._ et ses adjoints ont indiqué que l'état de santé de l'intéressé ne pouvait être amélioré par un acte de chirurgie et que le traitement devait se concentrer sur des mesures anti-algiques interdisciplinaires. Par jugement du 22 mai 2003, la juridiction cantonale a rejeté le recours. C. A._ interjette recours de droit administratif contre ce jugement dont il demande l'annulation. Il conclut, sous suite de dépens, à ce qu'une rente entière d'invalidité lui soit octroyée à compter du 1er mai 1998 et à ce que l'indemnité pour atteinte à l'intégrité soit augmentée en conséquence. La CNA conclut au rejet du recours. L'OFAS n'a pas déposé d'observations.