Faits: Faits: A. K._, né le 4 mars 1962, ressortissant turc, est arrivé en Suisse le 3 mars 1987. A partir du 1er août 1987, il a travaillé en qualité de manoeuvre au service de la société C._ SA (restauration de façades et taille de pierres naturelles). Souffrant de lombalgies basses depuis 1995, il a présenté dès ce moment des périodes d'incapacité totale ou partielle de travail. Le dernier jour de travail effectif remonte au 5 avril 2000. Du 25 septembre au 13 octobre 2000, il a séjourné dans le service de rhumatologie de l'Hôpital F._. Dans un rapport du 18 octobre 2000, les docteurs B._, médecin-chef adjoint, et R._, médecin assistant, ont posé les diagnostics de lombosciatalgie bilatérale à prédominance droite sans déficit radiculaire significatif, petite hernie discale L5-S1 médiane sans signe de compression radiculaire, lyse isthmique L5 avec spondylolisthésis de L5 sur S1 et troubles somatoformes marqués. Le 2 avril 2001, K._ a présenté une demande de prestations de l'assurance-invalidité. Dans un rapport médical établi les 18 et 19 juillet 2001, la doctoresse E._, généraliste à Fribourg et médecin traitant de l'assuré, a retenu des lombalgies depuis 1995 et des lombosciatalgies bilatérales à prédominance droite depuis 1998, avec status post contusion du pied droit en 1995, ainsi qu'un syndrome somatoforme. Elle indiquait que l'on pouvait exiger du patient l'exercice d'une autre activité que celle de tailleur de pierres et qu'il pourrait exercer à 50 % une activité plus légère sollicitant peu le rachis et offrant une alternance de position. De son côté, le docteur G._, spéc. FMH médecine interne-rhumatologie a retenu une rachialgie diffuse et pseudoradiculalgie droite associée à une scoliose sinistro-convexe lombaire et antélisthésis de stade 1 L5/S1, des protrusions discales pluri-étagées prédominant en L5-S1 et une ancienne maladie de Scheuermann frustre; la capacité résiduelle dans un métier lourd était estimée à 20 %; dans une activité adaptée (évitant le port de charges de plus de 5 kg et permettant de changer de position) la capacité était totale avec plein rendement (rapport des 24 avril et 2 mai 2001). Après avoir été licencié, l'assuré a effectué un stage d'observation professionnelle au COPAI de V._ du 12 novembre au 7 décembre 2001. Selon le rapport de la doctoresse M._, médecin-conseil, du 10 décembre 2001, les rendements obtenus n'étaient pas diminués en raison de la problématique lombaire, mais en raison des troubles somatoformes douloureux persistants confirmés par avis psychiatrique. A son avis, une activité légère était exigible, avec des rendements normaux, si l'on tenait compte uniquement de l'atteinte rachidienne. Le COPAI a déposé ses conclusions dans un rapport daté du 14 novembre 2001. L'Office de l'assurance-invalidité du canton de Fribourg a confié une expertise psychiatrique au docteur S._, spécialiste FMH en psychiatrie et psychothérapie, à Lausanne. Dans son rapport du 12 avril 2002, celui-ci a posé le diagnostic de trouble douloureux associé à la fois à des facteurs psychologiques et à une affection médicale générale avec majoration volontaire des symptômes. K._ ne présentait pas de trouble majeur de la personnalité, il souffrait d'un trouble somatoforme douloureux, dont la sévérité était difficile à préciser, mais qui n'était pas associé à une comorbidité psychiatrique ou un trouble de la personnalité significatif. Au plan physique, il avait apparemment une capacité de travail de 100 % dans une activité adaptée. Au plan psychique et mental, il n'y avait pas d'atteinte psychiatrique justifiant des diminutions de la capacité de travail. Il existait un problème de motivation en rapport avec des problèmes extra-médicaux et non une atteinte à la santé mentale. Dans un projet de décision du 14 mai 2002, l'office AI a informé K._ qu'il envisageait de ne pas lui reconnaître un droit à des prestations, car le syndrome lombo-radiculaire dont il était atteint ne l'empêchait pas d'exercer pleinement et totalement une activité légère et le docteur S._, dans son expertise, n'avait mis en évidence aucune pathologie psychiatrique. Par décision du 14 octobre 2002, l'office AI a rejeté la demande. Par décision du 14 octobre 2002, l'office AI a rejeté la demande. B. Par jugement du 26 septembre 2003, la Cour des assurances sociales du Tribunal administratif du canton de Fribourg a rejeté le recours formé par K._ contre cette décision. B. Par jugement du 26 septembre 2003, la Cour des assurances sociales du Tribunal administratif du canton de Fribourg a rejeté le recours formé par K._ contre cette décision. C. K._ interjette recours de droit administratif contre ce jugement, en concluant, sous suite de dépens, à l'allocation d'une rente entière d'invalidité à partir du 5 avril 2001. A titre subsidiaire, il demande qu'une nouvelle expertise psychiatrique soit ordonnée. Il produit une lettre du 15 septembre 2003 du docteur A._, spécialiste FMH en psychiatrie et psychothérapie, dans laquelle ce praticien fait état d'une situation susceptible de justifier une remise en discussion des appréciations médicales faites antérieurement. L'Office de l'assurance-invalidité du canton de Fribourg déclare n'avoir pas de remarques particulières à formuler. L'Office fédéral des assurances sociales a renoncé à se déterminer.