Faits:
A. A.a M._, né en 1950, est titulaire d'une maturité de type A obtenue en 1971. Après avoir exercé divers emplois, il s'est inscrit dès mai 1994 à l'assurance-chômage. Le 18 mai 1999, il a présenté une demande de prestations de l'assurance-invalidité, en indiquant qu'il vivait auprès de ses parents, dont il s'occupait en fonctionnant comme aide-soignant. Dans un rapport du 16 juillet 1999, le docteur B._, spécialiste FMH en médecine interne, spécialiste en maladies rhumatismales et médecin traitant de l'assuré, a posé le diagnostic de coxarthrose bilatérale de degré moyen, plus importante à gauche qu'à droite, de dorsolombalgies chroniques sur troubles statiques du rachis et de kyste méniscal de la corne postérieure du ménisque externe du genou droit entraînant des gonalgies intermittentes. Il relevait que le patient avait présenté une incapacité de travail de 50 % à partir de mars 1997, qu'en raison de la coxarthrose et des dorsolombalgies celui-ci devrait pouvoir trouver une activité à mi-temps, ménageant le rachis et les hanches, et que dans le contexte social l'octroi d'une demi-rente d'invalidité s'imposait. Sur requête du médecin-conseil de l'Office de l'assurance-invalidité du canton de Fribourg, les docteurs N._ et C._ ont procédé à une expertise psychiatrique. Dans un rapport du 15 mai 2000, ils ont posé le diagnostic de troubles mixtes de la personnalité évitante et dépendante ([CIM-10] F 61.0). Ils ont relevé qu'en raison du handicap d'ordre physique mis en évidence par le docteur B._, une incapacité de travail de 50 % paraissait indiquée et ceci depuis 1996.
Dans un prononcé du 3 janvier 2001, l'office AI a conclu à une invalidité de 50 %. Par décision du 29 mars 2001, il a alloué à M._ une demi-rente d'invalidité à partir du 1er mai 1998, décision contre laquelle celui-ci a formé recours devant le Tribunal administratif du canton de Fribourg. Dans une lettre du 29 janvier 2001 et un rapport du 30 mars 2001, le docteur B._ a informé l'office AI de l'apparition dès octobre 2000 d'une lombosciatalgie droite de trajet L5 correspondant à la découverte d'une volumineuse hernie discale L3-L4, ce qui l'amenait à la conclusion que le patient présentait une incapacité de travail de 100 %, quel que soit le type d'activité exercée. Le 2 juin 2001, l'office AI a rendu pendente lite un nouveau prononcé concluant à une invalidité de 50 % dès le 1er mars 1998 et de 100 % dès le 1er janvier 2001, à la suite duquel M._ a retiré son recours. Par décision du 29 juin 2001, il lui a alloué une rente entière d'invalidité à partir du 1er janvier 2001. Lors d'une révision du droit à la rente intervenue dès le 4 septembre 2002, l'office AI, se fondant sur un rapport intermédiaire du docteur B._ du 1er octobre 2002, a avisé l'assuré qu'il continuait à avoir droit à une rente entière d'invalidité (communication du 11 octobre 2002).
A.b Dès le 14 février 2006, l'office AI a procédé derechef à la révision du droit de M._ à une rente entière d'invalidité. Le docteur S._, spécialiste FMH en chirurgie orthopédique, et le docteur B._ ont déposé leurs conclusions, le premier dans un rapport du 8 mars 2006 et le second dans un rapport du 27 mars 2006. L'office AI a confié une expertise interdisciplinaire au Centre X._. Se fondant sur un rapport d'expertise du 29 novembre 2006 du docteur A._, médecin-chef, et du docteur D._, spécialiste FMH en rhumatologie - médecine physique et réadaptation, et sur un rapport SMR du 8 janvier 2007 concluant à une capacité résiduelle de travail de cinq heures par jour sans diminution de rendement dans une activité adaptée, l'office AI a informé M._ dans un préavis du 15 octobre 2007 qu'il présentait une invalidité de 43,92 %, taux donnant droit à un quart de rente. Le docteur B._ et l'assuré ont fait part à l'office AI de leurs observations, le premier dans une prise de position du 23 octobre 2007 et le second dans une lettre datée du 6 novembre 2007. Par décision du 14 décembre 2007, l'office AI a réduit le droit de M._ à une rente entière d'invalidité à un quart de rente avec effet dès le premier jour du 2ème mois suivant la notification de la décision.
B. Le 29 janvier 2008, M._ a formé recours contre cette décision devant la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg, en concluant, sous suite de frais et dépens, à son annulation. Par arrêt du 11 juin 2010, la juridiction cantonale a rejeté le recours au motif substitué que l'octroi d'une rente entière d'invalidité était manifestement erroné.
C. M._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de frais et dépens, à sa réforme en ce sens "qu'il est dit qu'en l'absence de motif de reconsidération ou révision, l'office (AI) ne pouvait rendre la décision de diminution de rente qu'il a rendue le 14 décembre 2007".
L'Office de l'assurance-invalidité du canton de Fribourg n'a pas de remarques particulières à formuler différentes des considérants du jugement rendu par l'autorité de première instance. L'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1. 1.1 Le recours peut être formé notamment pour violation du droit fédéral (<ref-law>), que le Tribunal fédéral applique d'office (<ref-law>), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law> et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (<ref-law>) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF).
1.2 Toute conclusion nouvelle est irrecevable (<ref-law>). Telle qu'elle est formulée, la conclusion prise par le recourant devant la Cour de céans doit être comprise en ce sens qu'elle tend à l'annulation pure et simple du jugement entrepris et de la décision administrative litigieuse et donc au maintien du droit à une rente entière d'invalidité. Même si en procédure cantonale, le recourant a proposé dans une écriture du 17 mars 2010 une transaction où la décision du 14 décembre 2007 était remplacée par une décision lui octroyant une demi-rente d'invalidité dès le 1er février 2008, proposition que l'office AI a rejetée, il n'en demeure pas moins que le recours du 29 janvier 2008 concluait à l'annulation pure et simple de la décision administrative litigieuse, conclusion tendant elle aussi au maintien du droit à une rente entière d'invalidité.
2. Le litige porte sur la réduction à un quart de rente dès le 1er février 2008 du droit du recourant à une rente entière d'invalidité.
3. La juridiction cantonale, procédant à une comparaison des faits existant lors de la décision de rente entière du 29 juin 2001 et lors de la décision du 14 décembre 2007, a nié que les conditions d'une révision selon l'<ref-law> du droit du recourant à la rente soient réalisées. Elle a retenu que la situation ne s'était pas améliorée de manière significative au point de vue physique pendant cette période, la fin des problèmes au niveau de la hanche à droite coïncidant par ailleurs avec le début des problèmes à gauche, et qu'il en allait de même au niveau psychique, vu qu'à part les troubles de la personnalité signalés à l'origine, le recourant ne souffrait d'aucune atteinte psychiatrique, le tableau se superposant à celui dressé à l'époque. Ces constatations de l'autorité précédente ne sont pas manifestement inexactes et lient ainsi le Tribunal fédéral (<ref-law>). Elles ne sont pas remises en cause devant la Cour de céans. En conséquence, il se justifie de confirmer l'absence de motifs de révision selon l'<ref-law>.
4. La juridiction cantonale a confirmé la décision du 14 décembre 2007 de réduction de la rente entière d'invalidité à un quart de rente au motif substitué que la décision du 29 juin 2001 d'octroi d'une rente entière était manifestement erronée et que les conditions de sa reconsidération étaient réalisées.
4.1 Pour juger s'il est admissible de reconsidérer une décision pour le motif qu'elle est sans nul doute erronée, il faut se fonder sur les faits et la situation juridique existant au moment où cette décision a été rendue, compte tenu de la pratique en vigueur à l'époque (<ref-ruling> consid. 3 p. 389 et les références). Pour des motifs de sécurité juridique, l'irrégularité doit être manifeste, de manière à éviter que la reconsidération devienne un instrument autorisant sans autre limitation un nouvel examen des conditions à la base des prestations de longue durée. En particulier, les organes d'application ne sauraient procéder en tout temps à une nouvelle appréciation de la situation après un examen plus approfondi des faits. Ainsi, une inexactitude manifeste ne saurait être admise lorsque l'octroi de la prestation dépend de conditions matérielles dont l'examen suppose un pouvoir d'appréciation, quant à certains de leurs aspects ou de leurs éléments, et que la décision initiale paraît admissible compte tenu de la situation antérieure de fait ou de droit. S'il subsiste des doutes raisonnables sur le caractère erroné de la décision initiale, les conditions de la reconsidération ne sont pas remplies (par exemple arrêts 9C_860/2008 du 19 février 2009 consid. 4.1, 9C_221/2008 du 14 janvier 2009 consid. 2.2, 9C_71/2008 du 14 mars 2008 consid. 2). Le point de savoir si une décision est manifestement erronée est une question de droit que le Tribunal fédéral examine sur la base des faits retenus par l'autorité précédente et par lesquels il est lié.
4.2 La juridiction cantonale a retenu qu'il existait à côté de l'atteinte à la santé de trop nombreux critères étrangers à l'assurance-invalidité, présents du reste au moment du dépôt de la demande du 18 mai 1999, qui ne pouvaient ni ne devaient engager pleinement sa responsabilité. Ainsi, parmi les éléments sociaux, figurait une certaine précarité professionnelle et partant financière qui résultait d'un choix de vie du recourant, ancré autour d'une philosophie telle qu'il l'a résumée lui-même au cours de l'entretien qui a eu lieu lors de l'expertise du 29 novembre 2006. L'état de santé, y compris les problèmes de vision, n'avait dans ces conditions pas eu autant d'importance que cela sur son itinéraire professionnel. Par exemple, l'abandon par le recourant de sa dernière activité dans une auberge, où il avait travaillé de 1989 à 1994, avait moins été imposé par les atteintes dont il se prévalait que par le fait qu'il ne supportait plus la fréquentation des clients, départ qui avait eu lieu plutôt dans le cadre d'un conflit. En 1995, le voyage qu'il avait effectué pendant une année s'inscrivait à nouveau, manifestement, dans une optique de choix de vie. Par la suite, comme l'avaient relevé les docteurs A._ et D._ dans leur rapport du 29 novembre 2006, le recourant avait pu mettre à profit une capacité de travail en aidant ses parents âgés à leur domicile, activité pour laquelle il avait indiqué avoir été partiellement rémunéré, exerçant ainsi dans les faits le même genre d'activité que celle d'aide-infirmier qu'il avait eu l'occasion de pratiquer dans le passé. Dans le même temps, les docteurs N._ et C._ avaient noté dans leur expertise du 15 mai 2000 l'absence de pathologie psychique aiguë et considéré qu'il n'était pas indiqué de forcer le patient à entreprendre une mesure psychothérapeutique, ce qui à tout le moins laissait penser que l'octroi d'une rente d'invalidité n'était aucunement justifié d'un point de vue psychique.
4.3 Même en admettant que l'autorité précédente était en droit de retenir l'expertise des docteurs A._ et D._ du 29 novembre 2006 - postérieure de plus de cinq ans à la décision du 29 juin 2001 - au titre des éléments ayant amené l'office AI à rendre cette décision, la confrontation de ce rapport aux autres pièces du dossier ne permet pas de considérer que la décision initiale de rente entière d'invalidité était manifestement erronée. Il s'agit d'une appréciation médicale différente de celle des experts N._ et C._ et de celle du docteur B._. Les faits mentionnés ci-dessus (supra, consid. 4.2), retenus par la juridiction cantonale essentiellement sur la base de l'expertise des docteurs A._ et D._ du 29 novembre 2006, laissent toutefois subsister des doutes raisonnables sur le caractère erroné de la décision de rente entière d'invalidité du 29 juin 2001.
Au regard de l'expertise des docteurs N._ et C._ du 15 mai 2000, la décision de rente entière du 29 juin 2001 n'est pas manifestement erronée. Si les docteurs A._ et D._, dans leur expertise du 29 novembre 2006, ont estimé pour leur part que les connotations particulières de la personnalité du recourant ne le gênaient pas dans sa vie quotidienne, en relevant qu'elles ne l'avaient pas empêché d'effectuer depuis une trentaine d'années des activités diverses, les docteurs N._ et C._, dans leur rapport du 15 mai 2000, ont considéré de leur côté que les caractéristiques de la personnalité de l'assuré l'avaient empêché de faire face aux difficultés de la vie qu'il avait éprouvées, se défendant au travers d'une attitude d'isolement et de repli, et qu'en raison de la problématique psychique et physique, l'incapacité de travail était probablement plus importante que 50 % et ceci déjà depuis plusieurs années. Les docteurs N._ et C._ ont aussi relevé la motivation du recourant à exercer une activité professionnelle. L'irrégularité constatée par la juridiction cantonale en ce qui concerne son droit à une rente d'invalidité sur le plan psychique ne saurait dès lors être qualifiée de manifeste.
Au regard du rapport du docteur B._ du 30 mars 2001, la décision de rente entière du 29 juin 2001 n'est pas non plus manifestement erronée. Du jugement entrepris, il résulte que cette décision se fonde sur le prononcé de l'office AI du 2 juin 2001 concluant à une invalidité de 100 % dès le 1er janvier 2001, compte tenu de l'aggravation de l'état de santé de l'assuré dès octobre 2000 attestée par le docteur B._ dans son rapport du 30 mars 2001. Même si à l'époque, comme l'a relevé l'autorité précédente, le recourant n'a pas été opéré de la hernie discale diagnostiquée par ce médecin, il n'en demeure pas moins, comme cela ressort de ce rapport, que la sciatalgie avait tendance à régresser, avec persistance cependant de lombalgies, et qu'une intervention chirurgicale n'entrait pas en ligne de compte. Au vu de la coxarthrose bilatérale ainsi que des dorso-lombalgies et de la sciatalgie droite intermittente, le docteur B._ a affirmé que l'incapacité de travail était de 100 %, quel que soit le type d'activité exercée.
Il s'ensuit que les conditions d'une reconsidération de la décision de rente entière d'invalidité du 29 juin 2001 ne sont pas réalisées et que le jugement entrepris est sur ce point contraire au droit fédéral (supra, consid. 4.1). Le recours est bien fondé.
5. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge de l'intimé, qui succombe (<ref-law>). Le recourant, qui obtient gain de cause, a droit à une indemnité de dépens pour l'instance fédérale (<ref-law>). La cause doit être renvoyée à la juridiction cantonale pour décision sur les dépens de la procédure antérieure (art. 61 let. g LPGA).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et le jugement de la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg, du 11 juin 2010, et la décision de l'Office de l'assurance-invalidité du canton de Fribourg du 14 décembre 2007 sont annulés.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de l'intimé.
3. L'intimé versera au recourant la somme de 2'800 fr. (y compris la taxe sur la valeur ajoutée) à titre de dépens pour la dernière instance.
4. La cause est renvoyée à la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg pour décision sur les dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 6 avril 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner