Faits:
A. A.a M._, né le 5 août 1971, a travaillé au service de l'entreprise D._ Sàrl, auprès de laquelle il a effectué dès août 1997 un apprentissage de charpentier, formation qu'il a terminée avec l'obtention d'un certificat fédéral de capacité en juin 2000. Le 24 janvier 2000, alors qu'il travaillait sur un chantier, il a été victime d'une chute se soldant par une impaction astragalienne droite dont l'évolution a été défavorable et a abouti à une arthrodèse sous-astragalienne. La Caisse nationale suisse d'assurance en cas d'accidents (ci-après: CNA) a pris en charge le cas. Par décision du 30 août 2005, elle a alloué à M._ une rente d'invalidité dès le 1er juillet 2005 pour une incapacité de gain de 34 %. Elle a confié une expertise au docteur S._, spécialiste FMH en psychiatrie et psychothérapie. Dans un rapport du 3 mai 2007, ce médecin a posé le diagnostic de troubles de l'adaptation à un facteur de stress important, avec réaction mixte anxieuse et dépressive prolongée, (à l'heure actuelle) d'intensité moyenne ([CIM-10] F43.22). Partant de l'idée que l'assuré pourrait exercer à 50 % une activité compatible avec son état, le docteur S._ a proposé que la rente d'invalidité soit augmentée à 50 % afin de tenir compte d'une incapacité de travail de 16 % du point de vue psychiatrique. Par décision du 28 juin 2007, la CNA, annulant sa décision du 30 août 2005 en tant qu'elle refusait de reconnaître sa responsabilité pour les troubles psychiques, a alloué à M._ une rente d'invalidité dès le 1er juillet 2005 pour une incapacité de gain de 50 %.
A.b Le 3 octobre 2000, M._ a présenté une demande de prestations de l'assurance-invalidité. Les médecins traitants de l'assuré ont déposé leurs conclusions, le docteur C._ (généraliste) dans des rapports du 31 octobre 2000 et 29 septembre 2003, le docteur B._ (spécialiste FMH en chirurgie orthopédique) dans des rapports du 8 janvier, 11 juin et 27 novembre 2001, le docteur A._ (spécialiste FMH en chirurgie orthopédique) dans des rapports du 3 mai et 25 juillet 2002, le docteur N._ et le psychologue R._ de l'Hôpital X._ dans un rapport du 22 janvier 2004. Dès le 15 mars 2004, M._ a effectué un stage auprès de l' l'Hôpital Y._, mesure qui a été prolongée jusqu'au 14 octobre 2004 (rapport de l'Hôpital Y._ du 7 octobre 2004). Sur la base d'un rapport du docteur H._ (spécialiste FMH en rhumatologie) du 22 juin 2004, d'un rapport du docteur C._ du 13 août 2004 et d'un rapport du docteur N._ et du psychologue R._ du 11 août 2004, la doctoresse O._ du Centre Z._ a proposé dans un avis du 1er décembre 2004 qu'une expertise psychiatrique soit confiée au docteur G._, spécialiste FMH en psychiatrie et psychothérapie. Dans un rapport du 20 mai 2005, le docteur G._ et la psychologue D._ ont posé les diagnostics (Axe I) de trouble douloureux associé à une affection médicale générale ([CIM-10] F45.4), d'état de stress post-traumatique (F43.1), de trouble dépressif majeur, isolé, en rémission partielle, de gravité actuelle mineure (F32.4), de trouble panique sans agoraphobie (F41.0), d'anxiété généralisée (F41.1) et de non-observance du traitement (Z91.1) et le diagnostic (Axe II) de trouble de la personnalité, non spécifié (F60.9). Ils indiquaient que sur le plan psychiatrique, une incapacité de travail totale était attestée dès le 24 janvier 2000 dans toute activité, encore à l'heure actuelle, et probablement pour une longue durée, que des mesures de réhabilitation professionnelle étaient préconisées par le biais d'un stage d'évaluation et qu'en cas d'échec de ces mesures, une invalidité psychiatrique d'au moins 70 % devrait être reconnue à l'assuré.
L'Office de l'assurance-invalidité pour le canton de Vaud a informé M._ par lettre du 21 novembre 2005 des motifs pour lesquels les médecins du Centre Z._, après avoir pris connaissance de l'expertise du docteur G._ du 20 mai 2005, considéraient comme nécessaire la mise en oeuvre d'un examen psychiatrique. Le 6 juillet 2006, le docteur I._, spécialiste FMH en psychiatrie et médecin du Centre Z._, a procédé à cet examen. Dans un rapport du 2 octobre 2006, il a relevé que les critères pour le diagnostic d'un état de stress post-traumatique n'étaient pas remplis et que les critères pour une maladie dépressive majeure et pour un syndrome douloureux somatoforme persistant ne l'étaient pas non plus. Posant les diagnostics sans répercussion sur la capacité de travail de majoration de symptômes physiques pour des raisons psychologiques (F68.0), de trouble du sommeil non organique (F52.2), insuffisamment traité, et de traits de personnalité obsessionnelle-compulsive (F60.5), ce médecin indiquait que du point de vue psychiatrique, la capacité de travail exigible était de 100 % depuis le 24 janvier 2000 dans une activité adaptée. Dans un rapport d'examen du 28 septembre 2006, la doctoresse O._ a considéré que depuis juillet 2003, la capacité de travail exigible dans une activité adaptée aux limitations fonctionnelles somatiques (alternance des positions assise et debout, pas de déplacements fréquents, prolongés ou de marche en terrain irrégulier) était de 100 %. Après avoir pris connaissance de l'expertise psychiatrique du 3 mai 2007 effectuée par le docteur S._ pour le compte de la CNA, le docteur V._, médecin du Centre Z._, a relevé dans un avis du 22 octobre 2007 qu'aucun nouvel élément par rapport à l'examen psychiatrique du 6 juillet 2006 ne figurait dans l'expertise et que les propositions de l'expert en ce qui concerne la capacité de travail de l'assuré (incapacité de travail de 16 % du point de vue psychiatrique pour arriver à 50 %) étaient difficilement compréhensibles et n'étaient pas motivées par des éléments médicaux objectifs.
Dans un préavis du 16 janvier 2008, l'office AI a informé M._ qu'il avait présenté une invalidité de 100 % dès le 24 janvier 2001 et qu'il avait droit à une rente entière d'invalidité du 1er janvier 2001 au 30 septembre 2003, attendu que depuis le mois de juillet 2003 la capacité de travail exigible de sa part était de 100 % dans une activité adaptée aux limitations fonctionnelles. Après que l'assuré lui eut fait part de ses observations par lettre du 13 février 2008, l'office AI a pris position le 26 juin 2008 en rejetant les arguments de celui-ci. Par décision du 7 octobre 2008, il a alloué à M._ une rente entière d'invalidité du 1er janvier 2001 au 31 mai 2003 (recte: 30 septembre 2003).
B. Le 5 novembre 2008, M._ a formé recours contre cette décision devant le Tribunal des assurances du canton de Vaud, en concluant, sous suite de frais et dépens, à sa réforme en ce sens qu'il avait droit au-delà du 30 septembre 2003 à une demi-rente d'invalidité.
Par arrêt du 3 mai 2010, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a rejeté le recours.
C. M._ interjette un recours en matière de droit public contre ce jugement, en concluant, sous suite de dépens, à la réforme de celui-ci en ce sens qu'il est dit qu'il a droit dès le 1er octobre 2003 à une demi-rente d'invalidité de l'assurance-invalidité.
Considérant en droit:
1. 1.1 Le recours peut être formé notamment pour violation du droit fédéral (art. 95 let. a LTF), que le Tribunal fédéral applique d'office (art. 106 al. 1 LTF), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF).
1.2 Les principes relatifs au pouvoir d'examen développés dans l'ATF 132 V 393 consid. 3 p. 397 s. (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application du droit par cette dernière (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité - dans la mesure où elle dépend d'une évaluation de la personne concrète, de son état de santé et de ses capacités fonctionnelles - relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (ATF 132 V 393 consid. 3.2 p. 398). Ces principes s'appliquent également en ce qui concerne la question de savoir si la capacité de travail, respectivement l'incapacité de travail, de l'assuré s'est modifiée d'une manière déterminante sous l'angle de la révision au cours d'une certaine période (par exemple arrêts 9C_413/2008 du 14 novembre 2008 et 9C_270/2008 du 12 août 2008).
2. Le litige, relatif au droit du recourant à une rente entière d'invalidité jusqu'au 30 septembre 2003, porte sur le point de savoir s'il a droit dès le 1er octobre 2003 à une demi-rente d'invalidité, singulièrement sur la capacité de travail et la portée de l'évaluation de l'invalidité de l'assurance-accidents pour l'assurance-invalidité.
2.1 Les règles et principes jurisprudentiels sur la révision du droit à une rente d'invalidité (art. 17 al. 1 LPGA; ATF 130 V 343 consid. 3.5 p. 349; voir également ATF 133 V 545) sont applicables lorsque la décision de l'assurance-invalidité accordant une rente avec effet rétroactif prévoit en même temps la suppression de cette rente (ATF 131 V 164 consid. 2.2 p. 165, 125 V 413 consid. 2d p. 417 s. et les références).
2.2 Le jugement entrepris expose correctement les dispositions légales relatives aux notions d'incapacité de gain (art. 7 al. 1 et 2 LPGA depuis le 1er janvier 2008) et d'invalidité (art. 4 al. 1 LAI et 8 al. 1 LPGA). On peut ainsi y renvoyer.
3. La juridiction cantonale, se fondant sur les conclusions du docteur I._ dans son rapport du 2 octobre 2006, dont elle a admis qu'il remplissait les critères jurisprudentiels (ATF 125 V 351 consid. 3a p. 352) qui permettent de lui reconnaître pleine valeur probante, a retenu que, sur le plan somatique, la capacité de travail du recourant était entière dans une activité adaptée et qu'il en allait de même, sur le plan psychique, dans toute activité. Constatant que le degré d'invalidité était de 17,43 %, taux insuffisant pour ouvrir droit à une rente d'invalidité, elle a considéré que c'était à bon droit que l'office AI avait supprimé le droit à la rente du recourant au 30 septembre 2003, soit trois mois après l'amélioration de son état de santé.
3.1 L'autorité précédente a rejeté l'argument du recourant fondé sur les rapports d'expertise prétendument concordants des docteurs G._ du 20 mai 2005 et S._ du 3 mai 2007. Elle a relevé que l'évaluation du docteur S._ n'était pas convaincante et qu'il convenait dès lors de s'en écarter, vu qu'elle ne reposait pas sur des éléments objectifs puisque l'incapacité de travail n'avait pas été estimée par le médecin seul, mais avait été fixée sur le plan psychique à 16 % en déduisant le taux de 34 % d'incapacité de gain admis par la CNA dans sa décision du 30 août 2005 du taux de 50 % auquel l'assuré acceptait de travailler selon la proposition de l'expert. Cela n'est nullement discuté par le recourant, qui sans autre explication nie tout défaut d'objectivité de l'expertise du 3 mai 2007. On relèvera tout de même que le docteur S._ ne s'est en aucun cas prononcé sur l'exigibilité en ce qui concerne la capacité de travail dans une activité adaptée aux limitations fonctionnelles et qu'ainsi, faute d'avoir dûment motivé ses conclusions, son rapport du 3 mai 2007 n'a pas pleine valeur probante (ATF 125 V 351 consid. 3a p. 352; 122 V 157 consid. 1c p. 160 et les références).
Quant à l'expertise du docteur G._ et de la psychologue D._ du 20 mai 2005, la juridiction cantonale a considéré qu'il convenait de s'écarter de leurs conclusions et retenu que l'incapacité de travail n'apparaissait pas comme pertinente ni fondée et qu'en l'absence de compliance au traitement anti-dépresseur, le recourant n'avait pas entrepris tout ce qui était exigible de sa part pour diminuer le dommage, ce que celui-ci ne discute pas. Elle a relevé que l'expertise du 20 mai 2005 était discutée par le docteur I._ dans son rapport du 2 octobre 2006, lequel avait estimé que l'incapacité de travail retenue par le docteur G._ n'était pas justifiée. Quoi qu'en dise le recourant, l'évaluation de l'incapacité de travail par le docteur G._ et la psychologue D._ ne repose pas sur un examen de la capacité de travail exigible dans une activité adaptée aux limitations fonctionnelles et leurs conclusions ne sont donc pas dûment motivées, de sorte que l'expertise du 20 mai 2005 ne saurait avoir pleine valeur probante (ATF 125 V 351 consid. 3a p. 352; 122 V 157 consid. 1c p. 160 déjà cités). Le recours est mal fondé de ce chef.
3.2 Selon la jurisprudence (ATF 133 V 549 consid. 6 p. 553 s.), l'assurance-invalidité n'est pas liée par l'évaluation de l'invalidité de l'assurance-accidents au sens de l'ATF 126 V 288. Dans la mesure où le recourant, se référant à l'arrêt ATF 126 V 288, laisse entendre que l'assurance-invalidité est liée, en principe, par l'évaluation de l'invalidité de l'assurance-accidents et qu'il n'existe en l'espèce aucun motif de s'écarter du taux d'invalidité de 50 % fixé par la CNA dans sa décision du 28 juin 2007, son argumentation n'est pas pertinente. Les arrêts auxquels il se réfère 9C_858/2008 du 17 février 2009 (in SVR 2009 IV n° 29 p. 83) et 9C_431/2008 du 26 février 2009 (in SVR 2009 IV n° 30 p. 85) ne lui sont d'aucun secours.
3.3 La juridiction cantonale, constatant que le degré d'invalidité du recourant était de 17,43 %, a admis que les conditions étaient ainsi réunies pour supprimer son droit à une rente entière d'invalidité au 30 septembre 2003. Le jugement entrepris est dès lors conforme au droit fédéral (supra, consid. 2.1). Le recours est mal fondé.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (art. 66 al. 1 LTF). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 24 janvier 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Le Greffier:
Meyer Wagner