Faits:
A. A.a S._, né en 1967, est entré au service du magasin X._ le 1er mars 1996, en oeuvrant en qualité de responsable du rayon des fruits et légumes. Mis en arrêt de travail à partir du 25 octobre 2004 par son médecin traitant, le docteur P._, spécialiste FMH en médecine interne, il a présenté le 16 janvier 2006 une demande de prestations de l'assurance-invalidité. Dans un rapport du 7 février 2006, ce médecin a posé le diagnostic de discopathies lombaires étagées ayant nécessité de multiples traitements dont une neutralisation dynamique L4-L5 et L5-S1 effectuée le 3 mars 2005 par le docteur M._ (spécialiste FMH en chirurgie orthopédique), diagnostic qu'il a rectifié dans un rapport E 213 du 6 octobre 2006 en indiquant que les discopathies avaient résisté aux traitements et que le docteur M._ avait mis en évidence une instabilité de la vertèbre sus-jacente. Le docteur M._ a procédé le 5 décembre 2006 à une nouvelle intervention chirurgicale en prolongeant la stabilisation dynamique en L2-L3 et L3-L4 et déposé ses conclusions dans un rapport du 12 février 2007.
Du 9 au 11 janvier 2007, l'assuré a séjourné à la Clinique Z._ à laquelle l'Office cantonal AI du Valais avait confié une expertise pluridisciplinaire, qui fut effectuée par le docteur R._ (spécialiste FMH en rhumatologie), la doctoresse Z._ (spécialiste FMH en psychiatrie et psychothérapie) et le docteur G._ (spécialiste FMH en neurologie). Dans un rapport daté du 23 novembre (recte: janvier) 2007, les docteurs R._ et Z._ ont posé les diagnostics ayant une répercussion sur la capacité de travail de rachialgie commune (M54.4) et de spondylodèse intersomatique L4-L5 et L5-S1 (le 3 mars 2005) et L2 à S1 (le 5 décembre 2006): Après une période post-opératoire de trois mois environ à compter du 5 décembre 2006 pendant laquelle aucune activité professionnelle ne pouvait être exigée, la capacité de travail était complète dans une activité adaptée aux problèmes du rachis (éviter les ports de charges au-delà de 10 kg, les stations assises ou debout prolongées et les stations en flexion et/ou rotation du tronc). Le docteur C._, spécialiste FMH en médecine générale et médecin SMR, a conclu à une capacité de travail exigible de 100 % dès le 31 mars 2007 dans une activité adaptée aux limitations fonctionnelles (rapport du 13 février 2007 et avis du 19 septembre 2007), ce qu'il a confirmé dans un avis du 14 mai 2008 après l'ablation du matériel d'ostéosynthèse.
Par décision du 5 juin 2008, l'office AI, considérant qu'il était raisonnablement exigible de la part de S._ qu'il exerce une activité légère et adaptée à 100 % à partir du 31 mars 2007, a statué qu'il avait droit à une rente entière d'invalidité pendant la période du 1er octobre 2005 au 30 juin 2007. Sur recours de l'assuré contre cette décision, le Tribunal cantonal du canton du Valais, Cour des assurances sociales, a par jugement du 20 novembre 2008 annulé la décision du 5 juin 2008, le dossier étant retourné à l'office AI pour instruction complémentaire et nouvelle décision.
A.b L'Office cantonal AI du Valais a confié une expertise multidisciplinaire au CeMed. Celle-ci a été effectuée par les docteurs A._ (spécialiste FMH en chirurgie orthopédique), H._ (spécialiste FMH en neurologie) et U._ (spécialiste FMH en psychiatrie-psychothérapie), lesquels ont examiné l'assuré le 22 avril 2009. Dans un rapport du 3 juin 2009, ces médecins n'ont retenu aucun diagnostic ayant une répercussion sur la capacité de travail. Sur le plan orthopédique, les lésions effectivement objectivables étaient relativement modérées, mais conjuguées au status après multiples interventions chirurgicales, elles pouvaient expliquer une certaine symptomatologie douloureuse contre-indiquant une reprise du travail dans une profession lourde, de sorte que l'incapacité de travail était de 100 % dans l'activité professionnelle antérieure de vendeur (activité debout et avec port de charge). L'incapacité de travail de 100 % devait être maintenue en raison des multiples interventions chirurgicales jusqu'à l'ablation du matériel d'ostéosynthèse et au curetage de la métallose en avril 2008; après cette intervention, une reprise de travail progressive dans une activité adaptée aurait dû avoir lieu dans les 4 à 6 mois de sorte que sur le plan orthopédique la capacité de travail était de 100 % dans une activité adaptée, évitant les ports de charges et les positions prolongées ou penché en avant et les rotations répétées du tronc. La preuve d'une participation neurologique significative aux rachialgies lombaires et cervicales présentées par l'assuré n'était pas rapportée et il n'y avait pas non plus d'incapacité de travail à retenir tant en ce qui concerne l'activité exercée préalablement que toute autre activité professionnelle potentiellement exigible sur ce plan. Enfin, il n'y avait pas de pathologie psychiatrique décelable, les critères du syndrome douloureux somatoforme persistant n'étaient pas atteints et la capacité de travail était entière sur le plan psychique.
Dans un rapport final du 14 juillet 2009, le docteur C._ a modifié son appréciation des limitations fonctionnelles, le port de charge étant limité à 2-3 kg, et retenu qu'une pleine capacité de travail dans une activité adaptée n'était exigible que depuis le 3 octobre 2008, en raison de la métallose qui pouvait expliquer la persistance de l'état douloureux. Dans un préavis du 2 novembre 2009, l'office AI a informé S._ de son droit à une rente entière d'invalidité du 1er octobre 2005 au 31 janvier 2009. L'assuré a fait part à l'office AI de ses observations, en produisant une lettre du docteur M._ du 2 décembre 2009 sur laquelle le docteur C._ a pris position dans un avis du 11 janvier 2010. S._ a communiqué à l'office AI une expertise privée du 25 février 2010 du docteur O._ (spécialiste FMH en chirurgie orthopédique et traumatologie) fondée sur un examen et un contrôle radiologique du 16 février 2010, où ce médecin prenait position sur le rapport d'expertise du CeMed. Par deux décisions du 17 mars 2010, l'office AI a statué que S._ avait droit à une rente entière d'invalidité du 1er octobre 2005 au 31 janvier 2009.
B. Le 15 avril 2010, l'intéressé a formé recours contre ces décisions devant la Cour des assurances sociales du Tribunal cantonal du canton du Valais, en concluant, sous suite de frais et dépens, à son annulation et à l'octroi d'une rente entière d'invalidité au-delà du 31 janvier 2009. Alléguant que les conclusions des experts du CeMed dans leur rapport du 3 juin 2009 étaient en contradiction avec celles du docteur O._ dans son rapport du 25 février 2010, il requérait la mise en oeuvre d'une expertise médicale.
Sur proposition de l'Office cantonal AI du Valais, la juridiction cantonale a invité S._ à transmettre les radiographies effectuées par le docteur O._ aux médecins du CeMed pour appréciation. Dans un rapport complémentaire du CeMed du 6 septembre 2010, le docteur A._ a relevé que les radiographies du 16 février 2010 objectivaient une péjoration modérée des pincements discaux L2-L3, L3-L5 et L4-S1 par rapport aux radiographies précédentes et n'objectivaient pas de nouvelle pathologie mais une péjoration des pathologies précédemment décrites, que les troubles dégénératifs lombaires s'étaient légèrement péjorés depuis les examens précédents et restaient cependant encore modérés et qu'une capacité de travail dans une activité adaptée était probablement possible à 100 % (en évitant les ports de charges et les positions prolongées ou les positions penchées en avant, les rotations du tronc répétées). Ainsi, fondamentalement, les conclusions sur le plan orthopédique de l'expertise du 3 juin 2009 n'étaient pas modifiées, les diagnostics étant superposables, même s'il existait une péjoration des troubles dégénératifs lombaires qui restait encore relativement modérée.
Dans un rapport final du 17 septembre 2010, le docteur B._, spécialiste FMH en médecine physique et réadaptation et médecin SMR, a relevé que l'opinion du docteur A._ était corroborée par les constatations du docteur H._, que la description des deux médecins du CeMed était cohérente et qu'ils arrivaient en synthèse à des conclusions mieux motivées que celles du docteur O._. Dans sa réponse du 21 septembre 2010, l'office AI a conclu au rejet du recours. S._ a déposé ses observations dans une écriture du 11 octobre 2010.
Par jugement du 27 janvier 2011, la Cour des assurances sociales du Tribunal cantonal valaisan a rejeté le recours.
C. S._ interjette un recours contre ce jugement, en concluant, sous suite de frais et dépens, à son annulation, la cause étant renvoyée à l'Office cantonal AI du Valais pour qu'il procède à l'administration d'une expertise en bonne et due forme tendant à déterminer tant les diagnostics pertinents que la capacité de travail résiduelle dans une activité adaptée. Il produit un rapport du docteur O._ du 4 octobre 2010.

Considérant en droit:
1. 1.1 Le recours interjeté céans est formé pour violation du droit fédéral (<ref-law>) - incluant les droits fondamentaux - et est dirigé contre une décision finale (<ref-law>) rendue en dernière instance cantonale (art. 86 al. 1 let. d LTF) dans une cause de droit public (<ref-law>), sans qu'une des exceptions prévues à l'<ref-law> soit réalisée. La voie du recours en matière de droit public est ainsi ouverte.
1.2 Le recours peut être formé notamment pour violation du droit fédéral (<ref-law>), que le Tribunal fédéral applique d'office (<ref-law>), n'étant ainsi limité ni par les arguments du recourant, ni par la motivation de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p.140). Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law> et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>). Il examine sur la base des griefs soulevés dans le recours si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (<ref-law>) y compris une éventuelle constatation des faits manifestement inexacte ou en violation du droit (art. 97 al. 1, art. 105 al. 2 LTF).
1.3 Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>). Le recourant produit un rapport du docteur O._ du 4 octobre 2010 et déclare que les réponses de ce médecin aux documents qu'il lui avait transmis le 23 septembre 2010 avaient fait l'objet de son écriture du 11 octobre 2010 et qu'elles ressortent de ce rapport. Au regard de l'<ref-law>, ces moyens ne sont pas admissibles, le jugement entrepris ne justifiant pas pour la première fois de les soulever et le recourant ne montrant pas en quoi les conditions d'une exception à l'interdiction des faits ou moyens de preuve nouveaux selon cette disposition légale sont remplies (<ref-ruling> consid. 4.1 p. 266, 133 III 393 consid. 3 p. 395; ULRICH MEYER/JOHANNA DORMANN in: M.A. Niggli/P. Uebersax/H. Wiprächtiger [édit.], Bundesgerichtsgesetz, Bâle 2011 (2ème éd.), ad <ref-law>, n° 40 p. 1319).
1.4 Les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 s. continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application du droit par cette dernière (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité - dans la mesure où elle dépend d'une évaluation de la personne concrète, de son état de santé et de ses capacités fonctionnelles - relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398). Ces principes s'appliquent également en ce qui concerne la question de savoir si la capacité de travail, respectivement l'incapacité de travail, de l'assuré s'est modifiée d'une manière déterminante sous l'angle de la révision au cours d'une certaine période (par exemple arrêt 9C_28/2011 du 6 octobre 2011 consid. 1.2).
2. Le litige porte sur le droit du recourant à une rente entière d'invalidité, singulièrement sur le point de savoir si le recourant a présenté depuis le 3 octobre 2008 une pleine capacité de travail dans une activité adaptée et si les conditions étaient réunies pour que l'office AI supprime à partir du 1er février 2009 son droit à une rente d'invalidité.
2.1 Le jugement entrepris expose correctement les règles et principes jurisprudentiels sur la révision du droit à une rente d'invalidité (<ref-law>; <ref-ruling> consid. 3.5 p. 349; voir également <ref-ruling>), applicables lorsque la décision de l'assurance-invalidité accordant une rente avec effet rétroactif prévoit en même temps la suppression de cette rente (<ref-ruling> consid. 2.2 p. 165, 125 V 413 consid. 2d p. 417 s. et les références).
2.2 Les principes jurisprudentiels en matière de libre appréciation des preuves et de valeur probante de rapports médicaux sont exposés correctement dans le jugement entrepris, auquel on peut renvoyer.
3. La juridiction cantonale, niant l'existence d'une atteinte d'une gravité qui empêche l'exercice d'activités légères adaptées aux troubles du rachis, a retenu que le recourant avait recouvré dès le 3 octobre 2008 une pleine capacité de travail dans une activité légère adaptée aux troubles du rachis.
3.1 Le recourant conteste que le rapport d'expertise du 3 juin 2009 remplisse les critères jurisprudentiels permettant de reconnaître à un rapport médical pleine valeur probante, pour le motif que les médecins du CeMed n'ont effectué aucune radiographie et que celles auxquelles ils se sont référés dataient de plusieurs années, alors qu'on pouvait s'attendre à la suite du jugement de renvoi du 20 novembre 2008 qu'ils procèdent à un contrôle radiologique standard de la colonne lombaire. Vu que le docteur O._ a procédé à un contrôle radiologique le 16 février 2010 en effectuant des clichés de la colonne lombaire, il reproche à la juridiction cantonale d'avoir manqué à son obligation d'établir les faits pertinents de la cause au moment des décisions du 17 mars 2010, singulièrement conteste la manière dont les preuves ont été appréciées en ce qui concerne les aggravations de son état de santé dont a fait état le docteur O._.
3.2 Les moyens invoqués ci-dessus par le recourant ne sont pas de nature à mettre en doute la valeur probante du rapport d'expertise du CeMed du 3 juin 2009, dont la juridiction cantonale a admis à juste titre qu'il remplissait les critères jurisprudentiels permettant de reconnaître à un rapport médical pleine valeur probante (<ref-ruling> consid. 5.1 p. 232, 125 V 351 consid. 3a p. 352). En particulier, l'autorité précédente a relevé que les experts du CeMed s'étaient fondés sur des examens approfondis en tous points. S'agissant du dossier radiologique, elle a relevé qu'ils s'étaient fondés sur les examens accomplis de juin 2000 à novembre 2008 et avaient procédé à un électromyogramme (EMG). Il convient d'ajouter que, comme cela ressort du dossier, les radiographies effectuées jusqu'en novembre 2008 comprenaient une IRM lombaire du 11 novembre 2008, mentionnée dans le rapport d'expertise du 3 juin 2009. Le 22 avril 2009, les docteurs A._, H._ et U._ ont procédé à l'examen de l'assuré. Dans leur rapport du 3 juin 2009, ils se sont fondés sur les radiographies accomplies jusqu'en novembre 2008, dont l'IRM lombaire du 11 novembre 2008 qu'il y a lieu de considérer comme étant récente à l'époque de leurs examens. Dans le rapport complémentaire du CeMed du 6 septembre 2010, le docteur A._ a comparé les radiographies de la colonne vertébrale réalisées en février 2010 avec les examens radiologiques de la colonne vertébrale de 2008. Compte tenu de ce rapport complémentaire, l'expertise du CeMed a pleine valeur probante.
3.3 Contestant l'appréciation des preuves à laquelle a procédé la juridiction cantonale, le recourant remet en cause le résultat de cette appréciation, que le Tribunal fédéral n'examine que sous l'angle restreint de l'arbitraire (<ref-ruling> consid. 1.3 p. 4 s.).
L'autorité précédente a relevé qu'à l'aune des radiographies accomplies jusqu'en novembre 2008 (IRM lombaire du 11 novembre 2008), les médecins du CeMed avaient noté qu'il n'y avait pas de lésions significatives pouvant expliquer la symptomatologie persistante de l'assuré et que sur le plan orthopédique les lésions effectivement objectivables étaient relativement modérées et que dans leur rapport du 3 juin 2009, ils avaient conclu à une capacité de travail de 100 % dans une activité légère adaptée, évitant les ports de charges et les positions prolongées ou les positions penchées en avant et les rotations du tronc répétées. Elle a relevé également que les clichés de la colonne lombaire pris lors du contrôle radiologique du 16 février 2010 avaient montré des discopathies nettes à tous les niveaux de la colonne avec des pincements postérieurs et un rétrolisthésis au niveau de L2-L3, de L3-L4 et une discopathie importante L5-S1 et que dans son rapport du 25 février 2010, le docteur O._ était de l'avis que ces troubles dégénératifs expliquaient désormais le tableau douloureux et que la capacité de travail exigible était de 30 %, même dans une activité légère adaptée aux troubles du rachis. Enfin, elle a relevé que dans le rapport complémentaire du CeMed du 6 septembre 2010, le docteur A._ avait indiqué que les nouvelles radiographies objectivaient une péjoration "modérée" des pincements discaux L2-L3, L3-L5 et L4-S1 et n'objectivaient pas de nouvelle pathologie mais une péjoration des pathologies précédemment décrites, que les diagnostics demeuraient inchangés et que la capacité de travail dans une activité adaptée était probablement possible à 100 %.
Tenant compte de l'ensemble de ces éléments, la juridiction cantonale a mis en avant l'appréciation du docteur B._ (rapport SMR du 17 septembre 2010) selon laquelle l'avis du docteur A._ du 6 septembre 2010 était corroboré par les constatations du docteur H._, dont l'EMG n'avait pas révélé de signe d'atteinte neurogène et qui au terme de ses examens n'avait pas constaté d'atteinte pouvant expliquer les plaintes de l'assuré. Elle en a déduit que le fait, sur lequel se fondait le docteur A._, que les dernières radiographies accomplies en 2010 aient montré une péjoration des discopathies depuis novembre 2008, ne suffisait pas à lui seul à mettre en doute les conclusions qui procédaient d'une approche pluridisciplinaire des experts du CeMed, lesquels avaient procédé à d'autres examens et tests, notamment neurologiques, qui n'avaient pas permis de mettre en évidence une atteinte d'une gravité qui justifierait de retenir que l'assuré ne serait plus à même d'accomplir des activités légères adaptées aux troubles du rachis.
Le recourant ne démontre nullement que les considérations de la juridiction cantonale soient insoutenables, voire arbitraires. Invoquant le commentaire de l'expertise du CeMed par le docteur O._ dans son rapport du 25 février 2010, où ce médecin a attesté cliniquement un blocage lombaire complet avec une colonne figée et s'est étonné que les experts n'aient pas procédé à un contrôle radiologique standard de la colonne lombaire en relevant que ces clichés auraient pu confirmer l'état nettement aggravé de la colonne lombaire, il reproche aux premiers juges de n'avoir pas relevé "cette importante divergence". Cela n'a toutefois pas échappé à l'autorité précédente, laquelle s'est fondée également sur le rapport complémentaire du CeMed du 6 septembre 2010 prenant en compte les radiographies de la colonne vertébrale réalisées en février 2010, pour nier l'existence d'une atteinte d'une gravité qui empêche l'exercice d'activités légères adaptées aux troubles du rachis. Même si le recourant qualifie ce rapport de "plaidoyer pro domo" du docteur A._, on ne saurait mettre en doute l'objectivité du rapport complémentaire, que le docteur A._, en sa qualité de spécialiste FMH en chirurgie orthopédique, a établi après avoir examiné les radiographies de la colonne vertébrale réalisées en février 2010. Le recourant ne démontre pas que le docteur M._ dans sa lettre du 2 décembre 2009 et le docteur O._ dans son rapport du 25 février 2010 aient fait état d'éléments objectivement vérifiables qui soient suffisamment pertinents pour remettre en cause les conclusions du docteur A._ dans le rapport complémentaire du CeMed en ce qui concerne la péjoration des discopathies depuis les examens radiologiques de la colonne vertébrale de 2008 et la capacité de travail de l'assuré. Attendu que les experts du CeMed ont procédé à d'autres examens et tests, notamment neurologiques, leurs rapports des 3 juin 2009 et 6 septembre 2010 et le rapport final du docteur B._ du 17 septembre 2010 suffisaient pour statuer en pleine connaissance de cause, de sorte que la juridiction cantonale pouvait se dispenser d'administrer d'autres preuves (appréciation anticipée des preuves; <ref-ruling> consid. 5.3 p. 236, 124 V 90 consid. 4b p. 94, 122 V 157 consid. 1d p. 162). Sur le vu des conclusions des experts du CeMed et du docteur B._, les affirmations du recourant ne permettent pas de considérer que la juridiction cantonale, en retenant que le recourant avait recouvré dès le 3 octobre 2008 une pleine capacité de travail dans une activité légère adaptée aux troubles du rachis, ait établi les faits de façon manifestement inexacte ou en violation du droit. Le recours est mal fondé de ce chef.
3.4 Le jugement entrepris, qui conclut à une invalidité de 9 %, taux justifiant la suppression du droit à une rente entière d'invalidité, est ainsi conforme au droit fédéral (<ref-law>; supra, consid. 2.1). Le recours est mal fondé.
4. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant, qui succombe (<ref-law>). Il ne saurait prétendre une indemnité de dépens pour l'instance fédérale (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal valaisan, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 5 mars 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Wagner