Faits:
A. A.a S._ est au bénéfice d'un baccalauréat (type D) obtenu en France en 1977 et titulaire depuis avril 1981 du diplôme d'Etat d'infirmière délivré par la République française. Autorisée depuis le 21 mai 1997 à exercer dans le canton de Genève la profession d'infirmière, elle a travaillé en qualité d'infirmière diplômée en soins généraux au service de la Fondation X._ à partir du 1er avril 2000. Le 15 mars 2001, elle a été victime d'un accident. Son cas a été pris en charge par la "Zurich" Compagnie d'assurances. L'employeur a résilié les rapports de travail pour le 30 juin 2002.
A.b Le 15 novembre 2002, S._ a présenté une demande de prestations de l'assurance-invalidité, en requérant l'octroi de mesures d'ordre professionnel. Lors d'un entretien du 4 mars 2003, elle a déclaré qu'elle désirait suivre une formation à l'Université de Genève dans le cadre de la Faculté de psychologie à partir du 21 octobre 2003 et a été informée par la psychologue de la Division de réadaptation professionnelle de l'office AI qu'étant donné qu'elle était au bénéfice d'une formation d'infirmière de niveau HES, l'assurance-invalidité ne pouvait prendre en charge que l'équivalent d'une formation HES en quatre ans (y compris l'année de stage obligatoire précédant l'admission).
L'Office de l'assurance-invalidité du canton de Genève, par décision du 13 mars 2003 complétée le 30 septembre 2003, a informé S._ qu'il avalisait une formation universitaire devant se dérouler du 21 octobre 2003 au 20 octobre 2007 à l'Université de Genève (Faculté de psychologie FPSE) et que l'assurance-invalidité ne prendrait en charge que l'équivalent d'une formation HES en quatre ans. Il indiquait que les frais pris en charge consistaient dans l'écolage de 1'000 fr. par année scolaire sur présentation de justificatifs, le matériel scolaire à concurrence de 2'500 fr. pour toute la formation sur présentation de justificatifs, les frais de transport sur France à raison de 2,8 km par jour - soit 1 fr. 30 par jour de formation et sur présentation de justificatifs, les frais de transport sur Suisse sur la base des Transports Publics Genevois (TPG) et sur présentation de justificatifs, les indemnités journalières, les indemnités journalières d'attente, le viatique de 19 fr. par jour ou de 11 fr. 50 par jour selon le programme d'étude précis, selon l'art. 90 al. 4 let. b RAI et sur présentation de justificatifs. Par décision du 14 mars 2003, l'office AI a avisé l'assurée qu'elle avait droit à l'indemnité journalière durant le délai d'attente du 4 mars au 20 octobre 2003.
L'Office AI pour les assurés résidant à l'étranger, par décision du 3 avril 2003, a fixé à 190 fr. par jour le montant de l'indemnité pour la période du délai d'attente. Par décision du 13 novembre 2003, il a avisé S._ qu'elle avait droit à une indemnité journalière pour la période du 21 octobre 2003 au 20 octobre 2007 et fixé l'indemnité à 190 fr. par jour à partir du 21 octobre 2003. Par décision du 4 novembre 2005, il a fixé l'indemnité journalière à 202 fr. dès le 1er octobre 2005.
Sur requête de S._ du 28 mai 2006 indiquant qu'elle serait soumise pour la poursuite de ses études au nouveau règlement qui prévoyait en lieu et place d'une licence, un baccalauréat universitaire en psychologie (3 ans d'études minimum) suivi d'une maîtrise universitaire en psychologie (2 ans d'études minimum), l'Office de l'assurance-invalidité du canton de Genève, dans une communication du 10 octobre 2007, l'a informée qu'il prolongeait la prise en charge de son reclassement professionnel du 22 octobre 2007 au 30 juin 2008. Il lui a alloué une indemnité journalière de 202 fr. à partir du 22 octobre 2007 (décision du 26 octobre 2007) et à partir du 1er janvier 2008 (décision du 17 janvier 2008). S._ a échoué aux examens de demi-licence. Dans une communication du 23 juillet 2008, l'office AI a avisé l'assurée qu'il prolongeait la prise en charge de son reclassement professionnel du 1er juillet au 31 août 2008, période pour laquelle il lui a alloué une indemnité journalière de 202 fr. (décision du 30 juillet 2008). Par décisions du 28 janvier 2009, il a rectifié le montant de l'indemnité journalière à partir du 1er octobre 2007 en le fixant à 209 fr. pour la période du 1er octobre au 31 décembre 2007 et pour la période du 1er janvier au 31 août 2008.
Dans un questionnaire pour l'employeur du 30 juillet 2009, Y._ SA, produisant des fiches de salaires, a indiqué que S._ était entrée à son service le 1er juillet 2007 et qu'elle avait effectué des missions en qualité d'infirmière en soins généraux. Convoquée par l'Office de l'assurance-invalidité du canton de Genève pour s'expliquer sur sa situation professionnelle, S._ s'est présentée à un entretien en août 2009 puis s'est plainte le 4 septembre 2009 de la manière dont il s'était déroulé, tout en se déclarant prête à fournir les explications nécessaires. Par lettre du 24 septembre 2009, l'office AI a reproché à l'assurée de ne pas l'avoir informé qu'elle avait pendant son reclassement professionnel exercé à nouveau à partir de juillet 2007 son activité d'infirmière et l'a avisée que depuis juillet 2007 les indemnités journalières avaient été perçues indûment et qu'il lui en demanderait la restitution ainsi que de frais qui lui avaient été remboursés sans justificatifs ni aucune justification. Par courriers des 15 et 27 octobre 2009, celle-ci a fait part à l'office AI de ses observations. Le 30 octobre 2009, l'office AI l'a invitée à établir une liste des éléments qui lui manquaient pour qu'elle puisse se prononcer sur le fond, en l'avisant que sans nouvelles de sa part il rendrait une décision de restitution. Par décision du 30 avril 2010, il a réclamé à S._ la restitution de la somme de 87'985 fr. 25, montant comprenant les indemnités journalières du 1er juillet 2007 au 31 août 2008 par 83'482 fr. 15, les frais de déplacements kilométriques doublés par 1'093 fr. 10, les abonnements des CFF et des Transports Lausannois (TL) par 2'990 fr. et des TPG par 420 fr.
B. Par lettre du 30 mai 2010 (timbre postal), S._ a formé recours contre cette décision devant le Tribunal cantonal des assurances sociales de la République et canton de Genève (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales), en sollicitant un délai pour compléter son recours. Dans une écriture du 14 juillet 2010, elle a conclu à l'annulation de la décision entreprise. Invoquant sa bonne foi, elle s'en remettait à justice en ce qui concerne "la restitution des frais de CFF et TL non utilisés en 2005" ou de "tout autre frais jugé nécessaire à la régularisation de (sa) situation".
Sur réquisition de la juridiction cantonale du 23 novembre 2010, l'Office de l'assurance-invalidité du canton de Genève a produit le 26 novembre 2010 les justificatifs de paiement des montants dont la restitution faisait l'objet de la demande de restitution, en particulier les documents relatifs aux versements des frais kilométriques et au remboursement des abonnements CFF, TPG et TL. S._ a eu la possibilité de les consulter et a déposé ses observations dans une écriture datée du 16 décembre 2010.
Par arrêt du 3 mars 2011, la juridiction cantonale a admis partiellement le recours (ch. 2 du dispositif), annulé "la décision de l'intimé du 3 mars 2010 en tant qu'elle fixe le montant à restituer à 83'435 fr. 15" (ch. 3 du dispositif) et dit que "le montant soumis à restitution est de 75'268 fr. 65" (ch. 4 du dispositif).
C. Le 30 mars 2011 (timbre postal), l'Office de l'assurance-invalidité du canton de Genève a saisi la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, d'une demande tendant à la notification d'un nouvel arrêt corrigeant le point 44 de la partie en fait de l'arrêt du 3 mars 2011 en ce sens que le montant de 35'524 fr. 40 représentait les indemnités journalières versées à l'assurée pour la période de juillet à décembre 2007 et le considérant 9 let. a (dernier paragraphe) de l'arrêt du 3 mars 2011 en ce sens que la somme à restituer au titre des indemnités journalières indûment perçues de juillet 2007 à août 2008 s'élevait à 83'435 fr. 15. Il faisait valoir que le point 44 de la partie en fait comportait une erreur dans la mesure où le montant de 35'524 fr. 40 ne concernait pas les mois de mai et juin 2007 et que le consid. 9 let. a (dernier paragraphe) était erroné dans la mesure où il réduisait à 71'858 fr. 65 la somme à restituer au titre des indemnités journalières indûment perçues, en portant les indemnités des mois de mai (5'883 fr. 15) et juin 2007 (5'693 fr. 35) en déduction du montant de 35'524 fr. 40 représentant les indemnités versées à l'assurée pour la période de juillet à décembre 2007.
Par lettre du 1er avril 2011, la juridiction cantonale a informé S._ qu'après vérification, il se révélait que le montant des indemnités journalières perçues de juillet à décembre 2007 s'élevait à 35'524 fr. 40 et que, compte tenu de cette correction, le montant total à restituer s'élevait à 83'435 fr. 15. Elle l'avisait qu'elle rendrait un arrêt rectificatif en ce sens. Dans un courrier daté du 30 avril 2011, S._ a déposé des observations.
Par arrêt rectificatif du 26 mai 2011, la juridiction cantonale a admis la demande de rectification (ch. 1 du dispositif), rectifié le ch. 2 [recte: 3] du dispositif de l'arrêt du 3 mars 2011 en ce sens: "Annule la décision de l'intimé du 3 mars 2010 en tant qu'elle fixe le montant à restituer à 87'985 fr. 25" (ch. 2 du dispositif), et rectifié le ch. 3 [recte: 4] du dispositif de l'arrêt du 3 mars 2011 en ce sens: "Dit que le montant soumis à restitution est de 83'435 fr. 15" (ch. 3 du dispositif).
D. S._ interjette un recours en matière de droit public contre l'arrêt rectificatif du 26 mai 2011, en concluant, sous suite de frais et dépens, à son annulation, le Tribunal fédéral étant invité à dire et constater qu'elle était en droit de bénéficier d'une indemnité dans le cadre de la mesure de reclassement et que l'indemnité perçue doit être réduite en proportion des revenus accessoires qu'elle a perçus du 1er juillet 2007 au 31 août 2008 et à fixer le montant soumis à restitution à 37'733 fr. 05.
L'Office de l'assurance-invalidité du canton de Genève conclut au rejet du recours. L'Office fédéral des assurances sociales a renoncé à se déterminer.
E. Par ordonnance du 28 novembre 2011, le Tribunal fédéral a rejeté la requête d'effet suspensif présentée par S._.
Considérant en droit:
1. La notification ultérieure d'un jugement rectifié fait courir un nouveau délai de recours au Tribunal fédéral, mais à l'encontre seulement des éléments de la décision qui ont fait l'objet de la rectification et dans la mesure où cette rectification est préjudiciable au recourant (ATF 119 II 482 consid. 3 p. 483). La procédure de recours contre le jugement interprété est limitée à l'interprétation qui a été donnée. Le recours ne peut avoir pour objet que les éléments du dispositif qui ont pour effet d'entraîner une modification de la situation juridique; il ne peut dès lors porter que contre ces précisions et les considérants sur lesquels celles-ci se fondent et ne peut comprendre des parties du jugement original sans rapport avec le jugement interprétatif. Le Tribunal fédéral ne peut entrer en matière sur le recours que dans la mesure où les précisions modifient matériellement le dispositif du jugement original au détriment du recourant (ATF 117 II 508 consid. 1a p. 510, 116 II 86 consid. 3 p. 88).
2. 2.1 Dans l'arrêt rectificatif du 26 mai 2011, les premiers juges ont considéré que le montant de 35'524 fr. 40 retenu au titre de celui des indemnités journalières versées à l'assurée de mai à juillet (recte: décembre) 2007 sur lequel ils avaient fondé leurs calculs résultait d'une erreur de plume et qu'il convenait par conséquent de corriger les calculs auxquels ils s'étaient livrés dans l'arrêt du 3 mars 2011, en portant à 83'435 fr. 15 (35'524 fr. 40 [juillet à décembre 2007] + 47'910 fr. 75 [janvier à août 2008]) le montant à restituer par l'assurée à titre d'indemnités journalières perçues à tort. Ils ont rectifié le chiffre 2 (recte: 3) du dispositif de l'arrêt du 3 mars 2011 en ce sens que la décision de l'office AI du 3 mars 2010 (recte: 30 avril 2010) était annulée en tant qu'elle fixait le montant à restituer à 87'985 fr. 25 et le chiffre 3 (recte: 4) du dispositif de l'arrêt du 3 mars 2011 en ce sens que le montant soumis à restitution était de 83'435 fr. 15.
2.2 La Cour de céans ne peut entrer en matière sur le recours que dans la mesure où la rectification par l'arrêt du 26 mai 2011 des éléments mentionnés ci-dessus de l'arrêt du 3 mars 2011 est préjudiciable à la recourante (supra, consid. 1).
3. 3.1 La juridiction cantonale a considéré qu'il y avait dans l'arrêt du 3 mars 2011 une erreur de plume résultant du montant de 35'524 fr. 40, qui consistait à retenir ce montant au titre des indemnités journalières versées à l'assurée de mai à juillet (recte: décembre) 2007 alors qu'en réalité le montant de 35'524 fr. 40 correspondait aux indemnités journalières qui lui avaient été versées pour la période de juillet à décembre 2007. Cela n'est nullement discuté par la recourante.
3.2 Corrigeant cette erreur de plume et en conséquence la réduction à 71'858 fr. 65 de la somme à restituer au titre des indemnités journalières indûment perçues par l'assurée qu'ils avaient opérée du fait de cette erreur de plume dans l'arrêt du 3 mars 2011, les premiers juges, dans l'arrêt du 26 mai 2011, ont pour ce motif porté le montant à restituer à ce titre à 83'435 fr. 15, ce qui a eu pour effet de supprimer la déduction de 11'576 fr. 50 - somme correspondant aux indemnités journalières pour mai (5'883 fr. 15) et juin 2007 (5'693 fr. 35) - qu'ils avaient effectuée sur ce montant dans l'arrêt du 3 mars 2011 et est ainsi préjudiciable à la recourante.
La recourante s'en prend aux considérants de l'arrêt du 3 mars 2011 en tant que les premiers juges ont retenu que les indemnités journalières n'étaient plus dues dès le mois de juillet 2007, date de la reprise d'une activité professionnelle (en tant qu'infirmière en soins généraux) pour une période prolongée et à des taux d'activité incompatibles avec la fréquentation de cours universitaires et la préparation d'examens, et leur reproche d'avoir enfreint l'interdiction de l'arbitraire et de n'avoir pas réduit le montant des indemnités en proportion des revenus accessoires réalisés pendant la période du 1er juillet 2007 au 31 août 2008. Ces assertions ne permettent pas de considérer les constatations correspondantes de la juridiction cantonale comme manifestement inexactes (art. 105 al. 2 LTF). La recourante ne discute nullement le motif pour lequel la juridiction cantonale, dans l'arrêt du 26 mai 2011, a porté à 83'435 fr. 15 le montant à restituer par l'assurée à titre d'indemnités journalières reçues à tort. Le recours ne répond manifestement pas aux exigences de l'art. 42 al. 1 et 2 LTF (ATF 134 II 244 consid. 2.1 p. 245 s., 134 V 53 consid. 3.3 p. 60), respectivement de l'art. 106 al. 2 LTF (ATF 135 III 127 consid. 1.6 p. 130 et l'arrêt cité, 134 II 244 consid. 2.2 p. 246, 133 II 249 consid. 1.4.3 p. 254 s.).
4. Dans la mesure où il est recevable, le recours est dès lors mal fondé. Vu l'issue du litige, les frais judiciaires doivent être mis à la charge de la recourante, qui succombe (art. 66 al. 1 LTF). Elle ne saurait prétendre une indemnité de dépens pour l'instance fédérale (art. 68 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge de la recourante.
3. Le présent arrêt est communiqué aux parties, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 3 juillet 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Wagner