Sachverhalt:
A. Die 1969 geborene T._ war zuletzt als Kassiererin im P._ erwerbstätig gewesen, als sie sich am 7. Mai 2003 bei der kantonalen IV-Stelle Wallis zum Leistungsbezug anmeldete. Mit Verfügung vom 23. März 2004 sprach diese der Versicherten bei einem Invaliditätsgrad von 88 % ab 1. März 2003 eine ganze Invalidenrente zu. Ein von Amtes wegen eingeleitetes Revisionsverfahren wurde von der IV-Stelle mit Mitteilung vom 14. Dezember 2005 abgeschlossen, ohne dass die Rente revidiert wurde. Am 27. Dezember 2007 leitete die IV-Stelle erneut ein Revisionsverfahren ein. Nach Durchführung des Vorbescheidverfahrens hob diese die Rente der Versicherten mit Verfügung vom 27. Mai 2010 auf Ende des der Zustellung der Verfügung folgenden Monats auf.
B. Die von T._ hiegegen erhobene Beschwerde wies das Kantonsgericht des Kantons Wallis nach Gewährung des rechtlichen Gehörs mit Entscheid vom 28. Juni 2011 in dem Sinne ab, dass es einen Revisionsgrund verneinte, einen Wiedererwägungsgrund aber bejahte.
C. Mit Beschwerde beantragt T._, die IV-Stelle sei unter Aufhebung der Verfügung vom 27. Mai 2010 und des kantonalen Gerichtsentscheides zu verpflichten, die ihr mit Verfügung vom 23. März 2004 zugesprochene ganze Invalidenrente weiterhin auszurichten. Gleichzeitig stellt T._ ein Gesuch um unentgeltliche Prozessführung.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.
D. In ihrer weiteren Eingabe vom 24. Oktober 2011 hält T._ an ihrem Antrag fest.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Die Beweiswürdigung durch das kantonale Gericht verletzt namentlich dann Bundesrecht, wenn es den Sinn und die Tragweite eines Beweismittels offensichtlich falsch eingeschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (<ref-ruling> E. 2.1 S. 9; Urteil 8C_727/2009 vom 19. November 2009 E. 1.2).
2. 2.1 Der Anspruch auf Leistungen der Invalidenversicherung setzt unter anderem voraus, dass die versicherte Person invalid oder von Invalidität unmittelbar bedroht ist. Invalidität ist gemäss <ref-law> die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit.
2.2 Ändert sich der Invaliditätsgrad einer Rentenbezügerin oder eines Rentenbezügers erheblich, so wird in Anwendung von <ref-law> die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben (sog. Rentenrevision). Formell rechtskräftige Verfügungen und Einspracheentscheide müssen gemäss <ref-law> in (prozessuale) Revision gezogen werden, wenn die versicherte Person oder der Versicherungsträger nach deren Erlass erhebliche neue Tatsachen entdeckt oder Beweismittel auffindet, deren Beibringung zuvor nicht möglich war. Zudem kann der Versicherungsträger nach <ref-law> auf formell rechtskräftige Verfügungen oder Einspracheentscheide zurückkommen, wenn diese zweifellos unrichtig sind und wenn ihre Berichtigung von erheblicher Bedeutung ist.
2.3 Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.). Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach <ref-law> Rechtsfrage (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 3.2).
2.4 Streitig und zu prüfen ist, ob die IV-Stelle zu Recht die ganze Rente der Beschwerdeführerin auf Ende des der Zustellung der Verfügung vom 27. Mai 2010 folgenden Monat aufgehoben hat.
3. 3.1 Das kantonale Gericht hat erwogen, in der Zeit zwischen der ursprünglichen Verfügung (23. März 2004) und der Revisionsverfügung (27. Mai 2010) habe sich der Invaliditätsgrad der Versicherten nicht massgebend verändert; nach der Überzeugung des Gerichts liegen lediglich unterschiedliche medizinische Beurteilungen eines im Wesentlichen gleich gebliebenen Gesundheitszustandes vor. Somit sei zwar kein Revisionsgrund gegeben; da jedoch die Verfügung vom 23. März 2004 zweifellos unrichtig gewesen sei, könne die Revisionsverfügung mit der substituierten Begründung einer Wiedererwägung geschützt werden. Die Beschwerdeführerin bringt dagegen vor, die ursprüngliche Verfügung sei nicht zweifellos unrichtig gewesen, eine Wiedererwägung damit nicht zulässig. In ihrer Vernehmlassung hält die IV-Stelle weiterhin an ihrer Sichtweise fest, der Gesundheitszustand der Versicherten habe sich massgebend verbessert; die dem widersprechende Feststellung des kantonalen Gericht sei offensichtlich unrichtig.
3.2 Es steht fest und ist letztlich unbestritten, dass sich die ursprüngliche Rentenzusprache wenn nicht ausschliesslich, so doch nicht unwesentlich auf den Bericht des Dr. med. M._, vom 20. Juni 2003 stützte. Darin wurde als Diagnose mit Auswirkung auf die Arbeitsfähigkeit neben einem Fibromyalgiesyndrom und einem chronisch-funktionellen Lumbovertebralsyndrom auch eine rheumatoide Arthritis aufgeführt. Auch der RAD-Arzt, Dr. med. F._, ging in seinem Bericht vom 14. August 2003 von einer rheumatoiden Arthritis aus, die indessen zu jener Zeit wegen einer Schwangerschaft nicht behandelt werden konnte. In seinem Gutachten vom 22. Dezember 2009 bestreitet Dr. med. L._, FMH Innere Medizin und Rheumaerkrankungen, dass jemals eine rheumatoide Arthritis bestanden habe, verneint allerdings nicht das damalige Vorliegen einer entzündlichen Systemaffektion unklarer Aetiologie. Diese Systemaffektion sei in der Zwischenzeit remittiert. Damit beschreibt der Gutachter eine Verbesserung des Gesundheitszustandes seit der ursprünglichen Rentenzusprache. Von einem im Verfahren nach <ref-law> eingeholten, den Anforderungen der Rechtsprechung entsprechenden Gutachten versicherungsexterner Experten ist praxisgemäss bloss dann abzuweichen, wenn konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (<ref-ruling> E. 4.4 S. 470). Mit seiner Feststellung, der Gesundheitszustand habe sich seit der ursprünglichen Rentenzusprache nicht massgeblich verändert, ist das kantonale Gericht von der Einschätzung des Gutachters abgewichen. Konkrete Indizien, welche gegen die Zuverlässigkeit der Expertise sprechen, wurden von der Vorinstanz indessen keine angeführt. Damit hat sie gegen Bundesrecht verstossen, zumal nicht bloss keine Indizien gegen die Zuverlässigkeit der Expertise des Dr. med. L._ ersichtlich sind, sondern die Annahme, der Gesundheitszustand habe sich verbessert, indirekt auch durch den behandelnden Arzt, Dr. med. M._, bestätigt wird. Dieser schreibt in seinem Bericht vom 8. Februar 2008 ausdrücklich, von Seiten der rheumatoiden Arthritis sei es in den letzten zwei Jahren zu keiner Reaktivierung gekommen; somit geht auch dieser Arzt davon aus, dass das Leiden remittiert ist.
3.3 Ist somit von einer Remission der Arthritis bzw. der entzündlichen Systemaffektion auszugehen, hat sich der Gesundheitszustand seit der ursprünglichen Rentenzusprache erheblich verbessert. Damit liegt ein Revisionsgrund vor. Es ist daher im Ergebnis nicht zu beanstanden, dass die Vorinstanz den Rentenanspruch der Versicherten pro futuro neu beurteilt hat. Offen bleiben kann bei dieser Ausgangslage, ob die ursprüngliche Verfügung zweifellos unrichtig war und damit einer Wiedererwägung zugänglich wäre.
4. 4.1 Bezüglich des Gesundheitszustandes im Zeitpunkt der angefochtenen Verfügung hat das kantonale Gericht in umfassender Würdigung der medizinischen Akten, insbesondere gestützt auf das bereits erwähnte Gutachten des Dr. med. L._ sowie auf jenes des Dr. med. H._, FMH Psychiatrie Psychotherapie, vom 22. Dezember 2009 für das Bundesgericht grundsätzlich verbindlich festgestellt, dass die Beschwerdeführerin in der Lage wäre, ihre angestammte Arbeit zu 100 % auszuüben. Was die Beschwerdeführerin gegen diese Feststellung vorbringt, vermag sie nicht als bundesrechtswidrig erscheinen zu lassen. Ob eine medizinische Abklärung in der Muttersprache des Exploranden oder der Explorandin oder unter Beizug eines Übersetzers im Einzelfall geboten ist, hat grundsätzlich der Gutachter im Rahmen sorgfältiger Auftragserfüllung zu entscheiden (Urteil 8C_913/2010 vom 18. April 2011 E. 3.3 mit weiteren Hinweisen). Die Vorinstanz hat diesbezüglich für das Bundesgericht verbindlich festgestellt, die Versicherte spreche ausreichend deutsch, so dass eine Übersetzung entbehrlich war. Diese Feststellung ist nicht offensichtlich unrichtig (E. 1.2) und es kann daher ausgeschlossen werden, dass die vom Gutachter gemachten Angaben auf Missverständnissen beruhen. Der von der Beschwerdeführerin diesbezüglich als Beweis angerufene Bericht des Medizinischen Zentrums X._ vom 24. August 2010 besagt lediglich, die Versicherte habe diesen Vorwurf gegen den Gutachter auch im Gespräch mit den Ärzten jenes Zentrums erhoben. Gemäss dem unwidersprochen gebliebenen Abklärungsbericht Haushalt vom 26. August 2003 kann sich die Versicherte auf Walliserdeutsch verständigen. Es ist daher anzunehmen, die Versicherte habe gegenüber Dr. med. H._ Aussagen gemacht, die sie nach Erhalt der rentenaufhebenden Verfügung bereute, als dass es tatsächlich zu Verständigungsschwierigkeiten kam und deshalb falsche Angaben ins Gutachten aufgenommen wurden.
4.2 Durfte das kantonale Gericht, ohne gegen Bundesrecht zu verstossen, von einer vollen Arbeitsfähigkeit in der angestammten Tätigkeit der Versicherten ausgehen, so ist nicht zu beanstanden, dass es die Rentenaufhebung auf das Ende des der Zustellung der Verfügung folgenden Monats bestätigt hat. Die Beschwerde der Versicherten ist demnach abzuweisen.
5. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten der Beschwerdeführerin aufzuerlegen (<ref-law>). Ihrem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die entsprechenden gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Der Beschwerdeführerin wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden der Beschwerdeführerin auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt J. Mischa Mensik wird als unentgeltlicher Anwalt der Beschwerdeführerin bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Kantonsgericht Wallis Sozialversicherungsrechtliche Abteilung und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. März 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Holzer