Sachverhalt:
A.
Mit Verfügung vom 6. Mai 2003 sprach die IV-Stelle des Kantons Zürich dem 1960 geborenen A._ bei einem Invaliditätsgrad von 100 % ab 1. Juni 2002 eine ganze Rente der Invalidenversicherung zu. Diese Rente wurde in der Folge am 14. Mai 2004 und am 23. Juli 2009 bestätigt.
Im Jahre 2011 startete die IV-Stelle ein neues Revisionsverfahren und holte bei der MEDAS ein interdisziplinäres Gutachten ein. Dieses wurde am 6. November 2012 erstattet. Daraufhin hob die IV-Stelle nach Durchführung des Vorbescheidverfahrens mit Verfügung vom 14. März 2013 die bisher ausgerichtete Rente auf.
B.
Die von A._ hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 27. Mai 2014 ab.
C.
Mit Beschwerde beantragt A._, ihm sei unter Aufhebung der Verfügung und des kantonalen Gerichtsentscheides die bisherige Rente weiter auszubezahlen. Gleichzeitig stellt er ein Gesuch um unentgeltliche Rechtspflege.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. <ref-ruling> E. 2.5 S. 262; <ref-ruling> E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 1.4.1 S. 254).
1.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
2.
Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, als sie die Aufhebung der Rente des Versicherten auf den zweiten der Zustellung der Verfügung vom 14. März 2013 folgenden Monats bestätigte.
3.
3.1. Ändert sich der Invaliditätsgrad einer Rentenbezügerin oder eines Rentenbezügers erheblich, so wird die Rente in Anwendung von <ref-law> von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben.
3.2. Eine Rentenherabsetzung oder Aufhebung im Sinne von <ref-law> setzt eine anspruchserhebliche Änderung der tatsächlichen Verhältnisse voraus, welche entweder in einer objektiven Verbesserung des Gesundheitszustandes mit entsprechend gesteigerter Arbeitsfähigkeit oder in geänderten erwerblichen Auswirkungen einer im Wesentlichen gleich gebliebenen Gesundheitsbeeinträchtigung liegen kann. Demgegenüber stellt eine bloss abweichende Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhaltes keine revisionsrechtlich relevante Änderung dar ( <ref-ruling> E. 2b S. 372 unten; in <ref-ruling> nicht publizierte E. 3.2 des Urteils 8C_972/2009, publiziert in: SVR 2011 IV Nr. 1 S. 1 mit Hinweis).
4.
4.1. Das kantonale Gericht hat in umfassender Würdigung der medizinischen Akten, insbesondere aber gestützt auf das Gutachten der MEDAS vom 6. November 2012 für das Bundesgericht grundsätzlich verbindlich festgestellt, dass sich der Gesundheitszustand des Versicherten im massgebenden Zeitraum zwischen dem 6. Mai 2003 und dem 14. März 2013 erheblich verändert hat. Was der Beschwerdeführer gegen diese Feststellung vorbringt, vermag sie nicht als bundesrechtswidrig erscheinen zu lassen: Auf ein im Verfahren nach <ref-law> eingeholtes Gutachten ist rechtsprechungsgemäss abzustellen, wenn nicht konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (<ref-ruling> E. 4.4 S. 470). Wenn im Gutachten der MEDAS das Vorliegen einer psychiatrischen Diagnose mit Auswirkung auf die Arbeitsfähigkeit verneint wird, so beruht dies entgegen den Ausführungen des Versicherten nicht auf einer bloss abweichenden Würdigung eines im Wesentlichen gleich gebliebenen Sachverhaltes: Bei Erlass der rentenzusprechenden Verfügung am 6. Mai 2003 war der Versicherte noch in fachärztlich psychiatrischer Behandlung; diese hatte er im Zeitpunkt der rentenaufhebenden Verfügung vom 14. März 2013 bereits seit Jahren aufgegeben. Da die letzte fachärztlich psychiatrische Behandlung im Jahre 2004 stattgefunden hat, spricht es nicht gegen die Zuverlässigkeit des Gutachtens der MEDAS, dass die Experten dieser Gutachtenstelle mangels medizinischer Dokumentation für die Zwischenzeit den genauen Zeitpunkt der Besserung nicht angeben können.
4.2. Im Gebiet der Invalidenversicherung gilt ganz allgemein der Grundsatz, dass die invalide Person, bevor sie Leistungen verlangt, alles ihr Zumutbare selber vorzukehren hat, um die Folgen ihrer Invalidität bestmöglich zu mildern. Von den Versicherten können jedoch nur Vorkehren verlangt werden, die unter Berücksichtigung der gesamten objektiven und subjektiven Gegebenheiten des Einzelfalles zumutbar sind (<ref-ruling> E. 4a S. 28 mit Hinweisen). Die Wiedereingliederung von Versicherten im fortgeschrittenen Alter oder nach invaliditätsbedingt langjährigem Fernbleiben von der Arbeitswelt ist oft schwierig. Diesem Umstand Rechnung tragend muss sich die Verwaltung - sofern die versicherte Person das 55. Altersjahr zurückgelegt oder die Rente mehr als 15 Jahre bezogen hat - vor der Herabsetzung oder Aufhebung einer Invalidenrente vergewissern, ob sich ein medizinisch-theoretisch wiedergewonnenes Leistungsvermögen ohne Weiteres in einem entsprechend tieferen Invaliditätsgrad niederschlägt oder ob dafür ausnahmsweise im Einzelfall eine erwerbsbezogene Abklärung und/oder die Durchführung von Eingliederungsmassnahmen im Rechtssinne vorausgesetzt ist (Urteile 9C_363/2011 vom 31. Oktober 2011 E. 3.1 mit Hinweisen, in: SVR 2012 IV Nr. 25 S. 104; 9C_228/2010 vom 26. April 2011 E. 3.3-3.5, in: SVR 2011 IV Nr. 73 S. 220; Zusammenstellung der Rechtsprechung in: PETRA FLEISCHANDERL, Behandlung der Eingliederungsfrage im Falle der Revision einer langjährig ausgerichteten Invalidenrente, in: SZS 2012 S. 360 ff.).
4.3. Die Vorinstanz hat erwogen, der im Zeitpunkt der Rentenaufhebung 53-jährige Versicherte habe während rund elf Jahren eine Rente der Invalidenversicherung bezogen. Es bestünden demnach keine Hinweise darauf, dass ihm die Verwertung seines Leistungspotenzial nicht allein vermittels Eigenanstrengung zugemutet werden könnte. Was der Beschwerdeführer gegen diese vorinstanzlichen Erwägungen vorbringt, vermag sie nicht als bundesrechtswidrig erscheinen zu lassen. Anzumerken ist in diesem Zusammenhang, dass auch die Gutachter der MEDAS Rehabilitationsmassnahmen ausdrücklich als nicht indiziert bezeichnen.
4.4. Somit durfte das kantonale Gericht, ohne damit gegen Bundesrecht zu verstossen, von einer Verbesserung des Gesundheitszustandes ausgehen, welche den Beschwerdeführer in die Lage versetzt, nunmehr einer leichten bis mittelschweren Tätigkeit zu 100 % nachzugehen. Wie die Vorinstanz zutreffend erwogen hat, folgt daraus, dass der Versicherte nunmehr in der Lage ist, ein rentenausschliessendes Invalideneinkommen zu erzielen. Seine Beschwerde ist demnach abzuweisen.
5.
5.1. Dem Ausgang des Verfahrens entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).
5.2. Dem Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist stattzugeben, da die entsprechenden gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Thomas Wyss wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 13. August 2014
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Ursprung
Der Gerichtsschreiber: Nabold