Sachverhalt:
A. Der 1959 geborene S._ arbeitete von Dezember 1990 bis Anfang April 1993 als Schlosser für die Firma X._ AG. Infolge rezidivierender Halsbeschwerden begab er sich im Jahre 1993 in Behandlung zu Dr. med. G._, Facharzt FMH für Hals-, Nasen- und Ohrenkrankheiten. Am 7. April 1993 wurden ihm die Mandeln operativ entfernt und nach der Operation traten Schmerzen an der linken Halsseite auf, welche in der Folge in die linke Körperhälfte ausstrahlten. Um deren Ursachen abzuklären, wurde S._ verschiedentlich durch Fachärzte der Oto-Rhino-Laryngologie untersucht. Infolge der trotz Operation anhaltenden Schmerzen in der linken Körperhälfte, wurde er erneut in der Neurologischen Poliklinik des Universitätsspitals Y._ untersucht. Dr. med. G._ attestierte ihm vom 5. bis 25. April 1993 eine Arbeitsunfähigkeit von 100 %, vom 26. April bis zum 2. Mai 1993 von 50 %, vom 3. Mai bis zum 8. August 1993 von 100 %, vom 9. bis zum 30. August 1993 von 50 % und vom 1. September 1993 bis auf Weiteres von 100 %.
Am 21. September 1994 meldete sich S._ zum Bezug von Leistungen bei der IV-Stelle des Kantons Graubünden an, welche in der Folge verschiedene Arztberichte einholte. Am 16. November / 30. Dezember 1994 hielt die IV-Stelle in einem Präsidialentscheid fest, beim Versicherten liege ein Invaliditätsgrad von 96.16 % vor, weshalb er Anspruch auf eine ganze Rente habe. Mit Verfügung vom 23. Juni 1995 wurde dieser Entscheid dem Versicherten mitgeteilt, wobei die Rentenleistungen rückwirkend ab dem 1. April 1994 zugesprochen wurden.
Im Jahre 1997 leitete die IV-Stelle ein erstes Revisionsverfahren ein und am 9. März 1998 teilte sie dem Versicherten mit, die Überprüfung des Invaliditätsgrades habe keine rentenbeeinflussende Änderung ergeben, sodass er weiterhin Anspruch auf eine Rente aufgrund des bisherigen Invaliditätsgrades von 96 % habe. Auch am 3. Oktober 2005 wurde dem Versicherten im Rahmen eines zweiten Revisionsverfahrens mitgeteilt, er habe weiterhin Anspruch auf die bisherige Rente. Im November 2006 leitete die IV-Stelle erneut ein Revisionsverfahren ein. Gestützt hauptsächlich auf ein psychiatrisches Gutachten von Dr. med. L._ vom 18. Februar 2008, auf einen psychiatrischen Arztbericht der RAD vom 14. Mai 2008 sowie auf eine pluridisziplinäre Begutachtung des Versicherten bei der Medizinischen Abklärungsstelle Z._ vom 24. Dezember 2008 stellte die IV-Stelle die bisher ausgerichtete Rente ab Ende August 2009 mit Verfügung vom 9. Juli 2009 ein. Zur Begründung führte sie aus, der Gesundheitszustand des Versicherten habe sich seit der Erstzusprechung der Rente kontinuierlich verbessert. Seit mindestens Anfang Januar 2008 gelte er in der angestammten sowie in jeder angepassten Tätigkeit als zu 80 % arbeitsfähig bei einem Invaliditätsgrad von 29.45 %.
B. Mit Entscheid vom 23. März 2010 wies das Verwaltungsgericht des Kantons Graubünden die hiegegen eingereichte Beschwerde mit der substituierenden Begründung ab, die ursprüngliche Rentenzusprechung beruhe auf keiner rechtsgenüglichen fachärztlichen Einschätzung der Arbeitsfähigkeit und es sei kein Einkommensvergleich vorgenommen worden, sodass die zweifellose Unrichtigkeit dieser Verfügung gegeben sei.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und die Rechtsbegehren stellen, in Aufhebung des kantonalen Entscheides sei ihm unter Kosten- und Entschädigungsfolge eine ganze Invalidenrente zuzusprechen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Ferner ersucht er um Gewährung der unentgeltlichen Prozessführung.
Die IV-Stelle beantragt die Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2 Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht zu prüfen, ob der angefochtene kantonale Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Tatsächlicher Natur sind die Feststellungen zur Arbeits(un)fähigkeit, die das Sozialversicherungsgericht gestützt auf medizinische Untersuchungen trifft. Soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es um eine Rechtsfrage (<ref-ruling> E. 3.2 S. 397 ff.). Der Untersuchungsgrundsatz zählt zu den in <ref-law> erwähnten bundesrechtlichen Vorschriften. Die unvollständige (gerichtliche) Feststellung der rechtserheblichen Tatsachen (<ref-ruling> E. 2 S. 25 mit Hinweisen; Ulrich Meyer, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 25, 36 und 58-61 zu <ref-law>; Hansjörg Seiler, in: Bundesgerichtsgesetz [BGG], 2007, N. 24 zu <ref-law>), die Missachtung des Untersuchungsgrundsatzes als einer wesentlichen Verfahrensvorschrift (statt vieler: Urteil 9C_850/2008 vom 6. Februar 2009 E. 2.2 mit Hinweis; Ulrich Meyer, a.a.O., N. 60 zu <ref-law>; Markus Schott, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 17 ff. zu <ref-law>) sowie die Verletzung der Pflicht zu inhaltsbezogener, umfassender, sorgfältiger und objektiver Beweiswürdigung (<ref-law>; <ref-ruling> E. 4.1 S. 400) stellen eine Rechtsverletzung gemäss <ref-law> dar. Hat das Sozialversicherungsgericht die rechtserheblichen tatsächlichen Feststellungen in Verletzung des Untersuchungsgrundsatzes getroffen, sind sie für das Bundesgericht nicht verbindlich (Urteil 8C_53/2010 vom 26. Mai 2010 E. 2.3 mit Hinweisen).
2. 2.1 Das kantonale Gericht hat die massgeblichen Rechtsgrundlagen, insbesondere die Bestimmungen und Grundsätze zur Rentenrevision (<ref-law> in Verbindung mit Art. 88a und 88bis IVV; <ref-ruling> E. 5 S. 110 ff.; vgl. auch <ref-ruling> E. 3.5 S. 350 in fine; <ref-ruling> E. 3b S. 199 mit Hinweisen), korrekt wiedergegeben, weshalb darauf verwiesen werden kann. Zutreffend dargelegt wurde namentlich, dass neue medizinische Feststellungen revisionsrechtlich nur bedeutsam sind, wenn sie eine tatsächliche Veränderung der - hier gesundheitlichen - Verhältnisse zum Ausdruck bringen. Hingegen stellt die bloss andere, abweichende Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhalts keine revisionsbegründende oder im Rahmen der Revision relevante Änderung dar (<ref-ruling>; Urteil 8C_219/2009 vom 25. August 2009 E. 2.2 mit Hinweisen).
2.2 Der Revisionsordnung nach <ref-law> geht der Grundsatz vor, dass die Verwaltung befugt ist, jederzeit von Amtes wegen auf eine formell rechtskräftige Verfügung, welche nicht Gegenstand materieller richterlicher Beurteilung gebildet hatte, zurückzukommen, wenn sich diese als zweifellos unrichtig erweist und ihre Berichtigung von erheblicher Bedeutung ist (Art. 53 Abs. 2 in Verbindung mit <ref-law> und <ref-law>). Unter diesen Voraussetzungen kann die Verwaltung eine Rentenverfügung auch dann abändern, wenn die Revisionsvoraussetzungen des <ref-law> nicht erfüllt sind. Wird die zweifellose Unrichtigkeit der ursprünglichen Rentenverfügung erst vom Gericht festgestellt, so kann es die auf <ref-law> gestützte Revisionsverfügung der Verwaltung mit dieser substituierten Begründung - nach vorgängiger Gehörsgewährung - schützen (<ref-ruling> E. 2 S. 369; Urteile 9C_438/2009 vom 26. März 2010 E. 2.2 und 8C_224/2009 vom 27. Juli 2009 E. 3.2 mit Hinweis). Eine voraussetzungslose Neubeurteilung der invaliditätsmässigen Voraussetzungen genügt nach ständiger Rechtsprechung nicht für eine wiedererwägungsweise Herabsetzung der Invalidenrente. Die Aufhebung der Rente mit der substituierten Begründung der Wiedererwägung kann nur bei Unvertretbarkeit der ursprünglichen Rentenzusprechung erfolgen (vgl. statt vieler Urteil 9C_845/2009 vom 10. Februar 2010 E. 3.2 mit Hinweisen).
3. 3.1 Dass kein Revisionsgrund in tatsächlicher Hinsicht eingetreten ist, hat das kantonale Gericht verbindlich festgestellt. Umstritten ist einzig, ob die ursprüngliche Rentenzusprechung auf einer zweifellos unrichtigen Verfügung beruht. Das kantonale Gericht hat diese Frage bejaht, weil im Präsidialentscheid vom 16. November / 30. Dezember 1994 die durchschnittliche Arbeitsunfähigkeit von 96.16 % zum Invaliditätsgrad erhoben worden sei, während die Verwaltung auf die Durchführung eines Einkommensvergleichs verzichtet habe, was sich als gesetzwidrig und zweifellos unrichtig erweise. Zudem sei der rechtserhebliche Sachverhalt nicht genügend festgestellt worden und lasse sich der damalige Gesundheitszustand des Versicherten nicht mit genügender Wahrscheinlichkeit ermitteln. Ausserdem beruhe die ursprüngliche Rentenzusprechung auf keiner rechtsgenüglichen fachärztlichen Einschätzung der Arbeitsfähigkeit. Demgegenüber könne aber auf das Gutachten der Medizinischen Abklärungsstelle Z._ vom 24. Dezember 2008 abgestellt werden, welches festhalte, dass die Arbeitsfähigkeit zwar aufgrund der physischen Schmerzen als Folge einer Somatisierungsstörung reduziert sei, dass der Versicherte jedoch seit Anfang 2008 in der bisher ausgeübten und in jeder anderen Tätigkeit zu 80 % arbeitsfähig sei. Nach durchgeführtem Einkommensvergleich sei von einem Invaliditätsgrad von 29.45 % auszugehen.
3.2 Der Beschwerdeführer beanstandet die vorinstanzliche Begründung der Leistungseinstellung und macht geltend, es dürfe nach der Rechtsprechung ausnahmsweise von der ärztlich geschätzten Arbeitsunfähigkeit auf einen entsprechenden Invaliditätsgrad geschlossen werden, wobei dies beispielsweise bei vollständiger Arbeitsunfähigkeit des Versicherten zutreffe (Urteil I 315/02 vom 9. Dezember 2003 E. 4.2 mit Hinweisen, Urteil I 685/03 vom 20. Oktober 2004 E. 4.1; vgl. auch Ulrich Meyer, Bundesgesetz über die Invalidenversicherung [IVG]), in: Murer/Stauffer [Hrsg.], Die Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, 2. Aufl. 2010, S. 308 f.). Für die Zeit von April 1993 bis April 1994 sei auf umfassender und daher beweiskräftiger Grundlage eine durchschnittliche Arbeitsunfähigkeit von 96.16 % attestiert worden, sodass im Zeitpunkt der ursprünglichen Verfügung vom 23. Juni 1995 auch bei durchgeführtem Einkommensvergleich ein Invaliditätsgrad von 100 % resultiert wäre. Der Beschwerdeführer rügt ferner, es treffe nicht zu, dass der rechtserhebliche Sachverhalt nicht genügend festgestellt worden sei und dass der damalige Gesundheitszustand sich nicht mehr mit genügender Wahrscheinlichkeit ermitteln lasse. Dazu bringt er vor, er sei in den Jahren 1993 und 1994 aufgrund unterschiedlicher in Frage kommender Diagnosen von verschiedenen Spezialisten aus mehreren Fachgebieten eingehend untersucht worden. Zudem sei die ursprüngliche Verfügung der Leistungszusprechung nach Rentenrevisionsverfahren durch die IV-Stelle sowohl im Jahr 1998 als auch im Jahr 2005 bestätigt worden.
3.3 Die Vorbringen des Beschwerdeführers sind stichhaltig. Eine Unvertretbarkeit der ursprünglichen Rentenzusprechung liegt nicht vor. Die aufgrund der in den Jahren 1993 und 1994 medizinischen Abklärungen festgestellte fast vollständige Arbeitsunfähigkeit und die darauf beruhende Leistungsverfügung vom 23. Juni 1995 können nach der damaligen Aktenlage nicht als offensichtlich falsch bezeichnet werden. Zudem ist der angefochtene Entscheid insofern widersprüchlich, als die Vorinstanz aufgrund des Sachverhalts zwar befunden hat, dass sich der Gesundheitszustand seit 1993 in revisionsrelevanter Hinsicht nicht verändert habe, sie aber dennoch zum Schluss gelangte, der massgebliche Sachverhalt sei ursprünglich nicht genügend festgestellt worden und der damalige Gesundheitszustand lasse sich nicht mehr mit genügender Wahrscheinlichkeit ermitteln. Dabei kann nicht auf das polidisziplinäre Gutachten der Medizinischen Abklärungsstelle Z._ vom 24. Dezember 2008 abgestellt werden, um die frühere Arbeitsunfähigkeit des Versicherten zu beurteilen, da diese Begutachtung erst ab Anfang Januar 2008 eine Arbeitsfähigkeit von 80 % attestiert. Schliesslich wurde auch nicht geprüft, aus welchem Grund sich der damalige Verzicht der Verwaltung auf die Durchführung eines Einkommensvergleichs unter Berücksichtigung der erwähnten Rechtsprechung als gesetzwidrig und zweifellos unrichtig erweisen sollte. Der Umstand, dass kein Einkommensvergleich durchgeführt worden war, ist nur Indiz für zweifellose Unrichtigkeit; eine solche liegt jedoch aus diesem Grund dort nicht vor, wo ein Prozentvergleich (<ref-ruling> E. 2b S. 136 unten f.) zum gleichen Resultat führte.
3.4 Daraus folgt, dass die Revisionsverfügung nicht wegen zweifelloser Unrichtigkeit der ursprünglichen Rentenverfügung mit substituierender Begründung geschützt werden konnte, weshalb der kantonale Entscheid und die angefochtene Verfügung aufzuheben sind.
4. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Das Gesuch um unentgeltliche Rechtspflege ist gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Graubünden vom 23. März 2010 und die Verfügung der IV-Stelle des Kantons Graubünden vom 9. Juli 2009 werden aufgehoben.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Gerichtskosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Graubünden zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Graubünden, der Ausgleichskasse des Kantons Graubünden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. November 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Scartazzini