Sachverhalt: A. Der 1959 geborene S._ arbeitete von Dezember 1990 bis Anfang April 1993 als Schlosser für die Firma X._ AG. Infolge rezidivierender Halsbeschwerden begab er sich im Jahre 1993 in Behandlung zu Dr. med. G._, Facharzt FMH für Hals-, Nasen- und Ohrenkrankheiten. Am 7. April 1993 wurden ihm die Mandeln operativ entfernt und nach der Operation traten Schmerzen an der linken Halsseite auf, welche in der Folge in die linke Körperhälfte ausstrahlten. Um deren Ursachen abzuklären, wurde S._ verschiedentlich durch Fachärzte der Oto-Rhino-Laryngologie untersucht. Infolge der trotz Operation anhaltenden Schmerzen in der linken Körperhälfte, wurde er erneut in der Neurologischen Poliklinik des Universitätsspitals Y._ untersucht. Dr. med. G._ attestierte ihm vom 5. bis 25. April 1993 eine Arbeitsunfähigkeit von 100 %, vom 26. April bis zum 2. Mai 1993 von 50 %, vom 3. Mai bis zum 8. August 1993 von 100 %, vom 9. bis zum 30. August 1993 von 50 % und vom 1. September 1993 bis auf Weiteres von 100 %. Am 21. September 1994 meldete sich S._ zum Bezug von Leistungen bei der IV-Stelle des Kantons Graubünden an, welche in der Folge verschiedene Arztberichte einholte. Am 16. November / 30. Dezember 1994 hielt die IV-Stelle in einem Präsidialentscheid fest, beim Versicherten liege ein Invaliditätsgrad von 96.16 % vor, weshalb er Anspruch auf eine ganze Rente habe. Mit Verfügung vom 23. Juni 1995 wurde dieser Entscheid dem Versicherten mitgeteilt, wobei die Rentenleistungen rückwirkend ab dem 1. April 1994 zugesprochen wurden. Im Jahre 1997 leitete die IV-Stelle ein erstes Revisionsverfahren ein und am 9. März 1998 teilte sie dem Versicherten mit, die Überprüfung des Invaliditätsgrades habe keine rentenbeeinflussende Änderung ergeben, sodass er weiterhin Anspruch auf eine Rente aufgrund des bisherigen Invaliditätsgrades von 96 % habe. Auch am 3. Oktober 2005 wurde dem Versicherten im Rahmen eines zweiten Revisionsverfahrens mitgeteilt, er habe weiterhin Anspruch auf die bisherige Rente. Im November 2006 leitete die IV-Stelle erneut ein Revisionsverfahren ein. Gestützt hauptsächlich auf ein psychiatrisches Gutachten von Dr. med. L._ vom 18. Februar 2008, auf einen psychiatrischen Arztbericht der RAD vom 14. Mai 2008 sowie auf eine pluridisziplinäre Begutachtung des Versicherten bei der Medizinischen Abklärungsstelle Z._ vom 24. Dezember 2008 stellte die IV-Stelle die bisher ausgerichtete Rente ab Ende August 2009 mit Verfügung vom 9. Juli 2009 ein. Zur Begründung führte sie aus, der Gesundheitszustand des Versicherten habe sich seit der Erstzusprechung der Rente kontinuierlich verbessert. Seit mindestens Anfang Januar 2008 gelte er in der angestammten sowie in jeder angepassten Tätigkeit als zu 80 % arbeitsfähig bei einem Invaliditätsgrad von 29.45 %. B. Mit Entscheid vom 23. März 2010 wies das Verwaltungsgericht des Kantons Graubünden die hiegegen eingereichte Beschwerde mit der substituierenden Begründung ab, die ursprüngliche Rentenzusprechung beruhe auf keiner rechtsgenüglichen fachärztlichen Einschätzung der Arbeitsfähigkeit und es sei kein Einkommensvergleich vorgenommen worden, sodass die zweifellose Unrichtigkeit dieser Verfügung gegeben sei. C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und die Rechtsbegehren stellen, in Aufhebung des kantonalen Entscheides sei ihm unter Kosten- und Entschädigungsfolge eine ganze Invalidenrente zuzusprechen. Eventualiter sei die Sache an die Vorinstanz zurückzuweisen. Ferner ersucht er um Gewährung der unentgeltlichen Prozessführung. Die IV-Stelle beantragt die Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet.