Sachverhalt:
A. Mit Verfügung vom 1. Oktober 2004 sprach die IV-Stelle des Kantons Graubünden S._, geboren 1952, gestützt auf ein Gutachten der Medizinischen Abklärungsstelle (MEDAS vom 30. Oktober 2002) eine halbe Rente der Invalidenversicherung bei einem Invaliditätsgrad von 57 % zu. Im Juni 2006 wurde eine Rentenrevision eingeleitet. Die IV-Stelle zog einen Bericht der behandelnden Ärztin Dr. med. B._, FMH Physikalische Medizin und Rehabilitation (vom 28. August 2006), bei und holte ein polydisziplinäres Gutachten der MEDAS (vom 9. November 2007) ein. Gestützt darauf teilte die IV-Stelle dem Versicherten nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 22./29. August 2008 mit, dass die bisherige halbe Rente per 1. Oktober 2008 auf eine Viertelrente bei einem IV-Grad von 44 % herabgesetzt werde.
B. Die dagegen, unter Beilage eines Berichts des behandelnden Psychiaters Dr. med. T._ (vom 4. September 2008, erhobene Beschwerde wies das Verwaltungsgericht des Kantons Graubünden mit Entscheid vom 27. Januar 2009 ab.
C. Der Versicherte lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, in Aufhebung des kantonalen Gerichtsentscheides (Ziff. 1 und 2) sei ihm eine Dreiviertelsrente, eventuell eine halbe Rente zuzusprechen; eventualiter seien die Akten an die IV-Stelle zurückzuweisen zur Einholung eines rheumatologischen und psychiatrischen Gutachtens. Zudem wird um Gewährung der unentgeltlichen Rechtspflege ersucht.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2 Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht zu prüfen, ob der angefochtene kantonale Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht, Völkerrecht oder kantonale verfassungsmässige Rechte verletzt (Art. 95 lit. a-c BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Hingegen findet unter der Herrschaft des BGG eine freie Überprüfung des vorinstanzlichen Entscheids in tatsächlicher Hinsicht nicht statt.
2. Im angefochtenen Gerichtsentscheid und in der Verfügung werden die für den streitigen Anspruch auf eine Invalidenrente massgeblichen Rechtsgrundlagen korrekt dargelegt. Es betrifft dies insbesondere die Bestimmungen über den Invaliditätsbegriff (<ref-law> in Verbindung mit <ref-law>), über den Rentenanspruch nach Massgabe des Invaliditätsgrades (<ref-law> in der ab 2004 gültig gewesenen Fassung), über die Bestimmung des Invaliditätsgrades nach der Einkommensvergleichsmethode (<ref-law>, <ref-law>) sowie über die Regelung der Rentenrevision (<ref-law>) mit den dabei in zeitlicher Hinsicht zu vergleichenden Sachverhalten (vgl. ferner <ref-ruling>). Richtig sind auch die Ausführungen zur Aufgabe des Arztes oder der Ärztin bei der Invaliditätsbemessung (vgl. auch <ref-ruling> E. 4 S. 99 f. mit Hinweisen) sowie zum Beweiswert und zur Beweiswürdigung von medizinischen Berichten und Gutachten (<ref-ruling> E. 3 S. 352 ff.). Darauf wird verwiesen.
3. Strittig und zu beurteilen ist zunächst, ob der Gesundheitszustand des Beschwerdeführers im massgeblichen Vergleichszeitraum zwischen der ursprünglichen eine halbe Rente zusprechenden Verfügung vom 1. Oktober 2004 und der angefochtenen Verfügung vom 22./29. August 2008 eine erhebliche, die Arbeitsfähigkeit beeinflussende Veränderung erfahren hat.
3.1 Dabei stellt die anhand von medizinischen Untersuchungen gerichtlich festgestellte Arbeits(un)fähigkeit eine Entscheidung über eine Tatfrage dar. Soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es hingegen um eine Rechtsfrage (<ref-ruling> E. 3.2 S. 398). Analoges gilt für die Frage, ob sich eine Arbeitsunfähigkeit erheblich verändert hat (<ref-law>; Art. 87 Abs. 3 und 4 IVV; Urteil 8C_547/2008 vom 16. Januar 2009 E. 4 mit Hinweis).
3.2 Das kantonale Gericht hat in Würdigung der Aktenlage insbesondere gestützt auf das interdisziplinäre Gutachten der MEDAS vom 9. November 2007 festgestellt, dass sich der Gesundheitszustand insofern verbessert hat, als der Beschwerdeführer aufgrund seiner aktuellen Beschwerden (Diagnosen mit Einschränkung der zumutbaren Arbeitsfähigkeit: Generalisiertes chronisches Schmerzsyndrom mit vegetativen Begleitbeschwerden sowie psychogene Überlagerung) in seiner bisherigen Tätigkeit als Maurer zwar weiterhin vollumfänglich arbeitsunfähig ist, dass es ihm allerdings möglich ist, körperlich leichtere bis mittelschwere rückenadaptierte Tätigkeiten bis zu 70 % auszuführen.
3.3 Diese tatsächlichen Feststellungen des kantonalen Gerichts zum Gesundheitszustand und zur Arbeitsfähigkeit sind für das Bundesgericht grundsätzlich verbindlich, ausser sie wären offensichtlich unrichtig. Dies trifft hier nicht zu. Das kantonale Gericht hat die medizinische Aktenlage zutreffend gewürdigt. Es hat überzeugend dargelegt, dass das im Rahmen des Revisionsverfahrens eingeholte polydisziplinäre MEDAS-Gutachten die von der Rechtsprechung gestellten Anforderungen (<ref-ruling> E. 3a S. 352) erfüllt, weshalb es zu Recht darauf abgestellt hat. Die Einwendungen des Beschwerdeführers vermögen nicht zu einem andern Ergebnis zu führen. Insbesondere hat die Vorinstanz zutreffend erwogen, dass die von Dr. med. L._, Facharzt FMH für Psychiatrie und Psychotherapie, im psychiatrischen Konsiliargutachten vom 26. September 2007 gestellte Diagnose einer psychogenen Überlagerung (ICD-10:F 54) der subjektiv empfundenen Schmerzen begleitet von depressiven Verstimmungen, auf einer umfassenden Abklärung beruht und nachvollziehbar begründet ist. Nebst den Angaben des Versicherten, den erhobenen medizinischen Befunden und Beobachtungen hatte der Gutachter den Beschwerdeführer mittels dreier Fragebögen untersucht, darunter die Hamilton-Depressions-Skala. Was der Beschwerdeführer bezüglich dieser Skala vorbringt (Bewertung liege nicht vor, womit sie nicht nachvollziehbar sei) vermag die psychiatrische Einschätzung des Dr. med. L._ insgesamt nicht in Frage zu stellen, weshalb darauf nicht weiter einzugehen ist. Mit der Vorinstanz hat der Gutachter zwar ebenfalls depressive Symptome erhoben, er ist jedoch nachvollziehbar zum Schluss gelangt, dass aufgrund der fehlenden Kontinuität der Symptome (nicht täglich) zwar depressive Verstimmungen und Ängste vorliegen, jedoch psychiatrisch-diagnostisch eine psychogene Überlagerung bestehe. Entgegen den Behauptungen des Beschwerdeführers hat sich der Gutachter nicht einer vagen Ausdrucksweise bedient, vielmehr hat er klar festgestellt, dass sich der Zustand aus psychiatrischer Sicht gebessert hat. Überdies ist, wie die Vorinstanz richtig erkannte, auch dem Bericht des behandelnden Psychiaters Dr. med. T._ vom 4. September 2008 weder die Diagnose einer Depression noch einer Anpassungsstörung (im Gegensatz zur MEDAS-Begutachtung 2002) zu entnehmen. Gleiches gilt für die Berichte der behandelnden Ärztin Dr. med. B._.
3.4 Schliesslich ist auch eine Änderung bzw. Verschlechterung des Gesundheitszustandes in physischer Hinsicht, wie erneut geltend gemacht wird, aufgrund der medizinischen Akten nicht ausgewiesen. Mit der Vorinstanz zeigen die Berichte der Frau Dr. med. B._ keine objektiv nachweisbare Verschlimmerung des Zustandes in der Lendenwirbelsäule auf. Zudem lag die von der Ärztin in ihrer Stellungnahme vom 22. April 2008 angeführte Bilddiagnostik den MEDAS-Gutachtern ebenfalls vor. Von einer diesbezüglich unvollständigen Sachverhaltsfeststellung kann kein Rede sein, zumal mit der Vorinstanz im konkreten Falle auf eine Evaluation der funktionellen Leistungsfähigkeit (EFL) verzichtet werden durfte (<ref-ruling> E. 1d und 2). Bei dieser Ausgangslage ist nicht zu beanstanden, dass das kantonale Gericht in antizipierter Beweiswürdigung von Beweisweiterungen abgesehen hat (vgl. 124 V 90 E. 4b S. 94, 122 V 157 E. 1d S. 162). Dem im letztinstanzlichen Verfahren wiederholten Antrag auf Rückweisung der Sache zur Einholung eines ergänzenden rheumatologischen und psychiatrischen Gutachtens ist daher ebenfalls nicht zu entsprechen.
3.5 Zusammenfassend gilt festzuhalten, dass die Vorinstanz nicht offensichtlich unrichtig und damit für das Bundesgericht verbindlich eine Verbesserung des Gesundheitszustandes bejaht und die Arbeitsfähigkeit in einer leidensangepassten Tätigkeit auf 70 % festgesetzt hat.
4. Hinsichtlich der zu Recht nach der allgemeinen Methode des Einkommensvergleich vorgenommenen Invaliditätsbemessung, bei welcher einem Valideneinkommen von Fr. 69'832.- ein Invalideneinkommen von Fr. 39'419.25 (Fr. 41'935,40 x 0,94) gegenübergestellt und ein IV-Grad von 44 % ermittelt worden ist, rügt der Beschwerdeführer ausschliesslich den auf 6 % festgesetzten behinderungsbedingten Abzug vom Tabellenlohn beim Invalideneinkommen und macht erneut einen Abzug von 15 % geltend. Wie es sich damit verhält, braucht indes nicht weiter geprüft zu werden. Selbst wenn bei der Invaliditätsberechnung der vom Beschwerdeführer geltend gemachte Abzug von 15 % berücksichtigt würde, resultierte kein Invaliditätsgrad, der eine halbe Rente begründenden könnte (Valideneinkommen: Fr. 69'832.12; Invalideneinkommen: Fr. 41'935.40 x 0,85; Invaliditätsgrad: 49 %). Damit lässt sich die revisionsweise Reduktion des Rentenanspruchs auf eine Viertelsrente nicht beanstanden, was zur Abweisung der Beschwerde führt.
5. Das Verfahren ist kostenpflichtig (Art. 65 Abs. 1 und Abs. 4 lit. a BGG). Dem Ausgang des Prozesses entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Seinem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die entsprechenden gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwältin Karin Caviezel wird als unentgeltliche Anwältin des Beschwerdeführers bestellt, und es wird ihr für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Graubünden und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. Januar 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Weber Peter