Sachverhalt:
A. Der 1950 geborene S._ meldete sich am 4. April 1996 bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf ein MEDAS-Gutachten vom 9. Januar 1998 sprach ihm die IV-Stelle des Kantons Zürich mit Verfügung vom 31. August 1998 basierend auf einem Invaliditätsgrad von 61% eine halbe Rente ab 1. Januar 1996 zu; diesen Anspruch bestätigte sie nach einer Revision mit Schreiben vom 23. Juni 2000. Auch am 4. Dezember 2003 teilte die IV-Stelle S._ mit, der Invaliditätsgrad sei unverändert, ab 1. Januar 2004 habe er Anspruch auf eine Dreiviertelsrente (Verfügung vom 16. Januar 2004), was mit Einspracheentscheid vom 8. Juni 2004 und Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 27. Januar 2005 bestätigt wurde. Mit Verfügung vom 18. Mai 2006, bestätigt mit Einspracheentscheid vom 20. Februar 2007, wies die IV-Stelle ein Rentenerhöhungsgesuch ab. Die dagegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 20. November 2007 gut und wies die Sache zu erneuter Abklärung an die IV-Stelle zurück. Nach Einholung eines MEDAS-Gutachtens vom 5. September 2008 lehnte die IV-Stelle das Rentenerhöhungsbegehren mit Verfügung vom 22. Dezember 2008 erneut ab.
B. Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 21. Juni 2010 ab.
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei ihm eine ganze Invalidenrente basierend auf einem Invaliditätsgrad von 70% zuzusprechen; eventualiter sei die Sache an die IV-Stelle zur weiteren Abklärung zurückzuweisen. Ferner ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Die IV-Stelle schliesst auf Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen (BSV) auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>; ohne Beschwerden gemäss Art. 97 Abs. 2 und Art. 105 Abs. 3 BGG). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht (<ref-law>) nur zu prüfen, ob der angefochtene Gerichtsentscheid in Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Hiezu gehört insbesondere auch die unvollständige (gerichtliche) Feststellung der rechtserheblichen Tatsachen und die Verletzung des Untersuchungsgrundsatzes als einer wesentlichen Verfahrensvorschrift (Urteil 9C_534/2007 vom 27. Mai 2008 E. 1 mit Hinweis auf Ulrich Meyer, N. 58-61 zu Art. 105, in: Niggli/Uebersax/Wiprächtiger [Hrsg.], Basler Kommentar Bundesgerichtsgesetz, Basel 2008; Seiler/von Werdt/Güngerich, Kommentar zum Bundesgerichtsgesetz, Bern 2007, N. 24 zu Art. 97).
2. Die massgeblichen Bestimmungen und Grundsätze über die Voraussetzungen und den Umfang des Rentenanspruchs (<ref-law>; <ref-law> in der bis 31. Dezember 2007 gültig gewesenen Fassung) sowie die Invaliditätsbemessung nach der allgemeinen Methode des Einkommensvergleichs (<ref-law>; <ref-ruling> E. 3.4 S. 348 f.; <ref-ruling> E. 1 S. 30 f.) werden im vorinstanzlichen Entscheid sowie im Einspracheentscheid zutreffend dargelegt. Ebenfalls richtig sind die Ausführungen zur Rentenrevision (<ref-law>; <ref-law>) und zum massgebenden Vergleichszeitraum (<ref-ruling> E. 5 S. 110) sowie zum Beweiswert ärztlicher Berichte und Gutachten und zur Beweiswürdigung (<ref-ruling> E. 3 S. 352 ff.; <ref-ruling> E. 1c S. 160 ff.; je mit Hinweisen; vgl. auch <ref-ruling> E. 4.1 S. 400). Darauf wird verwiesen.
3. Streitig und zu prüfen ist der Rentenanspruch des Beschwerdeführers. Dabei steht in Frage, ob Vorinstanz und Verwaltung die Erhöhung der Dreiviertels- auf eine ganze Rente zu Recht abgelehnt haben.
3.1 Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person handelt es sich grundsätzlich um Entscheidungen über eine Tatfrage (<ref-ruling> E. 3.2 S. 397 ff.), welche das Bundesgericht seiner Urteilsfindung zugrunde zu legen hat (<ref-law>). Analoges gilt auch für die Frage, ob sich eine Arbeits(un)fähigkeit in einem bestimmten Zeitraum in einem revisionsrechtlich relevanten Sinne verändert hat (vgl. Urteil I 865/06 vom 12. Oktober 2007 E. 4). Die konkrete Beweiswürdigung stellt eine Tatfrage dar. Dagegen ist die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach <ref-law> Rechtsfrage (<ref-ruling> E. 3.2 und 4 S. 397 ff.; erwähntes Urteil I 865/06 E. 4 mit Hinweisen), die das Bundesgericht im Rahmen der den Parteien obliegenden Begründungs- bzw. Rügepflicht (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; <ref-ruling> E. 1.4.1 und 1.4.2 S. 254) frei überprüfen kann (<ref-law>). Der Verzicht der Vorinstanz auf weitere Abklärungen oder Rückweisung der Sache an die IV-Stelle zu diesem Zwecke (antizipierte Beweiswürdigung; Urteil 9C_561/2007 vom 11. März 2008 E. 5.2.1) im Besonderen verletzt etwa dann Bundesrecht, wenn der festgestellte Sachverhalt unauflösbare Widersprüche enthält oder wenn eine entscheidwesentliche Tatfrage, wie namentlich Gesundheitszustand und Arbeitsfähigkeit einer versicherten Person, auf unvollständiger Beweisgrundlage beantwortet wird (Urteile 8C_831/2008 vom 29. Mai 2009 E. 2.3 und 9C_410/2008 vom 8. September 2008 E. 3.3.1 mit Hinweisen).
3.2 Die IV-Stelle stellte in ihrer Verfügung vom 22. Dezember 2008 fest, gemäss den medizinischen Abklärungen sei zwar eine Verschlechterung des Gesundheitszustandes seit Juli 2006 festzustellen, insbesondere im psychiatrischen Bereich. Trotzdem sei, auch polydisziplinär, weiterhin eine Rest-Arbeitsfähigkeit von 50% ausgewiesen, mit einem differenzierten Belastungsprofil. Die Vorinstanz erachtete das MEDAS-Gutachten vom 5. September 2008 als beweiskräftig. Darin werden als Hauptdiagnosen mit Einschränkung der zumutbaren Arbeitsfähigkeit aufgeführt: Rezidivierende depressive Störung, gegenwärtig mittelgradige Episode; anhaltende somatoforme Schmerzstörung; vordiagnostizierte rezidivierende Episoden mit möglichem Bewusstseinsverlust (anamnestisch einmalige vegetative Synkope), Zittern, Nausea, Schweissausbruch unklarer Ätiologie, stress-/schmerzgetriggert, DD: im Rahmen einer früher diagnostizierten Temporallappen-Epilepsie, vasovagal; Kopfschmerzen am ehesten vom Spannungstyp (DD: analgetikainduzierte Komponente); chronisches panvertebrales Schmerzsyndrom (Osteochondrose C4-C6, Spondylose thorako-lumbal, Spondylarthrose der unteren Lendenwirbelsäule, LWS); schmerzhafte Bewegungseinschränkung der rechten Schulter (mögliche Supraspinatusdegeneration rechts). Als Nebendiagnosen ohne wesentliche Einschränkung der Arbeitsfähigkeit werden genannt: Arterielle Hypertonie (Ruhe-EKG gegenüber 1997 unverändert); Übergewicht (BMI 26.9 kg/m2, Hypercholesterinämie); rezidivierender produktiver Husten (Status nach mehreren Bronchitiden, Status nach Mittellappen-Pneumonie 06/2005).
Das kantonale Gericht stellte fest, im Gutachten werde psychiatrischerseits eine Arbeitsunfähigkeit von 50% attestiert. Orthopädischerseits würden qualitative Einschränkungen, begründet durch degenerative Veränderungen der Lendenwirbelsäule, formuliert: Es sollten nicht wiederholt Lasten über 10 kg gehoben werden. Wegen der möglichen Schulterpathologie (rechts dominant) dürften keine Überkopfarbeiten vorkommen, wegen der Halswirbelsäule könnten keine Zwangshaltungen in Reklination oder Inklination des Kopfes erfolgen. Bei solcher Art adaptierten Tätigkeiten wurde ein vollschichtiger Einsatz als möglich erachtet. Zusätzlich zu berücksichtigen seien aus somatischer Sicht die unklaren Schwindelepisoden, die grundsätzlich das Begehen von ungesicherten Gerüsten, Leitern, überhaupt Tätigkeiten mit Sturzgefahr, verunmöglichten, ebenso das Bedienen von Maschinen mit der Gefahr von Fremd- / Selbstverletzung. Polydisziplinär werde von einer um rund 50% verminderten Arbeitsfähigkeit auch für adaptierte Erwerbstätigkeiten ausgegangen. Die Verschlechterung sei psychiatrischerseits dokumentiert und gültig seit spätestens Juli 2006. Somatischerseits sei keine relevante Verschlechterung der Arbeitsfähigkeit seit Mai 2006 bzw. seit Februar 2007 festzustellen.
Die Vorinstanz kam zum Schluss, es sei auf das MEDAS-Gutachten abzustellen; die durch Hausarzt und behandelnden Psychiater tiefer attestierten Arbeitsfähigkeiten seien den Gutachtern bekannt gewesen und berücksichtigt worden und deshalb nicht geeignet, das Gutachten in Frage zu stellen. Zudem seien diese so niedrig, dass sie nicht nachvollziehbar seien. Schliesslich seien die entsprechenden Berichte vor dem Rückweisungsurteil der Vorinstanz ergangen, welches diese nicht als taugliche Entscheidungsgrundlage erachtet habe. Der medizinische Sachverhalt sei dahingehend erstellt, dass (bei geänderter gesundheitlicher Situation) für - näher umschriebene - leidensangepasste Tätigkeiten eine Arbeitsfähigkeit von 50% bestehe.
3.3 Der Beschwerdeführer rügt unter anderem die vorinstanzliche Beweiswürdigung der verschiedenen Arztberichte, welche eine höhere Arbeitsunfähigkeit attestieren. Ob auf Grund der neben dem Gutachten bestehenden medizinischen Akten eine höhere Arbeitsunfähigkeit vorliegt, kann indes offen bleiben, da bereits aus erwerblichen Gründen ein Invaliditätsgrad resultiert, der eine ganze Rente begründet, und die Beschwerde bereits aus diesem Grunde gutzuheissen ist, wie nachfolgend zu zeigen ist.
4. 4.1 Der Beschwerdeführer hat bereits in seiner vorinstanzlichen Beschwerde geltend gemacht, es sei ihm im Rahmen des Einkommensvergleichs ein leidensbedingter Abzug von 20% zu gewähren. Das kantonale Gericht hat sich mit diesem Einwand nicht befasst, sondern festgehalten, die Verwaltung habe auf der Grundlage der Arbeitsfähigkeit von 50% die Invaliditätsbemessung vorgenommen. Dazu habe der Beschwerdeführer - dessen Kritik sich ausschliesslich gegen die gutachterliche Beurteilung richtete - keine Einwände erhoben.
4.2 Die Frage, ob überhaupt ein Abzug nach Massgabe der Grundsätze von <ref-ruling> vorzunehmen sei, ist rechtlicher Natur; die Bestimmung der konkreten Höhe eines solchen Abzuges dagegen ist Ermessensfrage, die unter Herrschaft des BGG nur auf Ermessensunter- oder -überschreitung und -missbrauch als Formen rechtsfehlerhafter (<ref-law>) Ermessensbetätigung hin überprüft werden kann (<ref-ruling> E. 3.3 S. 399; vgl. auch <ref-ruling> E. 5.3 S. 328). Der Abzug hat nicht automatisch, sondern dann zu erfolgen, wenn im Einzelfall Anhaltspunkte dafür bestehen, dass die versicherte Person wegen eines oder mehrerer Merkmale ihre gesundheitlich bedingte (Rest-)Arbeitsfähigkeit auf dem allgemeinen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichem Erfolg verwerten kann. Rechtsprechungsgemäss ist zu berücksichtigen, dass gesundheitlich beeinträchtigte Personen, die selbst bei leichten Hilfsarbeitertätigkeiten behindert sind, im Vergleich zu voll leistungsfähigen und entsprechend einsetzbaren Arbeitnehmern lohnmässig benachteiligt sind und deshalb in der Regel mit unterdurchschnittlichen Lohnansätzen rechnen müssen, insbesondere wenn sie in ihrer letzten Tätigkeit körperliche Schwerarbeit verrichtet haben (<ref-ruling> E. 4.2.3 S. 481). Bei der Bestimmung der Höhe des Abzugs vom Tabellenlohn ist nicht in der Weise vorzugehen, dass für jedes in Betracht fallende Merkmal separat eine Reduktion vorgenommen wird, weil damit Wechselwirkungen ausgeblendet würden. Vielmehr ist der Einfluss aller Merkmale auf das Invalideneinkommen (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) unter Würdigung der Umstände im Einzelfall nach pflichtgemässem Ermessen gesamthaft zu schätzen. Dabei ist der Abzug auf insgesamt höchstens 25% zu begrenzen (126 V 75 E. 5b/aa-cc S. 79 f.).
4.3 Der Versicherte leidet an multiplen Beschwerden, so dass er auch bei grundsätzlich zumutbaren Tätigkeiten zahlreichen Einschränkungen unterliegt. Zudem ist ihm nur noch eine teilzeitliche Tätigkeit von 50% zumutbar. Rechtsprechungsgemäss gebietet sich deshalb grundsätzlich ein leidensbedingter Abzug. Eine Verschlechterung ist psychiatrischerseits mit dem MEDAS-Gutachten ausgewiesen. Zudem ging die IV-Stelle in der Verfügung vom 22. Dezember 2008 gegenüber ihren früheren Verfügungen von einem differenzierten Belastungsprofil aus. Die nunmehrige Berücksichtigung eines leidensbedingten Abzuges ist deshalb auch aus revisionsrechtlichen Gesichtspunkten zulässig.
Was die Höhe dieses Abzugs betrifft, ist zunächst zu berücksichtigen, dass teilzeitbeschäftigte Männer im Vergleich zu Vollzeitangestellten erfahrungsgemäss überproportional tiefer entlöhnt werden (vgl. <ref-ruling> E. 4.2.3 S. 481). So verdienen Männer mit einem Beschäftigungsgrad von 50% bis 74% im hier massgebenden Anforderungsniveau 4 gemäss LSE 2006, Tabelle T8* (S. 28), 10.09% weniger als vollzeitbeschäftigte Mitarbeiter (>=90%) verdienten (10.04% gemäss LSE 2006, T2*, S. 16). Hinzu kommt, dass das umschriebene Anforderungsprofil verschiedenste Limitierungen enthält (vgl. E. 3.2 hievor) und die Einsatzmöglichkeiten des Versicherten, der rund 15 Jahre nicht mehr erwerbstätig gewesen und im Verfügungszeitpunkt 58 Jahre alt war, weiter einschränkt. Bei gesamthafter Berücksichtigung all dieser Umstände gebietet sich daher ein Abzug von 20%.
4.4 Damit ergibt sich im Rahmen des von der IV-Stelle vorgenommenen Einkommensvergleichs (Valideneinkommen von Fr. 78'916.55, Invalideneinkommen bei 50% Fr. 30'072.00), welcher anderweitig zu keinen Weiterungen Anlass gibt und auf den verwiesen wird, bei einem um 20% reduzierten Invalideneinkommen von Fr. 24'057.60 ein Invaliditätsgrad von gerundet (<ref-ruling> E. 3 S. 122 ff.) 70% und damit ein Anspruch auf eine ganze Rente. Die Änderung ist ab 1. November 2006 zu berücksichtigen, da die Verschlechterung des psychischen Gesundheitszustandes im Juli 2006 eingetreten ist (Art. 88a Abs. 2 in Verbindung mit Art. 88bis Abs. 1 lit. a IVV).
5. Das Verfahren ist kostenpflichtig (Art. 65 Abs. 1 und Abs. 4 lit. a BGG). Die Gerichtskosten gehen ausgangsgemäss zu Lasten der IV-Stelle als unterliegender Partei (<ref-law>). Diese hat dem obsiegenden Beschwerdeführer für das bundesgerichtliche Verfahren eine Parteientschädigung auszurichten (<ref-law>). Dessen Gesuch um unentgeltliche Rechtspflege ist demzufolge gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 21. Juni 2010 und die Verfügung der IV-Stelle des Kantons Zürich vom 22. Dezember 2008 werden insoweit abgeändert, als festgestellt wird, dass der Beschwerdeführer ab 1. November 2006 Anspruch auf eine ganze Rente der Invalidenversicherung hat.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 500.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Sozialversicherungsgericht des Kantons Zürich zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 10. Februar 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Die Gerichtsschreiberin:
Borella Helfenstein Franke