Sachverhalt:
A. K._ (geboren 1963) ersuchte am 24. Januar 2002 bei der Invalidenversicherung um Berufsberatung. Die IV-Stelle des Kantons Zürich veranlasste eine berufliche Abklärung sowie ein Arbeitstraining und gewährte Arbeitsvermittlung. In der Folge kam die IV-Stelle für die Kosten der Ausbildung zum Taxichauffeur auf, welche K._ jedoch nicht beendete. Nach erneuter Anmeldung bei der Invalidenversicherung wies die IV-Stelle das Rentengesuch mangels Ablauf der Wartefrist ab (Verfügung vom 3. April 2007). Am 23. August 2007 machte K._ wiederum eine rentenbegründende Erwerbsunfähigkeit geltend. Mit Verfügung vom 6. Februar 2008 sprach ihm die IV-Stelle eine halbe Invalidenrente ab 1. Juli 2007 zu.
B. Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 23. Juli 2009 ab.
C. K._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, unter Aufhebung des vorinstanzlichen Entscheids sei die IV-Stelle zu verpflichten, ergänzende medizinische Abklärungen durchzuführen. Eventualiter sei ihm eine Dreiviertelsrente zuzusprechen. Zudem ersucht er um unentgeltliche Rechtspflege.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung im Sinne von Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 2 BGG; vgl. zur Invaliditätsbemessung auch <ref-ruling>).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über das anwendbare Recht (<ref-ruling>), den Begriff der Invalidität (Art. 8 Abs. 1 ATSG in Verbindung mit Art. 4 Abs. 1 IVG) und der Erwerbsunfähigkeit (Art. 7 ATSG in der bis 31. Dezember 2007 geltenden Fassung) sowie den Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 IVG in der bis 31. Dezember 2007 geltenden Fassung) zutreffend dargelegt. Dasselbe gilt für die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der allgemeinen Methode des Einkommensvergleichs (Art. 16 ATSG; <ref-ruling> E. 1 S. 30, 126 V 75 E. 5b S. 79, je mit Hinweisen) und die Aufgabe des Arztes bei der Ermittlung des Invaliditätsgrades (<ref-ruling> E. 4 S. 99 mit Hinweisen). Darauf wird verwiesen.
3. Die Vorinstanz hat mit einlässlicher und überzeugender Begründung gestützt auf die medizinischen Akten, insbesondere das Gutachten des Dr. med. M._, Facharzt für Physikalische Medizin und Rehabilitation, vom 27. November 2006, in für das Bundesgericht verbindlicher Weise (E. 1) festgestellt, dass dem Versicherten sein erlernter Beruf als Maurer nicht mehr, eine behinderungsangepasste Tätigkeit hingegen zu 50 % zumutbar ist.
Bezüglich der nach Erstattung des Gutachtens durch Dr. med. M._ vorgenommenen Behandlungen an den Händen ist gestützt auf die Berichte der Frau Dr. med. W._, Fachärztin für Neurologie und für Psychiatrie und Psychotherapie, vom 18. Februar 2007, und des Dr. med. Z._, Facharzt für Chirurgie, speziell Handchirurgie, vom 10. Mai und 7. Juni 2007, von keiner zusätzlichen Einschränkung der Leistungsfähigkeit auszugehen. Denn Dr. med. M._ hat in seinem Gutachten vom 27. November 2006 bereits entsprechende Klagen des Versicherten festgehalten, so dass ihm diese bei seiner Einschätzung der zumutbaren Arbeitsfähigkeit bekannt waren. Daran ändern auch die Berichte des Dr. med. L._, Facharzt für Innere Medizin, vom 20. August 2006 und vom 21. September 2007, nichts. Im Bericht vom 20. August 2006 erachtete Dr. med. L._ eine angepasste Tätigkeit halbtags als zumutbar. In seiner Einschätzung vom 21. September 2007 äusserte er sich nicht mehr zur Arbeitsfähigkeit in einer Verweisungstätigkeit. Seinen Angaben ist jedoch keine wesentliche Verschlechterung zu entnehmen; vielmehr bezeichnete er den Gesundheitszustand seit seinem Bericht vom 20. August 2006 als stationär. Der vom Versicherten geltend gemachten verringerten Leistungsfähigkeit steht die ausgewiesene Verbesserung der Grobmotorik entgegen. Dr. med. L._ attestiert denn auch keine gegenüber seinen früheren Angaben erhöhte Arbeitsunfähigkeit. Entgegen der Ansicht des Versicherten hat die Vorinstanz auch nicht die zumutbare Arbeitsfähigkeit selbst festgesetzt, sondern lediglich dargelegt, weshalb sie der Einschätzung des Dr. med. M._ und nicht jener des Hausarztes Dr. med. L._ gefolgt ist. Die vorinstanzliche Feststellung einer zumutbaren Arbeitsfähigkeit von 50 % in einer behinderungsangepassten Tätigkeit ist demnach nicht offensichtlich unrichtig und die Vorinstanz durfte angesichts der Aktenlage von weiteren medizinischen Abklärungen ohne Verletzung des Untersuchungsgrundsatzes absehen.
Schliesslich liegt auch keine rechtsfehlerhafte Ermessensausübung darin, dass bei der Bemessung der Invalidität ein leidensbedingter Abzug von 15 %, hingegen im Rahmen einer früheren Beurteilung ein solcher von 20 % berücksichtigt wurde. Denn der im Einzelfall gewährte leidensbedingte Abzug ist bloss ein Element der Ermittlung des Invaliditätsgrades und vermag somit als reiner Begründungsbestandteil keine rechtliche Verbindlichkeit zu bewirken. Zudem hat die Vorinstanz in Übereinstimmung mit der Rechtsprechung dargelegt, weshalb im konkreten Fall ein Abzug von 15 % angemessen ist. Vielmehr stellt sich die Frage, ob der damalige Abzug von 20 % rechtskonform war. Aus den Akten ergibt sich, dass der Versicherte ohne diesen Abzug von 20 % nicht den erforderlichen Invaliditätsgrad von 10 % zur Durchführung von beruflichen Massnahmen erreicht hätte. Wenn ihm nun die Verwaltung vor Jahren angesichts der damaligen konkreten Umstände (40-jähriger Schweizer, Arbeitsfähigkeit von 90 % in sämtlichen wechselbelastenden Tätigkeiten gemäss Schlussbericht im Rahmen der beruflichen Massnahmen) einen grosszügigen Abzug gewährt hat, so führt dies nicht dazu, dass er bei einer späteren Leistungsprüfung unter ganz anderen Voraussetzungen Anspruch auf Berücksichtigung des gleich hohen leidensbedingten Abzugs hat.
4. Da die Beschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach Art. 109 BGG, d.h. ohne Durchführung eines Schriftenwechsels und mit summarischer Begründung, erledigt.
5. Das Verfahren ist kostenpflichtig. Das Gesuch um unentgeltliche Rechtspflege wird infolge Aussichtslosigkeit abgewiesen (Art. 64 Abs. 1 BGG). Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 28. Oktober 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Riedi Hunold