Sachverhalt:
A. P._, geboren 1957, war von 1. Mai 1987 bis 31. März 2005 beim Spital X._ im Technischen Dienst und bis 31. Dezember 2002 zusätzlich als Transporthelfer im Rettungsdienst angestellt. Am 21. Februar 2005 ersuchte er um Leistungen der Invalidenversicherung. Die IV-Stelle des Kantons Zürich holte verschiedene ärztliche Berichte ein. Mit Verfügung vom 8. Dezember 2005 sprach sie P._ ab 1. August 2004 eine Viertelsrente zu. Im Rahmen des Einspracheverfahrens holte die IV-Stelle weitere ärztliche Berichte ein und klärte die berufliche Situation erneut ab. In der Folge hiess sie die Einsprache teilweise gut (Einspracheentscheid vom 10. Mai 2007) und sprach P._ am 3. Oktober 2007 ab 1. Oktober 2007 eine halbe Invalidenrente zu. Mit Verfügungen vom 15. November 2007 gewährte sie ihm ab 1. November 2004 befristet bis 30. April 2005 eine ganze Invalidenrente und ab 1. Mai 2005 befristet bis 30. September 2007 eine halbe Invalidenrente.
B. Das Sozialversicherungsgericht des Kantons Zürich vereinigte das Verfahren bezüglich der Verfügung vom 3. Oktober 2007 mit dem Verfahren bezüglich der Verfügungen vom 15. November 2007 und wies die Beschwerden mit Entscheid vom 17. April 2009 ab.
C. P._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es seien der vorinstanzliche Entscheid und die Verfügungen der IV-Stelle, soweit diese einen eine halbe IV-Rente übersteigenden Anspruch verneinen, aufzuheben und es sei die Sache an die IV-Stelle zur Vornahme ergänzender Abklärungen und Neuverfügung zurückzuweisen.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung im Sinne von Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>; vgl. zur Invaliditätsbemessung auch <ref-ruling>).
Die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln nach <ref-law> ist eine Rechtsfrage (<ref-ruling> E. 3.2 S. 397 und E. 4 S. 399). Die konkrete Beweiswürdigung wie auch die antizipierte Beweiswürdigung betreffen Tatfragen, die das Bundesgericht lediglich auf offensichtliche Unrichtigkeit und Rechtsfehlerhaftigkeit hin zu überprüfen befugt ist (<ref-law>). Unter diesem Blickwinkel hält ein Verzicht der Vorinstanz auf weitere Beweisvorkehren auf Grund antizipierter Beweiswürdigung etwa dann nicht stand, wenn die Sachverhaltsfeststellung unauflösbare Widersprüche enthält oder wenn eine entscheidwesentliche Tatsache auf unvollständiger Beweisgrundlage - beispielsweise ohne Beizug des notwendigen Fachwissens unabhängiger Experten - beantwortet wird (Urteil 9C_410/2008 vom 8. September 2008, E. 3.3.1 mit Hinweisen).
2. Die Vorinstanz hat die Bestimmungen und Grundsätze über das zeitlich anwendbare Recht (<ref-ruling> mit Hinweisen), den Begriff der Invalidität (<ref-law> in Verbindung mit <ref-law>), insbesondere bei psychischen Gesundheitsschäden wie somatoforme Schmerzstörungen (<ref-ruling>, 130 V 352, je mit Hinweisen) oder bei Fibromyalgie (<ref-ruling>), den Anspruch auf eine Rente der Invalidenversicherung (<ref-law> in der bis 31. Dezember 2007 in Kraft gewesenen Fassung) und die Ermittlung des Invaliditätsgrades bei Erwerbstätigen nach der allgemeinen Methode des Einkommensvergleichs (<ref-law>; <ref-ruling> E. 1 S. 30, 126 V 75, je mit Hinweisen) zutreffend dargelegt. Dasselbe gilt für das Vorgehen bei Aufhebung oder Herabsetzung einer Invalidenrente (<ref-law>; <ref-ruling>, 130 V 343 E. 3.5 S. 349, 125 V 413 E. 2d S. 417, je mit Hinweisen) und die Aufgabe des Arztes bei der Ermittlung des Invaliditätsgrades (<ref-ruling> E. 4 S. 99 mit Hinweisen). Darauf wird verwiesen.
3. Streitig ist, ob der Versicherte auch nach dem 1. Mai 2005 Anspruch auf eine ganze Invalidenrente hat. Dabei sind sich die Parteien einig, dass ihm seine angestammte Tätigkeit nicht mehr zumutbar ist. Vorinstanz und IV-Stelle erachten eine behinderungsangepasste Tätigkeit ab Januar 2005 als voll, der Versicherte hingegen nur zu 50 % zumutbar. In diesem Zusammenhang rügt der Beschwerdeführer, die Vorinstanz habe die medizinische Situation unzureichend abgeklärt.
4. 4.1 Die Vorinstanz hat mit einlässlicher und überzeugender Begründung gestützt auf die Berichte des Dr. med. Z._, Facharzt für orthopädische Chirurgie vom 3. März 2005, des PD Dr. med. L._, Facharzt für orthopädische Chirurgie vom 20. März 2006, der Klinik für Rheumatologie und Rehabilitation, des Spitals Y._ vom 2. Februar 2006 und der RehaClinic B._ vom 13. und 22. März 2006 in für das Bundesgericht verbindlicher Weise (E. 1) festgestellt, dass der bisherige Beruf als technischer Mitarbeiter und Transporthelfer nicht mehr, eine leichte behinderungsangepasste Tätigkeit hingegen ganztags zumutbar ist.
4.2 Was der Versicherte dagegen vorbringt, vermag nicht durchzudringen. Die Vorinstanz ist gestützt auf die Berichte der RehaClinic B._ davon ausgegangen, dass in einer angepassten Tätigkeit grundsätzlich eine volle Arbeitsfähigkeit gegeben sei, welche ausgehend von einem anfänglich maximal 50 %-igen Einsatz gesteigert werden sollte, dieser stufenweise Einstieg der erfolgreichen beruflichen Rehabilitation diene und keine grundsätzliche Einschränkung der Arbeitsfähigkeit in einer angepassten Tätigkeit bedeute. Diese Einschätzung ist weder offensichtlich unrichtig noch verletzt sie Bundesrecht. Bezüglich der Rüge, es handle sich dabei um eine Hypothese, ist dem Versicherten entgegen zu halten, dass er - soweit aus den Akten ersichtlich - keinerlei Anstrengungen unternahm, seine Restarbeitsfähigkeit wenigstens teilweise zu verwerten. Auch kann nicht von einer Polymyalgie rheumatica ausgegangen werden. Denn der Hausarzt des Versicherten, Dr. med. F._, Facharzt für Allgemeine Medizin und klassische Homöopathie hat dies am 6. Juni 2006 lediglich als Verdachtsdiagnose festgehalten, was von Dr. med. S._, Facharzt für physikalische Medizin und Rehabilitation, speziell Rheumaerkrankungen in seinem Bericht vom 13. Juli 2006 nicht bestätigt werden konnte. Vielmehr hat Dr. med. S._ eine Fibromyalgie diagnostiziert. Gestützt darauf hat die Vorinstanz zu Recht in Anwendung der massgebenden Rechtsprechung, wonach auf Grund der gemeinsamen Aspekte einer Fibromyalgie und einer somatoformen Schmerzstörung die zur somatoformen Schmerzstörung entwickelten Grundsätze zur Anwendung gelangen (<ref-ruling>), festgestellt, dass beim Versicherten die Voraussetzungen zur ausnahmsweisen Annahme einer durch das Schmerzsyndrom bedingten Arbeitsunfähigkeit nicht gegeben sind. Daran vermag auch der Bericht des Dr. med. F._ vom 3. Juni 2008 nichts zu ändern; denn er enthält weder etwas Neues noch eine überzeugende Begründung, weshalb - entgegen Dr. med. S._ - eine Polymyalgie rheumatica vorliege. Was schliesslich die Einwände gegen die Stellungnahmen des RAD-Arztes Dr. med. R._ betrifft, ist darauf nicht weiter einzugehen, da sich die zutreffenden Schlussfolgerungen der Vorinstanz bereits aus den übrigen ärztlichen Berichten ergeben, so dass sich auch unter Ausserachtlassung der Aussagen des Dr. med. R._ kein anderes Bild ergibt. Insgesamt durfte die Vorinstanz somit im Rahmen der grundsätzlich zulässigen antizipierten Beweiswürdigung (SVR 2001 IV Nr. 10 S. 27 E. 4b mit Hinweisen, I 362/99) von weiteren medizinischen Abklärungen absehen und der Invaliditätsermittlung eine zumutbare volle Arbeitsfähigkeit in einer angepassten Tätigkeit zugrunde legen.
Letztinstanzlich nicht mehr streitig sind das ermittelte Valideneinkommen und der gewährte Abzug beim Invalideneinkommen von 20 %, so dass es beim vorinstanzlichen Entscheid sein Bewenden hat.
5. Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 14. Dezember 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Riedi Hunold