Sachverhalt: A. A.a Der 1971 geborene B._ war als Hilfsarbeiter im Gartenbau tätig und meldete sich erstmals am 3. November 1997 wegen eines chronischen, unspezifischen lumbovertebralen Schmerzsyndroms bei muskulärer Insuffizienz und bei Überforderung am Arbeitsplatz, Aggravation und Tendenz zur Symptomausweitung zum Bezug von Leistungen bei der Invalidenversicherung an. Anlässlich einer Autokollision am 10. Februar 2001 erlitt er eine Distorsion der Halswirbelsäule. Die IV-Stelle Schwyz sprach ihm mit Verfügung vom 11. Januar 2005 ab 1. Februar 2002 bis 31. Dezember 2003 eine halbe und ab 1. Januar 2004 eine Dreiviertelsrente zu. Auf ein Rentenerhöhungsgesuch des Versicherten hin holte die IV-Stelle ein polydisziplinäres Gutachten des Instituts X._ vom 24. April 2007 ein. Gestützt auf dessen Erkenntnisse hob sie mit Verfügung vom 17. September 2007 die Rente per Ende Oktober 2007 auf. Das Verwaltungsgericht des Kantons Schwyz wies eine dagegen geführte Beschwerde mit Entscheid vom 15. Januar 2008 ab. Dieser Entscheid wurde rechtskräftig. A.b Am 11. März 2008 - noch während der laufenden Rechtsmittelfrist gegen den Entscheid des Verwaltungsgerichts vom 15. Januar 2008 - liess B._ ein Revisionsgesuch infolge Verschlechterung des Gesundheitszustandes stellen. Sein aktueller Gesundheitszustand entspreche nicht dem, welcher im Gutachten des Instituts X._ festgestellt worden sei, weshalb die IV-Stelle darum ersucht werde, einen entsprechenden Zwischenbericht beim Hausarzt einzuholen. In der Folge liess sich B._ im Zentrum Y._ (Berichte vom 6. und 19. Mai 2008), am Zentrum Z._ (Bericht vom 3. Juli 2008) und durch die Rheumatologin Dr. med. H._ (Bericht vom 10. November 2008) untersuchen. Mit Verfügung vom 21. Oktober 2008 trat die nunmehr für den Versicherten zuständige IV-Stelle Luzern auf das neue Leistungsbegehren nicht ein, da sich die tatsächlichen Verhältnisse seit Erlass der Verfügung vom 17. September 2007 nicht in einer für den Anspruch erhebli-chen Weise verändert hätten. B. Das Verwaltungsgericht des Kantons Luzern wies die dagegen eingereichte Beschwerde mit Entscheid vom 4. Februar 2010 ab. C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheides sei die IV-Stelle zu verpflichten, auf das eingereichte Gesuch einzutreten. Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.