Sachverhalt:
A. Der 1974 geborene M._, verheiratet und Vater von vier Kindern, arbeitete seit 1995 als Bodenleger bei der C._ AG. Am 5. Mai 2001 erlitt er einen Unfall. Am 20. Dezember 2001 meldete er sich unter Hinweis auf Knieschmerzen links bei der Invalidenversicherung zum Leistungsbezug an. Mit Verfügung vom 12. September 2002 sprach ihm die Schweizerische Unfallversicherungsanstalt (SUVA), bei welcher M._ obligatorisch gegen Unfälle versichert war, für die wirtschaftlichen Folgen des Unfalls ab 1. Juli 2002 eine Invalidenrente auf der Grundlage einer Erwerbsunfähigkeit von 10 % zu. Auf Ende März 2003 wurde der Versicherte von der Arbeitgeberfirma entlassen. In der Folge traf die IV-Stelle des Kantons Aargau Abklärungen in medizinischer und erwerblicher Hinsicht, worauf sie am 16. Januar 2008 einen Anspruch auf berufliche Massnahmen ablehnte. Nach durchgeführtem Vorbescheidverfahren sprach sie M._ mit Verfügung vom 17. März 2008 rückwirkend ab 1. Mai 2002 bei einem Invaliditätsgrad von 50 % eine bis 30. Juni 2002 befristete halbe Invalidenrente zu.
B. Die hiegegen eingereichte Beschwerde, mit welcher M._ die Aufhebung der Verfügung und die Zusprechung der gesetzlichen Leistungen beantragen liess, wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 2. Juli 2008 ab.
C. M._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, unter Aufhebung des vorinstanzlichen Entscheides sei ihm eine Invalidenrente zuzusprechen und die Sache sei zur Ergänzung der medizinischen Akten und zu neuer Beurteilung zurückzuweisen.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2. 2.1 Bei der rückwirkenden Zusprechung einer abgestuften oder befristeten Rente sind die Revisionsbestimmungen (Art. 17 Abs. 1 ATSG; Art. 88a Abs. 1 IVV) analog anwendbar, weil noch vor Erlass der ersten Rentenverfügung eine anspruchsbeeinflussende Änderung eingetreten ist mit der Folge, dass dann gleichzeitig die Änderung mitberücksichtigt wird (vgl. <ref-ruling> E. 4a S. 126; ZAK 1984 S. 133; Urteil I 79/07 vom 17. Januar 2008 und Urteil des Eidgenössischen Versicherungsgerichts I 486/04 vom 14. Dezember 2004; siehe auch <ref-ruling> E. 2.2 S. 165). Nach Art. 88a Abs. 1 IVV ist bei einer Verbesserung der Erwerbsfähigkeit die anspruchsbeeinflussende Änderung für die Herabsetzung oder Aufhebung der Leistung von dem Zeitpunkt an zu berücksichtigen, in dem angenommen werden kann, dass sie voraussichtlich längere Zeit dauern wird; sie ist in jedem Fall zu berücksichtigen, nachdem sie ohne wesentliche Unterbrechung drei Monate angedauert hat und voraussichtlich weiterhin andauern wird.
2.2 Mit Verfügung vom 17. März 2008 sprach die IV-Stelle dem Beschwerdeführer rückwirkend ab 1. Mai 2002 eine bis 30. Juni 2002 befristete halbe Invalidenrente zu. Die Vorinstanz wies die hiegegen erhobene Beschwerde ab, wobei sie zum Schluss gelangte, dass eine Arbeitsunfähigkeit von lediglich 10 % vorliege. Damit erübrige sich die Prüfung der erwerblichen Auswirkungen dieser Einschränkung in der Leistungsfähigkeit.
Nach Massgabe des analog anwendbaren Art. 88a Abs. 1 IVV ist dieses Vorgehen unzulässig. Vielmehr konnte die ab 1. Mai 2002 gewährte halbe Rente frühestens mit Wirkung ab 1. Oktober 2002 aufgehoben werden, falls die den Rentenanspruch ausschliessende Verbesserung der Erwerbsfähigkeit bis zu jenem Zeitpunkt angehalten hatte und anzunehmen ist, dass sie darüber hinaus angedauert hat.
2.3 In Anlehnung an entsprechende Vorgaben der SUVA haben IV-Stelle und Vorinstanz nach Ablauf der einjährigen Wartezeit seit dem Unfallereignis vom 5. Mai 2001 ab 1. Mai bis 30. Juni 2002 einen Invaliditätsgrad von 50 % angenommen, diesen ab 1. Juli 2002 jedoch auf weniger als 40 % festgesetzt. In einlässlicher Würdigung der medizinischen Unterlagen stellte das Versicherungsgericht fest, dass der Beschwerdeführer, welcher an einer invalidenversicherungsrechtlich nicht relevanten, keine Arbeitsunfähigkeit bewirkenden somatoformen Schmerzstörung leidet, gesamthaft nur zu 10 % arbeitsunfähig sei. In der Beschwerde wird nichts vorgebracht, was die vorinstanzliche Feststellung des rechtserheblichen medizinischen Sachverhalts als offensichtlich unrichtig oder auf einer Bundesrechtsverletzung beruhend erscheinen lassen könnte, weshalb das Bundesgericht von der festgestellten Arbeitsunfähigkeit von 10 % auszugehen hat (E. 1 hievor; <ref-ruling> E. 3.2 S. 397). Die Vorbringen in der Beschwerde erschöpfen sich im Wesentlichen in einer im letztinstanzlichen Verfahren unzulässigen, appellatorischen Kritik an der Beweiswürdigung der Vorinstanz. Wenn diese auf das Gutachten der Klinik X._ vom 22. Januar 2007 und nicht auf die vom Versicherten neu aufgelegten Arztberichte abgestellt und gleichzeitig in antizipierter Beweiswürdigung auf zusätzliche Abklärungen verzichtet hat, ist sie nicht in Willkür verfallen. Ebenso wenig ist eine Verletzung des rechtlichen Gehörs zu erkennen. Die Tatsache, dass das Gutachten der Klinik X._ vom 22. Januar 2007 rund 14 Monate vor der Verfügung (vom 17. März 2008) erstattet wurde, mindert dessen Beweiswert nicht, zumal die Klagen des Versicherten sich nicht änderten und bis Verfügungserlass keine objektivierbaren Gesundheitsschädigungen vorhanden waren, wie die Vorinstanz unter Hinweis auf die als Beschwerdebeilagen eingereichten Arztberichte darlegt. Im Übrigen ist der zeitliche Abstand zwischen Gutachten und Verfügung auch deswegen nicht entscheidend, weil nach hier massgebender revisionsrechtlicher Betrachtungsweise in erster Linie zu prüfen ist, ob die gesundheitliche Situation des Beschwerdeführers die Aufhebung der halben Invalidenrente auf den 1. Oktober 2002 zu begründen vermag. Diese Frage ist, wie bereits dargelegt, gestützt auf die verbindlichen Feststellungen des kantonalen Gerichts zu bejahen.
3. Dem Verfahrensausgang entsprechend sind die Gerichtskosten den Parteien anteilsmässig aufzuerlegen (Art. 66 Abs. 1 BGG). Die IV-Stelle hat dem Beschwerdeführer eine reduzierte Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Der Entscheid des Versicherungsgerichts des Kantons Aargau vom 2. Juli 2008 und die Verfügung der IV-Stelle des Kantons Aargau vom 17. März 2008 werden dahin abgeändert, dass der Beschwerdeführer Anspruch auf eine halbe Invalidenrente bis 30. September 2002 hat. Im Übrigen wird die Beschwerde abgewiesen.
2. Von den Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer Fr. 300.- und der Beschwerdegegnerin Fr. 200.- auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 500.- zu entschädigen.
4. Die Sache wird zur Neuverlegung der Gerichtskosten und der Parteientschädigung des vorangegangenen Verfahrens an das Versicherungsgericht des Kantons Aargau zurückgewiesen.
5. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau, der Ausgleichskasse des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 24. November 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer