Sachverhalt:
A. Der 1978 geborene K._ war seit 1. Mai 1998 bis 3. November 1999, als er bei Zuschnittarbeiten eine Verletzung am Daumen der linken Hand erlitt, als Hilfsarbeiter bei der Firma G._, Plattenbeläge, tätig. Am 5. Dezember 2000 meldete er sich unter Hinweis auf die Unfallfolgen, für welche die Schweizerische Unfallversicherungsanstalt (SUVA) die gesetzlichen Leistungen erbrachte, bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf die getroffenen Abklärungen, u.a. eine Expertise der Medizinischen Abklärungsstelle (MEDAS) vom 21. Dezember 2003, lehnte die IV-Stelle des Kantons Aargau mit Verfügung vom 10. Februar 2004 einen Anspruch auf berufliche Eingliederungsmassnahmen ab. Am 6. April 2004 sprach die IV-Stelle dem Versicherten ab 1. Februar 2001 bis 31. Juli 2002 eine ganze und ab 1. August 2002 bei einem Invaliditätsgrad von 58 % verfügungsweise eine halbe Invalidenrente zu. Auf Einsprache hin erhöhte die IV-Stelle den Invaliditätsgrad auf 61 % (Entscheid vom 1. Oktober 2004), weswegen K._ gemäss Verfügung der IV-Stelle vom 3. Januar 2005 ab 1. Januar 2004 eine Dreiviertelsrente beanspruchen konnte.
Nachdem das Versicherungsgericht des Kantons Aargau einen Einspracheentscheid der SUVA mit einem Invaliditätsgrad von 31 % bestätigt hatte, hielt die IV-Stelle laut Mitteilung vom 27. April 2005 im Rahmen einer Rentenrevision daran fest, dass der Versicherte unverändert Anspruch auf die bisherige Rente bei einem Invaliditätsgrad von 61 % habe. Im Zuge einer neuerlichen, am 3. Mai 2006 eingeleiteten Revision der Invalidenrente holte die IV-Stelle ein psychiatrisches Gutachten des Dr. med. E._ und des Fachpsychologen lic. phil. H._ vom 26. Juni 2007, ergänzt mit Schreiben vom 12. August 2007, sowie eine rheumatologische Expertise des Dr. med. T._, Leitender Arzt, Rehabilitationsklinik X._, vom 4. Februar 2008 ein. Eine Abklärung bei der Berufsberatung ergab laut Bericht vom 26. Mai 2009, dass der Versicherte sich ausser Stande fühle, an einem Arbeitstraining teilzunehmen. Mit Verfügung vom 29. Mai 2009 hob die IV-Stelle die Invalidenrente auf Ende des der Zustellung der Verfügung folgenden Monats revisionsweise auf, weil im Gesundheitszustand des Versicherten eine Verbesserung eingetreten sei und der Invaliditätsgrad nur noch 34 % betrage.
B. Das Versicherungsgericht des Kantons Aargau hiess die hiegegen eingereichte Beschwerde in dem Sinne teilweise gut, dass es die Sache zur Prüfung des Anspruchs auf Integrationsmassnahmen zur Vorbereitung auf die berufliche Eingliederung prüfe, hernach gegebenenfalls eine Arbeitsvermittlung durchführe und über einen allfälligen Einarbeitungszuschuss entscheide. Im Rentenpunkt wies es die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt K._ beantragen, unter teilweiser Aufhebung des vorinstanzlichen Entscheides und der Verfügung der IV-Stelle betreffend Invalidenrentenanspruch sei ihm weiterhin eine Dreiviertelsrente auszurichten. Ferner ersucht er um die Bewilligung der unentgeltlichen Rechtspflege.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2. In Bezug auf den Anspruch auf Integrationsmassnahmen zur Vorbereitung auf die berufliche Eingliederung, zu deren Prüfung die Vorinstanz die Sache an die IV-Stelle zurückgewiesen hat, ist der kantonale Entscheid unangefochten geblieben. Aufgrund des Rechtsbegehrens des Beschwerdeführers ist einzig streitig, ob die Vorinstanz die revisionsweise Aufhebung der Invalidenrente gemäss Verfügung der IV-Stelle vom 29. Mai 2009 zu Recht bestätigt hat, weil der Invaliditätsgrad zufolge Verbesserung der gesundheitlichen Situation auf 34 % gesunken sei.
3. Das Versicherungsgericht hat die Bestimmungen und Grundsätze über die Revision einer Invalidenrente (<ref-law>) und die dabei zu vergleichenden Sachverhalte (<ref-ruling> E. 5 S. 110 f.) zutreffend wiedergegeben, sodass darauf verwiesen wird.
4. In einlässlicher Würdigung der medizinischen Unterlagen stellte die Vorinstanz fest, in somatischer Hinsicht habe sich im Gesundheitszustand im massgeblichen Zeitraum seit Erlass des Einspracheentscheides vom 1. Oktober 2004 bis zur verfügungsweisen Rentenaufhebung am 29. Mai 2009 keine erhebliche Änderung ergeben. Gestützt auf das mit Schreiben vom 12. August 2007 präzisierte psychiatrische Gutachten vom 26. Juni 2007 legte sie ferner dar, das Beschwerdebild des Versicherten habe sich vor allem hinsichtlich der Depression gebessert. So hätten die Schlafstörungen nicht mehr im Zentrum gestanden, während Reizbarkeit und Aggressionen zwar nach wie vor vorhanden seien, laut Angaben der Gutachter aber keine Auswirkungen auf die Konzentration mehr hätten. Einfluss auf die Arbeitsfähigkeit hätten laut Gutachten vorwiegend psychosoziale Faktoren, die als invaliditätsfremd nicht berücksichtigt werden könnten. Aufgrund eines Einkommensvergleichs, dem eine Arbeitsunfähigkeit von lediglich 10 % und ein leidensbedingter Abzug zugrunde zu legen seien, resultiere ein Invaliditätsgrad von 34 %, weshalb die Rente zu Recht revisionsweise aufgehoben worden sei.
5. Der Auffassung der Vorinstanz ist beizupflichten. Soweit der Beschwerdeführer geltend macht, es hätte geprüft werden müssen, ob sich der Gesundheitszustand seit der letzten Revision geändert habe, kann ihm nicht gefolgt werden. Zeitlicher Referenzpunkt für die Prüfung einer anspruchserheblichen Änderung bildet die letzte rechtskräftige Verfügung, welche auf einer materiellen Prüfung des Rentenanspruchs mit rechtskonformer Sachverhaltsabklärung, Beweiswürdigung und Durchführung eines Einkommensvergleichs (bei Anhaltspunkten für eine Änderung in den erwerblichen Auswirkungen des Gesundheitszustandes) beruht (<ref-ruling> E. 5.4 S. 114). Die letzte Revision der Invalidenrente vor der Revision, die zur Rentenaufhebung führte, wurde im Frühjahr 2005 durchgeführt und laut Mitteilung der IV-Stelle vom 27. April 2005 abgeschlossen. Eine umfassende Überprüfung der gesundheitlichen und wirtschaftlichen Verhältnisse wurde nicht vorgenommen, und es erging keine formelle Verfügung. Die entsprechende Mitteilung fällt als Vergleichszeitpunkt somit ausser Betracht. Ebenso wenig trifft zu, dass die Invalidenrente erst aufgehoben werden könne, wenn die Integrationsmassnahmen durchgeführt sind und die Eingliederungsfähigkeit wiederhergestellt ist. Die Aufhebung einer laufenden Invalidenrente ist unter den Revisionsvoraussetzungen von <ref-law> unabhängig von der Durchführung von Integrationsmassnahmen zur Vorbereitung auf die berufliche Eingliederung im Sinne von <ref-law> zulässig. Der Rentenanspruch setzt einen Mindestinvaliditätsgrad voraus, nicht (subjektiv) fehlende Eingliederungsfähigkeit, wie in der Beschwerde sinngemäss vorgebracht wird. Vorbehalten bleibt eine objektive arbeitsmarktliche Desintegration nach langjährigem Rentenbezug (Urteil 9C_163/2009 vom 10. September 2010), welcher Tatbestand aber hier nicht erfüllt ist.
Soweit der Beschwerdeführer die auf ärztlichen Berichten und Gutachten beruhende Feststellung der Vorinstanz rügt, wonach im Vergleichszeitraum eine Verbesserung des Gesundheitszustandes eingetreten sei, handelt es sich um eine im Rahmen der geltenden Überprüfungsbefugnis des Bundesgerichts (E. 1 hievor) unzulässige Kritik an der vorinstanzlichen Beweiswürdigung. Dass das kantonale Gericht den Sachverhalt offensichtlich unrichtig oder sonstwie in Verletzung von Bundesrecht festgestellt habe, macht der Versicherte nicht geltend.
6. Dem Gesuch um unentgeltliche Rechtspflege ist stattzugeben, da die gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Der Beschwerdeführer wird jedoch auf <ref-law> aufmerksam gemacht. Danach hat die Partei der Gerichtskasse Ersatz zu leisten, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4. Rechtsanwalt Dr. Peter F. Siegen wird aus der Gerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau, der Ausgleichskasse des Schweizerischen Gewerbes, Bern, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 7. Dezember 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Widmer