Sachverhalt:
A.
A._ war zuletzt seit Dezember 1990 als Ausrüster bei der C._ AG tätig. Am 20. Februar 2002 meldete er sich unter Hinweis auf die Folgen eines Verhebeereignisses bei der Invalidenversicherung zum Leistungsbezug an. Auf Ende Februar 2002 wurde er von der Arbeitgeberin entlassen. Gestützt auf Abklärungen in medizinischer und erwerblicher Hinsicht sprach die IV-Stelle des Kantons Aargau dem Versicherten mit Verfügung vom 6. Januar 2004 rückwirkend ab 1. Mai 2002 bei einem Invaliditätsgrad von 50 % eine halbe Invalidenrente zu.
Im März 2010 leitete die IV-Stelle eine Rentenrevision ein. Sie veranlasste eine bidisziplinäre Begutachtung des Versicherten durch den Psychiater Dr. med. D._ (Teilgutachten vom 10. August 2011), und den Rheumatologen Dr. med. E._ (Teilgutachten vom 27. April 2011), mit interdisziplinärer Fragenbeantwortung (vom 10. August 2011) sowie ergänzender Stellungnahme des Dr. med. D._ (vom 6. April 2012). Mit Verfügung vom 3. September 2012 hob die IV-Stelle die halbe Invalidenrente auf den 1. November 2012 auf.
B.
Die hiegegen eingereichte Beschwerde, mit welcher A._ beantragt hatte, unter Aufhebung der Verfügung vom 3. September 2012 sei ihm weiterhin eine halbe Invalidenrente zuzusprechen, wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 13. August 2013 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte das vorinstanzlich gestellte Rechtsbegehren erneuern.

Erwägungen:
1.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2. Bei Folgerungen, die sich auf medizinische Empirie stützen, z.B. der Vermutung, dass eine anhaltende somatoforme Schmerzstörung mit zumutbarer Willensanstrengung überwindbar sei, geht es um Rechtsfragen. Im Übrigen gilt in diesem Zusammenhang Folgendes: Zu den vom Bundesgericht nur eingeschränkt überprüfbaren Tatsachenfeststellungen zählt zunächst, ob eine anhaltende somatoforme Schmerzstörung (oder ein damit vergleichbarer syndromaler Zustand) vorliegt, und bejahendenfalls sodann, ob eine psychische Komorbidität oder weitere Umstände gegeben sind, welche die Schmerzbewältigung behindern. Als Rechtsfrage frei überprüfbar ist, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung und somit auf eine invalidisierende Gesundheitsschädigung zu gestatten (<ref-ruling> E. 1.2 S. 65 f.).
2.
Die Vorinstanz hat zutreffend dargelegt, dass die Invalidenrente gestützt auf lit. a Abs. 1 der Schlussbestimmungen zur Änderung des IVG vom 18. März 2011 (6. IV-Revision), in Kraft getreten am 1. Januar 2012, aufgehoben werden kann, wenn sie bei pathogenetisch-ätiologisch unklarem syndromalem Beschwerdebild ohne nachweisbare organische Grundlage gesprochen wurde.
3.
3.1. Die Vorinstanz gelangte in einlässlicher Würdigung der medizinischen Akten, welche der Rentenverfügung vom 6. Januar 2004 zugrunde lagen, zum Schluss, dass die hälftige Arbeitsunfähigkeit in einer angepassten Tätigkeit, auf der die damalige Rentenzusprechung beruhte, auf einem solchen Beschwerdebild basiert habe. Sie berücksichtigte dabei sowohl die aus rheumatologischer wie auch aus psychiatrischer Sicht gestellten Diagnosen, wobei sie namentlich festhielt, die somatischen Befunde bewirkten keine Einschränkung der Arbeitsfähigkeit. Aus psychiatrischer Sicht lag laut Angaben der Oberärztin des Dienstes F._ vom 19. Mai 2003 eine mittelgradige depressive Episode mit somatischem Syndrom vor. Dass die IV-Stelle damals entgegen dem Dienst F._ nicht von voller, sondern lediglich von hälftiger Arbeitsunfähigkeit ausgegangen sei, lasse den Schluss zu, dass sie ebenfalls nicht von einer Depression im eigentlichen Sinne ausging, sondern von einem Symptomenkomplex mit chronischer Schmerzkrankheit bei nur unzureichend objektivierbaren somatischen Befunden.
3.2. Der Beschwerdeführer wendet sich gegen diese Betrachtungsweise. Seine Ausführungen erschöpfen sich indessen in weiten Teilen in einer im Rahmen der gesetzlichen Überprüfungsbefugnis des Bundesgerichts (E. 1 hievor) unzulässigen Kritik an der vorinstanzlichen Beweiswürdigung, wobei er sich hauptsächlich mit den neueren, der Rentenaufhebungsverfügung zugrunde liegenden Arztberichten befasst, aus welchen sich nicht ergibt, dass die ursprüngliche Verfügung nicht wegen eines mit der somatoformen Schmerzstörung vergleichbaren Leidens zugesprochen wurde. Soweit er dem Versicherungsgericht vorwirft, die Berichte der Ärzte des Spitals I._, Dr. med. G._ (vom 30. Mai 2002) und Prof. H._ (vom 13. Januar 2005) unrichtig zitiert und insofern den Sachverhalt aktenwidrig, d.h. offensichtlich unrichtig, festgestellt zu haben, kann ihm nicht gefolgt werden. Der Vorinstanz waren die Angaben der Spitalärzte bekannt, wobei der Bericht des Prof. H._ vom 13. Januar 2005 für die ein Jahr zuvor erfolgte Rentenzusprechung gemäss Verfügung vom 6. Januar 2004 ohnehin keine Rolle spielte.
3.3. Für ihre Folgerung, dass beim Versicherten zum Zeitpunkt des Erlasses der ursprünglichen Verfügung kein rein somatisches, sondern ein der somatoformen Schmerzstörung entsprechendes Leiden im Sinne von lit. a Abs. 1 der Schlussbestimmungen zur 6. IV-Revision vorlag, hat sich die Vorinstanz auf zahlreiche medizinische Stellungnahmen gestützt. So erbrachte ein MRI vom 2. April 2002 regelrechte Ergebnisse, und der Regionale Ärztliche Dienst (RAD) wies in seiner Stellungnahme vom 29. Juli 2003 darauf hin, dass es keine Anhaltspunkte für neue rheumatologische Aspekte gebe, während der internistische und der neurologische Status als unauffällig beschrieben wurden. Hingegen hatte der Dienst F._ am 19. Mai 2003 eine mittelgradig depressive Episode mit somatischem Syndrom gemäss ICD-10 F 32.11 festgestellt. Inwieweit die Vorinstanz den rechtserheblichen medizinischen Sachverhalt in Würdigung insbesondere dieser ärztlichen Angaben offensichtlich unrichtig ermittelt habe, wenn sie zur letztinstanzlich lediglich beschränkt überprüfbaren Auffassung (in der Amtlichen Sammlung nicht publizierte E. 1.2 von <ref-ruling>; SVR 2008 IV Nr. 23 S. 72, I 683/06 E. 2.2) gelangte, die Invalidenrente sei am 6. Januar 2004 bei einem pathogenetisch-ätiologisch unklaren syndromalen Beschwerdebild ohne nachweisbare organische Grundlage zugesprochen worden, vermag der Beschwerdeführer nicht einleuchtend zu begründen. Der Hinweis auf abweichende ärztliche Stellungnahmen beschlägt die Beweiswürdigung und ist unbeachtlich. Es bleibt daher bei der Feststellung im angefochtenen Entscheid.
4.
Die Aufhebung der mit Wirkung ab 1. Mai 2002 ausgerichteten halben Invalidenrente setzt voraus, dass bei Erlass der vorinstanzlich bestätigten Verfügung vom 3. September 2012 keine rentenbegründende Invalidität bestanden hat.
4.1. Das kantonale Gericht hat auch bezüglich dieser Frage die medizinischen Unterlagen eingehend geprüft. Dabei hat es namentlich das bidisziplinäre Gutachten des Rheumatologen Dr. med. E._ vom 27. April 2011 und des Psychiaters Dr. med. D._ vom 10. August 2011 mit interdisziplinärer Fragenbeantwortung vom 10. August 2011 sowie ergänzender Stellungnahme des Dr. med. D._ vom 6. April 2012 gewürdigt, welchen es vollen Beweiswert zuerkannt hat. Die Vorinstanz hat festgehalten, der Beschwerdeführer sei aus rheumatologischer Sicht in einer behinderungsangepassten Tätigkeit für die Schulter ohne repetitives Gewichtheben über 15 kg voll arbeitsfähig. In psychischer Hinsicht ging sie davon aus, bei der diagnostizierten anhaltend mittelgradig depressiven Episode mit somatischem Syndrom im Rahmen einer rezidivierenden depressiven Störung handle es sich um keine eigenständige psychische Erkrankung mit Einfluss auf die Arbeitsfähigkeit. Wenn der Gutachter eine Arbeitsunfähigkeit von 50 % attestierte, trage dies den massgeblichen rechtlichen Kriterien keine Rechnung. Bei einer chronischen Schmerzkrankheit mit körperlichen und psychischen Faktoren, wie sie Dr. med. D._ festgestellt hat, und einem gewissen Zusammenhang zwischen rezidivierender depressiver Episode mit dem somatischen Syndrom und der Schmerzstörung, sei unter juristischem Gewichtswinkel die Rechtsprechung zu den anhaltenden somatoformen Schmerzstörungen gemäss <ref-ruling> anwendbar. Ein selbstständiges psychisches Leiden, das als hinreichend erhebliche Komorbidität in Betracht fallen könnte, liege nicht vor. Auch die übrigen rechtsprechungsgemäss heranzuziehenden Kriterien seien nicht ausreichend gehäuft und ausgeprägt erfüllt; daher könne nicht auf eine invalidisierende Gesundheitsschädigung geschlossen werden.
4.2. Der Beschwerdeführer befasst sich zur Hauptsache nur mit der Frage, ob die Voraussetzungen gemäss lit. a Abs. 1 der Schlussbestimmungen zur Änderung des IVG vom 18. März 2011 erfüllt sind; er setzt sich jedoch nicht näher damit auseinander, ob und allenfalls inwieweit bei Erlass der Verfügung vom 3. September 2012 eine Erwerbsunfähigkeit nach <ref-law> vorgelegen hat, die einer Einstellung der halben Invalidenrente für die Zukunft entgegenstünde. Die blosse Behauptung, die Vorinstanz nehme eine einseitige Beweiswürdigung zu Lasten des Versicherten vor, indem sie Ausmass und Schwere der psychischen Störungen bagatellisiert und sich ohne psychiatrische Fachkompetenz über die Beurteilung des psychiatrischen Gutachtens und des RAD-Arztes stellt, genügt den Anforderungen an eine sachgerechte Begründung nicht. Der Beschwerdeführer vermag auch hinsichtlich der Aufhebung der Invalidenrente nicht darzutun, inwiefern die Vorinstanz den Sachverhalt offensichtlich unrichtig festgestellt oder anderweitig Bundesrecht verletzt habe (E. 1 hievor). Dass die Vorinstanz die von Dr. med. D._ diagnostizierte anhaltende mittelgradige depressive Episode im Rahmen einer rezidivierenden depressiven Störung nicht als psychische Komorbidität von erheblicher Schwere, Ausprägung und Dauer qualifiziert hat, ist mit der Rechtsprechung zu vereinbaren: Auch wenn eine invalidisierende Wirkung einer mittelschweren depressiven Störung nicht von vornherein auszuschliessen ist, bedingt deren Annahme jedenfalls, dass es sich dabei nicht bloss um die Begleiterscheinung einer Schmerzkrankheit handelt, sondern um ein selbstständiges, vom psychogenen Schmerzsyndrom losgelöstes depressives Leiden (Urteil 9C_736/2011 vom 18. April 2012 E. 4.5; SVR 2008 IV Nr. 1 S. 1; I 176/06 E. 5.2). Fehlt es daran, ist nach der Rechtsprechung in der Regel keine invalidisierende Wirkung des Gesundheitsschadens anzunehmen (<ref-ruling>; Urteile 8C_162/2013 vom 17. Juli 2013 E. 3.1.2 und 8C_945/2009 vom 23. September 2010 E. 10.1). Im vorliegenden Fall durfte die Vorinstanz ein von der Schmerzstörung klar zu unterscheidendes psychisches Leiden, das zu einer rentenbegründenden Invalidität von mindestens 40 % führt, gestützt auf die medizinischen Unterlagen verneinen, ohne Bundesrecht zu verletzen. Dass die mittelschwere Depression offenbar keinen invalidisierenden Charakter aufweist, wie dies der Regel entspricht, zeigen letztlich auch die von Dr. med. D._ am 6. April 2012 beschriebenen mehrwöchigen Intervalle zwischen den einzelnen Behandlungen im Zeitraum von 2005 bis 2011 sowie der nachfolgende Therapieabbruch. Hätte eine erhebliche depressive Störung mit Auswirkungen auf die Arbeitsfähigkeit vorgelegen, hätte der Beschwerdeführer eine intensivere Therapie gewählt und die Behandlung nicht ersatzlos abgebrochen. Die Abweichung der Vorinstanz von der im Gutachten des Psychiaters Dr. med. D._ attestierten Arbeitsunfähigkeit von 50 % ist aus rechtlicher Sicht begründet. Es liegen keine genügenden Anhaltspunkte für eine invalidisierende Schmerzstörung vor.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Juli 2014
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Kernen
Der Gerichtsschreiber: Widmer