Sachverhalt:
A.
A.a. Die IV-Stelle des Kantons Aargau sprach dem 1970 geborenen A._ ab 1. November 2004 eine halbe Invalidenrente zu (Verfügung vom 19. Oktober 2006). Mit Verfügung vom 17. November 2011 hob die Verwaltung die Rente nach veranlasster Observation auf den 1. Oktober 2010 hin auf (Invaliditätsgrad: 0 %) und forderte am 20. Januar 2012 die ab 1. Oktober 2010 zu Unrecht ausgerichteten Rentenleistungen zurück. Die gegen diese beiden Verfügungen erhobenen Beschwerden wies das Versicherungsgericht des Kantons Aargau am 12. Juni 2012, ausgehend von einem Invaliditätsgrad von 38.7 %, ab. Das Bundesgericht bestätigte diesen Entscheid mit Urteil 9C_645/2012 vom 16. August 2013.
A.b. Auf die Neuanmeldung des A._ vom 2. Juli 2014 trat die IV-Stelle mit Verfügung vom 14. Oktober 2014 nicht ein. Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 2. Juni 2015 ab.
A.c. Am 4. September 2015 meldete sich der Versicherte erneut bei der Invalidenversicherung zum Leistungsbezug an und reichte zum Nachweis einer eingetretenen Verschlechterung ein vom Gericht B._ bei Dr. med. C._, Facharzt Rheumatologie und Innere Medizin, Spital C._ AG, in Auftrag gegebenes Gutachten vom 25. August 2015 ein. Die IV-Stelle trat auf die Neuanmeldung nicht ein (Verfügung vom 10. Dezember 2015). Die vom Versicherten dagegen erhobene Beschwerde hiess das Versicherungsgericht des Kantons Aargau mit Entscheid vom 23. Juni 2016 teilweise gut. Es hob die Verfügung vom 10. Dezember 2015 auf und wies die Sache an die IV-Stelle zurück, damit diese auf die Neuanmeldung eintrete und materiell über die Rentenfrage entscheide.
Mit Zwischenverfügung vom 20. Januar 2017 ordnete die Verwaltung daraufhin eine rheumatologische Begutachtung bei Dr. med. D._, Fachärztin Innere Medizin, Physikalische Medizin und Rehabilitation, Zentrum F._ GmbH, an. Die gegen diese Verfügung gerichtete Beschwerde wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 25. April 2017 ab. Das Bundesgericht trat auf die von A._ dagegen geführte Beschwerde mit Urteil vom 8. Juni 2017 (9C_404/2017) nicht ein.
Dr. med. D._ erstattete die Expertise am 22. November 2017. Mit Verfügung vom 5. Juni 2018 verneinte die IV-Stelle einen Anspruch des Versicherten auf eine Invalidenrente.
B.
Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 3. Mai 2019 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, der vorinstanzliche Entscheid vom 3. Mai 2019 sowie die Verfügung der IV-Stelle vom 5. Juni 2018 seien aufzuheben. Es sei ihm rückwirkend auf den 4. September 2015 hin eine ganze Rente, eventuell eine Dreiviertels- und subeventuell eine Viertelsrente der Invalidenversicherung auszurichten. Eventuell sei die Sache an die Vorinstanz bzw. an die IV-Stelle zur weiteren Abklärung und zur Neubeurteilung zurückzuweisen.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.

Erwägungen:
1.
Vorab ist festzuhalten, dass im Rahmen der Beschwerde gegen den Endentscheid der Vorinstanz vom 3. Mai 2019 auch Einwendungen gegen deren Zwischenentscheid vom 25. April 2017 zugelassen sind (<ref-law>; vgl. <ref-ruling> E. 5.2.3 S. 484).
2.
Der Beschwerdeführer verlangt namentlich die Aufhebung der Verfügung der IV-Stelle vom 5. Juni 2018. Anfechtungsobjekt vor Bundesgericht bildet ausschliesslich der letztinstanzliche kantonale Entscheid (vgl. <ref-law>). Die Verfügung der Verwaltung ist durch den Entscheid des Versicherungsgerichts ersetzt worden (Devolutiveffekt) und gilt als inhaltlich mitangefochten (<ref-ruling> E. 1.4 S. 144 mit Hinweis).
3.
3.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
3.2. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweis).
4.
Streitig und zu prüfen ist, ob die Vorinstanz mit der Bestätigung der leistungsabweisenden Verfügung der IV-Stelle vom 5. Juni 2018 Bundesrecht verletzt hat.
4.1. Das kantonale Gericht erwog, die Zusprechung einer Invalidenrente aufgrund einer Neuanmeldung, nachdem eine Rente wegen eines zu geringen Invaliditätsgrades verweigert respektive eingestellt worden sei, bedürfe, analog zur Rentenrevision nach <ref-law>, einer anspruchsrelevanten Änderung des Invaliditätsgrades. Es erkannte, dass die massgebenden Vergleichszeitpunkte zum einen durch die rentenaufhebende Verfügung vom 17. November 2011 und zum anderen durch die angefochtene Verfügung vom 5. Juni 2018 definiert würden.
Die Vorinstanz stellte im Weiteren fest, Dr. med. E._, Facharzt für physikalische Medizin und Rehabilitation, vom Regionalen Ärztlichen Dienst (RAD), sei in seinem Bericht vom 22. Dezember 2016 nach der Sichtung der Expertise des Dr. med. C._ vom 25. August 2015 und der Einholung weiterer Stellungnahmen behandelnder Ärzte davon ausgegangen, es bedürfe einer weiteren gutachterlichen Abklärung. Die IV-Stelle habe in der Folge rechtmässig eine rheumatologisch-orthopädische Begutachtung bei Dr. med. D._ (Expertise vom 22. November 2017) in Auftrag gegeben.
Diesem Gutachten erkannte das kantonale Gericht Beweiswert zu und kam in Anlehnung daran zum Schluss, der Beschwerdeführer sei in seiner angestammten Tätigkeit 100 % arbeitsunfähig. In einer angepassten, körperlich leichten bis mittelschweren wechselbelastenden Tätigkeit liege hingegen eine 100 %-ige Arbeitsfähigkeit vor. Demnach sei seit dem relevanten Vergleichszeitpunkt (17. November 2011) keine bleibende Änderung des Gesundheitszustands eingetreten. Es fehle im vorliegenden Fall mit überwiegender Wahrscheinlichkeit an einer - Voraussetzung für die Zusprache einer Rente aufgrund einer Neuanmeldung bildenden - anspruchserheblichen tatsächlichen Veränderung. Die IV-Stelle habe das Leistungsbegehren mit Verfügung vom 5. Juni 2018 zu Recht abgewiesen.
4.2. Der Beschwerdeführer rügt hauptsächlich, es hätte kein neues umfassendes Gutachten eingeholt werden dürfen, weshalb es sich bei der Expertise von Dr. med. D._ um eine unzulässige "second opinion" handle. Der Sachverhalt sei mit dem Gutachten des Dr. med. C._ bereits hinreichend geklärt gewesen. Dieser habe ausdrücklich eine eingetretene Gesundheitsverschlechterung gegenüber dem Jahr 2011 bestätigt. Es müsse daher bei der Prüfung des Leistungsanspruchs auf die Expertise des Dr. med. C._ abgestellt werden.
5.
Die Frage, ob es sich beim Gutachten von Dr. med. D._ vom 22. November 2017 um eine unzulässige "second opinion" handelt, kann offen bleiben. Denn selbst bei Nichtabstellen auf die Expertise von Dr. med. D._, sondern auf jene des Dr. med. C._ vom 25. August 2015, wie vom Beschwerdeführer beantragt, bleibt es beim Ergebnis des vorinstanzlichen Entscheids, wie die nachfolgenden Erwägungen zeigen.
5.1. Dr. med. C._ berichtete in der Expertise vom 25. August 2015, der Versicherte leide an einem lumboradikulären Reizsyndrom S1 rechts (Diskushernie L5/S1 mit Kompression der Nervenwurzel S1 rechts, Osteochondrose und Spondylarthrose L5/S1), an einem zervikovertebralen Schmerzsyndrom (Diskusprotrusionen C5/6 und C6/7 mit korrespondierenden Spondylarthrosen) sowie an einem Knick-, Senk-, Spreizfuss mit Abflachung des Fussgewölbes und Überbelastung MTP II und III beidseits sowie an beginnender Fasciitis plantaris beidseits. Für alle Tätigkeiten mit repetitivem Heben und Tragen von Lasten über 25 kg sowie Arbeiten, die überwiegend über Schulterniveau ausgeübt würden, bestehe eine 100%-ige Arbeitsunfähigkeit. Leichte bis mittelschwere Arbeiten ohne repetitives Heben und Tragen von Lasten über 15 kg seien dem Beschwerdeführer medizinisch-theoretisch grundsätzlich zumutbar. Aufgrund der bereits instabilen Verhältnisse in der Lendenwirbelsäule könne aber nicht von einer konstanten Arbeitsleistung ausgegangen werden. Über ein Jahr hindurch sei eine durchschnittliche Arbeitsfähigkeit von 50 % gegeben. Diese Einschätzung gelte seit 2003.
Dr. med. C._ führte im Weiteren aus, dass sich der Gesundheitszustand des Versicherten seit März 2010 subjektiv mit neu aufgetretenen konstanten Ausstrahlungen in das rechte Bein und mit neuen Schmerzen paravertebral links verschlechtert habe. Diese Veränderung lasse sich bildgebend (MRI vom 23. Juni 2014) anhand der Zunahme der Grösse der Diskushernie und Kompression der Nervenwurzel S1 nachweisen. Die Verschlechterung sei auch klinisch nachvollziehbar durch wiederholt und reproduzierbar nachweisbare Nervendehnschmerzen. Mit einer Intensivierung der chiropraktischen Therapie hätten die Beschwerden jedoch soweit stabilisiert werden können, dass die Schmerzen mit Einnahme von Lodine akzeptabel seien.
5.2.
5.2.1. Mit dem Beschwerdeführer kann festgehalten werden, dass Dr. med. C._ von einer Veränderung des Gesundheitszustands berichtet und Dr. med. E._ vom RAD diese mit Stellungnahme vom 22. Dezember 2016 bestätigt hat. Zu beachten ist jedoch, dass sich weder aus dem Gutachten noch aus dem Bericht des Dr. med. E._ eine gesundheitliche Veränderung mit funktioneller Auswirkung auf die Arbeitsfähigkeit ableiten lässt. Dr. med. C._ ist zum Schluss gekommen, dass sich die Arbeitsfähigkeit seit 2003, trotz Verschlechterung, nicht verändert habe. Die somit lediglich unterschiedliche Beurteilung eines im Wesentlichen gleich gebliebenen Sachverhalts ist im revisionsrechtlichen Kontext unbeachtlich (<ref-ruling> E. 2.3 S. 11).
5.2.2. Im Übrigen scheint es sich bei dieser Gesundheitsverschlechterung, welche ohne Auswirkung auf die Arbeitsfähigkeit geblieben ist, ohnehin nur um eine vorübergehende Problematik gehandelt zu haben, da Dr. med. C._ in seinem Gutachten berichtet hat, die Beschwerden hätten durch chiropraktische Therapie stabilisiert werden können, und die Schmerzen seien für den Versicherten mit Einnahme von Medikamenten akzeptabel. In diesem Sinne ist auch Dr. med. E._ am 22. Dezember 2016 davon ausgegangen, dass es sich um eine vorübergehende gesundheitliche Verschlechterung frühestens von Juni 2014 bis ca. September 2015 gehandelt habe.
5.3. Mit Blick auf das Gesagte ist auch mit dem Gutachten des Dr. med. C._ keine anspruchsrelevante Veränderung des Sachverhalts (<ref-ruling> E. 2.3 S. 10 f.) dargetan. Eine andere relevante Sachverhaltsveränderung im massgeblichen Vergleichszeitraum ist nicht ersichtlich und wird auch nicht geltend gemacht. Mithin liegt so oder anders keine medizinische Einschätzung bei den Akten, die einen Revisionsgrund zu begründen vermöchte. Die Feststellung der Vorinstanz, es fehle mit überwiegender Wahrscheinlichkeit an einer anspruchserheblichen Veränderung, ist nicht offensichtlich unrichtig (E. 3.1 oben). Bei diesem Ergebnis braucht auf die weiteren Rügen des Beschwerdeführers zur Beweiswürdigung betreffend die beiden Expertisen sowie in Bezug auf die Ermittlung des Invaliditätsgrades nicht weiter eingegangen zu werden. Der rechtserhebliche Sachverhalt wurde vollständig abgeklärt, weshalb sich zusätzliche Beweismassnahmen erübrigen und dem Eventualantrag des Beschwerdeführers nicht stattzugeben ist.
6.
Die Beschwerde ist unbegründet. Es bleibt im Ergebnis beim vorinstanzlichen Entscheid.
7.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Kosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Dezember 2019
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Die Gerichtsschreiberin: Huber