Sachverhalt:
A.
A.a. Der 1961 geborene A._ meldete sich am 18. August 2007 bei der IV-Stelle des Kantons Aargau unter Hinweis auf seine Rückenschmerzen zum Leistungsbezug an. Nach Abklärung der medizinischen und beruflichen Verhältnisse verneinte die IV-Stelle - nach durchgeführtem Vorbescheidverfahren - mit Verfügung vom 14. Mai 2009 bei einem Invaliditätsgrad von 3% einen Anspruch des Versicherten auf eine Invalidenrente. Eine hiegegen erhobene Beschwerde wies das Versicherungsgericht des Kantons Aargau mit rechtskräftigem Entscheid vom 17. Dezember 2009 (VBE.2009.376) ab.
A.b. Mit Schreiben vom 24. November 2016 machte A._ eine Verschlechterung des Gesundheitszustandes seit der rentenablehnenden Verfügung geltend. Mit Verfügung vom 3. August 2017 trat die IV-Stelle auf das Leistungsbegehren nicht ein, mit der Begründung, dass sich der Gesundheitszustand seit der letztmaligen Abklärung im Jahr 2009 weder dauernd noch wesentlich verschlechtert habe.
B.
Die hiegegen erhobene Beschwerde des A._ wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 28. Februar 2018 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 28. Februar 2018 sei aufzuheben, und die Sache sei an die IV-Stelle zur materiellen Prüfung und anschliessender Verfügung zurückzuweisen. Ferner ersucht er für das bundesgerichtliche Verfahren um unentgeltliche Rechtspflege.
Während die IV-Stelle mit Verweis auf den angefochtenen Entscheid auf eine Beschwerdeabweisung schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung. Das kantonale Gericht verweist ebenfalls auf den angefochtenen Entscheid.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
1.2. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>).
Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss <ref-law> gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht Bundesrecht verletzt hat, indem es eine wesentliche Verschlechterung des Gesundheitszustands im Zeitraum zwischen dem 14. Mai 2009 und dem 3. August 2017 als nicht glaubhaft erachtete und demzufolge die Nichteintretensverfügung der IV-Stelle vom 3. August 2017 bestätigte.
3.
3.1. Wurde ein Rentenanspruch wegen eines zu geringen Invaliditätsgrades verneint, so wird eine neue Anmeldung nur geprüft, wenn damit glaubhaft gemacht wird, dass sich der Grad der Invalidität in einer für den Anspruch erheblichen Weise geändert hat (Art. 87 Abs. 3 in Verbindung mit Abs. 3 IVV; <ref-ruling> E. 2.2 S. 72 mit Hinweisen). Nur unter dieser einschränkenden Voraussetzung ist die Neuanmeldung von der Verwaltung an die Hand zu nehmen.
3.2. Mit dem Beweismass des Glaubhaftmachens sind herabgesetzte Anforderungen an den Beweis verbunden; die Tatsachenänderung muss nicht nach dem im Sozialversicherungsrecht sonst üblichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E.6 S. 221) erstellt sein. Es genügt, dass für das Vorhandensein des geltend gemachten rechtserheblichen Sachumstands wenigstens gewisse Anhaltspunkte bestehen, auch wenn durchaus noch mit der Möglichkeit zu rechnen ist, bei eingehender Abklärung werde sich die behauptete Änderung nicht erstellen lassen (Urteil 8C_664/2017 vom 25. Januar 2018 E. 2.2).
3.3. Ob eine anspruchserhebliche Änderung nach <ref-law> glaubhaft gemacht ist, stellt eine vom Bundesgericht nur unter dem Blickwinkel von <ref-law> überprüfbare Tatfrage dar. Um eine Frage rechtlicher Natur handelt es sich hingegen, wenn zu beurteilen ist, wie hohe Anforderungen an das Glaubhaftmachen im Sinne von <ref-law> zu stellen sind (Urteile 8C_597/2017 vom 12. Januar 2018 E. 2.3 und 8C_341/2011 vom 27. Juni 2011 E. 2.3 mit Hinweisen).
4.
4.1. Die Vorinstanz hat im Wesentlichen erwogen, der Beschwerdeführer habe mit seiner Neuanmeldung vom 24. November 2016 keine Verschlechterung des Gesundheitszustandes mit Auswirkung auf die Arbeits- und Erwerbsfähigkeit seit der rentenablehnenden Verfügung vom 14. Mai 2009 glaubhaft gemacht. Was der Beschwerdeführer hiegegen vorbringt, vermag - wie die nachstehenden Erwägungen zeigen - die vorinstanzliche Schlussfolgerung nicht als bundesrechtswidrig erscheinen zu lassen.
4.2. Zum Zeitpunkt der rentenablehnenden Verfügung am 14. Mai 2009 stellte die Verwaltung fest, dass der Versicherte aufgrund der bestehenden Beschwerden an der Wirbelsäule seiner angestammten Tätigkeit als Produktionsmitarbeiter nicht mehr nachgehen könne. Die Abklärungen in der Rehaklinik B._ hätten jedoch ergeben, dass ihm eine leichte, wechselbelastende Tätigkeit ohne häufiges Bücken oder mit Zwangshaltungen weiterhin vollzeitig zu 100% zumutbar wäre. Wie die RAD-Ärztin C._, Fachärztin für Orthopädie, in ihren Stellungnahmen vom 31. März 2017 und 12. Mai 2017 überzeugend darlegt, ist mit den neuen Berichten des Dr. med. D._ vom 20. Juli 2016 und 28. April 2017 zwar eine Zunahme von degenerativen Veränderungen im Bereich der LWS bestätigt. Allerdings fehlen darin Befunde zur muskuloskelettalen Funktion, welche eine (zusätzliche) Einschränkung der Arbeitsfähigkeit in einer leidensangepassten Tätigkeit zu begründen vermögen. Im Übrigen hat die RAD-Ärztin die neuen Röntgenbilder der LWS vom 27. April 2017 mit jenen aus dem Jahre 2006 verglichen und schwerwiegende radiologische Veränderungen im Bereich der Brust- und Lendenwirbelsäule anhand der gegenwärtigen Befundlage ausgeschlossen. Unter Berücksichtigung der vorgenannten Umstände erscheint es jedenfalls nicht als offensichtlich unrichtig, wenn die Vorinstanz in Bezug auf die lumbalen Rückenschmerzen eine zusätzlich verminderte Erwerbsfähigkeit im Vergleich zum Sachverhalt, wie er der Verfügung vom 14. Mai 2009 zu Grunde lag, als nicht glaubhaft erachtete.
4.3. Aus den Akten geht ferner hervor, dass die neu aufgetretene koronare 1-Gefässkrankheit einen vom 10. bis 12. Juli 2016 dauernden stationären Aufenthalt im Spital E._ sowie die Einlage eines Stents erforderte. Jedoch gehen alle konsultierten Fachärzte einig, so insbesondere auch Dr. med. D._ in seinem Bericht vom 16. Juni 2017, dass die nachfolgend durchgeführten kardiologischen Kontrollen einen stabilen Verlauf zeigten. Einigkeit besteht auch darüber, dass keine Einschränkung der Herzfunktion besteht und demzufolge die Arbeitsfähigkeit des Versicherten nicht weiter eingeschränkt ist.
Demzufolge hat die Vorinstanz kein Bundesrecht verletzt, als sie eine wesentliche Verschlechterung des Gesundheitszustands im Zeitraum zwischen dem 14. Mai 2009 und dem 3. August 2017 als nicht glaubhaft erachtete und die Nichteintretensverfügung der IV-Stelle vom 3. August 2017 bestätigte. Die Beschwerde des Versicherten ist somit abzuweisen.
5.
Da die Beschwerde offensichtlich unbegründet ist, wird sie im Verfahren nach <ref-law> erledigt. Das Gesuch um unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren ist wegen Aussichtslosigkeit abzuweisen (<ref-law>). Dem Beschwerdeführer sind demnach die Gerichtskosten aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. August 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Elmiger-Necipoglu