Sachverhalt:
A.
A.a. Dem 1964 geborenen A._ sprach die IV-Stelle des Kantons Zürich mit Verfügung vom 6. Juni 2001 rückwirkend ab 1. April 1998 eine halbe Rente zu. Auf Gesuch des Versicherten erhöhte die Verwaltung den Anspruch per 1. April 2003 auf eine ganze Rente (Verfügung vom 15. Februar 2007).
A.b. Im September 2008 erfuhr die IV-Stelle, dass gegen A._ strafrechtliche Ermittlungen wegen Versicherungsbetrugs stattfinden. Am... 2011 verurteilte ihn das Bezirksgericht wegen mehrfachen, teilweise versuchten Betrugs, wobei das Obergericht des Kantons Zürich diesen Schuldspruch mit Entscheid vom... 2011 bestätigte. Die IV-Stelle ihrerseits führte das Rentenrevisionsverfahren fort und liess den Versicherten u.a. begutachten (Gutachten des Medizinischen Zentrums Römerhof [MZR], Zürich, vom 23. Juni 2011, Expertise der Ärztlichen Begutachtungsinstitut GmbH [ABI], Basel, vom 21. April 2015). Gestützt darauf hob die IV-Stelle mit der Verfügung vom 8. Februar 2016 die Rente per April 1998 auf. Der Versicherte beschritt den Rechtsweg, wobei letztlich die Rechtmässigkeit der Rentenaufhebung ab 1. November 2007 erkannt wurde (Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 8. Mai 2018, Urteil 9C_544/2018 vom 5. Februar 2019).
A.c. Zwischenzeitlich hatte sich der Versicherte im Februar 2017 wieder bei der Invalidenversicherung zum Leistungsbezug angemeldet. In diesem Rahmen reichte er verschiedene Berichte der psychiatrischen Klinik B._ ein. Vorbescheidsweise stellte die IV-Stelle A._ in Aussicht, dass auf sein Leistungsbegehren nicht eingetreten werde. Daran hielt sie, nachdem der Versicherte mit seinen Einwendungen weitere Arztberichte beigebracht hatte, fest (Verfügung vom 24. September 2019).
B.
Die dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 7. Februar 2020 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die IV-Stelle zu verpflichten, auf sein Leitungsgesuch einzutreten und nach den notwendigen Abklärungen die gesetzlichen Leistungen zu gewähren.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG; vgl. auch Art. 97 Abs. 1 BGG).
2.
Das kantonale Gericht hat die Grundlagen zur Neuanmeldung und des dabei relevanten Beweismasses des Glaubhaftmachens (Art. 87 Abs. 2 und 3 IVV) zutreffend dargelegt. Darauf wird verwiesen (Art. 109 Abs. 3 BGG).
3.
3.1. Die Vorinstanz erwog, die Ärzte der psychiatrischen Klinik B._ hätten bereits im Rahmen der Rentenaufhebung (Verfügung vom 8. Februar 2016) mit den Berichten vom 28. März 2014, 11. September 2014 und 19. Dezember 2014 eine schwere depressive Episode und am 9. Juli 2015 eine mittelgradige depressive Episode festgehalten. Gutachterlich sei jedoch keine depressive Erkrankung erhoben worden. Vielmehr sei es so gewesen, dass der wegen Betrugs verurteilte Beschwerdeführer falsche Angaben gemacht hatte. Den im aktuellen Neuanmeldungsverfahren aufgelegten Berichten der psychiatrischen Klinik B._ vom 5. Januar 2017, 6. März 2018 und 11. Mai 2018 seien keine Befunde zu entnehmen, die im Vergleich zu dem früheren von der psychiatrischen Klinik B._ Erhobenen auf eine relevante Verschlechterung schliessen lasse. Auch der Bericht der allgemeinpsychiatrischen Abteilung des Spitals C._ vom 16. April 2019 zeige keine relevante Befundveränderung zu den Berichten der psychiatrischen Klinik B._ vom 28. März 2014 und 9. Juli 2015.
Entgegen dem Beschwerdeführer durfte die Vorinstanz berücksichtigen, dass im Rahmen der Rentenaufhebung mit Verfügung vom 8. Februar 2016 basierend auf dem Gutachten der ABI vom 21. April 2015 die Diagnosen der psychiatrischen Klinik B._ widerlegt wurden. Vor diesem Hintergrund ist nicht willkürlich, wenn das kantonale Gericht schloss, die nach der rentenaufhebenden Verfügung beigebrachten Berichte der Ärzte der psychiatrischen Klinik B._, in denen sie dieselbe Diagnose erneut stellten, vermöge keine Verschlechterung glaubhaft zu machen, ist doch eine andere Beurteilung des gleichen Sachverhalts in revisionsrechtlicher Hinsicht nicht massgeblich (<ref-ruling> E. 2b S. 372; Urteil 8C_481/2013 vom 7. November 2013 E. 2.2, nicht publ. in: <ref-ruling>, aber in: SVR 2014 UV Nr. 7 S. 21; vgl. ferner Urteil 8C_813/2017 vom 11. Januar 2018 E. 4.2). In diesem Zusammenhang ist auch darauf hinzuweisen, dass selbst der Beschwerdeführer im Rahmen des Rentenaufhebungsverfahrens mit Eingabe vom 10. Februar 2017 geltend machte, der Bericht der psychiatrischen Klinik B._ vom 5. Januar 2017 - der sich nicht wesentlich von jenen vom 6. März und 11. Mai 2018 oder dem Bericht des Spitals C._ vom 16. April 2019 unterscheidet - belege eine schwere psychische Erkrankung im Längsverlauf. Es wird denn auch in keinem der aufgelegten Berichte geltend gemacht, der Gesundheitszustand des Beschwerdeführers habe sich seit der Rentenaufhebung verschlechtert.
3.2. Gemäss vorinstanzlichem Entscheid seien auch das rezidivierende schwere lumboradikuläre Syndrom rechts sowie das chronische Zervikalsyndrom vorbestehend und bei der letzten Rentenprüfung berücksichtigt worden. Aus dem Bericht der Klinik D._ vom 28. Juni 2019 ergebe sich daher keine relevante gesundheitliche Verschlechterung und auch die MRI-Aufnahmen vom 15. April 2019, wonach lediglich eine mögliche radikuläre Komponente bestehe, belegte eine solche nicht.
Soweit der Beschwerdeführer gegen die vorinstanzliche Beweiswürdigung vorbringt, es sei ein falscher Vergleichszeitpunkt herangezogen worden, zielt diese Kritik ins Leere, ergibt sich doch aus den Verweisen im angefochtenen Entscheid klar, dass zum Vergleich auf das ABI-Gutachten vom 21. April 2015, den kantonalen Entscheid betreffend die rentenaufhebende Verfügung vom 8. Februar 2016 und ein MRI vom 13. Oktober 2015 Bezug genommen wurde. Auch ist das Ergebnis der vorinstanzlichen Beweiswürdigung betreffend die MRI-Aufnahmen vom 15. April 2019 nicht offensichtlich unrichtig, wenn der Bericht der Klinik D._ vom Klinischen lediglich ein chronisches Cervikalsyndrom feststellt und damit die bildgebend mögliche radikuläre Komponente C5/6 gerade nicht bestätigt.
4.
Die offensichtlich unbegründete Beschwerde wird im vereinfachten Verfahren nach Art. 109 Abs. 2 lit. a BGG ohne Durchführung eines Schriftenwechsels, mit summarischer Begründung und unter Verweis auf den kantonalen Entscheid (Art. 109 Abs. 3 BGG) erledigt.
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 27. Mai 2020
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Die Gerichtsschreiberin: Möckli