Sachverhalt:
A.
Mit Verfügung vom 4. Mai 2009 verneinte die IV-Stelle des Kantons Zürich den Anspruch des 1979 geborenen A._ auf eine Invalidenrente. Auf zwei weitere Neuanmeldungen hin verneinte die IV-Stelle mit Verfügungen vom 22. Juni 2010 und vom 5. Dezember 2012 wiederum einen Rentenanspruch. Das Sozialversicherungsgericht des Kantons Zürich bestätigte die Verfügung vom 5. Dezember 2012 mit Entscheid vom 1. April 2014. Nach erneuter Anmeldung zum Leistungsbezug durch die behandelnde Psychiaterin Dr. med. B._ vom 19. November 2014 trat die IV-Stelle mit Verfügung vom 10. Juli 2015 auf das Leistungsbegehren nicht ein, da eine wesentliche Veränderung der tatsächlichen Verhältnisse seit der letzten Verfügung nicht glaubhaft dargelegt worden sei.
B.
Die von A._ dagegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 1. Februar 2016 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, Ziff. 1 und 2 des vorinstanzlichen Entscheids seien aufzuheben, es sei auf die Neuanmeldung einzutreten und der Rentenanspruch abzuklären.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.1 S. 137 f.). Das Bundesgericht prüft indessen, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG), nur die geltend gemachten Vorbringen, falls allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280; vgl. auch <ref-ruling> E. 1.1 S. 138).
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG).
2.
Streitig und zu prüfen ist, ob das kantonale Gericht die Nichteintretensverfügung der IV-Stelle vom 10. Juli 2015 zu Recht bestätigt hat.
2.1. Wurde eine Rente wegen eines zu geringen Invaliditätsgrades verweigert, so wird eine neue Anmeldung nur geprüft, wenn damit glaubhaft gemacht wird, dass sich der Grad der Invalidität in einer für den Anspruch erheblichen Weise geändert hat (Art. 87 Abs. 3 in Verbindung mit Abs. 2 IVV).
Die zeitliche Vergleichsbasis für die Frage, ob eine rentenrelevante Veränderung des Sachverhalts glaubhaft ist, bildet der Zeitpunkt der letzten umfassenden materiellen Prüfung. Der Vergleichszeitraum erstreckt sich grundsätzlich bis zur Prüfung und Beurteilung des Gesuchs, d.h. bis zum Erlass der Verfügung betreffend die Neuanmeldung. Für die beschwerdeweise Überprüfung einer Nichteintretensverfügung ist somit der Sachverhalt, wie er sich der Verwaltung bot, resp. die Aktenlage bei Erlass dieser Verfügung massgeblich (<ref-ruling> E. 5.2.5 S. 68 f.; Urteil 9C_683/2013 vom 2. April 2014 E. 3.3.1).
2.2. Mit dem Beweismass des Glaubhaftmachens sind herabgesetzte Anforderungen an den Beweis verbunden; die Tatsachenänderung muss nicht nach dem im Sozialversicherungsrecht sonst üblichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E. 5b S. 360) erstellt sein. Es genügt, dass für das Vorhandensein des geltend gemachten rechtserheblichen Sachumstandes wenigstens gewisse Anhaltspunkte bestehen, auch wenn durchaus noch mit der Möglichkeit zu rechnen ist, bei eingehender Abklärung werde sich die behauptete Änderung nicht erstellen lassen (Urteile I 724/99 vom 5. Oktober 2001 E. 1c/aa, nicht publiziert in <ref-ruling>, aber in SVR 2002 IV Nr. 10; 8C_266/2015 vom 29. Juni 2015 E. 2.2).
2.3. Ob eine anspruchserhebliche Änderung nach Art. 87 Abs. 3 IVV glaubhaft gemacht ist, stellt eine vom Bundesgericht nur unter dem Blickwinkel von Art. 105 Abs. 2 BGG überprüfbare Tatfrage dar. Um eine Frage rechtlicher Natur handelt es sich hingegen, wenn zu beurteilen ist, wie hohe Anforderungen an das Glaubhaftmachen im Sinne von Art. 87 Abs. 3 IVV zu stellen sind (Urteil 8C_266/2015 vom 29. Juni 2015 E. 2.3 mit Hinweis).
3.
3.1. Das kantonale Gericht hat das Nichteintreten der IV-Stelle auf die Neuanmeldung des Versicherten vom 19. November 2014 mangels Glaubhaftmachung einer wesentlichen Veränderung der tatsächlichen Verhältnisse bestätigt. Zu vergleichen ist unbestrittenermassen der Zeitraum zwischen dem 5. Dezember 2012 (letzte rentenabweisende Verfügung) und dem 10. Juli 2015 (Nichteintreten auf die Neuanmeldung).
3.2. Beschwerdeweise wird geltend gemacht, die Vorinstanz habe sich lediglich mit der Frage auseinandergesetzt, ob die früher verworfene Diagnose einer paranoiden Schizophrenie neu glaubhaft erscheine. Hingegen habe sie sich nicht damit auseinandergesetzt, ob eine ausreichende Intensivierung der Beschwerden für eine Neuanmeldung glaubhaft gemacht worden sei. Unabhängig von der zu stellenden Diagnose sei von einer glaubhaften Verschlechterung des psychischen Zustand auszugehen, weshalb eine Leistungsprüfung stattfinden müsse. Zudem hätten mit der neuen Rechtsprechung des Bundesgerichts zu Somatisierungsstörungen die Chronifizierung der Beschwerden sowie die Ausschöpfung aller Therapieoptionen grosses Gewicht erhalten, weshalb bei einer Neuanmeldung diese Faktoren für eine Glaubhaftmachung auszureichen hätten.
4.
4.1. Die Vorinstanz hat mit Blick auf den Vergleichszeitpunkt bei Erlass der Verfügung vom 5. Dezember 2012 festgehalten, gemäss Gutachten des Ärztlichen Begutachtungsinstituts Basel (ABI) vom 31. Januar 2012 habe der Beschwerdeführer an einer Angst- und depressiven Störung gemischt (ICD-10 F41.2) sowie an einer Somatisierungsstörung (ICD-10 F45.0) gelitten, wobei eine 80%ige Arbeitsfähigkeit für jegliche Erwerbstätigkeit bestanden habe. Eine schizophrene Störung sei ausgeschlossen worden, obschon die Ärzte der Psychiatrischen Klinik C._ am 20. Februar 2012 und 24. August 2012 sowie die behandelnde Psychiaterin Dr. med. B._ am 10. April 2012 eine paranoide Schizophrenie diagnostiziert und eine daraus resultierende 50%ige Arbeitsunfähigkeit in einer behinderungsangepassten Tätigkeit attestiert hätten. Deshalb habe das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 1. April 2014 die rentenablehnde Verfügung vom 5. Dezember 2012 bestätigt.
4.2. In Würdigung der im Rahmen der Neuanmeldung vom 19. November 2014 eingereichten medizinischen Berichte verneinte das kantonale Gericht die Glaubhaftmachung einer gesundheitlichen Verschlechterung. Es legte im Wesentlichen dar, mit den neu aufgelegten Arztberichten der Ärzte der Klinik C._ vom 20. Februar 2014, 11. November 2014 und 8. Dezember 2014 sowie dem Bericht der Dr. med. B._ vom 30. Januar 2015 werde die erneut aufgeführte, bekannte Diagnosestellung nicht mit neuen Befunden untermauert. Zudem seien gemäss den Berichten des Spitals D._, Klinik für Psychiatrie und Psychotherapie, vom 24. April 2014 und 16. Januar 2015 auf notfallmässige Vorstellungen hin die Medikation angepasst und Krisengespräche geführt worden, wonach der Versicherte in stabilisiertem Zustand nach Hause habe entlassen werden können. In beiden Fällen habe er einen Aufenthalt in der psychiatrischen Klinik abgelehnt.
4.3. Dass diese Sachverhaltsfeststellungen offensichtlich unrichtig sein oder auf einer Rechtsverletzung beruhen sollen, ist nicht ersichtlich. Sie bleiben daher für das Bundesgericht verbindlich (E. 1). Dies gilt auch für den daraus gezogenen Schluss, mit den vorliegend zu beachtenden medizinischen Akten sei keine rentenbeeinflussende Verschlechterung des Gesundheitszustands glaubhaft gemacht worden. Bereits aufgrund der zwischen den Behandlungen liegenden Zeitspanne sowie der Möglichkeit der schnellen Stabilisierung des Beschwerdeführers aber auch wegen des Fehlens eines neuen Befundes verneinte die Vorinstanz zu Recht die Glaubhaftmachung einer massgeblichen Verschlechterung des psychischen Zustandes. Schliesslich ergibt sich aus dem Bericht der Klinik C._ vom 8. Dezember 2014 lediglich eine "Exazerbation einer psychotischen Symptomatik vor dem Hintergrund einer bekannten paranoiden Schizophrenie", weshalb der Beschwerdeführer vom 24. Oktober bis 11. November 2014 in der Klinik C._ hospitalisiert worden sei. Da es sich hiebei jedoch bereits um die vierte stationäre Behandlung des Beschwerdeführers handelte und er auch bereits in den Jahren 2011 und 2012 in der Klinik C._ behandelt worden ist, vermag auch dieser Bericht keine Verschlechterung glaubhaft zu machen.
4.4. Nach der überarbeiteten Rechtsprechung gemäss <ref-ruling>, auf welche sich der Beschwerdeführer beruft, hat die Invaliditätsbemessung bei psychosomatischen Leiden (anhaltende somatoforme Schmerzstörung und vergleichbare unklare Beschwerdebilder) stärker als bisher den Aspekt der funktionellen Auswirkungen zu berücksichtigen, was sich schon in den diagnostischen Anforderungen niederschlagen muss. Auf der Ebene der Arbeitsunfähigkeit wird an der Überwindbarkeitsvermutung nicht festgehalten. Das bisherige Regel/ Ausnahme-Modell wird durch ein strukturiertes Beweisverfahren ersetzt. Folglich handelt es sich hiebei um Anforderungen sowohl an die Diagnosestellung wie an die Überprüfung der funktionellen Auswirkungen eines psychischen Leidens. Eine Änderung der Rechtsprechung zu Art. 87 Abs. 2 IVV kann hieraus nicht abgeleitet werden, weshalb sich Weiterungen dazu erübrigen.
4.5. Zusammenfassend hat es beim angefochtenen Entscheid sein Bewenden.
5.
Die Gerichtskosten werden dem Beschwerdeführer als unterliegender Partei auferlegt (Art. 66 Abs. 1 Satz 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. Mai 2016
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Kopp Käch