Sachverhalt:
A.
A.a. A._, geboren 1960, war von 1. September 2001 bis 28. Februar 2017 bei der Gemeinde U._ als Steuersekretär tätig. Im April 2015 hatte er sich bei der IV-Stelle des Kantons Zürich zum Leistungsbezug angemeldet. Die IV-Stelle nahm medizinische und erwerbliche Abklärungen vor und lehnte das Leistungsgesuch mit Verfügung vom 12. Mai 2016 ab.
A.b. Im Oktober 2016 meldete sich A._ unter Hinweis auf seine seit Dezember 2014 bestehenden Leiden erneut zum Leistungsbezug an. Die IV-Stelle trat mit Verfügung vom 3. April 2017 darauf nicht ein.
B.
Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde mit Entscheid vom 26. Februar 2019 ab, soweit es darauf eintrat.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, es seien der vorinstanzliche Entscheid und die Verfügung vom 3. April 2017 aufzuheben und die Sache zur rechtsgenüglichen Abklärung an die IV-Stelle zurückzuweisen.
Das Bundesgericht führt keinen Schriftenwechsel durch.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
1.2. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>).
Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss <ref-law> gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen).
1.3. Ob eine anspruchserhebliche Änderung nach <ref-law> glaubhaft gemacht ist, stellt eine vom Bundesgericht nur unter dem Blickwinkel von <ref-law> überprüfbare Tatfrage dar. Um eine Frage rechtlicher Natur handelt es sich hingegen, wenn zu beurteilen ist, wie hohe Anforderungen an das Glaubhaftmachen im Sinne von <ref-law> zu stellen sind (vgl. etwa die Urteile 9C_7/2019 vom 5. April 2019 E. 2.3 und 8C_183/2016 vom 9. Mai 2016 E. 2.3).
2.
Streitig ist, ob die Vorinstanz zu Recht das Nichteintreten auf die Neuanmeldung bestätigt hat.
3.
Die Vorinstanz hat die massgebenden Bestimmungen und Grundsätze über die Voraussetzungen für das Eintreten auf eine Neuanmeldung (Art. 87 Abs. 2 und 3 IVV; <ref-ruling>; <ref-ruling> E. 5.2 S. 67; <ref-ruling> E. 2.2 S. 72) sowie auf eine Wiedererwägung (<ref-law>; <ref-ruling> E. 4.1 S. 52) zutreffend dargelegt. Darauf wird verwiesen.
4.
Weiter hat die Vorinstanz in E. 3 die Berichte des Dr. med. B._, Facharzt für Allgemeine Innere Medizin, vom 28. Januar 2015, vom 2. April 2015 und vom 15. Juli 2015, der Frau Dr. med. C._, Spital D._, vom 7. September 2015, des Dr. med. E._, Facharzt für orthopädische Chirurgie und Traumatologie, Spital D._, vom 10. Juni 2015, vom 5. April 2016, vom 26. April 2016 und vom 14. Juli 2016 zutreffend wiedergegeben. Dasselbe gilt für den Bericht des Dr. med. F._, Facharzt für Radiologie, Spital D._, vom 6. Januar 2016, des Dr. med. G._, Facharzt für Radiologie, Spital D._, vom 19. April 2016, des Dr. med. H._, Facharzt für Psychiatrie und Psychotherapie, Klinik I._, vom 20. Dezember 2016 sowie das Gutachten der psychiatrischen Klinik J._, vom 18. Dezember 2015. Darauf wird ebenfalls verwiesen.
5.
Die Vorinstanz ist auf die Beschwerde des Versicherten, soweit er eine Wiedererwägung der Verfügung vom 12. Mai 2016 verlangte, nicht eingetreten. Bezüglich des beantragten Eintretens auf seine Neuanmeldung verwies sie darauf, dass gestützt auf die Rechtsprechung (Urteil 9C_683/2013 vom 2. April 2014 E. 3.3.2) nur medizinische Berichte berücksichtigt werden könnten, die der IV-Stelle bei ihrem Nichteintreten vorgelegen seien, weshalb der erst im kantonalen Verfahren aufgelegte Bericht des behandelnden Psychiaters nicht berücksichtigt werden könne. In der Folge stellte sie fest, dass für die Glaubhaftmachung einer Sachverhaltsänderung höhere Anforderungen gelten würden, da die Neuanmeldung nur gerade fünf Monate nach der erstmaligen Rentenverweigerung erfolgt sei. Gestützt auf die ärztlichen Berichte hielt sie fest, es sei sowohl in orthopädischer als auch in psychiatrischer Hinsicht keine massgebliche Verschlechterung des Gesundheitszustandes glaubhaft gemacht. Abschliessend verwies sie darauf, die Ärzte würden die psychischen Beschwerden vornehmlich auf die sehr belastende psychosoziale Konstellation zurückführen, was gegen deren invalidenversicherungsrechtliche Relevanz spreche.
6.
Was der Versicherte dagegen vorbringt, vermag zu keinem anderen Ergebnis zu führen.
6.1. Wurde eine Rente wegen eines zu geringen Invaliditätsgrades verweigert, so wird eine neue Anmeldung nur geprüft, wenn damit glaubhaft gemacht wird, dass sich der Grad der Invalidität in einer für den Anspruch erheblichen Weise geändert hat (Art. 87 Abs. 3 in Verbindung mit Abs. 2 IVV). Die zeitliche Vergleichsbasis für die Frage, ob eine rentenrelevante Veränderung des Sachverhalts glaubhaft ist, bildet der Zeitpunkt der letzten umfassenden materiellen Prüfung. Der Vergleichszeitraum erstreckt sich grundsätzlich bis zur Prüfung und Beurteilung des Gesuchs, d.h. bis zum Erlass der Verfügung betreffend die Neuanmeldung. Für die beschwerdeweise Überprüfung einer Nichteintretensverfügung ist somit der Sachverhalt, wie er sich der Verwaltung bot, resp. die Aktenlage bei Erlass dieser Verfügung massgeblich (BGE <ref-ruling> E. 5.2.5 S. 68; Urteil 8C_183/2016 vom 9. Mai 2016 E. 2.1).
6.2. Verfahrensthema ist, ob der Versicherte gestützt auf die mit der Neuanmeldung aufgelegten ärztlichen Berichte eine massgebliche Verschlechterung des Gesundheitszustandes glaubhaft machen kann. Hingegen ist nicht zu prüfen, ob der Sachverhalt im Zeitpunkt der Verfügung vom 12. Mai 2016 richtig erstellt worden war. Diese Verfügung ist in Rechtskraft erwachsen und somit einer gerichtlichen Überprüfung entzogen.
6.3. Soweit der Versicherte geltend macht, sein Gesundheitszustand habe sich insofern geändert, als er seit 24. Oktober 2016 andauernd arbeitsunfähig sei, kann ihm nicht gefolgt werden. Denn einerseits sind dem Bericht der Klinik I._ vom 20. Dezember 2016 keine Anhaltspunkte für eine anhaltende Verschlechterung gegenüber den Feststellungen gemäss dem Gutachten der psychiatrischen Klinik J._ vom 18. Dezember 2015 zu entnehmen. So attestierte Dr. med. H._ keine über den Klinikaufenthalt hinaus andauernde Arbeitsunfähigkeit und hielt eine Stabilisierung des psychischen Zustandsbildes fest (deutliche Stimmungsaufhellung, verminderte Existenzängste, verstärkte Zuversicht), auch wenn noch keine vollständige Remission vorlag. Andererseits weist die Vorinstanz zu Recht darauf hin, dass Dr. med. H._ als Ursache für die psychischen Beschwerde eine "sehr belastende psychosoziale Konstellation" als Folge der Kündigung vom 31. August 2016 festhält, was jedoch nach <ref-ruling> E. 5a S. 299 den Anforderungen an ein invalidisierendes Leiden nicht genügt. Auf die in diesem Zusammenhang vom Beschwerdeführer unter Hinweis auf seine Vorbringen im kantonalen Verfahren erhobenen Rügen ist nicht weiter einzugehen. Denn dieser Verweis auf die vorinstanzliche Beschwerde genügt den Anforderungen an eine Begründung nach <ref-law> nicht (<ref-ruling> E. 2.2.1 S. 389; <ref-ruling> E. 1.3 S. 306).
6.4. Gestützt auf den Bericht des behandelnden Psychiaters vom 24. September 2018 macht der Versicherte eine Chronifizierung seines Leidens geltend. Wie die Vorinstanz korrekt festhält, kann für die Frage des Eintretens auf die Neuanmeldung nur auf jene ärztlichen Berichte abgestellt werden, die der Verwaltung im Zeitpunkt ihres Entscheids auch vorlagen (vgl. E. 6.1). Somit ist die Vorinstanz zu Recht auf den erst im Rahmen des kantonalen Verfahrens aufgelegten Bericht vom 24. September 2018 nicht weiter eingegangen.
6.5. Entgegen der Ansicht des Versicherten erfolgt bei der Prüfung der Glaubhaftmachung einer Verschlechterung im Rahmen einer Neuanmeldung keine Beurteilung des Gesundheitszustandes "im Gesamtverlauf", sondern es wird der Zustand bei der letztmaligen Beurteilung jenem anlässlich der Neuanmeldung gegenübergestellt (vgl. E. 6.1). Die (formell-rechtliche) Frage des Eintretens auf das neue Leistungsgesuch ist von der materiellen Beurteilung des Leistungsanspruchs zu trennen. Denn es obliegt der versicherten Person, die Voraussetzung des veränderten Gesundheitszustandes glaubhaft zu machen. Der Untersuchungsgrundsatz greift erst, wenn die Verwaltung auf ein Gesuch eintritt, folglich ein Verfahren eröffnet und verpflichtet ist, den massgeblichen Sachverhalt abzuklären (BGE <ref-ruling> E. 5.2.5 S. 68; vgl. zum zweigeteilten Vorgehen bei einer Neuanmeldung auch Urteil 9C_27/2019 vom 27. Juni 2019 E. 2 mit Hinweisen). Eine Verletzung des Untersuchungsgrundsatzes liegt somit nicht vor.
6.6. Soweit der Versicherte schliesslich geltend macht, die fehlende Abklärung der Folgen seiner Opiatabhängigkeit stelle eine Verletzung des Untersuchungsgrundsatzes dar, ist auch dieser Einwand unbehelflich. Denn einerseits ergibt sich aus dem Bericht der Klinik I._ vom 20. Dezember 2016, dass die Medikationsdosis reduziert werden konnte. Andererseits gilt der Untersuchungsgrundsatz nicht bereits im Rahmen der Eintretensfrage (vgl. E. 6.5).
6.7. Zusammenfassend ist festzuhalten, dass die Vorinstanz zu Recht das Nichteintreten auf die Neuanmeldung durch die IV-Stelle bestätigt hat.
7.
Das Verfahren ist kostenpflichtig. Der unterliegende Beschwerdeführer hat die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. August 2019
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Riedi Hunold