Sachverhalt:
A.
Der 1973 geborene A._ meldete sich am 28. Oktober 2015 wegen psychischen Problemen zum Leistungsbezug bei der Invalidenversicherung an. Die Sozialversicherungsanstalt des Kantons Zürich, IV-Stelle, klärte den Sachverhalt in medizinischer sowie beruflicher Hinsicht ab. Sie holte unter anderem ein auf allgemein-internistischen, psychiatrischen, orthopädischen und neurologischen Untersuchungen beruhendes Gutachten des Zentrums für medizinische Begutachtungen (ZMB) vom 13. Dezember 2016 ein. Nachdem mit Vorbescheid vom 6. Januar 2017 in Aussicht gestellt wurde, es bestehe kein Rentenanspruch, holte die IV-Stelle auf Einwände des Versicherten hin weitere Arztberichte der psychiatrischen Klinik B._ vom 15. Juni 2017 und vom 19 Juli 2017 sowie eine Stellungnahme der ZMB-Gutachter zu diesen Berichten vom 13. September 2017 ein. Mit Verfügung vom 18. September 2018 verneinte die IV-Stelle einen Rentenanspruch.
B.
Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 12. Juli 2019 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des kantonalen Entscheides sei die Sache zu weiteren Abklärungen an die IV-Stelle zurückzuweisen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), doch prüft es - unter Beachtung der Begründungspflicht nach Art. 42 Abs. 1 und 2 BGG - grundsätzlich nur die geltend gemachten Rügen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 mit Hinweisen).
1.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. Art. 97 Abs. 1 BGG) - Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Offensichtlich unrichtig bedeutet willkürlich (<ref-ruling> E. 1.2.2 S. 252). Sachverhaltsrügen unterliegen deshalb dem qualifizierten Rügeprinzip (Art. 106 Abs. 2 BGG). Dazu genügt es nicht, einen von den tatsächlichen Feststellungen der Vorinstanz abweichenden Sachverhalt zu behaupten oder die eigene Beweiswürdigung zu erläutern (<ref-ruling> E. 5.1 S. 356). Dass die von der Vorinstanz gezogenen Schlüsse nicht mit der Darstellung der beschwerdeführenden Partei übereinstimmen, belegt keine Willkür. Auf ungenügend begründete Rügen oder bloss allgemein gehaltene appellatorische Kritik am angefochtenen Entscheid geht das Bundesgericht nicht ein (<ref-ruling> E. 1.3.1 S. 253; <ref-ruling> E. 2.3 S. 266 mit Hinweisen; Urteil 8C_562/2017 vom 26. Januar 2018 E. 2.2).
1.3. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit handelt es sich grundsätzlich um Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.). Gleiches gilt für die konkrete Beweiswürdigung (Urteil 9C_204/2009 vom 6. Juli 2009 E. 4.1, nicht publ. in: <ref-ruling>, aber in: SVR 2009 IV Nr. 53 S. 164). Dagegen sind die unvollständige Feststellung rechtserheblicher Tatsachen sowie die Missachtung des Untersuchungsgrundsatzes, der Beweiswürdigungsregeln und der Anforderungen an den Beweiswert ärztlicher Berichte und Gutachten Rechtsfragen (<ref-ruling> E. 5.1 S. 232), die das Bundesgericht (im Rahmen der erwähnten Begründungs- bzw. Rügepflicht der Parteien) frei überprüfen kann.
2.
Streitig ist, ob das kantonale Gericht Bundesrecht verletzte, indem es in Bestätigung der Verfügung vom 18. September 2018 den Anspruch des Beschwerdeführers auf eine Invalidenrente verneinte.
Die Vorinstanz legte die für die Beurteilung der Streitsache massgeblichen Rechtsgrundlagen zutreffend dar, worauf verwiesen wird. Dies betrifft namentlich die Bestimmungen und Grundsätze zu den Begriffen der Invalidität und Erwerbsfähigkeit (Art. 4 Abs. 1 IVG i.V.m. Art. 7 und 8 ATSG), zum Anspruch auf eine Invalidenrente (Art. 28 IVG), zum im Sozialversicherungsrecht üblichen Beweisgrad der überwiegenden Wahrscheinlichkeit (<ref-ruling> E. 9.4 S. 125 mit Hinweis), zur Beweiswürdigung (Art. 61 lit. c ATSG) sowie zum Beweiswert ärztlicher Berichte und Gutachten (134 V 231 E. 5.1 S. 232; vgl. auch <ref-ruling> E. 6.2.3.2 S. 282; <ref-ruling> E. 4.4 S. 470; <ref-ruling> E. 3b/bb S. 353).
3.
Das kantonale Gericht stellte zur Beurteilung der Arbeitsfähigkeit auf das polydisziplinäre Gutachten des ZMB vom 13. Dezember 2016 (samt ergänzender Stellungnahme vom 13. September 2017) ab. Die Experten hielten als Diagnose mit Auswirkung auf die Arbeitsfähigkeit eine anhaltende somatoforme Schmerzstörung fest, wobei sie als Differenzialdiagnose auch eine dissoziative Störung, gemischt (Konversionsstörung) mit einer rezidivierenden depressiven Störung, gegenwärtig leichte Episode, bei histrionisch und narzisstisch akzentuierten Persönlichkeitszügen erwähnten. Sie begründeten damit eine um 20% eingeschränkte Arbeitsfähigkeit in der angestammten Tätigkeit als Mitarbeiter, Pizzaiolo, in einem Restaurant. Daneben fanden sich in psychiatrischer Hinsicht Restsymptome einer posttraumatischen Belastungsstörung und Probleme bei der kulturellen Eingewöhnung, welche keine Relevanz für die Arbeitsfähigkeit hätten. Ausgehend von einer Arbeitsunfähigkeit von 20% verneinte die Vorinstanz bei einem Invaliditätsgrad in gleicher Höhe einen Rentenanspruch (Art. 28 Abs. 2 IVG).
4.
4.1. Der Beschwerdeführer bestreitet nicht, dass das Gutachten des ZMB vom 18. Dezember 2016 die Anforderungen an eine beweiskräftige Expertise erfüllt. Er rügt indessen einen offensichtlich unrichtig, insbesondere unvollständig festgestellten Sachverhalt, weil das Gutachten auf Untersuchungen basiere, welche im Zeitpunkt der Verfügung vom 18. September 2018 nicht mehr den aktuellen Verhältnissen entsprochen hätten. Im Nachgang zur Begutachtung habe er infolge einer posttraumatischen Belastungsstörung und einer schweren depressiven Episode stationär behandelt werden müssen. Entgegen den Ausführungen der Gutachter seien bei ihm die Kriterien einer posttraumatischen Belastungsstörung erfüllt, habe er doch seit seiner Kindheit zahlreiche traumatische Erlebnisse gehabt. Die IV-Stelle habe den Untersuchungsgrundsatz verletzt, indem sie nach dem Bericht der ihn behandelnden Psychologin vom 12. Juni 2018 keine weiteren Abklärungen über den Krankheitsverlauf eingeholt habe. Da das kantonale Gericht diese Unterlassung schützte, habe es den Sachverhalt unrichtig und unvollständig erhoben. Schliesslich zeige auch ein - weiterer - Suizidversuch vom 11. Oktober 2018 mit anschliessender stationärer Behandlung, dass im Verfügungszeitpunkt eine schwere psychische Störung vorgelegen habe.
4.2.
4.2.1. Die Rüge, das Gutachten des ZMB vom 13. Dezember 2016 sei veraltet, hatte der Beschwerdeführer bereits im vorinstanzlichen Verfahren vorgetragen, woraufhin das kantonale Gericht die im Anschluss an die Expertise ergangenen medizinischen Akten umfassend gewürdigt und gestützt darauf festgestellt hat, es sei nach der Begutachtung keine wesentliche Verschlechterung des Gesundheitszustands eingetreten. Die Vorinstanz verwies insbesondere auf die Stellungnahme vom 13. September 2017 der ZMB-Gutacher zu den nach der Expertise ergangenen Berichten der Klinik B._ vom 15. Juni 2017 und der Klinik für Psychiatrie und Psychotherapie am Spital C._ vom 19. Juli 2017. Demnach hätten sich weder in der Anamnese noch in den gutachterlichen Untersuchungen irgendwelche Hinweise auf eine bipolare Störung gezeigt, wie dies von den Ärzten der Klinik B._ als Verdachtsdiagnose geäussert würde. Das kantonale Gericht erwog, die Gutachter des ZMB hätten in ihrer Stellungnahme vom 13. September 2017 schlüssig ausgeführt, es sei nachvollziehbar, dass eine histrionisch strukturierte Persönlichkeit nach einem negativen Entscheid der Invalidenversicherung heftig reagiere. Bezüglich der geltend gemachten posttraumatischen Belastungsstörung sei es wenig glaubhaft, wenn der Beschwerdeführer nach der Begutachtung plötzlich über Flashbacks berichte, die in den vorher ergangenen Arztberichten nicht erwähnt worden seien. Diesbezüglich fehle es auch an einer konkreten und einheitlichen Beschreibung eines traumatischen Erlebnisses. Es sei infolge der divergierenden Aussagen des Versicherten auch nicht ersichtlich, welches Erlebnis ein belastendes Ereignis oder eine Situation aussergewöhnlicher Bedrohung oder katastrophalen Ausmasses gewesen sein soll, das bei fast jedem eine tiefe Verzweiflung hervorrufen würde. Weiter enthalte auch der Bericht der Akut-Tagesklinik des Zentrums für soziale Psychiatrie der Klinik B._ vom 20. März 2018 keine neuen medizinischen Erkenntnisse. Dieser lasse vielmehr wie sämtliche übrigen Berichte der behandelnden Ärzte die Verschiedenheit von Behandlungs- und Begutachtungsauftrag zu Tage treten. Schliesslich ändere auch der Bericht der Psychologin D._ vom 12. Juni 2018 nichts an der gutachterlichen Beurteilung, enthalte dieser doch weder Befunde noch Ausführungen zur Einschätzung der attestierten Arbeitsunfähigkeit. Damit stehe fest, dass sich der Gesundheitszustand des Beschwerdeführers seit dem 13. Dezember 2016 nicht erheblich verschlechtert habe. Von weiteren Abklärungen seien keine zusätzlichen Erkenntnisse zu erwarten, weshalb in antizipierter Beweiswürdigung darauf verzichtet werde.
4.2.2. Mit diesen entscheidwesentlichen, für das Bundesgericht grundsätzlich verbindlichen (vgl. E. 1 hievor), vorinstanzlichen Feststellungen zum Gesundheitszustand bzw. dessen Veränderung im Nachgang zum unbestritten beweistauglichen Gutachten des ZMB setzt sich der Beschwerdeführer nicht auseinander. Mit dem stattdessen vorgebrachten Hinweis auf die lange Dauer seit der Begutachtung sowie mit einer Aufzählung dessen, was in der Expertise seinerzeit noch nicht habe berücksichtigt werden können - sehr wohl aber im angefochtenen Entscheid gewürdigt wurde - vermag der Beschwerdeführer keine offensichtlich fehlerhafte Sachverhaltsfeststellung durch das kantonale Gericht darzulegen. Hierfür würde denn auch nicht genügen, wenn eine andere Lösung ebenfalls vertretbar erschiene oder gar vorzuziehen wäre. Offensichtlich unrichtig ist eine Beweiswürdigung erst dann, wenn der Entscheid offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht oder auf einem offenkundigen Fehler beruht (<ref-ruling> E. 4.1 S. 390). Solches legt der Beschwerdeführer nicht dar.
4.2.3. Auch mit dem Hinweis auf einen am 11. Oktober 2018 erfolgten Suizidversuch und der darauf folgenden stationären Behandlung vermag der Beschwerdeführer nichts zu seinen Gunsten abzuleiten. Der erst letztinstanzlich eingereichte Bericht des Sanatoriums E._ vom 5. November 2018 ist als unzulässiges Novum unbeachtlich (Art. 99 Abs. 1 BGG). Hinzu kommt, dass in tatsächlicher Hinsicht grundsätzlich der bis zum Zeitpunkt des Erlasses der streitigen Verfügung (hier: 18. September 2018) eingetretene Sachverhalt massgebend ist (<ref-ruling> E. 3.1.1 S. 220 mit Hinweis).
4.2.4. Was schliesslich die Rügen zur Indikatorenprüfung der Vorinstanz gemäss <ref-ruling> sowie 143 V 418 betrifft, bleibt anzumerken, dass die Gutachter dem Beschwerdeführer eine um 20% eingeschränkte Arbeitsfähigkeit attestierten. Mit einer Indikatorenprüfung wird eine im Rahmen einer psychiatrischen Diagnose attestierte Arbeitsunfähigkeit validiert. Vorliegend ist das kantonale Gericht der im polydisziplinären Gutachten erfolgten Einschätzung der Arbeitsfähigkeit gefolgt. Eine grössere Arbeitsunfähigkeit als die gutachterlich attestierte kann auch aus einer Indikatorenprüfung nicht resultieren (vgl. Urteil 8C_279/2019 vom 5. September 2019 E. 4.2.3). Entsprechend ist auf die diesbezüglichen Einwände des Versicherten nicht weiter einzugehen.
4.3. Zusammenfassend sind die vorinstanzlichen Feststellungen zum Gesundheitszustand und dessen Veränderungen nicht offensichtlich unrichtig oder rechtsfehlerhaft. Die Ausführungen des kantonalen Gerichts zu den erwerblichen Auswirkungen der gesundheitlichen Einschränkungen werden nicht beanstandet und geben keinen Anlass zu Weiterungen. Es resultiert daraus kein Rentenanspruch. Die vom Beschwerdeführer beantragte polydisziplinäre Begutachtung ist daher nicht angezeigt. Die Beschwerde ist abzuweisen.
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. November 2019
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Schüpfer