Sachverhalt:
A.
Der 1964 geborene A._ meldete sich am 17. Juni 2011 unter Hinweis auf eine Herz-Kreislauf-Erkrankung bei der Invalidenversicherung zum Leistungsbezug an. Da der Versicherte seiner bisherigen Tätigkeit als Kellner weiterhin vollumfänglich nachkommen konnte, lehnte die IV-Stelle des Kantons Zürich mit Verfügung vom 18. Oktober 2011 einen Rentenanspruch ab.
Am 21. September 2016 meldete sich A._, zwischenzeitlich als Taxifahrer erwerbstätig gewesen, erneut bei der Invalidenversicherung an. Die IV-Stelle trat auf dieses Neuanmeldegesuch ein und tätigte medizinische Abklärungen; insbesondere holte sie beim Ärztlichen Begutachtungsinstitut (ABI), Basel, eine polydisziplinäre Expertise ein (Gutachten vom 20. März 2018). Daraufhin wies die IV-Stelle das Neuanmeldegesuch mit Verfügung vom 12. Dezember 2019 ab.
B.
Die von A._ hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 24. September 2020 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, ihm sei unter Aufhebung des kantonalen Gerichtsentscheides ab 1. Juni 2017 eine ganze Rente, eventuell eine Viertelsrente der Invalidenversicherung zuzusprechen; subeventuell sei die Sache zu weiteren Abklärungen an eine untere Instanz zurückzuweisen.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
1.1. Die Voraussetzungen der Beschwerde in öffentlich-rechtlichen Angelegenheiten sind grundsätzlich gegeben (Art. 82 lit. a, Art. 83 e contrario, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 89 Abs. 1, Art. 90 und Art. 100 Abs. 1 BGG).
1.2. Das Bundesgericht prüft das Bundesrecht von Amtes wegen (<ref-law>; <ref-ruling> E. 2.3 S. 23 f.) und mit uneingeschränkter (voller) Kognition (<ref-law>; <ref-ruling> E. 2 S. 236). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann sie mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen).
1.3. Das Bundesgericht kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (<ref-law>).
Die beschwerdeführende Partei, welche die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substanziiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss <ref-law> gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen).
2.
Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzt hat, als sie die Abweisung des Neuanmeldegesuchs durch die Beschwerdegegnerin bestätigte.
3.
3.1. Der Anspruch auf Leistungen der Invalidenversicherung setzt unter anderem voraus, dass die versicherte Person invalid oder von Invalidität unmittelbar bedroht ist. Invalidität ist gemäss <ref-law> die voraussichtlich bleibende oder längere Zeit dauernde ganze oder teilweise Erwerbsunfähigkeit.
3.2. Die Neuanmeldung wird - wie auch das Gesuch um Leistungsrevision - nur materiell geprüft, wenn die versicherte Person glaubhaft macht, dass sich die tatsächlichen Verhältnisse seit der letzten rechtskräftigen Entscheidung in einem für den Rentenanspruch erheblichen Mass verändert haben (Art. 87 Abs. 3 in Verbindung mit Abs. 2 IVV; <ref-ruling> E. 2.2 S. 72 mit Hinweisen). Gelingt ihr dies nicht, so wird auf das Gesuch nicht eingetreten. Ist die anspruchserhebliche Änderung glaubhaft gemacht, so ist die Verwaltung verpflichtet, auf das neue Leistungsbegehren einzutreten und es in tatsächlicher und rechtlicher Hinsicht umfassend zu prüfen (SVR 2014 IV Nr. 33 S. 121, 8C_746/2013 E. 2); sie hat demnach in analoger Weise wie bei einem Revisionsfall nach <ref-law> vorzugehen (vgl. dazu <ref-ruling>). Stellt sie fest, dass der Invaliditätsgrad oder die Hilflosigkeit seit Erlass der früheren rechtskräftigen Verfügung keine Veränderung erfahren hat, so weist sie das neue Gesuch ab. Andernfalls hat sie zunächst noch zu prüfen, ob die festgestellte Veränderung genügt, um nunmehr eine anspruchsbegründende Invalidität oder Hilflosigkeit zu bejahen, und hernach zu beschliessen.
4.
4.1. Es steht fest und ist unbestritten, dass sich der Gesundheitszustand des Beschwerdeführers seit der letzten rentenablehnenden Verfügung verschlechtert hat. Insbesondere ist er aus gesundheitlichen Gründen nicht mehr in der Lage, seiner angestammten Tätigkeit als Kellner (oder seiner zwischenzeitlichen Tätigkeit als Taxifahrer) ohne Einschränkungen nachzugehen. Zu Recht hat das kantonale Gericht daher geprüft, ob die festgestellte Veränderung des Gesundheitszustands genügt, um nunmehr eine anspruchsbegründende Invalidität zu bejahen. Das kantonale Gericht hat in umfassender Würdigung der medizinischen Akten, insbesondere aber gestützt auf das Gutachten des ABI vom 20. März 2018, für das Bundesgericht grundsätzlich verbindlich festgestellt, dass der Beschwerdeführer von Juli bis November 2016 vollständig arbeitsunfähig war, danach aber in einer angepassten Tätigkeit von einer zunächst 80%igen, ab Dezember 2017 von einer 70%igen Arbeitsfähigkeit auszugehen ist.
4.2. Auf ein im Verfahren nach <ref-law> eingeholtes Gutachten ist rechtsprechungsgemäss abzustellen, wenn nicht konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (<ref-ruling> E. 4.4 S. 470). Solche konkrete Indizien vermag der Beschwerdeführer vorliegend keine zu nennen. So diagnostizierten die Gutachter des ABI unter anderem eine leichte bis mittelgradige depressive Episode; damit haben sie sich offensichtlich mit dem Schweregrad der Depression auseinandergesetzt. Die anderslautenden Ausführungen in der Beschwerde, wonach die Gutachter nicht geprüft haben sollen, ob allenfalls eine schwere Depression vorliegt, erweisen sich demnach als nicht überzeugend. Weiter ist das Gutachten nachvollziehbar und schlüssig; insbesondere ist es nicht widersprüchlich, wenn die Gutachter einerseits eine (wenn auch eingeschränkte) Arbeitsfähigkeit attestieren, andererseits festhalten, dass der Explorand - aufgrund einer deutlich ausgeprägten Krankheits- und Behinderungsüberzeugung - in absehbarer Zeit nicht wieder einer Erwerbstätigkeit nachgehen wird. Wenn der neurologische Teilgutachter schliesslich eine ergänzende Untersuchung vorschlägt, auf eine solche selber verzichtet, die gestellten Gutachterfragen aber beantwortet, so ist daraus zu schliessen, dass die vorgeschlagene Untersuchung nach Ansicht des Gutachters zur Beantwortung dieser Fragen entbehrlich ist. Damit hat das kantonale Gericht nicht gegen den Untersuchungsgrundsatz verstossen, als es von Weiterungen zu diesem Punkt absah.
4.3. Der Beschwerdeführer erlitt am 27. März 2019 - und damit nach der Begutachtung durch das ABI aber noch vor Erlass der angefochtenen Verfügung - eine Synkope (Bewusstlosigkeit) unklarer Ätiologie mit Verletzungsfolge. Gemäss den verbindlichen vorinstanzlichen Feststellungen hat diese Synkope indessen keine invalidenversicherungsrechtlich relevante andauernde Verschlechterung des Gesundheitszustandes zur Folge. Inwiefern diese Feststellung offensichtlich unrichtig oder sonstwie bundesrechtswidrig sein sollte, wird vom Beschwerdeführer nicht dargelegt. Eine relevante Verschlechterung ist im Übrigen auch dem Bericht des behandelnden Dr. med. B._, FMH Psychiatrie und Psychotherapie, vom 25. Januar 2020 nicht zu entnehmen, beschreibt dieser doch bei gleichgebliebener Diagnose auch subjektiv ein seit 2018 unverändertes Beschwerdebild. Somit durfte die Vorinstanz auch auf weitere Abklärungen zu einer allfälligen Veränderung des psychischen Gesundheitsschadens verzichten.
4.4. Ausgehend von einer zunächst 80%igen, später 70%igen Arbeitsfähigkeit in einer angepassten Tätigkeit ermittelte das kantonale Gericht gestützt auf einen Einkommensvergleich einen rentenausschliessenden Invaliditätsgrad von zunächst 28 %, später 37 %. Der Beschwerdeführer macht geltend, aufgrund seiner Einschränkungen sei vom Invalideneinkommen ein Abzug in der Höhe von 15 % vorzunehmen, womit sich ein Invaliditätsgrad von 46 % ergebe.
4.4.1. Mit dem Abzug vom Tabellenlohn nach <ref-ruling> soll der Tatsache Rechnung getragen werden, dass persönliche und berufliche Merkmale, wie Art und Ausmass der Behinderung, Lebensalter, Dienstjahre, Nationalität oder Aufenthaltskategorie und Beschäftigungsgrad Auswirkungen auf die Lohnhöhe haben können und je nach Ausprägung die versicherte Person deswegen die verbliebene Arbeitsfähigkeit auch auf einem ausgeglichenen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichen Erfolg verwerten kann (<ref-ruling> E. 5.2 S. 301 mit Hinweis). Ist von einem genügend breiten Spektrum an zumutbaren Verweisungstätigkeiten auszugehen, können unter dem Titel leidensbedingter Abzug grundsätzlich nur Umstände berücksichtigt werden, die auch auf einem ausgeglichenen Arbeitsmarkt als ausserordentlich zu bezeichnen sind (Urteil 8C_799/2018 vom 30. April 2019 E. 4.3 mit Hinweisen).
Ob ein (behinderungsbedingter oder anderweitig begründeter) Abzug vom Tabellenlohn vorzunehmen ist, stellt eine vom Bundesgericht frei überprüfbare Rechtsfrage dar (<ref-ruling> E. 5.1 S. 72).
4.4.2. Gemäss den vorinstanzlichen Feststellungen ist der Beschwerdeführer aus polydisziplinärer Sicht auf eine körperlich leichte, wechselbelastende Tätigkeit mit häufig sitzenden Anteilen angewiesen. Im Gutachten des ABI wird wie folgt ausgeführt, was unter "körperlich leicht" zu verstehen ist: Zu vermeiden sind insbesondere das Bewegen von Lasten über 5 kg sowie der Einsatz der oberen Extremitäten oberhalb des Schulterniveaus. Entgegen den Vorbringen des Beschwerdeführers steht ihm mit diesen Einschränkungen auf dem theoretischen ausgeglichenen Arbeitsmarkt ein genügend breites Spektrum an Verweistätigkeiten offen. Sonstige Umstände, die es nahelegen würden, dass er seine verbliebene Arbeitsfähigkeit nur mit stark unterdurchschnittlichem Erfolg wird verwerten können, werden keine geltend gemacht. Der vorinstanzliche Verzicht auf einen Abzug vom Tabellenlohn verstösst damit nicht gegen Bundesrecht.
4.5. Durfte das kantonale Gericht damit von einem Invaliditätsgrad von zunächst 28 %, später 37 % ausgehen, so hat es zu Recht die Abweisung des Neuanmeldegesuch durch die IV-Stelle bestätigt. Die Beschwerde ist abzuweisen.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Dezember 2020
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Nabold