Sachverhalt:
A.
Der 1969 geborene A._ meldete sich im August 2003 unter Hinweis auf die Folgen einer Erkrankung am Guillain-Barré-Syndrom bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich lehnte mit Verfügung vom 29. Oktober 2003 einen Anspruch des Versicherten auf Umschulung ab. Nachdem A._ sich im Juli 2014 wegen einer gebrochenen Schulter erneut zum Leistungsbezug angemeldet hatte, stellte die IV-Stelle am 30. Oktober 2014 fest, dass der bisherige Arbeitsplatz erfolgreich habe erhalten werden können und der Versicherte damit rentenausschliessend eingegliedert sei. Im August 2017 meldete sich der Versicherte unter Hinweis auf einen Shone-Komplex erneut bei der Invalidenversicherung an. Nach erwerblichen und medizinischen Abklärungen, insbesondere nach Vorliegen einer polydisziplinären (Allgemeine Innere Medizin, Kardiologie und Neurologie) Expertise der MEDAS Interlaken-Unterseen GmbH (Gutachten vom 10. Januar 2019) sprach die IV-Stelle dem Versicherten mit Verfügung vom 17. März 2020 mit Wirkung ab 1. April 2018 eine halbe Rente der Invalidenversicherung zu.
B.
Die von A._ hiegegen erhobene Beschwerde hiess das Sozialversicherungsgericht des Kantons Zürich mit Urteil vom 22. April 2021 teilweise gut, hob die Verfügung, soweit sie den Anspruch auf eine die halbe Rente übersteigende Invalidenrente ab 1. September 2019 betrifft, auf und wies die Sache zu weiteren Abklärungen im Sinne der Erwägungen und anschliessender Neuverfügung an die IV-Stelle zurück. Im Übrigen, insbesondere den Rentenanspruch vom 1. April 2018 bis 31. August 2019 betreffend, wies das kantonale Gericht die Beschwerde ab, soweit es auf sie eintrat.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt A._, es sei das kantonale Urteil insoweit aufzuheben, als damit ein Anspruch des Beschwerdeführers auf eine ganze Invalidenrente ab 1. April 2018 verneint wird.
Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.
Erwägungen:
1.
1.1. Das Bundesgericht prüft seine Zuständigkeit und die weiteren Eintretensvoraussetzungen von Amtes wegen und mit freier Kognition (Art. 29 Abs. 1 BGG; BGE 145 II 168 E. 1; 144 V 280 E. 1). Dies ändert indessen nichts daran, dass der Beschwerdeführer nach Art. 42 Abs. 1 BGG gehalten ist, die Erfüllung der Eintretensvoraussetzungen darzutun, wenn diese nicht offensichtlich gegeben sind (vgl. BGE 141 IV 289 E. 1.3 mit weiteren Hinweisen; Urteil 8C_551/2019 vom 10. Januar 2020 E. 1).
1.2. Das BGG unterscheidet in Art. 90 bis 93 zwischen End-, Teil- sowie Vor- und Zwischenentscheiden und schafft damit eine für alle Verfahren einheitliche Terminologie. Ein Endentscheid ist ein Entscheid, der das Verfahren prozessual abschliesst (Art. 90 BGG), sei dies mit einem materiellen Entscheid oder Nichteintreten, z.B. mangels Zuständigkeit. Der Teilentscheid ist eine Variante des Endentscheids. Mit ihm wird über eines oder einige von mehreren Rechtsbegehren (objektive und subjektive Klagehäufung) abschliessend befunden. Es handelt sich dabei nicht um verschiedene materiellrechtliche Teilfragen eines Rechtsbegehrens, sondern um verschiedene Rechtsbegehren. Vor- und Zwischenentscheide sind alle Entscheide, die das Verfahren nicht abschliessen und daher weder End- noch Teilentscheid sind; sie können formell- und materiellrechtlicher Natur sein. Voraussetzung für die selbstständige Anfechtbarkeit materiellrechtlicher Zwischenentscheide ist gemäss Art. 93 Abs. 1 BGG zunächst, dass sie selbstständig eröffnet worden sind. Erforderlich ist sodann alternativ, dass der angefochtene Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder dass die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
1.3. Soweit den Rentenanspruch für die Zeit ab 1. September 2019 betreffend, hob das kantonale Gericht im angefochtenen Urteil die Verfügung der IV-Stelle auf und wies die Sache zu weiteren Abklärungen und anschliessender Neuverfügung an die IV-Stelle zurück. Ein solcher Rückweisungsentscheid stellt einen (Teil-) Zwischenentscheid im Sinne von Art. 93 BGG dar (BGE 140 V 321 E. 3; Urteil 9C_626/2020 vom 1. Oktober 2021 E. 1.2.2). Da weder vom Beschwerdeführer dargetan noch ersichtlich ist, dass eine der Eintretensalternativen gemäss Art. 93 Abs. 1 BGG erfüllt ist, ist auf die Beschwerde, soweit sie die Zeit ab dem 1. September 2019 betrifft, nicht einzutreten.
1.4. Im angefochtenen Urteil bestätigte das kantonale Gericht weiter den Anspruch des Beschwerdeführers auf eine halbe Rente der Invalidenversicherung in der Zeit vom 1. April 2018 bis zum 31. August 2019. Soweit das angefochtene Urteil diesen Zeitraum betrifft, stellt es einen Teilentscheid im Sinne von Art. 91 BGG dar. Ein Entscheid, der nur einen Teil der gestellten Begehren (abschliessend) behandelt, ist nur dann vor Bundesgericht anfechtbar, wenn diese Begehren unabhängig von den anderen beurteilt werden können (Art. 91 lit. a BGG). Unabhängigkeit im Sinne dieser Norm setzt unter anderem voraus, dass keine Gefahr besteht, dass das Schlussurteil über den verbliebenen Prozessgegenstand im Widerspruch zum bereits rechtskräftig ausgefällten Teilurteil steht (BGE 141 III 395 E. 2.4; 135 III 212 E. 1.2.3; Urteil 8C_315/2018 vom 14. August 2018 E. 3.1). Steht eine Dauerleistung während einer längeren Zeitperiode zur Diskussion und hat die Vorinstanz nur für einen Teil dieses Zeitraums in der Sache entschieden, so liegt rechtsprechungsgemäss grundsätzlich ein Teilentscheid vor, der selbständig anfechtbar ist (BGE 135 V 141 E. 1.4). Soweit die Zeit vom 1. April 2018 bis zum 31. August 2019 betreffend, ist somit - da die übrigen Sachurteilsvoraussetzungen zu keinen Bemerkungen Anlass geben (Art. 82 lit. a, Art. 83 e contrario, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 89 Abs. 1 und Art. 100 Abs. 1 BGG) - auf die Beschwerde einzutreten.
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 f. BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Dennoch prüft es - offensichtliche Fehler vorbehalten - nur die in seinem Verfahren gerügten Rechtsmängel (Art. 42 Abs. 1 und 2 BGG; BGE 135 II 384 E. 2.2.1). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann deren Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Verfahrensausgang entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG).
2.2. Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (BGE 132 I 42 E. 3.1). Eine offensichtlich unrichtige Sachverhaltsfeststellung weist damit die Tragweite von Willkür auf (BGE 135 II 145 E. 8.1). Es liegt noch keine offensichtliche Unrichtigkeit vor, nur weil eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erscheint (BGE 142 II 369 E. 4.3; 129 I 8 E. 2.1). Eine Sachverhaltsfeststellung ist etwa dann offensichtlich unrichtig, wenn das kantonale Gericht den Sinn und die Tragweite eines Beweismittels offensichtlich falsch eingeschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (BGE 129 I 8 E. 2.1; Urteil 9C_143/2021 vom 25. Juni 2021 E. 1.3 mit Hinweisen).
3.
3.1. Zu prüfen ist im vorliegenden Verfahren, ob das kantonale Gericht Bundesrecht verletzt hat, als es für die Zeit vom 1. April 2018 bis zum 31. August 2019 den Anspruch des Beschwerdeführers auf eine höhere als eine halbe Invalidenrente verneint hat.
3.2. Das kantonale Gericht hat die Bestimmungen und Grundsätze zur Erwerbsunfähigkeit (Art. 7 ATSG), zur Invalidität (Art. 8 Abs. 1 ATSG, Art. 4 Abs. 1 IVG), zum Rentenanspruch (Art. 28 IVG), zum Einkommensvergleich und zum Begriff des ausgeglichenen Arbeitsmarkts (Art. 16 ATSG) zutreffend dargelegt. Gleiches gilt hinsichtlich der bei der Beurteilung des Beweiswerts eines ärztlichen Berichts oder Gutachtens zu beachtenden Regeln (BGE 143 V 124 E. 2.2.2; 134 V 231 E. 5.1; 125 V 351 E. 3a). Darauf wird verwiesen.
Zu ergänzen ist, dass die Anspruchsprüfung bei einer Neuanmeldung nach vorausgegangener Rentenverweigerung (vgl. dazu Art. 87 Abs. 3 in Verbindung mit Abs. 2 IVV; BGE 130 V 71 E. 2.2) unter analoger Anwendung der Grundsätze zur Rentenrevision nach Art. 17 ATSG zu erfolgen hat (BGE 143 V 409 E. 4.2.1; 143 V 418; 141 V 281).
4.
4.1. Es steht fest und ist unbestritten, dass sich der Gesundheitszustand des Versicherten in der Zeit seit der letzten Rentenablehnung verschlechtert hat und er im vorliegend streitigen Zeitraum lediglich noch in der Lage war, einer leidensangepassten Tätigkeit zu 70 % nachzugehen. Streitig ist demgegenüber die Verwertbarkeit der verbleibenden medizinisch-theoretischen Arbeitsfähigkeit.
4.2. Die Möglichkeit einer versicherten Person, das verbliebene Leistungsvermögen auf dem allgemeinen ausgeglichenen Arbeitsmarkt zu verwerten, hängt von den konkreten Umständen des Einzelfalles ab. Massgebend sind rechtsprechungsgemäss die Art und Beschaffenheit des Gesundheitsschadens und seiner Folgen, der absehbare Umstellungs- und Einarbeitungsaufwand und in diesem Zusammenhang auch die Persönlichkeitsstruktur, vorhandene Begabungen und Fertigkeiten, Ausbildung, beruflicher Werdegang oder die Anwendbarkeit von Berufserfahrung aus dem angestammten Bereich (Urteil 9C_650/2015 vom 11. August 2016 E. 5.3 mit Hinweisen). Beim ausgeglichenen Arbeitsmarkt handelt es sich um eine theoretische Grösse, so dass nicht leichthin angenommen werden kann, die verbliebene Leistungsfähigkeit sei unverwertbar (Urteile 8C_442/2019 vom 20. Juli 2019 E. 4.2 und 9C_485/2014 vom 28. November 2014 E. 3.3.1). Unverwertbarkeit der Restarbeitsfähigkeit ist anzunehmen, wenn die zumutbare Tätigkeit in nur so eingeschränkter Form möglich ist, dass sie der ausgeglichene Arbeitsmarkt praktisch nicht kennt oder sie nur unter nicht realistischem Entgegenkommen eines durchschnittlichen Arbeitgebers möglich wäre und das Finden einer entsprechenden Stelle daher zum Vornherein als ausgeschlossen erscheint (Urteile 9C_426/2020 vom 29. April 2021 E. 5.2 und 9C_644/2019 vom 20. Januar 2020 E. 4.2, je mit Hinweis).
4.3. Der Beschwerdeführer macht geltend, die ihm verbliebene Arbeitsfähigkeit sei auch auf dem theoretischen ausgeglichenen Arbeitsmarkt nicht verwertbar. Wie die Vorinstanz indessen zutreffend erwogen hat, bietet dieser Arbeitsmarkt durchaus Stellen, bei denen der Erwerbstätige bei Bedarf jederzeit eine Pause einlegen kann (vgl. auch Urteil 8C_434/2021 vom 10. August 2021 E. 5.4). Daran vermag auch der Umstand nichts zu ändern, dass auch in Zukunft mit Phasen vorübergehender Arbeitsunfähigkeiten gerechnet werden muss. Im konkreten Fall ebenfalls nicht zu einer Einschränkung der Verwertbarkeit führt die Vorgabe, wonach die Tätigkeit in der Nähe zur betreuenden kardiologischen Klinik ausgeübt werden soll. Das kantonale Gericht interpretierte diese Vorgabe dahingehend, dass der Arbeitsort nicht weiter von der Klinik B._ entfernt liegen dürfe, als sein Wohnort. Mit dieser Interpretation schätzte das kantonale Gericht den Sinn und die Tragweite der gutachterlichen Äusserung nicht offensichtlich falsch ein; gemäss dem Kontext dieser Äusserung wollte der Experte der MEDAS mit ihr in erster Linie eine Aussendiensttätigkeit ausschliessen. Der Versicherte wohnt gemäss den vorinstanzlichen Feststellungen in U._, mithin in gut 35 km Entfernung von der behandelnden kardiologischen Klinik. In diesem Umkreis um die Klinik B._ liegt eine der wirtschaftsstärksten Regionen der Schweiz, so dass diese Vorgabe das Auffinden einer entsprechenden Stelle nicht als unrealistisch erscheinen lässt. Somit hat die Vorinstanz kein Bundesrecht verletzt, als sie die Verwertbarkeit der dem Beschwerdeführer verbliebenen medizinisch-theoretischen Arbeitsfähigkeit bejahte.
4.4. Die konkrete Bemessung des Invaliditätsgrades bei Annahme einer grundsätzlichen Verwertbarkeit der medizinisch-theoretischen Arbeitsfähigkeit hat der Versicherte nicht beanstandet. Seine Beschwerde ist daher ohne Weiterungen abzuweisen.
5.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 Satz 1 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 3. Januar 2022
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Der Gerichtsschreiber: Nabold