Sachverhalt:
A.
Die zuständige Krankentaggeldversicherung (SWICA Gesundheitsorganisation) meldete den 1966 geborenen A._ am 11. August 2017 (Eingangsdatum) unter Hinweis auf Kniebeschwerden nach erlittenem Sturz auf Glatteis bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons Zürich (nachfolgend: IV-Stelle) tätigte verschiedene Abklärungen in erwerblicher und medizinischer Hinsicht, insbesondere zog sie die Akten der SWICA bei. Mit Verfügung vom 9. September 2020 sprach sie A._ nach durchgeführtem Vorbescheidverfahren (Vorbescheide vom 16. Oktober 2017 und vom 9. September 2019) eine befristete ganze Rente für den Zeitraum vom 1. Februar 2018 bis zum 31. Juli 2018 zu (Invaliditätsgrad 100 %).
B.
Die dagegen von A._ erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Urteil vom 28. Juli 2021 ab.
C.
A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, es sei ihm unter Aufhebung des angefochtenen Urteils unbefristet (rückwirkend seit Anspruchsbeginn) eine ganze Rente der Invalidenversicherung, eventualiter eine Dreiviertelsrente auszurichten. Subeventualiter sei die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.

Erwägungen:
1.
1.1. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts durch die Vorinstanz nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Die Beschwerde hat unter anderem die Begehren und deren Begründung zu enthalten, wobei in der Begründung in gedrängter Form - unter Bezugnahme auf und in Auseinandersetzung mit den entscheidenden vorinstanzlichen Erwägungen (<ref-ruling> E. 1.4; <ref-ruling> E. 2.1) - darzulegen ist, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 1 und 2 BGG).
1.2. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit bzw. deren Veränderung in einem bestimmten Zeitraum handelt es sich grundsätzlich um Tatfragen (<ref-ruling> E. 3.2). Ebenso stellt die konkrete Beweiswürdigung eine Tatfrage dar. Dagegen sind die vollständige Feststellung rechtserheblicher Tatsachen sowie die Beachtung des Untersuchungsgrundsatzes und der Anforderung an den Beweiswert ärztlicher Berichte und Gutachten Rechtsfragen (<ref-ruling> E. 5.1).
2.
2.1. Es ist unbestritten, dass der Beschwerdeführer für die Zeit vom 1. Februar 2018 bis zum 31. Juli 2018 Anspruch auf eine ganze Rente der Invalidenversicherung hat. Streitig und zu prüfen ist indessen, ob das kantonale Gericht einen darüber hinausgehenden Rentenanspruch zu Recht verneint hat.
2.2. Die Vorinstanz hat die Bestimmungen und Grundlagen zu den Begriffen der Invalidität (<ref-law>, <ref-law>) und der Erwerbsunfähigkeit (<ref-law>) sowie zum Umfang des Rentenanspruchs (<ref-law>) zutreffend dargelegt. Darauf wird verwiesen.
Zu ergänzen ist, dass es dem Sozialversicherungsgericht nach der Rechtsprechung nicht verwehrt ist, einzig oder im Wesentlichen gestützt auf eine (versicherungsinterne) Beurteilung des Regionalen Ärztlichen Dienstes (RAD) zu entscheiden. In solchen Fällen sind an die Beweiswürdigung jedoch strenge Anforderungen in dem Sinne zu stellen, dass bei auch nur geringen Zweifeln an der Zuverlässigkeit und Schlüssigkeit der ärztlichen Feststellungen ergänzende Abklärungen vorzunehmen sind (<ref-ruling> E. 4.4 in fine mit Hinweis).
3.
Die Vorinstanz stellte gestützt auf die medizinische Aktenlage fest, beim Beschwerdeführer sei im April 2018 eine erhebliche Veränderung des Gesundheitszustands eingetreten. Für sitzende - mithin optimal angepasste - Tätigkeiten bestehe ab diesem Zeitpunkt eine 100 %ige Arbeitsfähigkeit. Die für den Einkommensvergleich massgeblichen Einkommen ermittelte sie je auf Basis der Tabellenlöhne der vom Bundesamt für Statistik (BFS) alle zwei Jahre durchgeführten Lohnstrukturerhebung (LSE). Konkret bezifferte das kantonale Gericht das Valideneinkommen auf Fr. 52'419.- (Zentralwert der Tabelle TA1 im Bereich "Gastgewerbe/Beherbergung und Gastronomie" [Ziff. 55-56], Kompetenzniveau 1, Männer) und das Invalideneinkommen - unter Gewährung eines leidensbedingten Abzugs von 10 % - auf Fr. 60'990.- (Zentralwert der Tabelle TA1, Total, Kompetenzniveau 1, Männer). Danach bestehe ab dem 1. August 2018 (in Anwendung von <ref-law>) ein rentenausschliessender Invaliditätsgrad von 0 %.
4.
Der Beschwerdeführer rügt eine offensichtlich unrichtige Sachverhaltsfeststellung und eine Verletzung des Untersuchungsgrundsatzes, weil die Vorinstanz die vorhandenen Akten einseitig und unvollständig betrachtet und gewürdigt habe. Insbesondere stört er sich am Umstand, dass sie ihren Entscheid einzig bzw. überwiegend auf den Bericht des RAD-Arztes Dr. med. B._, Facharzt für Chirurgie, Orthopädische Chirurgie und Traumatologie, vom 13. Mai 2019 abgestützt habe. Damit sei den diesbezüglich geltenden strengen Anforderungen an die Beweiswürdigung nicht genügend Rechnung getragen worden.
4.1. Zum Vornherein nichts für seinen Standpunkt abzuleiten vermag der Beschwerdeführer aus dem Verweis auf verschiedene vor April 2018 verfasste Arztberichte und darin attestierte Arbeitsunfähigkeiten. So stellte die Vorinstanz unbestritten fest, dass der Beschwerdeführer aufgrund einer vollständigen Arbeitsunfähigkeit für sämtliche Tätigkeiten von Februar 2018 bis Juli 2018 Anspruch auf eine ganze Rente der Invalidenversicherung hat. Gemäss angefochtenem Entscheid veränderte sich sein Gesundheitszustand erst ab März 2018 zum Positiven und es ist erst ab April 2018 von einer uneingeschränkten Arbeitsfähigkeit in rein sitzender Tätigkeit auszugehen.
4.2. Der Beschwerdeführer räumt selber ein, dass es im Rahmen der freien Beweiswürdigung grundsätzlich zulässig ist, dass Verwaltung und Sozialversicherungsgericht ihre Entscheide einzig oder im Wesentlichen auf versicherungsinterne Entscheidgrundlagen stützten (vgl. dazu E. 2.2 hievor). Im vorliegenden Fall hat sich die Vorinstanz einlässlich mit den vorhandenen ärztlichen Unterlagen auseinandergesetzt und festgestellt, die Einschätzung des RAD-Arztes Dr. med. B._ in der Stellungnahme vom 13. Mai 2019 sei nicht zu beanstanden. Das kantonale Gericht nahm im Rahmen seiner Beweiswürdigung nicht nur Bezug auf diese verwaltungsinterne ärztliche Stellungnahme, sondern auch auf weitere Arztberichte. Namentlich setzte sie sich mit dem Bericht der Praxis für Schmerzmedizin vom 5. März 2018 auseinander, worin Dr. med. C._, Fachärztin für Anästhesiologie, nur noch über belastungsabhängige Schmerzen berichtet und eine Arbeitsfähigkeit in rein sitzender Tätigkeit nicht ausgeschlossen habe. Weiter bezog sich das kantonale Gericht auf den Bericht des Dr. med. D._, FMH Orthopädische Chirurgie, vom 13. April 2018. Dieser habe einen verbesserten Gesundheitszustand, nur noch belastungsabhängige Schmerzen sowie einen verminderten Analgetikakonsum festgestellt und eine Arbeitsfähigkeit für eine rein sitzende Tätigkeit nicht ausgeschlossen. Die Vorinstanz berücksichtigte auch die Einschätzung des Hausarztes med. pract. E._, welcher dem Beschwerdeführer im Juni 2018 eine vollständige Arbeitsfähigkeit in rein sitzender Tätigkeit attestiert und diese Einschätzung im April 2019 explizit bestätigt habe.
Inwiefern diese Beweiswürdigung des kantonalen Gerichts einseitig oder unvollständig sein sollte oder sich (geringe) Zweifel an der Zuverlässigkeit und Schlüssigkeit des RAD-Berichts vom 13. Mai 2019 aufdrängen sollten, ist weder ersichtlich noch in der Beschwerde substanziiert dargetan. Nicht stichhaltig ist insbesondere der Verweis des Beschwerdeführers auf einen nicht näher bezeichneten "anderslautenden Bericht des Spezialisten Dr. med. F._". Soweit diesbezüglich überhaupt von einem rechtsgenüglich begründeten Einwand auszugehen ist (vgl. E. 1.1 hievor), lässt der Beschwerdeführer ausser Acht, dass Differenzen in der Einschätzung der RAD-Ärzte und der behandelnden Ärzte für sich allein nicht ausreichen, um weiteren Abklärungsbedarf zu begründen (vgl. Urteil 9C_16/2021 vom 15. März 2021 E. 3.2 mit Hinweisen). Ein solcher Bedarf geht denn entgegen den Rügen des Beschwerdeführers auch nicht aus den Berichten des Dr. med. G._ oder des med. pract. H._ (beide Ärzte der Klinik I._) vom 3. Mai und vom 11. Juni 2018 hervor. So lässt sich dem Sprechstundenbericht vom 3. Mai 2018 ohne Weiteres entnehmen, dass Dr. med. G._ Zusatzabklärungen nur deshalb veranlasst hatte, um - wie in der Folge tatsächlich geschehen - eine mögliche Allergie als Ursache für eine Entzündungsreaktion mit Erguss am rechten Knie ausschliessen zu können. Auch der Einwand, weder Dr. med. G._ noch med. pract. H._ hätten eine Arbeitsfähigkeit von 100 % attestiert, vermag keine Zweifel an der RAD-Stellungnahme vom 13. Mai 2019 zu begründen. So verzichteten die beiden Ärzte der Klinik I._ explizit auf eine Einschätzung der Arbeitsfähigkeit und baten diesbezüglich um Konsultation der vorbehandelnden Ärzte. Mit Blick auf diesen Verzicht war es denn auch nicht an Dr. med. H._ über die Notwendigkeit weiterer arbeitsmedizinischer Untersuchungen für eine Einschätzung der Arbeitsfähigkeit zu befinden.
5.
Unbegründet ist weiter die Rüge des Beschwerdeführers, es fänden nach wie vor Behandlungen statt und es sei deshalb in Bezug auf seinen Gesundheitszustand nicht von einem stabilen Endzustand auszugehen. Das kantonale Gericht stellte diesbezüglich unter Hinweis auf verschiedene medizinische Berichte fest, die Beschwerden am rechten Knie seien weitgehend chronifiziert und es seien keine wesentlichen Veränderungen mehr zu erwarten, woran gemäss einleuchtender Einschätzung des RAD die klarerweise weiterlaufende Behandlung nichts ändere. Ebenfalls setzte sich die Vorinstanz mit der in verschiedenen Arztberichten thematisierten Möglichkeit einer Revisionsoperation am rechten Knie auseinander. Sie schloss indessen, es seien bislang keine weiteren Schritte in diese Richtung unternommen worden. Das kantonale Gericht befasste sich auch mit den vom Beschwerdeführer geklagten Schulterbeschwerden und erkannte, es fehlten diesbezüglich aktenkundige Hinweise auf stattgefundene Behandlungen oder eine relevante Einschränkung der Arbeitsfähigkeit. Was der Beschwerdeführer dagegen vorbringt ist weitgehend appellatorischer Natur. So beschränkt er sich im Wesentlichen auf eine (wörtliche) Wiederholung der im vorinstanzlichen Verfahren vorgetragenen Einwendungen ohne auf die massgeblichen Erwägungen des angefochtenen Entscheids einzugehen und darzutun, inwiefern diese offensichtlich unrichtig sein oder sonstwie Bundesrecht verletzen sollen (vgl. E. 1.1 hievor). Daneben stellt er aktuelle Therapieberichte betreffend das rechte Knie in Aussicht, welche aber in der Folge nicht eingereicht wurden; als echte Noven wären diese vor Bundesgericht im Übrigen unzulässig (<ref-ruling> E. 1.2). Mit all diesen Einwänden vermag der Beschwerdeführer jedenfalls keine Bundesrechtswidrigkeit zu begründen. Der vorinstanzliche Verzicht auf Beweisweiterungen verletzt auch nicht den Untersuchungsgrundsatz (zur Zulässigkeit der antizipierten Beweiswürdigung: <ref-ruling> E. 5.3).
6.
In Bezug auf seine verbliebene medizinisch-theoretische Arbeitsfähigkeit bringt der Beschwerdeführer vor, diese sei auf dem ausgeglichenen Arbeitsmarkt nicht verwertbar. Für ihn würden lediglich sitzende Tätigkeiten in Frage kommen, bei denen zuweilen Gelegenheit zur Betätigung des Knies vorhanden sein müssten. Eine administrative Tätigkeit, welche diesem medizinischen Anforderungsprofil am besten entspreche, falle aber unter anderem aufgrund schwacher Sprachkenntnisse und fehlender beruflicher Ausbildung ausser Betracht; solche Stellen würden im freien Arbeitsmarkt zudem nur ausserordentlich selten angeboten. Der Beschwerdeführer stellt zudem in Frage, wie es ihm - der seit jeher Mühe gehabt habe, ein ausreichendes Einkommen zu erzielen - mit seinen gesundheitlichen Einschränkungen möglich sein solle, einen Verdienst von Fr. 60'990.- zu erwirtschaften.
6.1. Beim ausgeglichenen Arbeitsmarkt handelt es sich um eine theoretische Grösse, so dass eine Unverwertbarkeit der verbliebenen Leistungsfähigkeit nicht leichthin angenommen werden kann (vgl. Urteil 9C_426/2020 vom 29. April 2021 E. 5.2 mit Hinweisen). An der Massgeblichkeit dieses ausgeglichenen Arbeitsmarkts vermag auch der Umstand nichts zu ändern, dass es für die versicherte Person im Einzelfall schwierig oder gar unmöglich ist, auf dem tatsächlichen Arbeitsmarkt eine entsprechende Stelle zu finden (vgl. Urteil 9C_141/2021 vom 8. Juli 2021 E. 5.1 mit Hinweisen). Dem Beschwerdeführer, welcher im massgebenden Zeitpunkt (Mai 2019; vgl. dazu <ref-ruling> E. 5.3.1 mit Hinweisen) erst 53 Jahre alt war, sind nach dem Dargelegten ab April 2018 sitzende Tätigkeiten in vollem Pensum zumutbar. Entgegen der Beschwerde fallen darunter keinesfalls nur administrative Tätigkeiten mit erhöhten Anforderungen an Sprachkenntnisse und Ausbildung. Im Gegenteil hat das Bundesgericht wiederholt darauf hingewiesen, dass auf dem ausgeglichenen Arbeitsmarkt leichte Hilfsarbeiten ohne besondere Anforderungen an die Qualifikationen auch vorwiegend sitzend angeboten werden (vgl. z.B. Urteil 8C_599/2015 vom 22. Dezember 2015 E. 5.2.4 mit Hinweis auf in RKUV 2005 UV Nr. 11 S. 35 nicht publ. E. 3.2 des Urteils U 66/02 vom 2. November 2004). In Anbetracht dessen sowie mit Blick auf die gemäss bundesgerichtlicher Rechtsprechung relativ hohen Hürden für die Annahme einer Unverwertbarkeit der Restarbeitsfähigkeit älterer Menschen (SVR 2016 IV Nr. 58 S. 190, 8C_910/2015 E. 4.3.4; Urteil 9C_693/2019 vom 17. Dezember 2019 E. 5 mit Hinweisen), hat die Vorinstanz kein Bundesrecht verletzt, indem sie die Verwertbarkeit der verbliebenen medizinisch-theoretischen Arbeitsfähigkeit des Beschwerdeführers bejahte.
6.2. Insofern der Beschwerdeführer das zugrunde gelegte Invalideneinkommen als zu hoch bemängelt, kann ihm ebenfalls nicht gefolgt werden. So ist weder ersichtlich noch legt er substanziiert dar, inwiefern er aufgrund seiner gesundheitlichen Einschränkungen ausser Stande sein sollte, das vom kantonalen Gericht gestützt auf Tabellenlöhne (unter Berücksichtigung eines leidensbedingten Abzugs von 10 %) ermittelte Einkommen von Fr. 60'990.- zu erwirtschaften. Nicht näher einzugehen ist in diesem Zusammenhang insbesondere auf die Rüge, der gewährte leidensbedingte Abzug sei zu gering. So würde gemäss den unbestritten gebliebenen vorinstanzlichen Feststellungen selbst bei Gewährung des grösstmöglichen Abzugs von 25 % kein Rentenanspruch resultieren. Nichts zu seinen Gunsten abzuleiten vermag der Beschwerdeführer schliesslich aus dem pauschalen Hinweis auf seine bescheidenen Verdienste als Gesunder. So trug die Vorinstanz einer sich daraus allenfalls ergebenden Notwendigkeit zur Parallelisierung der Vergleichseinkommen (vgl. dazu <ref-ruling> E. 6.1 mit Hinweisen) dadurch Rechnung, dass sie nicht nur das Invalideneinkommen, sondern (zu Gunsten des Beschwerdeführers) auch das Valideneinkommen anhand von Tabellenlöhnen ermittelte. Dies mit der Begründung, beim zuletzt im Jahre 2016 erzielten (unterdurchschnittlichen) Einkommen habe es sich nicht um einen stabilen Verdienst gehandelt. Dagegen bringt der Beschwerdeführer nichts Entscheidendes vor.
7.
Entsprechend dem Ausgang des Verfahrens hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich, V. Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. Dezember 2021
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Parrino
Der Gerichtsschreiber: Williner