Sachverhalt:
A.
Der kosovarische Staatsangehörige A._ (geb. 1958) heiratete am 15. Juli 2013 in Bosnien und Herzegowina die Schweizer Staatsbügerin B._ (geb. 1962). Hierauf wurde ihm am 12. November 2014 eine Aufenthaltsbewilligung zum Verbleib bei seiner Ehefrau erteilt und in der Folge mehrfach verlängert, zuletzt befristet bis zum 20. Oktober 2019. Die Ehe blieb kinderlos und wurde mit Urteil des Amtsgerichts C._ vom 15. Oktober 2018 in Bosnien und Herzegowina geschieden.
B.
Nachdem das Migrationsamt des Kantons Zürich (nachfolgend: Migrationsamt) über die Schweizer Botschaft in Sarajevo von der Scheidung der Ehegatten erfahren hatte, widerrief es am 1. Oktober 2019 die Aufenthaltsbewilligung von A._ und wies ihn aus der Schweiz weg.
Dieser Entscheid wurde von den kantonalen Rechtsmittelinstanzen bestätigt (vgl. Entscheid der Sicherheitsdirektion des Kantons Zürich vom 1. Dezember 2020 und Urteil des Verwaltungsgerichts des Kantons Zürich vom 24. Februar 2021).
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 6. April 2021 beantragt A._ dem Bundesgericht die Aufhebung des Urteils des Verwaltungsgerichts des Kantons Zürich vom 24. Februar 2021 sowie die Verlängerung der Aufenthaltsbewilligung und den Verzicht auf die Wegweisung. Eventualiter sei die Sache zur Neubeurteilung und zu neuem Entscheid an die Vorinstanz zurückzuweisen.
Mit Präsidialverfügung vom 4. Mai 2021 hat das Bundesgericht der Beschwerde A._s antragsgemäss die aufschiebende Wirkung zuerkannt.
Die Sicherheitsdirektion und das Verwaltungsgericht des Kantons Zürich haben auf eine Vernehmlassung verzichtet. Das Migrationsamt des Kantons Zürich und das Staatssekretariat für Migration (SEM) haben sich nicht vernehmen lassen.

Erwägungen:
1.
Der Beschwerdeführer beruft sich in vertretbarer Weise auf einen Aufenthaltsanspruch gemäss <ref-law> (SR 142.20). Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist zulässig (Art. 82 lit. a, Art. 83 lit. c Ziff. 2 e contrario, Art. 86 Abs. 1 lit. d und Abs. 2, Art. 89 Abs. 1 und Art. 90 BGG).
2.
2.1. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>); es prüft jedoch unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG) nur die vorgebrachten Argumente, falls weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.5). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>; <ref-ruling> E. 2.2). Das Bundesgericht ist an den Sachverhalt gebunden, wie die Vorinstanz ihn festgestellt hat (<ref-law>), es sei denn, dieser erweise sich in einem entscheidwesentlichen Punkt als offensichtlich falsch oder unvollständig (<ref-ruling> E. 1.6).
2.2. Gemäss <ref-law> kann die Feststellung des Sachverhalts nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-ruling> E. 2.2). Eine Sachverhaltsfeststellung ist nicht schon dann offensichtlich unrichtig, wenn Zweifel bestehen, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist (<ref-ruling> E. 3.1). Wird die vorinstanzliche Beweiswürdigung beanstandet, so ist die Kognition des Bundesgerichts auf Willkür beschränkt (vgl. Urteil 2C_66/2016 vom 12. Oktober 2016 E. 2.2). Für eine Berichtigung oder Ergänzung der Sachverhaltsfeststellung der Vorinstanz durch das Bundesgericht muss die Behebung des Mangels überdies für den Ausgang des Verfahrens entscheidend sein können (<ref-law>).
3.
Der Beschwerdeführer rügt vorab eine Verletzung des rechtlichen Gehörs (<ref-law>). Er macht geltend, die Vorinstanz habe in willkürlicher antizipierter Beweiswürdigung zahlreichen Beweisanträgen nicht stattgegeben, insbesondere eine Befragung seiner ehemaligen Ehefrau abgelehnt. Damit habe die Vorinstanz willkürlich den Nachweis verneint, dass die eheliche Gemeinschaft bis mindestens zum 8. November 2017 und mithin mehr als drei Jahre gedauert habe.
3.1. Gemäss dem Untersuchungsgrundsatz müssen die Migrationsbehörden den rechtserheblichen Sachverhalt grundsätzlich von Amtes wegen feststellen (vgl. Urteil 2C_61/2014 vom 5. Januar 2015 E. 3.2.1). Der Untersuchungsgrundsatz wird aber durch die Mitwirkungspflicht der Parteien relativiert (<ref-law>). Diese kommt naturgemäss bei Tatsachen zum Tragen, die eine Partei besser kennt als die Behörden und die ohne ihre Mitwirkung gar nicht oder nicht mit vernünftigem Aufwand erhoben werden können (vgl. <ref-ruling> E. 8.6.4). Als Korrelat zur Mitwirkungspflicht der Parteien sind die Behörden jedoch gehalten, rechtzeitig und formrichtig angebotene Beweismittel zu rechtserheblichen Tatsachen abzunehmen (<ref-ruling> E. 4.3). Keine Verletzung des rechtlichen Gehörs liegt vor, wenn ein Gericht darauf verzichtet, beantragte Beweise abzunehmen, weil es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 5.3). Der Untersuchungsgrundsatz steht einer antizipierten Beweiswürdigung nicht entgegen (vgl. Urteil 1C_56/2016 vom 8. Juli 2016 E. 3.1).
3.2. Die für die Beurteilung der vom Beschwerdeführer erhobenen Rügen wesentlichen tatsächlichen Umstände ergaben sich für die Vorinstanz in genügender Weise aus den Akten. Diese Würdigung ist nicht zu beanstanden. Die ehemalige Ehefrau konnte sich wiederholt im Verfahren schriftlich einbringen, weshalb nicht ersichtlich ist und auch nicht weiter begründet wird, inwiefern die persönliche Befragung der ehemaligen Ehefrau des Beschwerdeführers neue, entscheidende Anhaltspunkte hätte liefern können (vgl. <ref-ruling> E. 5.3). Die Vorinstanz durfte deshalb willkürfrei in antizipierter Beweiswürdigung auf weitere Beweiserhebungen, insbesondere auf eine persönliche Befragung der ehemaligen Ehefrau, verzichten. Daran ändern auch die Umstände nichts, dass es bei der Frage, ob in einem bestimmten Zeitpunkt ein beidseitig intakter Ehewille bestand, um innere, dem Kern der Privatsphäre zugehörige Sachverhalte geht (vgl. Urteil 1C_56/2016 vom 8. Juli 2016 E. 3.2). Die Rüge der Verletzung des Anspruchs auf rechtliches Gehör geht insofern fehl.
4.
Der Beschwerdeführer macht des Weiteren eine willkürliche Beweiswürdigung geltend. Insofern die Vorinstanz zum Schluss gekommen sei, dass der Ehewille schon vor dem 8. November 2018 erloschen sei, habe sie den Sachverhalt offensichtlich unrichtig festgestellt und gegen das Willkürverbot (<ref-law>) verstossen.
4.1. Gemäss <ref-law> besteht nach Auflösung der Ehe oder der Familiengemeinschaft der Anspruch des Ehegatten und der Kinder auf Erteilung und Verlängerung der Aufenthaltsbewilligung nach Massgabe von Art. 42 f. AIG weiter, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und die Integrationskriterien nach <ref-law> erfüllt sind. Das Bundesgericht hat wiederholt festgehalten, dass für die Berechnung der Dreijahresfrist auf die in der Schweiz gelebte Ehegemeinschaft abzustellen ist (vgl. <ref-ruling> E. 4.1; <ref-ruling> E. 3.5.1; <ref-ruling> E. 3.3). Eine ausländerrechtlich relevante Ehegemeinschaft liegt vor, solange die eheliche Beziehung tatsächlich gelebt wird und ein gegenseitiger Ehewille besteht. Nicht relevant ist demgegenüber, bis zu welchem Zeitpunkt die Ehe nach Beendigung des ehelichen Zusammenlebens formell noch weiter bestanden hat (<ref-ruling> E. 3.1.2). Die Frist nach <ref-law> gilt absolut. Bereits das Fehlen weniger Wochen oder Tage schliesst den Anspruch auf Verlängerung der Aufenthaltsbewilligung aus (Urteile 2C_377/2020 vom 15. Juli 2020 E. 5.2).
4.2. Vorliegend ist unbestritten, dass die Dreijahresfrist von <ref-law> erst mit der Aufnahme des ehelichen Zusammenlebens in der Schweiz am 21. Oktober 2014 begonnen hat. Zu prüfen ist folglich nur noch, ob der Zeitpunkt der Beendigung des ehelichen Zusammenlebens bzw. des Erlöschens des wechselseitigen Ehewillens von der Vorinstanz korrekt erfasst wurde.
4.3. Die Vorinstanz hat in tatsächlicher Hinsicht festgestellt, dass die ehemalige Ehefrau des Beschwerdeführers am 20. Oktober 2017 einen Anwalt für die Einleitung der Scheidung bevollmächtigt hat, welcher eine auf den 23. Oktober 2017 datierende Scheidungsklage am 10. November 2017 beim zuständigen Gericht in Bosnien und Herzegowina eingereicht hat. Entsprechend dieser Klage und dem sie abschliessenden Scheidungsurteil sei die Gemeinschaft der Eheleute bereits Ende 2014 definitiv aufgehoben worden. Unstrittig sei ferner, dass die Ehe am 15. Oktober 2018 rechtskräftig geschieden wurde und der Beschwerdeführer bis Ende März 2019 bei seiner früheren Ehefrau angemeldet war.
4.4. Gestützt darauf kam die Vorinstanz zum Schluss, dass die ehelichen Verhältnisse schon vor dem 20. Oktober 2017 zerrüttet waren und spätestens mit der an diesem Tag erfolgten Mandatierung des Scheidungsanwalts der Wille zur Aufrechterhaltung der Ehegemeinschaft erloschen sei. Sie begründete dies namentlich damit, dass es lebensfremd sei anzunehmen, dass ein Ehepartner eine Scheidung bei Gericht einreiche und den ganzen Scheidungsprozess bei fortwährendem Ehewillen durchlaufe.
4.5. Was der Beschwerdeführer dagegen vorbringt, verfängt nicht:
4.5.1. Die Würdigung der Vorinstanz, wonach der Ehewille der Ex-Ehefrau mit Einreichung der Scheidungsklage erlosch, wird nicht dadurch entkräftet, dass der Beschwerdeführer angeblich erst am 25. März 2019 von der Scheidung erfahren hat. Dessen Kenntnisnahme ist vorliegend nicht von Belang, da die Ehegemeinschaft schon vorgängig mit dem Erlöschen des Ehewillens der Ex-Ehefrau endete (<ref-ruling> E. 3.1.2).
4.5.2. Nicht stichhaltig ist ferner die Rüge, die Vorinstanz sei in Willkür verfallen, wenn sie nicht auf die Dauer der tatsächlich gelebten Wohngemeinschaft abgestellt habe. Massgeblich ist nicht der Zeitpunkt der physischen Auflösung der Ehegemeinschaft, sondern die Aufgabe des inneren Willens zu dessen Aufrechterhaltung seitens eines der Ehepartner.
4.5.3. Auch die Kritik des Beschwerdeführers, wonach die eheliche Gemeinschaft bis zum 11. November 2017 stringent belegt sei bzw. der Ehewille der Ex-Ehefrau erst im Zeitpunkt des Scheidungsurteils erloschen sei, ist nicht zu hören. Die Vorinstanz hat nicht in Frage gestellt, dass die Scheidungsklage erst am 8. November 2017 eingeleitet, bzw. am 10. November 2017 dem Gericht übergeben worden ist. Sie hat vielmehr zu Recht darauf hingewiesen, dass der Zeitpunkt der Einreichung und der Erstellung einer Scheidungsklage auseinanderfallen können und sich daraus nicht ergebe, wann die Scheidungsklage erstellt worden ist. Entgegen den Ausführungen des Beschwerdeführers erscheint auch die Würdigung der Vorinstanz nicht willkürlich, wenn sie als plausibel erachtet, dass ein Anwalt eine von ihm am 23. Oktober 2017 erstellte Scheidungsklage erst am 11. November 2017 dem Gericht übergibt. Dass eine gewisse Zeit zwischen Erstellung und Einreichung verstreicht, erscheint vielmehr folgerichtig, als dem Klienten damit eine gewisse Überlegungsfrist eingeräumt wird.
4.5.4. Ferner kann auch kein Verstoss gegen das Willkürverbot darin gesehen werden, dass die Vorinstanz es als unwahrscheinlich erachtete, dass die Handlungsvollmacht und die Scheidungsklage versehentlich mit einem falschen Datum versehen worden sei. Die Vorinstanz hat diesbezüglich dargelegt, dass weder der Beschwerdeführer noch dessen ehemalige Ehefrau plausible Gründe aufgezeigt hätten, welche eine fehlerhafte Datierung nachvollziehbar machen würden. Zudem habe der Beschwerdeführer nicht glaubhaft aufzeigen können, wer ein Interesse daran gehabt hätte, diese Dokumente falsch zu datieren.
4.5.5. Schliesslich überzeugt auch das Argument nicht, wonach der Trennungswille der Ex-Ehefrau sich erst einige Tage vor dem 8. November 2017 ergeben habe. Die Vorinstanz hat diesbezüglich ausgeführt, dass es unwahrscheinlich sei, dass die Eheleute bis November 2017 eine intakte Ehe geführt hätten und die Ehefrau unmittelbar nach einem telefonischen Streit einen Rechtsanwalt mandatiert sowie die Scheidung in Auftrag gegeben hätte. Dies ist angesichts dessen, dass der Einleitung eines Scheidungsverfahrens in der Regel eine gewisse Vorlaufzeit vorausgeht, nicht zu beanstanden.
4.6. Soweit der Beschwerdeführer in genügender Weise begründet hat, inwiefern die Vorinstanz den Sachverhalt geradezu willkürlich oder sonst im Sinne von <ref-law> rechtsverletzend festgestellt bzw. eine willkürliche Beweiswürdigung vorgenommen haben sollte, dringen seine Rügen insofern nicht durch. Insofern die Aufrechterhaltung der Ehegemeinschaft im Sinne von <ref-law> voraussetzt, dass ein wechselseitiger Ehewille seitens der Ehepartner besteht, durfte die Vorinstanz ohne Willkür davon ausgehen, dass spätestens seit dem 20. Oktober 2017 kein gemeinsamer Ehewille mehr bestand.
4.7. Nach dem Gesagten ergibt sich, dass die Vorinstanz nicht gegen Bundesrecht verstossen hat, indem sie darauf abstellte, dass die Ehegemeinschaft des Beschwerdeführers vor Ablauf von drei Jahren beendet wurde. Sie hat insofern zu Recht festgehalten, dass der Beschwerdeführer keinen Anspruch auf Verlängerung seiner Aufenthaltsbewilligung gestützt auf <ref-law> hat. Eine Prüfung, ob der Beschwerdeführer eine erfolgreiche Integration aufweist, erübrigt sich insofern.
5.
Im Ergebnis erweist sich der Widerruf bzw. die Nichtverlängerung der Aufenthaltsbewilligung des Beschwerdeführers als rechtmässig und die Beschwerde in öffentlich-rechtlichen Angelegenheiten als unbegründet, weshalb sie abzuweisen ist. Diesem Verfahrensausgang entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>). Parteientschädigungen sind nicht geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird dem Beschwerdeführer, den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 20. September 2021
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: de Sépibus