Sachverhalt:
A.
A._ (geb. 1983) ist tunesischer Staatsbürger. Ende 2011 reiste er in die Schweiz ein und heiratete am 20. Januar 2012 eine 1980 geborene Schweizer Bürgerin. Daraufhin wurde ihm eine Aufenthaltsbewilligung erteilt, welche zuletzt bis 19. Januar 2016 verlängert wurde. Mit Verfügung vom 29. Juni 2015 hielt das Bezirksgericht Zürich fest, dass die Ehegatten seit März 2015 getrennt leben. Die Ehe blieb kinderlos.
B.
Mit Verfügung vom 15. Dezember 2015 widerrief das Migrationsamt des Kantons Zürich (hiernach: Migrationsamt) die Aufenthaltsbewilligung von A._ und setzte ihm eine Ausreisefrist. Der dagegen erhobene Rekurs bei der Sicherheitsdirektion blieb erfolglos (Entscheid vom 30. November 2016). Mit Urteil vom 21. April 2017 wies das Verwaltungsgericht des Kantons Zürich eine gegen den Rekursentscheid erhobene Beschwerde ebenfalls ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten, eventualiter subsidiärer Verfassungsbeschwerde, beantragt A._ die Aufhebung des angefochtenen Urteils. Seine Aufenthaltsbewilligung sei zu verlängern. Eventualiter sei der Entscheid des Verwaltungsgerichts aufzuheben und die Sache zur ergänzenden Sachverhaltsabklärung/ Beweisabnahme an das Migrationsamt bzw. die Sicherheitsdirektion zurückzuweisen.
Die Sicherheitsdirektion und das Verwaltungsgericht verzichten auf Vernehmlassung. Das Migrationsamt und das Staatssekretariat für Migration liessen sich nicht vernehmen.
Mit Präsidialverfügung vom 15. Juni 2017 wurde der Beschwerde antragsgemäss aufschiebende Wirkung zuerkannt.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Endentscheid in einer Angelegenheit des öffentlichen Rechts, der grundsätzlich der Beschwerde in öffentlich-rechtlichen Angelegenheiten unterliegt (vgl. <ref-law>, <ref-law>, <ref-law>). Indessen ist auf dem Gebiet des Ausländerrechts die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide betreffend ausländerrechtliche Bewilligungen nur zulässig, wenn das Bundesrecht oder das Völkerrecht einen Anspruch auf die Bewilligung einräumt (<ref-law> e contrario). Für das Eintreten genügt, wenn die betroffene Person in vertretbarer Weise dartut, dass potenziell ein solcher Anspruch besteht (<ref-ruling> E. 1.1 S. 179 f., 497 E. 3.3 S. 500 f.).
1.2. Der Beschwerdeführer beruft sich in vertretbarer Weise auf einen Bewilligungsanspruch gestützt auf Art. 50 Abs. 1 lit. a AuG (SR 142.20), so dass insoweit die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig ist. Ob der geltend gemachte Anspruch tatsächlich besteht, ist Sache der materiellen Beurteilung. Da der Beschwerdeführer als Adressat des angefochtenen Entscheids gemäss <ref-law> zur Erhebung der Beschwerde in öffentlich-rechtlichen Angelegenheiten legitimiert ist und die Beschwerde frist- und formgerecht eingereicht wurde (vgl. Art. 42 und 100 Abs. 1 BGG), ist darauf einzutreten. Insofern bleibt kein Raum für die eventualiter eingereichte subsidiäre Verfassungsbeschwerde (<ref-law>).
2.
2.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann eine Rechtsverletzung nach Art. 95 und Art. 96 BGG gerügt werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 3 S. 415). In Bezug auf die Verletzung von Grundrechten gilt eine qualifizierte Rüge- und Substanziierungspflicht (<ref-law>; <ref-ruling> E. 2.2 S. 232; <ref-ruling> E. 2.5 S. 314).
2.2. Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinn von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117). Die beschwerdeführende Partei kann die Feststellung des Sachverhalts unter den gleichen Voraussetzungen beanstanden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Eine entsprechende Rüge ist rechtsgenüglich substanziiert vorzubringen (Art. 42 Abs. 2 und <ref-law>; vgl. <ref-ruling> E. 2.3 S. 266 mit Hinweisen).
3.
Nicht durchzudringen vermag vorab die Rüge, die Vorinstanz habe den Anspruch auf rechtliches Gehör verletzt, indem sie die Ehefrau nicht als Zeugin zur Trennungsphase befragt habe. Zwar umfasst der in <ref-law> gewährleistete Anspruch auf rechtliches Gehör u.a. auch das Recht der Betroffenen, mit erheblichen Beweisanträgen gehört zu werden (<ref-ruling> E. 5.1 S. 293 mit Hinweisen). Jedoch ist dieser Anspruch nicht verletzt, wenn ein Gericht deshalb auf die Abnahme beantragter Beweismittel verzichtet, weil es aufgrund der bereits abgenommenen Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener (antizipierter) Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 3.3 S. 64 mit Hinweisen). Diese Voraussetzungen waren vorliegend ohne Weiteres erfüllt: Dem Verwaltungsgericht lagen Stellungnahmen der Ehefrau vor (vgl. hiernach E. 4.3.4), die umfassend genug und geeignet waren, sich über die Situation des Ehepaares während der Trennung bzw. den Ehewillen ein Bild zu verschaffen. Es ist weder ersichtlich noch dargetan, welche zusätzlichen entscheidwesentlichen Informationen, die sich nicht bereits aus den Akten ergeben bzw. die nicht hätten schriftlich eingebracht werden können, aus einer Einvernahme der Ehefrau hätten gewonnen werden können. Damit erübrigt sich die vom Beschwerdeführer eventualiter geforderte Rückweisung der Rechtssache an die Vorinstanz zur ergänzenden Sachverhaltsabklärung/Beweisabnahme. Entgegen der Auffassung des Beschwerdeführers hat die Vorinstanz die Verweigerung der Beweisabnahme auch begründet, führt sie doch aus, dass sich der entscheidrelevante Sachverhalt als hinreichend erstellt erweist (E. 2 des angefochtenen Entscheids mit Verweis auf E. 4). Es liegt somit weder eine willkürliche antizipierte Beweiswürdigung noch eine Verletzung der Begründungspflicht vor.
4.
4.1. Die Aufenthaltsbewilligung war dem Beschwerdeführer gestützt auf Art. 42 Abs. 1 AuG erteilt worden, wonach ausländische Ehegatten von Schweizer Bürgerinnen Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung haben, wenn sie mit diesen zusammenwohnen. Nach Auflösung der Ehe besteht dieser Anspruch weiter, wenn die Ehegemeinschaft mindestens drei Jahre gedauert hat und eine erfolgreiche Integration besteht (Art. 50 Abs. 1 lit. a AuG) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (Art. 50 Abs. 1 lit. b AuG).
Der Beschwerdeführer macht geltend, er habe gemäss Art. 50 Abs. 1 lit. a AuG Anspruch auf Verlängerung der Aufenthaltsbewilligung. Die Ehegemeinschaft habe von der Heirat am 20. Januar 2012 bis zur definitiven Trennung Ende März 2015 gedauert. Zwar hätten die Ehegatten vom 1. Mai 2014 bis 11. Oktober 2014 die Haushaltsgemeinschaft aufgegeben, jedoch habe die Ehegemeinschaft trotz räumlicher Trennung weiterbestanden, da beidseits ein Ehewille vorhanden gewesen sei. Das Erfordernis der Dreijahresfrist sei damit erfüllt.
4.2. Für die Anrechnung der dreijährigen Frist gemäss Art. 50 Abs. 1 lit. a AuG ist auf die in der Schweiz gelebte Ehegemeinschaft abzustellen (<ref-ruling> E. 4.1 S. 348; <ref-ruling> E. 3.5.1 S. 294; <ref-ruling> E. 3.3 S. 117 ff.). Massgeblicher Zeitpunkt für die retrospektive Berechnung der Dauer der ehelichen Gemeinschaft ist in der Regel die Aufgabe der Haushaltsgemeinschaft (BGE <ref-ruling> E. 3.2 S. 117). Eine (relevante) Ehegemeinschaft liegt vor, solange die eheliche Beziehung tatsächlich gelebt wird und ein gegenseitiger Ehewille besteht (<ref-ruling> E. 2 S. 231). Mehrere Phasen des Zusammenlebens, unterbrochen durch Trennungsphasen, können bei der Berechnung der Dreijahresfrist addiert werden, sofern die ernsthafte Weiterführung der Ehegemeinschaft noch beabsichtigt wird (vgl. <ref-ruling> E. 4.5.2 S. 351 mit Hinweisen). Die Frist nach Art. 50 Abs. 1 lit. a AuG gilt absolut; bereits das Fehlen weniger Wochen oder Tage schliesst den Anspruch auf Verlängerung der Aufenthaltsbewilligung aus (Urteil 2C_281/2017 vom 26. März 2018 E.2.2 mit Hinweisen).
Vorliegend ist unbestritten, dass die erste Phase des Zusammenlebens der Ehegatten vom 20. Januar 2012 bis zum 30. April 2014, d.h. etwas über 27 Monate dauerte. Die zweite Phase des Zusammenlebens dauerte vom 11. Oktober 2014 bis im März 2015, also rund fünfeinhalb Monate. Die Vorinstanz ging davon aus, dass die Haushaltsgemeinschaft damit bestenfalls 33 Monate gedauert habe. Während der Trennungsphase habe die eheliche Gemeinschaft nicht fortbestanden, weshalb diese nicht bei der Berechnung der Ehedauer im Sinne von Art. 50 Abs. 1 lit. a AuG mitberücksichtigt werden könne, zumindest nicht bis zum Eheberatungsgespräch vom 3. September 2014. Aber selbst wenn zu Gunsten des Beschwerdeführers davon ausgegangen würde, dass sich die Ehegatten anlässlich des Eheberatungstermins am 3. September 2014 für eine Wiederaufnahme ihrer Beziehung entschieden hätten, beliefe sich die Dauer der ehelichen Gemeinschaft auf weniger als drei Jahre.
4.3.
4.3.1. Die Frage, ob die Trennungsphase von Anfang Mai bis Oktober 2014 (bzw. bis zum Eheberatungstermin am 3. September 2014) bei der Berechnung der relevanten Ehedauer mitberücksichtigt werden kann, beurteilt sich nach Art. 49 AuG. Gemäss dieser Bestimmung ist vom Erfordernis des Zusammenwohnens abzusehen, wenn für getrennte Wohnorte wichtige Gründe geltend gemacht werden und die Familiengemeinschaft weiter besteht. Bei einem Getrenntleben der Ehegatten ist jedoch nicht leichthin von einer fortbestehenden Ehegemeinschaft auszugehen. Nach Art. 76 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit (VZAE; SR 142.201) können namentlich berufliche Verpflichtungen oder erhebliche familiäre Probleme ein Absehen vom Erfordernis des Zusammenwohnens rechtfertigen. Die Gründe müssen objektivierbar sein und ein gewisses Gewicht aufweisen. Entsprechende Nachweise für das Fortbestehen der Ehe sind durch die Ehegatten beizubringen, da es dabei um Umstände aus ihrem Lebensbereich geht, die sie besser kennen als die Behörden. Insofern trifft die Ehegatten bei der Abklärung des Sachverhalts im Rahmen von Art. 49 AuG eine besondere Mitwirkungspflicht (vgl. Art. 90 AuG; <ref-ruling> E. 3.2 S. 485 f.; Urteil 2C_211/2016 vom 23. Februar 2017 E. 3.3.2 mit Hinweisen). Ein wichtiger Grund liegt desto eher vor, je weniger die Ehegatten auf die Situation des Getrenntlebens Einfluss nehmen können, ohne einen grossen Nachteil in Kauf nehmen zu müssen (Urteil 2C_432/2016 vom 26. Januar 2018 E. 5.3.1 mit Hinweisen). Ein freiwilliger Entscheid für ein "living apart together" für sich allein genommen stellt dagegen praxisgemäss keinen wichtigen Grund im Sinne von Art. 49 AuG dar (Urteil 2C_211/2016 vom 23. Februar 2017 E. 3.3.2 mit Hinweisen).
4.3.2. Der Beschwerdeführer macht geltend, dass die Ehegatten in verschiedenen Wohnungen gelebt hätten, um sich gegenseitig einen Freiraum zu geben und einen Rückzugsort zu haben. Während dieser Zeit hätten sie an der Ehe gearbeitet. Im Juli 2014 hätten sie an einer Eheberatung durch die Freikirche ICF teilgenommen und im August und September hätten sie zwei Termine bei der Zentralstelle für Ehe- und Familienberatung in Zürich wahrgenommen. Zudem hätten sie mehrere Termine bei den Sozialen Diensten gehabt.
4.3.3. Die Vorinstanz ging indessen davon aus, dass während dem Getrenntleben keine ausreichenden Bemühungen der Ehegatten ersichtlich gewesen seien, die ehelichen Schwierigkeiten zu überwinden. Aus der Zusammenarbeit der Ehegatten mit der Sozialbehörde liesse sich hinsichtlich des Fortbestands der ehelichen Gemeinschaft nichts ableiten, ergebe sich doch lediglich aus den Akten, dass das Sozialzentrum die Ehegatten im Rahmen der wirtschaftlichen Sozialhilfe unterstützt habe. Der Beschwerdeführer räume selbst ein, dass es den Ehegatten im August 2014 nicht klar gewesen sei, ob mit einer Wiederaufnahme der ehelichen Gemeinschaft gerechnet werden könne; die Ehegatten hätten dies nach einem für den 3. September 2014 vereinbarten Mediationstermin entscheiden wollen.
4.3.4. Was der Beschwerdeführer dagegen vorbringt, vermag die Einschätzung der Vorinstanz nicht zu entkräften. Insbesondere steht seine Behauptung, der Ehewille sei auch während der räumlichen Trennung nicht erloschen, im Widerspruch zu den Akten, die ergänzend zu den vorinstanzlichen Feststellungen herangezogen werden können (<ref-law>). Mit Schreiben vom 21. Mai 2014 teilte die Ehefrau dem Migrationsamt mit, dass sie seit der Rückkehr ihres Ehemannes aus Tunesien Mitte Januar 2014 sein Verhalten kaum noch verstanden habe; sie hätten sich auseinandergelebt und es sei keine Kommunikation mehr möglich. Ein späteres Schreiben vom 22. August 2014 des Sozialzentrums Albisriederhaus, welches dieses im Namen der Ehegatten an das Migrationsamt richtete, bestätigt diese Angaben. Darin äusserte sich die Ehegattin dahingehend, dass keine eheliche Beziehung mehr bestehe und ihr Ehewille seit Januar 2014 erloschen sei. Die persönlichen Kontakte seien unregelmässig, indessen bestehe mehrmals pro Woche Kontakt per Telefon oder SMS. Wie es weitergehe, würde sie nach dem Eheberatungsgespräch am 3. September 2014 entscheiden. Das betreffende Schreiben wurde von beiden Ehegatten unterschrieben.
4.3.5. Dies legt den Schluss nahe, dass während der Trennungsphase keine klare Entschlossenheit von Seiten der Ehegatten ersichtlich war, die Ehekrise meistern zu wollen. Im Gegenteil deuten die Aussagen der Ehefrau vielmehr daraufhin, dass sie der Ehe zum damaligen Zeitpunkt nur noch geringe Chancen gab. Jedenfalls kann ihren Äusserungen nicht entnommen werden, die Trennung habe der Lösung erheblicher familiärer Probleme gedient. Wenn die Vorinstanz unter diesen Umständen die Trennungsphase vom 1. Mai bis (frühestens) zum 3. September 2014 nicht bei der Berechnung der relevanten Dauer der Ehegemeinschaft mitberücksichtigt hat, ist dies mit Blick auf Art. 49 AuG nicht zu beanstanden. Folglich kann in Übereinstimmung mit der Vorinstanz davon ausgegangen werden, dass die Ehegemeinschaft im günstigsten Fall vom 20. Januar 2012 bis zum 30. April 2014 und vom 3. September 2014 bis März 2015 dauerte, was insgesamt (maximal) 34 1/2 Monate ergibt.
Damit ist die Voraussetzung der Dreijahresfrist von Art. 50 Abs. 1 lit. a AuG klarerweise nicht erfüllt, weshalb der Beschwerdeführer aus dieser Bestimmung keinen Anspruch auf eine Aufenthaltsbewilligung ableiten kann.
4.4. Einen nachehelichen Härtefall gemäss Art. 50 Abs. 1 lit. b AuG macht der Beschwerdeführer nicht geltend, weshalb sich entsprechende Ausführungen erübrigen.
5.
Nach dem Gesagten erweist sich die Beschwerde als unbegründet und ist abzuweisen. Der unterliegende Beschwerdeführer trägt die Gerichtskosten (<ref-law>). Es ist keine Parteientschädigung zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 4. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 8. Juni 2018
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: Petry