Sachverhalt:
A.
Der 1970 geborene pakistanische Staatsangehörige A._ reiste am 1. Januar 2006 illegal in die Schweiz ein und heiratete am 18. September 2006 die Schweizer Bürgerin B._ (geboren 1950). Nachdem das Ehepaar am 4. bzw. 5. Januar 2007 polizeilich zu den ehelichen Verhältnissen befragt worden war, erteilte das Migrationsamt des Kantons Zürich A._ am 10. April 2007 eine Aufenthaltsbewilligung, welche letztmals bis 17. September 2011 verlängert wurde. Am 23. Juni 2011 ersuchte A._ um Verlängerung seiner Aufenthaltsbewilligung bzw. um Erteilung einer Niederlassungsbewilligung. In der Folge liess das Migrationsamt die Ehe- und Wohnverhältnisse der Eheleute abklären und gewährte A._ mit Schreiben vom 13. Januar 2012 das rechtliche Gehör zur beabsichtigten Nichtverlängerung der Aufenthaltsbewilligung wegen Vorliegens einer Scheinehe. Er nahm am 17. Februar 2012 dazu Stellung.
Das Bezirksgericht Zürich bewilligte dem Ehepaar mit Urteil vom 4. Mai 2012 das Getrenntleben, und am 26. Februar 2014 wurde die Ehe geschieden. Am 3. Juni 2015 erfolgte eine Befragung von B._ durch das Migrationsamt. Dieses gewährte A._ am 21. März 2013, 20. Februar 2014 und 21. August 2015 erneut das rechtliche Gehör zur beabsichtigten Nichtverlängerung der Aufenthaltsbewilligung.
B.
Mit Verfügung vom 13. Januar 2016 wies das Migrationsamt das Gesuch um Verlängerung der Aufenthaltsbewilligung ab und setzte A._ Frist zum Verlassen der Schweiz. Die hiergegen erhobenen kantonalen Rechtsmittel blieben ohne Erfolg (Entscheid der Rekursabteilung der Sicherheitsdirektion des Kantons Zürich vom 6. April 2016 und Urteil des Verwaltungsgerichts des Kantons Zürich vom 24. August 2016).
C.
Mit Eingabe vom 3. Oktober 2016 erhebt A._ Beschwerde in öffentlich-rechtlichen Angelegenheiten und beantragt, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 24. August 2016 sei aufzuheben, das Migrationsamt des Kantons Zürich sei anzuweisen, seine Aufenthaltsbewilligung zu verlängern, eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. In prozessualer Hinsicht beantragt er, der Beschwerde sei die aufschiebende Wirkung zu erteilen, und es sei ihm die unentgeltliche Prozessführung und Rechtsverbeiständung zu gewähren.
Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat das Gesuch um Zuerkennung der aufschiebenden Wirkung am 4. Oktober 2016 gutgeheissen. Das Verwaltungsgericht des Kantons Zürich beantragt die Abweisung der Beschwerde und verzichtet im Übrigen, ebenso wie die Rekursabteilung der Sicherheitsdirektion des Kantons Zürich, auf Vernehmlassung. Das Migrationsamt des Kantons Zürich und das Staatssekretariat für Migration liessen sich nicht vernehmen.

Erwägungen:
1.
1.1. Der Beschwerdeführer beruft sich in vertretbarer Weise auf einen Bewilligungsanspruch nach Art. 50 AuG (SR 142.20), sodass die Beschwerde in öffentlich-rechtlichen Angelegenheiten zulässig ist (Art. 82 lit. a, Art. 83 lit. c Ziff. 2 [e contrario], Art. 86 Abs. 1 lit. d und Abs. 2, Art. 90 BGG). Ob der geltend gemachte Anspruch tatsächlich besteht, ist keine Eintretensfrage, sondern eine Frage der materiellen Beurteilung (<ref-ruling> E. 2.5 S. 315). Der Beschwerdeführer ist zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG). Auf das Rechtsmittel ist daher grundsätzlich einzutreten. Soweit Ziff. 1 der Beschwerdeanträge ("vollumfänglich") dahingehend zu verstehen sein sollte, dass der Beschwerdeführer inhaltlich die Wegweisung mitanficht, wäre hingegen einzig die subsidiäre Verfassungsbeschwerde zulässig (Art. 83 lit. c Ziff. 4 i.V.m. Art. 113 BGG). Mangels ausreichend erhobener Verfassungsrügen (Art. 117 i.V.m. Art. 106 Abs. 2 BGG) kann auf die subsidiäre Verfassungsbeschwerde indes nicht eingetreten werden.
1.2. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG), prüft aber unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG) nur die geltend gemachten Vorbringen, sofern rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.6 S. 280 f.). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1, Art. 105 Abs. 2 BGG). Dabei gelten strenge Anforderungen an die Begründung der Beschwerde, wie bei den in Art. 106 Abs. 2 BGG genannten Rügen (<ref-ruling> E. 9.2.3.6 S. 96 mit Hinweis).
2.
2.1. Ausländische Ehegatten von Schweizern haben Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit diesen zusammenwohnen (Art. 42 Abs. 1 AuG). Der Bewilligungsanspruch besteht trotz Auflösens bzw. definitiven Scheiterns der Ehegemeinschaft fort, wenn diese mindestens drei Jahre gedauert und die betroffene ausländische Person sich hier erfolgreich integriert hat (Art. 50 Abs. 1 lit. a AuG) oder wenn wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (Art. 50 Abs. 1 lit. b AuG). Vorbehalten bleiben Fälle, in denen der Anspruch rechtsmissbräuchlich geltend gemacht wird (Art. 51 Abs. 2 lit. a AuG; "Umgehungs-" bzw. "Scheinehe").
2.2. Dass die Ehe nur (noch) formell und ohne Aussicht auf Aufnahme bzw. Wiederaufnahme einer ehelichen Gemeinschaft besteht, entzieht sich in der Regel einem direkten Beweis und ist oft nur durch Indizien zu erstellen (<ref-ruling> E. 10.2 S. 135; Urteil 2C_113/2016 vom 29. Februar 2016 E. 2.3). Solche Indizien können äussere Begebenheiten sein wie die Umstände des Kennenlernens, eine kurze Dauer der Bekanntschaft, eine drohende Wegweisung, das Fehlen einer Wohngemeinschaft, ein erheblicher Altersunterschied, Schwierigkeiten in der Kommunikation, fehlende Kenntnisse über den anderen oder die Bezahlung einer Entschädigung für die Heirat. Sie können aber auch psychische Vorgänge betreffen (tatsächlicher Wille). In beiden Fällen handelt es sich um tatsächliche Feststellungen, die das Bundesgericht nur auf offensichtliche Unrichtigkeit und auf Rechtsverletzungen hin überprüft (<ref-ruling> E. 2.3 S. 152; Urteil 2C_752/2016 vom 16. September 2016 E. 3.2). Frei zu prüfen ist dagegen die Rechtsfrage, ob die festgestellten Tatsachen (Indizien) darauf schliessen lassen, die Berufung auf die Ehe sei rechtsmissbräuchlich oder bezwecke die Umgehung fremdenpolizeilicher Vorschriften (<ref-ruling> E. 2.3 S. 152). Dass die Begründung einer wirklichen Lebensgemeinschaft gewollt war, ergibt sich nach der Rechtsprechung nicht notwendigerweise schon daraus, dass die Ehegatten während einer gewissen Zeit zusammengelebt und (angeblich) intime Beziehungen unterhalten haben; ein derartiges Verhalten kann auch nur vorgespiegelt sein, um die Behörden zu täuschen (<ref-ruling> E. 2b S. 295 mit Hinweisen; Urteile 2C_804/2013 vom 3. April 2014 E. 2.2; 5A_30/2014 vom 15. April 2014 E. 3.3).
Eine Scheinehe liegt umgekehrt nicht bereits dann vor, wenn auch ausländerrechtliche Motive den Eheschluss beeinflusst haben. Erforderlich ist, dass der Wille zur Führung der Lebensgemeinschaft im Sinne einer auf Dauer angelegten wirtschaftlichen, körperlichen und spirituellen Verbindung zumindest bei einem der Ehepartner fehlt (vgl. <ref-ruling> E. 3b S. 102; Urteil 2C_804/2013 vom 3. April 2014 E. 2.3). Grundsätzlich muss die Migrationsbehörde die Umgehungsehe nachweisen. Dass eine solche vorliegt, darf dabei nicht leichthin angenommen werden (vgl. Urteil 2C_804/2013 vom 3. April 2014 E. 2.3). Die Behörden müssen den Sachverhalt von Amtes wegen möglichst zuverlässig abklären; indessen wird der Untersuchungsgrundsatz durch die Mitwirkungspflicht der Parteien relativiert (vgl. Art. 90 AuG). Diese kommt naturgemäss bei Tatsachen zum Tragen, die eine Partei besser kennt als die Behörden und die ohne ihre Mitwirkung gar nicht oder nicht mit vernünftigem Aufwand erhoben werden können (vgl. <ref-ruling> E. 8.6.4 S. 496 f.). Das gilt insbesondere, wenn bereits gewichtige Hinweise für eine Ausländerrechtsehe sprechen; dann wird von den Eheleuten erwartet, dass sie von sich aus Umstände vorbringen und belegen, um den echten Ehewillen glaubhaft zu machen (Urteil 2C_804/2013 vom 3. April 2014 E. 2.3).
3.
3.1. Die kantonalen Behörden sind zum Schluss gelangt, dass im Fall des Beschwerdeführers gewichtige Indizien darauf schliessen lassen, dass es sich bei seiner unterdessen aufgelösten Ehe mit einer Schweizer Bürgerin um eine Scheinehe handelte. Das Verwaltungsgericht führte aus, insbesondere der Altersunterschied von 20 Jahren, der Umstand, dass ein längerer Lebens- und Arbeitsaufenthalt in der Schweiz für den Beschwerdeführer ohne Heirat praktisch unmöglich gewesen wäre, die Tatsache, dass die Ehegatten nicht dieselbe Sprache sprechen würden sowie die ungewöhnliche Wohnsituation deuteten auf eine Umgehungsehe hin. Die Ehegatten hätten ausserdem sehr wenige Kenntnisse voneinander. Es liege daher am Beschwerdeführer, den Gegenbeweis anzutreten und diese Indizien zu entkräften. Dies gelinge ihm jedoch nicht.
3.2. Der Beschwerdeführer stellt im Wesentlichen dem vorinstanzlich festgestellten Sachverhalt seine eigene, abweichende Auffassung zur Fakten- und Beweislage gegenüber und rügt die vorinstanzliche Einschätzung als unhaltbar, ohne indessen aufzuzeigen, inwiefern die tatsächlichen Feststellungen offensichtlich unrichtig sein sollen. Soweit sich seine Ausführungen in appellatorischer Kritik erschöpfen, ist darauf nicht einzugehen (vgl. E. 1.2 und 2.2 hiervor).
3.3. Es trifft zwar zu, dass die erschwerte Kommunikation zwischen Ehepartnern nicht notwendigerweise Zeichen einer Scheinehe sein muss. Ebenso kann das Vergessen des Hochzeitsdatums oder von Einzelheiten der Hochzeitsfeier nicht per se zur Annahme führen, die Ehe sei nur zum Schein eingegangen worden. Mit seiner Argumentation, wonach die Indizien einzeln nicht zwangsläufig Ausdruck einer Scheinehe sein müssen, übersieht der Beschwerdeführer indessen, dass es gerade in der Natur von Indizien liegt, auf einen möglichen Sachverhalt nur, aber immerhin hinzuweisen. Die Vorinstanz schloss keineswegs vom Vorliegen eines einzelnen Hinweises ohne weitere Abwägungen auf eine Umgehungsehe, sondern gelangte aufgrund einer Mehrzahl von Indizien in der Gesamtwürdigung zum Schluss, der Beschwerdeführer habe die Ehe nur aus ausländerrechtlichen Motiven geschlossen oder aufrechterhalten.
Die Erwägungen der Vorinstanz zu den Wissenslücken des Beschwerdeführers hinsichtlich der familiären Verhältnisse seiner Ehefrau sind nicht zu beanstanden. Entgegen der in der Beschwerde vertretenen Auffassung scheint es trotz sprachlicher Barrieren schwer vorstellbar, dass sich ein verheiratetes Paar nicht (gerade auch zu Beginn der Ehe) über die Familie, die Herkunft und die Arbeit austauscht. Der vorgebrachte Analphabetismus des Beschwerdeführers dürfte in diesem Zusammenhang nicht relevant sein. Dass der Beschwerdeführer über die Familie seiner Frau nichts zu berichten wusste, wertete die Vorinstanz somit berechtigterweise als Indiz für eine Scheinehe. Der Beschwerdeführer weist zwar zu Recht darauf hin, dass der Umstand, dass seine Ehefrau anfänglich für den Lebensunterhalt aufkam, typischerweise nicht für eine Scheinehe spreche, zumal diesfalls eher seine Ehefrau Geld von ihm hätte bekommen sollen. Das Desinteresse an der Führung eines gemeinsamen Lebens, das er unter anderem durch den fehlenden Beitrag zum gemeinsamen Lebensunterhalt sowie durch seine Aussage, das Einzige, was er mit seiner Frau mache, sei schlafen, an den Tag legte, durfte die Vorinstanz indessen als Indiz dafür betrachten, dass er die Ehe einzig aus ausländerrechtlichen Überlegungen und ohne Willen zur Führung einer Lebensgemeinschaft eingegangen war.
3.4. Schliesslich erweisen sich auch die Zweifel der Vorinstanz am gemeinsamen ehelichen Wohnsitz in der Wohnung eines Bruders des Beschwerdeführers als berechtigt. Die Tatsache, dass die Ehefrau bei keiner der fünf polizeilichen Kontrollen angetroffen werden konnte, spricht gegen ein Zusammenleben an jener Adresse. Auch dass nur wenige Kleider und Toilettenartikel auf die Anwesenheit einer Frau hindeuteten und die Ehefrau selbst aussagte, sie bewahre ihre Kleider mehrheitlich bei der Tochter auf und wasche auch dort, indiziert, dass sich ihr Lebensmittelpunkt nicht in der Wohnung des Schwagers befand. Sodann handelt es sich bei sämtlichen eingereichten Referenzschreiben um formelhafte, unpersönliche und äusserst knapp abgefasste Bestätigungen, welchen die Vorinstanz im Rahmen der Sachverhaltsfeststellung einen massgeblichen Beweiswert absprechen durfte. Der Verdacht, dass die Ehefrau seit längerer Zeit nicht mehr mit dem Beschwerdeführer zusammenlebte, basiert somit auf konkreten Indizien.
3.5. Die vorinstanzliche Beweiswürdigung ist nicht zu beanstanden; sie erscheint willkürfrei und nachvollziehbar. Aufgrund der festgestellten Indizien erweist sich der Schluss, die Berufung auf die Ehe sei rechtsmissbräuchlich erfolgt, als zutreffend. Die Vorinstanz hat demnach kein Bundesrecht verletzt, indem sie das Vorliegen einer Scheinehe bejahte.
4.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist nach dem Gesagten als unbegründet abzuweisen.
Angesichts der Sach- und Rechtslage bestanden vorliegend keine realistischen Erfolgsaussichten. Die Beschwerde erweist sich damit als aussichtslos. Das Gesuch um unentgeltliche Rechtspflege ist abzuweisen (Art. 64 BGG; <ref-ruling> E. 9.1 S. 537 mit Hinweisen), und die Gerichtskosten sind dem unterliegenden Beschwerdeführer aufzuerlegen (Art. 65 und Art. 66 Abs. 1 BGG). Bei der Festsetzung der Höhe der Kosten wird dem Umstand Rechnung getragen, dass über das Gesuch um unentgeltliche Rechtspflege und Verbeiständung nicht vorweg entschieden wurde, was es ihm ermöglicht hätte, seine Eingabe allenfalls noch zurückzuziehen. Parteientschädigungen sind nicht geschuldet (Art. 68 Abs. 3 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'000.- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Verfahrensbeteiligten, dem Verwaltungsgericht des Kantons Zürich, 2. Abteilung, und dem Staatssekretariat für Migration schriftlich mitgeteilt.
Lausanne, 9. März 2017
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Seiler
Die Gerichtsschreiberin: Straub