Sachverhalt:
A.
A.A._ (geb. 1963; Beschwerdeführer) und B.A._ (geb. 1968; Beschwerdegegnerin) heirateten 1990. Sie sind die Eltern zweier mittlerweile volljähriger Söhne (geb. 1992 und 1994). Im Mai 2013 trennten sich die Ehegatten. Auf Klage des Ehemanns schied das Bezirksgericht Zürich die Ehe mit Urteil vom 1. September 2016. Soweit hier interessierend verpflichtete das Bezirksgericht den Ehemann dabei zur Zahlung von nachehelichem Unterhalt an die Ehefrau von monatlich Fr. 4'100.-- ab Rechtskraft des Scheidungsurteils bis und mit März 2017 und von Fr. 2'900.-- ab 1. April 2017 bis 15. August 2028.
B.
Mit Berufung vom 20. Oktober 2016 beantragte A.A._ beim Obergericht des Kantons Zürich unter anderem, das Urteil des Bezirksgerichts sei im Unterhaltspunkt aufzuheben und es sei davon Vormerk zu nehmen, dass er keinen nachehelichen Unterhalt schulde. Mit Urteil vom 30. Januar 2017 (beiden Parteien eröffnet am 6. Februar 2017) hiess das Obergericht die Berufung teilweise gut. Es verpflichtete A.A._ zur Zahlung von nachehelichem Unterhalt von Fr. 2'100.-- pro Monat ab Rechtskraft der Scheidung bis und mit Juni 2017 und von monatlich Fr. 2'600.-- ab 1. Juli 2017 bis 15. August 2028 (Dispositivziffer 1). Im Übrigen verlegte es die Kosten der kantonalen Verfahren (Dispositivziffern 4-7).
C.
Mit Beschwerde in Zivilsachen vom 8. März 2017 gelangt A.A._ mit den folgenden Anträgen in der Sache ans Bundesgericht:
"1. Es seien Dispositiv Ziff. 1, 4, 5, 6 und 7 des vorinstanzlichen Urteils aufzuheben.
2. Es sei davon Vormerk zu nehmen, dass der Beschwerdegegnerin kein nachehelicher Unterhalt zuzusprechen ist.
3. Eventualiter sei in Gutheissung der Beschwerde der Entscheid aufzuheben und die Sache an die Vorinstanz zur neuen Entscheidung zurückzuweisen."
Das Bundesgericht hat die Akten des vorinstanzlichen Verfahrens, indessen keine Vernehmlassungen eingeholt.

Erwägungen:
1.
Angefochten ist ein Endentscheid eines oberen kantonalen Gerichts, das auf Rechtsmittel hin über die Nebenfolgen einer Scheidung (nachehelicher Unterhalt) und damit eine Zivilsache entschieden hat (Art. 72 Abs. 1, Art. 75 und 90 BGG). Der erforderliche Streitwert von Fr. 30'000.-- ist erreicht (Art. 74 Abs. 1 Bst. b BGG). Der Beschwerdeführer ist gemäss <ref-law> zur Beschwerde berechtigt und die Beschwerdefrist ist eingehalten (<ref-law>). Auf die Beschwerde ist grundsätzlich einzutreten.
2.
Vor Bundesgericht strittig ist der Anspruch der Beschwerdegegnerin auf nachehelichen Unterhalt. Gemäss <ref-law> besteht ein derartiger Anspruch, soweit einem Ehegatten nicht zuzumuten ist, dass er für den ihm gebührenden Unterhalt unter Einschluss einer angemessenen Altersvorsorge selbst aufkommt. Bei einer lebensprägenden Ehe - eine solche ist vorliegend aufgrund der langen Ehedauer und der gemeinsamen Kinder unstrittig gegeben - bemisst sich der Unterhalt grundsätzlich anhand des in der Ehe zuletzt gemeinsam gelebten Standards (<ref-ruling> E. 3.1; <ref-ruling> E. 4.2.1.1). Auf die Fortsetzung dieses Standards hat die unterhaltsberechtigte Person bei genügenden Mitteln Anspruch. An diesen ihr gebührenden Unterhalt muss sie sich jedoch anrechnen lassen, was sie mit eigenen Einkünften selbst zu decken in der Lage ist (sog. Eigenversorgungskapazität). Verbleibt eine Differenz, wird der Unterhaltsbeitrag nach Massgabe der Leistungsfähigkeit der unterhaltsverpflichteten Person festgesetzt (<ref-ruling> E. 3.3).
Bei der Festsetzung des nachehelichen Unterhalts kommt dem kantonalen Sachgericht ein grosses Ermessen zu (<ref-ruling> E. 4.4; <ref-ruling> E. 4). Das Bundesgericht greift in Ermessensentscheide nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die zwingend hätten beachtet werden müssen. Ausserdem greift das Bundesgericht in Ermessensentscheide ein, falls sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (<ref-ruling> E. 3.2.5; <ref-ruling> E. 4.4.5).
3.
Strittig ist vorab die Berechnung des der Beschwerdegegnerin gebührenden Unterhalts.
3.1. Hinsichtlich des Bedarfs der Beschwerdegegnerin führt der Beschwerdeführer aus, die Erstinstanz habe den "bereinigten Bedarf" mit Fr. 3'600.-- eingesetzt. Zu diesem Betrag habe sie den Vorsorgeunterhalt hinzugezählt, was einen Bedarf von insgesamt Fr. 4'200.-- ergebe. Soweit das Obergericht hingegen davon ausgehe, das Scheidungsgericht habe einen Bedarf von Fr. 4'600.-- errechnet, sei der angefochtene Entscheid aktenwidrig.
Der Beschwerdeführer verkennt, dass die Erstinstanz zum Bedarf der Beschwerdegegnerin von Fr. 4'200.-- einen "hälftigen Freibetrag" von Fr. 400.-- hinzurechnete, den sie durch Teilung des von den Parteien nach der Scheidung erwirtschafteten Überschusses ermittelte. Auf diese Weise gelangte sie zu einem "Bedarf der [Beschwerdegegnerin]" von Fr. 4'600.-- (vgl. Urteil vom 1. September 2016 [Akten Obergericht, act. 47], E. 2.3.2 S. 22). Die Feststellung des Obergerichts, das Bezirksgericht habe einen entsprechenden Bedarf errechnet, ist daher nicht aktenwidrig und die Beschwerde insoweit unbegründet.
3.2. Der Beschwerdeführer scheint sodann den der Beschwerdegegnerin zugebilligten Grundbetrag sowie die Höhe der in der Bedarfsberechnung berücksichtigten Steuern zu bestreiten. Insofern begnügt er sich aber damit, die entsprechenden Berechnungsposten mit dem Vermerk "bestritten" zu versehen. Damit erfüllt er die an die Beschwerde zu stellenden Begründungsanforderungen nicht (vgl. <ref-law> und hierzu <ref-ruling> E. 2 sowie <ref-law> und hierzu <ref-ruling> E. 2.3). Hierauf ist nicht weiter einzugehen.
3.3. Weiter macht der Beschwerdeführer geltend, es könne der Beschwerdegegnerin kein Vorsorgeunterhalt angerechnet werden, weil sie in der Lage sei, ihren entsprechenden Bedarf selbst zu decken. Der gebührende Unterhalt im Sinne von <ref-law> schliesst eine angemessene Altersvorsorge ein. Dies betrifft den Ausgleich allfälliger künftiger nachehelicher Einbussen, wenn ein Ehegatte nach der Scheidung einer lebensprägenden Ehe keiner oder (vorübergehend) nur einer beschränkten Erwerbstätigkeit nachgehen und deshalb auch keine oder nicht die vollen Beiträge in die eigene Altersvorsorge einzahlen kann (<ref-ruling> E. 4.1). Nachehelicher Unterhalt ist freilich nur so weit geschuldet, wie die unterhaltsberechtigte Person nicht in der Lage ist, aus eigenen Kräften für ihren Unterhalt zu sorgen (<ref-ruling> E. 3.3). Auch Vorsorgeunterhalt ist damit nur und nur so lange zu leisten, wie die unterhaltsberechtigte Person nicht selbst für den Aufbau einer angemessenen Altersvorsorge besorgt sein kann bzw. bei zumutbarer Anstrengung besorgt sein könnte (Urteile 5A_145/2016 vom 20. September 2016 E. 4; 5A_957/2014 vom 5. Mai 2015 E. 3.4.2).
Wie nachfolgend aufzuzeigen sein wird (hinten E. 4) ist der Beschwerdegegnerin ein hypothetisches Einkommen von Fr. 2'000.-- im Monat anzurechnen, was in etwa der Hälfte des Medianlohns einer ungelernten Arbeitskraft entspricht. Von ihr kann nicht verlangt werden, einer vollen Erwerbstätigkeit nachzugehen, weshalb es ihr auch nicht möglich sein wird, die vollen Beiträge in die Altersvorsorge einzuzahlen. Soweit der Beschwerdeführer davon ausgeht, die Beschwerdegegnerin könne ihren Vorsorgebedarf selbst decken, ist dies darauf zurückzuführen, dass sie seiner Ansicht nach einer vollen Erwerbstätigkeit nachgehen kann. Dies ist aber gerade nicht der Fall. Damit ist nicht zu beanstanden, dass das Obergericht der Beschwerdegegnerin einen - in seiner Höhe nicht bestrittenen - Beitrag für die Altersvorsorge angerechnet hat. Die Beschwerde erweist sich auch insoweit als unbegründet.
3.4. Der Beschwerdeführer beanstandet schliesslich die von der Vorinstanz vorgenommene Teilung des Überschusses, den die Parteien nach der Scheidung unbestritten zu erwirtschaften in der Lage sind.
3.4.1. Der Bedarf der unterhaltsberechtigten Person ist grundsätzlich konkret, das heisst, anhand der tatsächlich getätigten Ausgaben zu ermitteln. Wie das Bundesgericht präzisiert hat, gestattet die Methode der Existenzminimumsberechnung mit (allfälliger) Überschussverteilung (auch zweistufige Methode genannt) aber dann zulässige Ergebnisse, wenn die Ehegatten - gegebenenfalls trotz guter finanzieller Verhältnisse - nichts angespart haben oder aber die bisherige Sparquote durch die trennungsbedingten Mehrkosten aufgebraucht wird (<ref-ruling> E. 3.3). Der Grundsatz der gleichmässigen Aufteilung des Einkommensüberschusses darf aber nicht zu einer Vermögensverschiebung führen. Stand aufgrund der von den Ehegatten vereinbarten bzw. tatsächlich gelebten Lebenshaltung während des Zusammenlebens nur ein Teil des Einkommens für den ehelichen Unterhalt zur Verfügung, so besteht kein Grund, beim Getrenntleben oder nach der Scheidung auch den bis anhin der Vermögensbildung dienenden Teil des Einkommens unter den Ehegatten aufzuteilen (<ref-ruling> E. 4b/bb; vgl. auch <ref-ruling> E. 3b; Urteil 5A_592/2016 vom 8. März 2017 E. 4.1). Die unterhaltsverpflichtete Person, die eine Sparquote behauptet, trägt hiefür die Beweislast (<ref-ruling> E. 3.3).
3.4.2. Der Beschwerdeführer macht diesbezüglich geltend, die Ehegatten hätten schon während der Ehe einen Betrag von Fr. 1'100.-- im Monat angespart; diese Sparquote dürfe nicht geteilt werden, es ansonsten zu einer unzulässigen Umverteilung des Einkommens bzw. einer Vermögensverschiebung komme. Nach Ansicht des Obergerichts kann bei den vorliegenden Verhältnissen (lange Ehe, klassische Rollenteilung, mittleres Einkommen) und mit Blick auf die sehr knappe Bemessung des Bedarfs nicht von einer Vermögensbildung während der Ehe ausgegangen werden, welche einer Überschussverteilung entgegenstehen würde. Auch wenn die Beschwerdegegnerin den gegenteiligen Ausführungen des Beschwerdeführers im erstinstanzlichen Verfahren nichts entgegnet habe, so habe sie doch im obergerichtlichen Verfahren eine Vermögensbildung während der Ehe bestritten.
3.4.3. Die Beschwerdegegnerin hat im vorinstanzlichen Verfahren ausgeführt, die Verhältnisse während der Ehe erlaubten eine Überschussverteilung (Eingabe vom 21. Dezember 2016 [Akten Obergericht, act. 54], S. 16 f.). Damit hat sie eine Vermögensbildung letztlich bestritten. Dies verkennt der Beschwerdeführer, wenn er geltend macht, die von ihm behauptete Sparquote sei unbestritten geblieben. Er rügt sodann nicht, das Obergericht habe die entsprechenden Ausführungen der Beschwerdegegnerin nicht berücksichtigen dürfen, nachdem diese eine Sparquote im erstinstanzlichen Verfahren offenbar nicht bestritten hatte. Hierauf ist daher nicht weiter einzugehen (vgl. <ref-ruling> E. 2.4; <ref-ruling> E. 2). Vor Bundesgericht beschränkt sich der Beschwerdeführer sodann darauf, das Vorliegen einer Sparquote, für die er beweisbelastet ist (vgl. E. 3.4.1 hiervor), zu behaupten, ohne sich mit den gegenteiligen Annahmen der Vorinstanz auseinanderzusetzen. Dies genügt den Begründungserfordernissen im bundesgerichtlichen Verfahren nicht (vgl. E. 3.2 hiervor und die dortigen Hinweise). Damit ist es nicht zu beanstanden, dass das Obergericht das Vorliegen einer Sparquote verneint und in der Folge eine Überschussverteilung vorgenommen hat. Unter diesen Umständen bleiben die weiteren Ausführungen des Beschwerdeführers dazu, ob diese Sparquote durch die trennungsbedingten Mehrkosten aufgebraucht worden ist, ohne Bedeutung.
3.5. Zusammenfassend ist die Berechnung des der Beschwerdegegnerin gebührenden Bedarfs nicht zu beanstanden. Die Beschwerde erweist sich insoweit als unbegründet.
4.
4.1. Anlass zur Beschwerde gibt weiter die Beurteilung der Eigenversorgungskapazität der derzeit nicht erwerbstätigen Beschwerdegegnerin. Das Obergericht berücksichtigte in der Unterhaltsberechnung ab Januar 2017 ein monatliches Nettoerwerbseinkommen von Fr. 2'000.--. Der Beschwerdeführer sieht demgegenüber die Erzielung eines Bruttoeinkommens von Fr. 4'750.-- pro Monat bei einem Arbeitspensum von 100 % als der Beschwerdegegnerin zumutbar und möglich an.
Nach der Rechtsprechung darf das Gericht bei der Festsetzung von Unterhaltsbeiträgen von einem hypothetischen Einkommen ausgehen, soweit die unterhaltsberechtigte Person bei ihr zuzumutender Anstrengung mehr verdienen könnte, als sie effektiv verdient. Wo die reale Möglichkeit einer Einkommenssteigerung fehlt, muss sie grundsätzlich aber ausser Betracht bleiben (BGE <ref-ruling> E. 4.2.2.2; <ref-ruling> E. 4a mit Hinweisen; vgl. aber <ref-ruling> E. 3 zum Fall des Rechtsmissbrauchs). Die Zumutbarkeit und die Möglichkeit, ein Einkommen zu erzielen, sind zwei Voraussetzungen, die kumulativ erfüllt sein müssen. Welche Tätigkeit aufzunehmen als zumutbar erscheint, ist eine Rechtsfrage. Ob die als zumutbar erkannte Tätigkeit möglich und das angenommene Einkommen effektiv erzielbar ist, bildet hingegen eine Tatfrage (<ref-ruling> E. 2.3; <ref-ruling> E. 4c/bb).
4.2. Unstrittig ist der Beschwerdegegnerin die Aufnahme einer Erwerbstätigkeit tatsächlich möglich. Hinsichtlich der Zumutbarkeit der Erwerbsaufnahme ging die Vorinstanz von folgendem Sachverhalt aus, der ebenfalls nicht bestritten ist: Die Beschwerdegegnerin absolvierte bis im Jahr 1988 eine Verkaufslehre in der Papeteriebranche. Den erlernten Beruf übte sie bis zur Geburt des ersten Sohnes im Jahr 1992 aus. Danach war sie erst wieder in den Jahren 2000 bis 2003 erwerbstätig, als sie verschiedene Funktionen in einer Buchhandlung wahrnahm. Der Beschäftigungsgrad betrug je nach Darstellung 15 oder 30 %. Zwischen Mai 2003 und Mai 2004 belegte die Beschwerdegegnerin einen Managementkurs des Netzwerkes für betriebliche Weiterbildung (NbW). Eine anschliessende Ausbildung in beratender Seelsorge schloss sie im Jahr 2008 ab. Daneben war die Beschwerdegegnerin ehrenamtlich in der Kirche tätig. Heute bietet sie seelsorgerische Beratungen an (vgl. www.c._.ch). Ein Einkommen erzielt sie mit dieser Beratung nicht. Die (Erwerbs) Tätigkeit der Beschwerdegegnerin war ihren Aufgaben als Hausfrau und Mutter stets untergeordnet. Die Ehegatten lebten eine klassische Rollenteilung, wobei der Beschwerdeführer einer Erwerbstätigkeit nachging und der Beschwerdegegnerin die Haus- und Betreuungsarbeit oblag. Im Zeitpunkt der Trennung der Ehegatten (Mai 2013) war die Beschwerdegegnerin 45 Jahre alt.
Ausgehend hiervon erwog das Obergericht, die Beschwerdegegnerin habe zwar einen Lehrabschluss, jedoch datiere dieser aus dem Jahr 1988. Letztmals erwerbstätig sei sie vor 13 Jahren gewesen, allerdings nicht im erlernten Beruf. Von einer nennenswerten Berufserfahrung könne daher nicht gesprochen werden. Sodann habe die Beschwerdegegnerin zwar gewisse Weiterbildungen absolviert, wenn auch nicht im Bereich des erlernten Berufs. Aufgrund der Weiterbildungen und der ehrenamtlichen Tätigkeiten seit dem Jahr 2003 habe die Beschwerdegegnerin sich dennoch eine gewisse Nähe zur beruflichen Tätigkeit erhalten bzw. neu schaffen können. Aufgrund dieser Umstände und des Alters der Beschwerdegegnerin erscheine eine zurückhaltende Prognose zu den Erwerbsaussichten angezeigt. Die Beschwerdegegnerin habe sodann nach einer lebensprägenden Ehe von 23 Jahren im Grundsatz auf den Weiterbestand der bisherigen, frei vereinbarten Rollenteilung vertrauen dürfen. Dieses Vertrauen vermöge mit Blick auf die weiteren Umstände die Zumutbarkeit der Wiederaufnahme einer Erwerbstätigkeit aber nicht gänzlich auszuschliessen. Dennoch sei der Beschwerdegegnerin nicht ein Vollzeitpensum zuzumuten. In der Folge rechnete die Vorinstanz der Beschwerdegegnerin die Hälfte eines von einer ungelernten Arbeitskraft im Alter von 49 Jahren erzielbaren Durchschnittslohns an, ausmachend Fr. 2'000.-- im Monat.
4.3. Der Beschwerdeführer rügt in diesem Zusammenhang vorab eine Verletzung der Begründungspflicht durch die Vorinstanz (vgl. zu diesem Teilaspekt des Anspruchs auf rechtliches Gehör <ref-ruling> E. 6.2; <ref-ruling> E. 5.2). Das Obergericht habe es versäumt darzulegen, weshalb es der Beschwerdegegnerin nicht möglich sein solle, einer vollen Erwerbstätigkeit nachzugehen. Wie dargelegt hat die Vorinstanz ausführlich begründet, weshalb ihrer Ansicht nach der Beschwerdegegnerin nicht eine volle Erwerbstätigkeit zuzumuten ist. Von einer Gehörsverletzung kann unter diesen Umständen keine Rede sein.
4.4. Sodann verweist der Beschwerdeführer darauf, dass die Beschwerdegegnerin über eine gewisse Berufserfahrung verfüge, Weiterbildungen absolviert habe und ehrenamtlich tätig gewesen sei. Zwar treffen diese Ausführungen zu. Das Obergericht hat diesen Umständen indessen Rechnung getragen und nicht zuletzt aus diesen Gründen der Beschwerdegegnerin eine teilzeitliche Erwerbstätigkeit als zumutbar erachtet. Dies ist mit Blick auf das der Vorinstanz zukommende Ermessen (vorne E. 2) nicht zu beanstanden. Insofern gilt es zu bedenken, dass die Ausbildung und die (kurze) Arbeitstätigkeit der Beschwerdegegnerin schon sehr lange zurückliegen und die Beschwerdegegnerin die Weiterbildungen und sonstigen Tätigkeiten nicht in ihrem angestammten Beruf absolviert bzw. ausgeübt hat. Unbestritten ist weiter, dass die Beschwerdegegnerin bei guter Gesundheit ist und keine Betreuungsaufgaben für die Söhne mehr übernehmen muss. Anders als der Beschwerdeführer meint, ist dies jedoch nicht entscheidend. Es ist letztlich die lange Ehedauer, welche aufgrund der Lebensprägung bezüglich der Erwerbstätigkeit zu einer Erschwernis bei der tatsächlichen Umsetzung der an sich mit der Eheauflösung gewonnenen Handlungsfreiheit wird (HAUSHEER/SPYCHER, in: Handbuch des Unterhaltsrechts, 2. Aufl. 2010, Rz. 05.111). Die lange Dauer der Ehe wird vom Beschwerdeführer zu Recht aber nicht bestritten. Entgegen dem Beschwerdeführer kommt schliesslich dem Umstand, dass die Beschwerdegegnerin im Zeitpunkt der Trennung bereits 45 Jahre alt war, sehr wohl Bedeutung zu: Nach der Rechtsprechung kann einem Ehegatten, der während einer langdauernden und damit lebensprägenden Ehe nicht erwerbstätig war, die Wiederaufnahme der Arbeitstätigkeit nicht mehr zugemutet werden, wenn er während der Ehe nicht erwerbstätig war und im Zeitpunkt der Trennung 45 Jahre alt ist (BGE <ref-ruling> E. 4.2.2.2; <ref-ruling> E. 5a; Urteil 5A_319/2016 vom 27. Januar 2017 E. 4.2, in: FamPra.ch 2017 S. 551 [auch zum Folgenden]). Zwar tendiert die jüngere Rechtsprechung dazu, die massgebende Altersschwelle auf 50 Jahre anzuheben. Indem die Vorinstanz der Beschwerdegegnerin trotz ihres Alters nach einer Ehe von 23 Jahren eine Teilzeitarbeit zugemutet hat, hat sie dem jedoch Rechnung getragen. Nicht ersichtlich ist zuletzt, inwieweit der bisherige Lebensstandard der Familie es der Beschwerdegegnerin zumutbar machen sollte, eine volle Erwerbstätigkeit aufzunehmen. Damit erweist sich die Beschwerde bezüglich des der Beschwerdegegnerin zumutbaren Erwerbsgrades als unbegründet.
4.5. Mit Blick auf das ihm zukommende Ermessen nicht zu beanstanden ist weiter, dass das Obergericht bei der Bestimmung der Höhe des von der Beschwerdegegnerin erzielbaren Einkommens vom Verdienst einer ungelernten Arbeitskraft ausgegangen ist. Zwar hat die Beschwerdegegnerin eine Berufslehre absolviert und während dreier Jahre in ihrem angestammten Beruf gearbeitet. Dies liegt jedoch schon über zwanzig Jahre zurück. Die letzte Erwerbstätigkeit der Beschwerdegegnerin, ihre Weiterbildungen und ehrenamtlichen Tätigkeiten hat sie sodann nicht in ihrem angestammten Beruf ausgeübt bzw. absolviert. Entgegen dem Beschwerdeführer durfte das Obergericht damit das Vorliegen einer nennenswerten Berufspraxis verneinen, welche es gerechtfertigt hätte, der Beschwerdegegnerin den Lohn einer gelernten Verkaufskraft anzurechnen. Auch insoweit erweist sich die Beschwerde als unbegründet.
4.6. Der Beschwerdeführer macht sodann geltend, das Obergericht hätte bei der Berechnung des der Beschwerdegegnerin anrechenbaren Einkommens beispielsweise auf die Lohnstrukturerhebungen (LSE) oder das Lohnbuch des Amtes für Wirtschaft und Arbeit des Kantons Zürich abstellen müssen. Mit diesem Einwand macht er nicht mit hinreichender Klarheit geltend, die Vorinstanz habe den von einer ungelernten Arbeitskraft erzielten Medianlohn falsch berechnet (vgl. vorne E. 3.2 und die dortigen Hinweise), weshalb auf diese Rüge nicht weiter einzugehen ist.
5.
5.1. Strittig ist weiter, ob der Beschwerdegegnerin aus der Untervermietung eines Zimmers in ihrer Wohnung Fr. 500.-- im Monat anzurechnen sind. Das Obergericht hat der Beschwerdegegnerin entsprechende Einnahmen bis Juni 2017 angerechnet, da bis dahin tatsächlich ein entsprechender Untermietvertrag bestehe. Der Beschwerdeführer ist der Ansicht, die Beschwerdegegnerin könne auch über diesen Zeitpunkt hinaus entsprechende Einnahmen erzielen. Die Beschwerdegegnerin bewohne eine Vierzimmerwohnung von 100 m2. Ausserdem vermiete sie das Zimmer nach eigener Aussage, weil sie nicht gerne alleine lebe. Es sei daher davon auszugehen, dass die Untermiete in der einen oder anderen Form auch nach Juni 2017 weitergeführt werde.
Soweit der Beschwerdeführer damit vorbringen sollte, das Obergericht habe mit Blick auf die künftige Untervermietung eines Teils der Wohnung der Beschwerdegegnerin den Sachverhalt unrichtig festgestellt, fehlt es in der Beschwerde an hinreichend konkreten Rügen (<ref-law>; vgl. vorne E. 3.2). Es genügt nicht, einen von den Feststellungen der Vorinstanz (Untervermietung bis Ende Juni 2017) abweichenden Sachverhalt zu behaupten. Vielmehr wäre darzulegen, weshalb die Feststellungen der Vorinstanz offensichtlich unrichtig und damit willkürlich sind (vgl. <ref-ruling> E. 2.3; <ref-ruling> E. 1.4.3). Auch soweit der Beschwerdeführer der Meinung sein sollte, der Beschwerdegegnerin sei ab Juli 2017 ein hypothetischer Vermögensertrag anzurechnen, ist ihm vorzuwerfen, dass er diese Rüge nicht hinreichend begründet (<ref-law>; vgl. vorne E. 3.2), führt er doch lediglich aus, eine weitere Untervermietung erfolge "zu Recht" (zu Anrechnung eines hypothetischen Vermögensertrags vgl. SUTTER/FREIBURGHAUS, Kommentar zum neuen Scheidungsrecht, 1999, N. 51 ff. zu <ref-law>). Auf die Beschwerde ist damit insoweit nicht einzutreten.
6.
Nach dem Ausgeführten erweist sich die Beschwerde als unbegründet und ist sie abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die Verfahrenskosten zu tragen (<ref-law>). Entschädigungspflichtige Parteikosten sind keine angefallen, da von der obsiegenden Beschwerdegegnerin keine Vernehmlassung eingeholt wurde. Parteientschädigung ist daher keine zuzusprechen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 27. September 2017
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Sieber