Sachverhalt:
A.
Y._ (nachfolgend: Beschwerdegegnerin), geboren 1954, und X._ (nachfolgend: Beschwerdeführer), geboren 1949, heirateten am 7. Oktober 1976 vor dem Zivilstandsamt A._. Sie sind Eltern der Kinder R._, geboren 1983, S._, geboren 1986, und T._, geboren 1989.
Nachdem der Beschwerdeführer mit Eingabe vom 23. Juni 2006 an das Bezirksgerichtspräsidium Prättigau/Davos das Ehescheidungsverfahren anhängig gemacht und die Beschwerdegegnerin mit Eingabe vom 31. Januar 2007 ebenfalls die Scheidung beantragt hatte, schied das Bezirksgericht mit Urteil vom 24. Januar 2008 die Ehe und sah unter anderem vor, dass von einer Verpflichtung des Beschwerdeführers, der Beschwerdegegnerin einen nachehelichen Unterhalt zu bezahlen, abgesehen werde (Dispositiv Ziff. 3).
B.
Dagegen erhob die Beschwerdegegnerin am 7. April 2008 Berufung beim Kantonsgericht von Graubünden und beantragte unter anderem, der Beschwerdeführer sei zu verpflichten, an sie monatlich im Voraus als nachehelichen Unterhalt den Betrag von Fr. 3'000.-- bis und mit Juli 2011, von Fr. 2'000.-- ab August 2011 bis und mit Juli 2012 und von Fr. 1'000.-- ab August 2012 bis zum Eintritt des Beschwerdeführers ins AHV-Alter (voraussichtlich Februar 2014) zu bezahlen.
C.
Mit Urteil vom 26. August 2008 verpflichtete das Kantonsgericht den Beschwerdeführer in teilweiser Gutheissung der Berufung, an die Beschwerdegegnerin monatlich im Voraus als nachehelichen Unterhalt den Betrag von Fr. 2'100.-- ab Rechtskraft bis und mit Juli 2011, von Fr. 1'500.-- ab August 2011 bis Ende Juli 2012 und von Fr. 900.-- ab August 2012 bis zum Eintritt des Beschwerdeführers ins AHV-Alter zu bezahlen (Dispositiv Ziff. 2). Die Unterhaltsbeiträge wurden indexiert, wobei auf den Indexstand per Ende Juli 2008 von 101.1 Punkten (Basis Dezember 2005 = 100 Punkte) abgestellt wurde (Dispositiv Ziff. 3).
D.
Mit Beschwerde vom 9. Januar 2009 beantragt der Beschwerdeführer, es sei in Aufhebung des Urteils des Kantonsgerichts von der Festsetzung eines nachehelichen Unterhalts an die Beschwerdegegnerin abzusehen, eventualiter sei der massgebende Indexstand per Ende Juli 2008 in der Indexklausel und in der Berechnungsformel mit 104.2 Punkten statt mit 101.1 Punkten einzusetzen.
Die Beschwerdegegnerin schliesst in ihrer Vernehmlassung vom 9. Juni 2009 auf Abweisung der Beschwerde. Das Kantonsgericht hat auf eine Vernehmlassung verzichtet.

Erwägungen:
1.
1.1. Angefochten ist ein kantonal letztinstanzlicher Entscheid (<ref-law>), welcher einen Endentscheid darstellt (<ref-law>) und eine Scheidungssache, somit eine Zivilsache, betrifft (<ref-law>). Wie schon unter der Herrschaft des Bundesrechtspflegegesetzes gelten familienrechtliche Klagen mit den finanziellen Nebenfolgen als nicht vermögensrechtliche Streitigkeiten, wenn die Regelung dieser Folgen notwendiger Bestandteil des Entscheides über die nicht vermögensrechtliche Streitigkeit ist (Urteil 5A_108/2007 vom 11. Mai 2007 E. 1.2 mit Hinweis). Waren allerdings - wie vorliegend - nur die finanziellen Nebenfolgen umstritten, handelt es sich um eine vermögensrechtliche Streitigkeit. Vorliegend ist der gemäss <ref-law> erforderliche Streitwert von Fr. 30'000.-- ohne weiteres gegeben, und die Beschwerde in Zivilsachen ist damit insoweit zulässig.
1.2. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es prüft die Verletzung von Grundrechten nur insofern, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Für derartige Rügen gelten die gleichen Begründungsanforderungen, wie sie gestützt auf Art. 90 Abs. 1 lit. b OG für die staatsrechtliche Beschwerde gegolten haben (<ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Die Beschwerdeschrift muss die wesentlichen Tatsachen und eine kurz gefasste Darlegung darüber enthalten, welche verfassungsmässigen Rechte bzw. welche Rechtssätze inwiefern durch den angefochtenen Entscheid verletzt worden sind (<ref-ruling> E. 2.2 S. 246). Das Bundesgericht prüft nur klar und detailliert erhobene und, soweit möglich, belegte Rügen; auf rein appellatorische Kritik am angefochtenen Entscheid tritt es nicht ein. Wird eine Verletzung des Willkürverbots geltend gemacht, muss anhand der angefochtenen Subsumtion im Einzelnen dargelegt werden, inwiefern der Entscheid an einem qualifizierten und offensichtlichen Mangel leidet (<ref-ruling> E. 2.2 S. 246; <ref-ruling> E. 1.3 S. 261 mit Hinweisen).
2.
2.1. Das Kantonsgericht erwog, dass die Beschwerdegegnerin in ihrer Berufung einen Bedarf von Fr. 9'834.80 geltend gemacht habe. Dagegen habe der Beschwerdeführer eingewendet, dieser Betrag sei um rund Fr. 1'500.-- höher als der im erstinstanzlichen Verfahren geltend gemachte Bedarf; ausserdem sei bei der Bedarfsberechnung der in der Ehe zuletzt gemeinsam gelebte Standard massgebend, sodass eine Erhöhung des Anspruchs gestützt auf die Zahlen des Jahres 2007 nicht zulässig sei, da die Parteien seit dem 23. Januar 2004 voneinander getrennt lebten. Das Kantonsgericht hielt diesen Einwänden entgegen, die von der Beschwerdegegnerin in der Berufung geforderten Unterhaltsbeiträge seien reduziert worden und es spiele keine Rolle, wenn die Beschwerdegegnerin eine neue rechtliche Argumentation vorbringe, zumal gemäss Art. 5d Abs. 2 des Einführungsgesetzes zum Schweizerischen Zivilgesetzbuch vom 12. Juni 1994 (EGzZGB/GR; BR 210.100) in der oberen kantonalen Instanz selbst neue Anträge zulässig seien, wenn diese mit der Berufungserklärung bzw. innert der Frist für die Anschlussberufung gestellt würden.
2.2. Der Beschwerdeführer macht geltend, die Beschwerdegegnerin habe in ihrer Berufungserklärung vom 7. April 2008 nicht darauf hingewiesen, dass sie auch neue Tatsachen geltend mache; erst in der am 20. August 2008 eingereichten Bedarfsberechnung habe sie den höheren Lebensunterhalt von Fr. 9'834.80 geltend gemacht. Indem die Vorinstanz auf diesen erhöhten Lebensunterhalt abgestellt habe, habe sie auf neue Tatsachen abgestellt, welche nicht rechtzeitig behauptet worden seien, und habe damit willkürlich gegen das beschränkte Novenrecht gemäss Art. 5d Abs. 2 EGzZGB/GR verstossen.
2.3. Die Rüge, die der Beschwerdeführer vor Bundesgericht erhebt, ist mit derjenigen, welche er vor Kantonsgericht erhoben hatte, nicht identisch: Vor Kantonsgericht machte er geltend, die Beschwerdegegnerin habe in ihrer Berufung einen Bedarf von Fr. 9'834.80 angeführt und dieser sei um rund Fr. 1'500.-- höher als der Betrag, welchen sie im erstinstanzlichen Verfahren geltend gemacht habe (s. oben, E. 2.1). Vor Bundesgericht beruft er sich hingegen darauf, die Beschwerdegegnerin habe den höheren Lebensunterhalt nicht bereits in der Berufungserklärung vom 7. April 2008, sondern erst in der am 20. August 2008 eingereichten Bedarfsberechnung geltend gemacht (s. oben, E. 2.2). Hätte er auch vor Kantonsgericht eine Diskrepanz zwischen Berufungserklärung und später eingereichter Bedarfsberechnung - und nicht eine Diskrepanz zwischen dem im Berufungsverfahren und dem im erstinstanzlichen Verfahren geltend gemachten Betrag - gerügt, hätte das Kantonsgericht diesen Umstand in tatsächlicher und im Hinblick auf das Novenrecht in rechtlicher Hinsicht würdigen können. Da es der Beschwerdeführer jedoch unterlassen hat, diesen Umstand ebenso vorinstanzlich geltend zu machen, ist die Rüge mangels Erschöpfung des kantonalen Instanzenzugs (<ref-law>) unzulässig, sodass auf sie nicht einzutreten ist.
Vor diesem Hintergrund kann offen bleiben, ob die Beschwerdegegnerin in Bezug auf den erhöhten Bedarf ein Revisionsgesuch nach Art. 243 Abs. 1 Ziff. 2 i.V.m. Art. 250 der Zivilprozessordnung des Kantons Graubünden vom 1. Dezember 1985 (ZPO/GR; BR 320.000) hätte stellen können bzw. müssen, wie es der Beschwerdeführer geltend macht. Ebenfalls offen bleiben kann, ob die Beschwerdegegnerin zu Recht vorbringt, es seien sämtliche in der Berechnung vom 20. August 2008 aufgeführten Positionen bereits mit der Berufung vom 7. April 2008 geltend gemacht und durch Urkunden belegt worden, sodass bereits aus der Berufung der mit Fr. 9'834.80 bezifferte genügende Unterhalt hervorgegangen sei, es seien keine neuen Urkunden eingereicht worden und es genüge, wenn in der Berufung die einzelnen Bedarfspositionen festgehalten würden, ohne dass der Unterhalt zusammengerechnet werden müsse.
3.
Das Bundesgericht hat die Unterhaltsbemessung nicht von Amtes wegen frei zu überprüfen, sondern lediglich im Rahmen der - formell ausreichend begründet - geltend gemachten Rechtsverletzungen (Urteil 5A_210/2008 vom 14. November 2008 E. 2.2, nicht publ. in: <ref-ruling>). Beschwerdegegenstand ist vor Bundesgericht der Anspruch auf nachehelichen Unterhalt, der in <ref-law> offen umschrieben wird. Das kantonale Sachgericht verfügt diesbezüglich über einen weiten Ermessensspielraum (<ref-law>). Derartige Ermessensentscheide überprüft das Bundesgericht im Beschwerdeverfahren zwar grundsätzlich frei. Es übt aber Zurückhaltung und schreitet nur ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgewichen ist, wenn sie Tatsachen berücksichtigt hat, die für den Entscheid im Einzelfall keine Rolle hätten spielen dürfen, oder wenn sie umgekehrt Umstände ausser Betracht gelassen hat, die zwingend hätten beachtet werden müssen. Ausserdem greift das Bundesgericht in Ermessensentscheide ein, falls sich diese als offensichtlich unbillig, als in stossender Weise ungerecht erweisen (<ref-ruling> E. 1 S. 99; <ref-ruling> E. 3a S. 141; je mit Hinweisen).
4.
Strittig sind zunächst die im Rahmen der vorinstanzlichen Bedarfsberechnung der Beschwerdegegnerin auf Fr. 1'664.60 bezifferten Hypothekarzinsen.
4.1. Vor Kantonsgericht machte die Beschwerdegegnerin geltend, die Laufzeit für die ursprüngliche Festhypothek im Betrag von Fr. 500'000.-- habe nachweislich per 30. Juni 2008 geendet. Daneben habe auch eine variable Hypothek von Fr. 25'000.-- bestanden. Die neu mit der Gläubigerbank abgeschlossene Vereinbarung laute wie folgt: Fr. 400'000.-- zu 3.9% und eine variable Hypothek von Fr. 125'000.-- zu derzeit 3.5%, was einem jährlichen Hypothekarzins von aktuell Fr. 19'975.-- (monatlich Fr. 1'664.60) entspreche.
Das Kantonsgericht erwog, dass die Beschwerdegegnerin den Beweis des Auslaufens der Festhypothek mit ihrer neuen Eingabe im Rahmen der Berufungserklärung erbracht habe. Dass die Zinssätze für Hypotheken gestiegen seien, lasse sich der Bestätigung der Bank W._ entnehmen. Indem der Betrag der Festhypothek von Fr. 500'000.-- auf Fr. 400'000.-- reduziert worden sei, habe die Beschwerdegegnerin verhindern können, dass die Summe der Hypothekarzinsen noch höher gestiegen wäre.
4.2. Dagegen wendet der Beschwerdeführer ein, die Beschwerdegegnerin habe die Reduktion der Festhypothek auf Fr. 400'000.-- und die Erhöhung der variablen Hypothek auf Fr. 125'000.-- nicht belegt. Aus der Bestätigung der Bank W._ könne nichts über die im damaligen Zeitpunkt aktuellen Zinssätze abgeleitet werden, da nicht feststehe, wann und zu welchen an diesem Tag gültigen Konditionen die Festhypothek erneuert worden sei. Auch der Zinssatz der variablen Hypothek sei nicht belegt. Wie allgemein bekannt sei, seien im Jahre 2008 die Zinssätze für Hypotheken im Zusammenhang mit der Finanzkrise überdurchschnittlich oft geändert worden. Da die Beschwerdegegnerin weder einen Kreditvertrag mit der Bank noch eine andere Bankbestätigung ins Recht gelegt habe, aus welcher die Höhe der Festhypothek und der variablen Hypothek sowie der entsprechenden Zinsen hervorgehe, liege eine Verletzung von <ref-law> sowie des Willkürverbots (<ref-law>) vor.
4.3. Indem der Beschwerdeführer rügt, die Vorinstanz habe aus der ihr vorgelegten Bestätigung der Bank W._ die falschen Schlüsse gezogen, macht er im Ergebnis Willkür in der Beweiswürdigung geltend.
Willkür in der Beweiswürdigung liegt vor, wenn das Gericht Sinn und Tragweite eines Beweismittels offensichtlich verkannt hat, wenn es ohne sachlichen Grund ein wichtiges Beweismittel, das für den Entscheid wesentlich sein könnte, unberücksichtigt gelassen hat oder wenn es auf Grundlage der festgestellten Tatsachen unhaltbare Schlussfolgerungen getroffen hat (<ref-ruling> E. 2.1 S. 9). Dass die Ergebnisse des Beweisverfahrens auch Schlüsse gestatten, die nicht mit den vom Sachgericht gezogenen übereinstimmen, bedeutet hingegen nicht schon Willkür (<ref-ruling> E. 2b S. 88).
Aus den Einwendungen des Beschwerdeführers geht lediglich hervor, dass die dem Kantonsgericht vorgelegten Unterlagen seiner Ansicht nach nicht für den Beweis der von der Beschwerdegegnerin geltend gemachten Hypothekarzinsen genügten. Er tut jedoch nicht dar, dass das Kantonsgericht auf Grundlage der festgestellten Tatsachen unhaltbare Schlussfolgerungen getroffen haben soll, zumal dieses ausgeführt hat, dass die Hypothekarzinsen ohne Reduktion der Festhypothek von Fr. 500'000.-- auf Fr. 400'000.-- insgesamt noch höher gestiegen wären (s. oben, E. 4.1). Insofern stösst die Willkürrüge ins Leere.
5.
Strittig ist sodann der Betrag von Fr. 1'000.--, welchen das Kantonsgericht in der beschwerdegegnerischen Bedarfsberechnung eingesetzt hat und welcher die von der Beschwerdegegnerin geltend gemachte Position Ferien, Freizeit, diverse Interessen und Soziales betrifft. Vor Kantonsgericht beantragte die Beschwerdegegnerin die Berücksichtigung eines Betrags von monatlich insgesamt Fr. 1'735.--, und zwar für Ferien, Freizeit und Sport Fr. 700.--, für Zeitschriften Fr. 55.--, für Kulturelles und Soziales Fr. 70.--, für Kosmetikerin Fr. 160.--, für Coiffeur Fr. 100.--, für auswärts Essen Fr. 250.--, für Schmuck Fr. 300.-- und für Unvorhergesehenes (Geschenke etc.) Fr. 100.--.
5.1. Diesbezüglich führte das Kantonsgericht aus, der von der Beschwerdegegnerin geltend gemachte Betrag von monatlich Fr. 1'735.-- erscheine als zu hoch. Der Beschwerdegegnerin sei zuzumuten, ihre Bedürfnisse (insbesondere Ferien, Schmuck) auf ein vertretbares Mass zu reduzieren. Eine Pauschale von monatlich Fr. 1'000.-- erscheine angemessen.
5.2. Der Beschwerdeführer bringt vor, es sei gemäss <ref-law> nicht zulässig, verschiedene Unterhaltsposten zusammenzufassen und dafür einen Pauschalbetrag zuzusprechen. Ausserdem habe das Kantonsgericht gegen die aus dem Anspruch auf rechtliches Gehör (<ref-law>) fliessende Begründungspflicht verstossen, indem es der Beschwerdegegnerin den Pauschalbetrag zugesprochen habe, ohne näher auszuführen, aus welchen Positionen sich dieser zusammensetze. Auch habe die Beschwerdegegnerin keinen Beweis für entsprechende Aufwendungen erbracht.
5.3. Der Anspruch auf rechtliches Gehör im Sinne von <ref-law> verlangt, dass das Gericht die rechtserheblichen Vorbringen der Parteien anhört und bei der Entscheidfindung berücksichtigt (<ref-ruling> E. 2 S. 242). Damit sich die Parteien ein Bild über die Erwägungen des Gerichts machen können, hat es seinen Entscheid zu begründen. Die Begründung muss kurz die wesentlichen Überlegungen nennen, von denen sich das Gericht hat leiten lassen und auf die sich sein Entscheid stützt (<ref-ruling> E. 2c S. 57 mit Hinweisen). Hingegen ist nicht erforderlich, dass sich der Entscheid mit allen Parteistandpunkten einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr genügt es, wenn sich aus den Erwägungen ergibt, dass und warum das Gericht die Darstellung einer Partei nicht für stichhaltig erachtet und dass der Entscheid damit sachgerecht angefochten werden kann (<ref-ruling> E. 3.2 S. 236; <ref-ruling> E. 2b S. 102; <ref-ruling> E. 2c S. 372; <ref-ruling> E. 2a S. 149; <ref-ruling> E. 2c S. 57).
Das Kantonsgericht ist in seiner Begründung vom Betrag ausgegangen, welchen die Beschwerdegegnerin zweitinstanzlich unter der Position Ferien, Freizeit etc. insgesamt geltend gemacht und gemäss ihrer Bedarfsberechnung vom 20. August 2008 im Rahmen ihrer Berufungserklärung vom 7. April 2008 belegt hat, und hat diesen bei der Bedarfsberechnung auf ein seiner Ansicht nach vertretbares Mass reduziert. Somit hat es sich offensichtlich zunächst auf die seitens der Beschwerdegegnerin geltend gemachten Einzelpositionen gestützt. Insofern war es dem Beschwerdeführer ohne weiteres möglich, die vorinstanzlich geltend gemachten Ausgaben vor Bundesgericht anzufechten, wie er es denn auch teilweise getan hat (s. sogleich, E. 5.4.1 ff.). Daher stösst die Rüge einer Verletzung der Begründungspflicht ins Leere.
5.4.
5.4.1. In der Sache bringt der Beschwerdeführer zunächst vor, das Kantonsgericht habe unter dem Titel "Ferien, Freizeit, diverse Interessen und Soziales" lediglich einzelne von der Beschwerdegegnerin geltend gemachte Positionen als zu hoch betrachtet und andere - so die Positionen Zeitschriften, Kulturelles und Soziales, Kosmetikerin und Coiffeur - ungekürzt übernommen.
Das Kantonsgericht ist vom seitens der Beschwerdegegnerin insgesamt geltend gemachten Betrag ausgegangen und hat diesen gekürzt. Es hat somit offensichtlich den betreffenden Anspruch der Beschwerdegegnerin aus Billigkeitsgründen in allgemeiner Weise reduziert und davon abgesehen, einzelne Positionen zu kürzen und andere zu belassen, was zulässig ist (zur Unumgänglichkeit gewisser Pauschalisierungen im Rahmen der konkreten Bedarfsermittlung vgl. HAUSHEER/SPYCHER, in: Handbuch des Unterhaltsrechts, 1997, S. 74 Rz. 02.23; Urteile 5C.66/2004 vom 7. September 2004 E. 1.1; 5C.278/2000 vom 4. April 2001 E. 4b [je betreffend den Kinderunterhalt]; vgl. auch Urteil 5A_392/2007 vom 27. August 2007 E. 5). Die betreffende Rüge geht somit an der vorinstanzlichen Argumentation vorbei.
5.4.2. Sodann macht der Beschwerdeführer geltend, die Positionen Zeitschriften, Kulturelles und Soziales, Kosmetikerin und Coiffeur seien bereits im Grundbetrag von Fr. 1'250.-- enthalten. Die Beschwerdegegnerin habe keine Mehrkosten behauptet.
Der dem Betreibungsrecht entlehnte Grundbetrag ist eine Richtgrösse. Der Richter ist befugt, bei entsprechenden Bedingungen darüber hinauszugehen. Die Beschwerdegegnerin hat solche Positionen in ihrer Bedarfsberechnung vom 20. August 2008sowie ihrer Berufungserklärung vom 7. April 2008 geltend gemacht und belegt (s. oben, E. 5.3). Es stimmt also nicht, dass die Beschwerdegegnerin diese über den Grundbetrag hinausgehenden Mehrkosten nicht behauptet hätte. Davon ist offensichtlich auch das Kantonsgericht ausgegangen. Alsdann war es dem Richter nach dem soeben Ausgeführten nicht a priori verwehrt, über den betreibungsrechtlichen Grundbedarf hinauszugehen, zumal sich der gebührende Unterhalt bei einer - wie vorliegend - lebensprägenden Ehe an dem in der Ehe zuletzt gemeinsam gelebten Standard (zuzüglich scheidungsbedingter Mehrkosten) bemisst, auf dessen Fortführung bei genügenden Mitteln beide Teile Anspruch haben, der aber gleichzeitig auch die Obergrenze des gebührenden Unterhalts bildet (<ref-ruling> E. 4 S. 146 mit Hinweisen; zur Vorgehensweise bei mittleren Einkommen <ref-ruling> E. 3 S. 579 f.). Die Rüge ist daher unbegründet.
5.4.3. Weiter wendet sich der Beschwerdeführer gegen die seitens der Beschwerdegegnerin geltend gemachten Positionen auswärts Essen, Unvorhergesehenes, Ferien/Freizeit/Sport und Schmuck. Er tut jedoch nicht substanziiert dar, in welchem Umfang die Berücksichtigung dieser Positionen im Pauschalbetrag von Fr. 1'000.-- als mit <ref-law> unvereinbar zu betrachten ist bzw. in welcher Höhe die betreffenden Positionen zu berücksichtigen wären. Insofern erweist sich die Beschwerde als ungenügend begründet.
5.4.4. Was den für Schmuck geforderten Betrag betrifft, führt der Beschwerdeführer an, die Beschwerdegegnerin dürfe aus dem Umstand, dass er ihr in der Vergangenheit Schmuck geschenkt habe, keinen Anspruch auf weitere Schenkungen nach der Scheidung ableiten. Indes ergibt sich aus dem angefochtenen Entscheid nicht, dass das Kantonsgericht von einem solchen Anspruch ausgegangen ist. Auch diesbezüglich geht die Beschwerde somit an der vorinstanzlichen Argumentation vorbei.
5.4.5. Insgesamt sind die Rügen des Beschwerdeführers gegen den vom Kantonsgericht eingesetzten Betrag von Fr. 1'000.-- unbegründet, soweit sie überhaupt als genügend substanziiert betrachtet werden können.
5.5. Schliesslich macht der Beschwerdeführer geltend, das Kantonsgericht habe gegen das Gleichbehandlungsgebot verstossen, da es ihm in seiner Bedarfsberechnung keinen Betrag für Ferien/Freizeit/Sport eingesetzt habe; der Beschwerdegegnerin sei unter dieser Position ebenfalls kein Betrag zuzusprechen.
Wie die verfassungsmässige Garantie der Gleichstellung von Mann und Frau richtet sich auch das allgemeine Gleichbehandlungsgebot (<ref-law>) an den Staat und entfaltet im Verhältnis zwischen Privatpersonen keine direkte Dritt- oder Horizontalwirkung (betreffend die Gleichstellung von Mann und Frau <ref-ruling> E. 4.2 S. 172; Urteile 5A_75/2007 vom 25. Mai 2007 E. 3.2; 5P.103/2004 vom 7. Juli 2004 E. 2.1; so bereits zu Art. 4 Abs. 2 aBV <ref-ruling> E. 2b S. 331 mit Hinweisen). <ref-law> kann somit nicht direkt angerufen werden, um eine Beschwerde zu stützen, die sich gegen den Entscheid über eine Auseinandersetzung zwischen Privaten richtet (Urteile 5A_75/2007 vom 25. Mai 2007 E. 3.2; 5P.103/2004 vom 7. Juli 2004 E. 2.1; zu Art. 4 Abs. 2 aBV <ref-ruling> E. 2b S. 331). Die Rüge einer Verletzung des Gleichbehandlungsverbots erweist sich daher als unbegründet.
6.
Weiter wendet sich der Beschwerdeführer gegen die Berücksichtigung der von der Beschwerdegegnerin erbrachten Leistungen an die Kinder.
6.1. Diesbezüglich machte die Beschwerdegegnerin vor Kantonsgericht geltend, dass der Beschwerdeführer und sie sich im Rahmen des Berufungsverfahrens betreffend Festlegung des Mündigenunterhalts darauf geeinigt hätten, dass Ersterer 70% und sie 30% des Unterhalts der beiden Söhne zu tragen hätten. Daraus ergebe sich der von ihr zu tragende Anteil am Kinderunterhalt von je Fr. 857.--. Ausserdem bezahle sie die Krankenkassenprämien für die drei Söhne von je Fr. 266.10; entsprechend seien die von ihr aufzubringenden Fr. 857.-- zu reduzieren. Insgesamt ergebe sich ein Betrag von Fr. 1'838.30, welcher in ihre Bedarfsberechnung einzubeziehen sei.
Dem hielt das Kantonsgericht entgegen, dass der jüngste Sohn T._ seit dem 25. August 2008 beim Beschwerdeführer lebe, welcher auch für die Krankenkassenprämien aufkomme. Die älteren Söhne hielten sich während der Semesterferien im Hause der Beschwerdegegnerin auf, was mit Kosten für Letztere verbunden sei. Diese seien auf je Fr. 300.-- zu beziffern, zumal etwa die Übernachtung der Söhne im Haus der Beschwerdegegnerin keine zusätzlichen Kosten verursache. Zusammen mit den Krankenkassenprämien von je Fr. 266.--, für welche die Beschwerdegegnerin aufkomme, ergebe dies einen Betrag von Fr. 1'132.--.
6.2. Was die Krankenkassenprämien betrifft, macht der Beschwerdeführer geltend, er sei gemäss Urteil des Bezirksgerichts Prättigau/ Davos vom 10. November 2005 verpflichtet, seinen beiden Söhnen R._ und S._ einen Unterhaltsbeitrag von je Fr. 2'000.-- zuzüglich Ausbildungszulage zu bezahlen. In den Unterhaltsprozessen hätten die Söhne die Krankenkassenprämien geltend gemacht, die ihnen im Rahmen der Unterhaltsbeiträge zugesprochen worden seien. Wenn die Beschwerdegegnerin die Krankenkassenprämien freiwillig bezahle, könne sie ihm gegenüber keinen Anspruch geltend machen. Der vorinstanzliche Entscheid laufe darauf hinaus, dass er die Krankenkassenprämien zweimal bezahlen müsse.
Was die Kosten für den Aufenthalt der älteren Söhne während der Semesterferien im Hause der Beschwerdegegnerin betrifft, macht der Beschwerdeführer geltend, er bezahle monatlich Unterhaltsbeiträge, sodass es den beiden Söhnen in dieser Zeit mangels Auslagen für das Essen möglich sei, der Beschwerdegegnerin die Auslagen für Lebensmittel zu bezahlen.
6.3. Der Beschwerdeführer verkennt jedoch, dass die Krankenkassenprämien im Rahmen der Unterhaltsverfahren der Söhne lediglich als Posten bei der Bedarfsberechnung berücksichtigt worden sind. Ausserdem haben sich die Parteien im betreffenden Berufungsverfahren darauf geeinigt, dass der Beschwerdeführer 70% und die Beschwerdegegnerin 30% des Unterhalts der Kinder zu tragen habe (s. oben, E. 6.1), ohne dass damit ein spezifischer Posten des Kinderunterhalts je einem Elternteil zugeordnet worden wäre.
Das Kantonsgericht ist offensichtlich auch diesbezüglich vom seitens der Beschwerdegegnerin geltend gemachten Betrag ausgegangen und hat diesen gestützt auf die veränderten tatsächlichen Umstände gekürzt. Es hat somit sowohl die Krankenkassenprämien als auch die Kosten für den Aufenthalt der älteren Söhne während der Semesterferien im Hause der Beschwerdegegnerin lediglich als Vergleichsgrösse genommen und gestützt darauf den Beitrag der Beschwerdegegnerin an den Kinderunterhalt (im Sinne eines Postens ihres Bedarfs) berechnet. Auch insoweit erweist sich die Beschwerde als unbegründet und ist sie abzuweisen.
7.
Strittig ist ferner die Höhe des Einkommens der Beschwerdegegnerin.
7.1. Das Kantonsgericht ging von einem Einkommen der Beschwerdegegnerin von Fr. 7'000.-- netto inklusive 13. Monatslohn und Ortszulage aus. Es wich damit von der erstinstanzlichen Einkommensberechnung (Fr. 7'100.--) ab, da seit Juli 2008 die Sozialzulage im Betrag von Fr. 2'640.-- wegfalle, da für den Sohn T._ gegenwärtig keine Unterstützungspflicht mehr bestehe (Art. 29 Abs. 1 des Gesetzes vom 14. Juni 2006 über das Arbeitsverhältnis der Mitarbeitenden des Kantons Graubünden [Personalgesetz, PG/GR; BR 170.400]). Ebenso entfalle seit Juli 2008 die Ausbildungszulage für T._.
7.2. Der Beschwerdeführer macht geltend, der Beschwerdegegnerin sei gemäss definitiver Veranlagungsverfügung Kantons- und Gemeindesteuern 2006 vom 4. Juli 2007 unter den Sozialabzügen je der halbe Abzug für die auswärtige Ausbildung der drei Söhne zugestanden worden. Von den Steuerbehörden sei damit anerkannt, dass die Beschwerdegegnerin die Söhne R._ und S._ unterstütze, wozu die Auffassung des Kantonsgerichts, sie habe mangels Leistung einer Unterstützung keinen Anspruch auf die Besondere Sozialzulage, in klarem Widerspruch stehe. Träfe es zu, dass die Beschwerdegegnerin gemäss Art. 29 Abs. 1 PG/GR keine Unterstützungspflichten gegenüber den Söhnen R._ und S._ habe, hätte ihr bei der Bedarfsberechnung nicht der Grundbetrag von Fr. 1'250.-- (für Personen mit Unterstützungspflichten), sondern nur derjenige von Fr. 1'100.-- (für Personen ohne Unterstützungspflichten) zugestanden werden dürfen. Der Beschwerdeführer rügt, die vorinstanzliche Einkommensberechnung verstosse gegen das Willkürverbot.
7.3. Indes tut der Beschwerdeführer nicht dar, dass die Voraussetzungen für die Besondere Sozialzulage in Bezug auf den Sohn T._ gemäss Art. 29 Abs. 1 PG/GR weiterhin bestehen. Der blosse Hinweis auf den von der Steuerverwaltung akzeptierten Abzug für auswärtige Ausbildung vermag dies keinesfalls zu begründen, zumal es sich dabei um das Steuerjahr 2006 gehandelt hat. Ausserdem begründet der Beschwerdeführer nicht weiter, dass die Kriterien für die Annahme einer Besonderen Sozialzulage gemäss Art. 29 Abs. 1 PG/GR denjenigen einer Unterstützungspflicht entsprechen, welche zu einem Grundbetrag von Fr. 1'250.-- führt. Insofern erweist sich die Beschwerde als ungenügend begründet und ist auf sie nicht einzutreten.
8.
Der Beschwerdeführer wendet sich im Weiteren gegen die vorinstanzliche Erwägung, wonach sich aus der Differenz des Einkommens der Beschwerdegegnerin von Fr. 7'000.-- und ihrem gebührenden Unterhalt von Fr. 9'085.55 eine Unterdeckung von rund Fr. 2'100.-- ergebe und ihre Eigenversorgungskapazität zu verneinen sei. Er macht geltend, die Differenz betrage auch nach der vorinstanzlichen Berechnungsweise lediglich Fr. 2'085.55, sodass der zugesprochene Betrag von Fr. 2'100.-- über der Obergrenze des Ausfalles liege und der Unterhalt daher unangemessen hoch sei.
Dabei verkennt der Beschwerdeführer, dass sowohl der vorinstanzlich berechnete Bedarf der Beschwerdegegnerin als auch ihr ermitteltes Einkommen auf gerundeten und teilweise zu Ungunsten der Beschwerdegegnerin reduzierten Beträgen beruht. Daher hat die Vorinstanz kein Bundesrecht verletzt, wenn sie den Unterhalt in diesem geringen Umfang aufgerundet hat (zum Ermessensspielraum der Vorinstanz s. oben, E. 3).
9.
Schliesslich rügt der Beschwerdeführer, das Kantonsgericht habe im Rahmen der Indexierung des Unterhalts den Indexstand Juli 2008 unzutreffenderweise mit 101.1 statt mit 104.2 Punkten angegeben. Diesbezüglich ist dem Beschwerdeführer Recht zu geben. In diesem Punkt stimmt ihm auch die Beschwerdegegnerin zu und beantragt ebenfalls eine entsprechende Änderung. Da die Anerkennung einer Beschwerde vor Bundesgericht jedoch unbeachtlich ist ( MATTHIAS HÄRRI, in: Basler Kommentar, Bundesgerichtsgesetz, 2008, N. 18 zu <ref-law>, mit Hinweisen), ist das betreffende Rechtsbegehren nicht als gegenstandslos abzuschreiben, sondern die Beschwerde in diesem Punkt gutzuheissen und das Urteil des Kantonsgerichts entsprechend abzuändern.
10.
Zusammenfassend ist die Beschwerde insofern gutzuheissen, als sie sich auf die Indexklausel bezieht. Demgemäss ist Dispositiv Ziff. 3 des Urteils des Kantonsgerichts aufzuheben und insofern abzuändern, als auf den Indexstand von 104.2 Punkten abzustellen ist. Im Übrigen ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Da der Beschwerdeführer vor Bundesgericht hauptsächlich unterlegen ist und die Beschwerdegegnerin den Punkt, in welchem die Beschwerde gutzuheissen ist, anerkannt hat, wird ausschliesslich der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und 68 Abs. 1 BGG). Da die Indexierung des Unterhalts erst vor Kantonsgericht erfolgt ist und auch dem - abstrakt formulierten - Antrag der Beschwerdegegnerin im kantonalen Verfahren entspricht, sind die Kosten des vorangegangenen Verfahrens nicht neu zu verlegen.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen und Dispositiv Ziff. 3 des Urteils des Kantonsgerichts von Graubünden vom 26. August 2008 aufgehoben und durch folgenden Wortlaut ersetzt:
"Die Unterhaltsbeiträge gemäss Ziffer 2 basieren auf dem Landesindex der Konsumentenpreise des Bundesamtes für Statistik per Ende Juli 2008 von 104.2 Punkten (Basis Dezember 2005 = 100 Punkte). Sie sind jährlich auf den 1. Januar, erstmals auf den 1. Januar 2009, nach Massgabe des Indexstandes per November des Vorjahres anzupassen, es sei denn, X._ beweise, dass sein Einkommen nicht im gleichen Verhältnis angestiegen ist. Die Anpassung der Unterhaltsbeiträge erfolgt nach folgender Formel:
neuer UB = alter UB x neuer Index
104.2
Bei einer geringeren Lohnerhöhung werden die Unterhaltsbeiträge in entsprechend tieferem Masse angepasst, während bei unverändertem Lohn eine Anpassung entfällt."
Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 3'500.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Kantonsgericht von Graubünden, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 15. September 2009
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Rapp