Sachverhalt:
A.
A.A._ (geb. 1966; Beschwerdeführer) und B.A._ (geb. 1965; Be schwerdegegnerin) heirateten im Jahr 1994. Aus der Ehe gingen keine Kinder hervor. Seit April 2015 leben sie getrennt. Mit Urteil des Kantonsgerichts Appenzell Ausserrhoden vom 22. August 2016 wurden die Parteien geschieden. Umstritten ist nur noch der nacheheliche Unterhalt.
B.
B.a. Mit Trennungsvereinbarung vom 7. Oktober 2015 vereinbarten die Parteien einen Unterhaltsbeitrag zugunsten der Ehefrau von monatlich Fr. 1'700.-- bis zur Rechtskraft der Scheidung.
B.b. Im Scheidungsverfahren beantragte der Beschwerdeführer, es seien keine Unterhaltsbeiträge zuzusprechen. Die Beschwerdegegnerin beantragte einen monatlichen Unterhaltsbeitrag von Fr. 2'950.-- bis zum Erreichen ihres AHV-Alters.
B.c. Das Kantonsgericht verpflichtete den Beschwerdeführer im Scheidungsurteil vom 22. August 2016 zur Leistung monatlicher Unterhaltsbeiträge von Fr. 2'700.-- bis zum Erreichen des AHV-Alters der Ehefrau. Die Gerichtskosten wurden den Parteien hälftig auferlegt und die Parteikosten wettgeschlagen.
C.
C.a. Im Berufungsverfahren vor dem Obergericht des Kantons Appenzell Ausserrhoden erneuerte der Beschwerdeführer seinen Antrag, es seien keine Unterhaltsbeiträge zuzusprechen; eventualiter sei ein Frauenunterhalt von höchstens Fr. 1'000.-- pro Monat zuzusprechen und zwar befristet für die Dauer von fünf Jahren ab Rechtskraft des Scheidungsurteils; mit Kosten- und Entschädigungsfolgen beider Instanzen je nach Ausgang des Berufungsverfahrens. Die Beschwerdegegnerin beantragte die Abweisung der Berufung.
C.b. Mit Urteil vom 5. Februar 2019 hiess das Obergericht die Berufung teilweise gut. Es reduzierte den geschuldeten Unterhaltsbeitrag auf Fr. 2'450.-- monatlich ab Rechtskraft des Scheidungspunktes bis zum Erreichen des AHV-Alters der Beschwerdegegnerin (Ziff. 3 des Urteilsdispositivs). Im Übrigen wies es die Berufung ab.
D.
D.a. Der Beschwerdeführer erhebt mit Eingabe vom 8. August 2019 Beschwerde beim Bundesgericht. Er verlangt, es sei festzustellen, dass er der Beschwerdegegnerin keinen nachehelichen Unterhalt schulde. Eventualiter sei der Unterhaltsbeitrag auf höchstens Fr. 1'000.-- monatlich festzusetzen und zwar befristet für die Dauer von fünf Jahren ab Rechtskraft des Scheidungsurteils. Subeventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Die Gerichtskosten des erst- und zweitinstanzlichen Verfahrens seien entsprechend der Neubemessung des Unterhalts neu zu verteilen und die Parteikosten seien wettzuschlagen. Für das bundesgerichtliche Verfahren verlangt er von der Beschwerdegegnerin, die überdies für die Gerichtskosten aufzukommen habe, eine Parteientschädigung von Fr. 5'000.--. Weiter verlangt der Beschwerdeführer in Bezug auf Ziff. 3 des obergerichtlichen Entscheids resp. der Nachforderung allenfalls zu wenig bezahlter Unterhaltsbeiträge die aufschiebende Wirkung.
D.b. Das Obergericht verzichtete auf eine Stellungnahme zum Gesuch um aufschiebende Wirkung. Die Beschwerdegegnerin verlangte mit Eingabe vom 2. September 2019 die Abweisung des Gesuchs.
D.c. Der Präsident der II. zivilrechtlichen Abteilung hat der Beschwerde mit Verfügung vom 6. September 2019 für die verfallenen, d.h. für die bis und mit Juni 2019 fällig gewordenen, Unterhaltsbeiträge die aufschiebende Wirkung gewährt, nicht aber für den laufenden Unterhalt.
D.d. Weiter hat das Bundesgericht die Akten, aber keine Vernehmlassungen in der Sache eingeholt.
Erwägungen:
1.
1.1. Angefochten ist ein Endentscheid (Art. 90 BGG) einer letzten kantonalen Instanz, die als oberes Gericht (Art. 75 BGG) über den nachehelichen Unterhalt gemäss Art. 125 ZGB entschieden hat. Strittig ist eine vermögensrechtliche Zivilsache (Art. 72 Abs. 1 BGG). Der erforderliche Streitwert ist erreicht (Art. 74 Abs. 1 Bst. b sowie Art. 51 Abs. 1 Bst. a BGG). Die Beschwerde in Zivilsachen ist das zutreffende Rechtsmittel. Der Beschwerdeführer ist gemäss Art. 76 Abs. 1 BGG zur Beschwerde berechtigt. Auf die fristgerecht erhobene (Art. 46 Abs. 1 lit. b BGG i.V.m. Art. 100 Abs. 1 BGG) Beschwerde ist grundsätzlich einzutreten.
1.2. In rechtlicher Hinsicht sind alle Rügen gemäss Art. 95 f. BGG zulässig. Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG) und prüft dessen Anwendung frei, allerdings unter Vorbehalt der allgemeinen Begründungsanforderungen (Art. 42 Abs. 1 und 2 BGG) und grundsätzlich nur für die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 142 III 364 E. 2.4 S. 367 f.).
Strengere Anforderungen gelten, wenn die Verletzung von Grundrechten gerügt wird (Art. 106 Abs. 2 BGG). Eine Verfassungsrüge muss in der Beschwerde präzise vorgebracht und begründet werden (BGE 142 III 364 E. 2.4 S. 368; 134 I 83 E. 3.2 S. 88). Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 141 I 36 E. 1.3 S. 41; 134 I 83 E. 3.2 S. 88; je mit Hinweisen).
1.3. Im Übrigen legt das Bundesgericht seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Der Beschwerdeführer kann die Feststellung des Sachverhalts rügen, wenn diese offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 140 III 264 E. 2.3 S. 266 mit Hinweisen).
2.
2.1. Die Vorinstanz ermittelte den nachehelichen Unterhalt nach der zweistufigen Methode. Der Beschwerdeführer verfügt gemäss Feststellung der Vorinstanz über ein monatliches Nettoeinkommen von Fr. 6'700.-- (inkl. 13. Monatslohn). Der Beschwerdegegnerin rechnete die Vorinstanz ein (hypothetisches) Nettoeinkommen von Fr. 2'140.-- pro Monat an, ausgehend von einem als zumutbar erachteten Pensum von 70 %. Die erste Instanz war hier, ebenfalls hypothetisch, noch von einem zumutbaren Pensum von 50 % mit monatlichem Nettolohn von Fr. 1'530.-- ausgegangen. Den Einkommen stellte die Vorinstanz den Bedarf des Beschwerdeführers von Fr. 3'561.-- sowie einen solchen der Beschwerdegegnerin von Fr. 3'877.-- entgegen.
Die Vorinstanz erwog, es sei von einer lebensprägenden Ehe auszugehen. Dies insbesondere angesichts der langen Ehedauer von 20 Jahren sowie aufgrund der Tatsache, dass die Beschwerdegegnerin nach der Heirat nur noch zeitweise und in geringeren Pensen arbeitstätig gewesen sei, und seit 2010 gar nicht mehr gearbeitet habe. Ihr stehe wie dem Beschwerdeführer das Recht zu, am während der Ehe gelebten Lebensstandard anknüpfen zu können und am Überschuss (hälftig) zu partizipieren. Die konkrete Berechnung ergab so einen gebührenden Unterhalt von monatlich Fr. 4'579.-- (Total Nettoeinkommen von Fr. 8'842.-- abzüglich total Bedarf von Fr. 7'438.-- = Überschuss von Fr. 1'404.--, wovon der Beschwerdegegnerin die Hälfte, d.h. Fr. 702.-- zustünde, was zu ihrem Bedarf von Fr. 3'877.-- zu addieren sei). Ihr gebührender Unterhalt abzüglich des ihr angerechneten hypothetischen Einkommens führte zum monatlichen Unterhaltsbeitrag von Fr. 2'450.--.
2.2. Der Beschwerdeführer rügt die Verletzung von Bundesrecht gemäss Art. 95 lit. a BGG (insb. Art. 125 ZGB und Art. 8 ZGB) sowie eine offensichtlich unrichtige und willkürliche Feststellung des Sachverhalts im Sinne von Art. 97 Abs. 1 BGG.
Er kritisiert vorab, die Vorinstanzen seien zu Unrecht von einer lebensprägenden Ehe ausgegangen. Die Ehefrau habe vor wie nach der Heirat mehrere Jahre gearbeitet und ihre Arbeit gerade nicht ehebedingt aufgegeben. Zudem habe er vor der Vorinstanz dargelegt, dass sich die Beschwerdegegnerin wenig an der Hausarbeit beteiligt habe, ja aufgrund ihres Alkoholmissbrauchs regelmässig nicht in der Lage gewesen sei, den Haushalt zu besorgen. Diesen unstreitigen Sachverhalt übergehe die Vorinstanz und gehe von einer einvernehmlich gelebten Rollenverteilung und Lebensführung aus, die es aber gerade nicht gegeben habe. Trotz 20-jähriger Ehe liege keine lebensprägende Ehe vor.
2.2.1. Die Vorinstanz hat festgestellt, die Beschwerdegegnerin habe eine zweijährige kaufmännische Berufslehre absolviert und bis zur Heirat gearbeitet. Die ersten zwei Ehejahre habe sie nicht gearbeitet, dann sei sie von 1996 bis 1998 als Verkäuferin bei der C._ AG angestellt gewesen, gefolgt von einer weiteren Berufspause. 2001 bis 2003 habe sie als Autokosmetikerin gearbeitet, erneut gefolgt von einer Berufspause, bis sie letztmals vom 1. August 2009 bis 31. Mai 2010 als Verkäuferin bei einem Dorf-Kiosk gearbeitet habe. Seit 2010 arbeite sie wieder nicht mehr. Insgesamt habe sie nur fünf der total 20 Ehejahre gearbeitet. Der Beschwerdeführer bestreitet diese Feststellungen nicht.
2.2.2. Nach dem Gesagten steht fest, dass die Beschwerdegegnerin mit der Heirat ihre Arbeitstätigkeit aufgegeben hat und danach nur noch zeitweise, offenbar in Teilzeitpensen und nicht mehr in ihrem erlernten Beruf arbeitete. Infolgedessen ist nicht zu beanstanden, wenn die Vorinstanz davon ausging, dass die Beschwerdegegnerin ihre Berufstätigkeit aufgrund der Ehe stark eingeschränkt hat und die gelebte Rollenteilung mit dem Beschwerdeführer als Haupt- oder sogar Alleinverdiener (zumindest zu Beginn) einem gemeinsamen Entschluss entsprach. Eine lebensprägende Ehe ist zu bejahen. Wie weit die behauptete Alkoholerkrankung der Beschwerdegegnerin dazu beitrug, dass sie später keine Arbeitstätigkeit mehr aufnahm, kann offen gelassen werden. So oder anders vermöchte die Erkrankung nichts am lebensprägenden Charakter der Ehe zu ändern (vgl. zum Ganzen Urteil 5A_800/2016 vom 18. August 2017 E. 6.3).
2.3. Der Beschwerdeführer beanstandet weiter, die Vorinstanz habe das der Beschwerdegegnerin angerechnete hypothetische Einkommen zu tief angesetzt. Dem Beschwerdeführer kann nicht gefolgt werden.
Die Vorinstanz hat ein Pensum von 70 % für zumutbar und möglich erachtet. Die Beschwerdegegnerin wird in diesem Jahr 55. Sie hat infolge der Ehe und der von den Parteien gewählten Rollenteilung ihre Arbeitstätigkeit reduziert resp. über weite Strecken gar nicht mehr auswärts gearbeitet (vgl. E. 2.2.1 f. hiervor). Schon aus diesen beiden Gründen (Alter, Rollenteilung und daraus resultierende ehebedingte Nachteile auf dem Berufsmarkt) hat die Vorinstanz zu Recht ein höheres Arbeitspensum für nicht zumutbar erachtet. Überdies ist angesichts des Arguments des Beschwerdeführers, die Beschwerdegegnerin habe aufgrund ihres Alkoholkonsums den Haushalt nicht erledigen können, auch in tatsächlicher Hinsicht nicht nachvollziehbar, wie ihr eine Arbeitstätigkeit von über 70 % möglich sein soll. Dass der für das 70 %-Pensum eingesetzte (hypothetische) Betrag falsch berechnet worden sei, bringt er nicht vor. Damit bleibt es beim von der Vorinstanz angenommenen hypothetischen Nettoinkommen von Fr. 2'140.-- pro Monat.
2.4. Der Beschwerdeführer wehrt sich sodann dagegen, dass die Vorinstanz der Beschwerdegegnerin eine hälftige Beteiligung am Überschuss zugesprochen hat. Er begründet dann allerdings nicht, weshalb die von der Vorinstanz angewandte Berechnungsmethode im vorliegenden Fall grundsätzlich nicht zulässig sein sollte. Er kritisiert vielmehr, die Vorinstanz habe die Aufwendungen für die von ihm übernommenen 16 Katzen von monatlich über Fr. 1'700.-- nicht berücksichtigt. Er ist der Ansicht, wenn die Ausgaben für die Tiere nicht im Rahmen der Bedarfsberechnung berücksichtigt würden, seien diese im Rahmen der Überschussbeteiligung angemessen zu berücksichtigen. Er folgert daraus sinngemäss, die Vorinstanz habe Bundesrecht verletzt, weil sie weder das Eine noch das Andere getan habe.
2.4.1. Aus dem angefochtenen Entscheid geht hervor, dass der Bedarf des Beschwerdeführers von Fr. 3'561.-- so bereits von der ersten Instanz ermittelt worden und vor der Vorinstanz unbestritten geblieben ist, weshalb darauf abgestellt werden könne. Kosten für die Katzen werden nicht erwähnt. Auch wo die Vorinstanz die Berechnung des Überschusses und dessen Teilung vornimmt, findet sich keine Erwähnung von Vorbringen des Beschwerdeführers, dass er hier die Berücksichtigung von Tierkosten verlangt hätte. Genau gleich verhält es sich, soweit ersichtlich, bereits im erstinstanzlichen Urteil vom 22. August 2016 (vgl. Sachverhalt lit. B.c). Tierkosten sind dort weder im Bedarf vermerkt noch wurden solche an anderer Stelle bei der Berechnung des Unterhaltsanspruchs aufgeführt. Es erfolgte wie vor Vorinstanz eine hälftige Überschussteilung.
2.4.2. Die Beschwerde ist nach Art. 75 Abs. 1 BGG zulässig gegen Entscheide letzter kantonaler Instanzen. Entscheiden diese nach dem Grundsatz von Art. 75 Abs. 2 BGG als Rechtsmittelinstanzen, ist die Ausschöpfung des kantonalen Instanzenzugs unerlässliche Voraussetzung für die Zulässigkeit der Beschwerde ans Bundesgericht. Der Begriff der Letztinstanzlichkeit bedeutet, dass der kantonale Instanzenzug nicht nur formell durchlaufen werden soll, sondern dass die Rügen, die dem Bundesgericht unterbreitet werden, soweit möglich schon vor Vorinstanz vorgebracht werden müssen (BGE 143 III 290 E. 1.1 S. 293; Urteile 5A_847/2018 vom 6. Dezember 2019 E. 2.2; 5A_727/2018 vom 22. August 2019 E. 1.6).
Der Beschwerdeführer zeigt vor Bundesgericht nicht auf, dass er vor der Vorinstanz Tierkosten geltend gemacht hätte (sei es im Bedarf oder als Vorabzug bei allfälliger Teilung des Überschusses). Hat es der Beschwerdeführer aber vor den Vorinstanzen verpasst, Auslagen für die Katzen geltend zu machen, kann er dies vor Bundesgericht nicht nachholen. Auf die Rüge ist mangels Ausschöpfung des Instanzenzugs nicht einzutreten (vgl. Urteil 5A_847/2018 vom 6. Dezember 2019 E. 4.2.2).
2.5. Weiter macht der Beschwerdeführer geltend, die Vorinstanz habe den Grundsatz des Vorrangs der Eigenversorgungskapazität resp. Art. 125 ZGB verletzt, indem sie der Beschwerdegegnerin trotz Erhöhung des zumutbaren Arbeitspensums von 50 auf 70 % unverändert einen Betrag für die Altersvorsorge von Fr. 300.-- angerechnet habe. Mit dem höheren hypothetischen Einkommen könne sie auch in erhöhtem Masse selbst ihren Altersvorsorgeunterhalt gewährleisten. Der Vorsorgeunterhalt sei auf maximal Fr. 225.-- festzusetzen.
2.5.1. Der dem Ehegatten geschuldete nacheheliche Unterhalt im Sinne von Art. 125 Abs. 1 ZGB schliesst eine angemessene Altersvorsorge ein (sog. Vorsorgeunterha lt; zur Methodik vgl. BGE 135 III 158 E. 4 S. 158 ff., wobei auch andere Methoden zulässig sind: Urteile 5A_395/2009 vom 8. März 2010 E. 6.1; 5A_615/2009 vom 20. Januar 2010 E. 6.3; vgl. auch Urteil 5A_310/2010 vom 19. November 2010 E. 7.4). Im Vordergrund steht, die Altersvorsorge auf Grund der für die Ehegatten massgebenden Lebenshaltung zu bemessen, d.h. die Lebenshaltung, auf deren Fortführung der unterhaltsberechtigte Ehegatte grundsätzlich Anspruch hat, in ein fiktives Bruttoeinkommen umzurechnen und darauf die Arbeitgeber- und Arbeitnehmerbeiträge zu berechnen, die zusammen, erweitert um eine allfällige Steuerbelastung, den Vorsorgeunterhalt ergeben. Die Berechnungsart gestattet es, die angemessene Altersvorsorge entweder direkt zu bestimmen oder die dafür erforderlichen und bloss geschätzten Beträge auf ihre Angemessenheit hin zu überprüfen. Für ihre Anwendung ist das konkrete Vorsorgeverhältnis massgebend und zu berücksichtigen. Anders als bei der Teilung der in der Vergangenheit während der Ehe erworbenen beruflichen Vorsorge (Art. 122 ZGB) geht es bei der unterhaltsrechtlichen Altersvorsorge nicht um eine rein rechnerische Aufgabe, sondern um die Beurteilung der künftigen, allenfalls nur beschränkt vorhersehbaren Entwicklung der Lebensverhältnisse. Vereinfachungen sind notwendig und zulässig. Es bleibt eine Ermessensfrage, die das Sachgericht unter Berücksichtigung sämtlicher Umstände des konkreten Einzelfalls nach Recht und Billigkeit zu beantworten hat (vgl. zum Ganzen B GE 135 III 158 E. 4.4 S. 160 f.; Urteile 5A_310/2010 vom 19. November 2010 E. 7.4.5; 5A_395/2009 vom 8. März 2010 E. 6.1; je mit Hinweisen; zuletzt im Grundsatz bestätigt im Urteil 5A_637/2018 vom 22. Mai 2019 E. 7.3).
2.5.2. We nn die Vorinstanz - ohne dies ausdrücklich zu sagen - befand, es rechtfertige sich bei erhöhtem Pensum ein gleicher Vorsorgeunterhalt, stellt dies angesichts des der Vorinstanz zukommenden Ermessens (vgl. E. 2.5.1) keine Bundesrechtsverletzung dar. Die Rüge ist ebenfalls abzuweisen.
2.6. Der Beschwerdeführer rügt auch den von der Vorinstanz auf die Rechtskraft des Scheidungspunktes festgsetzten Beginn des nachehelichen Unterhalts. Er möchte den nachehelichen Unterhalt erst bezahlen, wenn auch über sämtliche Nebenfolgen der Scheidung rechtskräftig entschieden ist.
2.6.1. Zur Begründung führt der Beschwerdeführer aus, mit Parteivereinbarung vom 7. Oktober 2017/19. Januar 2018 hätten die Parteien vereinbart, dass er der Beschwerdegegnerin "bis zum Abschluss des Scheidungsverfahrens" einen monatlichen Unterhaltsbetrag von Fr. 1'700.-- zu bezahlen habe. Beim Abschluss der Vereinbarung vom 7. Oktober 2017 habe das erstinstanzliche Urteil vom 22. August 2016 bereits in begründeter Form vorgelegen und dieses sei im Scheidungspunkt rechtskräftig gewesen. Damit sei klar, dass die Parteien nicht die Rechtskraft des Scheidungspunktes gemeint hätten, da sie ansonsten das Datum fixiert hätten. Die Vorinstanz übergehe diese Vereinbarung und den darin vorgesehenen Beginn des nachehelichen Unterhalts willkürlich und in Verletzung von Bundesrecht (Dispositionsmaxime).
2.6.2. Zur Ausgangslage ist hinzuzufügen, dass der von den Parteien vereinbarte Trennungsunterhalt von Fr. 1'700.-- wesentlich tiefer war, als der vom Gericht festgesetzte nacheheliche Unterhaltsbeitrag (Fr. 2'450.--). Insofern hat der Beschwerdeführer ein Interesse an der Beurteilung der Frage, da er bei einer Gutheissung wesentlich länger nur den tieferen Trennungsunterhalt bezahlen müsste.
Aus dem angefochtenen Urteil und den Akten ergibt sich, dass die erste Vereinbarung vom 7. Oktober 2015 (und nicht aus dem Jahr 2017) datiert, also noch vor Fällung des erstinstanzlichen Scheidungsurteils. Insofern geht die Argumentation des Beschwerdeführers fehl.
Der am 19. Januar 2018 unterzeichnete Vergleich zielte sodann darauf ab, das in der Scheidung vorerst auch umstrittene Güterrecht aussergerichtlich zu regeln, wie die Parteien expliziert festhielten; hingegen werde der Rechtsstreit um den nachehelichen Unterhalt "von dieser Vereinbarung nicht berührt" (vgl. Ziff. I.2. der Vereinbarung). Weiter präzisierten die Parteien, dass "damit nichts hinsichtlich des nachehelichen Unterhalts bestimmt oder präjudiziert wird"; Umfang und Dauer des nachehelichen Unterhalts würden im noch hängigen Berufungsverfahren vor dem Obergericht festgelegt werden (Ziff. II.9. der Vereinbarung). Zwar lässt sich derselben Ziffer der Vereinbarung auch entnehmen, dass der Ehemann weiterhin den Unterhaltsbetrag von Fr. 1'700.-- bis zum Abschluss des Scheidungsverfahrens bezahle. Das kann aber ohne Weiteres dahin gehend verstanden werden, dass der Beschwerdeführer bis zum Entscheid über die Höhe des nachehelichen Unterhalts vorsorglich weiter den bisherigen Betrag bezahlen werde, ohne dass damit der Zeitpunkt festgelegt wurde, ab wann der festzusetzende nacheheliche Unterhalt geschuldet ist (rückwirkend ab Rechtskraft des Scheidungspunkts oder ab dem Entscheid über die Höhe des nachehelichen Unterhalts). Die Parteien haben den nachehelichen Unterhalt gerade von ihrer (güterrechtlichen) Vereinbarung ausgenommen und dem Gericht zur Regelung überlassen. Damit kann dem Obergericht weder Willkür noch eine Verkennung der Dispositionsmaxime vorgeworfen werden, wenn es den nachehelichen Unterhalt ab Rechtskraft des Scheidungspunktes zugesprochen hat. Andere Gründe, weshalb im konkreten Fall die Ansetzung des Anspruchsbeginns auf die Teilrechtskraft nicht statthaft sein sollte, fügt der Beschwerdeführer nicht an. Die Rüge ist abzuweisen.
2.7. Schliesslich beanstandet der Beschwerdeführer die Dauer der von der Vorinstanz angeordneten Unterhaltszahlungen (bis zum Eintritt der Beschwerdegegnerin in das AHV-Alter; voraussichtlich Ende Mai 2029). Die Vorinstanz habe festgehalten, die Aussicht auf die Wiedererlangung der Eigenversorgungskapazität habe im Vordergrund zu stehen. Das sei nicht zu beanstanden. Dann habe die Vorinstanz aber willkürlich gesundheitliche Probleme angenommen, aufgrund derer nicht davon ausgegangen werden könne, dass die Beschwerdegegnerin je wieder ihren Bedarf aus eigener Kraft werde decken können.
Auch diese Rüge ist abzuweisen, soweit überhaupt darauf eingetreten werden kann. Der Beschwerdeführer behauptet nämlich nicht einmal, dass sich die Eigenversorgungskapazität der Beschwerdegegnerin verbessert hätte oder sich in absehbarer Zeit - und gegebenenfalls ab wann - verbessern könnte. Dass die von der Vorinstanz festgestellten gesundheitlichen Probleme (Einschränkung der Beweglichkeit des Handgelenks infolge eines Vorderarmbruchs; chronische Beinschmerzen und -Schwellungen; hinzu kommt die von ihm selbst ins Spiel gebrachte Alkoholerkrankung; vgl. auch E. 2.3) nicht bestehen würden, legt er ebenfalls nicht dar.
2.8. Zusammengefasst ist die Beschwerde abzuweisen, soweit darauf eingetreten wird. Damit entfällt die vom Beschwerdeführer für den Fall der Gutheissung beantragte Neuverteilung der Kosten und Entschädigungen im kantonalen Verfahren.
3.
Bei diesem Ausgang des Verfahrens muss der Beschwerdeführer für die Gerichtskosten aufkommen (Art. 66 Abs. 1 BGG). Der Beschwerdegegnerin ist für die Vernehmlassung zur aufschiebenden Wirkung keine Parteientschädigung zuzusprechen, da sie mit ihrem Antrag nur teilweise durchdrang (Art. 68 Abs. 1 und 2 BGG).
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht Appenzell Ausserrhoden, 1. Abteilung, schriftlich mitgeteilt.
Lausanne, 5. Februar 2020
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Die Gerichtsschreiberin: Friedli-Bruggmann