Sachverhalt: A. Y._ (geb. 1962) und X._ (geb. 1961) heirateten am xx.xx.1982. Sie wurden Eltern von drei inzwischen volljährigen Kindern (geb. 1983, 1985 und 1993). Im Frühjahr 2010 trennten sich die Ehegatten. Die Folgen des Getrenntlebens wurden durch Eheschutzentscheid des Kreisgerichts Werdenberg-Sarganserland vom 28. Oktober 2010 geregelt. Das Kreisgericht verpflichtete X._ zu Unterhaltszahlungen an Y._. Am 26. November 2010 reichten die Ehegatten ein gemeinsames Scheidungsbegehren ein. Mit Entscheid vom 26. Juni 2012 schied das Kreisgericht Werdenberg-Sarganserland die Ehe und regelte die Nebenfolgen der Scheidung. Den Antrag von Y._ auf nachehelichen Unterhalt wies es ab. B. Y._ erhob am 22. Oktober 2012 Berufung an das Kantonsgericht St. Gallen. Sie verlangte, X._ sei zu verpflichten, ihr mit Wirkung ab Rechtskraft des Scheidungsurteils monatlich im Voraus indexierte Unterhaltsbeiträge zu bezahlen, nämlich in der Höhe von Fr. 1'815.-- bis 30. Juni 2013 und in der Höhe von Fr. 2'288.50 vom 1. Juli 2013 bis 30. April 2026 (Eintritt von X._ ins ordentliche AHV-Alter). Mit Entscheid vom 21. August 2013 sprach das Kantonsgericht Y._ einen monatlichen, indexierten Unterhaltsbeitrag von Fr. 1'000.-- bis zum Eintritt von X._ ins ordentliche AHV-Alter zu. C. Am 27. September 2013 hat X._ (Beschwerdeführer) Beschwerde in Zivilsachen erhoben. Er verlangt die Aufhebung des angefochtenen Urteils und die Abweisung des Begehrens von Y._ (Beschwerdegegnerin) auf Leistung von nachehelichem Unterhalt. Zudem ersucht er um aufschiebende Wirkung. Das Kantonsgericht hat auf Stellungnahme zum Gesuch um aufschiebende Wirkung verzichtet. Die Beschwerdegegnerin hat am 25. Oktober 2013 um Abweisung des Gesuchs ersucht. Mit Präsidialverfügung vom 30. Oktober 2013 ist der Beschwerde aufschiebende Wirkung für die bis und mit August 2013 geschuldeten Unterhaltsbeiträge zuerkannt worden. Im Übrigen ist das Gesuch abgewiesen worden. Das Bundesgericht hat die Akten beigezogen, in der Sache jedoch keine Vernehmlassungen eingeholt. Gleichwohl hat die Beschwerdegegnerin in ihrer Eingabe vom 25. Oktober 2013 unaufgefordert Abweisung der Beschwerde beantragt.