Sachverhalt: A. X._ (1953) und Y._ (1954) heirateten am 24. Juni 1983. Sie haben die gemeinsamen Kinder A._ (1983) und B._ (1987). Seit Sommer 2005 leben sie getrennt. B. Gestützt auf das gemeinsame Scheidungsbegehren vom 4. September 2006 schied das Kantonsgericht von Appenzell Ausserrhoden mit Urteil vom 14. April 2008 die Ehe der Parteien. Es genehmigte die konventionsweise vorgenommene güterrechtliche Auseinandersetzung und Teilung der beruflichen Vorsorge. Mit Bezug auf den strittigen nachehelichen Unterhalt verpflichtete es den Ehemann zu monatlichen Zahlungen von Fr. 800.-- ab Rechtskraft des Scheidungsurteils bis Juli 2018. Im Appellationsverfahren verlangte die Ehefrau einen monatlichen Unterhaltsbeitrag von Fr. 1'225.--, während der Ehemann das Begehren stellte, es sei von der Festsetzung nachehelichen Unterhaltes abzusehen. Mit Urteil vom 23. März 2009 bestätigte das Obergericht des Kantons Appenzell Ausserrhoden den nachehelichen Unterhalt von Fr. 800.-- bis Juli 2018. C. Gegen dieses Urteil hat X._ am 14. September 2009 eine Beschwerde in Zivilsachen eingereicht mit den Begehren um dessen Aufhebung und Abweisung des Begehrens um nachehelichen Unterhalt. Es wurden keine Vernehmlassungen eingeholt.