Sachverhalt: A. A.A._ (geb. 1961; Beschwerdeführer) und B.A._ (geb. 1962; Beschwerdegegnerin) heirateten 1989. Sie sind die Eltern eines mittlerweile volljährigen Sohnes (geb. 1994). Im Dezember 2009 haben die Ehegatten den gemeinsamen Haushalt aufgehoben und am 10. Februar 2015 erhob B.A._ Scheidungsklage beim Bezirksgericht Aarau. Mit Entscheid vom 16. März 2016 schied das Bezirksgericht die Ehe und regelte die Nebenfolgen. Soweit hier interessierend verneinte es einen Unterhaltsanspruch von B.A._. B. Gegen diesen Entscheid reichte B.A._ soweit den nachehelichen Unterhalt betreffend am 23. September 2016 Berufung beim Obergericht des Kantons Aargau ein. Mit Entscheid vom 2. Mai 2017 (eröffnet am 3. August 2017) hiess das Obergericht die Berufung teilweise gut und verpflichtete A.A._ zu monatlichen Unterhaltszahlungen von Fr. 2'270.-- bis zu seinem 65. Altersjahr. C. Mit Beschwerde in Zivilsachen vom 14. September 2017 ist A.A._ an das Bundesgericht gelangt. Er beantragt, es sei der Entscheid des Obergerichts aufzuheben, die Berufung gegen das Urteil des Bezirksgerichts abzuweisen und damit das erstinstanzliche Urteil zu bestätigen. Das Bundesgericht hat die Akten des kantonalen Verfahrens, indes keine Vernehmlassungen eingeholt.