Sachverhalt: A. Y._ (geb. 1960) und X._ (geb. 1956) heirateten am 15. September 1989. Der Ehe entsprossen die gemeinsamen Töchter A._ (geb. 1990) und B._ (geboren 1994). Am 26. April 2007 erfolgte die Trennung. Nach Durchführung eines Eheschutzverfahrens reichte die Ehefrau am 10. Juni 2009 beim Bezirksgericht Arlesheim die Scheidungsklage ein. Mit Urteil vom 7. Dezember 2010 schied dieses die Ehe. Es verpflichtete den Ehemann, soweit vorliegend relevant, an die Ehefrau ab Rechtskraft des Urteils bis zum 31. Dezember 2011 monatlich im Voraus Fr. 4'500.-- Unterhalt zu leisten und danach bis zum 31. Dezember 2020 Fr. 2'500.-- (jeweils indexiert). B. Gegen dieses Urteil erklärten beide Ehegatten mit Eingaben vom 15. bzw. 17. Dezember 2010 Appellation. Mit Urteil vom 24. April 2012 wies das Kantonsgericht Basel-Landschaft die Appellation des Ehemannes vollumfänglich ab und hiess diejenige der Ehefrau teilweise gut, indem es den Ehemann verpflichtete, der Ehefrau bis und mit Juni 2012 Fr. 5'000.-- und danach bis zum 31. Dezember 2020 Fr. 4'000.-- zu bezahlen. Im Übrigen bestätigte es das erstinstanzliche Urteil, soweit an der Appellation festgehalten wurde. Dabei ging die Vorinstanz von einem Monatseinkommen des Ehemannes von Fr. 18'000 - Fr. 20'000.-- aus sowie von einem Bedarf von Fr. 14'462.-- (wovon seine Arbeitgeberin ca. Fr. 2'878.75 begleicht). Der Ehefrau rechnete die Vorinstanz ein hypothetisches Einkommen von monatlich Fr. 2'000.-- an bei einem Bedarf von Fr. 6'000.--. C. Mit Beschwerde in Zivilsachen vom 25. Juni 2012 gelangt X._ (nachfolgend: Beschwerdeführer) an das Bundesgericht und verlangt, das angefochtene Urteil sei dahin gehend abzuändern, dass er der Ehefrau monatlich im Voraus für die Dauer eines Jahres ab Rechtskraft des Scheidungsurteils einen Unterhaltsbeitrag von Fr. 2'500.-- zu bezahlen habe. Es wurden die Akten, aber keine Vernehmlassungen eingeholt.