Sachverhalt: A. Mit Vertrag vom 6. Dezember 1998 übernahm B._ (Beschwerdegegner) gegen Zahlung von Fr. 20'000.-- ein von A._ (Beschwerdeführer) demontiertes historisches Holzhaus in C._, welches er an einem anderen Ort wieder aufzubauen gedachte. Nachdem sich der Abbruch verzögert hatte und der Beschwerdeführer nach der Demontage einen Teil des Kaufgegenstandes auf einen Lagerplatz in D._ gebracht hatte, schlossen die Parteien am 13. Januar 1999 eine zusätzliche Vereinbarung, in welcher sich der Beschwerdegegner zur Zahlung von weiteren Fr. 9'000.-- verpflichtete sowie zur Abholung des Kaufgegenstandanteils in D._ binnen Monatsfrist und in C._ bis zum 15. Januar 1999. Er nahm den Kaufgegenstand in der Folge aber nicht entgegen mit der Begründung, die Sache sei durch das Verhalten des Beschwerdeführers unbrauchbar geworden, weshalb er vom Vertrag zurückgetreten sei. Aus diesem Grund verlangte er vom Beschwerdeführer die bereits geleisteten Fr. 20'000.-- zuzüglich Zins zurück sowie eine Umtriebsentschädigung von Fr. 400.-- nebst Aufhebung des Rechtsvorschlages in der eingeleiteten Betreibung. B. Während das Amtsgericht Sursee die Klage mit Urteil vom 14. Februar 2008 abwies, hiess das Obergericht des Kantons Luzern die Klage teilweise gut und verpflichtete den Beschwerdeführer, dem Beschwerdegegner Fr. 20'000.-- nebst Zins zu bezahlen. Mit subsidiärer Verfassungsbeschwerde beantragt der Beschwerdeführer dem Bundesgericht, das angefochtene Urteil aufzuheben und das Urteil des Amtsgerichts Sursee zu bestätigen. Sofern das Bundesgericht nicht selbst entscheide, sei die Sache an das Obergericht zur Neubeurteilung zurückzuweisen. Dem Gesuch des Beschwerdeführers um aufschiebende Wirkung gab das Bundesgericht statt. Der Beschwerdegegner und das Obergericht schliessen im Wesentlichen auf kostenfällige Abweisung der Beschwerde.