Sachverhalt: A. Mit Vertrag vom 13. Oktober 1984 verpachtete der Vater von A._ die in seinem Eigentum befindliche Liegenschaft "X._" in der Gemeinde Y._ an C._. Die Pacht umfasste eine Scheune, eine Schweinescheune, eine Garage und 343 a Wies- und Weideland. Der Pachtzins wurde auf Fr. 3'600.-- jährlich und die Pachtdauer auf 15 Jahre festgesetzt, mit erstmaliger Kündigungsmöglichkeit auf den 1. März 2000. Der Pächter übernahm das damals mit dem Pachtgegenstand verbundene Milchkontingent. Mit Schreiben vom 6. Februar 1999 kündigte der Vater von A._ die Pacht auf Ende Februar 2000. Mit öffentlich beurkundetem Vertrag vom 22. Dezember 1999 übernahm A._ die Liegenschaften per 1. März 2000 von seinem Vater. A._ verlangte sodann von C._ im Zusammenhang mit der Rückgabe des Pachtgegenstandes auch die Rückübertragung des Milchkontingents, was C._ verweigerte. B. B.a Am 6. Februar 2006 klagte A._ gegen C._ beim nach Art. 27 des Pachtvertrages zuständigen Schiedsgericht auf Bezahlung von Schadenersatz im Umfang von Fr. 43'641.--, weil der Pächter die Milchkontingente nicht zurückübertragen hatte. C._ beantragte die Abweisung der Klage und machte widerklageweise Gegenforderungen geltend. Mit Schiedsspruch vom 26. Oktober 2007 wies das Schiedsgericht Klage und Wiederklage ab. B.b Auf Beschwerde von A._ hin hob das Obergericht des Kantons Luzern den Schiedsspruch auf und wies die Sache zur Neubeurteilung im Sinne der Erwägungen an das Schiedsgericht zurück. Mit Schiedsspruch vom 25. August 2011 wies das Schiedsgericht die Klage erneut ab. C. Mit Beschwerde in Zivilsachen beantragt A._ dem Bundesgericht, es sei der Schiedsspruch an das Schiedsgericht zurückzuweisen und diesem Frist zur Berichtigung und Ergänzung zu setzen. Eventuell sei der Schiedsspruch aufzuheben und die Sache an das Schiedsgericht zu neuer Entscheidung zurückzuweisen. C._ beantragt die Abweisung der Beschwerde, soweit Eintreten. Weiter seien die Kosten des obergerichtlichen Verfahrens dem Kläger aufzuerlegen oder die Sache zur Neuverteilung der Kosten an das Obergericht Luzern zurückzuweisen. Das Schiedsgericht beantragt die Abweisung der Beschwerde unter Kostenfolge und überdies die Zusprechung einer Entschädigung an das Schiedsgericht für das bundesgerichtliche Verfahren. Die Parteien haben repliziert und dupliziert.