Sachverhalt:
A. Mit Vertrag vom 13. Oktober 1984 verpachtete der Vater von A._ die in seinem Eigentum befindliche Liegenschaft "X._" in der Gemeinde Y._ an C._. Die Pacht umfasste eine Scheune, eine Schweinescheune, eine Garage und 343 a Wies- und Weideland. Der Pachtzins wurde auf Fr. 3'600.-- jährlich und die Pachtdauer auf 15 Jahre festgesetzt, mit erstmaliger Kündigungsmöglichkeit auf den 1. März 2000. Der Pächter übernahm das damals mit dem Pachtgegenstand verbundene Milchkontingent.
Mit Schreiben vom 6. Februar 1999 kündigte der Vater von A._ die Pacht auf Ende Februar 2000. Mit öffentlich beurkundetem Vertrag vom 22. Dezember 1999 übernahm A._ die Liegenschaften per 1. März 2000 von seinem Vater.
A._ verlangte sodann von C._ im Zusammenhang mit der Rückgabe des Pachtgegenstandes auch die Rückübertragung des Milchkontingents, was C._ verweigerte.
B. B.a Am 6. Februar 2006 klagte A._ gegen C._ beim nach Art. 27 des Pachtvertrages zuständigen Schiedsgericht auf Bezahlung von Schadenersatz im Umfang von Fr. 43'641.--, weil der Pächter die Milchkontingente nicht zurückübertragen hatte. C._ beantragte die Abweisung der Klage und machte widerklageweise Gegenforderungen geltend.
Mit Schiedsspruch vom 26. Oktober 2007 wies das Schiedsgericht Klage und Wiederklage ab.
B.b Auf Beschwerde von A._ hin hob das Obergericht des Kantons Luzern den Schiedsspruch auf und wies die Sache zur Neubeurteilung im Sinne der Erwägungen an das Schiedsgericht zurück.
Mit Schiedsspruch vom 25. August 2011 wies das Schiedsgericht die Klage erneut ab.
C. Mit Beschwerde in Zivilsachen beantragt A._ dem Bundesgericht, es sei der Schiedsspruch an das Schiedsgericht zurückzuweisen und diesem Frist zur Berichtigung und Ergänzung zu setzen. Eventuell sei der Schiedsspruch aufzuheben und die Sache an das Schiedsgericht zu neuer Entscheidung zurückzuweisen.
C._ beantragt die Abweisung der Beschwerde, soweit Eintreten. Weiter seien die Kosten des obergerichtlichen Verfahrens dem Kläger aufzuerlegen oder die Sache zur Neuverteilung der Kosten an das Obergericht Luzern zurückzuweisen.
Das Schiedsgericht beantragt die Abweisung der Beschwerde unter Kostenfolge und überdies die Zusprechung einer Entschädigung an das Schiedsgericht für das bundesgerichtliche Verfahren.
Die Parteien haben repliziert und dupliziert.

Erwägungen:
1. Das Schiedsgericht ist 2006 und damit vor dem Inkrafttreten der Schweizerischen Zivilprozessordnung (ZPO; SR 272) bestellt worden. Es hat seinen ersten Entscheid noch unter der Geltung des Konkordats über die Schiedsgerichtsbarkeit vom 27. März 1969 (aKSG) getroffen. Entsprechend hatte der Kläger beim Obergericht des Kantons Luzern Nichtigkeitsbeschwerde gemäss Art. 36 aKSG erhoben und einen Entscheid unter dem alten Recht erwirkt. Erst der folgende Entscheid des Schiedsgerichts erging dann nach Inkrafttreten der Schweizerischen ZPO. <ref-law> sieht nunmehr in Verbindung mit <ref-law> die Beschwerde an das Bundesgericht vor. Wohl ist ein im Zeitpunkt des Inkrafttretens der ZPO vor Schiedsgericht hängiges Verfahren gemäss aKSG zu Ende zu führen (<ref-law>); für die Rechtsmittel gegen den Schiedsspruch ist aber massgebend, welches Recht im Zeitpunkt der Eröffnung gültig war (<ref-law>). Da der Schiedsspruch nach Inkrafttreten der ZPO eröffnet worden ist, richtet sich das Rechtsmittel nach dem neuen Recht.
Die Parteien haben von der ihnen durch <ref-law> eingeräumten Möglichkeit, als Rechtsmittelinstanz ein kantonales Gericht zu bezeichnen, nicht Gebrauch gemacht. Damit ist die Beschwerde an das Bundesgericht grundsätzlich zulässig (<ref-law> i.V.m. <ref-law>).
2. Der Beschwerdeführer beantragt in erster Linie, es sei die Sache nach <ref-law> an das Schiedsgericht zurückzuweisen und diesem eine Frist zur Berichtigung und Ergänzung zu setzen. Nur eventualiter beantragt er, es sei der Schiedsspruch nach <ref-law> aufzuheben und zu neuer Entscheidung an das Schiedsgericht zurückzuweisen.
2.1 Gemäss <ref-law> kann die Rechtsmittelinstanz den Schiedsspruch nach Anhörung der Parteien an das Schiedsgericht zurückweisen und ihm eine Frist zur Berichtigung oder Ergänzung setzen. Nach der Botschaft soll diese Vorschrift in Fällen, in denen ein Mangel eines Schiedsspruches bereits durch Ergänzung oder Berichtigung behoben werden kann, der Rechtsmittelinstanz ermöglichen, von einer Aufhebung des Schiedsspruches abzusehen (Botschaft vom 28. Juni 2006 zur Schweizerischen Zivilprozessordnung, BBl 2006 7221, S. 7405). Ob die Rechtsmittelinstanz von dieser Möglichkeit Gebrauch machen will, steht in ihrem Ermessen (vgl. MICHAEL MRÁZ, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 2010, N. 4 zu <ref-law>; FELIX DASSER, in: Oberhammer [Hrsg.], Kurzkommentar ZPO, 2010, N. 2 zu <ref-law>; und N. 2 zu <ref-law>). Sie kann sich von Opportunitätsüberlegungen leiten lassen (KRAMER/WIGERT, in: Brunner et al. [Hrsg.], Schweizerische Zivilprozessordnung [ZPO], Kommentar, 2011, N. 1 zu <ref-law>). Eine Rückweisung nach <ref-law> ist namentlich dann sinnvoll, wenn entweder über das Rechtsmittel gar nicht entschieden werden kann, weil es an rechtserheblichen Sachverhaltsfeststellungen fehlt, oder mit wenigen Ergänzungen eine Klärung oder Vervollständigung des Entscheides herbeigeführt werden kann.
2.2 Der Beschwerdeführer begründet nicht, warum in erster Linie eine Rückweisung nach <ref-law> und nur eventualiter eine Aufhebung des Schiedsspruchs nach <ref-law> erfolgen soll. In der Sache ruft der Beschwerdeführer den Rügegrund von Art. 393 Bst. e ZPO an, indem er rügt, dass sich das Schiedsgericht in willkürlicher Weise über den Rückweisungsentscheid des Obergerichts hinweggesetzt und die vertragliche Rückgabepflicht des Milchkontingents verneint habe. Er macht somit hauptsächlich geltend, dass der angefochtene Schiedsspruch willkürlich sei. Trifft dieser Vorwurf zu, muss dies zur Aufhebung des Schiedsspruchs nach <ref-law>, nicht zur Rückweisung nach <ref-law> führen.
2.3 Vorliegend hat das Schiedsgericht die Schadenersatzklage endgültig abgewiesen, weil es zur Überzeugung gelangte, dass der Beklagte nicht zur Rückübertragung der Milchkontingente verpflichtet gewesen und folglich mangels Vertragsverletzung kein Schadenersatz geschuldet sei. Folgerichtig hat das Schiedsgericht die weiteren für die Zusprechung von Schadenersatz erforderlichen Voraussetzungen nicht geprüft und diesbezüglich auch keine Beweise erhoben. Obgleich nicht über alle Vorbringen des Klägers Beweis geführt und entschieden worden ist, liegt ein Endentscheid vor. Dieser kann als Ganzes bestätigt oder aufgehoben werden, je nachdem, ob sich das Rechtsmittel als begründet oder unbegründet erweist. Es besteht kein Grund für eine Rückweisung zur Ergänzung, bevor über das Rechtsmittel entschieden wird. Es ist somit der Eventualantrag zu prüfen.
3. Der Beschwerdeführer macht in erster Linie geltend, das Schiedsgericht habe sich nicht an die Vorgaben gehalten, welche das Obergericht des Kantons Luzern in seinem Entscheid vom 18. Januar 2010 gemacht habe. Das Schiedsgericht und der Beschwerdegegner bestreiten dies nicht. Sie machen jedoch geltend, die Ausführungen des Obergerichts seien für das Schiedsgericht nicht bindend und überdies "kaum vertretbar". Das Obergericht habe den Schiedsspruch nicht nach Art. 40 aKSG aufgehoben, sondern bloss nach Art. 39 aKSG zur Ergänzung an das Schiedsgericht zurückgewiesen. Der Beschwerdeführer bestreitet dies.
3.1 Art. 39 und Art. 40 aKSG lauteten wie folgt:
Art. 39 aKSG (Rückweisung an das Schiedsgericht)
Die mit der Nichtigkeitsbeschwerde befasste richterliche Behörde kann, nach Anhörung der Parteien und wenn sie es als sachdienlich erachtet, den Schiedsspruch an das Schiedsgericht zurückweisen und ihm eine Frist zur Berichtigung oder Ergänzung desselben setzen.
Art. 40 aKSG (Entscheid)
1Wird der Schiedsspruch nicht an das Schiedsgericht zurückgewiesen oder von diesem nicht fristgerecht berichtigt oder ergänzt, so entscheidet die richterliche Behörde über die Nichtigkeitsbeschwerde und hebt bei deren Gutheissung den Schiedsspruch auf.
2Die Aufhebung kann auf einzelne Teile des Schiedsspruchs beschränkt werden, sofern nicht die andern davon abhängen.
3(...)
4Wird der Schiedsspruch aufgehoben, so fällen die gleichen Schiedsrichter einen neuen Entscheid, soweit sie nicht wegen ihrer Teilnahme am früheren Verfahren oder aus einem andern Grunde abgelehnt werden.
Die ZPO hat in den Art. 394 und 395 diese Regelung übernommen (vgl. Botschaft, a.a.O., S. 7405). Nach <ref-law> hat die Rechtsmittelinstanz über die Beschwerde zu entscheiden, wenn das Schiedsgericht, an das der Schiedsspruch gemäss <ref-law> zurückgewiesen worden ist, diesen nicht fristgerecht berichtigt oder ergänzt. Daraus folgt, dass das Rechtsmittelverfahren mit der Rückweisung nach <ref-law> nicht abgeschlossen wird. Dieses ist vielmehr nach Ablauf der gemäss <ref-law> gesetzten Frist fortzusetzen und mit einem Rechtsmittelentscheid abzuschliessen (vgl. FELIX DASSER, a.a.O., N. 5 zu <ref-law>; KRAMER/WIGET, a.a.O., N. 5 zu <ref-law>; MRÁZ, a.a.O., N. 15 zu <ref-law>). Schliesslich ist zu beachten, dass nach dem ausdrücklichen Wortlaut sowohl von <ref-law> wie auch von Art. 39 aKSG der Schiedsspruch als solcher zur Berichtigung und Ergänzung an das Schiedsgericht zurückgewiesen wird. Er wird durch die Rechtsmittelinstanz nicht aufgehoben, denn sonst könnte er gar nicht an das Schiedsgericht zurückgewiesen werden. Demgegenüber wird bei einer Gutheissung der Beschwerde nach <ref-law> der Schiedsspruch aufgehoben. Es handelt sich somit um zwei unterschiedliche Vorgehensweisen der Rechtsmittelinstanz mit je anderen Wirkungen.
3.2 Für die Tragweite eines Urteils ist in erster Linie das Dispositiv massgeblich. Das Obergericht hat gemäss Ziffer 1 des Dispositivs den Schiedsspruch vom 26. Oktober 2007 "aufgehoben" und die "Sache zur Neubeurteilung im Sinne der Erwägungen an das Schiedsgericht zurückgewiesen". Damit hat es das Rechtsmittelverfahren im Sinne von Art. 40 aKSG abgeschlossen. Der Entscheid des Schiedsgerichts ist beseitigt und dieses hat neu zu entscheiden. Im offensichtlichen Widerspruch dazu stehen hingegen die Ausführungen in der zusammenfassenden Erwägung 7 des obergerichtlichen Urteils vom 18. Januar 2010, soweit darin von einer Rückweisung des Schiedsspruchs im Sinne von Art. 39 aKSG die Rede ist.
Daraus kann jedoch nicht geschlossen werden, dass es sich um eine blosse Rückweisung nach dieser Bestimmung handelt, sprechen doch sowohl das Dispositiv wie auch die weiteren Erwägungen des Obergerichts für eine Aufhebung i.S. von Art. 40 aKSG. Bei der Formulierung in der Erwägung 7 handelt es sich um ein offensichtliches Versehen des Obergerichts. Dadurch, dass das Obergericht dem Schiedsgericht entgegen Art. 39 aKSG keine Frist angesetzt hat, steht denn auch ausser Zweifel, dass dessen Entscheid die Tragweite einer Gutheissung der Nichtigkeitsbeschwerde nach Art. 40 aKSG zukommt.
3.2.1 Hebt die Rechtsmittelinstanz den Schiedsspruch nach Art. 40 aKSG auf und weist die Sache zur Neubeurteilung im Sinne der Erwägungen an das Schiedsgericht zurück, ist das Schiedsgericht an die Erwägungen im Rechtsmittelentscheid gebunden (<ref-ruling> E. 3e S. 172).
Das Obergericht hat in seinem Rückweisungsentscheid entschieden, dass eine vertragliche Verpflichtung zur Rückübertragung des Milchkontingents bestand, welcher der Beklagte nicht nachgekommen sei. Davon ausgehend sind die Fragen offen geblieben, ob der Kläger seiner Schadenminderungspflicht nachgekommen und wie gross der Schaden ist. Im direkten Widerspruch hierzu hat das Schiedsgericht die Klage mit der Begründung abgewiesen, es habe keine vertragliche Verpflichtung zur Rückübertragung des Milchkontingents vorgelegen.
Damit hat sich das Schiedsgericht über den Entscheid des Obergerichts hinweggesetzt und den Grundsatz der Bindung an die Erwägungen des Rückweisungsentscheides offensichtlich verletzt. Der angefochtene Schiedsspruch leidet damit an einem Mangel gemäss <ref-law>. Er ist aufzuheben und nach <ref-law> zur neuen Entscheidung im Sinne der Erwägungen an das Schiedsgericht zurückzuweisen.
4. Die Beschwerde ist gutzuheissen, der angefochtene Schiedsspruch aufzuheben und zur neuen Entscheidung im Sinne der Erwägungen an das Schiedsgericht zurückzuweisen.
Bei diesem Verfahrensausgang wird der Beschwerdegegner kosten- und entschädigungspflichtig (Art. 66 Abs. 1 i.V.m. <ref-law>).
In seiner Vernehmlassung macht das Schiedsgericht geltend, ihm sei im Zusammenhang mit diesem Beschwerdeverfahren ein erheblicher Aufwand entstanden und es sei ihm deshalb eine Entschädigung zuzusprechen. Weder die ZPO noch das BGG sehen eine Möglichkeit vor, der Vorinstanz eine Entschädigung zuzusprechen. Der Antrag ist daher abzuweisen.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der Schiedsspruch vom 25. August 2011 wird aufgehoben und die Sache zur Neubeurteilung im Sinne der Erwägungen an das Schiedsgericht zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdegegner auferlegt.
3. Der Beschwerdegegner hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4. Der Antrag des Schiedsgerichts um Ausrichtung einer Entschädigung für das bundesgerichtliche Verfahren wird abgewiesen.
5. Dieses Urteil wird den Parteien und dem Schiedsgericht mit Sitz in Willisau schriftlich mitgeteilt.
Lausanne, 30. Mai 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Hurni