Sachverhalt:
A. A._ (Beschwerdeführer) schloss am 10. April 2000 mit seiner Schwester B._, (Beschwerdegegnerin) einen öffentlich beurkundeten Vertrag ab, wonach der Beschwerdeführer der Beschwerdegegnerin 2/8 des Grundstücks Nr. X._, GB Escholzmatt schenkte. Dieser Eigentumsübergang wurde im Grundbuch eingetragen. Da die Beschwerdegegnerin am besagten Grundstück bereits zuvor einen Miteigentumsanteil von 1/8 gehalten hatte, wurde sie neu zu 3/8 als Miteigentümerin ausgewiesen.
Ebenfalls am 10. April 2000 unterzeichneten die Parteien einen mit "Verpflichtung" bezeichneten Vertrag. Darin hielten sie in Ziffer 2 Folgendes fest:
"Unter heutigem Datum hat der Berechtigte der Belasteten gemäss separatem Schenkungsvertrag 2/8 Anteile am Grundstück Nr. X._, im Grundbuch Escholzmatt, übergeben. Im weitern wird auf diesen Schenkungsvertrag verwiesen.
Auch dieser Schenkungsvertrag erfolgt aufgrund der zurzeit hängigen Scheidung mit der Ehefrau des Berechtigten.
Diese Schenkung erfolgte nur nach aussen. Der Berechtigte ist aber nach wie vor Eigentümer dieser 2/8 Anteile am Grundstück N. X._ im Grundbuch Escholzmatt.
Die Belastete verpflichtet sich hiermit auf erstes Begehren des Berechtigten, diese 2/8 Anteile wiederum schenkungsweise an den Berechtigten auf erstes Begehren von diesem, zurückzugeben. In diesem Sinne erhält der Berechtigte von der Belasteten eine Generalvollmacht für die Rückführung dieses Eigentums an den Berechtigten."
In der Folge wurde das Grundstück Nr. X._ in die beiden Grundstücke Nr. X._ und Y._ aufgeteilt. Fortan war die Beschwerdegegnerin mit einem Miteigentumsanteil von 3/5 am Grundstück Nr. X._ im Grundbuch eingetragen.
B. B.a Mit Klage vom 19. Januar 2009 beantragte der Beschwerdeführer beim Amtsgericht Entlebuch, das Grundbuch Escholzmatt sei zu berichtigen und es seien die Beschwerdegegnerin mit einem Miteigentumsanteil von 1/5 und er selbst mit einem Miteigentumsanteil von 2/5 am Grundstück Nr. X._ GB Escholzmatt einzutragen. Eventualiter sei die Beschwerdegegnerin zu verpflichten, ihm 2/5 des gesamten Steigerungserlöses zu bezahlen, der sich aus der Versteigerung des Grundstücks unter den Miteigentümern ergibt.
Mit Urteil vom 9. Juni 2009 hiess das Amtsgericht Entlebuch die Klage gut und wies das Grundbuchamt Entlebuch an, die Beschwerdegegnerin mit einem Miteigentumsanteil von 1/5 und den Beschwerdeführer mit einem Miteigentumsanteil von 2/5 am Grundstück Nr. X._ einzutragen.
B.b Mit Urteil vom 10. Mai 2010 hiess das Obergericht des Kantons Luzern eine von der Beschwerdegegnerin gegen das Urteil des Amtsgerichts Entlebuch vom 9. Juni 2009 erhobene Appellation gut und wies die Klage ab.
C. Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, es sei das Urteil des Obergerichts des Kantons Luzern vom 10. Mai 2010 aufzuheben und die Sache zur Feststellung des Sachverhalts und zur Neubeurteilung an das Obergericht zurückzuweisen. Eventualiter sei das Grundbuch Escholzmatt zu berichtigen und es seien die Beschwerdegegnerin mit einem Miteigentumsanteil von 1/5 und der Beschwerdeführer mit einem Miteigentumsanteil von 2/5 am Grundstück Nr. X._ einzutragen. Subeventualiter sei die Beschwerdegegnerin zu verpflichten, dem Beschwerdeführer 2/5 des gesamten Erlöses zu bezahlen, der sich aus der Versteigerung des Grundstücks unter den Miteigentümern ergebe.
Die Beschwerdegegnerin beantragt, es sei auf die Beschwerde nicht einzutreten. Eventualiter sei die Beschwerde abzuweisen.
Die Vorinstanz beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Der Beschwerdeführer hat sich in einer weiteren Eingabe zur Vernehmlassung der Vorinstanz geäussert.
Erwägungen:
1. 1.1 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. BGE 133 II 249 E. 1.4.1 S. 254; 132 II 257 E. 2.5 S. 262; 130 III 136 E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 135 II 384 E. 2.2.1 S. 389; 133 II 249 E. 1.4.1 S. 254 mit Hinweisen). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351 f., 393 E. 7.1 S. 398, 462 E. 2.4 S. 466 f.).
1.3 Die Beschwerdegegnerin macht zu Unrecht geltend, es sei auf die Beschwerde "mangels Beschwerdegründe" nicht einzutreten. Zwar trifft zu, dass die Prüfungsbefugnis des Bundesgerichts in Bezug auf Tatfragen beschränkt ist. Indem der Beschwerdeführer der Vorinstanz allerdings hinsichtlich bestimmter tatsächlicher Feststellungen Willkür (Art. 9 BV), eine Gehörsverletzung (Art. 29 Abs. 2 BV bzw. Art. 6 EMRK) sowie eine Verletzung von Art. 8 ZGB vorwirft, bringt er nach Art. 95 BGG zulässige Beschwerdegründe vor, weshalb auch auf seine Sachverhaltsrügen einzutreten ist. Ob im zu beurteilenden Fall ein Beschwerdegrund gegeben ist, beschlägt entgegen der Ansicht der Beschwerdegegnerin keine Eintretensfrage, sondern ist vom Bundesgericht inhaltlich zu prüfen.
2. 2.1 Im Appellationsverfahren blieb umstritten, ob von einer Simulation (Art. 18 OR) des Schenkungsvertrags vom 10. April 2000 auszugehen sei. Die Vorinstanz erwog, dass im Bestreitungsfall die gültig zustande gekommene Simulationsabrede nachzuweisen habe, wer sich auf die Simulation berufe und damit die Wirkungslosigkeit eines abgeschlossenen Vertrags geltend mache. Entsprechend trage nach Art. 8 ZGB der Beschwerdeführer die Konsequenzen, falls die von ihm behauptete Simulation unbewiesen bleibe.
Die Vorinstanz erwog weiter, die Simulationsabrede habe spätestens zeitgleich mit dem als simuliert behaupteten Vertrag zu erfolgen. Eine erst nach Vertragsschluss ergangene, gleichsam rückwirkende Simulationsabrede zwischen den Parteien des bereits geschlossenen Vertrags sei demnach wirkungslos. Da der genaue Zeitpunkt der vom Beschwerdeführer behaupteten Simulationsabrede umstritten sei, trage dieser die Beweislast dafür, dass die Simulationsabrede spätestens mit der öffentlich beurkundeten Schenkung zustande gekommen sei.
Für den Nachweis der behaupteten Simulationsabrede berufe sich der Beschwerdeführer allein auf die "Verpflichtung" vom 10. April 2000. Nachdem er eine frühere - mündlich oder konkludent geschlossene - Vereinbarung weder vor Amtsgericht noch vor Obergericht geltend gemacht habe, sei davon auszugehen, dass die behauptete Simulationsabrede erst mit der Unterzeichnung der "Verpflichtung" zustande gekommen sei. Dies decke sich im Übrigen auch mit deren Einleitungssatz ("treffen hiermit folgende Vereinbarung"). Eine solche Formulierung schliesse mangels besonderer Umstände aus, dass damit bloss bestätigt werden solle, was davor bereits in anderweitiger Form vereinbart worden sei.
Die Vorinstanz hielt weiter fest, die "Verpflichtung" datiere wie der öffentlich beurkundete Schenkungsvertrag vom 10. April 2000. Allein das identische Datum lasse keinen Schluss auf die behauptete Gleichzeitigkeit zu. Mehrere Indizien führten jedoch zum Ergebnis, dass die "Verpflichtung" später als die öffentliche Schenkungsurkunde unterzeichnet worden sei. So nehme Ziffer 2 der "Verpflichtung" Bezug auf einen bereits geschlossenen Vertrag. Andererseits sei die öffentliche Urkunde in Escholzmatt und die Verpflichtung in Hochdorf unterzeichnet worden; auch dieser örtliche Abstand führe zu einem zeitlichen Abstand, der eine Gleichzeitigkeit ausschliesse. Eine Unterzeichnung beider Verträge anlässlich der öffentlichen Beurkundung des Schenkungsvertrags - was der Beschwerdeführer nicht konkret behaupte, aber implizit unterstelle - sei auch deshalb sehr unwahrscheinlich, weil der beurkundende Notar auf die Problematik des Vorgehens aufmerksam geworden wäre. Gegenläufige Indizien in Bezug auf das zeitliche Verhältnis der beiden Urkunden seien nicht ersichtlich.
Dem Beschwerdeführer sei somit der Beweis nicht gelungen, dass die Simulationsabrede spätestens im Zeitpunkt der öffentlichen Beurkundung des angeblich simulierten Schenkungsvertrags geschlossen worden sei. Eine Simulation sei bereits deswegen zu verneinen, weil die angebliche Simulationsabrede in einem Zeitpunkt getroffen worden sei, der das Vorliegen einer rechtsrelevanten Simulation von vornherein ausschliesse.
2.2 Der Beschwerdeführer bestreitet vor Bundesgericht nicht, dass die "Verpflichtung" erst anschliessend an die Beurkundung unterzeichnet worden ist. Er bringt jedoch zu Recht vor, dass die von der Vorinstanz aus der "Verpflichtung" vom 10. April 2000 gezogenen Schlüsse unhaltbar sind. Die Parteien haben in diesem Dokument ausdrücklich auf den am gleichen Tag abgeschlossenen öffentlich beurkundeten Schenkungsvertrag Bezug genommen und mit ihrer Unterschrift bestätigt, dass die Schenkung aufgrund der hängigen Scheidung des Beschwerdeführers und "nur nach aussen" erfolgt sei und der Beschwerdeführer "nach wie vor Eigentümer" des fraglichen Grundstücks sei. Dem klaren Wortlaut nach zu folgen, anerkennt die Beschwerdegegnerin darin, den - höchstens wenige Stunden zuvor beurkundeten - Schenkungsvertrag gar nicht gewollt, sondern nur als Scheingeschäft zur Täuschung der Ehefrau des Beschwerdeführers abgeschlossen zu haben.
Zwar trifft zu, dass die Simulationsabrede spätestens zeitgleich mit dem simulierten Vertrag zu erfolgen hat. Entscheidend ist, dass sich die Parteien im Zeitpunkt, in dem sie den simulierten Vertrag abschliessen, einig sind, diesen tatsächlich gar nicht zu wollen (Peter Jäggi/Peter Gauch, Zürcher Kommentar, 3. Aufl. 1980, N. 92 und 102 zu Art. 18 OR; vgl. auch Alfred Koller, Schweizerisches Obligationenrecht, Allgemeiner Teil, 3. Aufl. 2009, § 3 Rz. 206; Ernst A. Kramer, in: Berner Kommentar, 1986, N. 106 zu Art. 18 OR). Auch wenn davon ausgegangen wird, dass die "Verpflichtung" im Anschluss an die Beurkundung des Schenkungsvertrags unterzeichnet worden ist, lässt sich aus der Erklärung der Parteien auf den tatsächlichen Willen der Parteien im Zeitpunkt der Beurkundung schliessen. Daran ändert entgegen der Ansicht der Vorinstanz auch der Eingangssatz ("treffen hiermit die folgende Vereinbarung") nichts. Daraus ableiten zu wollen, die von den Parteien verwendete Formulierung schliesse blosse Erklärungen in tatsächlicher Hinsicht über nur kurze Zeit zurückliegende Vorgänge aus, erscheint auch unter dem Blickwinkel der Willkür (Art. 9 BV) nicht vertretbar. Die Vorinstanz überspannt zudem die Substantiierungsanforderungen an die vom Beschwerdeführer behauptete Simulation (Art. 18 OR) und verletzt damit materielles Bundesrecht, wenn sie ihm vorwirft, er habe eine frühere - mündlich oder konkludent geschlossene - Vereinbarung im kantonalen Verfahren nicht geltend gemacht, hat sich der Beschwerdeführer doch stets darauf berufen, der beurkundete Schenkungsvertrag habe nicht dem Willen der Parteien entsprochen, und dafür die "Verpflichtung" vom 10. April 2000 als Beweis angeboten (vgl. zu den Anforderungen an die Substantiierung der Sachvorbringen BGE 127 III 365 E. 2b S. 368 mit Hinweisen).
Demnach ist entgegen dem angefochtenen Entscheid nicht ausschlaggebend, in welchem Zeitpunkt die "Verpflichtung" unterschrieben wurde, zumal es sich bei der Simulationsabrede auch dann nicht um ein formbedürftiges Rechtsgeschäft handelt, wenn sie ein öffentlich zu beurkundendes Grundstückgeschäft betrifft (JÄGGI/GAUCH, a.a.O., N. 103 zu Art. 18 OR). Entscheidend ist daher nicht der Zeitpunkt der Unterzeichnung, sondern derjenige der Einigung der Parteien darüber, dass der Schenkungsvertrag in Tat und Wahrheit gar nicht gewollt ist. Der angefochtene Entscheid stellt jedoch lediglich auf den Zeitpunkt der Unterzeichnung der "Verpflichtung" ab und blendet damit zu Unrecht aus, dass sich aus dieser Vertragsurkunde in tatsächlicher Hinsicht Rückschlüsse in Bezug auf ein früheres Zustandekommen der Simulationsabrede ziehen lassen.
Nach dem Wortlaut der "Verpflichtung" vom 10. April 2000 anerkennt die Beschwerdegegnerin, dass der beurkundete Schenkungsvertrag "nur nach aussen" erfolgt sei und bestätigt damit, dass die entsprechenden Erklärungen anlässlich der Beurkundung nur zum Schein abgegeben worden sind und der Vertrag auch nach ihrer Absicht keine Wirkungen zwischen den Parteien entfalten soll. Wird einzig auf die vom Beschwerdeführer als Beweismittel angebotene "Verpflichtung" abgestellt, so lässt sich daraus - entgegen der Ansicht der Beschwerdegegnerin, die darin bloss ein nachträgliches (formungültiges) Rückgabeversprechen erblicken will - schliessen, dass die Parteien die Schenkung in Tat und Wahrheit nicht wollten. Soweit die Vorinstanz allein gestützt auf diese Vertragsurkunde den Beweis des Beschwerdeführers für misslungen erachtet hat, dass der Schenkungsvertrag im Zeitpunkt der öffentlichen Beurkundung simuliert war, ist dieser Schluss offensichtlich unhaltbar (vgl. zum Begriff der Willkür BGE 134 II 124 E. 4.1 S. 133; 133 I 149 E. 3.1 S. 153, 467 E. 3.1 S. 473 f.; je mit Hinweisen).
3. Der angefochtene Entscheid hält vor Bundesrecht nicht stand. Die Vorinstanz hat infolge der beanstandeten Beweiswürdigung, die sich auf das erwähnte Vertragsdokument beschränkte, sowie aufgrund überhöhter Substantiierungsanforderungen verschiedene weitere Abklärungen unterlassen und auf die Prüfung von Einwendungen der Beschwerdegegnerin verzichtet.
Entsprechend ist das Urteil des Obergerichts des Kantons Luzern vom 10. Mai 2010 in Gutheissung der Beschwerde aufzuheben und die Streitsache gestützt auf Art. 107 Abs. 2 BGG zu neuer Beurteilung an die Vorinstanz zurückzuweisen.
Dem Ausgang des Verfahrens entsprechend wird die Beschwerdegegnerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, das Urteil des Obergerichts des Kantons Luzern vom 10. Mai 2010 wird aufgehoben und die Sache an das Obergericht zurückgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, I. Kammer als Appellationsinstanz, schriftlich mitgeteilt.
Lausanne, 5. Oktober 2010
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Leemann