Sachverhalt:
A. Mit öffentlich beurkundetem Baurechtsvertrag vom 11. August 2004 räumte A._ (Beschwerdeführer) der Y._ das Recht ein, auf seinem Grundstück in Z._ eine Tankstelle mit Laden/Kiosk zu erstellen und zu betreiben. Hinsichtlich des Baurechtszinses vereinbarten die Parteien in Ziff. 9 Abs. 2 des Vertrages was folgt:
"La rente de base du droit de superficie est de CHF 90'000.-- (nonante mille francs) par an (TVA éventuelle comprise), pro rata temporis, dès le moment ou la superficiaire commence les travaux de démolition et construction de la station service et aussi longtemps que la loi fribourgeoise en matière d'heure d'ouverture des shop des stations service n'autorise pas la superficiaire, pour sa future station de Z._, à ouvrir son shop de la station de 06h00 à 21h00, 7 jours par semaine y compris les jours fériés.
Dès que les heures d'ouvertures du shop seront autorisées de 06h00 à 21h00, 7 jours par semaine y compris les jours fériés, la rente de base sera fixée à CHF 110'000.-- (cent dix mille francs), par an (TVA éventuelle comprise), pro rata temporis."
Am 15. Dezember 2006 zedierte die Y._ ihre Rechte aus dem Vertrag vom 11. August 2004 an die X._ SA (Beschwerdegegnerin). Nachdem die Ladenöffnungszeiten eine gesetzliche Änderung erfahren hatten, gerieten die Parteien in Streit über die Höhe des zu entrichtenden Baurechtszinses.
B. Mit Klage vom 14. Mai 2009 beantragte der Beschwerdeführer dem Kantonsgericht Zug, die Beschwerdegegnerin zu verpflichten, ihm Fr. 30'707.25 nebst Zins, eventuell einen nach richterlichem Ermessen nicht unter Fr. 25'000.-- festzusetzenden Betrag zu bezahlen. Die Beschwerdegegnerin widersetzte sich dem Begehren und beantragte widerklageweise die Zahlung eines Betrages von Fr. 30'401.69 nebst Zins. Mit Urteil vom 18. August 2010 hiess das Kantonsgericht die Klage gut und wies die Widerklage kostenfällig ab. Die Beschwerdegegnerin gelangte mit Berufung an das Obergericht des Kantons Zug mit dem Antrag auf Abweisung der Klage. Mit der erstinstanzlichen Abweisung der Widerklage fand sie sich ab. Das Obergericht hiess die Berufung am 5. Juli 2011 gut, hob das Urteil des Kantonsgerichts vom 18. August 2010 auf und wies die Klage ab.
C. Der Beschwerdeführer beantragt dem Bundesgericht mit Beschwerde in Zivilsachen, das Urteil des Obergerichts aufzuheben, das Urteil des Kantonsgerichts zu bestätigen und die Beschwerdegegnerin zu verpflichten, ihm Fr. 30'707.25 nebst gestaffeltem Zins zu bezahlen. Die Beschwerdegegnerin schliesst auf Abweisung der Beschwerde und Bestätigung des angefochtenen Urteils. Das Obergericht weist in seiner Vernehmlassung auf die Ausführungen im angefochtenen Urteil hin und beantragt ebenfalls die Abweisung der Beschwerde. Der Beschwerdeführer hat unaufgefordert eine Replik eingereicht.
Erwägungen:
1. Die Parteien streiten über die Auslegung des Vertrages. Während der Beschwerdeführer der angeführten Bestimmung entnimmt, auch bei einer weniger weit reichenden gesetzlichen Liberalisierung der Ladenöffnungszeiten als der explizit im Vertrag bezeichneten erhöhe sich anteilsmässig der Baurechtszins entsprechend, ist die Beschwerdegegnerin der Auffassung, nach dem Wortlaut der Klausel komme die vorgesehene Erhöhung des Baurechtszinses auf Fr.110'000.-- einzig dann in Frage, wenn die Ladenöffnungszeiten gesetzlich auf sieben Tage die Woche inklusive Feiertage ausgedehnt würden.
1.1 Die kantonalen Gerichte verwarfen übereinstimmend die Auffassung des Beschwerdeführers, die Wendung "pro rata temporis" gemäss Ziff. 9 Abs. 2 des Vertrages sei auf die Öffnungszeiten zu beziehen. Sie gelangten zum Ergebnis, die vorgesehene Erhöhung des Baurechtszinses auf Fr. 110'000.-- pro Jahr setze gemäss der Vereinbarung voraus, dass die Ladenöffnungszeiten für den Tankstellenshop auf dem baurechtsbelasteten Grundstück während 7 Tagen pro Woche auf den Zeitraum von 06.00 Uhr bis 21.00 Uhr ausgeweitet werden. Nach Auffassung der Vorinstanz bildet die Klausel "pro rata temporis" daher keine Grundlage für die klägerische Interpretation, bei nur teilweiser Ausweitung der Ladenöffnungszeiten den Baurechtszins im Verhältnis zur Verlängerung der Öffnungszeiten anzupassen.
1.2 Im Gegensatz zum erstinstanzlichen Gericht folgerte die Vorinstanz sodann aus dem Umstand, dass die Parteien nur bei einer ganz bestimmten Änderung der Verhältnisse, der Erweiterung der täglichen Öffnungszeiten von 06.00 Uhr bis 21.00 Uhr, Feiertage inbegriffen, eine Anpassung des Vertrages vorgesehen haben und für den Fall einer weniger weitgehenden Liberalisierung der Öffnungszeiten keine Zinsanpassung vereinbarten, es liege keine Vertragslücke vor, welche eine richterliche Vertragsanpassung gebiete. Nach dem angefochtenen Urteil haben die Parteien bei Vertragsschluss die Möglichkeit längerer Öffnungszeiten vorausgesehen und im Vertrag geregelt. Damals sei aber die Gesetzesvorlage über eine Ausweitung der Öffnungszeiten, wie sie ab dem 1. Juli 2005 Geltung hatte, bereits ausgearbeitet gewesen. Damit sei für die Parteien auch voraussehbar gewesen, dass auch eine weniger weitgehende Liberalisierung der Öffnungszeiten Platz greifen könnte. Überdies seien Änderungen der Gesetzeslage im Allgemeinen nicht aussergewöhnlich und hierzulande infolge der Transparenz der legislatorischen Vorbereitungen und Vorkehrungen regelmässig voraussehbar. Die Vorinstanz hielt daher eine richterliche Vertragsanpassung im Sinne einer Anpassung des Baurechtszinses proportional zur erfolgten gesetzlichen Erweiterung der Öffnungszeiten nicht für zulässig.
1.3 Vertragsbezogene Willenserklärungen sind - wenn kein übereinstimmender tatsächlicher Parteiwille festgestellt werden kann - nach dem Vertrauensgrundsatz so auszulegen, wie sie vom Empfänger nach Treu und Glauben verstanden werden durften und mussten. Selbst wenn der Wortlaut einer Vereinbarung auf den ersten Blick klar und eindeutig erscheint, kann nicht ohne Weiteres darauf abgestellt werden, da sich aus den weiteren Gegebenheiten wie dem Zweck des Vertrages und den Umständen, unter denen er geschlossen wurde, ergeben kann, dass der scheinbar klare Wortlaut den Sinn der geschlossenen Vereinbarung nicht exakt wiedergibt. Vom klaren Wortlaut ist jedoch nicht abzuweichen, wenn keine ernsthaften Zweifel daran bestehen, dass er dem Willen der Parteien entspricht (BGE 133 III 61 E. 2.2.1 S. 67 mit Hinweisen). Für die Vertrauensauslegung sind Umstände mitzuberücksichtigen, die den Parteien bei Vertragsschluss bekannt oder erkennbar waren sowie der Verständnishorizont des Empfängers der Willensäusserung (BGE 116 II 695 E. 2b S. 696 f.). Nachträgliches Parteiverhalten ist bei der Auslegung nach dem Vertrauensprinzip nicht von Bedeutung; es kann höchstens - im Rahmen der Beweiswürdigung - auf einen tatsächlichen Willen der Parteien schliessen lassen (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen).
1.4 Zu welchem Ergebnis eine solche Auslegung führt, ist eine Frage der Rechtsanwendung, über welche das Bundesgericht frei entscheidet. Grundsätzlich gebunden ist es aber an die Feststellungen des kantonalen Gerichts über die Umstände des Vertragsschlusses und das Wissen der Vertragsparteien (Art. 105 Abs. 1 BGG; BGE 133 III 61 E. 2.2.1 S. 67). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG) und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 135 III 127 E. 1.5 S. 130, 397 E. 1.5 S. 401; 133 II 249 E. 1.2.2 S. 252). Wer sich auf eine Ausnahme von der Bindung des Bundesgerichts an die tatsächlichen Feststellungen der Vorinstanz beruft und den Sachverhalt gestützt darauf berichtigt oder ergänzt wissen will, hat mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen genannt hat (Botschaft zur Totalrevision der Bundesrechtspflege, BBl 2001 4339 Ziff. 4.1.4.3 zu Art. 93 E-BGG; vgl. auch BGE 115 II 484 E. 2a S. 485 f.). Es ist nicht Sache des Bundesgerichts, ohne Hinweise der Parteien nach allfälligen Unvollständigkeiten in der Sachverhaltsdarstellung der Vorinstanz zu forschen (BGE 136 I 184 E. 1.2 S. 187; 133 IV 286 E. 6.2 S. 288).
1.5 Der Beschwerdeführer konzentriert sich im Wesentlichen auf die normative Auslegung der umstrittenen Vertragsbestimmung. Er geht einerseits davon aus, der Vertragstext sei nicht lückenhaft, aber normativ in seinem Sinne zu interpretieren. Er macht aber auch geltend, soweit seiner Auffassung nicht gefolgt werde, liege eine Lücke vor, die in seinem Sinne zu schliessen sei. Zur Begründung seiner Kritik an der objektiven Vertragsauslegung durch die Vorinstanz beruft sich der Beschwerdeführer jedoch weitgehend auf Tatsachen, die dem angefochtenen Urteil nicht zu entnehmen sind, ohne zugleich substanziiert unter Aktenhinweis darzulegen, dass er der Vorinstanz Entsprechendes vorgetragen hat, damit aber zu Unrecht nicht gehört wurde. Das gilt namentlich für die zusammengefasste Wiedergabe seines Standpunktes "in der Vorkorrespondenz und vor den Vorinstanzen", die keine Aktenhinweise enthält, sowie für die Darstellung der Entstehungsgeschichte und der Begleitumstände des Vertragsschlusses, in welcher der Beschwerdeführer den von der Vorinstanz festgestellten Sachverhalt beliebig erweitert. Damit ist er nicht zu hören. Schliesslich hat die Vorinstanz auch nicht festgestellt, dass die Rechtsvorgängerin der Beschwerdegegnerin den Vertrag formuliert hat. Auf die auf der gegenteiligen Annahme des Beschwerdeführers aufbauende Kritik am angefochtenen Urteil (in dubio contra stipulatorem) ist daher nicht einzugehen.
1.6 Soweit der Beschwerdeführer sein eigenes Verhalten nach Vertragsabschluss zur Untermauerung seines Standpunktes heranzieht, verkennt er, dass sich damit für eine Auslegung des Vertrages nach dem Vertrauensprinzip nichts gewinnen, sondern einzig der tatsächliche Wille beweisen lässt (BGE 132 III 626 E. 3.1 S. 632 mit Hinweisen). Dass der Beschwerdeführer selbst bei Vertragsschluss eine pro rata-Erhöhung des Baurechtszinses entsprechend der Erweiterung der Öffnungszeiten anstrebte, mag durchaus zutreffen, ist aber nicht erheblich, sofern er nach Treu und Glauben im Zeitpunkt des Vertragsschlusses nicht zur Annahme berechtigt gewesen ist, auch die Beschwerdegegnerin messe der betreffenden Bestimmung den von ihm angenommenen Sinn bei oder habe zumindest erkennen müssen, dass er die betreffende Klausel im Sinne einer stufenweisen Erhöhung des Baurechtszinses verstand.
1.7 Der Beschwerdeführer bestreitet nicht, dass bei Vertragsschluss eine weniger weit gehende Liberalisierung der Öffnungszeiten als die von den Parteien spezifisch geregelte voraussehbar war. Er anerkennt, dass der Vorschlag zur Ausdehnung der Ladenöffnungszeiten, dem das Parlament nach Abschluss des Vertrages ohne Änderungen zugestimmt hatte, bereits am 6. Juli 2004 vorgelegt worden war. Unter diesen Umständen bleibt für eine richterliche Vertragsergänzung kein Raum. Eine solche setzt nämlich voraus, dass der Vertrag eine Lücke aufweist, indem die Parteien eine Rechtsfrage, die den Vertragsinhalt betrifft, nicht oder nicht vollständig geregelt haben (BGE 115 II 484 E. 4b S. 488; 111 II 260 E. 2a S. 262 mit Hinweisen). Mit Blick auf den bereits ausgearbeiteten Vorschlag zur Gesetzesänderung musste dem Beschwerdeführer nach Treu und Glauben bewusst sein, dass die getroffene Vereinbarung auch Geltung haben würde, wenn die vorgeschlagene Regelung unverändert Gesetzeskraft erlangen würde. Von einer unvollständigen Regelung kann demnach keine Rede sein.
1.8 Einer normativen Auslegung der umstritten Vertragsbestimmung in dem Sinne, dass die Beschwerdegegnerin auch dann einen erhöhten Baurechtszins zu entrichten hat, wenn die Ladenöffnungszeiten in einem geringeren Masse als im Vertrag explizit vorgesehen erweitert werden, steht zunächst der klare Wortlaut der Bestimmung entgegen. Darin wird zweimal in gleicher Weise klargestellt, eine Erhöhung des Zinses setze eine Erweiterung der Öffnungszeiten des Shops auf "7 jours par semaine y compris les jours fériés" voraus. Hätten aber die Parteien eine graduelle Zinssteigerung im Verhältnis zu einer allenfalls geringfügigeren Ausdehnung der Öffnungszeiten beabsichtigt, hätte es nahe gelegen, den Zins von Fr. 90'000.-- für die Dauer der aktuellen gesetzlichen Regelung der Öffnungszeiten zu vereinbaren. Statt dessen wird im Vertrag hervorgehoben, dass der Baurechtszins so lange Fr. 90'000.-- betragen soll, als die in der Bestimmung konkret umschriebene Öffnungszeit nicht während sieben Tagen pro Woche einschliesslich der Feiertagen gesetzlich gestattet ist. Wenn der Beschwerdeführer dieser Regelung zustimmte, durfte die Beschwerdegegnerin nach Treu und Glauben davon ausgehen, einzig bei zulässigen Öffnungszeiten im vereinbarten Ausmass komme die verabredete Zinserhöhung zum Tragen. Sie durfte darauf vertrauen, dass der Beschwerdeführer eine Formulierung der betreffenden Vertragsbestimmung vorgeschlagen hätte, die für den Fall einer weniger weit reichenden Liberalisierung klargestellt hätte, dass eine anteilsmässige Zinserhöhung eintreten sollte, wenn er an einer solchen hätte festhalten wollen. Die Vorinstanz verletzt somit kein Bundesrecht, wenn sie jegliche Baurechtszinserhöhung als nicht vom Vertragstext gedeckt erachtet, solange die dafür vereinbarte Bedingung nicht eingetreten ist.
2. Aus den dargelegten Gründen erweist sich die Beschwerde als unbegründet und ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird der Beschwerdeführer für das bundesgerichtliche Verfahren kosten- und entschädigungspflichtig.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 5'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, I. Zivilabteilung, schriftlich mitgeteilt.
Lausanne, 10. Februar 2012
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak