Sachverhalt:
A. Im April 1996 unterzeichneten A._ (Beschwerdeführer) und B._ (Beschwerdegegnerin) eine Vereinbarung, wonach sie, wie bereits seit Dezember 1995 gehandhabt, vorerst einmal bis Dezember 1999 gemeinsam ein Solarium betreiben würden. Danach sollte ein neuer Vertrag geschlossen werden. Nebst Ausführungen über die Aufgabenverteilung unter den Partnern und die Finanzierung des Betriebes enthielt die Vereinbarung unter Ziff. 11 folgende Klausel:
"Konkurrenzverbot: Beiden Parteien ist es untersagt, weder Frau B._ noch Herrn A._, alleine im Oberengadin ein Bräunungsstudio zu eröffnen.
Vertragsbruch: Entschädigung von Fr. 40'000.-- an den Partner."
B. Die Parteien führten das Solarium über den Dezember 1999 hinaus weiter, ohne dass entsprechende Verhandlungen zu einer neuen Vereinbarung geführt hätten. Mit Schreiben vom 12. Dezember 2003 kündigte die Beschwerdegegnerin das Geschäftsverhältnis auf den 30. Juni 2004. Am 28. Oktober 2004 unterschrieben die Parteien eine Vereinbarung über die Auflösung des zwischen ihnen bestehenden als einfache Gesellschaft bezeichneten Gesellschaftsverhältnisses. Danach übernahm die Beschwerdegegnerin gegen eine Zahlung an den Beschwerdeführer den Betrieb des Solariums auf eigenen Namen und auf eigene Rechnung. Offen gelassen wurde, ob dem Beschwerdeführer eine Goodwillentschädigung auszurichten sei und ob die Beschwerdegegnerin wegen Verletzung des Konkurrenzverbotes Strafzahlung fordern dürfe. Sie warf dem Beschwerdeführer vor, das gemeinsam betriebene Solarium zu konkurrenzieren, indem er, sein Lebenspartner und seine Angestellten für ein in derselben Galerie auf demselben Stockwerk im Januar 2004 eröffnetes Selbstbedienungssolarium Dienstleistungen erbrächten.
C. Die Beschwerdegegnerin machte beim Kreispräsidenten Oberengadin als Vermittler eine Klage hängig und verlangte Fr. 40'000.-- nebst Zins. Der Beschwerdeführer schloss auf Abweisung der Klage und erhob zunächst Widerklage auf eine Goodwillentschädigung von ebenfalls Fr. 40'000.--. An der Widerklage hielt er indessen nicht fest, nachdem die Beschwerdegegnerin ihre Forderung dem Bezirksgericht Maloja unterbreitet hatte. Dieses hiess die Klage am 13. März 2007 im Umfang von Fr. 20'000.-- nebst Zins gut.
D. Gegen dieses Urteil erhoben beide Parteien kantonale Berufung. Das Kantonsgericht von Graubünden hiess die Klage gut und verpflichtete den Beschwerdeführer, der Beschwerdegegnerin Fr. 40'000.-- nebst Zins zu bezahlen.
D.a Das Kantonsgericht liess offen, ob das Vertragsverhältnis der Parteien als einfache Gesellschaft oder Kollektivgesellschaft zu qualifizieren sei. Jedenfalls hätten die Parteien die Gesellschaft ab Januar 2000 weitergeführt, so dass das Konkurrenzverbot bis zum 30. Juni 2004 Geltung behalten habe. Für das Kantonsgericht war offenkundig, dass vom Verbot, ohne den anderen Partner im Oberengadin ein Solarium zu eröffnen, ohne weiteres auch der anschliessende Betrieb einer solchen Einrichtung erfasst werde, gehe doch erst hiervon die konkurrenzierende Wirkung aus. Diesem Verbot hätten die Parteien durch die Konventionalstrafe noch zusätzliches Gewicht verliehen. Das Konkurrenzverbot solle sicherstellen, dass der Betrieb des Solariums möglichst ungestört ausgeübt werden könne, und verhindern, dass ein Partner im Oberengadin offen oder verdeckt eine konkurrenzierende Tätigkeit entfalte. Dagegegen verstosse nicht nur, wer als Inhaber oder als Geschäftsführer die Verantwortung für ein anderes Solarium trage, sondern auch, wer sonst zum Gedeihen eines Konkurrenzunternehmens beitrage und damit ein Verhalten zeige, das nach den dispositiven Gesetzesbestimmungen grundsätzlich nicht mit der Stellung eines Mitglieds einer einfachen Gesellschaft oder einer Kollektivgesellschaft vereinbar sei. Nichts deute darauf hin, dass die Parteien derartige Dienstleistungen vom Verbot hätten ausnehmen wollen.
D.b Das Kantonsgericht hielt für erstellt, dass der Beschwerdeführer die Geschehnisse im Konkurrenzsolarium aus seinem ein Stockwerk höher gelegenen Coiffeursalon über einen Bildschirm verfolgen konnte und dass ein Anschlag im Bräunungsstudio dessen Besucher darauf hinwies, dass sie sich bei Bedarf unmittelbar oder über eine Telefonnummer beim Coiffeurgeschäft des Beschwerdeführers melden könnten. Hinzu komme, dass der Beschwerdeführer gemäss einer Videoaufzeichnung vom 6. Februar 2004 gegenüber einem Kunden des gemeinsam betriebenen Solariums die Vorzüge des Konkurrenzsolariums erwähnt habe. Schliesslich habe eine Mitarbeiterin des Beschwerdeführers, welche nicht nur im Coiffeursalon, sondern auch im gemeinsamen Solarium gearbeitet habe, ein Teilpensum im Konkurrenzsolarium übernommen, aller Wahrscheinlichkeit nach mit Billigung des Beschwerdeführers. Aus diesen Gründen war nach Auffassung des Kantonsgerichts die Konventionalstrafe verfallen. Da der Beschwerdeführer keine Reduktionsgründe geltend gemacht hatte, sprach das Kantonsgericht der Beschwerdegegnerin die volle Konventionalstrafe zu.
E. Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht im Wesentlichen, die Klage abzuweisen. Seinem Gesuch um Gewährung der aufschiebenden Wirkung gab das Bundesgericht mit Verfügung vom 18. März 2008 statt. Die Beschwerdegegnerin und das Kantonsgericht schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.

Erwägungen:
1. Nach <ref-law> ist in der Beschwerdeschrift in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Diesbezüglich wendet das Bundesgericht das Recht nicht von Amtes wegen an, sondern prüft nur präzise vorgebrachte und hinreichend begründete Rügen (<ref-law>; <ref-ruling> E. 6 S. 397; <ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Grundsätzlich unzulässig sind Rügen, die sich gegen die tatsächlichen Feststellungen des angefochtenen Entscheides richten, sofern diese nicht offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen (Art. 97 Abs. 1 und 105 Abs. 2 BGG; BGE <ref-ruling> E. 1.4.3 S. 254 f.). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE <ref-ruling> E. 1.2.2 S. 252). Entsprechende Beanstandungen sind ebenfalls nach Massgabe von <ref-law> zu begründen. Es ist in der Beschwerdeschrift im Einzelnen darzulegen, inwiefern die Feststellungen willkürlich bzw. unter Verletzung einer verfahrensrechtlichen Verfassungsvorschrift zustande gekommen sind. Vorbehalten bleiben offensichtliche Sachverhaltsmängel im Sinne von <ref-law>, die dem Richter geradezu in die Augen springen (BGE <ref-ruling> E. 1.4.3 S. 254 f. mit Hinweisen).
2. Der Beschwerdeführer ist im Wesentlichen der Auffassung, die Parteien hätten in Ziff. 11 ihrer Vereinbarung das Konkurrenzverbot im Vergleich zu den dispositiven gesetzlichen Bestimmungen betreffend die einfache Gesellschaft oder die Kollektivgesellschaft eingeschränkt. Nach dieser Vereinbarung verletze einzig die Eröffnung eines anderen Bräunungsstudios im Oberengadin das Konkurrenzverbot und verpflichte zur Bezahlung einer Entschädigung von Fr. 40'000.--. Hätten sich die Parteien gegen sämtliche Handlungen, welche von <ref-law> erfasst werden, absichern wollen, hätte ein einfacher Hinweis auf jene Bestimmung genügt. In diesem Zusammenhang hat die Vorinstanz nach Auffassung des Beschwerdeführers sowohl Art. 18 als auch <ref-law> sowie Art. 158 der Zivilprozessordnung des Kantons Graubünden (ZPO) vom 1. Dezember 1985 verletzt und ist bei der Beweiswürdigung in Willkür verfallen.
2.1 Mit Bezug auf die Weitergeltung des Konkurrenzverbots ab Januar 2000 hat die Vorinstanz den tatsächlich übereinstimmenden Willen der Parteien festgestellt, denn es hat dabei das nachträgliche Parteiverhalten berücksichtigt, welches nur Rückschlüsse auf den tatsächlichen Willen der Parteien zulässt (<ref-ruling> E. 3.1 S. 632 mit Hinweisen). Soweit die Ausführungen der Vorinstanz zum Umfang des Konkurrenzverbots ebenfalls den tatsächlichen Willen betreffen, wie die Beschwerdegegnerin anführt und wovon auch der Beschwerdeführer auszugehen scheint, wenn er eine willkürliche Beweiswürdigung rügt, ist auf die Beschwerde mangels hinreichender Begründung nicht einzutreten. Der Beschwerdeführer begnügt sich damit, auf den Wortlaut der Bestimmung zu verweisen und kommt allein gestützt darauf zu einem von der Vorinstanz abweichenden Ergebnis. Dies genügt nicht, um die Auffassung der Vorinstanz, welche neben dem Wortlaut der Bestimmung den mit dieser verfolgten Zweck berücksichtigte, als offensichtlich unhaltbar auszuweisen.
2.2 Selbst wenn man zu Gunsten des Beschwerdeführers davon ausgehen wollte, die Vorinstanz habe den Umfang des Konkurrenzverbots nach dem Vertrauensprinzip ausgelegt, womit das Bundesgericht die Frage frei prüfen könnte, würde dies im Ergebnis nichts ändern.
2.2.1 Die Auslegung nach dem Vertrauensprinzip stellt nicht allein auf den Wortlaut einer Vereinbarung ab. Abzuklären ist vielmehr, welche Bedeutung die Parteien der Klausel unter Berücksichtigung der gesamten Umstände bei Vertragsschluss beimessen durften und mussten (<ref-ruling> E. 2.2.1 S. 67 mit Hinweisen).
2.2.2 Die Übertretung des Konkurrenzverbots verpflichtet zur Zahlung einer Konventionalstrafe. Diese soll sicherstellen, dass das Konkurrenzverbot respektiert wird. Sie bewirkt mithin eine Verschärfung des Konkurrenzverbots.
2.2.3 Gemäss <ref-law> darf kein Gesellschafter zu seinem besonderen Vorteil Geschäfte betreiben, durch die der Zweck der Gesellschaft vereitelt oder beeinträchtigt würde. Der Beschwerdeführer weist an sich zu Recht darauf hin, dass nach dem Wortlaut der Vereinbarung nur die Eröffnung eines Bräunungsstudios untersagt ist, was eine Einschränkung gegenüber der dispositiven gesetzlichen Regelung bedeuten würde. Die Vorinstanz hat bundesrechtskonform geprüft, ob ausser dem Wortlaut irgendwelche Hinweise darauf bestehen, dass eine derartige Einschränkung gewollt war, und dies verneint. Es ist denn auch kaum nachvollziehbar, weshalb die Parteien mit Bezug auf eine Art der Konkurrenzierung, die Eröffnung eines Bräunungsstudios, die gesetzliche Regelung durch die Androhung einer Konventionalstrafe verschärfen, gleichzeitig aber andere Konkurrenzierungsformen, wie den Betrieb eines Bräunungsstudios oder die Unterstützung eines Konkurrenzunternehmens, welche sich wirtschaftlich ebenso nachteilig auswirken können, gestatten sollten. Die Auslegung des Beschwerdeführers lässt sich zwar mit dem Wortlaut der Konkurrenzklausel vereinbaren, würde aber den Sinn des Konkurrenzverbotes weitgehend aushöhlen. Dies musste der Beschwerdeführer nach Treu und Glauben erkennen und sich demgemäss bewusst sein, dass im Oberengadin vereinbarungsgemäss nur gemeinsame Projekte für Bräunungsstudios verfolgt werden durften. Er konnte daher bei Unterzeichnung nicht in guten Treuen annehmen, die Gründung eines Konkurrenzsolariums sei verboten, nicht aber der Betrieb oder die Unterstützung eines solchen. Wenn die Vorinstanz vor diesem Hintergrund annahm, es verstosse gegen das vertraglich vereinbarte und mit einer Konventionalstrafe bewehrte Konkurrenzverbot, wenn der Beschwerdeführer den Betrieb eines Konkurrenzunternehmens über einen Bildschirm in seinem Coiffeursalon überwachte und für dessen Kunden gegebenenfalls als Ansprechperson zur Verfügung stand, verletzt dies kein Bundesrecht.
2.3 Ob der Beschwerdeführer (neben der unzulässigen Mithilfe beim Konkurrenzunternehmen durch die Überwachung des Betriebs und die Funktion als Ansprechperson für Kunden bei Bedarf) aktiv Kunden abgeworben hat oder seine Arbeitnehmer zur Mitarbeit im Konkurrenzbetrieb animierte, könnte höchstens für die Frage der Herabsetzung der Konventionalstrafe eine Rolle spielen. Da keine Reduktionsgründe geltend gemacht wurden, bleibt die Frage, ob die Vorinstanz dem Beschwerdeführer zu Recht auch diese weiteren Verfehlungen angelastet hat, ohne Prozessrelevanz, weshalb auf die damit zusammenhängenden Rügen der Willkür oder der Verletzung des rechtlichen Gehörs nicht einzutreten ist.
2.4 Offen bleiben kann schliesslich auch die Frage, ob die vom Beschwerdeführer entfaltete Tätigkeit den Gesellschaftszweck beeinträchtigt hat. Massgebend ist einzig, dass die Vorinstanz ohne Willkür und ohne Verletzung von Bundesrecht davon ausgehen konnte, das Konkurrenzverbot erfasse grundsätzlich jegliche Form der Unterstützung eines Konkurrenzunternehmens im Oberengadin. Davon abgesehen vermögen die Ausführungen des Beschwerdeführers nicht zu überzeugen, ist doch augenfällig, dass durch seine Mithilfe der Betrieb des Konkurrenzunternehmens erleichtert und so die Gefahr erhöht wird, dass Kunden zur Konkurrenz wechseln.
3. Die Beschwerde erweist sich als unbegründet, soweit überhaupt darauf einzutreten ist. Dem Ausgang des Verfahrens entsprechend, wird der Beschwerdeführer kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht von Graubünden, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 10. Juni 2008
Im Namen der I. zivilrechtlichen Abteilung des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Corboz Luczak