Sachverhalt:
A. Mit Schreiben vom 12. Juli 2005 teilte die Paritätische Berufskommission Bauhauptgewerbe X._ (Beschwerdegegnerin) K._ (Beschwerdeführer) mit, sie habe beschlossen bei ihm eine Lohnbuchkontrolle durchzuführen. Mit Blick auf den externen Prüfungsbericht, welcher diverse Verletzungen der gesamtarbeitsvertraglichen Bestimmungen feststellte, beschloss die Beschwerdegegnerin gestützt auf den Landesmantelvertrag für das Bauhauptgewerbe (nachfolgend LMV) am 3. Juli 2006, dem Beschwerdeführer die Kosten für die externe Kontrolle (Fr. 15'365.30) sowie die bei der Beschwerdegegnerin entstandenen Verfahrenskosten (Fr. 2'120.--) aufzuerlegen und eine Konventionalstrafe von Fr. 110'000.-- zu verhängen. Da der Beschwerdeführer die Zahlung nicht leistete, setzte die Beschwerdegegnerin die Forderung in Betreibung. Nachdem der Beschwerdeführer Rechtsvorschlag erhoben hatte, reichte die Beschwerdegegnerin Klage ein und verlangte vor dem Kreisgericht Gaster-See Fr. 127'485.30 nebst Zins sowie die Beseitigung des Rechtsvorschlags in der von ihr angehobenen Betreibung.
B. Am 25. Oktober 2007 wies das Kreisgericht die Klage mangels Aktivlegitimation der Beschwerdegegnerin ab. Demgegenüber bejahte das Kantonsgericht St. Gallen am 20. Januar 2009 die Aktivlegitimation und wies die Sache an das Kreisgericht zurück. Auf die gegen diesen Zwischenentscheid erhobene Beschwerde in Zivilsachen trat das Bundesgericht nicht ein, da der Beschwerdeführer nicht dargelegt hatte, inwiefern durch eine sofortige Behandlung der Streitsache durch das Bundesgericht ein bedeutender Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren erspart werden würde (Urteil des Bundesgerichts 4A_109/2009 vom 16. April 2009). Daraufhin setzte das Kreisgericht die Konventionalstrafe auf Fr. 35'000.-- fest und verpflichtete den Beschwerdeführer zusätzlich zur Übernahme der bei der Beschwerdegegnerin angefallenen Kontroll- und Verfahrenskosten, was einen Gesamtbetrag von Fr. 52'485.30 ergab.
C. Auf Berufung des Beschwerdeführers und Anschlussberufung der Beschwerdegegnerin entschied das Kantonsgericht im Wesentlichen gleich wie das Bezirksgericht. Es wies die Berufung ab, hiess die Anschlussberufung lediglich mit Bezug auf die verlangten Zinsen teilweise gut, verpflichtete den Beschwerdeführer im Wesentlichen, der Beschwerdegegnerin Fr. 52'485.30 nebst Zins zu 5 % seit dem 5. August 2006 zu bezahlen, und es beseitigte in diesem Umfang den vom Beschwerdeführer erhobenen Rechtsvorschlag.
D. Der Beschwerdeführer beantragt dem Bundesgericht mit Beschwerde in Zivilsachen im Wesentlichen, beide Entscheide des Kantonsgerichts St. Gallen aufzuheben und die Klage abzuweisen. Eventuell sei die Konventionalstrafe angemessen herabzusetzen. Nachdem das Bundesgericht ein erstes Gesuch um Gewährung der aufschiebenden Wirkung abgewiesen hatte, erneuerte der Beschwerdeführer das Gesuch, worauf das Bundesgericht der Beschwerde am 9. August 2011 die aufschiebende Wirkung gewährte. Die Beschwerdegegnerin schliesst auf kostenfällige Abweisung der Beschwerde und beantragt, den Beschwerdeführer zur Sicherstellung einer allfälligen Parteientschädigung zu verpflichten. Das Kantonsgericht hat auf Vernehmlassung verzichtet.
Erwägungen:
1. Die Beschwerdegegnerin hat das Begehren um Sicherstellung einer allfälligen Parteientschädigung gemäss Art. 62 Abs. 2 BGG zusammen mit ihrer Beschwerdeantwort und damit zu einem Zeitpunkt eingereicht, als die Parteikosten im Wesentlichen bereits entstanden waren. Das Gesuch ist deshalb mit Bezug auf die Beschwerdeantwort gegenstandslos (vgl. BGE 118 II 87 E. 2 S. 88; 79 II 295 E. 3 S. 305). Zwar hat sich die Beschwerdegegnerin nach Einreichung der Beschwerdeantwort noch zum erneuten Gesuch um Gewährung der aufschiebenden Wirkung vernehmen lassen. Sie hat aber auf die Fristansetzung nicht mit Hinweis auf das Sicherstellungsbegehren reagiert, sondern liess sich zum Gesuch vernehmen, ohne in den Rechtsbegehren den Antrag auf Sicherstellung zu wiederholen. Zudem ist das Bundesgericht insoweit ihrem Antrag nicht gefolgt, sondern hat die aufschiebende Wirkung gewährt. Unter diesen Umständen ist dem Gesuch um Sicherstellung der Parteikosten auch mit Blick auf die Vernehmlassung zur aufschiebenden Wirkung nicht stattzugeben.
2. Die Beschwerdegegnerin ist der Auffassung, der Entscheid vom 20. Januar 2009, mit dem die Vorinstanz die Aktivlegitimation bejahte, sei in Rechtskraft erwachsen. Sie verkennt, dass der damalige Rückweisungsentscheid weder das Verfahren ganz oder teilweise abschloss (Art. 90 f. BGG) noch die Zuständigkeit oder Ausstandsbegehren betraf (Art. 92 BGG). Es handelt sich damit um einen Zwischenentscheid, der durch Beschwerde gegen den Endentscheid anfechtbar ist, soweit er sich auf dessen Inhalt auswirkt (Art. 93 Abs. 3 BGG).
3. Nach der Rechtsprechung des Bundesgerichts gelten Streitigkeiten über die Auslegung und Anwendung von Gesamtarbeitsverträgen als Zivilsachen (BGE 134 III 399, 541). Ansprüche aus Gesamtarbeitsverträgen werden auch dann dem Privatrecht zugeordnet, wenn sie auf gemäss dem Bundesgesetz vom 28. September 1956 über die Allgemeinverbindlicherklärung von Gesamtarbeitsverträgen (AVEG; SR 221.215.311) allgemeinverbindlich erklärten Bestimmungen beruhen und gegenüber Aussenseitern geltend gemacht werden (BGE 118 II 528 E. 2a S. 531; Urteil des Bundesgerichts 4A_300/2007 vom 6. Mai 2008 E. 1 nicht publ. in BGE 134 III 399). Wird allerdings die Pflicht zur Leistung von Bildungsbeiträgen an Berufsausbildungsfonds in Anwendung von Art. 60 Abs. 3 des Bundesgesetzes vom 13. Dezember 2002 über die Berufsbildung (Berufsbildungsgesetz, BBG) für alle Betriebe einer Branche verbindlich erklärt, ist keine Zivilsache mehr gegeben (zur Publikation bestimmtes Urteil des Bundesgerichts 2C_561/2010 vom 28. Juli 2011 E. 1). Da die zu beurteilende Streitigkeit nicht Beiträge an Berufsbildungsfonds betrifft, steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht offen und hat der Beschwerdeführer zu Recht Beschwerde in Zivilsachen ergriffen.
4. Der Betrieb des Beschwerdeführers fällt unbestritten in den räumlichen und sachlichen Anwendungsbereich des vom Bundesrat allgemeinverbindlich erklärten Landesmantelvertrages. Der Beschwerdeführer hält jedoch die ihm auferlegte Konventionalstrafe und die Verfahrenskostenbeteiligung für rechtswidrig, wobei er namentlich die Aktivlegitimation der Beschwerdegegnerin bestreitet sowie mit Blick auf Lücken in der zeitlichen Geltungsdauer der Landesmantelverträge das Recht der Beschwerdegegnerin, die eingeleiteten Verfahren weiterzuverfolgen, in Abrede stellt. Der Beschwerdeführer hält zwar auch vor Bundesgericht an seinem Begehren um Herabsetzung der Konventionalstrafe fest. Mit Bezug auf die Höhe der Konventionalstrafe äussert er sich in der Beschwerdebegründung aber ausschliesslich zum Zinsenlauf. Hauptstreitpunkt bildet die Frage, ob die Beschwerdegegnerin aktivlegitimiert ist.
4.1 Gemäss Art. 76 Abs. 1 LMV/2005 bestellen die Vertragsparteien des lokalen GAV eine lokale paritätische Berufskommission in der Rechtsform eines Vereines, die ausdrücklich ermächtigt ist, den LMV während seiner Gültigkeit zu vollziehen. Art. 76 Abs. 2 LMV/2005, der die Vertragsparteien des LMV verpflichtet, den lokalen paritätischen Berufskommissionen die erforderlichen Vollmachten zur Vertretung des gemeinsamen Anspruchs gemäss Art. 357b OR zu erteilen, wurde nicht allgemeinverbindlich erklärt. Gemäss Art. 76 Abs. 3 lit. a LMV/2005 hat die lokale paritätische Berufskommission die Aufgabe, auftrags und namens der LMV-Vertragsparteien die arbeitsvertraglichen Bestimmungen des LMV inklusive deren Anhänge und Zusatzvereinbarungen durchzusetzen, sofern im LMV oder in einer anderen Vereinbarung keine andere Lösung getroffen wurde, und den lokalen GAV anzuwenden und durchzusetzen sowie allfällige Meinungsverschiedenheiten oder Streitigkeiten über die Anwendung des lokalen GAV zu schlichten. Dabei obliegt der lokalen paritätischen Berufskommission nach Art. 76 Abs. 3 lit. b LMV/2005 insbesondere die Durchführung von gemeinsamen Lohnkontrollen und Untersuchungen über die Arbeitsverhältnisse im Betrieb. Die lokale paritätische Berufskommission kann eine Firma bezüglich Einhaltung des LMV kontrollieren, führt Kontrollen bezüglich Einhaltung des LMV durch und kontrolliert die Baustellen oder lässt die Kontrolle durch Dritte vornehmen und beschliesst, ob eine Verwarnung oder eine Sanktion ausgesprochen wird und wer die Kontroll- und Verfahrenskosten zu tragen hat (vgl. Art. 76 Abs. 4 LMV/2005). Unter dem Titel Sanktionen hält Art. 79 Abs. 2 LMV/2005 fest, die paritätische Berufskommission sei berechtigt, eine Konventionalstrafe bis zu CHF 50'000.-- zu verhängen (wobei in Fällen vorenthaltener geldwerter Ansprüche die Konventionalstrafe bis zur Höhe der geschuldeten Leistung gehen dürfe) und die Neben- und Verfahrenskosten der fehlbaren Partei aufzuerlegen. Gemäss Art. 79 Abs. 4 LMV/2005 kann im lokalen GAV die gemeinsame Durchführung, beschränkt auf die Durchsetzung von Konventionalstrafen der paritätischen Berufskommission (Art. 357b Abs. 1 lit. c OR), aufgenommen werden, sofern die Vertragsparteien von dieser Möglichkeit Gebrauch machen wollen und die erforderliche Ermächtigung nach Art. 357b Abs. 2 OR vorliegt. Art. 79 Abs. 5 LMV/2005 bestimmt schliesslich, eine rechtskräftig verhängte Konventionalstrafe sei innert 30 Tagen der paritätischen Berufskommission zu zahlen, wobei diese den Betrag für den Vollzug und die Durchsetzung des GAV verwendet.
4.2 Aufgrund des Textes des Landesmantelvertrages blieb nach Auffassung der Vorinstanz unklar, ob der paritätischen Berufskommission ein eigener Anspruch auf die Konventionalstrafe und die Kosten eingeräumt werden sollte. Die Vorinstanz ging indessen davon aus, namentlich mit Blick auf den verfolgten Zweck, eine wirtschaftliche Verflechtung mit den Vertragsparteien zu vermeiden, sei der Beschwerdegegnerin ein eigener Anspruch zuzuerkennen oder zumindest das Recht, diesen im Rahmen einer Prozessstandschaft in eigenem Namen geltend zu machen. Der Beschwerdeführer vertritt demgegenüber den Standpunkt, die Beschwerdegegnerin hätte im Gerichtsverfahren sowie bereits zuvor bei Ausfällung der Konventionalstrafe nur im Namen der Vertragsparteien handeln können. Er weist ausserdem darauf hin, dass der LMV gekündigt worden sei und zeitweise ein vertragsloser Zustand geherrscht habe. Für die in dieser Zeit vorgenommenen Prozesshandlungen habe es der Beschwerdegegnerin an der Vertretungsbefugnis gefehlt, da die von ihr eingereichten Vollmachten auf die Geltung des LMV beschränkt seien.
4.3 Die Beschwerdegegnerin hat den LMV für dessen Geltungsdauer gegenüber den davon erfassten Parteien durchzusetzen. Der Beschwerdeführer behauptet nicht, dass sich der eingeklagte Betrag auch auf Handlungen ausserhalb der Geltungszeit des LMV bezieht. Aus der Funktion der Beschwerdegegnerin ergibt sich, dass deren Aufgabe erst mit Abschluss der die Geltungsdauer des LMV betreffenden Verfahren beendet ist. Vor diesem Hintergrund ist die Befristung der Vollmachten auf die Geltungsdauer des LMV funktional und nicht zeitlich zu verstehen. Es kann nicht die Absicht der Parteien gewesen sein, die Vollmacht während laufenden Gerichtsverfahren entfallen zu lassen. Der diesbezügliche Einwand des Beschwerdeführers ist unbegründet.
4.4 Nicht stichhaltig ist auch der Einwand, die Beschwerdegegnerin hätte bereits die Konventionalstrafe nur im Namen der Vertragsparteien verhängen können. Gemäss LMV ist die paritätische Kommission selbst berechtigt, die Konventionalstrafe zu verhängen. Dass sie den LMV im Namen der Vertragsparteien durchsetzt, ergibt sich bereits aus ihrer im LMV umschriebenen Funktion.
4.5 Nach der Rechtsprechung des Bundesgerichts sind die Vertragsparteien eines Gesamtarbeitsvertrages in der Ausgestaltung der Kontrolle des Verhältnisses zwischen Arbeitgeber und Arbeitnehmer frei (BGE 134 III 541 E. 4.3 S. 546). Die Frage, ob es zulässig ist, den Anspruch auf die Konventionalstrafe an die paritätische Berufskommission abzutreten oder ihr zumindest das Recht einzuräumen, diesen im Rahmen einer Prozessstandschaft im eigenen Namen gerichtlich durchzusetzen, wird in Lehre und Rechtsprechung unterschiedlich beantwortet (STREIFF/VON KAENEL, Arbeitsvertrag, 6. Aufl. 2006, N. 5 zu Art. 357b OR mit Hinweisen; vgl. auch VISCHER/ALBRECHT, Zürcher Kommentar, 4. Aufl. 2006, N. 13 zu Art. 357b OR). Sie stellt sich aber nur, wenn gemäss dem Gesamtarbeitsvertrag der paritätischen Berufskommission entsprechende Kompetenzen zugewiesen werden sollen. Ob dies hier der Fall ist, scheint zweifelhaft.
4.5.1 Art. 76 Abs. 1 LMV/2005 ermächtigt die lokale paritätische Berufskommission zwar ausdrücklich, den LMV während seiner Gültigkeit zu vollziehen. Gemäss Abs. 3 lit. a dieses Artikels hat die lokale paritätische Berufskommission die arbeitsvertraglichen Bestimmungen des LMV aber auftrags und namens der LMV-Vertragsparteien durchzusetzen. Im LMV oder in einer anderen Vereinbarung können zwar andere Lösungen getroffen werden. Als Ausnahme von der Regel müsste sich dies aber klar ergeben. Die Vorinstanz selbst hält den Wortlaut des LMV aber für unklar. Gerade anschliessend an den Auftrag zum Vollzug namens der Vertragsparteien wird in lit. b als Beispiel das Durchführen der Untersuchungen über das Arbeitsverhältnis erwähnt. Art. 79 LMV regelt schliesslich die Sanktionen, bestimmt aber nicht, die Sanktionen seien im Namen der paritätischen Berufskommission gerichtlich durchzusetzen, sondern knüpft in Abs. 4 an das Bestehen der erforderlichen Ermächtigung an.
4.5.2 Darüber hinaus ist nicht ersichtlich, inwiefern ein Vorgehen im Namen der Parteien des LMV mit Schwierigkeiten verbunden sein sollte. Im LMV wird festgehalten, die Konventionalstrafe sei an die paritätische Berufskommission zu leisten, und festgesetzt, dass und wie diese den Betrag verwenden darf. Insoweit besteht auch bei einer Klage im Namen der Vertragsparteien wirtschaftlich kaum eine grössere Verflechtung, als wenn der Beschwerdegegnerin ein eigener Anspruch zuerkannt würde, mit einer Auflage betreffend die Verwendung der Einkünfte. Zur Ausstellung der notwendigen Vollmachten haben sich die Vertragsparteien in Art. 76 Abs. 2 LMV/2005 verpflichtet. Dass dieser Absatz nicht allgemeinverbindlich erklärt wurde, spielt keine Rolle, begründet er doch ohnehin nur zwischen den Vertragsparteien unter sich und gegenüber den lokalen paritätischen Berufskommissionen Rechte und Pflichten, an denen sich durch eine Allgemeinverbindlicherklärung nichts ändern würde. Art. 76 Abs. 2 LMV/2005 bekräftigt nur, was sich aus dem Wortlaut des allgemeinverbindlich erklärten Art. 76 Abs. 3 lit. a LMV/2005 ergibt, nämlich dass die Vertragsparteien ein Handeln der lokalen paritätischen Berufskommission in ihrem Namen vorsahen. Eine entsprechende Vollmacht wäre zudem wohl unabhängig von Abs. 2 der Bestimmung als im Auftrag zur Durchsetzung der Ansprüche namens der LMV-Vertragsparteien enthalten anzusehen.
4.6 Die Frage braucht indessen nicht abschliessend behandelt zu werden. Aus Art. 79 Abs. 5 LMV/2005 geht ausdrücklich hervor, dass die Konventionalstrafe an die paritätische Berufskommission, also die Beschwerdegegnerin zu bezahlen ist. Der Beschwerdeführer weist selbst darauf hin, die Beschwerdegegnerin habe im Prozess zum Teil ausgeführt, sie handle im Namen der Vertragsparteien. Gestützt auf die erteilten Vollmachten müssen sich die Vertragsparteien des LMV das Verhalten der Beschwerdegegnerin entgegenhalten lassen. Daher könnten sie, auch wenn die Beschwerdegegnerin zu Unrecht im eigenen Namen geklagt haben sollte, vom Beschwerdeführer nicht nochmals Zahlung verlangen. Entgegen seiner Auffassung würde der Beschwerdeführer durch Zahlung an die Beschwerdegegnerin in jedem Fall befreit. Ob die Konventionalstrafe als eigener Anspruch der Beschwerdegegnerin angesehen wird oder nicht, ändert nichts daran, dass der Beschwerdeführer an diese leisten muss und durch die Leistung befreit wird. Der Beschwerdeführer zeigt nicht auf, inwiefern er unter diesen Umständen ein schützenswertes Interesse an der Klärung der Frage hat, ob der Anspruch formell auf die Beschwerdegegnerin übergegangen ist. Es kann ihm gleichgültig sein, wem der Anspruch im Verhältnis der lokalen paritätischen Berufskommission zu den Vertragsparteien des LMV zusteht. Selbst wenn die Beschwerdegegnerin formell im Namen der LMV-Vertragspartner hätte klagen müssen, erweist sich die Einwendung des Beschwerdeführers als blosse Schikane, um sich der in jedem Fall gegenüber der Beschwerdegegnerin zu erbringenden Zahlung zu entziehen. Dieses Verhalten verdient keinen Rechtsschutz.
4.7 Der Beschwerdeführer macht schliesslich geltend, Verzugszins sei erst geschuldet, wenn das staatliche Gericht rechtskräftig über die Konventionalstrafe entschieden habe. Gemäss den allgemeinverbindlich erklärten Bestimmungen des LMV ist die paritätische Berufskommission indessen zur Verhängung der Konventionalstrafe berechtigt. Damit besteht kein Grund, für den Beginn des Verzugs auf die Rechtskraft des richterlichen Entscheides abzustellen.
4.8 Insgesamt erweist sich die Beschwerde als unbegründet und ist abzuweisen. Dem Verfahrensausgang entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig.
Demnach erkennt das Bundesgericht:
1. Das Gesuch um Sicherstellung der Parteikosten wird abgewiesen, soweit es nicht gegenstandslos geworden ist.
2. Die Beschwerde wird abgewiesen.
3. Die Gerichtskosten von Fr. 2'500.-- werden dem Beschwerdeführer auferlegt.
4. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 3'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 21. September 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Luczak