Sachverhalt:
A. A.a K._, (Beschwerdeführer) arbeitete ab 1. Juli 2000 als Leiter der Abteilung Heizung im Betrieb der X._ AG (Beschwerdegegnerin). Er gehörte der Geschäftsleitung an, war handlungsbevollmächtigt und führte selbständig eine Zweigstelle in Y._, wobei er in dieser Funktion unter anderem für den Abschluss von Verträgen sowie das Erstellen und Visieren von Rechnungen zuständig war.
Der zwischen den Parteien abgeschlossene Arbeitsvertrag hält unter anderem fest, dem Beschwerdeführer sei "jegliche private Erwerbstätigkeit ohne schriftliche Einwilligung der Geschäftsleitung oder des Verwaltungsrates ... untersagt".
Ende Mai 2002 kündigte der Beschwerdeführer das Arbeitsverhältnis per Ende November 2002. Am 30. Juli 2002 stellte ihm die Beschwerdegegnerin ein in jeder Hinsicht gutes Arbeitszeugnis aus.
A.b Nach dem Austritt des Beschwerdeführers stiess die Beschwerdegegnerin bei Räumungsarbeiten auf Hinweise, dass dieser während des Arbeitsverhältnisses unter Verwendung ihrer Infrastruktur auf privater Basis und gegen Entgelt Aufträge im Heizungsbereich (Planungsarbeiten, Ausarbeiten von Kostenvoranschlägen und Offerten, Rechnungsstellung und dergleichen) für Dritte ausgeführt hatte. Die Beschwerdegegnerin erstattete Strafanzeige, worauf in den Jahren 2007 bis 2009 gegen den Beschwerdeführer ein Strafverfahren wegen ungetreuer Geschäftsbesorgung und mehrfacher Urkundenfälschung durchgeführt wurde, wobei die Beschwerdegegnerin adhäsionsweise eine Schadenersatzforderung von Fr. 23'595.-- nebst Zins geltend machte.
Am 10. Februar 2009 wurde der Beschwerdeführer erstinstanzlich der ungetreuen Geschäftsbesorgung schuldig gesprochen, von der Anklage der mehrfachen Urkundenfälschung hingegen freigesprochen. Mit Entscheid vom 5. November 2009 sprach das Kantonsgericht St. Gallen den Beschwerdeführer mangels eines Vermögensschadens auch vom Vorwurf der ungetreuen Geschäftsbesorgung frei. Die Schadenersatzforderung der Beschwerdegegnerin hatte bereits das erstinstanzliche Strafgericht auf den Weg des Zivilprozesses verwiesen, was unangefochten blieb.
B. B.a Am 21. Juni 2010 klagte die Beschwerdegegnerin beim Kreisgericht Werdenberg-Sarganserland mit dem Rechtsbegehren, es sei der Beschwerdeführer zur Zahlung von Fr. 23'595.-- nebst 5 % Zins seit dem 1. Dezember 2002 zu verpflichten. Der eingeklagte Betrag entsprach den Einnahmen des Beschwerdeführers aus der während des Arbeitsverhältnisses ausgeübten Nebentätigkeit.
Mit Entscheid vom 21. Oktober 2010 hiess das Kreisgericht die Klage im Umfang von Fr. 15'000.-- (Einnahmen des Beschwerdeführers aus der Nebentätigkeit abzüglich einer Entschädigung für die eigene Arbeit) nebst 5 % Zins seit dem 14. März 2008 gut. Im Übrigen wies es die Klage ab.
B.b Mit Entscheid vom 28. April 2011 wies das Kantonsgericht St. Gallen eine vom Beschwerdeführer gegen das Urteil des Kreisgerichts Werdenberg-Sarganserland vom 21. Oktober 2010 erhobene Berufung ab.
C. Mit Beschwerde in Zivilsachen beantragt der Beschwerdeführer dem Bundesgericht, der Entscheid des Kantonsgerichts St. Gallen vom 28. April 2011 sei aufzuheben und die Klage der Beschwerdegegnerin sei abzuweisen.
Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde. Die Vorinstanz hat auf eine Vernehmlassung verzichtet.
Erwägungen:
1. 1.1 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (vgl. BGE 133 II 249 E. 1.4.1 S. 254; 132 II 257 E. 2.5 S. 262; 130 III 136 E. 1.4 S. 140). Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (BGE 135 II 384 E. 2.2.1 S. 389; 133 II 249 E. 1.4.1 S. 254 mit Hinweisen).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 III 350 E. 1.3 S. 351 f., 393 E. 7.1 S. 398, 462 E. 2.4 S. 466 f.).
Der Beschwerdeführer stellt seinen rechtlichen Vorbringen eine ausführliche Sachverhaltsdarstellung voran, in der er den Ablauf der Ereignisse sowie des Verfahrens aus seiner Sicht schildert. Er weicht darin in verschiedenen Punkten von den tatsächlichen Feststellungen der Vorinstanz ab oder erweitert diese unter Hinweis auf verschiedenste Aktenstücke des kantonalen Verfahrens, ohne substantiiert Ausnahmen von der Sachverhaltsbindung geltend zu machen. Seine Ausführungen haben daher unbeachtet zu bleiben, und es ist ausschliesslich auf den von der Vorinstanz festgestellten Sachverhalt abzustellen.
2. Der Beschwerdeführer wirft der Vorinstanz eine Verletzung von Art. 464 OR vor.
2.1 Die Vorinstanz erachtete es - im Gegensatz zur Erstinstanz - zunächst als fraglich, ob aus Art. 321b OR ein Herausgabeanspruch des Arbeitgebers für Einkünfte des Arbeitnehmers aus vertragswidrig ausgeübter Nebentätigkeit hergeleitet oder ob hierfür gegebenenfalls ergänzend die arbeitsvertragsfremde Bestimmung von Art. 423 OR herangezogen werden könne. Der Beschwerdeführer habe jedoch nicht nur dem in Art. 321a Abs. 3 OR geregelten Verbot der Schwarzarbeit unterstanden, sondern als Handlungsbevollmächtigter auch dem gesetzlichen Konkurrenzverbot von Art. 464 OR. Der Beschwerdeführer habe gegen das Verbot verstossen, als handlungsbevollmächtigter Arbeitnehmer im Geschäftsbereich des Arbeitgebers auf eigene Rechnung Geschäfte zu machen (Art. 464 Abs. 1 OR). Der Arbeitgeber könne daher nach Art. 464 Abs. 2 OR die betreffenden Geschäfte auf eigene Rechnung übernehmen, wobei dies auch einen Anspruch auf Abschöpfung der vom Handlungsbevollmächtigten aus diesen Geschäften erlangten Vorteile umfasse. Ein Herausgabeanspruch der Beschwerdegegnerin für die Einnahmen des Beschwerdeführers aus der konkurrenzierenden Nebentätigkeit ergebe sich damit, wenn auch möglicherweise nicht aus Art. 321b OR, so doch jedenfalls aus Art. 464 Abs. 2 OR. Ob der von der Erstinstanz vorgenommene Abzug für die eigene Arbeitskraft zu Recht und in zutreffendem Umfang erfolgt sei, könne mangels Anschlussberufung offengelassen werden; eine Erhöhung des Abzugs falle jedenfalls ausser Betracht.
2.1 Die Vorinstanz erachtete es - im Gegensatz zur Erstinstanz - zunächst als fraglich, ob aus Art. 321b OR ein Herausgabeanspruch des Arbeitgebers für Einkünfte des Arbeitnehmers aus vertragswidrig ausgeübter Nebentätigkeit hergeleitet oder ob hierfür gegebenenfalls ergänzend die arbeitsvertragsfremde Bestimmung von Art. 423 OR herangezogen werden könne. Der Beschwerdeführer habe jedoch nicht nur dem in Art. 321a Abs. 3 OR geregelten Verbot der Schwarzarbeit unterstanden, sondern als Handlungsbevollmächtigter auch dem gesetzlichen Konkurrenzverbot von Art. 464 OR. Der Beschwerdeführer habe gegen das Verbot verstossen, als handlungsbevollmächtigter Arbeitnehmer im Geschäftsbereich des Arbeitgebers auf eigene Rechnung Geschäfte zu machen (Art. 464 Abs. 1 OR). Der Arbeitgeber könne daher nach Art. 464 Abs. 2 OR die betreffenden Geschäfte auf eigene Rechnung übernehmen, wobei dies auch einen Anspruch auf Abschöpfung der vom Handlungsbevollmächtigten aus diesen Geschäften erlangten Vorteile umfasse. Ein Herausgabeanspruch der Beschwerdegegnerin für die Einnahmen des Beschwerdeführers aus der konkurrenzierenden Nebentätigkeit ergebe sich damit, wenn auch möglicherweise nicht aus Art. 321b OR, so doch jedenfalls aus Art. 464 Abs. 2 OR. Ob der von der Erstinstanz vorgenommene Abzug für die eigene Arbeitskraft zu Recht und in zutreffendem Umfang erfolgt sei, könne mangels Anschlussberufung offengelassen werden; eine Erhöhung des Abzugs falle jedenfalls ausser Betracht.
2.2 2.2.1 Nach Art. 464 Abs. 1 OR darf der Prokurist und der Handlungsbevollmächtigte, der zum Betrieb des ganzen Gewerbes bestellt ist oder in einem Arbeitsverhältnis zum Inhaber des Gewerbes steht, ohne Einwilligung des Geschäftsherrn weder für eigene Rechnung noch für Rechnung eines Dritten Geschäfte machen, die zu den Geschäftszweigen des Geschäftsherrn gehören. Der Vertreter darf also nicht die gleichen Produkte oder Dienstleistungen anbieten wie der Prinzipal (ROLF WATTER, in: Basler Kommentar, Obligationenrecht I, 5. Aufl. 2011, N. 1 zu Art. 464 OR; JÖRG SCHWARZ, in: Handkommentar zum Schweizer Privatrecht, 2007, N. 2 zu Art. 464 OR). Die Bestimmung dient dem Schutz des Geschäftsherrn und will Interessenkollisionen vermeiden, die insbesondere dann drohen würden, wenn der Vertretungsbefugte je nach Belieben für den Geschäftsherrn oder in eigenem Interesse tätig werden könnte (vgl. HEYMANN/HENSSLER, Kommentar zum Handelsgesetzbuch, 2. Aufl. 2008, N. 3 zu § 60 HGB).
Nach herrschender Auffassung bezieht sich das Konkurrenzverbot von Art. 464 Abs. 1 OR nur auf den Abschluss von Rechtsgeschäften, die der Vertreter statt für den Prinzipal mit sich selber oder für einen Dritten abschliesst, während tatsächliche Handlungen für einen Dritten nicht in den Anwendungsbereich dieser Bestimmung fallen (WATTER, a.a.O., N. 6 zu Art. 464 OR; SCHWARZ, a.a.O., N. 2 zu Art. 464 OR; CHRISTINE CHAPPUIS, in: Commentaire romand, Code des obligations I, 2003, N. 2 zu Art. 464 OR; GEORG GAUTSCHI, Berner Kommentar, 2. Aufl. 1962, N. 5b zu Art. 464 OR).
2.2.2 Der Beschwerdeführer war handlungsbevollmächtigt und führte eine Zweigstelle der Beschwerdegegnerin. Er hat nach den Feststellungen im angefochtenen Entscheid während des Arbeitsverhältnisses mit der Beschwerdegegnerin für verschiedene Drittunternehmen, die mit seiner Arbeitgeberin in direktem Wettbewerb standen, gegen Entgelt mehrere Aufträge im Heizungsbereich ausgeführt. Die entsprechende Tätigkeit übte der Beschwerdeführer überwiegend in den Geschäftsräumen der Beschwerdegegnerin aus und nutzte dabei auch die dort vorhandene Spezialinfrastruktur. Nach vorinstanzlicher Feststellung hat ihm der spezifisch ausgestattete Arbeitsplatz der Beschwerdegegnerin die von dieser beanstandete Tätigkeit für Dritte überhaupt erst ermöglicht.
Angesichts dieser Feststellungen im angefochtenen Entscheid verfängt der pauschal erhobene Einwand des Beschwerdeführers nicht, das von den Konkurrenzunternehmen erhaltene Entgelt sei reiner Arbeitslohn und seine Dienstleistungen als bloss tatsächliche Handlungen für Dritte zu verstehen, die nicht in den Anwendungsbereich von Art. 464 OR fallen sollen. Insbesondere geht daraus hervor, dass der Beschwerdeführer gerade nicht in die Arbeitsorganisation der Konkurrenzunternehmen eingegliedert war (vgl. BGE 125 III 78 E. 4 S. 81; Urteil 4C.276/2006 vom 25. Januar 2007 E. 4; MANFRED REHBINDER/JEAN-FRITZ STÖCKLI, Berner Kommentar, 3. Aufl. 2010, N. 6 ff. zu Art. 319 OR; ADRIAN STAEHELIN, Zürcher Kommentar, 4. Aufl. 2006, N. 26 ff. zu Art. 319 OR), worauf auch die Beschwerdegegnerin zutreffend hinweist. Unabhängig davon, ob die konkret erbrachten Dienstleistungen im Rahmen eines Auftrags (Art. 394 ff. OR) oder eines Werkvertrags (Art. 363 ff. OR) erfolgten, ist die Vorinstanz im Ergebnis zutreffend davon ausgegangen, dass der Beschwerdeführer damit für eigene Rechnung Rechtsgeschäfte abgeschlossen hat, die zum Geschäftszweig der Beschwerdegegnerin gehören und von Art. 464 Abs. 1 OR erfasst werden.
Unerheblich ist dabei, ob die fraglichen Konkurrenzunternehmen die entsprechenden Geschäfte an die Beschwerdegegnerin vergeben hätten oder diese interessiert gewesen wäre, die konkreten Dienstleistungen selbst zu erbringen (vgl. HEYMANN/HENSSLER, a.a.O., N. 12 zu § 60 HGB). Dem kaufmännischen Vertreter soll der Anreiz zu einem Geschäft in denselben Geschäftszweigen unabhängig davon genommen werden, ob der Geschäftsherr das konkrete Geschäft abgeschlossen hätte oder er selber einen Gewinn hätte erzielen können (vgl. HERBERT BUCHNER, Wettbewerbsverbote während und nach Beendigung des Arbeitsverhältnisses, Heidelberg 1995, S. 37 Rz. B115, S. 50 Rz. B165; HEYMANN/HENSSLER, a.a.O., N. 12 zu § 60 HGB). Entscheidend ist vielmehr, dass die vom Beschwerdeführer erbrachten Dienstleistungen zu den Geschäftszweigen der Beschwerdegegnerin gehörten und für Drittunternehmen erbracht wurden, die mit der Beschwerdegegnerin in direktem Wettbewerb stehen. Die damit verbundene Gefährdung der Wettbewerbsinteressen der Beschwerdegegnerin ist evident und dem handlungsbevollmächtigten Beschwerdeführer war es aufgrund seines besonderen Treueverhältnisses nach Art. 464 Abs. 1 OR verwehrt, entsprechende Geschäfte ohne Einwilligung des Geschäftsherrn zu machen. Dass die Beschwerdegegnerin die abgeschlossenen Geschäfte genehmigt hätte, macht der Beschwerdeführer zu Recht nicht geltend.
2.3 Bei Übertretung des Konkurrenzverbots von Art. 464 Abs. 1 OR kann der Geschäftsherr Ersatz des verursachten Schadens fordern und die betreffenden Geschäfte auf eigene Rechnung übernehmen (Art. 464 Abs. 2 OR). Hat der Prokurist bzw. Handlungsbevollmächtigte das fragliche Geschäft in eigenem Namen abgeschlossen, kann der Geschäftsherr die Ablieferung aller daraus tatsächlich erlangten Vermögenswerte verlangen (GAUTSCHI, a.a.O., N. 7b und 8b zu Art. 464 OR; WATTER, a.a.O., N. 8 zu Art. 464 OR; JOSEF HOFSTETTER, Der Auftrag und die Geschäftsführung ohne Auftrag, SPR VII/6, 2000, S. 248 N. 4, die den Übernahmeanspruch jeweils mit der Vorteilsaneignung nach Art. 423 Abs. 1 OR gleichsetzen). Es steht ihm demnach ein Anspruch auf Abschöpfung des vom Vertreter bereits erzielten Gewinns zu (JÖRG SCHMID, Zürcher Kommentar, 3. Aufl. 1993, N. 75 zu Art. 423 OR; vgl. auch HEYMANN/HENSSLER, a.a.O., N. 7 zu § 61 HGB).
Entgegen dem, was der Beschwerdeführer anzunehmen scheint, ist es nicht erforderlich, dass der Geschäftsherr ausdrücklich eine Übernahme der Geschäfte auf eigene Rechnung im Sinne von Art. 464 Abs. 2 OR verlangt. Nachdem die Beschwerdegegnerin - wie auch in der Beschwerde festgehalten - im kantonalen Verfahren die Herausgabe des erzielten Gewinns verlangt hat, ist der Vorinstanz keine willkürliche oder aktenwidrige Sachverhaltsfeststellung vorzuwerfen, wenn sie die auf Geldzahlung gerichtete Klage der Beschwerdegegnerin (soweit im Berufungsverfahren noch strittig) gestützt auf diese Bestimmung geschützt hat. Entgegen der in der Beschwerde vertretenen Ansicht hat die Vorinstanz der Beschwerdegegnerin, deren Begehren auf Bestätigung des kreisgerichtlichen Entscheids vom 21. Oktober 2010 lautete, weder mehr noch anderes zugesprochen, als diese selbst verlangt hatte.
2.4 Der Vorinstanz ist keine Verletzung von Art. 464 OR vorzuwerfen, wenn sie das Verhalten des handlungsbevollmächtigten Beschwerdeführers als unzulässig erachtet und die Klage der Beschwerdegegnerin auf Gewinnherausgabe geschützt hat. Die konkrete Bemessung des Herausgabeanspruchs stellt der Beschwerdeführer vor Bundesgericht nicht in Frage.
Es braucht somit nicht entschieden zu werden, ob gegenüber einem Arbeitnehmer ohne Handlungsvollmacht oder Prokura ebenfalls ein Anspruch auf Gewinnherausgabe (gestützt auf Art. 423 Abs. 1 OR bzw. in analoger Anwendung von Art. 321b OR oder Art. 464 Abs. 2 OR) geltend gemacht werden kann, wenn er seinen Arbeitgeber in unzulässiger Weise konkurrenziert (vgl. Art. 321a Abs. 3 OR), oder ob die arbeitsrechtlichen Bestimmungen eine Gewinnabschöpfung (im Sinne eines qualifizierten Schweigens) ausschliessen (gegen eine Gewinnabschöpfung: SCHMID, a.a.O., N. 82 zu Art. 423 OR; THOMAS BRÄNDLI, Arbeitsvertrag und Nebenbeschäftigung, 2000, S. 148 f.; zurückhaltend auch MARKUS NIETLISPACH, Zur Gewinnherausgabe im schweizerischen Privatrecht, 1994, S. 452; für eine Gewinnabschöpfung: CHRISTINE CHAPPUIS, La restitution des profits illégitimes, 1991, S. 141; ROLF H. WEBER, Gewinnherausgabe - Rechtsfigur zwischen Schadenersatz-, Geschäftsführungs- und Bereicherungsrecht, ZSR 111/1992 I S. 337 f.; HOFSTETTER, a.a.O., S. 269 FN. 7; ALEXANDER CH. BÜRGI-WYSS, Der unrechtmässig erworbene Vorteil im schweizerischen Privatrecht, 2005, S. 272; vgl. im Übrigen BGE 34 II 694 E. 4 hinsichtlich der Nebentätigkeit eines Dienstverpflichteten unter Verwendung des Betriebsmaterials des Dienstherrn; vgl. zum deutschen Dienstvertragsrecht STAUDINGER/RICHARDI/FISCHINGER, Kommentar zum Bürgerlichen Gesetzbuch, 2011, N. 628 zu § 611 BGB; BUCHNER, a.a.O., S. 48 ff. Rz. B161 ff.).
3. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 sowie Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 600.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen, III. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 28. November 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Leemann