Sachverhalt:
A. A._ (Beschwerdeführer) wurde mit Arbeitsvertrag vom 1. Oktober 1982 von der X._ AG (Beschwerdegegnerin) als Werkmeister angestellt.
Am 2. März 1990 schloss die X._ AG als Versicherungsnehmerin mit der Versicherung Z._ eine Lebensversicherung auf das Leben des Beschwerdeführers als versicherte Person ab (Police xxx).
Im Jahre 1998 bat der Beschwerdeführer seine Arbeitgeberin um ein Darlehen in der Höhe von Fr. 21'500.--. Die X._ AG beantragte hierauf bei der Versicherung Z._ die Belehnung der Police xxx. Die Auszahlung des Darlehensbetrags erfolgte am 14. September 1998 an die X._ AG unter gleichzeitiger Bestätigung, dass auf der Lebensversicherungspolice nunmehr ein Gesamtdarlehen von Fr. 21'788.-- (Darlehensbetrag von Fr. 21'500.-- + Schuldzinsen bis Ende des laufenden Versicherungsjahres von Fr. 278.--) bestehe. Ferner wurde die X._ AG informiert, dass die Darlehenszinsen nicht wie gewünscht aus der Substanz gedeckt werden könnten. Dies teilte die X._ AG dem Beschwerdeführer mit Schreiben vom Juni 2000 mit und forderte ihn auf, die anfallenden Jahreszinse an die X._ AG zu bezahlen.
Nach dem Tod von X._ verkaufte seine Ehefrau im Jahr 2001 sämtliche Aktien der X._ AG an die Y._ GmbH in I._. Am 20. Oktober 2002 schloss die X._ AG (unter neuer Eigentümerschaft) mit dem Beschwerdeführer einen neuen Arbeitsvertrag ab.
Mit Schreiben vom 26. August 2009 kündigte der Beschwerdeführer den Arbeitsvertrag per Ende November 2009. Am 1. September 2009 wandte sich die Rechtsschutz-Versicherung W._ im Namen des Beschwerdeführers an die Beschwerdegegnerin und ersuchte darum, dass die Lebensversicherung vereinbarungsgemäss per 1. Dezember 2009 auf den Namen des Beschwerdeführers überschrieben werde, so dass er ab 1. Dezember 2009 Versicherungsnehmer der Police sei. Die Rechtsschutz-Versicherung W._ nahm dabei Bezug auf die Police xxx sowie auf ein Schreiben der X._ AG an den Beschwerdeführer vom 27. März 1990. Darin hatte die X._ AG dem Beschwerdeführer den Abschluss der Lebensversicherung "für Sie" mitgeteilt und darauf hingewiesen, dass die Firma die Prämienzahlungen übernehme, solange er dem Betrieb zur Verfügung stehe. Sollte er den Betrieb verlassen, stehe ihm in voller Freizügigkeit die Police zur eigenen Verwertung zur Verfügung.
B. Am 26. Februar 2010 liess der Beschwerdeführer die Beschwerdegegnerin zur Aussöhnung vorladen. Nach gescheitertem Aussöhnungsversuch beantragte er mit Klage vom 31. Mai 2010 beim Amtsgericht Thal-Gäu, die Beschwerdegegnerin sei zu verurteilen, ihm Fr. 200'000.-- nebst Zins zu 5 % seit dem 1. Dezember 2009 zu bezahlen. Die Beschwerdegegnerin bestritt einen Anspruch aus der Versicherungspolice und forderte ihrerseits die Rückzahlung des dem Beschwerdeführer im Jahr 1998 gewährten Darlehens. Entsprechend begehrte sie die Klageabweisung und erhob Widerklage auf Bezahlung von Fr. 21'500.-- nebst Zins von 5 % seit dem 8. März 2010. Am 8. September 2010 liess der Amtsgerichtspräsident die Y._ GmbH als Nebenintervenientin auf der Beklagtenseite zu. Am 18. Januar 2012 entschied das Amtsgericht, dass die Beschwerdegegnerin dem Beschwerdeführer Fr. 184'847.55 und der Beschwerdeführer der Beschwerdegegnerin Fr. 2'000.70 (Verzugszins auf der Darlehensrückforderung) zu bezahlen haben.
Gegen dieses Urteil erhob die Beschwerdegegnerin Berufung und der Beschwerdeführer Anschlussberufung an das Obergericht des Kantons Solothurn. Die Beschwerdegegnerin beantragte im Wesentlichen die Zahlung von Fr. 21'500.- nebst Zins zu 5% seit 8. März 2010, der Beschwerdeführer die Zahlung von Fr. 186'397.55 nebst Zins zu 5 % seit 1. Dezember 2009.
Mit Urteil vom 21. November 2012 hiess das Obergericht die Berufung und die Anschlussberufung teilweise gut. Es verpflichtete die Beschwerdegegnerin, dem Beschwerdeführer Fr. 129'823.-- nebst Zins zu 5 % seit 1. Dezember 2009 zu bezahlen. Umgekehrt verpflichtete es den Beschwerdeführer, der Beschwerdegegnerin auf dem Betrag von Fr. 21'500.-- 5 % Zins seit 8. März 2010 zu bezahlen. Ferner hielt es fest, dass die beiden Beträge verrechenbar seien.
C. Der Beschwerdeführer beantragt mit Beschwerde in Zivilsachen, das Urteil vom 21. November 2012 sei mit Ausnahme der die Nebenintervenientin betreffenden Dispositiv-Ziffer 8 aufzuheben. Die Beschwerdegegnerin sei zu verurteilen, dem Beschwerdeführer Fr. 186'397.55 nebst Zins zu 5 % seit dem 1. Dezember 2009 zu bezahlen. Die Widerklage sei abzuweisen. Die Sache sei zur Neuverlegung der Kosten im Sinne einer vollumfänglichen Auferlegung der Verfahrens- und Parteikosten des kantonalen Verfahrens zulasten der Beschwerdegegnerin an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin beantragt die Beschwerde abzuweisen, soweit darauf eingetreten werden könne. Die Vorinstanz verzichtete unter Hinweis auf das angefochtene Urteil auf eine Vernehmlassung.
Der Beschwerdeführer reichte eine Replik ein, während die Beschwerdegegnerin auf eine weitere Stellungnahme verzichtete.
Die Y._ GmbH wurde nicht zur Vernehmlassung eingeladen.

Erwägungen:
1. Die Vorinstanz erkannte mit der Erstinstanz, dass der Beschwerdeführer Anspruch auf den Versicherungswert habe. Die Versicherung Z._ habe die Versicherungssumme per 1. Januar 2010 mit Fr. 151'601.-- (inkl. Überschussbeteiligung) beziffert. Dieser Betrag abzüglich das Darlehen von Fr. 21'778.-- ergebe den Auszahlungsbetrag von Fr. 129'823.--, den die Versicherung Z._ der Beschwerdegegnerin überwiesen habe. Diesen Betrag, aber auch nicht mehr, habe der Beschwerdeführer zugute. Im Gegensatz zur ersten Instanz sprach die Vorinstanz dem Beschwerdeführer den beantragten Verzugszins auf diesem Betrag zu. Andererseits verwarf sie das Vorbringen des Beschwerdeführers, dass auf der Forderung der Beschwerdegegnerin auf Rückzahlung des ihm gewährten Darlehens zufolge Verrechnung kein Verzugszins geschuldet sei. Entsprechend verpflichtete sie den Beschwerdeführer, der Beschwerdegegnerin auf dem Betrag von Fr. 21'500.-- 5 % Zins seit 8. März 2010 zu bezahlen.
2. Im Hauptstreitpunkt stellt sich der Beschwerdeführer auf den Standpunkt, er habe den anbegehrten Betrag von Fr. 186'397.55 zugute und nicht bloss Fr. 129'823.--, wie ihn die Vorinstanz zugesprochen habe.
2.1 Dem Beschwerdeführer ist zuzugestehen, dass die Begründung des angefochtenen Urteils in diesem Punkt etwas rudimentär ist. Dennoch lässt sich die Argumentation der Vorinstanz nachvollziehen:
In einem ersten Schritt nahm sie mit der Erstinstanz, auf deren Erwägungen sie in diesem Zusammenhang verwies, an, dass die Beschwerdegegnerin bzw. X._ mit dem Schreiben vom 27. März 1990 eine zuvor mündlich getroffene Abmachung bestätigt habe, und demnach zwischen den Parteien eine bindende vertragliche Vereinbarung zustande kam, auf die sich der Beschwerdeführer für den eingeklagten Anspruch grundsätzlich stützen könne.
Hingegen folgte die Vorinstanz in einem zweiten Schritt hinsichtlich der Höhe des Anspruchs des Beschwerdeführers nicht der Erstinstanz und dem Beschwerdeführer sondern der Argumentation der Beschwerdegegnerin. Danach war die Beschwerdegegnerin als Versicherungsnehmerin berechtigt, ohne Einverständnis des Beschwerdeführers die Versicherung anzupassen und tiefere Prämien zu leisten, wie sie es ab 1999 getan hatte. Die Vorinstanz stützte sich dafür einerseits auf die Tatsache, dass allein die Beschwerdegegnerin Vertragspartnerin der Versicherung Z._ war und demnach in diesem Versicherungsverhältnis Änderungen vereinbaren konnte. Anderseits vermochte die Vorinstanz gestützt auf den Wortlaut des Schreibens vom 27. März 1990, das für das Vertragsverhältnis zwischen den Parteien massgebend ist, keine Zusicherung der Beschwerdegegnerin hinsichtlich der Prämienhöhe zu erkennen. Mangels Zusicherung hinsichtlich der Prämienhöhe folgte sie dem Standpunkt des Beschwerdeführers nicht, wonach er Anspruch auf den Versicherungswert habe, der resultiert hätte, wenn die Prämien ungeschmälert durchbezahlt worden wären, nämlich Fr. 208'727.-- (inkl. Überschussbeteiligung), abzüglich Prämienanteil pro Dezember 2009 und Darlehen. Vielmehr quantifizierte sie den Anspruch des Beschwerdeführers auf den Betrag, der von der Versicherung Z._ per 1. Januar 2010 auf Fr. 151'601.-- (inkl. Überschussbeteiligung) als Versicherungssumme beziffert wurde. Dieser Betrag abzüglich das Darlehen von Fr. 21'778.-- ergab den Auszahlungsbetrag von Fr. 129'823.--, den die Vorinstanz dem Beschwerdeführer zusprach.
2.2 Der Beschwerdeführer hält dem lediglich seinen schon im kantonalen Verfahren vertretenen Standpunkt entgegen, ohne eine Verletzung der Auslegungsregeln nach Art. 18 OR aufzuzeigen. Die Vorinstanz hat sich auf das im Verhältnis der Parteien massgebende Schreiben vom 27. März 1990 gestützt. Es ist nun bundesrechtlich nicht zu beanstanden, wenn sie in der Formulierung dieses Schreibens keine Zusicherung erblicken konnte, dass die Prämien unvermindert weiterbestehen würden. Die dortigen Ausführungen zur Prämie lassen sich zwangslos als blosse Information über die gegenwärtigen Bedingungen verstehen, ohne dass dem Beschwerdeführer zugesichert wurde, dass diese stets unverändert beibehalten werden würden. Vielmehr deutet der Hinweis auf die dereinstige mögliche Versicherungssumme, die von der Versicherung lediglich "unverbindlich" per heutige Einschätzung mitgeteilt wurde, darauf hin, dass Änderungen nicht ausgeschlossen sind. Von daher kann nicht gesagt werden, die Auslegung der Vorinstanz widerspreche dem, was der Beschwerdeführer aufgrund des Schreibens vom 27. März 1990 nach Treu und Glauben erwarten durfte. Namentlich kann dem Beschwerdeführer nicht gefolgt werden, wenn er vorbringt, diese Sichtweise würde keinen Sinn machen, da sie darauf hinauslaufe, dass es im "diskretionären Ermessen" der Beschwerdegegnerin lag, den Anspruch des Beschwerdeführers durch einseitige Aufhebung der Versicherung oder Prämienreduktion zu unterlaufen. So hatte die Beschwerdegegnerin ein evidentes Interesse daran, sich nicht über Jahre hinaus unabhängig von ihrer geschäftlichen Situation zur Prämienzahlung in bestimmter Höhe zu verpflichten.
Entgegen dem Beschwerdeführer trifft es sodann nicht zu, dass die Vorinstanz die Erwägungen der Erstinstanz auch hinsichtlich der Höhe des Anspruchs als ihre eigenen übernommen hätte. Die blosse Wiedergabe, was die erste Instanz ausgeführt habe, bedeutet nicht, dass die Vorinstanz die entsprechenden Erwägungen zu den ihrigen gemacht hätte. Wie oben dargelegt, wich sie im Gegenteil in diesem Punkt von der ersten Instanz ab. Die Bezugnahme auf die erstinstanzlichen Feststellungen, die der Beschwerdeführer in diesem Zusammenhang vornimmt, kann ihm daher für seinen Standpunkt nicht weiterhelfen.
2.3 Ebenso wenig vermag er mit seiner Eventualbegründung durchzudringen.
2.3.1 Damit bringt er vor, die vorinstanzliche Beurteilung beruhe auf "einer in einem wesentlichen Punkt verkürzten und damit sachlich nicht vertretbaren unvollständigen und im Ergebnis willkürlichen Beweiswürdigung". Er verlangt, der Sachverhalt sei mit zusätzlichen Elementen zu ergänzen. In Berücksichtigung derselben sei die Auslegung der Vorinstanz schlechterdings nicht mehr vertretbar. Vielmehr ergebe sich daraus die massliche Leistungserwartung des Beschwerdeführers, dass die Beschwerdegegnerin den Versicherungsvertrag nach Massgabe von dessen ursprünglichen Bedingungen erfüllen müsse.
2.3.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (<ref-ruling> E. 1.2; <ref-ruling> E. 1.4.3; <ref-ruling> E. 1.3 S. 351, 393 E. 7.1, 462 E. 2.4). Soweit er den Sachverhalt ergänzen will, hat er zudem mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Urteile 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: <ref-ruling>; 4A_470/2009 vom 18. Februar 2010 E. 1.2). Überdies ist in der Beschwerde darzutun, inwiefern die Behebung des gerügten Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; <ref-ruling> E. 2.2.2). Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (BGE <ref-ruling> E. 1.4.3).
2.3.3 Diese Anforderungen an die Begründung einer Sachverhaltsrüge erfüllt der Beschwerdeführer nicht. Namentlich unterlässt er es, mit (präzisen) Aktenhinweisen darzulegen, dass er bereits vor der Vorinstanz die vorgebrachten zusätzlichen Tatsachenelemente prozesskonform eingebracht hat. Es ist nicht Sache des Bundesgerichts, danach in den kantonalen Rechtsschriften zu suchen. Es ist daher dem Bundesgericht verwehrt, den Sachverhalt im Sinne des Beschwerdeführers zu ergänzen. Entsprechend kann auch die darauf abgestützte Argumentation des Beschwerdeführers kein Gehör finden.
2.4 Unbehelflich ist schliesslich das Vorbringen, die Vorinstanz sei bei der Quantifizierung des Klageanspruchs ultra petita der Beschwerdegegnerin gegangen. Diese verlangte die vollständige Abweisung der Klage. Demnach war die Reduktion der zugesprochenen Klageforderung im Vergleich zum erstinstanzlichen Urteil vom Berufungsantrag der Beschwerdegegnerin gedeckt (Art. 58 Abs. 1 ZPO; vgl. Urteil 4A_307/2011 vom 16. Dezember 2011 E. 2.4 zum im Wesentlichen gleich lautenden § 54 Abs. 2 aZPO/ZH; <ref-ruling> E. 3a S. 175).
3. Der Beschwerdeführer rügt, die Vorinstanz habe Art. 120 und Art. 124 OR unrichtig angewendet, indem sie entschieden habe, er müsse auf der Darlehensrückforderung Verzugszins bezahlen, obwohl dieselbe durch Verrechnung getilgt worden sei (Verrechnungserklärung vom 16. März 2010).
3.1 Die Verrechnungserklärung nach Art. 124 Abs. 1 OR ist eine an den Gläubiger gerichtete, einseitige empfangsbedürftige Willenserklärung, aus der hervorgehen muss, dass der Verrechnende seine Verrechnungsbefugnis ausübt. Sie kann auch im Rahmen eines hängigen Prozesses abgegeben werden. Die Verrechnungserklärung bewirkt die Tilgung der Verrechnungs- und der Hauptforderung. Die Tilgungswirkung erfolgt dabei rückwirkend auf den Zeitpunkt, in dem sich Forderung und Gegenforderung zur Verrechnung geeignet gegenüber standen (Art. 124 Abs. 2 OR) und sie betrifft auch die Nebenansprüche, namentlich die Verzinsungspflicht. Mit dem Untergang der Forderung entfallen somit seit diesem Zeitpunkt bereits eingetretene Verzugsfolgen nachträglich. Da die Verrechnungsbefugnis nicht stets beiden Parteien zum selben Zeitpunkt zusteht, gilt als massgebender Zeitpunkt, auf den die Tilgungswirkung zurückwirkt, derjenige, in dem dem Verrechnenden die fällige, durchsetzbare Verrechnungsforderung gegen den Verrechnungsgegner und diesem die erfüllbare Hauptforderung gegen den Verrechnenden zustanden (Urteile 4A_27/2012 vom 16. Juli 2012 E. 5.4.1, SJ 2012 I S. 513; 4A_285/2011 vom 1. September 2011 E. 3.1; VIKTOR AEPLI, Zürcher Kommentar, 2001, N. 105, 118 ff. und 126 zu Art. 124 OR; WOLFGANG PETER, in: Basler Kommentar, Obligationenrecht, Bd. I, 5. Aufl. 2011, N. 5 und 6 zu Art. 124 OR).
3.2 Nach den Feststellungen der Erstinstanz, die von der Vorinstanz in diesem Punkt ihrem Urteil zugrunde gelegt scheinen, hat der Beschwerdeführer mit Schreiben vom 16. März 2010 erklärt, die von ihm anerkannte Forderung der Beschwerdegegnerin auf Rückzahlung der Darlehenssumme mit seiner Forderung zu verrechnen. Da zu jenem Zeitpunkt beide Forderungen fällig gewesen seien, sei die Verrechnung gültig erfolgt, so dass die Forderung des Beschwerdeführers im Umfang der Darlehenssumme getilgt sei. Diese Ausführung ist zutreffend. Dass die Forderung des Beschwerdeführers bestritten war, schloss die Geltendmachung der Verrechnung nicht aus (Art. 120 Abs. 2 OR).
Durch den Untergang der Darlehensrückforderung entfiel seit diesem Zeitpunkt aber auch die Verzugszinspflicht. Die Wirkung der Verrechnung wird auf den Zeitpunkt zurückbezogen, in dem sich die Forderungen zur Verrechnung geeignet gegenüberstanden, d.h. mit dem Entstehen der Verrechnungsbefugnis des Beschwerdeführers (vgl. Erwägung 3.1). Dieser konnte somit die Verzugsfolgen mit der Verrechnungserklärung beseitigen. Die Vorinstanz, die - ohne Begründung - vom Gegenteil ausging, hat dies verkannt. In diesem Punkt ist die Beschwerde begründet, und Dispositiv-Ziffer 3 des angefochtenen Urteils, der für die Darlehenssumme seit 8. März 2010 die Verzugszinspflicht statuiert, ist aufzuheben und die Widerklage insoweit abzuweisen. Damit wird auch Dispositiv-Ziffer 4, die festhält, dass die Beträge gemäss Ziffer 2 und 3 verrechenbar seien, ohne weiteres hinfällig.
Der Vollständigkeit halber ist zu erwähnen, dass die Vorinstanz im Gegenzug die Verzinsung der Forderung des Beschwerdeführers korrekterweise nur bezüglich desjenigen Betrags zuliess, der die Darlehenssumme überstieg und demnach aufgrund der Verrechnung nicht untergegangen war.
4. In einem letzten Punkt beanstandet der Beschwerdeführer die Kostenverlegung im kantonalen Verfahren.
4.1 Er ist der Meinung, die Verfahrens- und Parteikosten des erstinstanzlichen Verfahrens hätten vollumfänglich der Beschwerdegegnerin auferlegt werden müssen. Für das erstinstanzliche Verfahren bleibe das Zivilprozessrecht des Kantons Solothurn massgebend. Dieses habe als Unikum das Institut der "Protokollofferte" für die gütliche Beilegung des Prozesses vorgesehen. Nach Massgabe der vom Beschwerdeführer anlässlich der ersten Verhandlung abgegeben Protokollofferte hätte er mit keinen Kosten belastet werden dürfen, was die Vorinstanz in willkürlicher Weise übergangen habe.
Zunächst ist zu klären, welches Recht für die Verlegung der erstinstanzlichen Kosten massgebend war: Der Beschwerdeführer leitete den vorliegenden Prozess am 26. Februar 2010 ein und damit vor dem Inkrafttreten der Schweizerischen Zivilprozessordnung (ZPO; SR 272) am 1. Januar 2011. Für das erstinstanzliche Verfahren vor dem Richteramt Thal-Gäu galt somit das solothurnische Prozessrecht (Art. 404 Abs. 1 ZPO; <ref-ruling> E. 2.6.1). Da das erstinstanzliche Urteil am 18. Januar 2012 erging, waren für das Rechtsmittelverfahren bei der Vorinstanz die Bestimmungen der inzwischen in Kraft getretenen ZPO massgebend (Art. 405 Abs. 1 ZPO).
Nach Art. 318 Abs. 3 ZPO entscheidet die Rechtsmittelinstanz auch über die Prozesskosten des erstinstanzlichen Verfahrens, wenn sie einen neuen Entscheid fällt. Dabei sind die Prozesskosten beider Verfahren grundsätzlich der unterliegenden Partei zu auferlegen (Art. 106 Abs. 1 ZPO) und zwar nach Massgabe des Prozessergebnisses des Berufungsverfahrens (REETZ/HILBER, in: Sutter-Somm und andere [Hrsg.], Kommentar zur Schweizerischen Zivilprozessordnung, 2. Aufl. 2013, N. 59 zu Art. 318 ZPO). Die Berufungsinstanz hat auch im Rahmen des Entscheids nach Art. 318 Abs. 3 ZPO über die Prozesskosten des erstinstanzlichen Verfahrens das vor ihr geltende Verfahrensrecht anzuwenden. Die Vorinstanz verfuhr mithin zutreffend gemäss ZPO, auch soweit sie aufgrund der von ihr teilweise gutgeheissenen Berufung und Anschlussberufung die Kosten des erstinstanzlichen Verfahrens neu zu verteilen hatte.
Eine Rückweisung an die erste Instanz einzig zur Neuverlegung der Prozesskosten des erstinstanzlichen Verfahrens ist bei einem reformatorischen Entscheid der Berufungsinstanz in der ZPO nicht vorgesehen. Es liegt mithin hier nicht die Situation vor, dass die Rückweisungsinstanz erneut nach altem Verfahrensrecht zu entscheiden hat, wenn ein nach Art. 404 ZPO unter altem Verfahrensrecht ergangener Entscheid aufgehoben und die Sache an die betreffende Instanz zurückgewiesen wurde (vgl. dazu Urteile 4A_8/2012 vom 12. April 2012 E. 1; 4A_641/2011 vom 27. Januar 2012 E. 2.2).
Ebenso wenig war im vorinstanzlichen Verfahren die Handhabung des bisherigen kantonalen Verfahrensrechts bei der Kostenverteilung durch die erste Instanz strittig, so dass die Vorinstanz dessen richtige Anwendung zu überprüfen hatte (dazu <ref-ruling> E. 2.1 S. 3; Urteil 5A_348/2012 vom 15. August 2012 E. 2). Vielmehr oblag es der Vorinstanz, gemäss Art. 318 Abs. 3 ZPO in eigener Kompetenz aufgrund des von ihr erkannten Prozessergebnisses auch über die Prozesskosten des erstinstanzlichen Verfahrens neu zu entscheiden. Dabei galt nach Art. 405 Abs. 1 ZPO das neue Recht, mithin die ZPO.
Da die Vorinstanz demnach auch beim Entscheid über die Kostenverteilung des erstinstanzlichen Verfahrens gemäss ZPO vorzugehen hatte, geht die Berufung des Beschwerdeführers auf das dem solothurnischen Zivilprozessrecht eigene Institut der Protokollofferte ins Leere.
4.2 Schliesslich macht der Beschwerdeführer geltend, mit Blick auf seine ursprüngliche Vergleichsbereitschaft und die "teils etwas abenteuerlichen Einwendungen" der Beschwerdegegnerin, die den wesentlichen Aufwand verursacht hätten, dürfe hinterfragt werden, ob sich die zweitinstanzliche Kostenverteilung rein nach dem Ausgang des Verfahrens mit Art. 106 ff. ZPO vertrage.
Diese vagen Hinweise geben dem Bundesgericht keinen hinlänglichen Anlass, um der Vorinstanz vorzuhalten, sie hätte vom Unterliegerprinzip im Sinne der Ausnahmen nach Art. 107 ZPO abweichen müssen. Ein Ermessensfehler ist jedenfalls nicht dargetan.
4.3 Die Beschwerde erweist sich demnach hinsichtlich der Anfechtung der erst- und zweitinstanzlichen Kostenverteilung als unbegründet.
5. Insgesamt ist die Beschwerde teilweise gutzuheissen, soweit darauf einzutreten ist. Der Beschwerdeführer unterliegt mit dem Hauptbegehren, mit dem er Fr. 56'574.55 nebst 5 % Zins mehr verlangt, als er von der Vorinstanz zugesprochen erhielt, vollumfänglich. Er obsiegt einzig in Bezug auf den Wegfall der Verzugszinspflicht auf der widerklageweise geltend gemachten Darlehensrückforderung.
Für das bundesgerichtliche Verfahren rechtfertigt dieser Ausgang des Verfahrens, den Beschwerdeführer zu 95 % und die Beschwerdegegnerin zu 5 % kosten- und entschädigungspflichtig zu betrachten (Art. 66 Abs. 1 und 68 Abs. 2 BGG).
Hingegen erheischt das marginale Obsiegen in einem Akzessorium keine Rückweisung an die Vorinstanz zur Neuverlegung der kantonalen Kosten (vgl. <ref-ruling> E. 4).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen, soweit darauf einzutreten ist.
Die Dispositiv-Ziffern 3 und 4 des Urteils des Obergerichts des Kantons Solothurn vom 21. November 2012 werden aufgehoben und die Widerklage wird abgewiesen, soweit die Beschwerdegegnerin damit Zins von 5 % seit 8. März 2010 auf dem Betrag von Fr. 21'500.-- fordert.
Im Übrigen wird das Urteil des Obergerichts des Kantons Solothurn vom 21. November 2012 bestätigt.
2. Die Gerichtskosten von Fr. 3'000.-- werden im Betrag von Fr. 2'850.--dem Beschwerdeführer und im Betrag von Fr. 150.-- der Beschwerdegegnerin auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 3'150.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Y._ GmbH und dem Obergericht des Kantons Solothurn, Zivilkammer, schriftlich mitgeteilt.
Lausanne, 13. Mai 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer