Sachverhalt:
A. Die X._ AG (Beschwerdegegnerin) erhob mit Weisung des Friedensrichteramts Arbon vom 15. November 2005 beim Bezirksgericht Arbon Klage gegen sechs ihrer ehemaligen Verwaltungsräte, unter anderm gegen Dr. A._ (Beschwerdeführer). Sie forderte die Bezahlung von Fr. 5'869'651.-- nebst Zins aus aktienrechtlicher Verantwortlichkeit. Die Beklagten bestritten die Klage und erhoben mit einer Ausnahme Widerklage. Der Beschwerdeführer verlangte widerklageweise die Zahlung von Fr. 422'462.-- nebst Zins und eines nach dem Beweisverfahren zu beziffernden Betrages als Bonus, mindestens Fr. 192'500.-- nebst Zins.
Nach Schriftenwechsel und Hauptverhandlung ordnete das Bezirksgericht eine Expertise zur Schadenhöhe an, die am 13. Oktober 2008 erstattet wurde. Anschliessend fanden Vergleichsverhandlungen statt, an denen die Versicherung Y._ teilnahm, bei der die Beklagten gegen Ansprüche aus Organhaftung gegenüber der Beschwerdegegnerin versichert waren, wobei Versicherungsnehmerin die Beschwerdegegnerin war. In der Folge reichte die Beschwerdegegnerin dem Gericht einen zwischen ihr und der Y._ geschlossenen Vergleich betreffend die Verantwortlichkeitsklage unter Berücksichtigung der Widerklagen in konkret erwähnten Beträgen ein. Die Beklagten erklärten ihre Zustimmung zur Abschreibung der aktienrechtlichen Verantwortlichkeitsklage zufolge Vergleichs zwischen der Beschwerdegegnerin und der Y._, der Beschwerdeführer jedoch nur unter der Voraussetzung, dass seine Widerklage dadurch nicht betroffen sei.
B. Mit Beschluss vom 1./21. Juni 2010 schrieb das Bezirksgericht Arbon die Verantwortlichkeitsklage und die Widerklagen mit Ausnahme von derjenigen des Beschwerdeführers zufolge Vergleichs ab. Die Widerklage des Beschwerdeführers schrieb das Bezirksgericht mit gleichzeitig gefälltem Entscheid ab, im Umfang von Fr. 388'633.50 (Lohnansprüche, Boni und Verwaltungsratsvergütungen für die Zeit bis zum Rücktritt des Beschwerdeführers am 13. Oktober 2003) zufolge Anerkennung und im Umfang von Fr. 111'053.-- zufolge Rückzugs. Im Mehrumfang wies es sie ab. Das Bezirksgericht verneinte dabei u.a. eine Pflicht der Beschwerdegegnerin, dem Beschwerdeführer auf dem anerkannten Betrag von Fr. 388'633.50 aufgelaufene Verzugszinsen für die Zeit vom 1. November 2004 bis 27. Juli 2009 zu bezahlen, da die entsprechende Forderung durch Verrechnung mit der Forderung aus aktienrechtlicher Verantwortlichkeit getilgt worden sei.
Der Beschwerdeführer erhob gegen den Entscheid des Bezirksgerichts u.a. in diesem Punkt Berufung an das Obergericht des Kantons Thurgau und verlangte insoweit, es sei ihm auf dem anerkannten und bereits bezahlten Betrag von Fr. 388'633.50 Verzugszins zu 5 % vom 5. November 2004 bis 27. Juli 2009 zuzusprechen. Das Obergericht gab diesem Berufungsbegehren nicht statt.
C. Der Beschwerdeführer verlangt mit Beschwerde in Zivilsachen, das Urteil des Obergerichts in diesem Punkt einschliesslich der Kostenregelung aufzuheben und die Beschwerdegegnerin zu verpflichten, ihm Fr. 92'122.67 als Verzugszins auf dem Betrag von Fr. 388'633.50 vom 1. November 2004 bis 27. Juli 2009 zu bezahlen, eventuell die Angelegenheit zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Vorinstanz und die Beschwerdegegnerin schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
Erwägungen:
1. Die Sachurteilsvoraussetzungen der Beschwerde in Zivilsachen sind grundsätzlich erfüllt und geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist somit unter Vorbehalt ihrer rechtsgenügenden Begründung (Art. 42 BGG) einzutreten.
2. 2.1 Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten. In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG). Es ist unerlässlich, dass die Beschwerde auf die Begründung des angefochtenen Entscheids eingeht und im Einzelnen aufzeigt, worin eine Verletzung von Bundesrecht liegt. Der Beschwerdeführer soll in der Beschwerdeschrift nicht bloss die Rechtsstandpunkte, die er im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (BGE 134 II 244 E. 2.1 S. 245 f.; 134 V 53 E. 3.3; 133 IV 286 E. 1.4 S. 287).
2.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 135 III 397 E. 1.5).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, kann sich nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substanziiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (vgl. BGE 133 II 249 E. 1.4.3; 133 III 393 E. 7.1). Soweit der Beschwerdeführer den Sachverhalt ergänzen will, hat er zudem mit Aktenhinweisen darzulegen, dass er entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (Urteile 4A_214/2008 vom 9. Juli 2008 E. 1.2, nicht publ. in: BGE 134 III 570; 4A_470/2009 vom 18. Februar 2010 E. 1.2). In der Beschwerde ist überdies darzutun, inwiefern die Behebung des gerügten Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 135 I 19 E. 2.2.2; Urteil 4A 641/2010 vom 23. Februar 2011 E. 1.3).
2.3 Diese Grundsätze lässt der Beschwerdeführer über weite Strecken seiner Beschwerde ausser Acht:
Der Beschwerdeführer stellt seinen rechtlichen Vorbringen eine ausführliche eigene Sachverhaltsdarstellung voran. Er weicht darin - wie auch in seiner weiteren Beschwerdebegründung - in zahlreichen Punkten von den tatsächlichen Feststellungen der Vorinstanz ab oder erweitert diese. Da er dazu keine Sachverhaltsrügen substanziiert, haben seine Vorbringen unbeachtet zu bleiben. Mit der einzigen Sachverhaltsrüge, die der Beschwerdeführer erhebt, rügt er, die Vorinstanz bzw. die Erstinstanz, auf deren Begründung die Vorinstanz verwies, habe offensichtlich unrichtig festgestellt, dass die Beschwerdegegnerin darauf verzichtet habe (von der Y._) durch Widerruf der Verrechnungserklärung betreffend Klage- und Widerklageforderung das Beste für sich und den Beschwerdeführer herauszuholen, nämlich Verzugszinsen. Soweit sich dem Entscheid des Bezirksgerichts überhaupt eine entsprechende Feststellung entnehmen lässt, übt der Beschwerdeführer daran jedenfalls bloss appellatorische Kritik, ohne rechtsgenüglich Willkür aufzuzeigen. Überdies begründet er seine Rüge unter freier und damit unzulässiger Ergänzung des im angefochtenen Urteil festgestellten Sachverhalts. Zudem legt er auch nicht hinreichend dar, inwiefern die gerügte Feststellung für den Verfahrensausgang entscheidend sein soll, indem er bloss behauptet, diese sei für die Beurteilung der Verrechnungsfrage wesentlich. Auf die Rüge kann nicht eingetreten werden.
In seiner Beschwerdebegründung unterbreitet der Beschwerdeführer dem Bundesgericht sodann zu grossen Teilen in vielfach nur schwer verständlichen Vorbringen seine Sicht der Dinge oder theoretische Ausführungen, ohne indessen auf bestimmte Erwägungen im angefochtenen Entscheid Bezug zu nehmen und rechtsgenügend aufzuzeigen, inwiefern der Vorinstanz in diesem Zusammenhang eine Bundesrechtsverletzung vorzuwerfen sein soll. Darauf ist nicht einzutreten. Soweit wenigstens ansatzweise hinlänglich begründete Rügen einer Bundesrechtsverletzung auszumachen sind, ist im Folgenden darauf einzugehen.
3. Die Vorinstanz verneinte eine Pflicht der Beschwerdegegnerin zur Bezahlung von Verzugszinsen auf der anerkannten Widerklageforderung von Fr. 388'633.50. Sie erkannte, diese Forderung sei durch Verrechnung mit derjenigen aus aktienrechtlicher Verantwortlichkeit gänzlich untergegangen. Weil Forderungen durch Verrechnung nach Art. 124 Abs. 2 OR rückwirkend erlöschen, seien auf der Widerklageforderung keine Verzugszinsen geschuldet.
Der Beschwerdeführer rügt, die Vorinstanz habe Art. 120 und Art. 124 OR verletzt, indem sie entschieden habe, seine Widerklageforderung sei durch Verrechnung untergegangen.
3.1 Nach den Feststellungen der Vorinstanz hat die Beschwerdegegnerin spätestens in ihrer Klageschrift die von ihr anerkannten Forderungen des Beschwerdeführers mit ihrer Forderung aus aktienrechtlicher Verantwortlichkeit verrechnet. Wie im Folgenden darzulegen ist, waren die Voraussetzungen der Verrechnung in diesem massgeblichen Zeitpunkt (VIKTOR AEPLI, Zürcher Kommentar, 1991, N. 11 zu Art. 120 OR) gegeben, so dass die Verrechnungswirkung, die Tilgung der beiden Forderungen in diesem Zeitpunkt eintrat (AEPLI, a.a.O., N. 19 zu Art. 124 OR):
Es bestand auf der Seite des Beschwerdeführers und der Beschwerdegegnerin je eine Forderung. Soweit die Forderungen bestritten waren, schloss dies die Geltendmachung der Verrechnung nicht aus (Art. 120 Abs. 2 OR). Wie die Vorinstanzen zutreffend und unwidersprochen erwogen haben, betrifft der Streit um den Bestand einer Obligation nur eine verrechnungsrechtliche Vorfrage (AEPLI, a.a.O., N. 10 zu Art. 120 OR), die von der Beschwerdegegnerin hinsichtlich der strittigen Forderung aus aktienrechtlicher Verantwortlichkeit zum Gegenstand des Verantwortlichkeitsprozesses gemacht wurde. Die Erledigung der entsprechenden Klage erfolgte mit einem Vergleich über eine Schadenersatzzahlung von Fr. 2,1 Mio. zwischen der Beschwerdegegnerin und der Y._, die nach dem Versicherungsvertrag berechtigt war, die Ansprüche der Beschwerdegegnerin aus Organhaftung gegen den Beschwerdeführer verbindlich zu regeln, und mit der anschliessenden Abschreibung des Verfahrens durch die Vorinstanz, nachdem der Beschwerdeführer als Schuldner der Schadenersatzforderung den Vergleich in Bezug auf diese anerkannt hatte. Der Bestand der strittigen Schadenersatz- bzw. Verrechnungsforderung in einem die anerkannte Forderung von Fr. 388'633.50 übersteigenden Betrag war damit erwahrt und es bestanden gegenseitige Forderungen der Prozessparteien zur Verrechnung. Dass es sich um gleichartige (Geld)Forderungen handelte und dass sie fällig waren, ist unbestritten.
Demnach steht fest, dass die Forderung des Beschwerdeführers durch Verrechnung mit der Verantwortlichkeitsforderung getilgt wurde. Die Tilgung erfolgte dabei rückwirkend auf den Zeitpunkt, in dem sich Forderung und Gegenforderung zur Verrechnung geeignet gegenüber standen (Art. 124 Abs. 2 OR). Durch den Untergang der Forderung entfielen seit diesem Zeitpunkt bereits eingetretene Verzugsfolgen nachträglich (vgl. AEPLI, a.a.O., N. 126 zu Art. 124 OR; WOLFGANG PETER, in: Basler Kommentar, Obligationenrecht, Bd. I., 4. Aufl. 2007, N. 126 zu Art. 124 OR; ALFRED KOLLER, Schweizerisches Obligationenrecht, Allgemeiner Teil, 3. Aufl. 2009, § 66 Rz. 23; PIERRE ENGEL, Traité des obligations en droit suisse, 2. Aufl. 1997, S. 677; BERNHARD BERGER, Allgemeines Schuldrecht, 2008, S. 466 Rz. 1399). Damit wies die Vorinstanz die Verzugszinsforderung des Beschwerdeführers zu Recht ab, zumal der Beschwerdeführer nicht geltend macht und auch nicht ersichtlich ist, dass ein Verzug der Beschwerdegegnerin mit der Zahlung der anerkannten Widerklageforderung schon vor diesem Zeitpunkt eingetreten wäre.
3.2 Der vorliegende Fall weist insoweit eine Besonderheit auf, als die Y._ und die Beschwerdegegnerin im zwischen ihnen geschlossenen Vergleich einen bei einer Verrechnung unüblichen Leistungsaustausch vereinbarten und vollzogen. Die Y._, die für den Schaden aus der Verletzung der Pflichten des Beschwerdeführers als Verwaltungsrat aufkam, zahlte der Beschwerdegegnerin ungeachtet der Verrechnung statt einer Nettozahlung den vergleichsweise vereinbarten Betrag von Fr. 2,1 Mio. vollumfänglich aus und die Beschwerdegegnerin vergütete dem Beschwerdeführer den von ihr anerkannten Betrag von Fr. 388'633.50. Nach den Feststellungen im angefochtenen Urteil wiesen die Vergleichsparteien dabei darauf hin, dass u.a. der aus der Widerklage anerkannte Betrag durch Verrechnung getilgt worden sei und damit zur Deckung des (versicherten) Schadens beigetragen habe. Dass die Y._ gleichwohl, unbesehen der erfolgten Verrechnung, den gesamten vergleichsweise anerkannten Schadensbetrag von Fr. 2,1 Mio. (ohne Abzug der verrechneten Gegenforderung) an die Beschwerdegegnerin auszahlte und diese dem Beschwerdeführer den anerkannten Betrag aus der Widerklage direkt ausrichtete, diente - wie im Vergleich ausdrücklich festgehalten worden sei - der vereinfachten Abwicklung, da die Beschwerdegegnerin auf der anerkannten Lohnforderung Sozialversicherungsabzüge vorzunehmen bzw. Sozialversicherungsbeiträge zu entrichten hatte.
Der Beschwerdeführer rügt, die Vorinstanz habe Art. 120 und Art. 124 OR verletzt, indem sie "der blossen Verrechnungserklärung fälschlicherweise die Wirkungen einer tatsächlich nicht erfolgten Verrechnung (im Anschluss an eine zuvor erfolgte Verrechnungserklärung)" zuschreibe. Er hält in grösstenteils verwirrenden Ausführungen dafür, es sei zwischen der Verrechnungserklärung bzw. der "Verrechnungsabsichtserklärung" und der "Verrechnung selbst" bzw. der "tatsächlich oder effektiv vorgenommenen Verrechnung" zu unterscheiden, wobei erst letztere die Verrechnungswirkung der Verrechnungserklärung bewirke. Da vorliegend die Verrechnung nach dem Vergleich nicht effektiv vollzogen worden sei, sei vorliegend die Verrechnungswirkung (bestehend im Untergang der beiden Obligationen und im Entfall der Verzugsfolgen) nicht eingetreten.
Damit verkennt der Beschwerdeführer den Vorgang der Verrechnung nach Art. 120 ff. OR grundlegend. Dass es sich bei der in der Klage der Beschwerdegegnerin abgegebenen Erklärung, die Klage- mit den Widerklageforderungen verrechnen zu wollen, um eine wirksame Verrechnungserklärung handelt, bestreitet er nicht (vgl. dazu Urteile 4A_549/2010 vom 17. Februar 2011 E. 3.3; 4A_82/2009 vom 7. April 2009 E. 2; 4C.25/2005 vom 15. August 2005 E. 4.1, nicht publ. in: BGE 131 III 636). Bei der Abgabe einer solchen Erklärung handelt es sich aber um die unwiderrufliche Ausübung eines Gestaltungsrechts, die unmittelbar die Rechtslage verändert, wobei die Veränderung in der Tilgung einer eigenen und einer fremden Schuld bzw. einer eigenen und einer fremden Forderung liegt (BGE 107 Ib 98 E. 8d S. 111; AEPLI, a.a.O., N. 40 in Vorbemerkungen zu Art. 120-126, N. 13, 75 und 79 zu Art. 124 OR). Eines "effektiven Vollzugs" der Verrechnung bedarf es dazu nicht. Danach löste die Verrechnungserklärung in der Klageschrift unmittelbar die Verrechnungswirkung (rückwirkende Tilgung der Forderungen) aus, was die Vorinstanz zutreffend erkannte, nachdem die Berechtigung der Verrechnungs- bzw. der Schadenersatzforderung vergleichsweise festgestellt und der Vergleich vom Beschwerdeführer insoweit anerkannt worden war. Die von den Vergleichsparteien vereinbarte Abwicklung (voller Ersatz des der Beschwerdegegnerin entstandenen Schadens durch die Y._, einschliesslich des durch Verrechnung untergegangenen, aber mitversicherten Teils, auf der einen Seite, und die Auszahlung der an sich durch Verrechnung untergegangenen Widerklageforderung abzüglich Sozialabzüge an den Beschwerdeführer durch die Beschwerdegegnerin auf der anderen Seite) konnte die durch Verrechnung im Zeitpunkt der Klageerhebung erfolgte, rückwirkende Umgestaltung der Rechtslage nicht rückgängig machen.
Auch soweit der Beschwerdeführer weiter dafür hält, eine Verrechnung bzw. die tatsächliche Umsetzung einer früheren Verrechnungserklärung sei nach dem Vergleich, in dem die Y._ die Schuld des Beschwerdeführers "übernommen" habe, mangels Gegenseitigkeit der Forderungen nicht mehr möglich gewesen, verkennt er diese Rechtslage und kann ihm nicht gefolgt werden.
3.3 Zusammenfassend hat die Vorinstanz eine Pflicht der Beschwerdegegnerin zur Bezahlung der geforderten Verzugszinsen zu Recht verneint. Dass dem Beschwerdeführer keine Verzugszinsen auf seinen von der Beschwerdegegnerin zurückbehaltenen Lohnansprüchen bzw. Verwaltungsratsvergütungen zustehen, ist Folge davon, dass er nicht nur Gläubiger dieser Ansprüche, sondern gleichzeitig Schuldner einer Schadenersatzforderung der Beschwerdegegnerin war und die Beschwerdegegnerin deshalb eine Verrechnungserklärung mit der Wirkung abgeben konnte, dass die Folgen des Verzugs mit der Zahlung von beiden Schulden im Umfang der Verrechnung, und damit hinsichtlich der anerkannten Widerklageforderung vollumfänglich, dahinfielen.
4. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird der Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 5'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Thurgau schriftlich mitgeteilt.
Lausanne, 1. September 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Widmer