Sachverhalt: A. Die X._ S.r.l. (Klägerin, Widerbeklagte, Beschwerdegegnerin) ist eine im italienischen Handelsregister eingetragene Gesellschaft mit beschränkter Haftung, die sich seit 1981 auf die Entwicklung von Abgaskatalysatoren, Auspufftöpfen und Auspuffkrümmern spezialisiert hat. Das italienische Markenregisteramt erteilte am 10. März 2000 bzw. am 5. Februar 2003 den von der X._ S.r.l. hinterlegten Wort-/Bildmarken "XY._" (mit Wappen und Auspuff) und "XZ._" (mit dem Logo einer Autosilhouette) Markenschutz. Der Vertrieb ihrer Produkte erfolgte in der Schweiz von 2001 bis Mitte 2007 über die Q._ GmbH, einer von A._ (Beklagter, Widerkläger, Beschwerdeführer) kontrollierten Gesellschaft mit beschränkter Haftung. Am 21. Juni 2007 hinterlegte die Q._ GmbH ohne Wissen und Zustimmung der X._ S.r.l. die Schweizer Marken Nr. rrr._ und Nr. sss._ beim Eidgenössischen Institut für Geistiges Eigentum, das diese am 11. November 2007 in das Markenregister eintrug. Die beiden Marken sind bis auf wenige Details identisch mit den von der X._ S.r.l. bereits in Italien registrierten Marken. Am 24. Juni 2008 wurden sie von der Q._ GmbH auf A._ übertragen. Am 22. Juli 2008 wurde über die Q._ GmbH der Konkurs eröffnet, am 1. Dezember 2008 wurde die Gesellschaft im Handelsregister gelöscht. B. Am 7. Oktober 2010 klagte die X._ S.r.l. beim Obergericht des Kantons Thurgau gegen A._ und beantragte im Wesentlichen die Nichtigerklärung der beiden Schweizer Marken Nr. rrr._ und Nr. sss._, den Erlass eines Verbots der Verwendung entsprechender Zeichen, die Vernichtung gekennzeichneter Gegenstände und die Einziehung weiterer Gegenstände. Im Weiteren klagte sie auf Rechnungslegung sowie Schadenersatz bzw. Gewinnherausgabe. A._ beantragte die Abweisung der Klage (Antrags-Ziffer 1) und erhob seinerseits die folgenden Widerklagebegehren: "2. Es sei festzustellen, dass die Klägerin Urheberrechte des Beklagten verletzt und unlauteren Wettbewerb im Sinne von Art. 3 lit. d sowie Art. 5 UWG betreibt. 3. Es sei festzustellen, dass die Klägerin dem Beklagten aus dem Joint Venture mindestens die Hälfte der Erlöse der gemeinsamen Produkte herauszugeben hat. 4. Die Klägerin sei alternativ zu verpflichten, aus der Urheberrechtsverletzung dem Beklagten ab dem 1. Januar 2005 eine Lizenzgebühr von 10% aus den Erlösen der gemeinsamen Produkte, die in den Katalogen der Klägerin der Jahre 2005, 2007 sowie 2008 - 2009 vorzufinden sind, zu entrichten. 5. Es sei die Klägerin unter Androhung der Überweisung ihrer verantwortlichen Organe an den Strafrichter zur Bestrafung nach Art. 292 StGB zu verpflichten, dem Beklagten umfassend Rechenschaft abzulegen, insbesondere sämtliche Aufzeichnungen, Bücher und Belege herauszugeben, welche über die von ihr ab dem 1. Januar 2005 vereinnahmten Erlöse im Zusammenhang mit den unter Ziffer 4 genannten gemeinsamen Produkte, die in den Katalogen der Klägerin der Jahre 2005, 2007 sowie 2008 - 2009 vorzufinden sind, Aufschluss geben könnten. 6. Es sei die Klägerin zu verpflichten, dem Beklagten den sich aus der Abrechnung gemäss Ziffer 3, 4 und 5 ergebenden Betrag beziehungsweise einen nach Abschluss des Beweisverfahrens durch den Beklagten zu beziffernden Betrag, mindestens aber Fr. 50'000.00 nebst Zins zu 5% seit 1. Januar 2005 zu bezahlen. ..." Mit Urteil vom 17. Oktober 2011 hiess das Obergericht des Kantons Thurgau die Klage teilweise gut, während es die Widerklage abwies (Dispositiv-Ziffer 1). Insbesondere erklärte es die beiden Marken Nr. rrr._ und Nr. sss._ für nichtig, sprach gegenüber dem Beklagten verschiedene Verbote aus und verfügte die Vernichtung bestimmter Gegenstände (Dispositiv-Ziffern 2-5). C. Mit Beschwerde in Zivilsachen beantragt A._ dem Bundesgericht, es sei Ziffer 1 des Entscheids des Obergerichts des Kantons Thurgau vom 17. Oktober 2011 bezüglich der Abweisung der Widerklage aufzuheben und es sei die Widerklage gutzuheissen. Eventualiter sei das Verfahren zur Neubeurteilung und zur Durchführung eines allfälligen Beweisverfahrens an das Obergericht zurückzuweisen. Im Übrigen blieb das obergerichtliche Urteil unangefochten. Sowohl die Beschwerdegegnerin als auch die Vorinstanz beantragen die Abweisung der Beschwerde. D. Mit Verfügung vom 2. Mai 2012 wies das Bundesgericht das Gesuch des Beschwerdeführers um Gewährung der aufschiebenden Wirkung ab.