Sachverhalt:
A. Der weissrussische Staatsangehörige X._ (geb. 1971) reiste am 19. Juli 2002 in die Schweiz ein und arbeitete in der Folge als Spezialitätenkoch für die Y._ GmbH in verschiedenen von ihr betriebenen Restaurants. Das Amt für Wirtschaft und Arbeit des Kantons Thurgau verlängerte seine Aufenthaltsbewilligung zum Zweck der unselbständigen Erwerbstätigkeit letztmals bis am 18. Juli 2007. Die Behörden stellten in der Folge fest, dass X._ nicht Arbeitnehmer, sondern zusammen mit Z._ hälftiger Teilhaber an der Y._ GmbH war. Das Amt für Wirtschaft und Arbeit des Kantons Thurgau lehnte mit Verfügung vom 17. November 2007 die weitere Verlängerung der Jahresaufenthaltsbewilligung ab. Die hiergegen erhobenen kantonalen Rechtsmittel blieben erfolglos.
B. Am 28. April 2010 stellte X._ beim Migrationsamt des Kantons Thurgau erneut ein Gesuch um Verlängerung der Aufenthaltsbewilligung zum Zweck der selbständigen Erwerbstätigkeit. Mit Verfügung vom 6. Mai 2010 lehnte das Migrationsamt das Gesuch ab. Gegen diesen Entscheid erhob X._ Rekurs beim Departement für Justiz und Sicherheit des Kantons Thurgau. Als Aufenthaltszweck gab er dabei zusätzlich "Verbleib bei der Lebenspartnerin Z._" an. Das Departement für Justiz und Sicherheit des Kantons Thurgau wies den Rekurs mit Entscheid vom 28. Oktober 2010 ab.
Am 28. Juni 2010 stellten X._ und Z._ bei der Gemeinde A._/TG ein Gesuch um Familiennachzug. Mit Brief vom 16. November 2010 erklärte das Departement für Justiz und Sicherheit des Kantons Thurgau, dass es mit dem Rekursentscheid vom 28. Oktober 2010 auch über den Verbleib bei der Lebenspartnerin entschieden habe, weshalb in dieser Sache kein weiterer Entscheid ergehe.
Die gegen den Rekursentscheid vom 28. Oktober 2010 erhobene Beschwerde wies das Verwaltungsgericht des Kantons Thurgau mit Urteil vom 30. März 2011 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde vom 13. Mai 2011 beantragt X._, das Urteil des Verwaltungsgerichts vom 30. März 2011 und die vorangegangenen Entscheide der Vorinstanzen seien aufzuheben. Zudem sei ihm der Aufenthalt zum Verbleib bei der Lebenspartnerin (ohne Ausübung einer Erwerbstätigkeit) zu bewilligen. Eventuell beantragt X._ die Anerkennung eines Härtefalles, subeventuell die Rückweisung an die Vorinstanzen.
Das Migrationsamt, das Departement für Justiz und Sicherheit und das Verwaltungsgericht des Kantons Thurgau beantragen die Abweisung der Beschwerde. Die Vernehmlassung des Bundesamts für Migration wurde erst nach Fristablauf der Schweizerischen Post aufgegeben.
D. Der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts hat der Beschwerde mit Verfügung vom 20. Mai 2011 antragsgemäss die aufschiebende Wirkung zuerkannt. Mit Verfügung vom 1. Juni 2011 hat die II. öffentlich-rechtliche Abteilung des Bundesgerichts das Gesuch um unentgeltliche Rechtspflege mangels Bedürftigkeitsnachweises abgewiesen.
Erwägungen:
1. 1.1 Nach Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts über Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Die Vorinstanz hat festgestellt, dass dem Beschwerdeführer kein gesetzlicher Anspruch auf Erteilung einer Anwesenheitsbewilligung in der Schweiz zusteht. Davon geht auch der Beschwerdeführer aus. Hingegen macht er ein gefestigtes Konkubinat mit Z._ geltend und beruft sich in diesem Zusammenhang auf Art. 8 EMRK.
1.2 Aus einer Konkubinatsbeziehung kann sich dann gestützt auf Art. 8 EMRK ein Bewilligungsanspruch ergeben, wenn eine lang andauernde und gefestigte Partnerschaft vorliegt oder die Heirat unmittelbar bevorsteht (Urteil 2C_97/2010 vom 4. November 2010 E. 3 mit zahlreichen Hinweisen). Indessen war der Beschwerdeführer nach der für das Bundesgericht grundsätzlich verbindlichen Sachverhaltsfeststellung der Vorinstanz (Art. 105 Abs. 1 BGG) zum Zeitpunkt des angefochtenen Entscheides mit einer anderen Frau als Z._ verheiratet. Ein bereits verheirateter Mann und die im (angeblichen) Konkubinat lebende Frau gelten jedoch nicht als Familie im Sinne der Konvention (vgl. TOMAS POLEDNA, Praxis zur Europäischen Menschenrechtskonvention [EMRK], Zürich 1993, N. 797, mit Hinweis), weshalb eine Berufung auf Art. 8 EMRK vorliegend von Beginn weg ausser Betracht fällt (vgl. die Urteile 2C_846/2010 vom 22. November 2010 E. 2.1.2; 2A.575/2002 vom 17. März 2003 E. 3.5). Unter diesem Titel ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten in Anwendung von Art. 83 lit. c Ziff. 2 BGG somit unzulässig. Daran vermögen auch das vom Beschwerdeführer im Verfahren vor dem Bundesgericht nachgereichte Scheidungsurteil vom 7. Juli 2011 sowie die weiteren Unterlagen nichts zu ändern, weil es sich hierbei um echte, d.h. erst nach dem angefochtenen Entscheid eingetretene Noven handelt. Sie können im vorliegenden Verfahren nicht berücksichtigt werden (Art. 99 BGG; BGE 133 IV 342 E. 2.1, S. 343 f.) und sind aus dem Recht zu weisen.
1.3 Nicht zulässig ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auch insoweit, als der Beschwerdeführer vor Bundesgericht eventualiter die Erteilung einer Härtefallbewilligung beantragt, da auf deren Erteilung kein Rechtsanspruch besteht. Betreffend des Eventualantrags kommt nur die subsidiäre Verfassungsbeschwerde in Frage, mit welcher ausschliesslich die Verletzung verfassungsmässiger Rechte gerügt werden kann (Art. 116 BGG). Wegen des nicht bestehenden Rechtsanspruchs auf Erteilung der Härtefallbewilligung ist der Beschwerdeführer jedoch grundsätzlich auch zur Führung einer subsidiären Verfassungsbeschwerde nicht legitimiert, da ihm das erforderliche rechtlich geschützte Interesse an der Aufhebung des angefochtenen Entscheids fehlt (Art. 115 lit. b BGG; Urteil 2C_176/2011 vom 12. September 2011 E. 1).
1.4 Trotz fehlender Legitimation in der Sache ist es gegebenenfalls zulässig, mit subsidiärer Verfassungsbeschwerde die Verletzung von Parteirechten zu rügen, deren Missachtung auf eine formelle Rechtsverweigerung hinausläuft ("Star-Praxis"; vgl. BGE 137 I 128 E. 3.1 S. 130 f.; 133 I 185 E. 6.2 S. 198). Dabei gilt eine qualifizierte Rügepflicht (BGE 137 II 305 E. 3.3 S. 310). Das Bundesgericht prüft die Verletzung von Grundrechten nicht von Amtes wegen, sondern nur soweit diese klar, sachbezogen und - falls möglich belegt - in Auseinandersetzung mit den Ausführungen im angefochtenen Entscheid dargetan werden (vgl. Art. 106 Abs. 2 i.V.m. Art. 117 BGG; BGE 133 II 249 E. 1.4.2 S. 254).
1.5 Der Beschwerdeführer macht geltend, der angefochtene Entscheid verletze den "Grundsatz der Fairness im Verfahren" gemäss Art. 6 Abs. 1 EMRK und den "Anspruch auf gerechte Behandlung in Verwaltungs- und Gerichtsverfahren" gemäss Art. 29 Abs. 1 BV sowie den Anspruch auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV. Insbesondere habe das Verwaltungsgericht in unzulässiger Weise über die Frage entschieden, ob zwischen dem Beschwerdeführer und Z._ eine "konkubinatsähnliche Partnerschaft" bestehe, statt die Sache an die erstverfügende Behörde zurückzuweisen, damit diese über das von ihm und Z._ am 28. Juni 2010 gestellte Gesuch um Familiennachzug entscheide. Damit scheint der Beschwerdeführer jedoch zu übersehen, dass der Streitgegenstand des vorliegenden Verfahrens allein sein Gesuch vom 28. April 2010 um Erteilung einer Aufenthaltsbewilligung umfasst (vgl. E. 2 S. 9 des angefochtenen Entscheids), während über das Gesuch um Familiennachzug vom 28. Juni 2010 noch nicht entschieden worden ist. Im vorliegenden Verfahren beantragte der Beschwerdeführer beim Verwaltungsgericht die Aufenthaltsbewilligung "zum Verbleib bei der Lebenspartnerin". Dieser Antrag beschlägt die Rechtsfrage, ob sich aus der nichtehelichen Verbindung zu Z._ ein rechtlich geschützter Aufenthaltsanspruch ableiten lässt. Inwiefern der Vorinstanz eine formelle Gehörsverweigerung vorzuwerfen ist, indem sie diese ihr vorgelegte Frage materiell prüft, legt der Beschwerdeführer nicht rechtsgenügend dar (Art. 106 Abs. 2 BGG). Dass sich im Rahmen des - weiterhin beim Migrationsamt hängigen - Familiennachzugsverfahrens dieselbe Frage erneut stellen wird, liegt vielmehr in der Natur der Sache bzw. ist eine Folge der vom Beschwerdeführer gewählten Vorgehensweise, ein zweites Gesuch während des laufenden Rechtsmittelverfahrens betreffend das erste Gesuch einzureichen. Der Vorinstanz kann es somit nicht zum Vorwurf gereichen, wenn sie im Rahmen des vorliegenden Verfahrens eine rechtliche Qualifikation der Beziehung zu Z._ vorgenommen hat. Hinzu kommt, dass das Migrationsamt bei der Prüfung des Familiennachzugsgesuchs nicht an die diesbezüglichen Feststellungen der Vorinstanz gebunden ist, zumal das Dispositiv des angefochtenen Entscheides auf diese Frage nicht Bezug nimmt. Insbesondere können im Rahmen des Familiennachzugsgesuchs auch neue Umstände geltend gemacht werden, beispielsweise die Frage der Scheidung des Beschwerdeführers, die dann gegebenenfalls das geltend gemachte Konkubinat in einem anderen Lichte erscheinen lassen könnte.
2. Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist mangels eines vertretbar geltend gemachten Rechtsanspruchs auf die beantragte Bewilligungserteilung nicht einzutreten. Mangels genügender Begründung ist auf die eventualiter eingereichte subsidiäre Verfassungsbeschwerde ebenfalls nicht einzutreten. Dem Ausgang des Verfahrens entsprechend wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird nicht eingetreten.
2. Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
3. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, dem Departement für Justiz und Sicherheit und dem Verwaltungsgericht des Kantons Thurgau sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 27. Dezember 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger