Sachverhalt:
A. A.a Der tunesische Staatsangehörige X._, geb. 1973, reiste im Februar 2002 in die Schweiz ein, um hier die 1949 geborene Schweizerin Y._ zu heiraten, wofür er eine Aufenthaltsbewilligung erhielt. Nach der gerichtlichen Trennung der Ehe am 23. Januar 2004 wurde ein Gesuch um Verlängerung der Bewilligung von den zuständigen Behörden des Kantons Zürich im Jahre 2005 wegen rechtsmissbräuchlichen Berufens auf eine nur noch formell bestehende Ehe abgewiesen, was das Bundesgericht letztinstanzlich bestätigte (Urteil 2A.24/2007 vom 6. Februar 2007).
A.b Am 9. Mai 2007 stellte X._ einen Asylantrag, den er im Wesentlichen damit begründete, er sei vom islamischen zum christlichen Glauben konvertiert, weshalb ihm in seinem Heimatland der Tod drohe. Mit Verfügung vom 10. Juli 2007 sprach ihm das Bundesamt für Migration die Flüchtlingseigenschaft jedoch ab. X._ führte dagegen zunächst Beschwerde.
A.c Am 26. Februar 2008 wurde die Ehe geschieden. Am 21. April 2008 heiratete X._ die 1959 geborene Schweizerin Z._, woraufhin er seine Beschwerde gegen den abschlägigen Asylentscheid zurückzog und erneut eine Aufenthaltsbewilligung zwecks Zusammenlebens mit der Ehefrau erhielt. Vom Dezember 2008 bis Ende April 2009 und später vom November 2009 an lebten die Eheleute getrennt. Mit Entscheid vom 28. Januar 2010 verweigerte das Migrationsamt des Kantons Thurgau die Verlängerung der Aufenthaltsbewilligung und ordnete die Wegweisung an.
B. Am 3. Juni 2010 wies das Departement für Justiz und Sicherheit des Kantons Thurgau einen dagegen erhobenen Rekurs ab. Mit Urteil vom 26. Januar 2011 wies auch das Verwaltungsgericht des Kantons Thurgau eine bei ihm eingereichte Beschwerde ab. Zur Begründung führte es im Wesentlichen aus, X._ habe keinen Anspruch mehr auf Verlängerung der Aufenthaltsbewilligung aufgrund der Ehe mit einer Schweizerin, weil diese faktisch getrennt sei. Ein ausnahmsweiser Anspruch im Sinne des so genannten nachehelichen Härtefalles scheitere am Fehlen wichtiger persönlicher Gründe, die einen weiteren Aufenthalt in der Schweiz erforderlich machen würden. Insbesondere könne sich X._ insoweit nicht auf seine Konversion zum Christentum berufen, da dies einzig im rechtskräftig abgeschlossenen Asylverfahren zu prüfen gewesen wäre. Im Übrigen liesse sich eine entsprechende Verfolgung in Tunesien mit höchster Wahrscheinlichkeit ausschliessen.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht vom 14. März 2011 stellt X._ die folgenden Anträge:
"1. Es sei der Entscheid des Verwaltungsgerichtes des Kantons Thurgau vom 26. Januar 2011 ... aufzuheben.
2. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, die Aufenthaltsbewilligung des Beschwerdeführers zu verlängern.
3. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, den Beschwerdeführer nicht wegzuweisen.
4. Es sei das Migrationsamt des Kantons Thurgau anzuweisen, beim Bundesamt für Migration keinen Antrag auf Anordnung eines Einreiseverbots zu stellen.
5. ..."
In prozessualer Hinsicht wird überdies um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung ersucht. Zur Begründung wird im Wesentlichen geltend gemacht, als Konvertit sei X._ in Tunesien erheblich gefährdet und zwar auch noch nach den dortigen politischen Veränderungen, was die kantonalen Instanzen ungenügend abgeklärt und berücksichtigt hätten.
D. Das Migrationsamt, das Departement für Justiz und Sicherheit sowie das Verwaltungsgericht des Kantons Thurgau und das Bundesamt für Migration schliessen auf Abweisung der Beschwerde.

Erwägungen:
1. 1.1 Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt, ausgeschlossen. Ausländische Ehegatten von Schweizer Bürgern haben unter Vorbehalt von Art. 51 Abs. 1 AuG Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit ihrem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Der Beschwerdeführer ist zwar mit einer Schweizerin verheiratet, lebt aber seit November 2009 von ihr getrennt, ohne dass es zu einer Wiedervereinigung gekommen wäre. Er hat somit gestützt auf die Ehe keinen Anspruch (mehr) darauf, dass seine Bewilligung verlängert wird.
1.2 Der Bewilligungsanspruch besteht trotz Auflösens bzw. definitiven Scheiterns der Ehegemeinschaft fort, wenn diese mindestens drei Jahre gedauert und die betroffene ausländische Person sich hier zudem erfolgreich integriert hat (Art. 50 Abs. 1 lit. a AuG, <ref-ruling> E. 3.3.3). Überdies hat der Gesetzgeber als nachehelichen ausländerrechtlichen Härtefall (vgl. dazu das zur Publikation vorgesehene Urteil 2C_784/2010 vom 26. Mai 2011) einen Rechtsanspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung auch für den Fall vorgesehen, dass "wichtige persönliche Gründe" einen "weiteren Aufenthalt in der Schweiz erforderlich machen" (Art. 50 Abs. 1 lit. b AuG).
1.3 Der Beschwerdeführer beruft sich mit Recht, da die Ehe nicht drei Jahre gedauert hat, nicht auf Art. 50 Abs. 1 lit. a AuG; er macht indessen wichtige persönlichen Gründe geltend, welche den aus der Ehe mit seiner Schweizer Gattin abgeleiteten Bewilligungsanspruch fortbestehen liessen. Auf seine Beschwerde ist damit grundsätzlich einzutreten. Ob die Voraussetzungen des Art. 50 Abs. 1 lit. b AuG tatsächlich erfüllt sind, bildet Gegenstand der materiellen Beurteilung (Urteile des Bundesgerichts 2C_460/2009 vom 4. November 2009 E. 2.1, nicht publ. in: <ref-ruling>; 2C_304/2009 vom 9. Dezember 2009 E. 1.1, nicht publ. in: <ref-ruling>).
1.4 Nicht einzutreten ist freilich auf die Beschwerde, soweit der Beschwerdeführer unabhängig vom Ergebnis des Entscheides über den Aufenthaltsanspruch die Wegweisung anficht sowie einen Verzicht auf das von den Behörden angekündigte Einreiseverbot beantragt. In beiderlei Hinsicht ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten ausgeschlossen (vgl. Art. 83 lit. c Ziff. 4 und 1 BGG). Die Beschwerde kann insofern auch nicht als subsidiäre Verfassungsbeschwerde entgegengenommen werden, da diesbezüglich keine genügend konkretisierten, einzig zulässigen Verfassungsrügen erhoben werden (vgl. Art. 116 und 117 i.V.m. <ref-law>; vgl. <ref-ruling> E. 1.4.2 S. 254, 396 E. 3.1 S. 399).
1.5 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann deren Sachverhaltsfeststellung auf Rüge hin oder von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder an einer massgeblichen Rechtsverletzung leidet (vgl. Art. 97 und 105 BGG).
2. 2.1 Bei der Anwendung von Art. 50 Abs. 1 lit. b AuG geht es darum, Härtefälle bei der Bewilligungsverlängerung nach der Auflösung der ehelichen Gemeinschaft zu vermeiden (vgl. <ref-ruling> E. 5.3 S. 4). Der nacheheliche Härtefall knüpft an den abgeleiteten Anwesenheitsanspruch nach Art. 42 Abs. 1 bzw. Art. 43 Abs. 1 AuG an; bei der Beurteilung der "wichtigen persönlichen Gründe" sind in der Folge aber sämtliche Umstände des Einzelfalles mitzuberücksichtigen. Im Gegensatz zur Ermessensbewilligung nach Art. 30 Abs. 1 lit. b AuG, wonach die kantonale Bewilligungsbehörde unter Zustimmung des Bundesamts von den Zulassungsvoraussetzungen (Art. 18-29 AuG) abweichen kann, um "schwerwiegenden persönlichen Härtefällen oder wichtigen öffentlichen Interessen Rechnung zu tragen" (allgemeiner ausländerrechtlicher Härtefall), ist hier nicht von Bedeutung, wie stark der einzelne Kanton das öffentliche Interesse an einer restriktiven Einwanderungspolitik gewichtet, sondern allein, wie sich die Pflicht des Ausländers, die Schweiz verlassen zu müssen, nach der gescheiterten Ehe auf seine persönliche Situation auswirkt. Der Gesetzgeber hat in Art. 50 AuG den nachehelichen Härtefall als Anspruchsbewilligung geregelt, wobei sich die jeweils zu berücksichtigenden Interessen oder wichtigen Gründe mit den anderen Härtefallregeln überschneiden können (Dauer der Anwesenheit, Integration, Zumutbarkeit der Rückkehr usw.). Der Härtefall nach Art. 50 Abs. 1 lit. b AuG ist für Situationen gedacht, in denen die Voraussetzungen der Litera a nicht erfüllt sind, sei es, dass der Aufenthalt während der Ehe von kürzerer Dauer war oder dass die Integration nicht fortgeschritten ist oder es an beidem fehlt (vgl. <ref-ruling> ff.), aber - aufgrund sämtlicher weiterer Umstände - eine Härtefallsituation vorliegt. Der ursprünglich vom schweizerischen bzw. niedergelassenen Ehepartner abgeleitete Bewilligungsanspruch soll in Ausnahmesituationen unter einheitlichen bundesrechtlichen Kriterien verselbständigt weiterbestehen, wobei für den späteren Erwerb der Niederlassungsberechtigung aber die allgemeinen Regeln (Art. 50 Abs. 3 i.V.m. Art. 34 AuG) und nicht mehr die speziellen Bestimmungen von Art. 42 Abs. 3 bzw. Art. 43 Abs. 2 AuG gelten (BGE 2C_784/2010 vom 26. Mai 2011 E. 3.2.1).
2.2 Die "wichtigen persönlichen Gründe" nach Art. 50 Abs. 1 lit. b AuG müssen den weiteren Aufenthalt "erforderlich" machen. Nicht von Interesse sind hier die möglichen Anwendungsfälle der ehelichen Gewalt oder einer durch die Kindesinteressen begründeten Härtesituation. Weder hat der Beschwerdeführer Kinder noch steht eheliche Gewalt im Spiel. Ein wichtiger persönlicher Grund kann sich aber auch aus anderen Umständen oder Aspekten im In- oder Heimatland der betroffenen Person ergeben. Die in <ref-law> erwähnten Gesichtspunkte können bei der entsprechenden Wertung eine Rolle spielen, auch wenn sie einzeln betrachtet grundsätzlich noch keinen Härtefall begründen, so etwa der Grad der Integration, die Respektierung der Rechtsordnung, die Familienverhältnisse, die finanziellen Umstände, die Dauer der Anwesenheit oder der Gesundheitszustand des Betroffenen und seiner Familie. Nach Art. 50 Abs. 2 AuG liegen wichtige persönliche Gründe im Sinne von Absatz 1 lit. b AuG auch vor, wenn "die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint". Ein persönlicher, nachehelicher Härtefall setzt dabei aufgrund der konkreten Umstände des Einzelfalls eine erhebliche Intensität der Konsequenzen für das Privat- und Familienleben der ausländischen Person voraus, die mit ihrer Lebenssituation nach dem Dahinfallen der aus der ehelichen Gemeinschaft abgeleiteten Anwesenheitsberechtigung verbunden sind. Hindernisse, die dem Vollzug der Wegweisung entgegenstehen (Art. 83 AuG), sind geeignet, die soziale Wiedereingliederung im Herkunftsland zu beeinträchtigen und einen nachehelichen Härtefall im Sinne von Art. 50 Abs. 1 lit. b AuG zu begründen; sie sind deshalb im Bewilligungsverfahren mitzuberücksichtigen und können nicht ausschliesslich in ein allfälliges Asyl- oder Vollzugsverfahren verwiesen werden (BGE 2C_784/2010 vom 26. Mai 2011 E. 3.3.2).
2.3 Das Bundesgericht hatte sich kürzlich in zwei Fällen mit der Frage der gefährdeten Wiedereingliederung von Ausländern im Heimatland im Sinne von Art. 50 Abs. 2 AuG auseinander zu setzen. Im einen Fall ging es um einen Angehörigen der Demokratischen Republik Kongo, der in Südafrika als Flüchtling anerkannt worden war und diesen Status nach der Übersiedlung mit seiner Ehefrau, die schweizerisch-südafrikanische Doppelbürgerin war und die er in Südafrika geheiratet hatte, in die Schweiz verlor. Das Bundesgericht hielt dazu fest, im Rahmen der Überprüfung des nachehelichen Härtefalles seien die Rückkehrmöglichkeiten und die damit verbundenen Folgen unabhängig davon, ob sie auch in einem allfälligen Asyl- oder Wegweisungsverfahren oder bei der Prüfung eines Härtefalles nach Art. 30 Abs. 1 lit. b AuG wesentlich wären, mitzuberücksichtigen (BGE 2C_784/2010 vom 26. Mai 2011 E. 3.3). Im zweiten Fall war die Situation eines Iraners zu beurteilen, der zwei Monate in ehelicher Gemeinschaft mit einer Schweizerin gelebt hatte und geltend machte, seine soziale Wiedereingliederung im Herkunftsland erscheine stark gefährdet, weil seine IV-Rente nicht dorthin ausbezahlt werde und er sich die nötige medizinische Versorgung nicht mehr leisten könne. Das Bundesgericht verneinte hier einen Bewilligungsanspruch nach Art. 50 Abs. 1 lit. b AuG, weil der allfällige Verlust eines erst fast sechs Jahre nach der gescheiterten Ehe erworbenen Rentenanspruchs mit dieser Ehe und dem damit verbundenen Aufenthalt in keinem Zusammenhang mehr stehe (Urteil 2C_365/2010 vom 22. Juni 2011 E. 3.6).
3. 3.1 Der Beschwerdeführer rügt, das Verwaltungsgericht habe die Umstände der sozialen Wiedereingliederung in seinem Heimatland insbesondere im Zusammenhang mit seiner Konversion zum Christentum gar nicht geprüft. Damit habe es gegen Bundesrecht verstossen und den Sachverhalt unvollständig festgestellt.
3.2 Das Verwaltungsgericht ging, wie im Übrigen bereits seine Vorinstanz, das Departement für Justiz und Sicherheit des Kantons Thurgau, grundsätzlich davon aus, der Beschwerdeführer könne asylbegründende Umstände im Verfahren des nachehelichen Härtefalles nicht vorbringen. Es beruft sich dafür auf <ref-ruling> E. 4b, wonach individuelle Benachteiligungen oder solche von nationalen oder ethnischen Minderheiten im Rahmen einer Härtefallbewilligung nur insoweit berücksichtigt werden können, als sie nicht auf staatlicher Verfolgung beruhten. Diese Rechtsprechung bezieht sich allerdings auf den allgemeinen Härtefall nach dem aufgehobenen Art. 13 lit. f BVO, bei dem es um die Erteilung einer Ermessensbewilligung geht, und liesse höchstens eine Parallele zum heutigen Art. 30 Abs. 1 lit. b AuG, nicht aber zum anspruchsbegründenden nachehelichen Härtefall zu. Gemäss der hier beschriebenen bundesgerichtlichen Rechtsprechung zum nachehelichen Härtefall nach Art. 50 AuG sind aber auch Umstände, die möglicherweise ein Wegweisungsvollzugshindernis bilden könnten, bei der Prüfung der Gefährdung der sozialen Wiedereingliederung im Heimatland zu berücksichtigen.
3.3 Allerdings ging das Verwaltungsgericht trotz seiner grundsätzlichen Auffassung, die Frage der sozialen Wiedereingliederung unter dem Gesichtspunkt der Konversion des Beschwerdeführers vom Islam zum Christentum sei nicht massgeblich, darauf in einer subsidiären Begründung in Ziff. 3.3 des angefochtenen Entscheides auch inhaltlich ein. Zwar blieb es dazu eher summarisch; es hat die Frage aber behandelt. Das Verwaltungsgericht durfte es dabei deshalb bei einer eher kurzen Begründung belassen, weil dessen Vorinstanz sich ausführlich damit befasst hatte. Gewiss war auch das Departement zu Unrecht davon ausgegangen, Wegweisungsvollzugshindernisse seien für den nachehelichen Härtefall nicht massgeblich. Es prüfte die Frage einer Gefährdung der Wiedereingliederung jedoch umfassend im Rahmen der Behandlung des Gesuchs um Erteilung einer allgemeinen Härtefallbewilligung nach Art. 30 Abs. 1 lit. b AuG. Unter welchem Titel diese Abklärung stattfand, spielt insofern letztlich keine Rolle, als die Härtefallbewilligung schliesslich nicht aus Ermessensgründen verweigert wurde, sondern weil die vom Beschwerdeführer behauptete Gefährdung der Lebensbedingungen in seiner Heimat aufgrund des Glaubenswechsels verneint wurde. Das Verwaltungsgericht nahm in verkürzter Form die gleichen Argumente des Departements wieder auf. Sowohl das Departement als auch das Verwaltungsgericht bezogen sich zudem auf den rechtskräftigen Asylentscheid vom 10. Juli 2007 und die darin vom Bundesamt für Migration als Fachbehörde vorgenommene Beurteilung der Verhältnisse in Tunesien. Das Verwaltungsgericht berücksichtige überdies ausdrücklich die neuere Entwicklung in Tunesien (wörtlich: "auch nach den turbulenten Ereignissen in Tunesien"). Weshalb die entsprechenden Feststellungen offensichtlich falsch oder unvollständig sein sollten (vgl. E. 1.5), ist nicht ersichtlich. Im Übrigen obliegt es auch dem Beschwerdeführer aufgrund seiner Mitwirkungspflicht (vgl. Art. 90 AuG), die behaupteten Nachteile in seiner Heimat wenigstens glaubhaft zu machen. Das ist ihm nicht gelungen. Das Verwaltungsgericht hat damit im Ergebnis die massgeblichen Rechtsfragen - wenigstens subsidiär - geprüft und den Sachverhalt nicht unvollständig erhoben.
4. Mit den Vorinstanzen ist davon auszugehen, dass der Beschwerdeführer keine besonders engen Beziehungen zur Schweiz pflegt und hier auch nicht dermassen integriert ist, dass die Verweigerung der weiteren Anwesenheit eine individuelle Härte bewirken würde. Andere Gründe für eine massgebliche Härte, namentlich für eine starke Gefährdung der sozialen Wiedereingliederung im Heimatland liegen ebenfalls nicht vor. Insbesondere ist zwar nicht ganz auszuschliessen, dass die Konversion zum Christentum gewisse Schwierigkeiten mit sich bringen könnte, eine eigentliche staatliche oder gesellschaftliche Verfolgung oder massive Nachteile, welche die dafür nötige Intensität aufweisen (vgl. E. 2.2), sind damit aber nach heutigem Kenntnisstand nicht verbunden und jedenfalls nicht nachgewiesen und auch nicht wahrscheinlich. Der weitere Aufenthalt des Beschwerdeführers in der Schweiz erweist sich demnach nicht als im Sinne von Art. 50 Abs. 1 lit. b AuG erforderlich.
5. 5.1 Weitere Rügen erhebt der Beschwerdeführer nicht. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
5.2 Angesichts des Verfahrensausgangs würde der unterliegende Beschwerdeführer kostenpflichtig (<ref-law>). Er stellt jedoch ein Gesuch um unentgeltliche Rechtspflege und Verbeiständung. Diesem ist stattzugeben, wenn die Partei nicht über die erforderlichen Mittel verfügt und ihr Rechtsbegehren nicht aussichtslos erscheint (vgl. <ref-law>). Angesichts der Unklarheit über die Berücksichtigung der Auswirkungen des Glaubenswechsels auf die Eingliederungschancen im Heimatland des Beschwerdeführers kann sein Rechtsbegehren nicht als aussichtslos gelten. Was die Bedürftigkeit des Beschwerdeführers betrifft, so bezieht er seit anfangs 2011 unter Beachtung des 13. Monatslohnes einen monatlichen Nettolohn von rund Fr. 2'730.--. Das Verwaltungsgericht ging von einem massgeblichen Gesamtbedarf von Fr. 1'480.-- pro Monat aus der Beschwerdeführer beziffert diesen demgegenüber auf Fr. 3'040.80. Sein monatlicher Grundbedarf beträgt ohne Berücksichtigung des Lohnabzugs von Fr. 300.-- für auswärtige Verpflegung Fr. 1'200.--. Mit der Wohnungsmiete von Fr. 430.--, den Kosten für den Arbeitsweg von Fr. 30.-- und der Krankenkassenprämie von Fr. 211.25 erhöht sich der Bedarf des Beschwerdeführers auf Fr. 1'871.25. Die vom Beschwerdeführer geltend gemachten Kosten für Fernsehen und Telefon sind im Grundbedarf inbegriffen. Der Bedarf bleibt damit noch deutlich unter dem monatlichen Nettolohn. Unter Berücksichtigung der nachweislich bezahlten Schulden von Fr. 600.-- (vgl. <ref-ruling> E. 5.2; Urteil 5A_27/2010 vom 15. April 2010 E. 3.3.1), verbleibt immer noch ein Überschuss von mehr als Fr. 250.-- pro Monat. Der Beschwerdeführer ist mithin nicht bedürftig im Sinne von <ref-law>, weshalb dem Gesuch um Erteilung der unentgeltlichen Rechtspflege und Verbeiständung nicht entsprochen werden kann. Demnach sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen, wobei seinen durchaus angespannten finanziellen Verhältnissen bei der Festlegung der Gerichtsgebühr Rechnung zu tragen ist (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird dem Beschwerdeführer, dem Migrationsamt, dem Departement für Justiz und Sicherheit sowie dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 2. September 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Uebersax