Sachverhalt:
A. A.X._, geb. 1973, Staatsangehörige der Dominikanischen Republik, heiratete am 7. April 2000 den Schweizer Bürger B.X._, geb. 1952, woraufhin ihr die Aufenthaltsbewilligung im Kanton Thurgau erteilt wurde. Ihr aus einer früheren Beziehung stammender Sohn Z._, geb. 1995, ebenfalls Staatsangehöriger der Dominikanischen Republik, erhielt im November 2000 ebenfalls die Aufenthaltsbewilligung im Rahmen des Familiennachzugs. Nach ehelichen Auseinandersetzungen trennten sich die Eheleute X._ am 9. Mai 2001. Aufgrund einer Trennungsvereinbarung der Ehegatten schrieb das Bezirksgerichtspräsidium Münchwilen am 6. August 2001 ein Eheschutzverfahren ab. Am 11. Dezember 2001 wurde die gemeinsame Tochter C._ geboren, die über das Schweizer Bürgerrecht verfügt. Sie steht unter der elterlichen Obhut der Mutter. Am 28. Oktober 2002 errichtete die Vormundschaftsbehörde Frauenfeld über C._ eine Erziehungsbeistandschaft zur Unterstützung in der Erziehung und Betreuung des Kindes und zur Regelung des persönlichen Verkehrs mit dem Vater. Seit Juli 2001 wird A.X._ von der Sozialhilfe unterstützt.
B. Die Aufenthaltsbewilligungen von A.X._ und ihrem Sohn Z._ wurden mehrmals verlängert, letztmals bis zum 6. Oktober 2005. Am 21. November 2006 lehnte das Migrationsamt des Kantons Thurgau eine weitere Verlängerung ab. Mit Entscheid vom 4. Dezember 2007 wies das Departement für Justiz und Sicherheit des Kantons Thurgau einen dagegen erhobenen Rekurs ab. Am 9. April 2008 wies auch das Verwaltungsgericht des Kantons Thurgau eine bei ihr geführte Beschwerde in der Sache ab (Ziff. 1 des Urteilsdispositivs), hiess sie jedoch bezüglich der Verweigerung der unentgeltlichen Rechtspflege vor dem Departement gut (Ziff. 2 des Urteilsdispositivs) und bewilligte diese auch für das verwaltungsgerichtliche Verfahren (Ziff. 3 des Urteilsdispositivs).
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 14. Mai 2008 an das Bundesgericht beantragen A.X._ und Z._, Ziff. 1 des verwaltungsgerichtlichen Entscheiddispositivs aufzuheben und den Kanton Thurgau anzuweisen, ihnen die Aufenthaltsbewilligung zu verlängern; eventuell sei das Urteil des Verwaltungsgerichts aufzuheben und die Sache zwecks Befragung der Kinder Z._ und C._ sowie mit der Entwicklung der betroffenen Kinder betrauter Fachpersonen an die kantonale Verwaltung zurückzuweisen. Prozessual wird darum ersucht, der Beschwerde die aufschiebende Wirkung zu erteilen und den Beschwerdeführern die unentgeltliche Rechtspflege sowie Verbeiständung zu bewilligen.
Das Migrationsamt und das Departement für Justiz und Sicherheit des Kantons Thurgau sowie das Bundesamt für Migration schliessen auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Thurgau hat auf eine Vernehmlassung verzichtet.
D. Mit Verfügung vom 21. Mai 2008 erteilte der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde die aufschiebende Wirkung.
E. Am 26. Juni 2008 reichte das Migrationsamt des Kantons Thurgau dem Bundesgericht nach Fristablauf einen Bericht der Vormundschaftsbehörde Frauenfeld vom 17. Juni 2008 ein. Mit Eingabe vom 26. August 2008 stellten die Beschwerdeführer dem Bundesgericht einen Vorbescheid der IV-Stelle des Kantons Thurgau vom 21. August 2008 zu.
Erwägungen:
1. 1.1 Nach Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts über Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt.
1.2 Am 1. Januar 2008 ist das Bundesgesetz über die Ausländerinnen und Ausländer vom 16. Dezember 2005 (AuG; SR 142.20) in Kraft getreten. Nach Art. 126 AuG bleibt das alte Recht anwendbar auf Gesuche, die vor dem Inkrafttreten des neuen Gesetzes eingereicht worden sind. Das Verfahren richtet sich jedoch nach dem neuen Recht. Im vorliegenden Verfahren wird vor dem Bundesgericht von keiner Seite geltend gemacht, in materiell-rechtlicher Hinsicht sei auf das neue Recht abzustellen. Ob ein Anspruch auf eine Bewilligung besteht, ist eine Frage des materiellen Rechts. Für die anspruchsabhängige Zulässigkeit eines Rechtsmittels, wie dies bei der Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht zutrifft, bedeutet das, dass anhand des alten Rechts zu prüfen ist, ob ein Anspruch auf Bewilligung besteht (Urteil des Bundesgerichts 2C_366/2008 vom 1. September 2008, E. 2.2).
1.3 Nach Art. 7 Abs. 1 Satz 1 des Bundesgesetzes vom 26. Mai 1931 über Aufenthalt und Niederlassung der Ausländer (ANAG; in der Fassung vom 23. März 1990) hat der ausländische Ehegatte eines Schweizer Bürgers grundsätzlich Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung. Für die Eintretensfrage ist im Zusammenhang mit Art. 7 ANAG einzig darauf abzustellen, ob formell eine Ehe besteht; anders als bei Art. 8 EMRK ist nicht erforderlich, dass die Ehe intakt ist und tatsächlich gelebt wird (BGE 128 II 145 E. 1.1.2 S. 148 f. mit Hinweisen). Die Beschwerdeführerin ist nach wie vor mit ihrem Schweizer Ehemann verheiratet, womit das Vorliegen eines Rechtsanspruches aus Art. 7 ANAG im Grundsatz zu bejahen ist. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erwiese sich insoweit als zulässig. Die Beschwerdeführer berufen sich aber ausdrücklich nicht auf die eheliche Beziehung, um daraus ein Anwesenheitsrecht abzuleiten, da sie selbst die Ehe als definitiv gescheitert erachten (vgl. BGE 130 II 113 E. 4.2 S. 117; 128 II 145 E. 2 S. 151 f.; 127 II 49 E. 4a/5a, je mit Hinweisen).
1.4 Hingegen berufen sich die Beschwerdeführer auf ihr Verhältnis zur minderjährigen Tochter bzw. Halbschwester, welche über das Schweizer Bürgerrecht verfügt und damit ein gefestigtes Anwesenheitsrecht besitzt und zu welchem eine intakte, gelebte Beziehung besteht. Gestützt darauf kann jedenfalls die Beschwerdeführerin aus dem gemäss Art. 8 EMRK (bzw. Art. 13 Abs. 1 BV) gewährleisteten Recht auf Achtung des Familienlebens einen potentiellen Bewilligungsanspruch ableiten (BGE 122 II 289 E. 1c S. 292 ff.; Urteil 2A.562/2006 vom 16. Februar 2007, E. 2.3). Ob dies auch für den beschwerdeführenden Halbbruder gilt, erscheint fraglich (vgl. BGE 120 Ib 257 E. 1d S. 260 f.). Dafür spräche immerhin, dass es sich um zwei minderjährige Kinder handelt, die zusammen mit ihrer Mutter im gemeinsamen Haushalt leben. Wie es sich damit verhält, kann aber offen bleiben. Wäre dem Anwesenheitsanspruch der Mutter gestützt auf ihre Beziehung zur schweizerischen Tochter Folge zu geben, so hätte sie ein gefestigtes Anwesenheitsrecht, weshalb ihrem Sohn jedenfalls gestützt darauf in Anwendung von Art. 8 EMRK (bzw. Art. 13 BV) ein eigenes Aufenthaltsrecht zustünde und ihm insoweit ein potentieller Bewilligungsanspruch ebenfalls nicht abgesprochen werden könnte. Die Beschwerde erweist sich demnach als zulässig.
1.5 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem geltend gemacht werden, der angefochtene Entscheid verletze Bundesrecht - inklusive Bundesverfassungsrecht -, Völkerrecht sowie kantonale verfassungsmässige Rechte (Art. 95 BGG). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
1.6 Sowohl das Migrationsamt als auch die Beschwerdeführer reichten dem Bundesgericht Unterlagen nach, die dem Verwaltungsgericht nicht vorgelegen haben. Bei beiden handelt es sich um Schriftstücke, die erst nach dem angefochtenen Urteil abgefasst wurden. Auch wenn sie im weiteren Sinne einschlägig sind, hat nicht das verwaltungsgerichtliche Urteil Anlass gegeben, sie einzureichen. Sie sind damit aus dem Recht zu weisen.
2. Die Beschwerdeführer machen geltend, die Kinder - und allenfalls sie betreuende Fachpersonen - seien von den Migrationsbehörden zur Frage der weiteren Anwesenheit in der Schweiz nicht angehört worden, und sehen darin einen Verstoss gegen Art. 12 des Übereinkommens vom 20. November 1989 über die Rechte des Kindes (KRK; SR 0.107). Da ein entsprechender Antrag in den vorausgegangenen Rechtsmittelverfahren nicht gestellt worden ist, erscheint die Zulässigkeit dieser Rüge fraglich. Wie es sich damit verhält, kann jedoch offen bleiben. In sämtlichen Rechtsmittelverfahren standen vordergründig die Interessen der Kinder zur Beurteilung an, und diese wurden von den Beschwerdeführern auch regelmässig ausführlich und schwergewichtig vorgetragen. Damit kann davon ausgegangen werden, dass die Interessen der Kinder rechtsgenüglich ins Verfahren eingebracht werden konnten und diese sich auch ohne direkte mündliche Anhörung in konventionskonformer Weise zum Streitgegenstand äussern konnten (vgl. BGE 124 II 361 E. 3c S. 368).
3. 3.1 In der Sache hat das beschwerdeführende, 1995 geborene erste Kind aus einer früheren Beziehung der Beschwerdeführerin keinen eigenen Anwesenheitsanspruch, weshalb es von einem solchen der Mutter abhängt und insofern ausländerrechtlich deren Schicksal teilt. Mit Blick auf das hier selbständig anwesenheitsberechtigte jüngere Kind ist unter dem Gesichtspunkt von Art. 8 EMRK bzw. Art. 13 BV massgeblich, dass die obhutsberechtigte Mutter kein selbständiges Anwesenheitsrecht in der Schweiz hat. Nach der bundesgerichtlichen Rechtsprechung hat auch ein hier anwesenheitsberechtiges Kind als Konsequenz der im Eheschutz- oder Scheidungsverfahren getroffenen Regelung grundsätzlich das Lebensschicksal des sorge- bzw. obhutsberechtigten Elternteils zu teilen und ihm gegebenenfalls ins Ausland zu folgen (Urteile 2A.657/2007 vom 26. Mai 2008 und 2A.508/2005 vom 16. September 2005). Für ein Kleinkind in dieser Lage ist das regelmässig zumutbar (vgl. BGE 127 II 61 E. 2a S. 67). So verhält es sich vorbehaltlos dann, wenn der nicht sorge- bzw. obhutsberechtigte Elternteil kein Anwesenheitsrecht in der Schweiz hat, aber auch dann, wenn kein Besuchsrecht eines in der Schweiz anwesenheitsberechtigten Elternteils besteht oder aber wenn ein solches nicht ausgeübt wird und damit belanglos bleibt (vgl. BGE 127 II 61 E. 2 S. 67 ff.). Nach der Rechtsprechung gilt grundsätzlich selbst dann nichts anderes, wenn das Kind über das schweizerische Bürgerrecht verfügt (BGE 122 II 289 E. 3c S. 298; Urteile des Bundesgerichts 2C_657/2007 vom 26. Mai 2008 und 2C_490/2008 vom 22. Juli 2008 sowie 2A.562/2006 vom 16. Februar 2007). Besteht jedoch ein Besuchsrecht des hier anwesenheitsberechtigten Elternteils und wird dieses ausgeübt, ist eine Verhältnismässigkeitsprüfung gemäss Art. 8 Ziff. 2 EMRK erforderlich (vgl. etwa das Urteil des Bundesgerichts 2C_366/2008 vom 1. September 2008, E. 3.1). Dies trifft hier zu, da der Vater des schweizerischen Kindes über das Schweizer Bürgerrecht verfügt und ihm ein Besuchsrecht eingeräumt wurde, das zumindest minimal ausgeübt wird.
3.2 Die Beschwerdeführer berufen sich unter anderem gerade auf dieses Besuchsrecht durch den schweizerischen Vater.
3.2.1 Anders als der sorge- bzw. obhutsberechtigte Elternteil kann der Ausländer mit Besuchsrecht die familiäre Beziehung zu einem Kind zum Vornherein nur in einem beschränkten Rahmen, nämlich durch Ausübung des ihm eingeräumten Besuchsrechts, leben; ein Zusammenwohnen fällt ausser Betracht. Dazu ist nicht unabdingbar, dass er sich dauernd im gleichen Land aufhält wie das Kind. Beansprucht nicht der besuchsberechtigte, sondern der sorge- bzw. obhutsberechtigte Elternteil gestützt auf die Anwesenheitsberechtigung des Kindes eine ausländerrechtliche Bewilligung, so verlangt die bundesgerichtliche Rechtsprechung dafür folgende Voraussetzungen, damit dem Anspruch Folge zu leisten ist: Erforderlich ist einerseits eine besondere Intensität der Beziehung zwischen dem hier anwesenden besuchsberechtigten Elternteil und dem Kind in affektiver und wirtschaftlicher Hinsicht, andererseits ein tadelloses Verhalten des obhutsberechtigten Elternteils, welcher um Bewilligung ersucht. Dabei ist mit noch grösserer Zurückhaltung auf eine Pflicht zur Bewilligungserteilung zu schliessen als im Falle des besuchsberechtigten Ausländers, der selber, im Hinblick auf die Ausübung seines Besuchsrechts, um Bewilligung ersucht; der obhutsberechtigte Elternteil, der die Bewilligung einzig zur Erleichterung der Ausübung des Besuchsrechts zwischen dem Kind und dem andern Elternteil erhältlich machen will, soll dies nur bei Vorliegen besonderer Umstände tun können (vgl. die Urteile des Bundesgerichts 2C_366/2008 vom 1. September 2008, E. 3.2, 2A.562/2006 vom 16. Februar 2007, E. 3.4.1, und 2A.508/2005 vom 16. September 2005, E. 2.2.3, mit Hinweisen).
3.2.2 Solche besonderen Umstände liegen hier nicht vor. Der schweizerische Vater kommt seinen Unterhaltspflichten nur sporadisch nach. Zwar nimmt er das Besuchsrecht hin und wieder wahr, dessen Ausübung erweist sich aber als problematisch. So hat die Beschwerdeführerin gegen den Kindsvater mindestens zweimal Strafanzeige wegen angeblicher sexueller Handlungen mit der Tochter erhoben. Auch wenn die Strafverfahren bisher, soweit bekannt, eingestellt wurden bzw. zu keinem weiteren Ergebnis führten, so müssen sich die Beschwerdeführer dieses Verhalten auf ihrer Seite wenigstens insoweit entgegenhalten lassen, als daraus zu schliessen ist, dass das Besuchsrecht sich offenbar nicht ungestört abwickeln lässt. Die Beschwerdeführer können sich jedenfalls nicht gerade auf dieses Besuchsrecht berufen, dessen Berechtigung sie selbst in Frage stellen, um zu einer Anwesenheitsbewilligung in der Schweiz zu gelangen.
3.3 Die Beschwerdeführer leben seit rund acht Jahren in der Schweiz. Die heute 35-jährige Beschwerdeführerin hat 27 Jahre in ihrer Heimat verbracht, ihr beschwerdeführender Sohn ebenfalls rund fünf seiner inzwischen 13 Jahre. Eine Rückkehr in ihre Heimat dürfte nicht völlig einfach sein, ist ihnen aber grundsätzlich zumutbar, können sie sich während ihrer Anwesenheit in der Schweiz doch von den dortigen Verhältnissen nicht völlig entfremdet haben. Im Übrigen scheint die Beschwerdeführerin in der Schweiz nicht besonders verwurzelt. Dabei kann immerhin zu ihren Gunsten davon ausgegangen werden, dass ihr ihre Sozialhilfeabhängigkeit kaum zum Verschulden gereicht. Diese wurde nicht unwesentlich durch den angespannten Gesundheitszustand der Beschwerdeführerin verursacht. Darf damit dem Gesichtspunkt der Sozialhilfeabhängigkeit keine wesentliche Bedeutung zugemessen werden, ist auch der Umstand unerheblich, wieweit diese Abhängigkeit nachträglich durch die Zusprechung einer Rente der Invalidenversicherung gemildert wurde, wobei es sich dabei ohnehin um eine unbeachtliche neue Tatsache handelt (vgl. E. 1.6). Im Übrigen gibt es keine Hinweise dafür, dass sich die gesundheitlichen Beschwerden im Heimatland nicht angemessen behandeln liessen. Heikler ist die Ausgangslage für die Tochter schweizerischer Nationalität. Sie ist hier geboren und bisher aufgewachsen. Nach der bereits erwähnten bundesgerichtlichen Rechtsprechung ist es grundsätzlich auch Kleinkindern schweizerischer Staatsangehörigkeit zumutbar, ihrem sorge- bzw. obhutsberechtigten Elternteil in dessen Heimat zu folgen. Es fragt sich jedoch, welche Rolle dabei das Alter und die konkreten Verhältnisse spielen.
3.3.1 In BGE 122 II 289 war das schweizerische Kind noch keine zwei Jahre alt und wies abgesehen vom Bürgerrecht keine weiteren Beziehungen zur Schweiz aus (vgl. E. 3c S. 298). In den Urteilen 2C_657/2007 vom 26. Mai 2008 und 2C_490/2008 vom 22. Juli 2008 ging es um hier geborene schweizerische Kinder im Alter von zwei bzw. zweieinhalb Jahren. Im Urteil 2A.562/2006 vom 16. Februar 2007 war das Kind schweizerischer Nationalität bereits fünfjährig, hatte aber lediglich rund drei Jahre in der Schweiz und den Rest seines Lebens in der Heimat der Mutter verbracht.
3.3.2 Im vorliegenden Fall war das schweizerische Kind im Zeitpunkt des verwaltungsgerichtlichen Urteils sechseinhalb Jahre alt. Es hat immer in der Schweiz gelebt und stand damals kurz vor der Einschulung. Dass diese inzwischen wohl erfolgt sein dürfte, ist hier aus verfahrensrechtlichen Gründen nicht wesentlich, da es sich dabei um eine unbeachtliche neue Tatsache handelt. Eine Ausreise in die Heimat der Beschwerdeführerin dürfte für das schweizerische Kind nicht einfach sein, ist ihm aber angesichts seines Alters und des Umstands, dass es im hier massgeblichen Zeitpunkt noch nicht eingeschult war, noch zumutbar. Wichtig ist insofern auch, dass der vorliegende Fall noch unter der Geltung des alten Ausländergesetzes zu beurteilen ist. Das nationale Recht spielt zwar bei der Auslegung und Anwendung der Menschenrechtskonvention nur mittelbar eine Rolle. Für die Praxis der Landesbehörden kann es aber durchaus von Bedeutung sein. Im vorliegenden Zusammenhang berufen sich die Beschwerdeführer denn auch darauf, das neue Ausländergesetz stelle für die Erteilung von Anwesenheitsbewilligungen massgeblich auf den Integrationsgrad und allenfalls die entsprechende Bereitschaft ab. Wie es sich damit verhält, ist hier aber nicht zu entscheiden, da der vorliegende Fall noch unter der Geltung des alten Rechts zu beurteilen ist.
3.4 Nach der Rechtsprechung des Bundesgerichts vermitteln die von den Beschwerdeführern ebenfalls angerufenen Art. 11 BV und Art. 3 und 9 KRK keine gerichtlich durchsetzbaren Ansprüche auf ausländerrechtliche Anwesenheitsbewilligungen (BGE 126 II 377 E. 5 S. 377 ff.). Die entsprechenden Zielsetzungen sind immerhin bei der im Rahmen von Art. 8 Ziff. 2 EMRK vorzunehmenden Interessenabwägung mitzuberücksichtigen (Urteil des Bundesgerichts 2A.563/2002 vom 23. Mai 2003, E. 2.5). Im vorliegenden Fall spricht dies zwar für das Anliegen der Beschwerdeführer. Die massgeblichen Kriterien werden dadurch aber nicht entscheidend neu gewichtet.
3.5 Insgesamt ergibt eine Gesamtwürdigung des vorliegenden Falles, dass es den Beschwerdeführern und ihrer schweizerischen Tochter bzw. Halbschwester zumutbar ist, in die Heimat der Beschwerdeführer auszureisen, und dass sich der angefochtene Entscheid mithin als verhältnismässig erweist.
4. Demnach ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten unbegründet und abzuweisen.
Aufgrund des Alters der schweizerischen Tochter bzw. Halbschwester der Beschwerdeführer und der weiteren konkreten Umstände des vorliegenden Falles kann nicht davon ausgegangen werden, der Ausgang des Verfahrens sei von vornherein festgestanden. Wegen der entsprechenden nicht einfachen tatsächlichen und rechtlichen Zusammenhänge erwies sich der Beizug eines Anwalts für die nicht rechtskundigen Beschwerdeführer als notwendig und ist die Beschwerde nicht als von vornherein aussichtslos zu beurteilen. Dasselbe hat denn auch das Verwaltungsgericht für das vorinstanzliche Verfahren und dasjenige vor dem Departement entschieden. Den mittellosen Beschwerdeführern ist daher die unentgeltliche Rechtspflege zu bewilligen, und es ist ihnen ihr Rechtsvertreter als unentgeltlicher Beistand beizugeben. Damit sind für das bundesgerichtliche Verfahren keine Kosten zu erheben, und der Vertreter der Beschwerdeführer ist aus der Bundesgerichtskasse angemessen zu entschädigen (vgl. Art. 64 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Den Beschwerdeführern wird die unentgeltliche Rechtspflege bewilligt.
3. Es werden keine Kosten erhoben.
4. Rechtsanwalt Marc Spescha wird als unentgeltlicher Rechtsbeistand der Beschwerdeführer bestellt, und es wird ihm für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2'000.-- ausgerichtet.
5. Dieses Urteil wird den Beschwerdeführern, dem Migrationsamt, dem Departement für Justiz und Sicherheit sowie dem Verwaltungsgericht des Kantons Thurgau und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 25. September 2008
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Merkli Uebersax