Sachverhalt:
A. Die serbische Staatsangehörige X._ (geb. 1975) reiste zusammen mit ihrem Sohn Y._ (geb. 1994) am 1. Februar 1999 in die Schweiz ein, nachdem sie sich zuvor elf Jahre in Österreich aufgehalten hatte. Am 8. April 1999 heiratete X._ den Schweizer Bürger Z._ (geb. 1976) und erhielt in der Folge für sich und ihren Sohn eine Jahresaufenthaltsbewilligung zum Verbleib beim Ehemann. Diese wurde vom Migrationsamt des Kantons Thurgau jeweils verlängert, nachdem sich der Verdacht auf Scheinehe nach fremdenpolizeilichen Abklärungen nicht erhärtet hatte. Seit August 2004 lebt X._ dauerhaft von ihrem Ehemann getrennt, welcher weder sie noch ihren Sohn Y._ finanziell unterstützt. Seit ihrem Zuzug in die Schweiz nimmt X._ Sozialhilfeleistungen in Anspruch. Seit Mai 2002 wird sie vom Sozialamt Amriswil dauerhaft unterstützt. Der Saldo der Unterstützungsleistungen betrug am 20. April 2010 Fr. 159'273.65. Daneben bestehen Betreibungen in der Höhe von Fr. 32'570.20 und 26 offene Verlustscheine in der Höhe von Fr. 32'137.25 (Stand per 28. Oktober 2009).
B. Mit Entscheid vom 26. April 2010 wies das Migrationsamt des Kantons Thurgau das Gesuch vom 12. Oktober 2009 um Verlängerung der (am 7. Oktober 2009 abgelaufenen) Aufenthaltsbewilligung von X._ und Y._ ab, verweigerte ihnen den weiteren Aufenthalt im Kanton Thurgau und wies sie per 6. August 2010 aus der Schweiz weg. Das kantonale Departement für Justiz und Sicherheit (DJS) wies den dagegen erhobenen Rekurs mit Entscheid vom 2. August 2010 ab und forderte die Gesuchsteller auf, die Schweiz bis zum 15. November 2010 zu verlassen. Mit Urteil vom 1. Dezember 2010 hiess das Verwaltungsgericht des Kantons Thurgau die dagegen erhobene Beschwerde in Bezug auf die unentgeltliche Prozessführung teilweise gut; in der Sache wies es die Beschwerde ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 10. Februar 2011 beantragen X._ und Y._ dem Bundesgericht, das angefochtene Urteil vom 1. Dezember 2010 sei aufzuheben, von Wegweisungsmassnahmen gegenüber den Beschwerdeführern sei Abstand zu nehmen und den Beschwerdeführern sei die "zuvor eingeräumte Aufenthaltsbewilligung wieder zuzuerkennen und entsprechend zu verlängern". Eventualiter sei das DJS bzw. das Migrationsamt anzuweisen, den Beschwerdeführern eine Aufenthaltsbewilligung zu erteilen. Im Wesentlichen wird die Unangemessenheit des angefochtenen Entscheids sowie die Unverhältnismässigkeit der bevorstehenden Wegweisung gerügt.
Das Migrationsamt, das DJS und das Verwaltungsgericht des Kantons Thurgau - sowie mit verspäteter Eingabe das Bundesamt für Migration - schliessen auf Abweisung der Beschwerde.
D. Mit Verfügung vom 14. Februar 2011 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Das Bundesgesetz vom 16. Dezember 2005 über die Ausländerinnen und Ausländer (AuG; SR 142.20) hat auf den 1. Januar 2008 das Bundesgesetz vom 26. März 1931 über Aufenthalt und Niederlassung der Ausländer abgelöst (ANAG; BS 1 121 und Änderungen gemäss der Fussnote zu Ziff. I von Anhang 2 zum AuG). Da im vorliegenden Fall eine Bewilligungsverlängerung nach Inkrafttreten des neuen Rechts zur Diskussion steht, ist dieses anwendbar (Art. 126 Abs. 1 AuG). Keine Rolle spielt, dass sich der bisherige Aufenthalt auf eine Ehe stützt, die noch unter dem ANAG eingegangen wurde, und sich die Ehepartner vor dem 1. Januar 2008 getrennt haben (vgl. Urteile 2C_781/2010 vom 16. Februar 2011 E. 1.1; 2C_411/2010 vom 9. November 2010 E. 1, nicht publ. in: BGE 137 II 1).
1.2 Nach Art. 83 lit. c Ziff. 2 BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten u.a. unzulässig gegen Entscheide auf dem Gebiet des Ausländerrechts betreffend Bewilligungen, auf die weder das Bundesrecht noch das Völkerrecht einen Anspruch einräumt. Nach Art. 50 Abs. 1 AuG hat die ausländische Ehegattin eines Schweizers nach Auflösung der Ehe oder Familiengemeinschaft dann weiterhin Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration besteht (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b). Die Beschwerdeführerin 1, welche mit einem Schweizer verheiratet ist und aufgrund dessen eine Aufenthaltsbewilligung nach Art. 42 AuG erhalten hat, beruft sich für eine Bewilligungsverlängerung auf Art. 50 AuG und behauptet, die Voraussetzungen seien hierfür erfüllt. Ob dies zutrifft, ist - abgesehen von offensichtlichen Fällen - eine Frage der materiellen Prüfung. Für das Eintreten auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten genügt, dass potentiell ein Anspruch besteht (Urteil 2C_781/2010 vom 16. Februar 2011 E. 1.2 mit Hinweisen). Auf die frist- und formgerecht eingereichte Beschwerde ist somit in Bezug auf die Beschwerdeführerin 1 grundsätzlich einzutreten.
1.3 Die dem Bundesgericht vorgelegte Vollmacht bezieht sich lediglich auf die Beschwerdeführerin 1. Als gesetzliche Vertreterin ihres minderjährigen Sohnes (vgl. Art. 304 Abs. 1 ZGB) kann X._ auch für diesen Beschwerde führen.
1.4 Das Bundesgericht legt seinem Urteil die Sachverhaltsfeststellungen der Vorinstanz zugrunde (Art. 105 Abs. 1 BGG). Mit einer Beschwerde in öffentlich-rechtlichen Angelegenheiten können diese nur dann gerügt werden, wenn sie offensichtlich unrichtig, d.h. willkürlich sind (BGE 133 II 249 E. 1.2.2 S. 252; 133 III 393 E. 7.1 S. 398) oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Zudem ist vom Beschwerdeführer aufzuzeigen, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
1.5 Die Beschwerdeschrift hat gemäss Art. 42 Abs. 1 BGG die Begehren und deren Begründung zu enthalten; im Rahmen der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (Art. 42 Abs. 2 BGG). Dies setzt voraus, dass sich der Beschwerdeführer wenigstens kurz mit den Erwägungen des angefochtenen Entscheides auseinandersetzt (BGE 134 II 244 E. 2.1 S. 245 f.). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht. Das Bundesgericht prüft eine solche Rüge nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2. 2.1 Unbestritten ist, dass die Beschwerdeführerin 1, die immer noch mit ihrem schweizerischen Ehemann verheiratet ist, einen Anspruch auf Verlängerung ihrer - bereits am 7. Oktober 2009 abgelaufenen - Aufenthaltsbewilligung seit der Aufgabe des gemeinsamen Wohnsitzes nicht mehr aus Art. 42 Abs. 1 AuG herleiten kann.
Fraglich und - entgegen der Auffassung der Vorinstanz (vgl. angefochtener Entscheid E. 2.2) - zu prüfen ist hier, ob der Beschwerdeführerin 1 ein Anspruch gemäss Art. 50 Abs. 1 AuG zusteht (vgl. auch E. 1.2 hiervor). Danach besteht nach Auflösung der Familiengemeinschaft der Anspruch des Ehepartners auf Erteilung und Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG weiter, wenn die Ehegemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration besteht (lit. a) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b). Wichtige persönliche Gründe können namentlich vorliegen, wenn der erwähnte Ehepartner Opfer ehelicher Gewalt wurde und die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint (Art. 50 Abs. 2 AuG).
2.2 Zwar hält sich die Beschwerdeführerin 1 mit ihrem Sohn seit 1999 in der Schweiz auf und sie hat hier mit ihrem Gatten unbestrittenermassen über drei Jahre zusammengelebt (vgl. BGE 136 II 113 E. 3.3 S. 117 ff.), doch kann nicht gesagt werden, dass sie sich in die hiesigen Verhältnisse integriert hätte (vgl. auch Art. 77 Abs. 4 der Verordnung vom 24. Oktober 2007 über die Zulassung, Aufenthalt und Erwerbstätigkeit, VZAE; SR 142.201): Dagegen sprechen zunächst der Bezug erheblicher Beträge der Sozialhilfe, die Anhäufung von Schulden sowie die fehlende Teilnahme am Wirtschaftsleben (vgl. dazu Sachverhalt lit. A). Aus den Akten ergibt sich zudem, dass die Beschwerdeführerin 1 zwischen 1999 und 2010 insgesamt sechs Mal wegen diversen Verstössen gegen die schweizerische Rechtsordnung mit einer Busse bestraft bzw. einmal zu einer bedingten Freiheitsstrafe von zwei Wochen verurteilt worden ist. Von einer erfolgreichen beruflichen oder sozialen Integration kann somit nicht die Rede sein. Die Beschwerdeführerin 1 macht denn auch nicht konkret geltend, es bestehe in ihrem Fall eine erfolgreiche Integration.
2.3 Zu beurteilen bleibt, ob die Bewilligung gestützt auf Art. 50 Abs. 1 lit. b AuG aus wichtigen persönlichen Gründen zu erneuern ist. Solche Gründe können gemäss Art. 50 Abs. 2 AuG namentlich vorliegen, wenn der ausländische Ehepartner Opfer ehelicher Gewalt wurde und die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint.
Art. 50 AuG bezweckt die Vermeidung von schwerwiegenden Härtefällen bei der Auflösung der ehelichen Gemeinschaft. Ein weiterer Aufenthalt in der Schweiz kann sich etwa dann als gerechtfertigt erweisen, wenn der in der Schweiz lebende Ehepartner verstorben ist oder wenn aufgrund der gescheiterten Ehe die familiäre und soziale Wiedereingliederung im Herkunftsland stark erschwert wird. Zu berücksichtigen sind auch die Umstände, die zur Auflösung der Gemeinschaft geführt haben. Steht fest, dass die im Familiennachzug zugelassene Person durch das Zusammenleben in ihrer Persönlichkeit ernstlich gefährdet ist und ihr eine Fortführung der ehelichen Beziehung nicht länger zugemutet werden kann, ist dies beim Entscheid besonders in Rechnung zu stellen. Demgegenüber ist eine Rückkehr zumutbar, wenn der Aufenthalt in der Schweiz nur kürzere Zeit gedauert hat, keine engen Beziehungen zur Schweiz geknüpft wurden und die erneute Integration in der Heimat keine besonderen Probleme stellt (Botschaft vom 8. März 2002 zum AuG, BBl 2002 3753 f. Ziff. 1.3.7.5 f.). Sowohl die eheliche Gewalt als auch die starke Gefährdung der sozialen Wiedereingliederung im Herkunftsland können ihrem Ausmass und den Gesamtumständen entsprechend bei der Beurteilung je für sich allein bereits einen wichtigen persönlichen Grund darstellen (BGE 136 II 1 E. 5.3 S. 4). Art. 31 VZAE nennt diverse Kriterien, die bei der Beurteilung zu berücksichtigen sind, auch wenn sie einzeln betrachtet noch grundsätzlich keinen Härtefall zu begründen vermögen. Es handelt sich hierbei um den Grad der Integration, die Respektierung der Rechtsordnung, die Familienverhältnisse, die finanziellen Verhältnisse, die Dauer der Anwesenheit in der Schweiz und der Gesundheitszustand (BGE 137 II 1 E. 4.1 S. 7).
2.4 Die Beschwerdeführerin 1 macht geltend, ihre Reintegration in Serbien würde auf besondere Probleme stossen; weder sie noch ihr Sohn hätten in Serbien eine Zukunft. Die Eltern der Beschwerdeführerin 1 lebten zwar in einem Dorf in Serbien, seien aber beide arbeitslos. Zudem gehöre ihre Familie zur Volksgruppe der Rumänen, eine Minderheit, welche von der serbischen Bevölkerungsmehrheit nicht akzeptiert werde. Insbesondere für den Sohn Y._ erweise sich eine Rückkehr nach Serbien als unzumutbar, habe er doch seine gesamte Lebensprägung im deutschsprachigen Raum (Österreich und Schweiz) erfahren.
2.5 Die Vorinstanz hat in Bezug auf die Beschwerdeführerin 1 das Vorliegen wichtiger persönlicher Gründe nach Art. 50 Abs. 1 lit. b AuG zu Recht verneint: Obwohl sie seit ihrem 14. Lebensjahr in Österreich lebt, beherrscht sie die Landessprache ihres Heimatstaates, wo auch ihre Eltern (wieder) leben. Trotz ihres elfjährigen Aufenthaltes in der Schweiz kann ihre berufliche und soziale Integration nicht als vertieft bezeichnet werden. Eine allenfalls erleichtert mögliche Berufstätigkeit in der Schweiz stellt keinen Grund für das Vorliegen einer starken Gefährdung der sozialen Wiedereingliederung im Herkunftsland dar. Ebenso wenig kann aus der erstmals vorgebrachten (angeblichen) Zugehörigkeit zur rumänischen Minderheit - soweit es sich dabei ohnehin nicht um ein unzulässiges Novum handelt (vgl. E. 1.4 hiervor) - auf einen schwerwiegenden Härtefall geschlossen werden. Unter diesen Umständen durfte die Vorinstanz den Schluss ziehen, die Wiedereingliederung in Serbien möge mit gewissen Schwierigkeiten verbunden sein, eine starke Gefährdung im Sinne von Art. 50 Abs. 2 AuG liege jedoch nicht vor.
Soweit die Beschwerdeführerin 1 neu (mit separater Eingabe vom 16. Mai 2011) vorbringt, es sei ihr gelungen, per 2. Mai 2011 eine Arbeitsstelle anzutreten, handelt es sich um ein unzulässiges Novum; der Einsatzvertrag vom 9. Mai 2011 ist als unzulässiges "echtes" Novum aus dem Recht zu weisen (BGE 133 IV 342 E. 2.1 S. 344 mit Hinweisen; vgl. E. 1.4 hiervor).
2.6 In Bezug auf den Beschwerdeführer 2 hat die Vorinstanz festgehalten, dass diesen der Wegweisungsentscheid härter treffen würde, da er seit seinem 5. Lebensjahr in der Schweiz lebe. In der Beschwerdeschrift wird geltend gemacht, der Beschwerdeführer 2 spreche nur Rumänisch und Deutsch, beherrsche aber die serbische Sprache nicht. Mit Serbien verbinde ihn nichts; seine gesamte Existenz und Zukunft sei in Frage gestellt.
Der angefochtene Entscheid der Vorinstanz trifft den heute 17-jährigen Sohn empfindlich, ist dieser doch in Österreich geboren und kennt sein Heimatland nur - aber immerhin - von diversen Ferienbesuchen. Ob er einen Anspruch aus Art. 50 AuG, allenfalls in Verbindung mit Art. 8 EMRK hätte, kann offengelassen werden: Selbst bejahendenfalls erlischt der Anspruch gemäss Art. 51 Abs. 2 lit. b in Verbindung mit Art. 62 lit. e AuG (vgl. auch Art. 44 lit. c AuG) aufgrund der vorliegenden erheblichen und dauerhaften Sozialhilfeabhängigkeit.
2.7 Zusammenfassend ergibt sich, dass der Beschwerdeführerin 1 somit weder gestützt auf Art. 50 Abs. 1 lit. a AuG noch auf Art. 50 Abs. 1 lit. b AuG ein Anspruch auf Verlängerung ihrer Aufenthaltsbewilligung zusteht. Unter Berücksichtigung der Sozialhilfeabhängigkeit entfällt auch die Grundlage für die weitere Verlängerung der Aufenthaltsbewilligung für den Beschwerdeführer 2.
3. Soweit die Beschwerdeführer beantragen, von der Wegweisung abzusehen, wäre nur die subsidiäre Verfassungsbeschwerde zulässig (vgl. Art. 83 lit. c Ziff. 4 BGG). Sie machen diesbezüglich jedoch keine geeigneten Rügen geltend, so dass auf diesen Antrag nicht einzutreten ist. Im Übrigen ist nichts ersichtlich, das der Wegweisung entgegenstünde. Diese ist die konsequente Folge der Nichtverlängerung der Aufenthaltsbewilligung (Art. 64 Abs. 1 lit. c AuG).
4. 4.1 Daraus ergibt sich, dass die Beschwerde in öffentlich-rechtlichen Angelegenheiten abzuweisen ist, soweit darauf eingetreten werden kann.
4.2 Damit werden die Beschwerdeführer an sich kostenpflichtig (Art. 66 Abs. 1 BGG). Da die Beschwerde aber nicht als aussichtslos zu bezeichnen ist und die Bedürftigkeit der Beschwerdeführer als erstellt gelten kann, was das Verwaltungsgericht auch für das vorinstanzliche Verfahren festgestellt hat, ist dem Gesuch um Gewährung der unentgeltlichen Rechtspflege unter Beiordnung des beigezogenen Rechtsanwalts zu entsprechen (Art. 64 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen, soweit darauf einzutreten ist.
2. Den Beschwerdeführern wird für das Verfahren vor Bundesgericht die unentgeltliche Rechtspflege gewährt.
a) Es werden keine Gerichtskosten erhoben.
b) Rechtsanwalt Reinhold Nussmüller wird zum unentgeltlichen Rechtsbeistand bestellt und aus der Bundesgerichtskasse mit Fr. 2'000.-- entschädigt.
3. Dieses Urteil wird den Beschwerdeführern, dem Migrationsamt, dem Departement für Justiz und Sicherheit und dem Verwaltungsgericht des Kantons Thurgau sowie dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 5. Juli 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Winiger