Sachverhalt:
A. A.a Die ukrainische Staatsangehörige X.A._ (geb. 27. März 1980) heiratete am 14. August 2006 in der Ukraine den Schweizer Bürger V.D._ (geb. 1965) und reiste drei Tage später mit ihrem vorehelichen Sohn Y.B._ (geb. 31. März 1997) in die Schweiz ein. Beiden wurde im Kanton Luzern eine Aufenthaltsbewilligung erteilt. Im Juli 2007 gaben die Ehegatten die eheliche Wohngemeinschaft auf und am 3. Juli 2008 wurde die Ehe geschieden.
Im September 2008 zog X.A._ in den Kanton Zug und heiratete am 14. November 2008 den Schweizer Bürger U.E._ (geb. 1955). Rund zwei Wochen später wurde die eheliche Wohngemeinschaft aufgegeben. Am 5. Juni 2009 wurde die Ehe geschieden. Am 3. September 2009 wies das Migrationsamt des Kantons Zürich die Gesuche von X.A._ und Y.B._ um Erteilung einer Aufenthaltsbewilligung im Kanton Zürich ab.
Am 30. September 2009 heiratete X.A._ den Schweizer Bürger T.A._ (geb. 1969), worauf ihr und ihrem Sohn eine Aufenthaltsbewilligung für den Kanton Zürich erteilt wurde.
A.b X.A._ adoptierte am 25. März 2010 in der Ukraine unter ihrem früheren Namen X.D._ ihre beiden Halbschwestern Z.C._ (geb. 26. Februar 1995) und W.C._ (geb. 26. Mai 1998). Nachdem die Adoptivkinder mit einem Besuchervisum am 29. März 2010 in die Schweiz eingereist waren, ersuchte X.A._ für diese am 7. April bzw. 18. Juni 2010 um Erteilung einer Aufenthaltsbewilligung zum Verbleib bei ihr als Adoptivmutter.
Mit Zwischenverfügung vom 9. Juli 2010 forderte das Migrationsamt Z.C._ und W.C._ auf, die Schweiz bis zum 20. Juli 2010 zu verlassen, und sistierte die Nachzugsgesuche. Die Betroffenen rekurrierten dagegen. In der Folge bewilligte ihnen die Sicherheitsdirektion mit Verfügung vom 19. Juli 2010 vorsorglich den Aufenthalt bis zum Entscheid des Migrationsamts über die Nachzugsgesuche.
Seit Dezember 2010/Januar 2011 leben X.A._ und T.A._ nicht mehr zusammen. Die Einzelrichterin des Bezirks Dietikon bewilligte ihnen mit Verfügung vom 18. Juli 2011 das Getrenntleben ab 1. Januar 2011 auf unbestimmte Zeit.
B. Mit Verfügung vom 18. Juli 2011 verweigerte das Migrationsamt des Kantons Zürich die Verlängerung der Aufenthaltsbewilligungen von X.A._ und Y.B._, lehnte die Gesuche von Z.C._ und W.C._ um Erteilung von Aufenthaltsbewilligungen ab, setzte allen Betroffenen eine Frist zum Verlassen der Schweiz bis zum 29. September 2011 und wies darauf hin, dass ein allfälliger Rekurs für Z.C._ und W.C._ bezüglich der Wegweisungsfrist keine aufschiebende Wirkung entfalte.
C. Den dagegen von X.A._, Y.B._, Z.C._ und W.C._ eingereichten Rekurs wies die Sicherheitsdirektion des Kantons Zürich mit Entscheid vom 15. September 2011 in der Hauptsache ab. Die Beschwerde an das Verwaltungsgericht des Kantons Zürich blieb ohne Erfolg.
D. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragen X.A._, Y.B._ sowie Z.C._ und W.C._, das Urteil des Verwaltungsgerichts des Kantons Zürich vom 30. November 2011 aufzuheben, X.A._ sowie ihrem Sohn Y.B._ die Aufenthaltsbewilligung zu verlängern bzw. eine Niederlassungsbewilligung zu erteilen und Z.C._ sowie W.C._ die gleiche Anwesenheitsbewilligung wie ihrer Adoptivmutter X.A._ zu erteilen, eventuell sei die Sache zu neuem Entscheid im Sinne der Anträge zurückzuweisen. Zudem stellen sie das Gesuch, der Beschwerde sei hinsichtlich aller Beschwerdeführer aufschiebende Wirkung zuzuerkennen. Auf einen Schriftenwechsel wurde verzichtet (Art. 102 Abs. 1 BGG).
E. Mit Verfügung vom 31. Januar 2012 hat der Präsident der II. öffentlich-rechtlichen Abteilung des Bundesgerichts der Beschwerde hinsichtlich der mit dem angefochtenen Urteil verbundenen Ausreiseverpflichtung die aufschiebende Wirkung erteilt.
Erwägungen:
1. 1.1 Die Beschwerdeführer 2, 3 und 4 verfügen über keinen selbständigen Anspruch auf Aufenthalt in der Schweiz. Ihr allfälliger weiterer Aufenthalt in der Schweiz hängt davon ab, ob der Beschwerdeführerin 1 eine Anwesenheitsbewilligung erteilt wird. Letztere beruft sich in vertretbarer Weise auf einen Aufenthaltsanspruch gemäss Art. 50 AuG sowie auf einen Anspruch auf Niederlassungsbewilligung gemäss Art. 42 Abs. 3 AuG. Gegen den kantonal letztinstanzlichen Endentscheid ist daher die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich zulässig (Art. 82 lit. a, Art. 83 lit. c Ziff. 2, Art. 86 Abs. 1 lit. d und Art. 90 BGG). Ob die Voraussetzungen des angeblichen Rechtsanspruchs vorliegend erfüllt sind, ist eine Frage der materiellen Beurteilung (BGE 137 I 284 E. 1.3 S. 287, 305 E. 2.5 S. 315).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Immerhin prüft das Bundesgericht, unter Berücksichtigung der allgemeinen Rüge- und Begründungspflicht (Art. 42 Abs. 1 und 2 BGG; vgl. BGE 134 II 244 E. 2.1 S. 245 f.), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (BGE 133 II 249 E. 1.4.1 S. 254).
1.3 Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG). Eine entsprechende Rüge, welche rechtsgenüglich substantiiert vorzubringen ist (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.3 S. 254 f.), setzt zudem voraus, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Das dem Bundesgericht in Kopie zugestellte Schreiben des Migrationsamtes vom 8. Oktober 2012 an die Rechtsvertreterin der Beschwerdeführer kann als so genanntes echtes Novum im vorliegenden Verfahren nicht berücksichtigt werden (BGE 133 IV 342 E. 2.1 S. 343 f.).
2. 2.1 Die Beschwerdeführerin 1 macht geltend, sie habe Anspruch auf Verlängerung der Aufenthaltsbewilligung nach Art. 42 Abs. 1 AuG, da sie immer noch mit ihrem schweizerischen Ehegatten verheiratet sei und sie die Ehe nicht als gescheitert betrachte, womit Gründe für ein Getrenntleben nach Art. 49 AuG vorlägen. Zudem vertritt sie die Auffassung, dass sie auch Anspruch auf Erteilung einer Niederlassungsbewilligung habe, da sie sich seit August 2006 aufgrund drei aufeinander folgender Ehen mit Schweizer Bürgern ordnungsgemäss in der Schweiz aufhalte. Weiter habe sie als Opfer ehelicher Gewalt Anspruch auf Bewilligungsverlängerung nach Art. 50 AuG.
2.2 Ausländische Ehegatten von Schweizer Bürgern haben Anspruch auf Erteilung und Verlängerung der Aufenthaltsbewilligung, wenn sie mit ihrem Partner zusammenwohnen (Art. 42 Abs. 1 AuG). Nach einem ordnungsgemässen und ununterbrochenen Aufenthalt von fünf Jahren haben die Ehegatten Anspruch auf Erteilung der Niederlassungsbewilligung (Art. 42 Abs. 3 AuG).
Art. 49 AuG sieht eine Ausnahme vom Erfordernis des Zusammenwohnens vor, indem er den Ehegatten bei weiterdauernder Familiengemeinschaft gestattet, aus "wichtigen Gründen" getrennt zu leben, was auch bei vorübergehenden Schwierigkeiten in der Ehe kurzfristig der Fall sein kann (vgl. Art. 76 der Verordnung vom 24. Oktober 2007 über Zulassung, Aufenthalt und Erwerbstätigkeit [VZAE, SR 142.201]). Ab welchem Zeitpunkt die eheliche Gemeinschaft als definitiv aufgelöst zu gelten hat, ist jeweils aufgrund sämtlicher Umstände im Einzelfall zu bestimmen. Dabei ist im Wesentlichen auf die Dauer der nach aussen wahrnehmbaren ehelichen Wohngemeinschaft abzustellen (Urteil 2C_830/2010 vom 10. Juni 2011 E. 2.1).
Nach Auflösung der Ehe bzw. nach definitivem Scheitern der Ehegemeinschaft besteht gemäss Art. 50 Abs. 1 AuG der Anspruch des Ehegatten auf Erteilung und Verlängerung der Aufenthaltsbewilligung nach Art. 42 AuG weiter, wenn die eheliche Gemeinschaft mindestens drei Jahre bestanden hat und eine erfolgreiche Integration vorliegt (lit. a; BGE 136 II 113 E. 3.3.3) oder wichtige persönliche Gründe einen weiteren Aufenthalt in der Schweiz erforderlich machen (lit. b). Derartige wichtige Gründe können namentlich vorliegen, wenn die Ehegattin oder der Ehegatte Opfer ehelicher Gewalt wurde und die soziale Wiedereingliederung im Herkunftsland stark gefährdet erscheint (Art. 50 Abs. 2 AuG).
2.2.1 Mit Verfügung vom 18. Juli 2011 wurde der Beschwerdeführerin 1 und ihrem dritten Ehegatten das Getrenntleben ab 1. Januar 2011 auf unbestimmte Zeit bewilligt. Der Ehegatte hat gegenüber der Ausländerbehörde bereits mit Schreiben vom 12. Februar 2011 unmissverständlich zum Ausdruck gebracht, dass eine Wiederaufnahme des ehelichen Zusammenlebens für ihn nicht in Frage komme und er die Scheidung anstrebe. Die Möglichkeit einer Rückkehr in den gemeinsamen Haushalt war demnach seit Beginn des Getrenntlebens der Ehegatten ausgeschlossen. Entgegen der Behauptung der Beschwerdeführerin 1 handelt es sich somit nicht um eine vorübergehende Trennung und mangelt es klarerweise am Fortbestand der ehelichen Gemeinschaft. Dass die Beschwerdeführerin 1 aus ausländerrechtlich motivierten Gründen, wie sie selber einräumt, weiter an der Ehe festhält, ändert nichts daran, dass dem Ehegatten jeglicher Ehewille fehlt und die Ehe als definitiv gescheitert zu betrachten ist. Entgegen der Behauptung der Beschwerdeführerin 1 sind die Voraussetzungen für eine Ausnahme vom Erfordernis des Zusammenlebens im Sinne von Art. 49 AuG offensichtlich nicht gegeben. Die Beschwerdeführerin 1 kann sich somit für die Verlängerung ihrer Aufenthaltsbewilligung nicht mehr auf Art. 42 Abs. 1 AuG berufen.
2.2.2 Die Beschwerdeführerin 1 bringt weiter vor, sie erfülle die zeitliche Voraussetzung des fünf Jahre dauernden ordnungsgemässen und ununterbrochenen Aufenthalts im Sinne von Art. 42 Abs. 3 AuG, da sie seit August 2006 als Ehegattin in der Schweiz lebe.
Sie verkennt dabei, dass - wie das Bundesgericht bereits in mehreren Entscheiden im Einklang mit der Literatur festgehalten hat - auch der Anspruch gemäss Art. 42 Abs. 3 AuG das Bestehen des ehelichen Zusammenlebens bzw. einer Haushaltsgemeinschaft während fünf Jahren voraussetzt (Urteile 2C_568/2011 vom 16. November 2011 E. 3.2; 2C_284/2011 vom 21. September 2011 E. 2.2; 2C_220/2011 vom 1. Juni 2011 E. 2.3; MARTINA CARONI, in: Caroni et al. [Hrsg.], Bundesgesetz über die Ausländerinnen und Ausländer, 2010, Rz. 55 zu Art. 42 AuG; MARC SPESCHA, in: Spescha/Thür/Zünd [Hrsg.], Migrationsrecht, 3. Aufl. 2012, Rz. 9 zu Art. 42 AuG).
Entscheidend ist somit nicht die formelle Dauer der Ehe, sondern die Dauer der Ehegemeinschaft, wobei für die Annahme einer Auflösung der Familiengemeinschaft weder eine eheschutzrichterliche oder gerichtliche Trennung noch eine Scheidung erforderlich ist (MARC SPESCHA, op. cit., Rz. 1 zu Art. 50 AuG S. 138). Von einer (relevanten) Ehegemeinschaft ist auszugehen, solange die eheliche Beziehung tatsächlich gelebt wird und ein gegenseitiger Ehewille besteht. Wie sich aus den Akten ergibt, trennte sich die Beschwerdeführerin 1 von ihrem ersten Ehepartner im Juli 2007, d.h. nach ungefähr 10 Monaten und 2 Wochen, während sie mit ihrem zweiten Ehegatten bloss 2 Wochen und mit ihrem dritten Ehegatten 15 Monate zusammengelebt hat. Damit hätte die Beschwerdeführerin 1 die für einen Anspruch auf Niederlassungsbewilligung erforderliche Dauer des Zusammenlebens selbst mit drei Ehen und sogar bei Berücksichtigung der formellen Dauer der beiden ersten Ehen nicht erreicht. Ob die mit mehreren Ehepartnern in ehelicher Gemeinschaft gelebte Zeit zusammengezählt werden darf, kann unter diesen Umständen dahingestellt bleiben. Der Schluss der Vorinstanz, es habe kein Anspruch auf Niederlassungsbewilligung entstehen können, ist jedenfalls nicht zu beanstanden.
2.2.3 Ein Weiterbestand des Aufenthaltsrechts gemäss Art. 50 Abs. 1 lit. a AuG fällt vorliegend ausser Betracht. Gegenteiliges wird auch von der Beschwerdeführerin 1, die sich nicht ausdrücklich auf diese Bestimmung beruft, nicht behauptet. Da selbst ihr eheliches Zusammenleben mit drei Ehepartnern weniger als drei Jahre gedauert hat und damit dem zeitlichen Kriterium dieser Gesetzesbestimmung nicht zu genügen vermöchte, kann auch hier offen bleiben, ob überhaupt die Ehegemeinschaft mit mehreren Ehepartnern berücksichtigt werden könnte. Ist bereits die zeitliche Voraussetzung gemäss Art. 50 Abs. 1 lit. a AuG nicht erfüllt, bedarf die Frage der Integration keiner näherer Betrachtung.
2.2.4 Die Beschwerdeführerin 1 macht sodann einen nachehelichen Härtefall nach Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG geltend. Sie führt aus, bei der Rückkehr aus den Weihnachtsferien sei sie mit den Kindern vom Ehegatten nicht mehr in die Wohnung gelassen worden und erblickt darin eine Form ehelicher Gewalt.
Nach der Rechtsprechung ist im Rahmen von Art. 50 Abs. 1 lit. b i.V.m. Art. 50 Abs. 2 AuG zwar jede Form ehelicher bzw. häuslicher Gewalt, sei sie körperlicher oder psychischer Natur, ernst zu nehmen. Häusliche Gewalt bedeutet jedoch systematische Misshandlung mit dem Ziel, Macht und Kontrolle auszuüben und nicht eine einmalige Ohrfeige oder eine verbale Beschimpfung im Verlauf eines eskalierenden Streits. Nicht jede unglückliche, belastende und nicht den eigenen Vorstellungen entsprechende Entwicklung einer Beziehung begründet indessen bereits einen nachehelichen Härtefall und ein weiteres Anwesenheitsrecht in der Schweiz, sondern hierfür verlangt die Rechtsprechung eine gewisse Konstanz und Intensität der ehelichen Gewalt. Wie die Vorinstanz festgestellt hat, fehlt es dem geschilderten Ereignis bereits an der notwendigen Intensität. Abgesehen davon kann die einseitige Aufhebung des gemeinsamen Haushalts durch den Ehemann ohnehin nicht als eheliche Gewalt im Sinne der fraglichen Gesetzesbestimmung und der dazu entwickelten Rechtsprechung bezeichnet werden (vgl. BGE 138 II 229 E. 3.2.1 S. 232 f.; 136 II 1 E. 5.3 S.4). Im Übrigen bringt die Beschwerdeführerin 1 nichts vor und es ist auch nichts ersichtlich, was ihre soziale Wiedereingliederung in der Ukraine als stark gefährdet erscheinen liesse. Die Vorinstanz hat das Vorliegen eines nachehelichen Härtefalls nach Art. 50 Abs. 1 lit. b i.V.m. Abs. 2 AuG damit zu Recht verneint.
2.3 Zusammenfassend ergibt sich, dass die Beschwerdeführerin 1 über keinen Anspruch auf einen weiteren Verbleib in der Schweiz verfügt.
3. Die Beschwerdeführer 2, 3 und 4 ersuchen um Erteilung bzw. Verlängerung einer Aufenthaltsbewilligung zum Verbleib bei ihrer Mutter bzw. Adoptivmutter. Nachdem diese über kein Anwesenheitsrecht verfügt, kann auch den Kindern der Aufenthalt in der Schweiz nicht gestattet werden. Unter diesen Umständen besteht für das Bundesgericht kein Anlass, sich zur ukrainischen Adoption der beiden Halbschwestern zu äussern.
4. 4.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten erweist sich damit als unbegründet und ist abzuweisen.
4.2 Dem Ausgang des Verfahrens entsprechend haben die unterliegenden Beschwerdeführer dessen Kosten zu tragen (Art. 66 Abs. 1 BGG), wobei die Beschwerdeführerin 1 auch für den Kostenanteil der minderjährigen Beschwerdeführer 2-4 aufzukommen hat.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin 1 auferlegt.
3. Dieses Urteil wird den Beschwerdeführern, dem Migrationsamt des Kantons Zürich, der Sicherheitsdirektion des Kantons Zürich, dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, und dem Bundesamt für Migration schriftlich mitgeteilt.
Lausanne, 25. März 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Dubs